Llama al endpoint POST /api/v1/models/limits para actualizar las cuotas de límite de tasa (QPM/TPM) de los modelos en un espacio de trabajo específico. Se admiten operaciones de fusión superpuesta y eliminación de límites de tasa.
Requisitos previos
Se ha creado una clave API y se ha configurado como la variable de entorno DASHSCOPE_API_KEY. Para obtener más información, consulte Configurar una clave API en variables de entorno.
Solicitud
- Método HTTP: POST
-
URL de solicitud
Reemplace
{WorkspaceId}con su ID de espacio de trabajo.Región Endpoint China (Beijing) https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/api/v1/models/limits -
Autenticación
Establezca
Authorization: Bearer {API_KEY}en el encabezado de la solicitud.
Parámetros de solicitud
Todos los parámetros se pasan a través del cuerpo de la solicitud.
Parámetro | Tipo | Obligatorio | Descripción |
|---|---|---|---|
| Array[Object] | Sí | Lista de elementos de límite de tasa por modelo. El número de elementos debe ser de 1 a 200. Ejemplo: |
| String | Sí | El ID del modelo. No puede estar vacío. Ejemplos: |
| String | No | Tipo de operación. Valores válidos:
Valor predeterminado: |
| Número | No | Límite de recuento de solicitudes (QPM), no negativo. Número máximo de solicitudes por minuto, en solicitudes/minuto. Debe estar vacío cuando |
| Número | No | Periodo de tiempo para el límite de tasa de solicitudes, un entero positivo en segundos. Por ejemplo, |
| Número | No | Límite de uso (TPM), no negativo. Uso máximo de tokens por minuto. Debe estar vacío cuando |
| Número | No | Periodo de tiempo para el límite de uso, un entero positivo en segundos. Por ejemplo, |
Parámetros de respuesta
Parámetro | Tipo | Descripción |
|---|---|---|
| String | El ID de la solicitud. Ejemplo: |
| String | Código de error. |
| String | Mensaje de error. |
| Boolean | Indica si la llamada fue exitosa. Ejemplo: |
| Object | Datos comerciales. |
Escenario de exención de TPM
Para limitar solo RPM y eximir TPM, primero llame a este endpoint con {"model":"X","operation_type":"DELETE"} para eliminar todos los límites de tasa del modelo objetivo. Luego pase {"model":"X","operation_type":"OVERLAY","request_limit":60,"request_limit_period":60} para establecer solo el QPM. Los dos pasos no son atómicos, por lo que hay una breve ventana sin ningún límite entre ellos.