Chame o endpoint POST /api/v1/models/limits para atualizar as cotas de limite de taxa (QPM / TPM) dos modelos em um workspace específico. O sistema suporta operações de "mesclagem com sobreposição" e "exclusão de limite de taxa".
Pré-requisitos
Crie uma chave de API e configure-a como a variável de ambiente DASHSCOPE_API_KEY. Para mais informações, consulte Configure an API key in environment variables.
Requisição
- Método HTTP: POST
-
URL da requisição
Substitua
{WorkspaceId}pelo ID do seu workspace.Região
Endpoint
China (Beijing)
https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/api/v1/models/limits -
Autenticação
Defina
Authorization: Bearer {API_KEY}no cabeçalho da requisição.
Parâmetros da requisição
Envie todos os parâmetros no corpo da requisição.
Parâmetro | Tipo | Obrigatório | Descrição |
|---|---|---|---|
models | Array[Object] | Sim | Lista de itens de limite de taxa por modelo. Obrigatório. A quantidade de itens deve variar de 1 a 200. Exemplo: |
models[].model | String | Sim | ID do modelo. Não pode estar vazio. Exemplos: |
models[].operation_type | String | Não | Tipo de operação. Valores válidos:
Valor padrão: |
models[].request_limit | Number | Não | Limite de contagem de requisições (QPM), não negativo. Defina o número máximo de requisições por minuto. Deixe vazio quando |
models[].request_limit_period | Number | Não | Período do limite de taxa de requisições, em segundos (inteiro positivo). Por exemplo, |
models[].usage_limit | Number | Não | Limite de uso (TPM), não negativo. Defina o uso máximo de tokens por minuto. Deixe vazio quando |
models[].usage_limit_period | Number | Não | Período do limite de uso, em segundos (inteiro positivo). Por exemplo, |
Parâmetros da resposta
Parâmetro | Tipo | Descrição |
|---|---|---|
request_id | String | ID da requisição. Exemplo: |
code | String | Código de erro. Retorna |
message | String | Mensagem de erro. Retorna |
success | Boolean | Indica se a chamada foi bem-sucedida. Exemplo: |
output | Object | Dados comerciais. Retorna |
Cenário de isenção de TPM
Para limitar apenas o RPM e isentar o TPM, siga esta abordagem de duas etapas: primeiro, chame este endpoint com {"model":"X","operation_type":"DELETE"} para excluir todos os limites de taxa do modelo alvo. Em seguida, envie {"model":"X","operation_type":"OVERLAY","request_limit":60,"request_limit_period":60} para definir apenas o QPM. Essas etapas não são atômicas, portanto, existe uma breve janela sem limites entre elas.