Skip to main content
更多

更新模型限流

調用 POST /api/v1/models/limits 介面更新指定業務空間下模型的限流配額(QPM / TPM),支援"合并覆蓋"與"刪除限流"兩種操作。

前提條件

已建立 API Key 並配置為環境變數 DASHSCOPE_API_KEY。配置方法請參見配置API Key到環境變數

請求說明

  • HTTP 方法:POST
  • 請求地址
    調用時請將 {WorkspaceId} 替換為您的業務空間 ID。

    地區

    Endpoint

    華北2(北京)

    https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/api/v1/models/limits

  • 認證方式 在請求 Header 中設定 Authorization: Bearer {API_KEY}

請求參數

所有參數均通過請求 Body 傳遞。

參數

類型

必選

描述

models

Array[Object]

逐模型限流項列表。必填,數量需為 1~200。樣本:[{"model":"qwen-plus","request_limit":60}]

models[].model

String

模型 ID,不可為空。如 qwen-plusqwen3-max

models[].operation_type

String

操作類型。可選值:

  • OVERLAY:合并覆蓋(只覆蓋傳入欄位,未傳欄位回填當前值)。

  • DELETE:刪除限流(此時限流值欄位需全部為空白)。

預設值:OVERLAY

models[].request_limit

Number

請求次數上限(QPM),非負。每分鐘最大請求數,單位次/分鐘。operation_type=DELETE 時必須為空白。預設值:null(不變更)。樣本:60

models[].request_limit_period

Number

請求限流時間周期,正整數,單位秒,如 60=1 分鐘。預設值:null(不變更)。

models[].usage_limit

Number

用量上限(TPM),非負。每分鐘最大 Token 用量。operation_type=DELETE 時必須為空白。預設值:null(不變更)。樣本:100000

models[].usage_limit_period

Number

用量限流時間周期,正整數,單位秒,如 60=1 分鐘。預設值:null(不變更)。

返回參數

參數

類型

描述

request_id

String

請求 ID。樣本:d5f5201f-ee7a-9e3d-8569-bc0eedec21f9

code

String

錯誤碼,成功為 null

message

String

錯誤資訊,成功為 null

success

Boolean

是否成功。樣本:true

output

Object

業務資料,本介面為 null

TPM 豁免情境

若需"只限制 RPM、豁免 TPM",推薦兩步法——先調用本介面對目標模型傳 {"model":"X","operation_type":"DELETE"} 刪除全部限流,再傳 {"model":"X","operation_type":"OVERLAY","request_limit":60,"request_limit_period":60} 只設定 QPM。兩步非原子,中間有短暫無限制視窗。

請求樣本

樣本一:設定 QPM=60、TPM=100000
curl -X POST "https://dashscope.aliyuncs.com/api/v1/models/limits" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json' \
    --data '{
        "models": [
            {
                "model": "qwen-plus",
                "operation_type": "OVERLAY",
                "request_limit": 60,
                "request_limit_period": 60,
                "usage_limit": 100000,
                "usage_limit_period": 60
            }
        ]
    }'
樣本二:刪除限流
curl -X POST "https://dashscope.aliyuncs.com/api/v1/models/limits" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json' \
    --data '{
        "models": [
            {"model": "qwen-plus", "operation_type": "DELETE"}
        ]
    }'

返回樣本

成功樣本
{
    "code": null,
    "message": null,
    "success": true,
    "output": null,
    "request_id": "d5f5201f-ee7a-9e3d-8569-bc0eedec21f9"
}
失敗樣本
{
    "code": "InvalidParameter",
    "message": "Cannot set TPM without QPM for model qwen-plus: no existing QPM limit, please set QPM first",
    "success": false,
    "output": null,
    "request_id": "d5f5201f-ee7a-9e3d-8569-bc0eedec21f9"
}

錯誤碼

如果調用失敗,會返回錯誤資訊。更多錯誤碼及解決方案,請參見錯誤資訊