調用 POST /api/v1/models/limits 介面更新指定業務空間下模型的限流配額(QPM / TPM),支援"合并覆蓋"與"刪除限流"兩種操作。
前提條件
已建立 API Key 並配置為環境變數 DASHSCOPE_API_KEY。配置方法請參見配置API Key到環境變數。
請求說明
- HTTP 方法:POST
-
請求地址
調用時請將
{WorkspaceId}替換為您的業務空間 ID。地區
Endpoint
華北2(北京)
https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/api/v1/models/limits -
認證方式
在請求 Header 中設定
Authorization: Bearer {API_KEY}。
請求參數
所有參數均通過請求 Body 傳遞。
參數 | 類型 | 必選 | 描述 |
|---|---|---|---|
models | Array[Object] | 是 | 逐模型限流項列表。必填,數量需為 1~200。樣本: |
models[].model | String | 是 | 模型 ID,不可為空。如 |
models[].operation_type | String | 否 | 操作類型。可選值:
預設值: |
models[].request_limit | Number | 否 | 請求次數上限(QPM),非負。每分鐘最大請求數,單位次/分鐘。 |
models[].request_limit_period | Number | 否 | 請求限流時間周期,正整數,單位秒,如 |
models[].usage_limit | Number | 否 | 用量上限(TPM),非負。每分鐘最大 Token 用量。 |
models[].usage_limit_period | Number | 否 | 用量限流時間周期,正整數,單位秒,如 |
返回參數
參數 | 類型 | 描述 |
|---|---|---|
request_id | String | 請求 ID。樣本: |
code | String | 錯誤碼,成功為 |
message | String | 錯誤資訊,成功為 |
success | Boolean | 是否成功。樣本: |
output | Object | 業務資料,本介面為 |
TPM 豁免情境
若需"只限制 RPM、豁免 TPM",推薦兩步法——先調用本介面對目標模型傳 {"model":"X","operation_type":"DELETE"} 刪除全部限流,再傳 {"model":"X","operation_type":"OVERLAY","request_limit":60,"request_limit_period":60} 只設定 QPM。兩步非原子,中間有短暫無限制視窗。