Skip to main content

Update model rate limits

POST /api/v1/models/limits エンドポイントを呼び出して、指定されたワークスペース内のモデルのレート制限クォータ(QPM / TPM)を更新します。「マージオーバーレイ」および「レート制限の削除」の両方の操作がサポートされています。

前提条件

API キーが作成され、環境変数 DASHSCOPE_API_KEY として設定されていること。詳細については、「環境変数での API キーの設定」を参照してください。

リクエスト

  • HTTP メソッド: POST。
  • リクエスト URL。
    {WorkspaceId} をお使いのワークスペース ID に置き換えます。

    リージョン。

    エンドポイント。

    中国(北京)

    https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/api/v1/models/limits

  • 認証。 リクエストヘッダーに Authorization: Bearer {API_KEY} を設定します。

リクエストパラメーター

すべてのパラメーターはリクエストボディを通じて渡されます。

パラメーター。

タイプ。

必須。

説明。

models

Array[Object]

Yes

モデルごとのレート制限項目のリスト。必須です。項目数は 1~200 でなければなりません。例: [{"model":"qwen-plus","request_limit":60}]

models[].model

String

Yes

モデル ID。空にすることはできません。例: qwen-plus、qwen3.7-plus。

models[].operation_type

String

No

操作タイプ。有効な値:

  • OVERLAY: マージオーバーレイ(渡されたフィールドのみを上書きし、渡されなかったフィールドは現在の値で補完されます)。

  • DELETE: レート制限を削除します(この場合、すべてのレート制限値フィールドは空である必要があります)。

デフォルト値: OVERLAY。

models[].request_limit

Number

No

リクエスト数制限(QPM)。負でない値。1 分あたりの最大リクエスト数(リクエスト/分)。operation_type=DELETE の場合は空である必要があります。デフォルト値: null(変更なし)。例: 60

models[].request_limit_period

Number

No

リクエストレート制限の期間。秒単位の正の整数。例: 60 = 1 分。デフォルト値: null(変更なし)。

models[].usage_limit

Number

No

使用量制限(TPM)。負でない値。1 分あたりの最大トークン使用量。operation_type=DELETE の場合は空である必要があります。デフォルト値: null(変更なし)。例: 100000

models[].usage_limit_period

Number

No

使用量制限の期間。秒単位の正の整数。例: 60 = 1 分。デフォルト値: null(変更なし)。

レスポンスパラメーター

パラメーター。

タイプ。

説明。

request_id

String

リクエスト ID。例: d5f5201f-ee7a-9e3d-8569-bc0eedec21f9

code

String

エラーコード。成功時は null。

message

String

エラーメッセージ。成功時は null。

success

Boolean

呼び出しが成功したかどうか。例: true。

output

Object

ビジネスデータ。このエンドポイントでは null。

TPM 免除シナリオ

「RPM のみを制限し、TPM を免除する」には、推奨される 2 段階のアプローチとして、まずこのエンドポイントを {"model":"X","operation_type":"DELETE"} で呼び出して対象モデルのすべてのレート制限を削除し、次に {"model":"X","operation_type":"OVERLAY","request_limit":60,"request_limit_period":60} を渡して QPM のみを設定します。この 2 つの手順はアトミックではないため、その間に一時的に制限がない状態になる期間があります。

リクエスト例

例 1: QPM=60 および TPM=100000 を設定する。
curl -X POST "https://dashscope.aliyuncs.com/api/v1/models/limits" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json' \
    --data '{
        "models": [
            {
                "model": "qwen-plus",
                "operation_type": "OVERLAY",
                "request_limit": 60,
                "request_limit_period": 60,
                "usage_limit": 100000,
                "usage_limit_period": 60
            }
        ]
    }'
例 2: レート制限を削除する。
curl -X POST "https://dashscope.aliyuncs.com/api/v1/models/limits" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json' \
    --data '{
        "models": [
            {"model": "qwen-plus", "operation_type": "DELETE"}
        ]
    }'

レスポンス例

成功例。
{
    "code": null,
    "message": null,
    "success": true,
    "output": null,
    "request_id": "d5f5201f-ee7a-9e3d-8569-bc0eedec21f9"
}
失敗例。
{
    "code": "InvalidParameter",
    "message": "Cannot set TPM without QPM for model qwen-plus: no existing QPM limit, please set QPM first",
    "success": false,
    "output": null,
    "request_id": "d5f5201f-ee7a-9e3d-8569-bc0eedec21f9"
}

エラーコード

呼び出しが失敗した場合、エラーメッセージが返されます。エラーコードと解決策の詳細については、「エラーメッセージ」を参照してください。