Panggil endpoint POST /api/v1/models/limits untuk memperbarui kuota batas laju (QPM/TPM) model dalam ruang kerja tertentu. Operasi merge overlay dan delete rate limit didukung.
Prasyarat
Kunci API telah dibuat dan dikonfigurasi sebagai variabel lingkungan DASHSCOPE_API_KEY. Untuk informasi selengkapnya, lihat Konfigurasikan kunci API dalam variabel lingkungan.
Permintaan
- Metode HTTP: POST
-
URL Permintaan
Ganti
{WorkspaceId}dengan ID ruang kerja Anda.Region
Endpoint
China (Beijing)
https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/api/v1/models/limits -
Otentikasi
Tetapkan
Authorization: Bearer {API_KEY}di header permintaan.
Parameter permintaan
Semua parameter dikirim melalui badan permintaan.
Parameter | Type | Required | Description |
|---|---|---|---|
models | Array[Object] | Yes | Daftar item batas laju per model. Wajib diisi. Jumlah item harus antara 1 hingga 200. Contoh: |
models[].model | String | Yes | ID model. Tidak boleh kosong. Contoh: |
models[].operation_type | String | No | Jenis operasi. Nilai yang valid:
Nilai default: |
models[].request_limit | Number | No | Batas jumlah permintaan (QPM), bernilai non-negatif. Jumlah maksimum permintaan per menit, dalam satuan permintaan/menit. Harus kosong ketika |
models[].request_limit_period | Number | No | Periode waktu untuk batas laju permintaan, berupa bilangan bulat positif dalam detik. Misalnya, |
models[].usage_limit | Number | No | Batas penggunaan (TPM), bernilai non-negatif. Penggunaan token maksimum per menit. Harus kosong ketika |
models[].usage_limit_period | Number | No | Periode waktu untuk batas penggunaan, berupa bilangan bulat positif dalam detik. Misalnya, |
Parameter respons
Parameter | Type | Description |
|---|---|---|
request_id | String | ID permintaan. Contoh: |
code | String | Kode kesalahan. |
message | String | Pesan kesalahan. |
success | Boolean | Apakah pemanggilan berhasil. Contoh: |
output | Object | Data bisnis. |
Skenario pengecualian TPM
Untuk membatasi hanya RPM dan mengecualikan TPM, gunakan pendekatan dua langkah berikut: pertama, panggil endpoint ini dengan {"model":"X","operation_type":"DELETE"} untuk menghapus semua batas laju model target; kemudian, kirim {"model":"X","operation_type":"OVERLAY","request_limit":60,"request_limit_period":60} untuk mengatur hanya QPM. Kedua langkah ini tidak bersifat atomik, sehingga terdapat jendela singkat tanpa batas di antaranya.