Dokumen ini menggunakan deployment model Qwen sebagai contoh dan menjelaskan cara memanggil API melalui HTTP, membantu Anda menggunakan fitur deployment model yang disediakan oleh Alibaba Cloud Model Studio.
Prasyarat
- Anda telah membaca ikhtisar deployment khusus dan membuat tugas deployment model dengan menggunakan API, menguasai cara menggunakan API deployment model, dan memahami langkah-langkah dasar deployment model di platform Alibaba Cloud Model Studio.
- API key Model Studio telah dikonfigurasi. Untuk informasi selengkapnya, lihat Mendapatkan dan mengonfigurasi API key.
- Deployment DTU (daya komputasi khusus DTU) menggunakan set API deployment yang sama, dan bentuk deployment dibedakan oleh
plan="dtu"dalam permintaan. Permintaan deployment DTU harus menggunakan domain ruang kerjamaas.aliyuncs.comyang sesuai dengan ruang kerja dan region tempat deployment berada (misalnya,ws-vxxx.cn-beijing.maas.aliyuncs.com) serta API Key ruang kerja tersebut, alih-alihdashscope.aliyuncs.com. - Layanan Intelligent Routing (mr) juga memanggil API deployment di halaman ini (permintaan dibedakan oleh
plan="mr", hanya bayar sesuai penggunaan). Untuk deskripsi API lengkap, lihat Referensi API Intelligent Routing yang berdiri sendiri. - Domain permintaan bervariasi menurut region: region Beijing menggunakan
dashscope.aliyuncs.com, dan region Singapura menggunakandashscope-intl.aliyuncs.com; Dedicated Workspace Host ({WorkspaceId}.{region}.maas.aliyuncs.com) tersedia di semua region. Untuk informasi domain lengkap setiap region, lihat Endpoint regional. - Deployment DTU hanya mendukung pembayaran di muka (
charge_type="pre_paid") dan tidak mendukung pembuatan bayar sesuai penggunaan; perubahan perpanjangan dan perpanjangan otomatis saat ini hanya didukung di konsol. API DTU tidak mendukung peranAssumedRoleUser. Sebelum menggunakan DTU, Anda harus mengaktifkan fitur DTU di konsol dan mengajukan kuota sumber daya. Untuk informasi selengkapnya, lihat Dedicated Throughput (DTU).
Mendapatkan daftar model yang dapat di-deploy
Contoh permintaan
Anda dapat menjalankan perintah berikut untuk membuat kueri model yang mendukung deployment. Kami menyarankan menggunakan version=v1.0 untuk mendapatkan respons lengkap yang berisi rencana deployment dan informasi templat.
plan=dtu diteruskan, hanya templat prabayar DTU yang dikembalikan, dan parameter version tidak diperlukan; DTU memerlukan domain ruang kerja):
Parameter permintaan
Parameter | Tipe | Metode Penerusan | Wajib | Deskripsi |
|---|---|---|---|---|
page_no | Number | query | Tidak | Nomor halaman. Nilai default adalah 1. |
page_size | Number | query | Tidak | Ukuran halaman. Nilai default adalah 50, nilai maksimum adalah 100, dan nilai minimum adalah 1. |
model_source | String | query | Tidak | Sumber model. |
version | String | query | Tidak | Versi API. Kami menyarankan penggunaan |
plan | String | query | Tidak | Teruskan |
Contoh respons¶meter
Klik di sini untuk melihat
Klik di sini untuk melihat
Parameter respons
Parameter | Tipe | Deskripsi |
|---|---|---|
models | Array | Daftar model yang dapat di-deploy. |
models[].model_name | String | Nama model. |
models[].plans | Array | Daftar rencana deployment yang didukung oleh model ini. Dikembalikan saat |
models[].plans[].plan | String | Deployment plan type: |
models[].plans[].templates | Array | Daftar templat deployment (dikembalikan saat |
page_no | Number | Nomor halaman kueri. |
page_size | Number | Ukuran halaman kueri. |
total | Long | Jumlah total model yang sesuai dengan kondisi kueri. |
Deskripsi bidang templat (templates)
Parameter | Tipe | Deskripsi |
|---|---|---|
template_id | String | ID templat, diteruskan sebagai parameter |
template_name | String | Nama tampilan templat. |
template_type | String | Tipe templat: |
template_version | String | Versi templat. |
template_desc | String | Deskripsi templat. |
roles | Object | Konfigurasi peran node. Pola COUPLED menyertakan node |
Deskripsi bidang untuk node roles
Parameter | Tipe | Deskripsi |
|---|---|---|
model_unit_spec | String | Tipe Model Unit. |
capacity_unit_per_instance | Number | Jumlah unit kapasitas per instance, yaitu base_capacity. Saat membuat deployment, |
Deskripsi bidang templat DTU (dikembalikan saat plan=dtu)
Parameter | Tipe | Deskripsi |
|---|---|---|
charge_type | String | Ditetapkan tetap ke |
sku_code | String | SKU komoditas yang digunakan saat membuat deployment. |
template_code | String | Templat deployment yang digunakan saat membuat deployment, yang harus merupakan item templat yang sama dengan |
input_tpm_quota | Object | Rentang dan langkah TPM input yang dapat dibeli. Untuk bidangnya, lihat tabel berikut. |
output_tpm_quota | Object | Rentang dan langkah TPM output yang dapat dibeli. Untuk bidangnya, lihat tabel berikut. |
display_meta | Object | Informasi tampilan seperti nama rencana, deskripsi, dan tag. Dikembalikan saat tersedia nilai. |
standard_workload | Object | Beban kerja standar yang disediakan templat (unit TPM dan tingkat beban kerja). Dikembalikan saat tersedia nilai. |
input_tpm_quota dan output_tpm_quota masing-masing menunjukkan aturan pembelian untuk TPM input dan TPM output. Satuan kapasitas adalah tokens/min. Bidang yang disertakan:Bidang | Tipe | Deskripsi |
|---|---|---|
init | Integer | TPM pembelian awal minimum untuk dimensi ini. Kapasitas yang dibeli tidak boleh kurang dari nilai ini. |
max | Integer | Batas atas TPM yang saat ini dapat dibeli. Jika max=0 pada dimensi mana pun, saat ini tidak ada kuota yang tersedia untuk dibeli; hubungi tim penjualan untuk mengajukan sumber daya. Nilai 0 tidak berarti tanpa batas. |
step | Integer | Langkah pembelian untuk dimensi ini. TPM yang dibeli harus merupakan kelipatan bilangan bulat dari langkah ini (bukan offset yang terakumulasi pada init). |
dtu_capacity.input_tpm dan dtu_capacity.output_tpm yang diteruskan harus memenuhi semua hal berikut:- TPM input dan output masing-masing harus berada dalam rentang [init, max] masing-masing;
- TPM input harus merupakan kelipatan bilangan bulat dari
input_tpm_quota.step, dan TPM output harus merupakan kelipatan bilangan bulat darioutput_tpm_quota.step; - Kelipatan langkah input dan output harus identik:
input_tpm / input_tpm_quota.step = output_tpm / output_tpm_quota.step = n(dengan n adalah bilangan bulat positif). Anda tidak dapat memilih kelipatan yang berbeda secara terpisah.
init=10000, max=100000, step=10000 dan rentang output adalah init=1000, max=10000, step=1000: membeli input 30000 dan output 3000 (keduanya 3 kali lipat langkah, valid); membeli input 30000 dan output 2000 (kelipatan 3 dan 2, tidak valid); membeli input 15000 dan output 1500 (bukan kelipatan bilangan bulat dari langkah, tidak valid).Membuat Tugas Deployment Model
Contoh permintaan
- Dedicated Throughput (DTU)
- Deployment Model Unit (mode COUPLED)
- Deployment Model Unit (mode disagregasi PD)
- Deployment Bersama LoRA
sku_code, template_code, dan rentang kapasitas dikueri melalui API List Deployable Models dengan plan=dtu). DTU merupakan penerus Model Unit (MU); untuk deployment khusus baru, DTU adalah pilihan yang disarankan:Parameter permintaan
Parameter | Tipe | Metode Penerusan | Wajib | Deskripsi |
|---|---|---|---|---|
model_name | String | body | Ya | Nama model yang akan di-deploy. |
plan | String | body | Ya | Rencana deployment: |
template_id | String | body | Wajib bersyarat | ID templat deployment, sesuai dengan |
deploy_spec (legacy) | String | body | Tidak | Spesifikasi Model Unit. Tidak digunakan lagi. |
capacity | Number | body | Wajib bersyarat | Jumlah unit sumber daya. Diperlukan dalam mode COUPLED (non-disagregasi PD) dan harus merupakan kelipatan bilangan bulat dari |
prefill_capacity | Number | body | Wajib bersyarat | Kapasitas prefill. Diperlukan dalam mode disagregasi PD (saat |
decode_capacity | Number | body | Wajib bersyarat | Kapasitas decode. Diperlukan dalam mode disagregasi PD (saat |
name | String | body | Tidak | Nama tampilan layanan. |
suffix | String | body | Tidak | Setelah model di-deploy, nama model baru akan dibuat. suffix menentukan akhiran dari nama model baru, dengan panjang maksimum 8 karakter, dan harus unik secara global. Akhiran dapat dihilangkan saat model di-deploy untuk pertama kalinya, tetapi harus diatur saat model yang sama di-deploy beberapa kali. |
charge_type | String | body | Tidak | Metode penghitungan: |
pre_paid_info | Object | body | Wajib bersyarat | Informasi pembayaran prabayar. Diperlukan saat |
pre_paid_info.auto_renewal | Boolean | body | Ya | Apakah mengaktifkan perpanjangan otomatis |
pre_paid_info.duration | Integer | body | Ya | Durasi pembelian (Bulan) |
pre_paid_info.auto_renewal_duration | Integer | body | Wajib bersyarat | Durasi perpanjangan otomatis (diperlukan saat autoRenewal=true) |
enable_thinking | Boolean | body | Tidak | Apakah mengaktifkan mode berpikir. Beberapa model mendukung parameter ini. |
max_context_length | Number | body | Tidak | Panjang konteks maksimum. Beberapa model mendukung parameter ini. |
quantization_precision | String | body | Tidak | Presisi kuantisasi. |
qpm_limit | Number | body | Tidak | Pembatasan laju QPM, batas jumlah permintaan per menit. Hanya didukung oleh beberapa model yang |
tpm_limit | Number | body | Tidak | Pembatasan laju TPM, batas penggunaan token per menit. Hanya didukung oleh beberapa model yang |
display_name | String | body | Wajib bersyarat | Nama tampilan layanan, hingga 50 karakter. Digunakan saat |
sku_code | String | body | Wajib bersyarat | SKU prabayar yang tersedia untuk model saat ini. Diperlukan saat |
template_code | String | body | Wajib bersyarat | Templat deployment yang sesuai dengan model dan SKU. Diperlukan saat |
dtu_capacity | Object | body | Wajib bersyarat | Kapasitas DTU yang akan dibeli. Diperlukan saat |
dtu_capacity.input_tpm | Integer | body | Ya | TPM input yang dibeli (tokens/min). Bilangan bulat non-negatif dengan nilai maksimum 2147483647. |
dtu_capacity.output_tpm | Integer | body | Ya | TPM output yang dibeli (tokens/min). Bilangan bulat non-negatif dengan nilai maksimum 2147483647. |
pre_paid_info.pricing_cycle | String | body | Ya | Siklus penghitungan. Untuk DTU, parameter ini ditetapkan tetap ke |
pre_paid_info.auto_renewal_cycle | String | body | Wajib bersyarat | Siklus Perpanjangan Otomatis Terpadu. Diperlukan saat perpanjangan otomatis diaktifkan, dan harus mematuhi aturan produk. |
plan adalah dtu: suffix dapat memiliki panjang hingga 24 karakter, dan pengidentifikasi deployment lengkap yang dihasilkan tidak boleh melebihi 100 karakter; name, random_suffix, deploy_spec, bidang kapasitas MU/PTU, perutean model, pembatasan laju, dan parameter publikasi tidak didukung — konfigurasikan batas laju melalui API pembaruan batas laju setelah deployment siap; pembuatan yang berhasil hanya menunjukkan bahwa permintaan telah diterima (pesanan prabayar sedang diproses) — lakukan polling pada detail hingga statusnya RUNNING; perpanjang dan ubah perpanjangan otomatis di konsol.Model yang didukung
Status dukungan fitur seperti pembatasan laju dan akselerasi inferensi dalam mode deployment Model Unit.
Status dukungan fitur seperti pembatasan laju dan akselerasi inferensi dalam mode deployment Model Unit.
- Pembuatan teks
- multimodal
- sintesis ucapan
- Qwen
- GLM
- DeepSeek
- Model Lainnya
Model | Kode model | Tipe Model Unit | Harga satuan per jam (CNY) Penagihan minimum: menit | Harga langganan bulanan (CNY) Penagihan minimum: hari |
|---|---|---|---|---|
Qwen3.6-35B-A3B | qwen3.6-35b-a3b | MU1 x 8 | ¥432 | ¥208,944 |
MU2 x 8 | ¥504 | ¥240,288 | ||
MU3 x 8 | ¥1,096 | ¥527,752 | ||
MU9 x 1 | ¥51 | ¥24,600 | ||
Qwen3.6-27B | qwen3.6-27b | MU9 x 1 | ¥51 | ¥24,600 |
Qwen3.6-Flash-2026-04-16 | qwen3.6-flash-2026-04-16 | MU1 x 2 | ¥108 | ¥52,236 |
MU3 x 8 | ¥1,096 | ¥527,752 | ||
Qwen3.6-Plus-2026-04-02 | qwen3.6-plus-2026-04-02 | MU1 x 8 MU1 x 16 (mode disagregasi PD) | ¥432 mode disagregasi PD: ¥864 | ¥208,944 mode disagregasi PD: ¥417,888 |
Qwen3.5-397B-A17B | qwen3.5-397b-a17b | MU3 x 8 MU3 x 16 (mode disagregasi PD) | ¥1,096 mode disagregasi PD: ¥2,192 | ¥527,752 mode disagregasi PD: ¥1,055,504 |
MU6 x 16 | ¥400 | ¥193,424 | ||
Qwen3.5-122B-A10B | qwen3.5-122b-a10b | MU1 x 4 | ¥216 | ¥104,472 |
MU6 x 16 | ¥400 | ¥193,424 | ||
Qwen3.5-35B-A3B | qwen3.5-35b-a3b | MU1 x 2 | ¥108 | ¥52,236 |
MU2 x 8 | ¥504 | ¥240,288 | ||
MU3 x 8 | ¥1,096 | ¥527,752 | ||
MU9 x 1 | ¥51 | ¥24,600 | ||
Qwen3.5-27B | qwen3.5-27b | MU2 x 8 | ¥504 | ¥240,288 |
MU3 x 8 | ¥1,096 | ¥527,752 | ||
MU8 x 1 | ¥47 | ¥22,400 | ||
MU9 x 1 | ¥51 | ¥24,600 | ||
Qwen3.5-9B | qwen3.5-9b | MU2 x 2 | ¥126 | ¥60,072 |
Qwen3.5-Flash-2026-02-23 | qwen3.5-flash-2026-02-23 | MU1 x 2 | ¥108 | ¥52,236 |
Qwen3.5-Plus-2026-02-15 | qwen3.5-plus-2026-02-15 | MU1 x 8 MU1 x 16 (mode disagregasi PD) | ¥432 mode disagregasi PD: ¥864 | ¥208,944 mode disagregasi PD: ¥417,888 |
MU2 x 8 | ¥504 | ¥240,288 | ||
MU3 x 8 MU3 x 16 (mode disagregasi PD) | ¥1,096 mode disagregasi PD: ¥2,192 | ¥527,752 mode disagregasi PD: ¥1,055,504 | ||
Qwen3-235B-A22B-Instruct-2507 | qwen3-235b-a22b-instruct-2507 | MU1 x 4 | ¥216 | ¥104,472 |
MU2 x 8 | ¥504 | ¥240,288 | ||
MU3 x 8 | ¥1,096 | ¥527,752 | ||
Qwen3-32B | qwen3-32b | MU6 x 16 | ¥400 | ¥193,424 |
Qwen3-30B-A3B-Thinking-2507 | qwen3-30b-a3b-thinking-2507 | MU1 x 2 | ¥108 | ¥52,236 |
Qwen3-8B | qwen3-8b | MU1 x 2 | ¥108 | ¥52,236 |
MU2 x 2 | ¥126 | ¥60,072 | ||
Qwen3-4B | qwen3-4b | MU1 x 2 | ¥108 | ¥52,236 |
MU5 x 1 | ¥21 | ¥10,139 | ||
Qwen3-Embedding-0.6B | qwen3-embedding-0.6b | MU5 x 1 | ¥21 | ¥10,139 |
MU6 x 1 | ¥25 | ¥12,089 | ||
Qwen3-MoE-Rerank-0.6B | qwen3-moe-rerank-0.6b | MU5 x 1 | ¥21 | ¥10,139 |
Qwen3-Rerank-0.6B | qwen3-rerank-0.6b | MU5 x 1 | ¥21 | ¥10,139 |
MU6 x 1 | ¥25 | ¥12,089 | ||
Qwen3-Max-2025-09-23 | qwen3-max-2025-09-23 | MU2 x 8 | ¥504 | ¥240,288 |
MU3 x 8 | ¥1,096 | ¥527,752 | ||
Qwen3-Rerank | qwen3-rerank | MU5 x 1 | ¥21 | ¥10,139 |
Qwen2.5-Open Source-72B | qwen2.5-72b-instruct | MU1 x 8 | ¥432 | ¥208,944 |
Qwen2.5-Open Source-14B | qwen2.5-14b-instruct | MU1 x 2 | ¥108 | ¥52,236 |
Qwen2.5-Open Source-7B | qwen2.5-7b-instruct | MU1 x 2 | ¥108 | ¥52,236 |
MU5 x 1 | ¥21 | ¥10,139 | ||
Qwen-Plus-2025-07-28 | qwen-plus-2025-07-28 | MU1 x 4 MU1 x 16 (mode disagregasi PD) | ¥216 mode disagregasi PD: ¥864 | ¥104,472 mode disagregasi PD: ¥417,888 |
Qwen-Plus-2025-12-01 | qwen-plus-2025-12-01 | MU1 x 4 | ¥216 | ¥104,472 |
Qwen-Plus-Character-2025-11-06 | qwen-plus-character-2025-11-06 | MU1 x 4 | ¥216 | ¥104,472 |
- Instruct - Model melakukan inferensi dalam mode non-berpikir setelah deployment.
- Thinking - Model melakukan inferensi dalam mode berpikir setelah deployment.
- Mode disagregasi PD - Mengurangi latensi token pertama dan meningkatkan throughput. Dalam mode deployment ini, selama inferensi model, dua fase komputasi penghitungan token pertama (Prefill) dan penghitungan token berikutnya (Decode) dipisahkan ke node komputasi yang berbeda untuk dieksekusi.
Contoh Respons&Parameter
Klik di sini untuk melihat
Klik di sini untuk melihat
Parameter | Tipe | Deskripsi |
|---|---|---|
request_id | String | ID dari permintaan ini. |
output | Object | Detail tugas deployment ini. |
deployed_model | String | Pengidentifikasi unik model baru, yang harus diteruskan dalam parameter SDK saat memulai permintaan pemanggilan model. |
name | String | Nama tampilan layanan. |
model_name | String | Nama model yang digunakan oleh tugas deployment. |
base_model | String | ID model dasar yang sesuai dengan model yang digunakan oleh tugas deployment. |
status | String | Status tugas deployment.
|
capacity | Number | Jumlah target unit sumber daya untuk tugas deployment. |
ready_capacity | Number | Jumlah unit sumber daya yang siap dan dapat segera memproses permintaan. |
base_capacity | Number | Kapasitas dasar satu instance. |
workspace_id | String | ID ruang kerja tempat tugas deployment berada. |
charge_type | String |
|
plan | String | Mode penghitungan tugas deployment. |
model_unit_spec | String | Tipe Model Unit. |
gmt_create | String | Waktu ketika tugas deployment dibuat. |
gmt_modified | String | Waktu ketika tugas deployment dimodifikasi. |
creator | String | UID pengguna yang membuat tugas deployment. |
modifier | String | UID akun yang melakukan operasi terakhir pada tugas deployment. |
fail_reason | String | Penyebab kegagalan (hanya dikembalikan dalam status FAILED). |
enable_thinking | Boolean | Apakah mode berpikir diaktifkan. Didukung oleh beberapa model. |
max_context_length | Number | Batas panjang konteks maksimum. |
qpm_limit | Number | Batas laju QPM, permintaan per menit. |
tpm_limit | Number | Batas laju TPM, penggunaan token per menit. |
quantization_precision | String | Presisi kuantisasi. |
Hanya dikembalikan untuk metode deployment DTU (dtu) | ||
dtu_capacity | Object | Kapasitas yang dibeli dalam catatan deployment; selama penskalaan, kapasitas ini mungkin masih kapasitas asli, yang tidak berarti kapasitas target telah berlaku. |
dtu_capacity.input_tpm | Integer | Kapasitas token input yang dibeli (tokens/min). |
dtu_capacity.output_tpm | Integer | Kapasitas token output yang dibeli (tokens/min). |
pre_paid_info.pricing_cycle | String | Periode penghitungan pembelian yang dikembalikan (misalnya, |
pre_paid_info.auto_renewal_cycle | String | Siklus perpanjangan otomatis yang dikembalikan; hanya dikembalikan saat nilainya tersedia. |
pre_paid_instance_id | String | Pengidentifikasi instance prabayar, hanya dikembalikan saat nilainya tersedia. Ini bukan pengidentifikasi deployment dan tidak dapat menggantikan |
Hanya dikembalikan untuk metode deployment Model Unit (mu) | ||
mu_capacity | Object | Detail kapasitas MU. Dalam mode COUPLED, node |
pre_paid_info | Object | Informasi prabayar. |
pre_paid_info.auto_renewal | Boolean | Apakah mengaktifkan perpanjangan otomatis |
pre_paid_info.duration | Integer | Durasi pembelian (Bulan) |
pre_paid_info.auto_renewal_duration | Integer | Durasi perpanjangan otomatis |
pre_paid_instance_id | String | ID instance prabayar. |
pre_paid_gmt_expired | String | Waktu kedaluwarsa prabayar. |
Hanya dikembalikan untuk metode deployment Provisioned Throughput V2 (ptu_v2) | ||
ptu_capacity | Object | Informasi kapasitas PTU V2. Berisi bidang berikut:
|
pre_paid_info | Object | Informasi prabayar. |
pre_paid_info.auto_renewal | Boolean | Apakah mengaktifkan perpanjangan otomatis |
pre_paid_info.duration | Integer | Durasi pembelian (Bulan) |
pre_paid_info.auto_renewal_duration | Integer | Durasi perpanjangan otomatis |
pre_paid_instance_id | String | ID instance prabayar. |
pre_paid_gmt_expired | String | Waktu kedaluwarsa prabayar. |
qpm_limit dan tpm_limit dari deployment DTU adalah pengaturan batas laju gateway (bilangan bulat 64-bit, yang dapat melebihi batas atas permintaan API modifikasi). Nilai defaultnya adalah qpm_limit=600000 dan tpm_limit=output_tpm × 100, yang tidak sama dengan TPM input/output yang dibeli dan tidak mewakili jaminan throughput inferensi aktual. String gmt_create dan gmt_modified tidak mengandung offset zona waktu; jangan memperlakukannya sebagai waktu UTC atas pertimbangan sendiri.Mengkueri tugas deployment model
Contoh permintaan
Parameter permintaan
Parameter | Tipe | Metode Penerusan | Wajib | Deskripsi |
|---|---|---|---|---|
deployed_model | String | path | Ya | Pengidentifikasi unik model yang di-deploy, yang dapat diperoleh dengan membuat tugas deployment model atau mencantumkan tugas deployment model. |
Contoh respons¶meter
Klik di sini untuk melihat
Klik di sini untuk melihat
Parameter respons
Parameter responsnya sama dengan parameter saat membuat tugas deployment model. Untuk informasi selengkapnya, lihat deskripsi parameter respons saat membuat tugas deployment model.Mencantumkan tugas deployment model
Contoh permintaan
Parameter permintaan
Parameter | Tipe | Metode Penerusan | Wajib | Deskripsi |
|---|---|---|---|---|
page_no | Number | query | Tidak | Nomor halaman. Nilai default adalah 1. |
page_size | Number | query | Tidak | Ukuran halaman. Nilai default adalah 10, dan nilai maksimum adalah 100. |
plan | String | query | Tidak | Teruskan |
Contoh respons¶meter
Klik di sini untuk melihat
Klik di sini untuk melihat
Parameter respons
Parameter | Tipe | Deskripsi |
|---|---|---|
page_no | Number | Nomor halaman kueri. |
page_size | Number | Ukuran halaman kueri. |
total | Long | Jumlah total tugas deployment yang memenuhi kondisi kueri. |
deployments | Array | Daftar tugas deployment. Bidang setiap elemen sama dengan parameter respons saat membuat tugas deployment model. Untuk informasi selengkapnya, lihat deskripsi parameter respons saat membuat tugas deployment model. |
Memperbarui tugas deployment model
- Penskalaan
- Mengubah batas laju deployment DTU
- Memperbarui model deployment DTU
dtu_capacity melalui API ini: TPM input dan output harus ditambah atau dikurangi bersama-sama (batasan rentang dan kombinasi sama dengan saat pembuatan). Keberhasilan hanya menunjukkan bahwa permintaan telah diterima (status pertama kali berubah menjadi WAIT_PRE_PAID_BILLING_TO_SCALING); Anda perlu melakukan polling pada detail hingga statusnya RUNNING dan kedua kapasitas input dan output mencapai nilai target.Contoh permintaan
Menskalakan dalam mode COUPLED:plan dapat dihilangkan dari isi permintaan):Parameter permintaan
Parameter | Tipe | Metode Penerusan | Wajib | Deskripsi |
|---|---|---|---|---|
deployed_model | String | path | Ya | Pengidentifikasi unik model yang di-deploy. |
capacity | Number | body | Wajib bersyarat | Jumlah target unit sumber daya untuk penskalaan. Diperlukan dalam mode COUPLED (non-disagregasi PD); harus merupakan kelipatan bilangan bulat dari |
prefill_capacity | Number | body | Wajib bersyarat | Kapasitas prefill target. Diperlukan dalam mode disagregasi PD. |
decode_capacity | Number | body | Wajib bersyarat | Kapasitas decode target. Diperlukan dalam mode disagregasi PD. |
dtu_capacity | Object | body | Wajib bersyarat | Kapasitas DTU target. Diperlukan saat |
Contoh respons¶meter
Klik di sini untuk melihat
Klik di sini untuk melihat
Parameter respons
Parameter responsnya sama dengan parameter saat membuat tugas deployment model. Untuk informasi selengkapnya, lihat deskripsi parameter respons saat membuat tugas deployment model.Menghentikan model yang di-deploy
Contoh permintaan
Parameter permintaan
Parameter | Tipe | Metode Penerusan | Wajib | Deskripsi |
|---|---|---|---|---|
deployed_model | String | path | Ya | Pengidentifikasi unik model yang di-deploy. |
Contoh respons¶meter
Klik di sini untuk melihat
Klik di sini untuk melihat
Parameter respons
Parameter responsnya sama dengan parameter saat membuat tugas deployment model. Untuk informasi selengkapnya, lihat deskripsi parameter respons saat membuat tugas deployment model.Memulai ulang model yang di-deploy
Contoh permintaan
Parameter permintaan
Parameter | Tipe | Metode Penerusan | Wajib | Deskripsi |
|---|---|---|---|---|
deployed_model | String | path | Ya | Pengidentifikasi unik model yang di-deploy, yang dapat diperoleh dengan membuat tugas deployment model atau mencantumkan tugas deployment model. |
Contoh respons¶meter
Klik di sini untuk melihat
Klik di sini untuk melihat
Setelah dimulai, statusnya adalahSTARTING, dan berubah menjadiRUNNINGsetelah model siap untuk dipanggil
Parameter respons
Parameter responsnya sama dengan parameter saat membuat tugas deployment model. Untuk informasi selengkapnya, lihat deskripsi parameter respons saat membuat tugas deployment model.Menghapus tugas deployment model
Contoh permintaan
Parameter permintaan
Parameter | Tipe | Metode Penerusan | Wajib | Deskripsi |
|---|---|---|---|---|
deployed_model | String | path | Ya | Pengidentifikasi unik model yang di-deploy. |
Contoh respons¶meter
Klik di sini untuk melihat
Klik di sini untuk melihat
Parameter respons
Parameter responsnya sama dengan parameter saat membuat tugas deployment model. Untuk informasi selengkapnya, lihat deskripsi parameter respons saat membuat tugas deployment model.Respons kesalahan
Parameter respons
Parameter | Tipe | Deskripsi |
|---|---|---|
request_id | String | ID permintaan ini yang dibuat oleh sistem. |
code | String | Kode kesalahan, yang mengidentifikasi tipe kesalahan. |
message | String | Detail kesalahan, digunakan untuk pemecahan masalah. |
Kesalahan umum
Penyebab Kesalahan | Deskripsi |
|---|---|
| Kesalahan parameter, seperti parameter wajib yang hilang, nilai parameter tidak valid, atau meneruskan template_id dan deploy_spec secara bersamaan. |
| Izin tidak memadai atau sumber daya tidak ada. |
| Operasi tidak diizinkan dalam status saat ini, seperti melakukan penskalaan saat deployment tidak dalam status RUNNING, atau menghapus deployment yang tidak dalam status STOPPED/FAILED. |
| Operasi tidak didukung oleh solusi deployment saat ini. Misalnya, metode berbasis CU tidak mendukung penghentian layanan. |
| Persediaan sumber daya tidak memadai. Penskalaan keluar atau deployment tidak dapat diselesaikan. |
| Kesalahan internal. |
| Tugas deployment yang ditentukan tidak ada. |
| Konflik operasi, seperti layanan sedang melakukan operasi lain. |
| Kuota tidak memadai (umum terjadi pada pembelian prabayar DTU). Periksa kuota yang tersedia atau hubungi dukungan layanan. |
| Sumber daya tidak memadai untuk menyelesaikan deployment atau penskalaan keluar. Anda dapat menyesuaikan kapasitas atau menghubungi dukungan layanan. |
| Layanan sementara tidak tersedia. Coba lagi setelah jeda backoff. |