Skip to main content

Referensi API deployment model

Dokumen ini menggunakan deployment model Qwen sebagai contoh dan menjelaskan cara memanggil API melalui HTTP, membantu Anda menggunakan fitur deployment model yang disediakan oleh Alibaba Cloud Model Studio.

Region tempat API deployment model tersedia bervariasi menurut metode deployment — Model Unit (MU) dan Dedicated Throughput (DTU) didukung di Tiongkok (Beijing).

Prasyarat

  • Anda telah membaca ikhtisar deployment khusus dan membuat tugas deployment model dengan menggunakan API, menguasai cara menggunakan API deployment model, dan memahami langkah-langkah dasar deployment model di platform Alibaba Cloud Model Studio.
  • API key Model Studio telah dikonfigurasi. Untuk informasi selengkapnya, lihat Mendapatkan dan mengonfigurasi API key.
  • Deployment DTU (daya komputasi khusus DTU) menggunakan set API deployment yang sama, dan bentuk deployment dibedakan oleh plan="dtu" dalam permintaan. Permintaan deployment DTU harus menggunakan domain ruang kerja maas.aliyuncs.com yang sesuai dengan ruang kerja dan region tempat deployment berada (misalnya, ws-vxxx.cn-beijing.maas.aliyuncs.com) serta API Key ruang kerja tersebut, alih-alih dashscope.aliyuncs.com.
  • Layanan Intelligent Routing (mr) juga memanggil API deployment di halaman ini (permintaan dibedakan oleh plan="mr", hanya bayar sesuai penggunaan). Untuk deskripsi API lengkap, lihat Referensi API Intelligent Routing yang berdiri sendiri.
  • Domain permintaan bervariasi menurut region: region Beijing menggunakan dashscope.aliyuncs.com, dan region Singapura menggunakan dashscope-intl.aliyuncs.com; Dedicated Workspace Host ({WorkspaceId}.{region}.maas.aliyuncs.com) tersedia di semua region. Untuk informasi domain lengkap setiap region, lihat Endpoint regional.
  • Deployment DTU hanya mendukung pembayaran di muka (charge_type="pre_paid") dan tidak mendukung pembuatan bayar sesuai penggunaan; perubahan perpanjangan dan perpanjangan otomatis saat ini hanya didukung di konsol. API DTU tidak mendukung peran AssumedRoleUser. Sebelum menggunakan DTU, Anda harus mengaktifkan fitur DTU di konsol dan mengajukan kuota sumber daya. Untuk informasi selengkapnya, lihat Dedicated Throughput (DTU).

Mendapatkan daftar model yang dapat di-deploy

GET https://dashscope.aliyuncs.com/api/v1/deployments/models

Contoh permintaan

Anda dapat menjalankan perintah berikut untuk membuat kueri model yang mendukung deployment. Kami menyarankan menggunakan version=v1.0 untuk mendapatkan respons lengkap yang berisi rencana deployment dan informasi templat.
curl "https://dashscope.aliyuncs.com/api/v1/deployments/models?page_no=1&page_size=100&version=v1.0&model_source=base" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json'
Untuk membuat kueri model hasil fine-tuning pengguna:
curl "https://dashscope.aliyuncs.com/api/v1/deployments/models?page_no=1&page_size=100&version=v1.0&model_source=custom" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json'
Untuk membuat kueri rencana deployment DTU (saat plan=dtu diteruskan, hanya templat prabayar DTU yang dikembalikan, dan parameter version tidak diperlukan; DTU memerlukan domain ruang kerja):
curl "https://ws-vxxx.cn-beijing.maas.aliyuncs.com/api/v1/deployments/models?plan=dtu&model_source=base&page_no=1&page_size=100" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json'

Parameter permintaan

Parameter

Tipe

Metode Penerusan

Wajib

Deskripsi

page_no

Number

query

Tidak

Nomor halaman. Nilai default adalah 1.

page_size

Number

query

Tidak

Ukuran halaman. Nilai default adalah 50, nilai maksimum adalah 100, dan nilai minimum adalah 1.

model_source

String

query

Tidak

Sumber model. base menunjukkan model sistem (default), dan custom menunjukkan model hasil fine-tuning pengguna.

version

String

query

Tidak

Versi API. Kami menyarankan penggunaan v1.0. Saat v1.0 digunakan, respons berisi rencana deployment lengkap dan informasi templat.

plan

String

query

Tidak

Teruskan dtu saat membuat kueri rencana deployment DTU, dan hanya templat prabayar DTU yang dikembalikan (lihat deskripsi bidang templat DTU di bawah untuk struktur respons). Jika dihilangkan, perilaku katalog model asli dipertahankan dan rencana DTU tidak dikembalikan.

Contoh respons&parameter

Setelah perintah dijalankan, hasil berikut dikembalikan:
{
    "request_id": "f7da015c-ea90-4d96-af89-2f8d7604026a",
    "output": {
        "page_no": 1,
        "page_size": 100,
        "total": 5,
        "models": [
            {
                "model_name": "qwen3-8b",
                "plans": [
                    {
                        "plan": "mu",
                        "templates": [
                            {
                                "template_id": "MU1",
                                "template_name": "单机部署-标准推理型",
                                "template_type": "COUPLED",
                                "template_version": "v1",
                                "template_desc": "适用于标准推理场景",
                                "roles": {
                                    "unified": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    }
                                }
                            },
                            {
                                "template_id": "MU1-PD",
                                "template_name": "PD分离部署-标准推理型",
                                "template_type": "SEPERATED",
                                "template_version": "v1",
                                "template_desc": "适用于PD分离推理场景",
                                "roles": {
                                    "prefill": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    },
                                    "decode": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    }
                                }
                            }
                        ]
                    },
                    {
                        "plan": "lora"
                    }
                ]
            }
        ]
    }
}

Parameter respons

Parameter

Tipe

Deskripsi

models

Array

Daftar model yang dapat di-deploy.

models[].model_name

String

Nama model.

models[].plans

Array

Daftar rencana deployment yang didukung oleh model ini. Dikembalikan saat version=v1.0 digunakan.

models[].plans[].plan

String

Deployment plan type: mu (Model Unit), cu (Computing Power Unit), dtu (DTU dedicated computing power), ptu_v2 (Provisioned Throughput V2, equivalent value ptu), lora (LoRA shared deployment).

models[].plans[].templates

Array

Daftar templat deployment (dikembalikan saat plan=mu).

page_no

Number

Nomor halaman kueri.

page_size

Number

Ukuran halaman kueri.

total

Long

Jumlah total model yang sesuai dengan kondisi kueri.

Deskripsi bidang templat (templates)

Parameter

Tipe

Deskripsi

template_id

String

ID templat, diteruskan sebagai parameter template_id saat membuat tugas deployment model.

template_name

String

Nama tampilan templat.

template_type

String

Tipe templat: COUPLED (non-disagregasi PD, menggunakan parameter capacity), SEPERATED (disagregasi PD, menggunakan parameter prefill_capacity dan decode_capacity).

template_version

String

Versi templat.

template_desc

String

Deskripsi templat.

roles

Object

Konfigurasi peran node. Pola COUPLED menyertakan node unified, dan pola SEPERATED menyertakan node prefill dan decode.

Deskripsi bidang untuk node roles

Parameter

Tipe

Deskripsi

model_unit_spec

String

Tipe Model Unit.

capacity_unit_per_instance

Number

Jumlah unit kapasitas per instance, yaitu base_capacity. Saat membuat deployment, capacity harus merupakan kelipatan bilangan bulat dari nilai ini.

Deskripsi bidang templat DTU (dikembalikan saat plan=dtu)

Parameter

Tipe

Deskripsi

charge_type

String

Ditetapkan tetap ke pre_paid (prabayar).

sku_code

String

SKU komoditas yang digunakan saat membuat deployment.

template_code

String

Templat deployment yang digunakan saat membuat deployment, yang harus merupakan item templat yang sama dengan sku_code.

input_tpm_quota

Object

Rentang dan langkah TPM input yang dapat dibeli. Untuk bidangnya, lihat tabel berikut.

output_tpm_quota

Object

Rentang dan langkah TPM output yang dapat dibeli. Untuk bidangnya, lihat tabel berikut.

display_meta

Object

Informasi tampilan seperti nama rencana, deskripsi, dan tag. Dikembalikan saat tersedia nilai.

standard_workload

Object

Beban kerja standar yang disediakan templat (unit TPM dan tingkat beban kerja). Dikembalikan saat tersedia nilai.

input_tpm_quota dan output_tpm_quota masing-masing menunjukkan aturan pembelian untuk TPM input dan TPM output. Satuan kapasitas adalah tokens/min. Bidang yang disertakan:

Bidang

Tipe

Deskripsi

init

Integer

TPM pembelian awal minimum untuk dimensi ini. Kapasitas yang dibeli tidak boleh kurang dari nilai ini.

max

Integer

Batas atas TPM yang saat ini dapat dibeli. Jika max=0 pada dimensi mana pun, saat ini tidak ada kuota yang tersedia untuk dibeli; hubungi tim penjualan untuk mengajukan sumber daya. Nilai 0 tidak berarti tanpa batas.

step

Integer

Langkah pembelian untuk dimensi ini. TPM yang dibeli harus merupakan kelipatan bilangan bulat dari langkah ini (bukan offset yang terakumulasi pada init).

Saat membuat atau menskalakan deployment DTU, dtu_capacity.input_tpm dan dtu_capacity.output_tpm yang diteruskan harus memenuhi semua hal berikut:
  • TPM input dan output masing-masing harus berada dalam rentang [init, max] masing-masing;
  • TPM input harus merupakan kelipatan bilangan bulat dari input_tpm_quota.step, dan TPM output harus merupakan kelipatan bilangan bulat dari output_tpm_quota.step;
  • Kelipatan langkah input dan output harus identik: input_tpm / input_tpm_quota.step = output_tpm / output_tpm_quota.step = n (dengan n adalah bilangan bulat positif). Anda tidak dapat memilih kelipatan yang berbeda secara terpisah.
Misalnya, ketika rentang input adalah init=10000, max=100000, step=10000 dan rentang output adalah init=1000, max=10000, step=1000: membeli input 30000 dan output 3000 (keduanya 3 kali lipat langkah, valid); membeli input 30000 dan output 2000 (kelipatan 3 dan 2, tidak valid); membeli input 15000 dan output 1500 (bukan kelipatan bilangan bulat dari langkah, tidak valid).

Membuat Tugas Deployment Model

POST https://dashscope.aliyuncs.com/api/v1/deployments

Contoh permintaan

  • Dedicated Throughput (DTU)
  • Deployment Model Unit (mode COUPLED)
  • Deployment Model Unit (mode disagregasi PD)
  • Deployment Bersama LoRA
Penghitungan prabayar, dengan kapasitas yang dibeli berdasarkan TPM input/output (domain ruang kerja diperlukan; sku_code, template_code, dan rentang kapasitas dikueri melalui API List Deployable Models dengan plan=dtu). DTU merupakan penerus Model Unit (MU); untuk deployment khusus baru, DTU adalah pilihan yang disarankan:
curl "https://ws-vxxx.cn-beijing.maas.aliyuncs.com/api/v1/deployments" \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
    "model_name": "your-supported-model",
    "display_name": "业务模型服务",
    "suffix": "production",
    "plan": "dtu",
    "sku_code": "your-prepaid-sku",
    "template_code": "your-template",
    "charge_type": "pre_paid",
    "pre_paid_info": {
        "pricing_cycle": "Month",
        "duration": 1,
        "auto_renewal": false
    },
    "dtu_capacity": {"input_tpm": 10000, "output_tpm": 10000}
}'

Parameter permintaan

Parameter

Tipe

Metode Penerusan

Wajib

Deskripsi

model_name

String

body

Ya

Nama model yang akan di-deploy.

plan

String

body

Ya

Rencana deployment: dtu (daya komputasi khusus DTU, hanya prabayar), mu (Model Unit), cu (Computing Power Unit), lora (deployment bersama LoRA).

template_id

String

body

Wajib bersyarat

ID templat deployment, sesuai dengan template_id yang dikembalikan oleh API List Deployable Models. Diperlukan saat plan diatur ke mu. Penggunaan parameter ini untuk menentukan spesifikasi Model Unit direkomendasikan.

deploy_spec (legacy)

String

body

Tidak

Spesifikasi Model Unit. Tidak digunakan lagi.

capacity

Number

body

Wajib bersyarat

Jumlah unit sumber daya. Diperlukan dalam mode COUPLED (non-disagregasi PD) dan harus merupakan kelipatan bilangan bulat dari capacity_unit_per_instance. Saat ditagih berdasarkan penggunaan Token (plan adalah lora), parameter ini tidak berpengaruh tetapi tetap harus diatur.

prefill_capacity

Number

body

Wajib bersyarat

Kapasitas prefill. Diperlukan dalam mode disagregasi PD (saat template_type adalah SEPERATED).

decode_capacity

Number

body

Wajib bersyarat

Kapasitas decode. Diperlukan dalam mode disagregasi PD (saat template_type adalah SEPERATED).

name

String

body

Tidak

Nama tampilan layanan.

suffix

String

body

Tidak

Setelah model di-deploy, nama model baru akan dibuat. suffix menentukan akhiran dari nama model baru, dengan panjang maksimum 8 karakter, dan harus unik secara global. Akhiran dapat dihilangkan saat model di-deploy untuk pertama kalinya, tetapi harus diatur saat model yang sama di-deploy beberapa kali.

charge_type

String

body

Tidak

Metode penghitungan: post_paid (bayar sesuai penggunaan, default), pre_paid (prabayar).

pre_paid_info

Object

body

Wajib bersyarat

Informasi pembayaran prabayar. Diperlukan saat charge_type adalah pre_paid. Berisi bidang: auto_renewal (Boolean, apakah mengaktifkan perpanjangan otomatis), duration (Number, durasi pembelian/bulan), auto_renewal_duration (Number, durasi perpanjangan otomatis).

pre_paid_info.auto_renewal

Boolean

body

Ya

Apakah mengaktifkan perpanjangan otomatis

pre_paid_info.duration

Integer

body

Ya

Durasi pembelian (Bulan)

pre_paid_info.auto_renewal_duration

Integer

body

Wajib bersyarat

Durasi perpanjangan otomatis (diperlukan saat autoRenewal=true)

enable_thinking

Boolean

body

Tidak

Apakah mengaktifkan mode berpikir. Beberapa model mendukung parameter ini.

max_context_length

Number

body

Tidak

Panjang konteks maksimum. Beberapa model mendukung parameter ini.

quantization_precision

String

body

Tidak

Presisi kuantisasi.

qpm_limit

Number

body

Tidak

Pembatasan laju QPM, batas jumlah permintaan per menit. Hanya didukung oleh beberapa model yang plan-nya mu.

tpm_limit

Number

body

Tidak

Pembatasan laju TPM, batas penggunaan token per menit. Hanya didukung oleh beberapa model yang plan-nya mu.

display_name

String

body

Wajib bersyarat

Nama tampilan layanan, hingga 50 karakter. Digunakan saat plan adalah dtu (rencana lainnya menggunakan name).

sku_code

String

body

Wajib bersyarat

SKU prabayar yang tersedia untuk model saat ini. Diperlukan saat plan adalah dtu.

template_code

String

body

Wajib bersyarat

Templat deployment yang sesuai dengan model dan SKU. Diperlukan saat plan adalah dtu.

dtu_capacity

Object

body

Wajib bersyarat

Kapasitas DTU yang akan dibeli. Diperlukan saat plan adalah dtu. Anda harus menyediakan input_tpm dan output_tpm keduanya. Untuk aturannya, lihat rentang dan langkah pembelian TPM di Mendapatkan daftar model yang dapat di-deploy.

dtu_capacity.input_tpm

Integer

body

Ya

TPM input yang dibeli (tokens/min). Bilangan bulat non-negatif dengan nilai maksimum 2147483647.

dtu_capacity.output_tpm

Integer

body

Ya

TPM output yang dibeli (tokens/min). Bilangan bulat non-negatif dengan nilai maksimum 2147483647.

pre_paid_info.pricing_cycle

String

body

Ya

Siklus penghitungan. Untuk DTU, parameter ini ditetapkan tetap ke Month (menghilangkannya atau meneruskan nilai lain akan mengembalikan InvalidParameter).

pre_paid_info.auto_renewal_cycle

String

body

Wajib bersyarat

Siklus Perpanjangan Otomatis Terpadu. Diperlukan saat perpanjangan otomatis diaktifkan, dan harus mematuhi aturan produk.

Catatan tambahan saat plan adalah dtu: suffix dapat memiliki panjang hingga 24 karakter, dan pengidentifikasi deployment lengkap yang dihasilkan tidak boleh melebihi 100 karakter; name, random_suffix, deploy_spec, bidang kapasitas MU/PTU, perutean model, pembatasan laju, dan parameter publikasi tidak didukung — konfigurasikan batas laju melalui API pembaruan batas laju setelah deployment siap; pembuatan yang berhasil hanya menunjukkan bahwa permintaan telah diterima (pesanan prabayar sedang diproses) — lakukan polling pada detail hingga statusnya RUNNING; perpanjang dan ubah perpanjangan otomatis di konsol.

Model yang didukung

Status dukungan fitur seperti pembatasan laju dan akselerasi inferensi dalam mode deployment Model Unit.

  • Pembuatan teks
  • multimodal
  • sintesis ucapan
  • Qwen
  • GLM
  • DeepSeek
  • Model Lainnya

Model

Kode model

Tipe Model Unit

Harga satuan per jam (CNY)

Penagihan minimum: menit

Harga langganan bulanan (CNY)

Penagihan minimum: hari

Qwen3.6-35B-A3B

qwen3.6-35b-a3b

MU1 x 8

¥432

¥208,944

MU2 x 8

¥504

¥240,288

MU3 x 8

¥1,096

¥527,752

MU9 x 1

¥51

¥24,600

Qwen3.6-27B

qwen3.6-27b

MU9 x 1

¥51

¥24,600

Qwen3.6-Flash-2026-04-16

qwen3.6-flash-2026-04-16

MU1 x 2

¥108

¥52,236

MU3 x 8

¥1,096

¥527,752

Qwen3.6-Plus-2026-04-02

qwen3.6-plus-2026-04-02

MU1 x 8

MU1 x 16 (mode disagregasi PD)

¥432

mode disagregasi PD: ¥864

¥208,944

mode disagregasi PD: ¥417,888

Qwen3.5-397B-A17B

qwen3.5-397b-a17b

MU3 x 8

MU3 x 16 (mode disagregasi PD)

¥1,096

mode disagregasi PD: ¥2,192

¥527,752

mode disagregasi PD: ¥1,055,504

MU6 x 16

¥400

¥193,424

Qwen3.5-122B-A10B

qwen3.5-122b-a10b

MU1 x 4

¥216

¥104,472

MU6 x 16

¥400

¥193,424

Qwen3.5-35B-A3B

qwen3.5-35b-a3b

MU1 x 2

¥108

¥52,236

MU2 x 8

¥504

¥240,288

MU3 x 8

¥1,096

¥527,752

MU9 x 1

¥51

¥24,600

Qwen3.5-27B

qwen3.5-27b

MU2 x 8

¥504

¥240,288

MU3 x 8

¥1,096

¥527,752

MU8 x 1

¥47

¥22,400

MU9 x 1

¥51

¥24,600

Qwen3.5-9B

qwen3.5-9b

MU2 x 2

¥126

¥60,072

Qwen3.5-Flash-2026-02-23

qwen3.5-flash-2026-02-23

MU1 x 2

¥108

¥52,236

Qwen3.5-Plus-2026-02-15

qwen3.5-plus-2026-02-15

MU1 x 8

MU1 x 16 (mode disagregasi PD)

¥432

mode disagregasi PD: ¥864

¥208,944

mode disagregasi PD: ¥417,888

MU2 x 8

¥504

¥240,288

MU3 x 8

MU3 x 16 (mode disagregasi PD)

¥1,096

mode disagregasi PD: ¥2,192

¥527,752

mode disagregasi PD: ¥1,055,504

Qwen3-235B-A22B-Instruct-2507

qwen3-235b-a22b-instruct-2507

MU1 x 4

¥216

¥104,472

MU2 x 8

¥504

¥240,288

MU3 x 8

¥1,096

¥527,752

Qwen3-32B

qwen3-32b

MU6 x 16

¥400

¥193,424

Qwen3-30B-A3B-Thinking-2507

qwen3-30b-a3b-thinking-2507

MU1 x 2

¥108

¥52,236

Qwen3-8B

qwen3-8b

MU1 x 2

¥108

¥52,236

MU2 x 2

¥126

¥60,072

Qwen3-4B

qwen3-4b

MU1 x 2

¥108

¥52,236

MU5 x 1

¥21

¥10,139

Qwen3-Embedding-0.6B

qwen3-embedding-0.6b

MU5 x 1

¥21

¥10,139

MU6 x 1

¥25

¥12,089

Qwen3-MoE-Rerank-0.6B

qwen3-moe-rerank-0.6b

MU5 x 1

¥21

¥10,139

Qwen3-Rerank-0.6B

qwen3-rerank-0.6b

MU5 x 1

¥21

¥10,139

MU6 x 1

¥25

¥12,089

Qwen3-Max-2025-09-23

qwen3-max-2025-09-23

MU2 x 8

¥504

¥240,288

MU3 x 8

¥1,096

¥527,752

Qwen3-Rerank

qwen3-rerank

MU5 x 1

¥21

¥10,139

Qwen2.5-Open Source-72B

qwen2.5-72b-instruct

MU1 x 8

¥432

¥208,944

Qwen2.5-Open Source-14B

qwen2.5-14b-instruct

MU1 x 2

¥108

¥52,236

Qwen2.5-Open Source-7B

qwen2.5-7b-instruct

MU1 x 2

¥108

¥52,236

MU5 x 1

¥21

¥10,139

Qwen-Plus-2025-07-28

qwen-plus-2025-07-28

MU1 x 4

MU1 x 16 (mode disagregasi PD)

¥216

mode disagregasi PD: ¥864

¥104,472

mode disagregasi PD: ¥417,888

Qwen-Plus-2025-12-01

qwen-plus-2025-12-01

MU1 x 4

¥216

¥104,472

Qwen-Plus-Character-2025-11-06

qwen-plus-character-2025-11-06

MU1 x 4

¥216

¥104,472

Tipe Model:
  • Instruct - Model melakukan inferensi dalam mode non-berpikir setelah deployment.
  • Thinking - Model melakukan inferensi dalam mode berpikir setelah deployment.
Tipe Deployment Model:
  • Mode disagregasi PD - Mengurangi latensi token pertama dan meningkatkan throughput. Dalam mode deployment ini, selama inferensi model, dua fase komputasi penghitungan token pertama (Prefill) dan penghitungan token berikutnya (Decode) dipisahkan ke node komputasi yang berbeda untuk dieksekusi.

Contoh Respons&Parameter

Setelah perintah dijalankan, hasil berikut dikembalikan:
{
    "request_id": "f2ae64f7-83cc-410c-bc0b-840443f7eb86",
    "output": {
        "deployed_model": "qwen3-8b-20260115-abcd",
        "name": "我的模型服务",
        "model_name": "qwen3-8b",
        "base_model": "qwen3-8b",
        "status": "PENDING",
        "capacity": 4,
        "ready_capacity": 0,
        "base_capacity": 4,
        "workspace_id": "llm-8v53e*******",
        "charge_type": "post_paid",
        "plan": "mu",
        "model_unit_spec": "MU1",
        "creator": "16542902******",
        "modifier": "16542902******",
        "qpm_limit": 100000000,
        "tpm_limit": 3600000,
        "mu_capacity": {
            "unified": {
                "base_capacity": 4,
                "model_unit_spec": "MU1",
                "ready_capacity": 0,
                "capacity": 4
            }
        },
        "gmt_create": "2026-01-15T10:00:00",
        "gmt_modified": "2026-01-15T10:00:00"
    }
}

Parameter

Tipe

Deskripsi

request_id

String

ID dari permintaan ini.

output

Object

Detail tugas deployment ini.

deployed_model

String

Pengidentifikasi unik model baru, yang harus diteruskan dalam parameter SDK saat memulai permintaan pemanggilan model.

name

String

Nama tampilan layanan.

model_name

String

Nama model yang digunakan oleh tugas deployment.

base_model

String

ID model dasar yang sesuai dengan model yang digunakan oleh tugas deployment.

status

String

Status tugas deployment.

  • PENDING: Tugas deployment sedang dibuat.

  • DEPLOYING: Sedang melakukan deployment.

  • WAIT_PRE_PAID_BILLING_TO_DEPLOYING: Pembuatan berada pada tahap pemrosesan pesanan prabayar (DTU).

  • WAIT_PRE_PAID_BILLING_TO_SCALING: Penskalaan berada pada tahap pemrosesan pesanan prabayar (DTU).

  • RUNNING: Tugas deployment sedang berjalan dan dapat memproses permintaan secara normal.

  • SCALING: Sedang menskalakan.

  • UPDATING: Tugas deployment sedang diperbarui.

  • UPDATING_PAUSED: Pembaruan dijeda.

  • SUSPENDING: Sedang menangguhkan (tunggakan pembayaran).

  • SUSPENDED: Dijeda (tunggakan pembayaran).

  • STOPPING: Sedang menghentikan.

  • STOPPED: Dihentikan, tidak lagi ditagih.

  • STARTING: Sedang memulai (dimulai ulang dari status STOPPED/FAILED).

  • FAILED: Tugas deployment gagal dibuat atau diperbarui.

  • DELETING: Tugas deployment sedang dihapus.

capacity

Number

Jumlah target unit sumber daya untuk tugas deployment.

ready_capacity

Number

Jumlah unit sumber daya yang siap dan dapat segera memproses permintaan.

base_capacity

Number

Kapasitas dasar satu instance.

workspace_id

String

ID ruang kerja tempat tugas deployment berada.

charge_type

String

post_paid: bayar sesuai penggunaan; pre_paid: prabayar.

plan

String

Mode penghitungan tugas deployment.

model_unit_spec

String

Tipe Model Unit.

gmt_create

String

Waktu ketika tugas deployment dibuat.

gmt_modified

String

Waktu ketika tugas deployment dimodifikasi.

creator

String

UID pengguna yang membuat tugas deployment.

modifier

String

UID akun yang melakukan operasi terakhir pada tugas deployment.

fail_reason

String

Penyebab kegagalan (hanya dikembalikan dalam status FAILED).

enable_thinking

Boolean

Apakah mode berpikir diaktifkan. Didukung oleh beberapa model.

max_context_length

Number

Batas panjang konteks maksimum.

qpm_limit

Number

Batas laju QPM, permintaan per menit.

tpm_limit

Number

Batas laju TPM, penggunaan token per menit.

quantization_precision

String

Presisi kuantisasi.

Hanya dikembalikan untuk metode deployment DTU (dtu)

dtu_capacity

Object

Kapasitas yang dibeli dalam catatan deployment; selama penskalaan, kapasitas ini mungkin masih kapasitas asli, yang tidak berarti kapasitas target telah berlaku.

dtu_capacity.input_tpm

Integer

Kapasitas token input yang dibeli (tokens/min).

dtu_capacity.output_tpm

Integer

Kapasitas token output yang dibeli (tokens/min).

pre_paid_info.pricing_cycle

String

Periode penghitungan pembelian yang dikembalikan (misalnya, Month); nilainya mungkin null, yang berarti nilai tidak disediakan dalam respons ini dan tidak menunjukkan pesanan gagal atau durasi pembelian 0.

pre_paid_info.auto_renewal_cycle

String

Siklus perpanjangan otomatis yang dikembalikan; hanya dikembalikan saat nilainya tersedia.

pre_paid_instance_id

String

Pengidentifikasi instance prabayar, hanya dikembalikan saat nilainya tersedia. Ini bukan pengidentifikasi deployment dan tidak dapat menggantikan deployed_model.

Hanya dikembalikan untuk metode deployment Model Unit (mu)

mu_capacity

Object

Detail kapasitas MU. Dalam mode COUPLED, node unified disertakan; dalam mode SEPERATED, node prefill dan decode disertakan. Setiap node berisi: base_capacity, model_unit_spec, ready_capacity, capacity.

pre_paid_info

Object

Informasi prabayar.

pre_paid_info.auto_renewal

Boolean

Apakah mengaktifkan perpanjangan otomatis

pre_paid_info.duration

Integer

Durasi pembelian (Bulan)

pre_paid_info.auto_renewal_duration

Integer

Durasi perpanjangan otomatis

pre_paid_instance_id

String

ID instance prabayar.

pre_paid_gmt_expired

String

Waktu kedaluwarsa prabayar.

Hanya dikembalikan untuk metode deployment Provisioned Throughput V2 (ptu_v2)

ptu_capacity

Object

Informasi kapasitas PTU V2. Berisi bidang berikut:

  • input_tpm_quota (Number, kuota TPM input)

  • output_tpm_quota (Number, kuota TPM output)

pre_paid_info

Object

Informasi prabayar.

pre_paid_info.auto_renewal

Boolean

Apakah mengaktifkan perpanjangan otomatis

pre_paid_info.duration

Integer

Durasi pembelian (Bulan)

pre_paid_info.auto_renewal_duration

Integer

Durasi perpanjangan otomatis

pre_paid_instance_id

String

ID instance prabayar.

pre_paid_gmt_expired

String

Waktu kedaluwarsa prabayar.

Nilai qpm_limit dan tpm_limit dari deployment DTU adalah pengaturan batas laju gateway (bilangan bulat 64-bit, yang dapat melebihi batas atas permintaan API modifikasi). Nilai defaultnya adalah qpm_limit=600000 dan tpm_limit=output_tpm × 100, yang tidak sama dengan TPM input/output yang dibeli dan tidak mewakili jaminan throughput inferensi aktual. String gmt_create dan gmt_modified tidak mengandung offset zona waktu; jangan memperlakukannya sebagai waktu UTC atas pertimbangan sendiri.

Mengkueri tugas deployment model

GET https://dashscope.aliyuncs.com/api/v1/deployments/{deployed_model}

Contoh permintaan

curl "https://dashscope.aliyuncs.com/api/v1/deployments/qwen3-8b-20260115-abcd" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json'

Parameter permintaan

Parameter

Tipe

Metode Penerusan

Wajib

Deskripsi

deployed_model

String

path

Ya

Pengidentifikasi unik model yang di-deploy, yang dapat diperoleh dengan membuat tugas deployment model atau mencantumkan tugas deployment model.

Contoh respons&parameter

Setelah perintah dijalankan, hasil berikut dikembalikan:
{
    "request_id": "d8b8c47b-ae32-4c41-b9f4-9a1e2b3c4d5e",
    "output": {
        "deployed_model": "qwen3-8b-20260115-abcd",
        "name": "我的模型服务",
        "model_name": "qwen3-8b",
        "base_model": "qwen3-8b",
        "status": "RUNNING",
        "capacity": 4,
        "ready_capacity": 4,
        "base_capacity": 4,
        "workspace_id": "llm-8v53e*******",
        "charge_type": "post_paid",
        "plan": "mu",
        "model_unit_spec": "MU1",
        "creator": "16542902******",
        "modifier": "16542902******",
        "qpm_limit": 100000000,
        "tpm_limit": 3600000,
        "mu_capacity": {
            "unified": {
                "base_capacity": 4,
                "model_unit_spec": "MU1",
                "ready_capacity": 4,
                "capacity": 4
            }
        },
        "gmt_create": "2026-01-15T10:00:00",
        "gmt_modified": "2026-01-15T10:30:00"
    }
}

Parameter respons

Parameter responsnya sama dengan parameter saat membuat tugas deployment model. Untuk informasi selengkapnya, lihat deskripsi parameter respons saat membuat tugas deployment model.

Mencantumkan tugas deployment model

GET https://dashscope.aliyuncs.com/api/v1/deployments

Contoh permintaan

curl "https://dashscope.aliyuncs.com/api/v1/deployments?page_no=1&page_size=10" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json'

Parameter permintaan

Parameter

Tipe

Metode Penerusan

Wajib

Deskripsi

page_no

Number

query

Tidak

Nomor halaman. Nilai default adalah 1.

page_size

Number

query

Tidak

Ukuran halaman. Nilai default adalah 10, dan nilai maksimum adalah 100.

plan

String

query

Tidak

Teruskan dtu untuk membuat kueri deployment DTU; deployment DTU tidak mendukung pemfilteran status.

Contoh respons&parameter

Setelah perintah dijalankan, hasil berikut dikembalikan:
{
    "request_id": "a1b2c3d4-e5f6-7890-abcd-ef1234567890",
    "output": {
        "page_no": 1,
        "page_size": 10,
        "total": 2,
        "deployments": [
            {
                "deployed_model": "qwen3-8b-20260115-abcd",
                "name": "我的模型服务",
                "model_name": "qwen3-8b",
                "base_model": "qwen3-8b",
                "status": "RUNNING",
                "capacity": 4,
                "ready_capacity": 4,
                "base_capacity": 4,
                "workspace_id": "llm-8v53e*******",
                "charge_type": "post_paid",
                "plan": "mu",
                "model_unit_spec": "MU1",
                "creator": "16542902******",
                "modifier": "16542902******",
                "qpm_limit": 100000000,
                "tpm_limit": 3600000,
                "mu_capacity": {
                    "unified": {
                        "base_capacity": 4,
                        "model_unit_spec": "MU1",
                        "ready_capacity": 4,
                        "capacity": 4
                    }
                },
                "gmt_create": "2026-01-15T10:00:00",
                "gmt_modified": "2026-01-15T10:30:00"
            }
        ]
    }
}

Parameter respons

Parameter

Tipe

Deskripsi

page_no

Number

Nomor halaman kueri.

page_size

Number

Ukuran halaman kueri.

total

Long

Jumlah total tugas deployment yang memenuhi kondisi kueri.

deployments

Array

Daftar tugas deployment. Bidang setiap elemen sama dengan parameter respons saat membuat tugas deployment model. Untuk informasi selengkapnya, lihat deskripsi parameter respons saat membuat tugas deployment model.

Memperbarui tugas deployment model

  • Penskalaan
  • Mengubah batas laju deployment DTU
  • Memperbarui model deployment DTU
Memperbarui tugas deployment model berarti menskalakan layanan deployment. Operasi ini hanya dapat dipanggil saat status layanan adalah RUNNING atau SCALING; memanggilnya dalam status lain akan mengembalikan kesalahan OperationDenied. Untuk deployment DTU, penskalaan dilakukan dengan meneruskan dtu_capacity melalui API ini: TPM input dan output harus ditambah atau dikurangi bersama-sama (batasan rentang dan kombinasi sama dengan saat pembuatan). Keberhasilan hanya menunjukkan bahwa permintaan telah diterima (status pertama kali berubah menjadi WAIT_PRE_PAID_BILLING_TO_SCALING); Anda perlu melakukan polling pada detail hingga statusnya RUNNING dan kedua kapasitas input dan output mencapai nilai target.
PUT https://dashscope.aliyuncs.com/api/v1/deployments/{deployed_model}/scale

Contoh permintaan

Menskalakan dalam mode COUPLED:
curl -X PUT "https://dashscope.aliyuncs.com/api/v1/deployments/qwen3-8b-20260115-abcd/scale" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json' \
    --data '{
    "capacity": 8
}'
Menskalakan dalam mode disagregasi PD:
curl -X PUT "https://dashscope.aliyuncs.com/api/v1/deployments/qwen3-8b-20260115-abcd/scale" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json' \
    --data '{
    "prefill_capacity": 4,
    "decode_capacity": 8
}'
Menskalakan deployment DTU (memerlukan host ruang kerja khusus; plan dapat dihilangkan dari isi permintaan):
curl -X PUT "https://ws-vxxx.cn-beijing.maas.aliyuncs.com/api/v1/deployments/your-deployment-id/scale" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json' \
    --data '{
    "dtu_capacity": {"input_tpm": 20000, "output_tpm": 20000}
}'

Parameter permintaan

Parameter

Tipe

Metode Penerusan

Wajib

Deskripsi

deployed_model

String

path

Ya

Pengidentifikasi unik model yang di-deploy.

capacity

Number

body

Wajib bersyarat

Jumlah target unit sumber daya untuk penskalaan. Diperlukan dalam mode COUPLED (non-disagregasi PD); harus merupakan kelipatan bilangan bulat dari base_capacity.

prefill_capacity

Number

body

Wajib bersyarat

Kapasitas prefill target. Diperlukan dalam mode disagregasi PD.

decode_capacity

Number

body

Wajib bersyarat

Kapasitas decode target. Diperlukan dalam mode disagregasi PD.

dtu_capacity

Object

body

Wajib bersyarat

Kapasitas DTU target. Diperlukan saat plan adalah dtu; input_tpm dan output_tpm keduanya harus disediakan (keduanya wajib). Batasan rentang dan kombinasi sama dengan saat pembuatan, dan input serta output harus ditambah atau dikurangi bersama-sama. API ini hanya memodifikasi kapasitas dan tidak mendukung perubahan model, SKU, templat, periode pembelian, perpanjangan otomatis, atau batas laju secara bersamaan.

Contoh respons&parameter

Setelah perintah dijalankan, hasil berikut dikembalikan:
{
    "request_id": "e5f6a7b8-c9d0-1234-5678-abcdef012345",
    "output": {
        "deployed_model": "qwen3-8b-20260115-abcd",
        "name": "我的模型服务",
        "model_name": "qwen3-8b",
        "base_model": "qwen3-8b",
        "status": "SCALING",
        "capacity": 8,
        "ready_capacity": 4,
        "base_capacity": 4,
        "workspace_id": "llm-8v53e*******",
        "charge_type": "post_paid",
        "plan": "mu",
        "model_unit_spec": "MU1",
        "creator": "16542902******",
        "modifier": "16542902******",
        "qpm_limit": 100000000,
        "tpm_limit": 3600000,
        "mu_capacity": {
            "unified": {
                "base_capacity": 4,
                "model_unit_spec": "MU1",
                "ready_capacity": 4,
                "capacity": 8
            }
        },
        "gmt_create": "2026-01-15T10:00:00",
        "gmt_modified": "2026-01-15T11:00:00"
    }
}

Parameter respons

Parameter responsnya sama dengan parameter saat membuat tugas deployment model. Untuk informasi selengkapnya, lihat deskripsi parameter respons saat membuat tugas deployment model.

Menghentikan model yang di-deploy

Hanya mode deployment model unit (mu) yang mendukung penghentian layanan. API ini hanya dapat dipanggil saat status layanan adalah RUNNING atau SCALING. Memanggil API ini dengan mode cu, ptu_v2, lora, atau dtu akan mengembalikan kesalahan UnsupportedOperation. Setelah layanan dihentikan, layanan tidak lagi ditagih dan dapat dimulai ulang melalui API detail. Deployment DTU tidak mendukung memulai atau menghentikan melalui API.
POST https://dashscope.aliyuncs.com/api/v1/deployments/{deployed_model}/stop

Contoh permintaan

curl -X POST "https://dashscope.aliyuncs.com/api/v1/deployments/qwen3-8b-20260115-abcd/stop" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json'

Parameter permintaan

Parameter

Tipe

Metode Penerusan

Wajib

Deskripsi

deployed_model

String

path

Ya

Pengidentifikasi unik model yang di-deploy.

Contoh respons&parameter

Setelah perintah dijalankan, hasil berikut dikembalikan:
{
    "request_id": "f1a2b3c4-d5e6-7890-abcd-ef1234567890",
    "output": {
        "deployed_model": "qwen3-8b-20260115-abcd",
        "name": "我的模型服务",
        "model_name": "qwen3-8b",
        "base_model": "qwen3-8b",
        "status": "STOPPING",
        "capacity": 4,
        "ready_capacity": 4,
        "base_capacity": 4,
        "workspace_id": "llm-8v53e*******",
        "charge_type": "post_paid",
        "plan": "mu",
        "model_unit_spec": "MU1",
        "creator": "16542902******",
        "modifier": "16542902******",
        "qpm_limit": 100000000,
        "tpm_limit": 3600000,
        "mu_capacity": {
            "unified": {
                "base_capacity": 4,
                "model_unit_spec": "MU1",
                "ready_capacity": 4,
                "capacity": 4
            }
        },
        "gmt_create": "2026-01-15T10:00:00",
        "gmt_modified": "2026-01-15T12:00:00"
    }
}

Parameter respons

Parameter responsnya sama dengan parameter saat membuat tugas deployment model. Untuk informasi selengkapnya, lihat deskripsi parameter respons saat membuat tugas deployment model.

Memulai ulang model yang di-deploy

Deployment DTU (dtu) saat ini tidak mendukung memulai layanan melalui API ini.
POST https://dashscope.aliyuncs.com/api/v1/deployments/{deployed_model}/start

Contoh permintaan

curl -X POST "https://dashscope.aliyuncs.com/api/v1/deployments/qwen3-8b-20260115-abcd/start" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json'

Parameter permintaan

Parameter

Tipe

Metode Penerusan

Wajib

Deskripsi

deployed_model

String

path

Ya

Pengidentifikasi unik model yang di-deploy, yang dapat diperoleh dengan membuat tugas deployment model atau mencantumkan tugas deployment model.

Contoh respons&parameter

Setelah perintah dijalankan, hasil berikut dikembalikan:
Setelah dimulai, statusnya adalah STARTING, dan berubah menjadi RUNNING setelah model siap untuk dipanggil
{
  "request_id": "xxx-xxx-xxx",
  "output": {
    "deployed_model": "qwen-7b-chat-ft-20240101-abcd",
    "model_name": "qwen-7b-chat-ft",
    "base_model": "qwen-7b-chat",
    "status": "STARTING",
    "capacity": 1,
    "ready_capacity": 0,
    "base_capacity": 1,
    "plan": "mu",
    "model_unit_spec": "MU5",
    "workspace_id": "workspace-xxx",
    "charge_type": "post_paid",
    "creator": "user123",
    "modifier": "user123",
    "qpm_limit": 100000000,
    "tpm_limit": 3600000,
    "mu_capacity": {
      "unified": {
        "base_capacity": 1,
        "model_unit_spec": "",
        "ready_capacity": 0,
        "capacity": 1
      }
    },
    "gmt_create": "2024-01-01T10:00:00",
    "gmt_modified": "2024-01-01T13:00:00"
  }
}

Parameter respons

Parameter responsnya sama dengan parameter saat membuat tugas deployment model. Untuk informasi selengkapnya, lihat deskripsi parameter respons saat membuat tugas deployment model.

Menghapus tugas deployment model

Penghapusan hanya dapat dipanggil saat status layanan adalah STOPPED atau FAILED. Untuk layanan dengan status RUNNING, panggil API detail terlebih dahulu. Deployment DTU (dtu) saat ini tidak mendukung penghapusan melalui API ini; berhenti berlangganan di konsol sebagai gantinya. Untuk informasi selengkapnya, lihat Dedicated throughput (DTU).
DELETE https://dashscope.aliyuncs.com/api/v1/deployments/{deployed_model}

Contoh permintaan

curl -X DELETE "https://dashscope.aliyuncs.com/api/v1/deployments/qwen3-8b-20260115-abcd" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json'

Parameter permintaan

Parameter

Tipe

Metode Penerusan

Wajib

Deskripsi

deployed_model

String

path

Ya

Pengidentifikasi unik model yang di-deploy.

Contoh respons&parameter

Setelah perintah dijalankan, hasil berikut dikembalikan:
{
    "request_id": "g1h2i3j4-k5l6-7890-mnop-qr1234567890",
    "output": {
        "deployed_model": "qwen3-8b-20260115-abcd",
        "name": "我的模型服务",
        "model_name": "qwen3-8b",
        "base_model": "qwen3-8b",
        "status": "DELETING",
        "capacity": 4,
        "ready_capacity": 0,
        "base_capacity": 4,
        "workspace_id": "llm-8v53e*******",
        "charge_type": "post_paid",
        "plan": "mu",
        "model_unit_spec": "MU1",
        "creator": "16542902******",
        "modifier": "16542902******",
        "gmt_create": "2026-01-15T10:00:00",
        "gmt_modified": "2026-01-15T14:00:00"
    }
}

Parameter respons

Parameter responsnya sama dengan parameter saat membuat tugas deployment model. Untuk informasi selengkapnya, lihat deskripsi parameter respons saat membuat tugas deployment model.

Respons kesalahan

{
    "request_id": "6fec0a3f-a1df-4f89-8c8f-33cb0db9f5b0",
    "code": "InvalidParameter",
    "message": "capacity is required when template_type is COUPLED"
}

Parameter respons

Parameter

Tipe

Deskripsi

request_id

String

ID permintaan ini yang dibuat oleh sistem.

code

String

Kode kesalahan, yang mengidentifikasi tipe kesalahan.

message

String

Detail kesalahan, digunakan untuk pemecahan masalah.

Kesalahan umum

Penyebab Kesalahan

Deskripsi

InvalidParameter

Kesalahan parameter, seperti parameter wajib yang hilang, nilai parameter tidak valid, atau meneruskan template_id dan deploy_spec secara bersamaan.

AccessDenied

Izin tidak memadai atau sumber daya tidak ada.

OperationDenied

Operasi tidak diizinkan dalam status saat ini, seperti melakukan penskalaan saat deployment tidak dalam status RUNNING, atau menghapus deployment yang tidak dalam status STOPPED/FAILED.

UnsupportedOperation

Operasi tidak didukung oleh solusi deployment saat ini. Misalnya, metode berbasis CU tidak mendukung penghentian layanan.

StockLimit

Persediaan sumber daya tidak memadai. Penskalaan keluar atau deployment tidak dapat diselesaikan.

InternalError

Kesalahan internal.

NotFound

Tugas deployment yang ditentukan tidak ada.

Conflict

Konflik operasi, seperti layanan sedang melakukan operasi lain.

QuotaExceeded

Kuota tidak memadai (umum terjadi pada pembelian prabayar DTU). Periksa kuota yang tersedia atau hubungi dukungan layanan.

InsufficientResource

Sumber daya tidak memadai untuk menyelesaikan deployment atau penskalaan keluar. Anda dapat menyesuaikan kapasitas atau menghubungi dukungan layanan.

ServiceUnavailable

Layanan sementara tidak tersedia. Coba lagi setelah jeda backoff.