Skip to main content

Dapatkan detail penerapan

API manajemen penerapan model berlaku untuk semua jenis model, termasuk teks, gambar, video, dan suara . API ini mendukung kueri status dan daftar penerapan, modifikasi pembatasan kecepatan, penskalaan, serta penghapusan penerapan.

Prasyarat

Penerapan yang menggunakan mode penagihan DTU saat ini tidak mendukung pembuatan dan pengelolaan melalui rangkaian API ini. Silakan gunakan konsol; lihat Deployment komputasi khusus DTU.

Dapatkan status penerapan model

Kueri detail dan status berjalan dari penerapan model tertentu. Anda dapat melakukan polling terhadap API ini; ketika nilai status menjadi RUNNING, hal tersebut menandakan bahwa model telah berhasil diterapkan.
Penerapan model diperkirakan memerlukan waktu 5 hingga 10 menit.

Endpoint

GET https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}

Contoh permintaan

Anda dapat menggunakan perintah berikut untuk mengkueri detail layanan khusus tertentu:
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/qwen-plus-202305099980-fac9-sample" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

Parameter permintaan

Parameter

Tipe

Lokasi

Wajib

Deskripsi

deployed_model

String

path

Ya

Identifikasi unik penerapan model. Anda dapat memperolehnya dari Buat penerapan atau operasi List deployments.

Contoh respons

Perhatikan bidang status. Ketika status menjadi RUNNING, model telah berhasil diterapkan dan siap untuk dipanggil.
{
  "request_id": "66a855f0-a6fe-4b05-9786-fb30c7c6782d",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:06:13",
    "status": "RUNNING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 1,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3***",
    "charge_type": "post_paid",
    "creator": "175805416***",
    "modifier": "175805416***"
  }
}

Parameter respons

Bidang

Tipe

Deskripsi

request_id

String

Identifikasi unik untuk permintaan.

output

Object

Detail pekerjaan.

output.deployed_model

String

Identifikasi unik penerapan model. Digunakan untuk mengkueri status penerapan dan memanggil model.

output.model_name

String

Nama identifikasi model.

output.base_model

String

Model dasar yang digunakan.

output.status

String

Status penerapan:

  • PENDING: Penerapan sedang dibuat.

  • RUNNING: Penerapan sedang berjalan dan model dapat memproses permintaan secara normal.

  • UPDATING: Perubahan konfigurasi sedang berlangsung.

  • UPDATING_FAILED: Perubahan konfigurasi gagal.

  • DELETING: Penerapan sedang dihapus.

  • DELETED: Penerapan telah dihapus.

  • FAILED: Pembuatan atau pembaruan penerapan gagal.

  • STOPPED: Penerapan telah dihentikan dan tidak akan dikenai biaya.

  • ARREARS_DOWN: Layanan ditangguhkan karena pembayaran tertunda.

  • ARREARS_RECOVERING: Memulihkan dari penangguhan pembayaran.

  • OFFLINING: Layanan sedang diambil offline.

output.base_capacity

Number

Jumlah unit sumber daya dasar.

output.capacity

Number

Jumlah unit sumber daya saat ini.

output.ready_capacity

Number

Jumlah unit sumber daya yang siap.

output.workspace_id

String

ID ruang kerja yang terkait dengan API Key Alibaba Cloud Model Studio. Lihat Dapatkan ID Ruang Kerja.

output.charge_type

String

Mode penagihan. post_paid menunjukkan bayar sesuai penggunaan.

output.gmt_create

String

Waktu pembuatan penerapan.

output.gmt_modified

String

Waktu penerapan terakhir dimodifikasi.

output.creator

String

ID akun Alibaba Cloud dari pembuat.

output.modifier

String

ID akun Alibaba Cloud dari pengubah.

output.plan

String

Rencana penerapan.

Daftar model yang dapat diterapkan

Dapatkan daftar model kandidat yang memenuhi syarat untuk penerapan pada platform Model Studio, yaitu model-model yang dapat digunakan untuk membuat penerapan.

Endpoint

GET https://dashscope-intl.aliyuncs.com/api/v1/deployments/models

Contoh permintaan

Gunakan perintah berikut untuk mengkueri model yang tersedia untuk penerapan. Kami merekomendasikan menggunakan version=v1.0 untuk mendapatkan respons lengkap yang mencakup informasi rencana dan templat penerapan.
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/models?page_no=1&page_size=100&version=v1.0&model_source=base" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'
Kueri model hasil fine-tuning pengguna:
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/models?page_no=1&page_size=100&version=v1.0&model_source=custom" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

Parameter permintaan

Parameter

Tipe

Wajib

Deskripsi

page_no

Number

Tidak

Nomor halaman. Nilai default: 1.

page_size

Number

Tidak

Ukuran halaman. Nilai default: 50. Nilai maksimum: 100. Nilai minimum: 1.

model_source

String

Tidak

Sumber model. base menunjukkan model sistem (default), custom menunjukkan model hasil fine-tuning pengguna.

version

String

Tidak

Versi API. Kami merekomendasikan menggunakan v1.0. Ketika v1.0 ditentukan, respons akan mencakup informasi lengkap mengenai rencana dan templat penerapan.

Contoh respons

Setelah perintah dieksekusi, hasil berikut dikembalikan:
{
    "request_id": "f7da015c-ea90-4d96-af89-2f8d7604026a",
    "output": {
        "page_no": 1,
        "page_size": 100,
        "total": 5,
        "models": [
            {
                "model_name": "qwen3-8b",
                "plans": [
                    {
                        "plan": "mu",
                        "templates": [
                            {
                                "template_id": "MU1",
                                "template_name": "单机部署-标准推理型",
                                "template_type": "COUPLED",
                                "template_version": "v1",
                                "template_desc": "适用于标准推理场景",
                                "roles": {
                                    "unified": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    }
                                }
                            },
                            {
                                "template_id": "MU1-PD",
                                "template_name": "PD分离部署-标准推理型",
                                "template_type": "SEPERATED",
                                "template_version": "v1",
                                "template_desc": "适用于PD分离推理场景",
                                "roles": {
                                    "prefill": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    },
                                    "decode": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    }
                                }
                            }
                        ]
                    },
                    {
                        "plan": "lora"
                    }
                ]
            }
        ]
    }
}

Parameter respons

Parameter

Tipe

Deskripsi

models

Array

Daftar model yang dapat diterapkan.

models[].model_name

String

Nama model.

models[].plans

Array

Daftar rencana penerapan yang didukung oleh model. Dikembalikan ketika version=v1.0 ditentukan.

models[].plans[].plan

String

Jenis rencana penerapan: mu (Model Unit), cu (Compute Unit), ptu (Provisioned Throughput Unit), lora (penerapan bersama LoRA).

models[].plans[].templates

Array

Daftar templat penerapan (dikembalikan ketika plan=mu).

models[].plans[].templates[].template_id

String

ID templat, diteruskan sebagai parameter deploy_spec saat membuat tugas penerapan.

models[].plans[].templates[].template_name

String

Nama tampilan templat.

models[].plans[].templates[].template_type

String

Jenis templat: COUPLED (tidak terpisah PD, menggunakan parameter capacity), SEPERATED (terpisah PD, menggunakan parameter prefill_capacity dan decode_capacity).

models[].plans[].templates[].template_version

String

Versi templat.

models[].plans[].templates[].template_desc

String

Deskripsi templat.

models[].plans[].templates[].roles

Object

Konfigurasi peran node. Mode COUPLED berisi node unified; mode SEPERATED berisi node prefill dan decode.

models[].plans[].templates[].roles.{role}.model_unit_spec

String

Spesifikasi unit model.

models[].plans[].templates[].roles.{role}.capacity_unit_per_instance

Number

Jumlah unit kapasitas per instans, yaitu base_capacity. Saat membuat penerapan, nilai capacity harus merupakan kelipatan bilangan bulat dari nilai ini.

page_no

Number

Nomor halaman kueri.

page_size

Number

Ukuran halaman kueri.

total

Long

Total jumlah model yang sesuai dengan kondisi kueri.

Daftar model yang telah diterapkan

Dapatkan daftar instans penerapan yang telah dibuat, yaitu layanan model yang benar-benar berjalan atau telah diterapkan di ruang kerja saat ini.

Endpoint

GET https://dashscope-intl.aliyuncs.com/api/v1/deployments

Contoh permintaan

Jalankan perintah berikut untuk mendapatkan daftar layanan khusus:
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments?page_no=1&page_size=100" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

Parameter permintaan

Parameter

Tipe

Lokasi

Wajib

Deskripsi

page_no

Number

query

Tidak

Nomor halaman. Default: 1.

page_size

Number

query

Tidak

Ukuran halaman. Default: 50. Maksimum: 200. Minimum: 1.

Contoh respons

Setelah perintah dieksekusi, hasil berikut dikembalikan:
{
  "request_id": "7efdd3a7-a90d-96c6-b477-70055d59edf7",
  "output": {
    "page_no": 1,
    "page_size": 10,
    "total": 1,
    "deployments": [
      {
        "deployed_model": "emo-35b3f106-sample01",
        "gmt_create": "2025-06-17T11:00:38",
        "gmt_modified": "2025-06-17T11:06:13",
        "status": "RUNNING",
        "model_name": "emo",
        "base_model": "emo",
        "base_capacity": 1,
        "capacity": 1,
        "ready_capacity": 1,
        "workspace_id": "llm-v71tlv3d***",
        "charge_type": "post_paid",
        "creator": "175805416***",
        "modifier": "175805416***"
      }
    ]
  }
}

Parameter respons

Bidang

Tipe

Deskripsi

request_id

String

Identifikasi unik untuk permintaan.

output.page_no

Number

Nomor halaman saat ini.

output.page_size

Number

Jumlah item per halaman.

output.total

Number

Total jumlah penerapan.

output.deployments

Array

Daftar penerapan model. Setiap elemen memiliki bidang yang sama dengan output dari operasi Dapatkan status penerapan model.

Modifikasi pembatasan kecepatan penerapan

Modifikasi pengaturan pembatasan kecepatan RPM (Requests Per Minute) dan TPM (Tokens Per Minute) untuk penerapan model tertentu.
Hanya beberapa model yang diterapkan menggunakan unit model yang mendukung modifikasi pengaturan RPM dan TPM.

Endpoint

PUT https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}/update

Contoh permintaan

Jalankan perintah berikut untuk memodifikasi pengaturan pembatasan kecepatan penerapan tertentu:
curl -X PUT "https://dashscope-intl.aliyuncs.com/api/v1/deployments/qwen-plus-2025-12-01-b6d61c71/update" \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
    "rpm_limit": 1000,
    "tpm_limit": 200
}'

Parameter permintaan

Parameter

Tipe

Lokasi

Wajib

Deskripsi

deployed_model

String

path

Ya

Identifikasi unik penerapan model. Anda dapat memperolehnya dari Buat penerapan atau operasi List deployments.

rpm_limit

Number

body

Minimal satu parameter

Permintaan per menit (RPM).

tpm_limit

Number

body

Token per menit (TPM).

Contoh respons

Setelah perintah dieksekusi, hasil berikut dikembalikan:
{
    "request_id": "1d121fd9-876c-40ad-bc40-a9e68ef3b986",
    "output":
    {
        "deployed_model": "qwen-plus-2025-12-01-b6d61c71",
        "gmt_create": "2026-01-07T13:52:44",
        "gmt_modified": "2026-01-07T14:01:41",
        "status": "PENDING",
        "model_name": "qwen-plus-2025-12-01",
        "base_model": "qwen-plus-2025-12-01",
        "base_capacity": 4,
        "capacity": 4,
        "ready_capacity": 0,
        "workspace_id": "llm-8v53e*******",
        "charge_type": "post_paid",
        "creator": "16542902******",
        "modifier": "16542902********",
        "plan": "mu",
        "model_unit_spec": "MU1",
        "enable_thinking": true,
        "max_context_length": 1,
        "rpm_limit": 1000,
        "tpm_limit": 200
    }
}

Parameter respons

Selain bidang dasar yang tercantum dalam Dapatkan status penerapan model, respons juga dapat mencakup bidang berikut:

Bidang

Tipe

Deskripsi

output.plan

String

Rencana penerapan.

output.model_unit_spec

String

Templat penerapan unit model, seperti MU1.

output.enable_thinking

Boolean

Apakah mode thinking diaktifkan.

output.max_context_length

Number

Panjang konteks maksimum.

output.rpm_limit

Number

Batas permintaan per menit.

output.tpm_limit

Number

Batas token per menit.

Skalakan penerapan

Atur jumlah unit sumber daya yang digunakan oleh layanan khusus dengan melakukan operasi pembaruan.

Endpoint

PUT https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}/scale

Contoh permintaan

Jalankan perintah berikut untuk menskalakan layanan tertentu:
curl --request PUT "https://dashscope-intl.aliyuncs.com/api/v1/deployments/emo-35b3f106-sample01/scale" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json' \
    --data '{
                "capacity":2
            }'

Parameter permintaan

Parameter

Tipe

Wajib

Deskripsi

deployed_model

String

Ya

Identifikasi unik penerapan model (parameter path). Anda dapat memperolehnya dari Buat penerapan atau operasi List deployments.

capacity

Integer

Wajib bersyarat

Hanya berlaku ketika "plan": "mu" ditentukan. Untuk detail dukungan, lihat dukungan fitur untuk penerapan unit model.

Jumlah unit sumber daya yang digunakan oleh model setelah pembaruan. Nilai ini harus merupakan kelipatan bilangan bulat dari base_capacity.

ptu_capacity

Object

Wajib bersyarat

Hanya berlaku ketika "plan": "ptu" ditentukan. Untuk detail dukungan, lihat dukungan fitur untuk penerapan PTU.

Contoh: "ptu_capacity": { "input_tpm": 10000, "output_tpm": 1000 }.

ptu_capacity.input_tpm

Number

Wajib bersyarat

Hanya berlaku ketika "plan": "ptu" ditentukan. Untuk detail dukungan, lihat dukungan fitur untuk penerapan PTU.

Jumlah token input maksimum per menit (input tokens per minute) yang didukung oleh model yang diterapkan. Didukung oleh semua model.

ptu_capacity.output_tpm

Number

Wajib bersyarat

Hanya berlaku ketika "plan": "ptu" ditentukan. Untuk detail dukungan, lihat dukungan fitur untuk penerapan PTU.

Jumlah token output maksimum per menit (output tokens per minute) yang didukung oleh model yang diterapkan. Didukung oleh semua model.

ptu_capacity.thinking_output_tpm

Number

Tidak

Hanya berlaku ketika "plan": "ptu" ditentukan. Untuk detail dukungan, lihat dukungan fitur untuk penerapan PTU.

Jumlah token output thinking terprovisi maksimum per menit (thinking output tokens per minute) yang didukung oleh model yang diterapkan. Didukung oleh beberapa model.

Contoh respons

Setelah perintah dieksekusi, hasil berikut dikembalikan:
{
  "request_id": "6c6b7676-3fea-423b-bc26-c9e2337e1142",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:42:02.311",
    "status": "UPDATING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 2,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3dezezp2en",
    "charge_type": "post_paid",
    "creator": "17580541***",
    "modifier": "17580541***"
  }
}

Parameter respons

Bidang respons sama dengan Dapatkan status penerapan model. Untuk detailnya, lihat parameter respons Dapatkan status penerapan model.

Hapus penerapan

Hapus penerapan model tertentu dan lepaskan sumber daya komputasi yang sesuai.
Setelah operasi ini dilakukan, layanan penerapan model akan segera diambil offline dan tidak dapat dipulihkan:
  1. Model tidak lagi tersedia untuk dipanggil.
  2. Penagihan untuk layanan penerapan akan dihentikan.

Endpoint

DELETE https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}

Contoh permintaan

Jalankan perintah berikut untuk menghapus penerapan tertentu.
curl --request DELETE "https://dashscope-intl.aliyuncs.com/api/v1/deployments/emo-35b3f106-sample01" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

Parameter permintaan

Parameter

Tipe

Lokasi

Wajib

Deskripsi

deployed_model

String

path

Ya

Identifikasi unik penerapan model. Anda dapat memperolehnya dari Buat penerapan atau operasi List deployments.

Contoh respons

Perhatikan bidang status. Ketika status menjadi DELETING, hal tersebut menandakan bahwa penerapan sedang dihapus.
{
  "request_id": "5378b78b-8564-481f-a3e0-580e551df22c",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:42:02",
    "status": "DELETING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 2,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3***",
    "charge_type": "post_paid",
    "creator": "175805416***",
    "modifier": "175805416***"
  }
}
Kemudian, panggil Dapatkan status penerapan model untuk memverifikasi penghapusan. Jika respons berikut dikembalikan, artinya layanan yang diterapkan tidak lagi ada dan telah berhasil dihapus.
{
    "request_id": "eb619064-0c4f-4d29-aa49-xxxxxx",
    "message": "Not found.",
    "code": "NotFound"
}

Parameter respons

Bidang respons sama dengan Dapatkan status penerapan model. Untuk detailnya, lihat parameter respons Dapatkan status penerapan model.

Respons kesalahan

Contoh respons

{
    "request_id": "ca218d57-b91b-46b2-bd35-c41c6287bcf4",
    "message": "Model: qwen-plus-20230703-cx7f not found!",
    "code": "NotFound"
}

Parameter respons

Bidang

Tipe

Deskripsi

request_id

String

ID unik untuk permintaan.

code

String

Kode kesalahan.

message

String

Pesan kesalahan.

Ketika permintaan gagal, kesalahan berikut mungkin dikembalikan:

Kode kesalahan

Pesan kesalahan

Alasan kesalahan

NotFound

Model: xxx not found!

  • Model yang tidak ada ditentukan saat membuat penerapan.

  • Model yang tidak ada ditentukan saat mengkueri, memperbarui, atau menghapus penerapan.

Conflict

Deployed model xxx already exists, please specify a suffix.

Akhiran yang ditentukan saat membuat penerapan telah digunakan.

InvalidParameter

Invalid capacity (xx), capacity must be larger than or equal to 0 and multiples of 1 and less than 1000!

Unit kapasitas tidak valid yang ditentukan saat membuat atau memperbarui penerapan.