Skip to main content
Penerapan model

Dapatkan detail penerapan

API manajemen penerapan model berlaku untuk semua jenis model, termasuk teks, gambar, video, dan suara . API ini mendukung kueri status dan daftar penerapan, modifikasi pembatasan kecepatan, penskalaan, serta penghapusan penerapan.

Prasyarat

  • Wilayah yang didukung: Fitur yang dijelaskan dalam dokumen ini hanya tersedia di wilayah Singapore, dan Anda harus menggunakan API Key dari wilayah tersebut.
  • Anda telah berhasil mendapatkan API Key dan mengonfigurasikannya sebagai variabel lingkungan.
  • Anda telah membaca Penerapan model dan Terapkan model menggunakan API untuk memahami langkah-langkah dasar penerapan model.

Dapatkan status penerapan model

Kueri detail dan status berjalan dari penerapan model tertentu. Anda dapat melakukan polling terhadap API ini; ketika nilai status menjadi RUNNING, hal tersebut menandakan bahwa model telah berhasil diterapkan.
Penerapan model diperkirakan memerlukan waktu 5 hingga 10 menit.

Endpoint 

GET https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}

Contoh permintaan

Permintaan contoh: 
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/qwen-plus-202305099980-fac9-sample" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json'

Parameter permintaan

Parameter

Tipe

Lokasi

Wajib

Deskripsi

deployed_model

String

path

Ya

Identifikasi unik untuk penerapan model. Dikembalikan oleh operasi Create deployment atau List deployments.

Contoh respons

Perhatikan bidang status. Ketika status menjadi RUNNING, model telah berhasil diterapkan dan siap untuk dipanggil. 
{
  "request_id": "66a855f0-a6fe-4b05-9786-fb30c7c6782d",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:06:13",
    "status": "RUNNING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 1,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3***",
    "charge_type": "post_paid",
    "creator": "175805416***",
    "modifier": "175805416***"
  }
}

Parameter respons

Bidang

Tipe

Deskripsi

request_id

String

Identifikasi unik untuk permintaan.

output

Object

Detail pekerjaan.

output.deployed_model

String

Identifikasi unik penerapan model. Digunakan untuk mengkueri status penerapan dan memanggil model.

output.model_name

String

Nama identifikasi model.

output.base_model

String

Model dasar yang digunakan.

output.status

String

Status penerapan:

  • PENDING: Penerapan sedang dibuat.

  • RUNNING: Penerapan sedang berjalan dan model dapat memproses permintaan secara normal.

  • UPDATING: Perubahan konfigurasi sedang berlangsung.

  • UPDATING_FAILED: Perubahan konfigurasi gagal.

  • DELETING: Penerapan sedang dihapus.

  • DELETED: Penerapan telah dihapus.

  • FAILED: Pembuatan atau pembaruan penerapan gagal.

  • STOPPED: Penerapan telah dihentikan dan tidak akan dikenai biaya.

  • ARREARS_DOWN: Layanan ditangguhkan karena pembayaran tertunda.

  • ARREARS_RECOVERING: Memulihkan dari penangguhan pembayaran.

  • OFFLINING: Layanan sedang diambil offline.

output.base_capacity

Number

Jumlah unit sumber daya dasar.

output.capacity

Number

Jumlah unit sumber daya saat ini.

output.ready_capacity

Number

Jumlah unit sumber daya yang siap.

output.workspace_id

String

ID ruang kerja yang terkait dengan API Key Alibaba Cloud Model Studio. Lihat Dapatkan ID Ruang Kerja.

output.charge_type

String

Mode penagihan. post_paid menunjukkan bayar sesuai penggunaan.

output.gmt_create

String

Waktu pembuatan penerapan.

output.gmt_modified

String

Waktu penerapan terakhir dimodifikasi.

output.creator

String

ID akun Alibaba Cloud dari pembuat.

output.modifier

String

ID akun Alibaba Cloud dari pengubah.

output.plan

String

Rencana penerapan.

Daftar model yang dapat diterapkan

Dapatkan daftar model kandidat yang memenuhi syarat untuk penerapan pada platform Model Studio, yaitu model-model yang dapat digunakan untuk membuat penerapan.

Endpoint 

GET https://dashscope-intl.aliyuncs.com/api/v1/deployments/models

Contoh permintaan

Gunakan perintah berikut untuk mengkueri model yang tersedia untuk penerapan. Kami merekomendasikan menggunakan version=v1.0 untuk mendapatkan respons lengkap yang mencakup informasi rencana dan templat penerapan. 
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/models?page_no=1&page_size=100&version=v1.0&model_source=base" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'
Kueri model hasil fine-tuning pengguna: 
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/models?page_no=1&page_size=100&version=v1.0&model_source=custom" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

Parameter permintaan

Parameter

Tipe

Wajib

Deskripsi

page_no

Number

Tidak

Nomor halaman. Nilai default: 1.

page_size

Number

Tidak

Ukuran halaman. Nilai default: 50. Nilai maksimum: 100. Nilai minimum: 1.

model_source

String

Tidak

Sumber model. base menunjukkan model sistem (default), custom menunjukkan model hasil fine-tuning pengguna.

version

String

Tidak

Versi API. Kami merekomendasikan menggunakan v1.0. Ketika v1.0 ditentukan, respons akan mencakup informasi lengkap mengenai rencana dan templat penerapan.

Contoh respons

Setelah perintah dieksekusi, hasil berikut dikembalikan: 
{
    "request_id": "f7da015c-ea90-4d96-af89-2f8d7604026a",
    "output": {
        "page_no": 1,
        "page_size": 100,
        "total": 5,
        "models": [
            {
                "model_name": "qwen3-8b",
                "plans": [
                    {
                        "plan": "mu",
                        "templates": [
                            {
                                "template_id": "MU1",
                                "template_name": "Single-node deployment - Standard inference",
                                "template_type": "COUPLED",
                                "template_version": "v1",
                                "template_desc": "Suitable for standard inference scenarios",
                                "roles": {
                                    "unified": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    }
                                }
                            },
                            {
                                "template_id": "MU1-PD",
                                "template_name": "PD-separated deployment - Standard inference",
                                "template_type": "SEPERATED",
                                "template_version": "v1",
                                "template_desc": "Suitable for PD-separated inference scenarios",
                                "roles": {
                                    "prefill": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    },
                                    "decode": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    }
                                }
                            }
                        ]
                    },
                    {
                        "plan": "lora"
                    }
                ]
            }
        ]
    }
}

Parameter respons

Parameter

Tipe

Deskripsi

models

Array

Daftar model yang dapat diterapkan.

models[].model_name

String

Nama model.

models[].plans

Array

Daftar rencana penerapan yang didukung oleh model. Dikembalikan ketika version=v1.0 ditentukan.

models[].plans[].plan

String

Jenis rencana penerapan: mu (Model Unit), cu (Compute Unit), ptu (Provisioned Throughput Unit), lora (penerapan bersama LoRA).

models[].plans[].templates

Array

Daftar templat penerapan (dikembalikan ketika plan=mu).

models[].plans[].templates[].template_id

String

ID templat, diteruskan sebagai parameter deploy_spec saat membuat penerapan.

models[].plans[].templates[].template_name

String

Nama tampilan templat.

models[].plans[].templates[].template_type

String

Jenis templat: COUPLED (tidak terpisah PD, menggunakan parameter capacity), SEPERATED (terpisah PD, menggunakan parameter prefill_capacity dan decode_capacity).

models[].plans[].templates[].template_version

String

Versi templat.

models[].plans[].templates[].template_desc

String

Deskripsi templat.

models[].plans[].templates[].roles

Object

Konfigurasi peran node. Mode COUPLED berisi node unified; mode SEPERATED berisi node prefill dan decode.

models[].plans[].templates[].roles.{role}.model_unit_spec

String

Spesifikasi unit model.

models[].plans[].templates[].roles.{role}.capacity_unit_per_instance

Number

Jumlah unit kapasitas per instans, yaitu base_capacity. Saat membuat penerapan, nilai capacity harus merupakan kelipatan bilangan bulat dari nilai ini.

page_no

Number

Nomor halaman kueri.

page_size

Number

Ukuran halaman kueri.

total

Long

Total jumlah model yang sesuai dengan kondisi kueri.

Daftar model yang telah diterapkan

Dapatkan daftar instans yang telah diterapkan, yaitu layanan model yang benar-benar berjalan atau telah diterapkan di ruang kerja saat ini.

Endpoint 

GET https://dashscope-intl.aliyuncs.com/api/v1/deployments

Contoh permintaan

Jalankan perintah berikut untuk mendapatkan daftar layanan khusus: 
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments?page_no=1&page_size=100" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json'

Parameter permintaan

Parameter

Tipe

Lokasi

Wajib

Deskripsi

page_no

Number

query

Tidak

Nomor halaman. Default: 1.

page_size

Number

query

Tidak

Ukuran halaman. Default: 50. Maksimum: 200. Minimum: 1.

Contoh respons

Respons contoh: 
{
  "request_id": "7efdd3a7-a90d-96c6-b477-70055d59edf7",
  "output": {
    "page_no": 1,
    "page_size": 10,
    "total": 1,
    "deployments": [
      {
        "deployed_model": "emo-35b3f106-sample01",
        "gmt_create": "2025-06-17T11:00:38",
        "gmt_modified": "2025-06-17T11:06:13",
        "status": "RUNNING",
        "model_name": "emo",
        "base_model": "emo",
        "base_capacity": 1,
        "capacity": 1,
        "ready_capacity": 1,
        "workspace_id": "llm-v71tlv3d***",
        "charge_type": "post_paid",
        "creator": "175805416***",
        "modifier": "175805416***"
      }
    ]
  }
}

Parameter respons

Bidang

Tipe

Deskripsi

request_id

String

Identifikasi unik untuk permintaan.

output.page_no

Number

Nomor halaman saat ini.

output.page_size

Number

Jumlah item per halaman.

output.total

Number

Total jumlah penerapan.

output.deployments

Array

Daftar penerapan model. Setiap elemen memiliki bidang yang sama dengan output dari operasi Get a model deployment.

Modifikasi pembatasan kecepatan penerapan

Modifikasi pengaturan pembatasan kecepatan RPM (Requests Per Minute) dan TPM (Tokens Per Minute) untuk penerapan model tertentu.
Hanya beberapa model yang diterapkan menggunakan unit model yang mendukung modifikasi pengaturan RPM dan TPM.

Endpoint 

PUT https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}/update

Contoh permintaan

Jalankan perintah berikut untuk memodifikasi pengaturan pembatasan kecepatan penerapan tertentu: 
curl -X PUT "https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}/update" \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
    "rpm_limit": 1000,
    "tpm_limit": 200
}'

Parameter permintaan

Parameter

Tipe

Lokasi

Wajib

Deskripsi

deployed_model

String

path

Ya

Identifikasi unik untuk penerapan model. Anda dapat memperolehnya dari operasi Create deployment atau List deployments.

rpm_limit

Number

body

Minimal satu parameter

Permintaan per menit (RPM).

tpm_limit

Number

body

Token per menit (TPM).

Contoh respons

Respons contoh: 
{
    "request_id": "1d121fd9-876c-40ad-bc40-a9e68ef3b986",
    "output":
    {
        "deployed_model": "qwen-plus-2025-12-01-b6d61c71",
        "gmt_create": "2026-01-07T13:52:44",
        "gmt_modified": "2026-01-07T14:01:41",
        "status": "PENDING",
        "model_name": "qwen-plus-2025-12-01",
        "base_model": "qwen-plus-2025-12-01",
        "base_capacity": 4,
        "capacity": 4,
        "ready_capacity": 0,
        "workspace_id": "llm-8v53e*******",
        "charge_type": "post_paid",
        "creator": "16542902******",
        "modifier": "16542902********",
        "plan": "mu",
        "model_unit_spec": "MU1",
        "enable_thinking": true,
        "max_context_length": 1,
        "rpm_limit": 1000,
        "tpm_limit": 200
    }
}

Parameter respons

Selain bidang dasar yang tercantum dalam operasi Get a model deployment, respons juga dapat mencakup bidang berikut:

Bidang

Tipe

Deskripsi

output.plan

String

Rencana penerapan.

output.model_unit_spec

String

Templat penerapan unit model, seperti MU1.

output.enable_thinking

Boolean

Apakah mode thinking diaktifkan.

output.max_context_length

Number

Panjang konteks maksimum.

output.rpm_limit

Number

Batas permintaan per menit.

output.tpm_limit

Number

Batas token per menit.

Skalakan penerapan

Atur jumlah unit sumber daya yang digunakan oleh layanan khusus melalui operasi pembaruan.

Endpoint 

PUT https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}/scale

Contoh permintaan

Jalankan perintah berikut untuk menskalakan layanan tertentu: 
curl --request PUT "https://dashscope-intl.aliyuncs.com/api/v1/deployments/emo-35b3f106-sample01/scale" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json' \
    --data '{
                "capacity":2
            }'

Parameter permintaan

Parameter

Tipe

Lokasi

Wajib

Deskripsi

deployed_model

String

path

Ya

Identifikasi unik untuk penerapan model. Anda dapat memperolehnya dari operasi Create deployment atau List deployments.

capacity

Number

body

Wajib bersyarat

Hanya tersedia ketika "plan": "mu".

Untuk informasi lebih lanjut, lihat dukungan fitur untuk penerapan unit model.

Unit sumber daya yang digunakan oleh model setelah pembaruan. Harus merupakan kelipatan bilangan bulat dari base_capacity.

ptu_capacity

Object

body

Wajib bersyarat

Hanya tersedia ketika "plan": "ptu".

Untuk informasi lebih lanjut, lihat dukungan fitur untuk penerapan PTU.

Berlaku hanya ketika "plan": "ptu" ditetapkan.

Contoh: "ptu_capacity": { "input_tpm": 10000, "output_tpm": 1000 }.

ptu_capacity.input_tpm

Number

body

Didukung oleh semua model. Token input per menit. Jumlah maksimum token input per menit yang didukung oleh model yang diterapkan.

ptu_capacity.output_tpm

Number

body

Didukung oleh semua model. Token output per menit. Jumlah maksimum token output per menit yang didukung oleh model yang diterapkan.

ptu_capacity.thinking_output_tpm

Number

body

Didukung oleh beberapa model. Token output thinking per menit. Jumlah maksimum token output thinking per menit yang didukung oleh model yang diterapkan.

Contoh respons

Respons contoh: 
{
  "request_id": "6c6b7676-3fea-423b-bc26-c9e2337e1142",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:42:02.311",
    "status": "UPDATING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 2,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3dezezp2en",
    "charge_type": "post_paid",
    "creator": "17580541***",
    "modifier": "17580541***"
  }
}

Parameter respons

Parameter respons sama dengan operasi Get a model deployment. Untuk detailnya, lihat parameter respons Get a model deployment.

Hapus penerapan

Hapus penerapan model tertentu dan lepaskan sumber daya komputasi yang sesuai.
Setelah operasi ini dilakukan, layanan penerapan model akan segera diambil offline dan tidak dapat dipulihkan:
  1. Model tidak lagi tersedia untuk dipanggil.
  2. Penagihan untuk layanan penerapan akan dihentikan.

Endpoint 

DELETE https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}

Contoh permintaan

Jalankan perintah berikut untuk menghapus penerapan tertentu. 
curl --request DELETE "https://dashscope-intl.aliyuncs.com/api/v1/deployments/emo-35b3f106-sample01" \
    --header "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
    --header 'Content-Type: application/json'

Parameter permintaan

Parameter

Tipe

Lokasi

Wajib

Deskripsi

deployed_model

String

path

Ya

Identifikasi unik untuk penerapan model. Anda dapat memperolehnya dari operasi Create deployment atau List deployments.

Contoh respons

Perhatikan bidang status. Ketika status menjadi DELETING, hal tersebut menandakan bahwa penerapan sedang dihapus. 
{
  "request_id": "5378b78b-8564-481f-a3e0-580e551df22c",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:42:02",
    "status": "DELETING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 2,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3***",
    "charge_type": "post_paid",
    "creator": "175805416***",
    "modifier": "175805416***"
  }
}
Kemudian, panggil operasi Get a model deployment untuk memverifikasi penghapusan. Jika respons berikut dikembalikan, artinya layanan yang diterapkan tidak lagi ada dan telah berhasil dihapus. 
{
    "request_id": "eb619064-0c4f-4d29-aa49-xxxxxx",
    "message": "Not found.",
    "code": "NotFound"
}

Parameter respons

Parameter respons sama dengan operasi Get a model deployment. Untuk detailnya, lihat parameter respons Get a model deployment.

Respons kesalahan

Contoh respons 

{
    "request_id": "ca218d57-b91b-46b2-bd35-c41c6287bcf4",
    "message": "Model: qwen-plus-20230703-cx7f not found!",
    "code": "NotFound"
}

Parameter respons

Bidang

Tipe

Deskripsi

request_id

String

ID unik untuk permintaan.

code

String

Kode kesalahan.

message

String

Pesan kesalahan.

Kesalahan yang mungkin terjadi:

Kode kesalahan

Pesan kesalahan

Alasan kesalahan

NotFound

Model: xxx not found!

  • Model yang ditentukan untuk penerapan baru tidak ada.

  • Model yang terkait dengan penerapan yang ditentukan tidak ada.

Conflict

Deployed model xxx already exists, please specify a suffix.

Akhiran yang ditentukan sudah digunakan.

InvalidParameter

Invalid capacity (xx), capacity must be larger than or equal to 0 and multiples of 1 and less than 1000!

Unit kapasitas yang ditentukan tidak valid saat membuat atau memperbarui penerapan.

Penggunaan API
Generasi teks
Pembuatan Gambar
  • FAQ
Video Generation
Model Dunia
Audio
  • Pembuatan audio
Real-time multimodal
Realtime API
Penyematan Teks
Lainnya Model
Toolkit/Framework
TokenPlan
Model production
Manajemen file
Penagihan
Manajemen Model
Lebih Banyak Tentang Model