Skip to main content
模型部署

部署模型管理

部署模型管理介面， 適用於文本、映像、視頻、語音等所有模型類型 。支援查詢部署狀態、擷取可部署模型列表與部署列表、修改限流、擴縮容及刪除部署。

適用範圍

查詢部署模型狀態

查詢指定部署模型的詳細資料和運行狀態。可輪詢此介面，當任務狀態status變為RUNNING時，表示模型已部署成功。
模型部署過程預計需要 5～10分鐘。

地址 

GET https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}

請求樣本

通過以下命令可以查詢指定專屬服務的詳細資料： 
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/qwen-plus-202305099980-fac9-sample" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

請求參數

參數

類型

傳參方式

必選

說明

deployed_model

String

path

是

部署模型的唯一標識，可通過部署模型或查詢部署模型列表介面擷取。

響應樣本

關注status欄位。當狀態變為 RUNNING 時，表示模型已部署成功，可以開始調用。 
{
  "request_id": "66a855f0-a6fe-4b05-9786-fb30c7c6782d",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:06:13",
    "status": "RUNNING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 1,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3***",
    "charge_type": "post_paid",
    "creator": "175805416***",
    "modifier": "175805416***"
  }
}

響應參數

欄位

類型

描述

request_id

String

請求的唯一識別碼。

output

Object

任務詳情。

output.deployed_model

String

部署模型的唯一標識。用於查詢模型部署狀態和調用模型。

output.model_name

String

模型標識名。

output.base_model

String

使用的基準模型。

output.status

String

部署狀態：

  • PENDING：正在建立部署任務。

  • RUNNING：部署任務正在運行，模型可正常處理請求。

  • UPDATING：變更配置中。

  • UPDATING_FAILED：變更配置失敗。

  • DELETING：正在刪除部署任務。

  • DELETED：已刪除。

  • FAILED：部署任務建立或更新失敗。

  • STOPPED：部署任務已停止，不會被計費。

  • ARREARS_DOWN：欠費停服。

  • ARREARS_RECOVERING：欠費停服恢複中。

  • OFFLINING：服務下線中。

output.base_capacity

Number

基礎資源單元數量。

output.capacity

Number

當前資源單元數量。

output.ready_capacity

Number

已就緒的資源單元數量。

output.workspace_id

String

阿里雲百鍊 API Key 所屬的業務空間 ID。請參見擷取Workspace ID。

output.charge_type

String

付費模式。post_paid 表示後付費。

output.gmt_create

String

部署任務建立時間。

output.gmt_modified

String

部署任務更新時間。

output.creator

String

建立人的阿里雲帳號 ID。

output.modifier

String

修改人的阿里雲帳號 ID。

output.plan

String

部署方式。

擷取可部署模型列表

擷取百鍊平台上有資格部署的候選模型清單，即哪些模型可以用來建立部署。

地址 

GET https://dashscope-intl.aliyuncs.com/api/v1/deployments/models

請求樣本

通過下面的命令可以查詢支援部署的模型，推薦使用version=v1.0擷取包含部署方案和模板資訊的完整響應。 
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/models?page_no=1&page_size=100&version=v1.0&model_source=base" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'
查詢使用者調優模型： 
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/models?page_no=1&page_size=100&version=v1.0&model_source=custom" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

請求參數

參數

類型

必選

說明

page_no

Number

否

頁碼，預設值為1。

page_size

Number

否

頁大小，預設為50，最大值為100，最小值為1。

model_source

String

否

模型來源。base表示系統模型（預設），custom表示使用者調優模型。

version

String

否

API 版本，推薦使用v1.0。使用v1.0時，響應中將包含完整的部署方案和模板資訊。

響應樣本

命令執行完成後，獲得以下結果： 
{
    "request_id": "f7da015c-ea90-4d96-af89-2f8d7604026a",
    "output": {
        "page_no": 1,
        "page_size": 100,
        "total": 5,
        "models": [
            {
                "model_name": "qwen3-8b",
                "plans": [
                    {
                        "plan": "mu",
                        "templates": [
                            {
                                "template_id": "MU1",
                                "template_name": "單機部署-標準推理型",
                                "template_type": "COUPLED",
                                "template_version": "v1",
                                "template_desc": "適用於標準推理情境",
                                "roles": {
                                    "unified": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    }
                                }
                            },
                            {
                                "template_id": "MU1-PD",
                                "template_name": "PD分離部署-標準推理型",
                                "template_type": "SEPERATED",
                                "template_version": "v1",
                                "template_desc": "適用於PD分離推理情境",
                                "roles": {
                                    "prefill": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    },
                                    "decode": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    }
                                }
                            }
                        ]
                    },
                    {
                        "plan": "lora"
                    }
                ]
            }
        ]
    }
}

響應參數

參數

類型

說明

models

Array

可部署模型列表。

models[].model_name

String

模型名稱。

models[].plans

Array

該模型支援的部署方案列表。使用version=v1.0時返回。

models[].plans[].plan

String

部署方案類型：mu（模型單元）、cu（算力單元）、ptu（預置輸送量）、lora（LoRA共用部署）。

models[].plans[].templates

Array

部署模板列表（plan=mu時返回）。

models[].plans[].templates[].template_id

String

模板 ID，在建立模型部署任務時作為deploy_spec參數傳入。

models[].plans[].templates[].template_name

String

模板顯示名稱。

models[].plans[].templates[].template_type

String

模板類型：COUPLED（非 PD 分離，使用capacity參數）、SEPERATED（PD 分離，使用prefill_capacity和decode_capacity參數）。

models[].plans[].templates[].template_version

String

模板版本。

models[].plans[].templates[].template_desc

String

模板描述。

models[].plans[].templates[].roles

Object

節點角色配置。COUPLED 模式包含unified節點，SEPERATED 模式包含prefill和decode節點。

models[].plans[].templates[].roles.{role}.model_unit_spec

String

模型單元規格。

models[].plans[].templates[].roles.{role}.capacity_unit_per_instance

Number

單一實例容量單元數，即 base_capacity。建立部署時capacity必須是該值的整數倍。

page_no

Number

查詢頁碼。

page_size

Number

查詢頁大小。

total

Long

滿足查詢條件的所有模型個數。

擷取已部署模型列表

擷取已建立的部署執行個體列表，即當前工作空間下實際運行或已部署的模型服務。

地址 

GET https://dashscope-intl.aliyuncs.com/api/v1/deployments

請求樣本

通過以下命令可以擷取專屬服務列表： 
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments?page_no=1&page_size=100" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

請求參數

參數

類型

傳參方式

必選

說明

page_no

Number

query

否

頁碼，預設值為1。

page_size

Number

query

否

頁大小，預設為50，最大值為200，最小值為1。

響應樣本

命令執行完成後，返回以下結果： 
{
  "request_id": "7efdd3a7-a90d-96c6-b477-70055d59edf7",
  "output": {
    "page_no": 1,
    "page_size": 10,
    "total": 1,
    "deployments": [
      {
        "deployed_model": "emo-35b3f106-sample01",
        "gmt_create": "2025-06-17T11:00:38",
        "gmt_modified": "2025-06-17T11:06:13",
        "status": "RUNNING",
        "model_name": "emo",
        "base_model": "emo",
        "base_capacity": 1,
        "capacity": 1,
        "ready_capacity": 1,
        "workspace_id": "llm-v71tlv3d***",
        "charge_type": "post_paid",
        "creator": "175805416***",
        "modifier": "175805416***"
      }
    ]
  }
}

響應參數

欄位

類型

描述

request_id

String

本次請求的系統唯一碼。

output.page_no

Number

當前頁碼。

output.page_size

Number

每頁數量。

output.total

Number

部署總數。

output.deployments

Array

部署模型列表，每個元素的欄位與查詢部署模型狀態的 output 欄位一致。

修改部署模型的限流

修改指定部署模型的 RPM（每分鐘請求數）和 TPM（每分鐘 Token 數）限流設定。
僅模型單元部署方式的部分模型支援修改設定 rpm 和 tpm。

地址 

PUT https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}/update

請求樣本

通過以下命令可以修改指定部署的限流設定： 
curl -X PUT "https://dashscope-intl.aliyuncs.com/api/v1/deployments/qwen-plus-2025-12-01-b6d61c71/update" \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
    "rpm_limit": 1000,
    "tpm_limit": 200
}'

請求參數

參數

類型

傳參方式

必選

說明

deployed_model

String

path

是

部署模型的唯一標識，可通過部署模型或查詢部署模型列表介面擷取。

rpm_limit

Number

body

至少填寫一個參數

Requests per minute，每分鐘請求數。

tpm_limit

Number

body

Token per minute，每分鐘 Token 使用量。

響應樣本

命令執行完成後，返回如下結果： 
{
    "request_id": "1d121fd9-876c-40ad-bc40-a9e68ef3b986",
    "output":
    {
        "deployed_model": "qwen-plus-2025-12-01-b6d61c71",
        "gmt_create": "2026-01-07T13:52:44",
        "gmt_modified": "2026-01-07T14:01:41",
        "status": "PENDING",
        "model_name": "qwen-plus-2025-12-01",
        "base_model": "qwen-plus-2025-12-01",
        "base_capacity": 4,
        "capacity": 4,
        "ready_capacity": 0,
        "workspace_id": "llm-8v53e*******",
        "charge_type": "post_paid",
        "creator": "16542902******",
        "modifier": "16542902********",
        "plan": "mu",
        "model_unit_spec": "MU1",
        "enable_thinking": true,
        "max_context_length": 1,
        "rpm_limit": 1000,
        "tpm_limit": 200
    }
}

響應參數

除查詢部署模型狀態中列出的基礎欄位外，還可能包含以下欄位：

欄位

類型

描述

output.plan

String

部署方式。

output.model_unit_spec

String

模型單元部署模板，如 MU1。

output.enable_thinking

Boolean

是否開啟思考模式。

output.max_context_length

Number

最大上下文長度。

output.rpm_limit

Number

每分鐘請求數限制。

output.tpm_limit

Number

每分鐘 Token 數限制。

擴縮容部署服務

通過更新操作調整專屬服務使用的資源單元數量。

地址 

PUT https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}/scale

請求樣本

通過以下命令可以將指定的服務進行擴縮容： 
curl --request PUT "https://dashscope-intl.aliyuncs.com/api/v1/deployments/emo-35b3f106-sample01/scale" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json' \
    --data '{
                "capacity":2
            }'

請求參數

參數

類型

必選

說明

deployed_model

String

是

部署模型的唯一標識（path 參數），可通過部署模型或查詢部署模型列表介面擷取。

capacity

Integer

條件必選

僅"plan": "mu"時生效。具體支援情況請參考模型單元部署的功能支援情況。

更新後模型所使用的資源單元數量，必須是base_capacity的整數倍。

ptu_capacity

Object

條件必選

僅"plan": "ptu"時生效。具體支援情況請參考PTU部署的功能支援情況。

範例："ptu_capacity": { "input_tpm": 10000, "output_tpm": 1000 }。

ptu_capacity.input_tpm

Number

條件必選

僅"plan": "ptu"時生效。具體支援情況請參考PTU部署的功能支援情況。

部署的模型每分鐘支援的最大輸入 Token 量（input tokens per minute）。所有模型支援。

ptu_capacity.output_tpm

Number

條件必選

僅"plan": "ptu"時生效。具體支援情況請參考PTU部署的功能支援情況。

部署的模型每分鐘支援的最大輸出 Token 量（output tokens per minute）。所有模型支援。

ptu_capacity.thinking_output_tpm

Number

否

僅"plan": "ptu"時生效。具體支援情況請參考PTU部署的功能支援情況。

部署的模型每分鐘支援的預置思考最大輸出 Token 量（thinking output tokens per minute）。部分模型支援。

響應樣本

命令執行完成後，返回以下結果： 
{
  "request_id": "6c6b7676-3fea-423b-bc26-c9e2337e1142",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:42:02.311",
    "status": "UPDATING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 2,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3dezezp2en",
    "charge_type": "post_paid",
    "creator": "17580541***",
    "modifier": "17580541***"
  }
}

響應參數

響應欄位與查詢部署模型狀態一致，請參考查詢部署模型狀態的響應參數。

刪除部署

刪除指定的部署模型，釋放對應的計算資源。
執行該操作後，模型部署服務將立即下線且不可恢複：
  1. 模型將無法調用。
  2. 部署服務停止計費。

地址 

DELETE https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}

請求樣本

通過以下命令可以刪除指定的部署任務。 
curl --request DELETE "https://dashscope-intl.aliyuncs.com/api/v1/deployments/emo-35b3f106-sample01" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

請求參數

參數

類型

傳參方式

必選

說明

deployed_model

String

path

是

部署模型的唯一標識，可通過部署模型或查詢部署模型列表介面擷取。

響應樣本

關注status欄位。當狀態變為 DELETING 時，表示正在刪除部署任務。 
{
  "request_id": "5378b78b-8564-481f-a3e0-580e551df22c",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:42:02",
    "status": "DELETING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 2,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3***",
    "charge_type": "post_paid",
    "creator": "175805416***",
    "modifier": "175805416***"
  }
}
之後，再調用查詢部署模型狀態進行驗證。若返回如下內容，說明部署的服務已不存在，刪除成功。 
{
    "request_id": "eb619064-0c4f-4d29-aa49-xxxxxx",
    "message": "Not found.",
    "code": "NotFound"
}

響應參數

響應欄位與查詢部署模型狀態一致，請參考查詢部署模型狀態的響應參數。

異常響應

響應樣本 

{
    "request_id": "ca218d57-b91b-46b2-bd35-c41c6287bcf4",
    "message": "Model: qwen-plus-20230703-cx7f not found!",
    "code": "NotFound"
}

響應參數

欄位

類型

描述

request_id

String

本次請求的系統唯一碼。

code

String

錯誤碼。

message

String

錯誤資訊。

當請求出錯時，可能返回以下錯誤：

錯誤碼

錯誤資訊

錯誤原因

NotFound

Model: xxx not found!

  • 建立部署任務時指定了不存在的模型。

  • 查詢/更新/刪除部署任務時指定了不存在的模型。

Conflict

Deployed model xxx already exists, please specify a suffix.

建立部署任務時使用了已使用過的suffix。

InvalidParameter

Invalid capacity (xx), capacity must be larger than or equal to 0 and multiples of 1 and less than 1000!

建立/更新部署任務時指定了無效的算力單元數量。

使用 API
文本產生
映像產生
視頻產生
音頻
即時多模態
Realtime API
  • 概述
向量與排序
更多模型
工具包/架構
模型生產
檔案管理
更多