將訓練好的映像產生模型發布為線上 API 服務。
適用範圍
- 適用地區:當前模型部署 API 僅在新加坡地區開放。如您使用其他地區,請通過該地區的百鍊控制台完成模型部署操作。
- 開通帳號許可權:若使用阿里雲子帳號(RAM使用者),需要為子帳號授予模型調用、訓練和部署許可權。
- 配置環境變數:已成功擷取 API Key,並配置到環境變數。
- 前提條件:已完成模型微調訓練。請先調用查詢調優任務介面,確認任務狀態
status為 SUCCEEDED 後再進行部署。
部署模型
- 新加坡
POST https://dashscope-intl.aliyuncs.com/api/v1/deploymentsWindows CMD 請將$DASHSCOPE_API_KEY替換為%DASHSCOPE_API_KEY%,PowerShell請替換為$env:DASHSCOPE_API_KEY
請求參數要求標頭(Headers)Content-Typestring (必選)固定值:application/jsonAuthorization string (必選)API Key鑒權,格式為Bearer sk-xxxx。請求體(Request Body)model_namestring (必選)待部署的模型ID(非基本模型名稱,而是微調或匯出後產生的模型標識)。擷取方式:capacity integer (必選)部署的模型執行個體數量。推薦設定為1。plan string (必選)部署方式。LoRA高效微調推薦為lora。 |
|
響應參數request_idstring請求的唯一識別碼。output object任務詳情。
屬性 deployed_model string部署模型的唯一標識。用於查詢模型部署狀態和調用模型。model_name string模型標識名。status string部署狀態:
string使用的基準模型。gmt_create string部署任務建立時間。gmt_modified string部署任務更新時間。workspace_id string阿里雲百鍊API Key所屬的業務空間ID。請參見擷取Workspace ID。charge_type string付費模式。post_paid表示後付費。creator string建立人的阿里雲帳號ID。modifier string修改人的阿里雲帳號ID。plan string部署方式。string錯誤碼。調用失敗時返回。message string錯誤詳情描述。調用失敗時返回。 |
重點關註: output.deployed_model(部署模型的唯一標識)、output.status(部署狀態)。 |