通過量化等方式壓縮模型,降低推理成本。
概述
模型壓縮 API 通過量化(quantization)等技術壓縮自訂全參調優模型,降低推理顯存佔用、提升吞吐。當前壓縮功能僅支援量化,覆蓋從查詢範本、建立任務、輪詢狀態、擷取日誌到取消/刪除任務的完整生命週期。
典型流程:
- 列舉可量化模型及配置模板 → 擷取
template_id與可量化的model - 建立壓縮任務 → 拿到
job_id - 輪詢 查詢壓縮任務 / 擷取壓縮任務日誌 → 直到
SUCCEEDED/FAILED/CANCELED SUCCEEDED後用quantized_output建立部署;不再需要時 取消壓縮任務 / 刪除壓縮任務
https://dashscope-intl.aliyuncs.com。鑒權統一使用 Authorization: Bearer ${YOUR_API_KEY},POST 請求需附帶 Content-Type: application/json。
任務對象欄位含義與狀態機器見 壓縮任務對象;錯誤碼統一見文末錯誤碼。
快速開始
當前模型壓縮 API 僅在新加坡 Region 開放。如您使用其他 Region,請通過該 Region 的百鍊控制台完成模型壓縮操作。模型壓縮 API 提供從查詢範本、建立任務、輪詢狀態、擷取日誌到取消/刪除任務的完整 RESTful 介面。本文檔面向開發人員通過 OpenAPI 或 SDK 整合壓縮能力。控制台介紹見相關文檔。
前提條件
在調用本文檔介面前,請先完成:
- 已開通阿里雲百鍊服務並完成實名認證。
- 當前工作空間至少有一個基於
qwen3.5-flash-2026-02-23的自訂全參調優模型(通過調優任務介面完成 )。當前壓縮功能僅支援該模型,LoRA 模型和已量化的模型不支援。 - 已擷取 API Key(參考 擷取 API Key)。
壓縮產出的模型支援的部署單元規格由所選量化模板決定,部署數量在百鍊控制台「模型部署」中配置。當前壓縮功能限時免費。
介面列表
所有介面網域名稱:https://dashscope-intl.aliyuncs.com
# | 方法 | 路徑 | 說明 |
|---|---|---|---|
1 | GET |
| 列舉可量化模型及配置模板 |
2 | POST |
| 建立壓縮任務 |
3 | GET |
| 列舉壓縮任務 |
4 | GET |
| 查詢壓縮任務詳情 |
5 | GET |
| 擷取壓縮任務日誌 |
6 | POST |
| 取消壓縮任務 |
7 | DELETE |
| 刪除壓縮任務 |
鑒權
所有介面通過 HTTP Header 攜帶 API Key:
Content-Type: application/json 適用於 POST 請求體情境。
5 分鐘上手
- HTTP
base_model 為 qwen3.5-flash-2026-02-23,suffix 為 test,job_id 為 quant-202604111200-a1b2,產出模型 ID 為:
壓縮任務對象
當前模型壓縮 API 僅在新加坡 Region 開放。如您使用其他 Region,請通過該 Region 的百鍊控制台完成模型壓縮操作。
對象屬性
響應參數
欄位 | 類型 | 說明 |
|---|---|---|
job_id | String | 任務 ID |
job_name | String | 任務名稱 |
job_description | String | 任務描述 |
status | String | 任務狀態(詳見任務狀態) |
model | String | 源模型 ID |
base_model | String | 基本模型 ID |
template_id | String | 使用的壓縮模板 ID |
template_name | String | 模板名稱 |
template_description | String | 模板描述 |
training_type | String | 任務類型,固定為 |
compress_type | String | 壓縮類型,同 |
hyper_parameters | Object | 實際生效的超參(僅返回使用者可見參數) |
custom_calibration_file_ids | Array<String> | 自訂校準資料集檔案 ID 列表 |
quantized_output | String | 量化後產出的模型 ID(僅 SUCCEEDED 時有值) |
create_time | String | 任務建立時間 |
start_time | String | 任務開始執行時間(PENDING/QUEUING 時為 null) |
end_time | String | 任務完成時間(終態時有值) |
error | Object | 失敗時的錯誤資訊,含 |
group | String | 任務分組,固定為 |
usage | Integer | GPU 時間長度(秒),SUCCEEDED 或 CANCELED 時出現 |
任務狀態
狀態 | 說明 |
|---|---|
| 任務已建立,等待調度 |
| 已進入調度隊列,等待 GPU 資源 |
| 任務執行中 |
| 已發起取消,等待終止 |
| 任務成功, |
| 任務失敗, |
| 任務已取消 |
列舉可量化模型及配置模板
列出目前使用者所有可量化的自訂調優模型,及每個模型對應的壓縮模板。模板綁定在模型上,不同模型架構 × 精度 × 目標 MU 規格的組合對應不同模板。
僅返回目前使用者基於基本模型做 SFT/DPO/CPT 全參調優的自訂模型。LoRA 調優模型和已量化模型不會出現在結果中。地址
參數 | 類型 | 必選 | 預設 | 說明 |
|---|---|---|---|---|
model | String | 否 | - | 按模型 ID 過濾;傳基本模型名時返回基於該基本模型的所有自訂模型 |
lang | String | 否 | zh-CN | 響應語言: |
響應樣本(完整:含可調超參)
響應樣本(完整:含可調超參)
欄位 | 類型 | 說明 |
|---|---|---|
base_models | Array<String> | 支援壓縮的基本模型名稱列表 |
custom_models[].model | String | 模型 ID |
custom_models[].model_name | String | 模型展示名稱 |
custom_models[].base_model | String | 基本模型名稱 |
custom_models[].templates | Array | 該模型支援的壓縮配置模板列表,繼承其基本模型的模板 |
templates[].template_id | String | 模板 ID,建立壓縮任務時作為 template_id 參數傳入 |
templates[].template_name | String | 模板名稱(支援多語言,根據 |
templates[].description | String | 模板描述(支援多語言,根據 |
templates[].compress_type | String | 壓縮類型,固定為 |
templates[].hyper_parameters | Array | 可調超參數;空數組表示無可調超參 |
hyper_parameters[].name | String | 參數名(建立任務時作為 Key 使用) |
hyper_parameters[].type | String | 類型: |
hyper_parameters[].display_name | String | 參數展示名稱(支援多語言,根據 |
hyper_parameters[].description | String | 參數描述(支援多語言,根據 |
hyper_parameters[].defaultValue | String | 預設值 |
hyper_parameters[].recommend_value | String | 推薦值 |
hyper_parameters[].required | Boolean | 是否必傳 |
hyper_parameters[].support_values | Array<String> | 枚舉值列表(僅 |
hyper_parameters[].data_range | Array<String> | 數值範圍(僅 |
hyper_parameters[].step | Integer | 步長(僅 |
建立壓縮任務
地址
參數 | 類型 | 必選 | 預設 | 說明 |
|---|---|---|---|---|
model | String | 是 | - | 源模型 ID,可通過介面擷取 |
template_id | String | 是 | - | 壓縮模板 ID,可通過介面擷取 |
job_name | String | 否 | 自動產生 | 任務名稱,同一使用者下不允許重複;最多 50 字元 |
job_description | String | 否 | - | 任務描述;最多 200 字元 |
hyper_parameters | Object | 否 | 模板預設值 | 超參覆蓋(Key-Value),只傳想覆蓋的項 |
custom_calibration_file_ids | Array<String> | 否 | - | 自訂校準資料集檔案 ID 列表(資料集組 ID,格式 |
output_model_suffix | String | 否 | - | 量化產出模型名尾碼;最多 8 字元,僅小寫字母和數字。輸出模型名格式: |
列舉壓縮任務
支援按狀態、模型、模板、量化規格、演算法、時間範圍、任務名/ID 等過濾,支援建立時間排序和分頁。
地址
參數 | 類型 | 必選 | 預設 | 說明 |
|---|---|---|---|---|
status | String | 否 | - | 按狀態過濾(如 RUNNING、SUCCEEDED) |
model | String | 否 | - | 按源模型 ID 過濾 |
template_id | String | 否 | - | 按模板 ID 過濾 |
quant_spec | String | 否 | - | 按量化規格過濾(如 |
quant_method | String | 否 | - | 按量化演算法過濾(如 |
start_time | String | 否 | - | 任務開始時間不早於該值。格式: |
end_time | String | 否 | - | 任務結束時間不晚於該值,格式同 |
job_name | String | 否 | - | 按任務名稱模糊比對 |
job_id | String | 否 | - | 按任務 ID 模糊比對 |
search_key | String | 否 | - | 搜尋索引鍵。不傳 |
select_key | String | 否 | - |
|
sort_by | String | 否 | create_time | 排序欄位,目前僅支援 |
sort_order | String | 否 | desc | 排序方向, |
page_no | Integer | 否 | 1 | 頁碼 |
page_size | Integer | 否 | 10 | 每頁數量,最大 100 |
欄位 | 類型 | 說明 |
|---|---|---|
total | Integer | 合格任務總數 |
page_no | Integer | 當前頁碼 |
page_size | Integer | 每頁數量 |
jobs | Array | 工作清單,欄位含義同建立壓縮任務響應參數 |
查詢壓縮任務
地址
欄位 | 類型 | 說明 |
|---|---|---|
job_id | String | 任務 ID,可通過建立壓縮任務或列舉壓縮任務介面擷取 |
job_name | String | 任務名稱 |
job_description | String | 任務描述 |
status | String | 任務狀態(詳見任務狀態) |
model | String | 源模型 ID |
base_model | String | 基本模型 ID |
template_id | String | 使用的壓縮模板 ID |
template_name | String | 模板名稱 |
template_description | String | 模板描述 |
training_type | String | 任務類型,固定為 |
compress_type | String | 壓縮類型,同 |
hyper_parameters | Object | 實際生效的超參(僅返回使用者可見參數) |
custom_calibration_file_ids | Array<String> | 自訂校準資料集檔案 ID 列表 |
quantized_output | String | 量化後產出的模型 ID(僅 SUCCEEDED 時有值),可用於部署模型介面進行模型部署 |
create_time | String | 任務建立時間 |
start_time | String | 任務開始執行時間(PENDING/QUEUING 時為 null) |
end_time | String | 任務完成時間(終態時有值) |
error | Object | 失敗時的錯誤資訊,含 |
group | String | 任務分組,固定為 |
usage | Integer | GPU 時間長度(秒),SUCCEEDED 或 CANCELED 時出現 |
擷取壓縮任務日誌
地址
{job_id} 為壓縮任務 ID,可通過建立壓縮任務或列舉壓縮任務介面擷取。
請求參數
參數 | 類型 | 必選 | 預設 | 說明 |
|---|---|---|---|---|
offset | Integer | 否 | 0 | 忽略前 N 行,從第 N+1 行開始讀取 |
line | Integer | 否 | 100 | 讀取行數,上限 1000 |
- 任務傳入自訂校準資料集時,日誌中包含資料處理完成標記
data process succeeded, start to quantization - 日誌介面已過濾系統內部標記,僅返回使用者可讀的壓縮排度資訊
取消壓縮任務
僅允許取消 PENDING、QUEUING 或 RUNNING 狀態的任務。取消為非同步作業,任務會先進入 CANCELING 過渡態,最終轉為 CANCELED。
地址
{job_id} 為壓縮任務 ID,可通過建立壓縮任務或列舉壓縮任務介面擷取。
請求樣本
刪除壓縮任務
僅允許刪除終態(SUCCEEDED / FAILED / CANCELED)的任務。刪除任務記錄不會刪除已產出的量化模型(quantized_output)。
地址
{job_id} 為壓縮任務 ID,可通過建立壓縮任務或列舉壓縮任務介面擷取。
請求樣本
錯誤碼
通用錯誤碼
錯誤碼 | HTTP | 說明 |
|---|---|---|
| 400 | 請求參數不合法 |
| 400 | 缺少必選參數 |
| 401 | 認證失敗 |
| 403 | 無許可權訪問 |
| 404 | 資源不存在 |
| 400 | 資源狀態不允許該操作(如取消已終態任務) |
| 429 | 配額超限 |
| 500 | 服務內部錯誤 |
業務錯誤碼
以下業務錯誤碼按情境分類列出。對外 Code 為介面實際返回的 code 欄位值。
參數校正類
對外 Code | HTTP | 說明 |
|---|---|---|
| 400 | 缺少必選參數 |
| 400 | 缺少必選參數 |
| 400 | 不支援對基本模型直接量化 |
| 400 | 指定的配置模板不存在 |
| 400 | 當前模型不支援該壓縮模板 |
| 400 | 模型不支援量化 |
| 400 | LoRA 調優模型不支援量化 |
| 400 | 模型資料不可用 |
| 400 | 任務名稱包含不支援的字元 |
| 400 |
|
| 400 | 源模型尚未就緒 |
| 403 | 無權使用該壓縮模板 |
對外 Code | HTTP | 說明 |
|---|---|---|
| 400 | 必選超參數未傳 |
| 400 | 傳入了未知超參數 |
| 400 | 超參數值不在枚舉值列表中 |
| 400 | 超參數值超出數值範圍 |
| 400 | 超參數值不是合法數字 |
對外 Code | HTTP | 說明 |
|---|---|---|
| 404 | 指定的壓縮任務不存在 |
| 400 | 缺少必選參數 |
對外 Code | HTTP | 說明 |
|---|---|---|
| 400 | 頁碼參數不合法(須 ≥ 1) |
| 400 | 每頁數量不合法(須 1~100) |
| 400 | 時間格式不合法 |