Kompres model menggunakan teknik seperti kuantisasi untuk mengurangi biaya inferensi.
Ikhtisar
API Kompresi Model mengompres model fine-tuning parameter penuh kustom melalui teknik seperti kuantisasi, sehingga mengurangi jejak memori inferensi dan meningkatkan throughput. Saat ini, fitur kompresi hanya mendukung kuantisasi dan mencakup seluruh siklus hidup mulai dari menanyakan templat, membuat task, polling status, mengambil log, hingga membatalkan atau menghapus task.
Alur khas:
- Daftar model yang dapat dikuantisasi dan templat konfigurasi → peroleh
template_iddanmodelyang dapat dikuantisasi - Buat task kompresi → peroleh
job_id - Polling status task kompresi atau ambil log task kompresi → hingga status
SUCCEEDED,FAILED, atauCANCELED - Setelah status
SUCCEEDED, gunakanquantized_outputuntuk membuat deployment; jika tidak diperlukan lagi, batalkan atau hapus task kompresi
https://dashscope-intl.aliyuncs.com. Autentikasi dilakukan secara seragam menggunakan Authorization: Bearer ${YOUR_API_KEY}, dan permintaan POST harus menyertakan Content-Type: application/json.
Untuk makna bidang objek task dan mesin keadaan, lihat Objek task kompresi; untuk kode kesalahan terpadu, lihat Kode kesalahan di akhir dokumen.
Mulai Cepat
API kompresi model saat ini hanya tersedia di Region Singapura. Jika Anda menggunakan Region lain, lakukan operasi kompresi model melalui konsol Bailian di Region tersebut.API kompresi model menyediakan rangkaian lengkap antarmuka RESTful yang mencakup query templat, pembuatan job, polling status, pengambilan log, serta pembatalan atau penghapusan job. Dokumen ini ditujukan bagi pengembang untuk mengintegrasikan kemampuan kompresi melalui OpenAPI atau SDK. Untuk panduan penggunaan konsol, lihat dokumen terkait.
Prasyarat
Sebelum memanggil antarmuka dalam dokumen ini, harap selesaikan hal berikut:
- Aktifkan layanan Alibaba Cloud Bailian dan selesaikan verifikasi identitas asli.
- Ruang kerja saat ini memiliki setidaknya satu model fine-tuning parameter penuh kustom berbasis
qwen3.5-flash-2026-02-23(diselesaikan melalui antarmuka job fine-tuning). Fitur kompresi saat ini hanya mendukung model ini; model LoRA dan model yang sudah dikuantisasi tidak didukung. - Peroleh API Key (lihat Peroleh API Key).
Spesifikasi unit deployment yang didukung oleh model output terkompresi ditentukan oleh templat kuantisasi yang dipilih, dan jumlah deployment dikonfigurasi di konsol Bailian pada bagian "Model Deployment". Fitur kompresi saat ini gratis untuk waktu terbatas.
Daftar Antarmuka
Semua domain antarmuka: https://dashscope-intl.aliyuncs.com
# | Method | Path | Description |
|---|---|---|---|
1 | GET |
| Daftar model yang dapat dikuantisasi dan templat konfigurasi |
2 | POST |
| Buat job kompresi |
3 | GET |
| Daftar job kompresi |
4 | GET |
| Query detail job kompresi |
5 | GET |
| Dapatkan log job kompresi |
6 | POST |
| Batalkan job kompresi |
7 | DELETE |
| Hapus job kompresi |
Autentikasi
Semua antarmuka membawa API Key melalui HTTP Header:
Content-Type: application/json berlaku untuk skenario badan permintaan POST.
Mulai dalam 5 Menit
- HTTP
base_model adalah qwen3.5-flash-2026-02-23, suffix adalah test, job_id adalah quant-202604111200-a1b2, maka ID model output adalah:
Objek job kompresi
API kompresi model saat ini hanya tersedia di Region Singapura. Jika Anda menggunakan Region lain, lakukan kompresi model di konsol Bailian Region tersebut.
Properti objek
Parameter respons
Bidang | Tipe | Deskripsi |
|---|---|---|
job_id | String | ID Job |
job_name | String | Nama job |
job_description | String | Deskripsi job |
status | String | Status job (lihat Status job) |
model | String | ID model sumber |
base_model | String | ID model dasar |
template_id | String | ID templat kompresi yang digunakan |
template_name | String | Nama templat |
template_description | String | Deskripsi templat |
training_type | String | Jenis job, tetap sebagai |
compress_type | String | Jenis kompresi, sama dengan |
hyper_parameters | Object | Hiperparameter yang benar-benar efektif (hanya mengembalikan parameter yang terlihat pengguna) |
custom_calibration_file_ids | Array<String> | Daftar ID file untuk dataset kalibrasi kustom |
quantized_output | String | ID model yang dihasilkan setelah kuantisasi (hanya memiliki nilai saat SUCCEEDED) |
create_time | String | Waktu pembuatan job |
start_time | String | Waktu eksekusi job dimulai (null saat PENDING/QUEUING) |
end_time | String | Waktu penyelesaian job (memiliki nilai pada status terminal) |
error | Object | Informasi error saat gagal, berisi |
group | String | Kelompok job, tetap sebagai |
usage | Integer | Durasi GPU (detik), muncul saat SUCCEEDED atau CANCELED |
Status job
Status | Deskripsi |
|---|---|
| Job dibuat, menunggu penjadwalan |
| Masuk antrian penjadwalan, menunggu sumber daya GPU |
| Job sedang berjalan |
| Pembatalan dimulai, menunggu terminasi |
| Job berhasil, bidang |
| Job gagal, bidang |
| Job dibatalkan |
Daftar model yang dapat dikuantisasi dan templat konfigurasi
Menampilkan semua model fine-tuning kustom yang dapat dikuantisasi milik pengguna saat ini, serta templat kompresi yang terikat pada setiap model. Templat terikat pada model; kombinasi berbeda dari arsitektur model × presisi × spesifikasi MU target sesuai dengan templat berbeda.
Hanya mengembalikan model kustom yang telah sepenuhnya fine-tuned (SFT/DPO/CPT) oleh pengguna saat ini berdasarkan model dasar. Model fine-tuning LoRA dan model yang sudah dikuantisasi tidak akan muncul dalam hasil.Titik akhir
Parameter | Tipe | Wajib | Default | Deskripsi |
|---|---|---|---|---|
model | String | Tidak | - | Filter berdasarkan ID model; ketika nama model dasar diberikan, mengembalikan semua model kustom berdasarkan model dasar tersebut |
lang | String | Tidak | zh-CN | Bahasa respons: |
Contoh respons (lengkap: dengan hiperparameter yang dapat disetel)
Contoh respons (lengkap: dengan hiperparameter yang dapat disetel)
Bidang | Tipe | Deskripsi |
|---|---|---|
base_models | Array<String> | Daftar nama model dasar yang mendukung kompresi |
custom_models[].model | String | ID model |
custom_models[].model_name | String | Nama tampilan model |
custom_models[].base_model | String | Nama model dasar |
custom_models[].templates | Array | Daftar templat konfigurasi kompresi yang didukung oleh model ini, diwariskan dari templat model dasarnya |
templates[].template_id | String | ID templat, diteruskan sebagai parameter template_id saat membuat task kompresi |
templates[].template_name | String | Nama templat (mendukung multi-bahasa; mengembalikan versi bahasa yang sesuai berdasarkan parameter |
templates[].description | String | Deskripsi templat (mendukung multi-bahasa; mengembalikan versi bahasa yang sesuai berdasarkan parameter |
templates[].compress_type | String | Jenis kompresi, tetap sebagai |
templates[].hyper_parameters | Array | Hiperparameter yang dapat disetel; array kosong berarti tidak ada hiperparameter yang dapat disetel |
hyper_parameters[].name | String | Nama parameter (digunakan sebagai Kunci saat membuat task) |
hyper_parameters[].type | String | Tipe: |
hyper_parameters[].display_name | String | Nama tampilan parameter (mendukung multi-bahasa; mengembalikan versi bahasa yang sesuai berdasarkan parameter |
hyper_parameters[].description | String | Deskripsi parameter (mendukung multi-bahasa; mengembalikan versi bahasa yang sesuai berdasarkan parameter |
hyper_parameters[].defaultValue | String | Nilai default |
hyper_parameters[].recommend_value | String | Nilai yang direkomendasikan |
hyper_parameters[].required | Boolean | Apakah wajib |
hyper_parameters[].support_values | Array<String> | Daftar nilai enumerasi (hanya ada saat |
hyper_parameters[].data_range | Array<String> | Rentang numerik (hanya ada saat |
hyper_parameters[].step | Integer | Ukuran langkah (hanya ada saat |
Buat job kompresi
Titik akhir
Parameter | Tipe | Wajib | Default | Deskripsi |
|---|---|---|---|---|
model | String | Ya | - | ID model sumber, dapat diperoleh melalui API |
template_id | String | Ya | - | ID templat kompresi, dapat diperoleh melalui API |
job_name | String | Tidak | Di-generate otomatis | Nama job; duplikat tidak diizinkan di bawah pengguna yang sama; maksimal 50 karakter |
job_description | String | Tidak | - | Deskripsi job; maksimal 200 karakter |
hyper_parameters | Object | Tidak | Nilai default templat | Override hiperparameter (key-value); hanya kirim item yang ingin di-override |
custom_calibration_file_ids | Array<String> | Tidak | - | Daftar ID file dataset kalibrasi kustom (ID grup dataset, dalam format |
output_model_suffix | String | Tidak | - | Sufiks nama model output terkuantisasi; maksimal 8 karakter, hanya huruf kecil dan angka. Format nama model output: |
Daftar job kompresi
Mendukung filter berdasarkan status, model, templat, spesifikasi kuantisasi, algoritma, rentang waktu, nama/ID job, serta mendukung pengurutan berdasarkan waktu pembuatan dan pagination.
Titik akhir
Parameter | Tipe | Wajib | Default | Deskripsi |
|---|---|---|---|---|
status | String | Tidak | - | Filter berdasarkan status (misalnya, RUNNING, SUCCEEDED) |
model | String | Tidak | - | Filter berdasarkan ID model sumber |
template_id | String | Tidak | - | Filter berdasarkan ID templat |
quant_spec | String | Tidak | - | Filter berdasarkan spesifikasi kuantisasi (misalnya, |
quant_method | String | Tidak | - | Filter berdasarkan algoritma kuantisasi (misalnya, |
start_time | String | Tidak | - | Waktu mulai job tidak lebih awal dari nilai ini. Format: |
end_time | String | Tidak | - | Waktu selesai job tidak lebih akhir dari nilai ini, format sama dengan |
job_name | String | Tidak | - | Pencocokan kabur berdasarkan nama job |
job_id | String | Tidak | - | Pencocokan kabur berdasarkan ID job |
search_key | String | Tidak | - | Kata kunci pencarian. Ketika |
select_key | String | Tidak | - | Bidang pencarian untuk |
sort_by | String | Tidak | create_time | Bidang pengurutan, saat ini hanya mendukung |
sort_order | String | Tidak | desc | Arah pengurutan, |
page_no | Integer | Tidak | 1 | Nomor halaman |
page_size | Integer | Tidak | 10 | Ukuran halaman, maksimal 100 |
Bidang | Tipe | Deskripsi |
|---|---|---|
total | Integer | Total jumlah job yang sesuai |
page_no | Integer | Nomor halaman saat ini |
page_size | Integer | Ukuran halaman |
jobs | Array | Daftar job, makna bidang sama dengan parameter respons pembuatan job kompresi |
Query job kompresi
Titik akhir
Bidang | Tipe | Deskripsi |
|---|---|---|
job_id | String | ID job, dapat diperoleh melalui antarmuka buat job kompresi atau daftar job kompresi |
job_name | String | Nama Tugas |
job_description | String | Deskripsi job |
status | String | Status job (lihat Status job untuk detail) |
model | String | ID model sumber |
base_model | String | ID model dasar |
template_id | String | ID templat kompresi yang digunakan |
template_name | String | Nama templat |
template_description | String | Deskripsi templat |
training_type | String | Jenis job, tetap sebagai |
compress_type | String | Jenis kompresi, sama dengan |
hyper_parameters | Object | Hiperparameter yang benar-benar efektif (hanya mengembalikan parameter yang terlihat pengguna) |
custom_calibration_file_ids | Array<String> | Daftar ID file untuk dataset kalibrasi kustom |
quantized_output | String | ID model yang dihasilkan setelah kuantisasi (hanya memiliki nilai saat SUCCEEDED), dapat digunakan oleh antarmuka Buat deployment untuk deployment model |
create_time | String | Waktu pembuatan job |
start_time | String | Waktu eksekusi job dimulai (null saat PENDING/QUEUING) |
end_time | String | Waktu penyelesaian job (memiliki nilai pada status terminal) |
error | Object | Informasi error saat gagal, berisi |
group | String | Kelompok job, tetap sebagai |
usage | Integer | Durasi GPU (detik), ada saat SUCCEEDED atau CANCELED |
Dapatkan log job kompresi
Titik akhir
{job_id} adalah ID job kompresi, yang dapat diperoleh melalui antarmuka buat job kompresi atau daftar job kompresi.
Parameter permintaan
Parameter | Tipe | Wajib | Default | Deskripsi |
|---|---|---|---|---|
offset | Integer | Tidak | 0 | Lewati N baris pertama dan mulai membaca dari baris ke-(N+1) |
line | Integer | Tidak | 100 | Jumlah baris yang dibaca, maksimal 1000 |
- Ketika dataset kalibrasi kustom disediakan untuk job, log berisi penanda penyelesaian pemrosesan data
data process succeeded, start to quantization - Antarmuka log telah memfilter penanda sistem internal dan hanya mengembalikan informasi progres kompresi yang dapat dibaca pengguna
Batalkan job kompresi
Anda hanya dapat membatalkan job dalam status PENDING, QUEUING, atau RUNNING. Pembatalan adalah operasi asinkron. Job pertama-tama masuk ke status transisi CANCELING dan akhirnya menjadi CANCELED.
Titik akhir
{job_id} adalah ID job kompresi, yang dapat diperoleh dari API Buat job kompresi atau Daftar job kompresi.
Contoh permintaan
Hapus job kompresi
Anda hanya dapat menghapus job dalam status terminal (SUCCEEDED / FAILED / CANCELED). Menghapus catatan job tidak menghapus model terkuantisasi yang sudah dihasilkan (quantized_output).
Titik akhir
{job_id} adalah ID job kompresi, yang dapat diperoleh dari API Buat job kompresi atau Daftar job kompresi.
Contoh permintaan
Kode kesalahan
Kode kesalahan umum
Kode kesalahan | HTTP | Deskripsi |
|---|---|---|
| 400 | Parameter permintaan tidak valid |
| 400 | Parameter wajib tidak ada |
| 401 | Autentikasi gagal |
| 403 | Tidak memiliki izin untuk mengakses |
| 404 | Resource tidak ada |
| 400 | Status resource tidak mengizinkan operasi ini (misalnya, membatalkan job yang sudah dalam status terminal) |
| 429 | Kuota terlampaui |
| 500 | Error layanan internal |
Kode kesalahan bisnis
Kode kesalahan bisnis berikut dicantumkan berdasarkan skenario. External Code adalah nilai aktual bidang code yang dikembalikan oleh antarmuka.
Validasi parameter
External Code | HTTP | Deskripsi |
|---|---|---|
| 400 | Parameter wajib |
| 400 | Parameter wajib |
| 400 | Kuantisasi langsung model dasar tidak didukung |
| 400 | Templat konfigurasi yang ditentukan tidak ada |
| 400 | Model saat ini tidak mendukung templat kompresi ini |
| 400 | Model tidak mendukung kuantisasi |
| 400 | Model fine-tuned LoRA tidak mendukung kuantisasi |
| 400 | Data model tidak tersedia |
| 400 | Nama job mengandung karakter yang tidak didukung |
| 400 |
|
| 400 | Model sumber belum siap |
| 403 | Tidak memiliki izin untuk menggunakan templat kompresi ini |
External Code | HTTP | Deskripsi |
|---|---|---|
| 400 | Hiperparameter wajib tidak disediakan |
| 400 | Hiperparameter yang tidak dikenal disediakan |
| 400 | Nilai hiperparameter tidak ada dalam daftar enumerasi |
| 400 | Nilai hiperparameter di luar rentang |
| 400 | Nilai hiperparameter bukan angka yang valid |
External Code | HTTP | Deskripsi |
|---|---|---|
| 404 | Job kompresi yang ditentukan tidak ada |
| 400 | Parameter wajib |
External Code | HTTP | Deskripsi |
|---|---|---|
| 400 | Parameter nomor halaman tidak valid (harus ≥ 1) |
| 400 | Ukuran halaman tidak valid (harus 1–100) |
| 400 | Format waktu tidak valid |