Skip to main content

Kompresi model

Kompresi model menggunakan kuantisasi untuk mengonversi model fine-tuned presisi penuh menjadi versi presisi rendah, sehingga mengurangi spesifikasi MU dan biaya yang diperlukan untuk penerapan. Topik ini menjelaskan cara membuat dan mengelola tugas kompresi model di Konsol.

Ikhtisar fitur

Kompresi model menggunakan kuantisasi untuk mengonversi model fine-tuned presisi penuh menjadi versi presisi rendah, mengurangi spesifikasi MU yang diperlukan untuk penerapan sekaligus mempertahankan kemampuan model, sehingga menurunkan biaya inferensi. Di platform Model Studio, kompresi model secara khusus merujuk pada kuantisasi dan tidak mencakup pemangkasan struktural atau penyulingan pengetahuan. Kompresi model merupakan langkah opsional dalam pipeline produksi model. Pipeline lengkapnya adalah: Fine-tuning → Kompresi model → Deployment. Anda harus terlebih dahulu menyelesaikan fine-tuning, lalu mengompresi model fine-tuned yang dihasilkan, dan akhirnya menerapkan model terkompresi tersebut sebagai layanan inferensi.
Kompresi bersifat ireversibel. Model terkompresi tidak dapat dilakukan fine-tuning lebih lanjut atau dikompresi ulang. Harap konfirmasi templat kuantisasi sebelum melakukan kompresi.

Model yang didukung

Model yang saat ini didukung untuk kompresi tercantum dalam tabel berikut. Lihat Konsol untuk daftar aktualnya.
  • China (Beijing)
  • Singapore

Model series

Base model

Deployment specification before compression

Deployment specification after compression

Qwen

qwen3.5-flash-2026-02-23

MU1*2($14.852/hour)

MU5/MU8/MU9

Qwen

qwen3.6-plus-2026-04-02

MU1*8($59.408/hour)

Lihat Konsol

Batasan penggunaan

  • Hanya tersedia di wilayah North China 2 (Beijing).
  • Hanya mendukung model kustom yang dihasilkan melalui fine-tuning di platform Model Studio. Model dasar dan model pihak ketiga tidak didukung.
  • Model terkompresi tidak dapat dilakukan fine-tuning lebih lanjut atau dikompresi ulang.

Buat tugas kompresi

Prasyarat

Sebelum menggunakan fitur kompresi model, pastikan model kustom yang telah difine-tune di platform Model Studio sudah tersedia di ruang kerja saat ini. Jika Anda belum menyelesaikan fine-tuning, pertama-tama selesaikan pelatihan dengan merujuk ke Fine-tuning.

Prosedur

  1. Login ke Konsol Model Studio. Di bilah navigasi atas, pilih Model > Train > Model Compression.
  2. Di halaman kompresi model, klik Create Compression Task.
  3. Di halaman pembuatan tugas kompresi, konfigurasikan parameter berikut:
    image

    Parameter

    Required

    Description

    Task Name

    Yes

    Maksimal 50 karakter. Disarankan menyertakan singkatan model, metode kuantisasi, dan nomor versi agar lebih mudah dikelola selanjutnya.

    Task Description

    No

    Maksimal 200 karakter.

    Source Model

    Yes

    Klik untuk membuka dialog pemilihan model, yang hanya menampilkan model fine-tuned yang dapat dikompresi. Jika tidak ada model yang tersedia di dialog, selesaikan terlebih dahulu pelatihan fine-tuning model. Mengganti model sumber akan secara otomatis menghapus templat kuantisasi yang dipilih, karena daftar templat yang didukung berbeda-beda antar model.

    Output Model Name Suffix

    Yes

    Hanya mendukung huruf kecil dan angka, panjang maksimal 8 karakter. Karakter yang tidak valid akan secara otomatis difilter. Akhiran ini ditambahkan ke nama model sumber sebagai identifikasi model terkompresi.

    Quantization Template

    Yes

    Templat yang tersedia ditampilkan dalam bentuk kisi kartu. Anda harus memilih model sumber terlebih dahulu sebelum memilih templat. Angka MU yang lebih besar dalam nama templat menunjukkan spesifikasi penerapan yang lebih kecil dan biaya lebih rendah.

    Calibration Data

    Conditionally required

    Bidang ini hanya muncul jika templat kuantisasi yang dipilih mencakup parameter input kalibrasi. Anda dapat memilih hingga 5 set data; set data yang dimount dari OSS tidak didukung. Set data harus dibuat dan dipublikasikan di Data Management.

  4. Setelah memastikan konfigurasi sudah benar, klik Start Compression. Tombol ini hanya dapat diklik setelah semua bidang wajib diisi. Setelah berhasil dibuat, Anda akan diarahkan secara otomatis ke halaman daftar tugas.
Konfigurasi tugas kompresi tidak dapat diubah setelah dibuat. Harap teliti kembali pemilihan templat kuantisasi sebelum mengklik Start Compression.

Lihat progres dan log tugas kompresi

Di halaman daftar tugas, klik nama tugas untuk masuk ke halaman detail. Halaman detail berisi dua tab: Details dan Log.

Tab Details

image
Tab Details menampilkan informasi berikut:
  • Informasi dasar: ID Tugas (dapat disalin), status berjalan, waktu pembuatan, dan durasi tugas (diperbarui secara real time selama berjalan). Saat tugas gagal, pesan error juga ditampilkan.
  • Konfigurasi kompresi: Model sumber, model terkompresi, metode kuantisasi, data kalibrasi, dan informasi konfigurasi lain yang ditetapkan saat pembuatan.

Tab Log

image
Beralih ke tab Log untuk melihat log proses kompresi.
  • Baris yang ditampilkan: Anda dapat memilih untuk menampilkan 100, 500, 2.000, atau 5.000 baris log terbaru.
  • Auto refresh: Saat diaktifkan, konten log diperbarui secara otomatis setiap 30 detik.
  • Pewarnaan level log: INFO (hijau), DEBUG (abu-abu), ERROR (merah), WARN (kuning).
  • Operasi log: Mendukung pengunduhan log lengkap (tidak dibatasi jumlah baris yang ditampilkan), menciutkan atau memperluas sub-entri, beralih antara mode gelap dan terang, serta mengaktifkan/menonaktifkan word wrap.

Troubleshooting kegagalan

Jika tugas kompresi gagal, lakukan troubleshooting dengan langkah-langkah berikut:
  1. Lihat pesan error di tab Details.
  2. Beralih ke tab Log dan cari log bertingkat ERROR.
  3. Unduh log lengkap untuk analisis lebih rinci.
  4. Jika masalah tetap belum terselesaikan, kirim tiket dan lampirkan ID tugas beserta file log.

Kelola tugas kompresi

Di Konsol, pilih Model > Train > Model Compression untuk masuk ke halaman daftar tugas dan mengelola tugas kompresi yang telah Anda buat.
image

Daftar tugas

Daftar tugas menampilkan 7 kolom informasi berikut:

Column name

Description

Task Name/ID

Nama tugas dan ID tugas. Klik nama tugas untuk menuju halaman detail.

Quantization Template

Nama templat kuantisasi yang dipilih saat tugas dibuat.

Task Status

Status berjalan saat ini dari tugas.

Source Model

Nama model fine-tuned sebelum dikompresi.

Compressed Model

Nama model hasil kompresi. Ini hanya dapat diklik jika tugas berhasil, dan akan mengarahkan ke pusat model untuk dilihat.

Creation Time

Waktu pembuatan tugas.

Operation

Operasi yang tersedia, termasuk stop dan delete. Ketersediaan operasi bergantung pada status tugas.

Anda dapat memfilter dan mencari berdasarkan Quantization Template, Task Status (5 jenis), time range, dan task name or ID. Daftar mendukung pengurutan dan menampilkan 10 catatan per halaman.

Status tugas

Tugas kompresi memiliki total 7 status. Siklus hidupnya sebagai berikut:
  • PENDING (belum dimulai): Tugas telah dibuat dan sedang menunggu penjadwalan.
  • QUEUING (dalam antrian): Tugas telah masuk ke antrian eksekusi.
  • RUNNING (berjalan): Tugas sedang melakukan kompresi.
  • SUCCEEDED (kompresi berhasil): Kompresi selesai dan model telah dihasilkan.
  • FAILED (kompresi gagal): Terjadi error selama proses kompresi.
  • CANCELING (menghentikan): Pengguna memulai penghentian dan tugas sedang dihentikan.
  • CANCELED (dibatalkan): Tugas telah dihentikan oleh pengguna.

Hentikan dan hapus tugas

  • Hentikan tugas: Hanya tugas dengan status PENDING dan RUNNING yang dapat dihentikan. Setelah mengklik Stop, Anda harus mengonfirmasi kembali di dialog konfirmasi. Setelah dihentikan, tugas tidak dapat dipulihkan. Tombol stop juga tersedia di halaman detail.
  • Hapus tugas: Hanya tugas dalam status terminal (SUCCEEDED, FAILED, CANCELED) yang dapat dihapus; tugas dalam status QUEUING tidak dapat dihapus. Menghapus catatan tugas tidak memengaruhi model terkompresi yang telah dihasilkan.
Pesan kondisi kosong: Saat tidak ada tugas, halaman menampilkan teks panduan dan menyediakan entri untuk membuat tugas; saat ada hasil filter tetapi tidak sesuai, akan muncul pesan "No matches found", serta saran untuk menyesuaikan kondisi filter atau menghapus pencarian.

Penagihan

  • Tugas kompresi sendiri gratis untuk periode terbatas. Batas waktu berlaku sesuai pengumuman di Konsol.
  • Model terkompresi ditagih berdasarkan spesifikasi MU selama tahap penerapan. Untuk informasi penagihan penerapan lebih rinci, lihat Deployment.
Ambil contoh model fine-tuned qwen3.5-flash-2026-02-23. Untuk spesifikasi dan harga penerapan sebelum dan setelah kompresi, lihat Model yang didukung. Biaya penerapan berkurang sekitar 56%. Kami merekomendasikan membandingkan efek kompresi dari beberapa templat kuantisasi selama periode gratis dan memilih rencana optimal sebelum menerapkan secara resmi.

FAQ

Dialog pemilihan model sumber hanya menampilkan model fine-tuned yang dapat dikompresi. Jika tidak ada opsi yang dapat dipilih di dialog, artinya ruang kerja saat ini tidak memiliki model fine-tuned yang memenuhi syarat. Silakan terlebih dahulu merujuk ke Fine-tuning untuk menyelesaikan pelatihan fine-tuning, dan pastikan status pelatihan berhasil sebelum membuat tugas kompresi.
Tidak. Kompresi merupakan operasi satu arah. Jika Anda perlu melakukan penyesuaian, harap lakukan kompresi ulang dari model fine-tuned presisi penuh hulu. Untuk detailnya, lihat batasan penggunaan di Ikhtisar fitur.
Ketiganya merupakan teknik optimasi model yang berbeda. Kuantisasi mengurangi presisi parameter, pemangkasan menghapus struktur yang redundan, dan penyulingan menggunakan model besar untuk melatih model kecil. Model Studio saat ini hanya mendukung kuantisasi.
Templat kuantisasi menentukan spesifikasi penerapan model terkompresi. Semakin besar angka MU dalam nama templat, semakin kecil spesifikasi penerapan dan semakin rendah biayanya, tetapi potensi kehilangan presisi juga semakin besar. Kami merekomendasikan memilih templat berdasarkan pertimbangan antara biaya dan presisi untuk bisnis Anda. Jika ragu, Anda dapat mencoba beberapa templat selama periode gratis dan memverifikasi efeknya menggunakan data pengujian bisnis setelah penerapan.
Data kalibrasi digunakan untuk meningkatkan presisi kuantisasi. Kami merekomendasikan memilih set data yang secara semantik mirip dengan skenario inferensi target. Misalnya, jika model terkompresi digunakan untuk skenario tanya jawab layanan pelanggan, kami merekomendasikan memilih set data yang berisi sampel dialog layanan pelanggan sebagai data kalibrasi.
Kompresi kuantisasi dapat menyebabkan penurunan presisi dalam tingkat tertentu. Kami merekomendasikan menggunakan data pengujian bisnis untuk melakukan verifikasi inferensi setelah penerapan. Jika presisi tidak memenuhi kebutuhan Anda, Anda dapat mencoba mengganti templat kuantisasi dan melakukan kompresi ulang, atau menambahkan data kalibrasi untuk meningkatkan kualitas kuantisasi.
Tugas kompresi saat ini gratis untuk periode terbatas. Metode penagihan setelah periode gratis berakhir mengikuti pengumuman di Konsol. Biaya penerapan model terkompresi tidak terpengaruh oleh periode gratis dan selalu ditagih berdasarkan spesifikasi MU.
Kami merekomendasikan mencoba beberapa templat kuantisasi pada model fine-tuned yang sama selama periode gratis, menerapkannya secara terpisah, dan memverifikasi efek inferensi menggunakan data pengujian bisnis. Bandingkan performa berbagai templat antara presisi dan biaya, lalu pilih rencana yang paling sesuai dengan kebutuhan bisnis Anda sebelum go-live secara resmi.
Jika Anda perlu mengelola tugas kompresi melalui API, lihat Referensi API kompresi model.