Lakukan fine-tune model Qwen di Model Studio melalui API (HTTP) atau CLI (shell). Tiga metode fine-tuning didukung: supervised fine-tuning (SFT), continual pre-training (CPT), dan direct preference optimization (DPO).
Prasyarat
- Tinjau Pengantar fine-tuning model untuk memahami konsep, proses, dan persyaratan datanya.
- Aktifkan layanan dan peroleh Kunci API. Dapatkan Kunci API.
- Berikan Pengguna RAM RAM user (RAM user) izin permissions yang diperlukan untuk pemanggilan, pelatihan, dan penerapan.
Unggah file fine-tuning
Menyiapkan file fine-tuning
- Set pelatihan SFT
Parameter OpenAInamedanweighttidak didukung. Semua output assistant akan dilatih.
"loss_weight", yang mengatur tingkat kepentingan relatif baris tersebut selama pelatihan. (Rentang: 0,0 hingga 1,0. Nilai yang lebih besar menunjukkan kepentingan yang lebih tinggi.)Parameter ini tersedia untuk pratinjau undangan. Untuk menggunakannya, hubungi manajer akun Anda.
Anda juga dapat mengunduh templat data dari konsol Model Studio. | Di bawah area unggah file pada halaman Create Dataset, Anda dapat menemukan tautan unduh data template. |
Unggah file fine-tuning ke Model Studio
- API Files yang kompatibel dengan OpenAI
- Ukuran maksimum satu file adalah 300 MB.
- Ukuran total semua file yang tidak dihapus dibatasi hingga 5 GB.
- Anda dapat menyimpan maksimal 100 file yang tidak dihapus.
- File disimpan tanpa batas waktu.
Model fine-tuning
Buat pekerjaan fine-tuning
- HTTP
Untuk Windows CMD, ganti${DASHSCOPE_API_KEY}dengan%DASHSCOPE_API_KEY%. Untuk PowerShell, gunakan$env:DASHSCOPE_API_KEY.
Parameter
Parameter | Required | Type | Location | Description |
|---|---|---|---|---|
training_file_ids | Yes | Array | Body | Daftar ID file untuk set pelatihan. |
validation_file_ids | No | Array | Body | Daftar ID file untuk set validasi. |
model | Yes | String | Body | ID model dasar, atau ID model yang sebelumnya telah difine-tune. |
hyper_parameters | No | Map | Body | Hiperparameter untuk pekerjaan fine-tuning. Nilai default bervariasi tergantung model; periksa konsol untuk detail spesifik. Parameter berikut wajib karena memengaruhi biaya pelatihan: |
training_type | No | String | Body | Metode fine-tuning. Nilai yang valid:
|
job_name | No | String | Body | Nama pekerjaan fine-tuning. |
model_name | No | String | Body | Nama model yang telah difine-tune (bukan ID model yang dihasilkan sistem). |
Respons
Model dasar ( model ) dan jenis pelatihan ( training_type )
Model dasar ( model ) dan jenis pelatihan ( training_type )
Model yang didukung
- Singapura
- China Utara 2 (Beijing)
- Generasi teks
- Pemahaman visual (Qwen-VL)
Nama model | Kode model | Pelatihan full-parameter SFT (sft) | Pelatihan efisien SFT (efficient_sft) |
|---|---|---|---|
Qwen3-14B | qwen3-14b | × | Didukung |
Perbandingan metode fine-tuning
Fitur | CPT (Continual Pre-training) | SFT (Supervised Fine-tuning) | DPO (Direct Preference Optimization) |
|---|---|---|---|
Rangkuman | Melengkapi pengetahuan (Menyuntikkan pengetahuan domain) | Belajar melakukan tugas (Mengikuti instruksi) | Menjalankan tugas lebih baik (Menyelaraskan dengan preferensi manusia) |
Data input | Lebih dari 10 juta token Teks domain tanpa label | Lebih dari 1.000 entri Pasangan "pertanyaan-jawaban" berkualitas tinggi | Lebih dari 100 set Pasangan respons "lebih baik-lebih buruk" untuk instruksi yang sama |
Tujuan inti | Adaptasi domain. Mempelajari kosakata dan fakta khusus. | Mengajarkan model format percakapan dan kemampuan eksekusi tugas. | Menyelaraskan output model lebih baik dengan nilai dan preferensi manusia. |
Metode pembelajaran | Pembelajaran self-supervised (Memprediksi kata berikutnya) | Supervised learning (Meniru ground truth) | Pembelajaran preferensi langsung (Meningkatkan probabilitas respons baik dan mengurangi probabilitas respons buruk) |
Tahap model | Umumnya sebelum SFT | Setelah CPT dan sebelum DPO | Umumnya setelah SFT, sebagai langkah terakhir untuk penyelarasan. |
Perbandingan pola pelatihan
Pelatihan full-parameter | Pelatihan efisien (LoRA, direkomendasikan) | |
|---|---|---|
Skenario | • Model perlu memperoleh kemampuan baru • Mencapai kinerja global optimal. | • Mengoptimalkan kinerja model untuk skenario tertentu. • Untuk skenario yang sensitif terhadap biaya dan waktu. |
Waktu pelatihan | Lebih lama, dengan konvergensi lebih lambat. | Lebih singkat, dengan konvergensi lebih cepat. |
hyper_parameters : Pengaturan yang didukung
hyper_parameters : Pengaturan yang didukung
Parameter yang didukung dan nilai default-nya bervariasi tergantung model. Untuk melihat nilai default spesifik, buka konsoldan pilih model serta metode pelatihan
| Parameter | Pengaturan yang direkomendasikan | Type | Description |
|---|---|---|---|
n_epochs(Jumlah epoch) [Wajib] | Ukuran data < 10.000: 3–5Ukuran data > 10.000: 1–2 | Integer | Berapa kali model melakukan iterasi penuh terhadap set pelatihan.Epoch lebih banyak meningkatkan waktu dan biaya pelatihan. |
learning_rate(Tingkat pembelajaran) | Gunakan nilai default yang direkomendasikan oleh Model Studio. | Float | Mengontrol ukuran langkah untuk pembaruan bobot selama pelatihan.
|
freeze_vit(Membekukan jaringan tulang punggung visual) | Atur sesuai kebutuhan | Boolean | Membekukan jaringan tulang punggung visual sehingga bobotnya tidak diperbarui selama pelatihan. Hanya berlaku untuk model Qwen-VL. |
batch_size(Ukuran batch) [Wajib] | Gunakan nilai default yang direkomendasikan oleh Model Studio. | Integer | Jumlah contoh pelatihan per iterasi. Nilai kecil secara signifikan meningkatkan waktu pelatihan. Nilai default bervariasi tergantung model. |
eval_steps(Langkah evaluasi) | Atur sesuai kebutuhan | Integer | Interval langkah untuk mengevaluasi akurasi dan loss pelatihan.Mengontrol seberapa sering Validation Loss dan Validation Token Accuracy dilaporkan. |
logging_steps(Langkah pencatatan log) | Atur sesuai kebutuhan | Integer | Interval langkah untuk mencatat perkembangan pelatihan. |
lr_scheduler_type(Penjadwal tingkat pembelajaran) | Direkomendasikan linear/Inverse_sqrt | String | Strategi untuk menyesuaikan tingkat pembelajaran selama pelatihan.Setiap strategi dijelaskan dalam Fine-tune model di konsol. |
max_length(Panjang urutan) [Wajib] | 8192 | Integer | Panjang urutan maksimum (dalam token) per contoh pelatihan. Contoh yang lebih panjang akan dibuang.Cara mengonversi antara token dan karakter. |
max_split_val_dataset_sample(Jumlah sampel set validasi maksimum) | Gunakan nilai default yang direkomendasikan oleh Model Studio. | Integer | Ketika "validation_file_ids" tidak diatur, set validasi yang secara otomatis dipisahkan oleh Model Studio berisi maksimal 1.000 entri.Parameter ini tidak berpengaruh ketika "validation_file_ids" diatur. |
split(Rasio set pelatihan) | Gunakan nilai default yang direkomendasikan oleh Model Studio. | Float | Jika "validation_file_ids" tidak diatur, Model Studio membagi file pelatihan: 80% untuk pelatihan, 20% untuk validasi.Ketika "validation_file_ids" diatur, parameter ini tidak berpengaruh. |
warmup_ratio(Rasio pemanasan) | Gunakan nilai default yang direkomendasikan oleh Model Studio. | Float | Persentase langkah pelatihan yang digunakan untuk pemanasan tingkat pembelajaran (kenaikan linear dari hampir nol ke tingkat target).Menstabilkan pelatihan awal dengan membatasi pembaruan bobot besar.Terlalu tinggi: menyerupai tingkat pembelajaran rendah dengan perubahan kinerja minimal.Terlalu rendah: menyerupai tingkat pembelajaran tinggi dan dapat menurunkan kinerja.
Parameter ini tidak berpengaruh jika penjadwal tingkat pembelajaran diatur ke |
weight_decay(Peluruhan bobot) | Gunakan nilai default yang direkomendasikan oleh Model Studio. | Float | Kekuatan regularisasi L2. Membantu mempertahankan generalisasi, tetapi nilai yang terlalu tinggi mengurangi efektivitas fine-tuning. |
Parameter untuk fine-tuning efisien (mendukungefficient_sft dan dpo_lora)Ketika Anda melakukan fine-tuning efisien putaran kedua pada model yang sudah difine-tune secara efisien, parameter lora_rank, lora_alpha, dan lora_dropout harus tetap konsisten. | |||
lora_rank(Rank LoRA) | 64 | Integer | Rank matriks low-rank LoRA. Rank yang lebih tinggi dapat meningkatkan hasil tetapi sedikit meningkatkan waktu pelatihan. |
lora_alpha(Alpha LoRA) | Gunakan nilai default yang direkomendasikan oleh Model Studio. | Integer | Faktor penskalaan untuk menggabungkan bobot model dasar dengan koreksi LoRA.Alpha lebih besar: lebih banyak bobot pada pembaruan LoRA spesifik tugas.Alpha lebih kecil: lebih banyak mempertahankan pengetahuan model dasar. |
lora_dropout(Dropout LoRA) | Gunakan nilai default yang direkomendasikan oleh Model Studio. | Float | Tingkat dropout untuk matriks low-rank LoRA. Nilai default menyeimbangkan generalisasi; nilai yang terlalu besar mengurangi efektivitas fine-tuning. |
Parameter untuk menerbitkan snapshot parameter model (hanya untukefficient_sft dan sft) | |||
save_strategy(Strategi penyimpanan snapshot) | Dapat diatur ke epoch atau steps.
| String | Strategi untuk menyimpan snapshot parameter model (checkpoint): epoch (setelah setiap epoch) atau steps (pada interval langkah tertentu). |
save_steps(Simpan langkah-langkah) | Jika Anda perlu mengubahnya secara manual, atur ke kelipatan bilangan bulat dari parameter eval_steps. | Integer | Interval, dalam langkah pelatihan, antara penyimpanan snapshot. |
save_total_limit(Batas penyimpanan snapshot) | 10 | Integer | Jumlah maksimum snapshot yang disimpan. Snapshot lama akan dihapus otomatis ketika batas tercapai. |
Ambil pekerjaan fine-tuning
Gunakan job_id dari respons pembuatan untuk mengambil detail pekerjaan.
- HTTP
Parameter permintaan
Parameter | Type | Location | Required | Description |
|---|---|---|---|---|
job_id | String | Path | Yes | ID job fine-tuning. |
Respons sukses
Status pekerjaan | Description |
|---|---|
PENDING | Pekerjaan sedang menunggu untuk dimulai. |
QUEUING | Pekerjaan sedang dalam antrian. Hanya satu pekerjaan fine-tuning yang dapat berjalan pada satu waktu. |
RUNNING | Pekerjaan sedang berjalan. |
CANCELING | Pekerjaan sedang dibatalkan. |
SUCCEEDED | Pekerjaan berhasil. |
FAILED | Pekerjaan gagal. |
CANCELED | Pekerjaan dibatalkan. |
finetuned_output berisi ID model untuk penerapan.Dapatkan log pekerjaan fine-tuning
- HTTP
GunakanContoh respons:offset(baris awal) danline(jumlah maksimum baris yang dikembalikan) untuk membagi output log menjadi halaman.
Kueri dan publikasikan checkpoint model
Hanya fine-tuning SFT (efficient_sftdansft) yang mendukung penyimpanan dan penerbitan checkpoint dari status pelatihan antara.
Daftar checkpoint untuk pekerjaan fine-tuning
Parameter | Type | Lokasi parameter | Required | Description |
|---|---|---|---|---|
job_id | String | Path Parameter | Yes | ID pekerjaan fine-tuning. |
checkpoint berisi ID checkpoint yang menentukan checkpoint yang akan diterbitkan dalam API Penerbitan model (opsional). Field model_name berisi ID model yang digunakan untuk penerapan model. Nilai field finetuned_output dalam respons pekerjaan fine-tuning asli merupakan model_name dari checkpoint terakhir.Status | Description |
|---|---|
PENDING | Checkpoint sedang menunggu penerbitan. Anda harus menerbitkannya menggunakan API Penerbitan model sebelum dapat menggunakannya untuk penerapan dan pemanggilan model. |
PROCESSING | Checkpoint sedang dalam proses penerbitan. |
SUCCEEDED | Checkpoint berhasil diterbitkan. Anda kini dapat menggunakannya untuk penerapan dan pemanggilan model. |
FAILED | Checkpoint gagal diterbitkan. |
Penerbitan model (opsional)
Parameter | Type | Lokasi Parameter | Required | Description |
|---|---|---|---|---|
job_id | String | Path Parameter | Yes | ID pekerjaan fine-tuning. |
checkpoint_id | String | Path Parameter | Yes | ID checkpoint yang akan diterbitkan. |
model_name | String | Path Parameter | Yes | Nama model kustom yang akan diberikan kepada model yang diterbitkan. |
Operasi fine-tuning lainnya
Daftar pekerjaan fine-tuning
Batalkan pekerjaan fine-tuning
Membatalkan pekerjaan fine-tuning yang sedang berjalan.
Hapus pekerjaan fine-tuning
Anda tidak dapat menghapus pekerjaan fine-tuning yang sedang berjalan.
Penerapan dan pemanggilan model
Penerapan model
Untuk menerapkan model, buka konsol penerapan model.
Pemanggilan model
Setelah status penerapan menjadi RUNNING, panggil model yang telah difine-tune seperti model lainnya.
Anda juga dapat memperoleh Model Code dari konsol penerapan model.
Penggunaan dan parameter: Referensi API DashScope.