Lakukan fine-tune model Qwen di Model Studio melalui API (HTTP) atau CLI (shell). Tiga metode fine-tuning didukung: supervised fine-tuning (SFT), continual pre-training (CPT), dan direct preference optimization (DPO).
Prasyarat
- Tinjau Pengantar fine-tuning model untuk memahami konsep, proses, dan persyaratan datanya.
- Aktifkan layanan dan peroleh API key. Dapatkan API key.
- Berikan Pengguna RAM (RAM user) izin pemanggilan, pelatihan, dan penerapan yang diperlukan.
Unggah file fine-tuning
Menyiapkan file fine-tuning
Untuk spesifikasi format data, aturan pengemasan, batasan ukuran dan kuantitas, serta kuota unggah API dari setiap metode pelatihan (SFT/DPO/CPT), lihat Aturan unggah data tuning. Format file yang didukung oleh setiap metode pelatihan:
Metode pelatihan | Format file |
|---|---|
Generasi teks SFT | jsonl (struktur multi-putaran pesan ChatML) |
SFT multimodal (gambar/video) | zip (data.jsonl + file gambar/video) |
DPO | jsonl (pasangan preferensi chosen/rejected) |
CPT | jsonl (teks biasa {text}) |
Set evaluasi | xlsx (prompt&completion) / jsonl, xls, xlsx (ChatML-messages) |
Anda juga dapat mengunduh templat data dari konsol Model Studio. | Di bawah area unggah file pada halaman Create Dataset, Anda dapat menemukan tautan unduh data template. |
Unggah file fine-tuning ke Model Studio
- API Files yang kompatibel dengan OpenAI
- Ukuran maksimum satu file adalah 300 MB.
- Kuota penyimpanan total untuk semua file yang valid (tidak dihapus) adalah 100 GB.
- Kuota jumlah total untuk semua file yang valid (tidak dihapus) adalah 10000 file.
- Penyimpanan file tidak memiliki batas waktu.
Model fine-tuning
Pembuatan, kueri, pengambilan log, pengelolaan checkpoint, serta daftar/pembatalan/penghapusan pekerjaan fine-tuning semuanya dilakukan melalui API. Parameter permintaan/respons lengkap beserta contoh untuk setiap antarmuka tersedia di halaman API terkait; bagian ini hanya menguraikan alur kerjanya.
Buat pekerjaan fine-tuning
Panggil antarmuka Buat pekerjaan fine-tuning (POST /api/v1/fine-tunes) untuk memulai pelatihan. Untuk isi permintaan (model / training_datasets / hyper_parameters / training_type, dll.) dan contoh respons, lihat halaman tersebut.
Kueri detail pekerjaan fine-tuning
Gunakan job_id untuk mengkueri status tugas. Untuk informasi selengkapnya, lihat Kueri status tugas fine-tuning.
Dapatkan log pekerjaan fine-tuning
Ambil log pelatihan melalui antarmuka Dapatkan log tugas fine-tuning (GET /api/v1/fine-tunes/{job_id}/logs).
Kueri dan publikasikan checkpoint model
Checkpoint yang dihasilkan oleh fine-tuning dapat didaftarkan dan diekspor (dipublikasikan):
- Daftar checkpoint: lihat List Checkpoint (
GET /api/v1/fine-tunes/{job_id}/checkpoints). - Ekspor (publikasikan) checkpoint tertentu: lihat Export Checkpoint (
GET /api/v1/fine-tunes/{job_id}/export/{checkpoint}?model_name=...), bersifat asinkron; pantau status melalui antarmuka daftar.
Operasi fine-tuning lainnya
- Daftar pekerjaan: Daftar pekerjaan fine-tuning
- Batalkan pekerjaan: Batalkan pekerjaan fine-tuning
- Hapus pekerjaan: Hapus pekerjaan fine-tuning
Penerapan dan pemanggilan model
Penerapan model
Untuk menerapkan model, buka konsol Dedicated Deployment.
Pemanggilan model
Setelah status penerapan menjadi RUNNING, panggil model yang telah difine-tune seperti model lainnya.
Anda juga dapat memperoleh Model Code dari konsol Dedicated Deployment.
Penggunaan dan parameter: Referensi API DashScope.