Terapkan layanan inferensi khusus dengan sumber daya eksklusif untuk memenuhi persyaratan kinerja seperti konkurensi tinggi dan latensi rendah. Topik ini menjelaskan pemilihan metode penagihan, mode penerapan, serta pengelolaan umum untuk setiap metode penagihan.
Metode penagihan
Sebelum penerapan, Anda dapat melihat perkiraan biaya per jam setiap model di Konsol Penerapan Khusus.
Model Unit (Metrik kinerja kustom; isolasi sumber daya) | Penggunaan berbasis Token (Bayar sesuai penggunaan setelah fine-tuning/validasi efek) | ||
|---|---|---|---|
Definisi | Metode penerapan model yang mengonfigurasi daya komputasi berdasarkan durasi penggunaan dan jumlah Model Unit, dengan sumber daya khusus. | Metode penerapan model yang menggunakan Tokens input dan Tokens output yang dihasilkan per panggilan sebagai dasar pengukuran penggunaan. | |
Keunggulan |
| Tidak dikenai biaya saat tidak digunakan. | |
Model yang didukung | Beberapa model yang telah dikonfigurasi sebelumnya dan semua model yang telah di-fine-tune | Beberapa model yang telah di-fine-tune dengan LoRA | |
Kasus penggunaan |
| Validasi efek model hasil fine-tuning | |
Diagram penagihan | ![]() | ![]() | |
Metode penagihan | Berdasarkan durasi penggunaan dan jumlah model unit Bayar sesuai penggunaan, langganan bulanan | Berdasarkan penggunaan Token model Bayar sesuai penggunaan | |
Metode penskalaan | Penskalaan mandiri jumlah model unit | Kirim permohonan di konsol dan tunggu tinjauan manual. | |
Batasan produk | Setelah pembelian prabayar, jika Anda berhenti berlangganan lebih awal dalam bulan pertama, harga satuan harian (≈ harga satuan bulanan / 30) ditagih sebesar 1,2 kali lipat dari tarif normal. |
| |
Mode penerapan
Untuk model dan harga yang didukung oleh setiap mode penerapan, lihat halaman mode terkait:
Metode penerapan
Anda dapat menerapkan model di konsol dengan mengikuti langkah-langkah berikut:
Jika terjadi kesalahan izin, rujuk ke bagian pemecahan masalah izin dalam panduan penerapan API.
- Masuk ke konsol Bailian. Di panel navigasi kiri, pilih Inferensi Model > Penerapan Khusus.
- Klik Terapkan Model Baru.
-
Masukkan nama layanan, lengkapi pemilihan Model dan Metode Penagihan, biarkan konfigurasi lainnya tetap default, lalu klik Konfirmasi.
Anda harus menyelesaikan fine-tuning model sebelum dapat menerapkan sebagian besar model.
- Kembali ke daftar penerapan. Saat status penerapan berubah menjadi Running, model telah berhasil diterapkan.


Halaman daftar penerapan
Setelah penerapan berhasil, Anda dapat melihat dan mengelola semua layanan penerapan di halaman daftar penerapan. Halaman daftar berisi informasi berikut:
- Nama layanan: Nama layanan penerapan. Klik untuk melihat detail penerapan.
- Model: Model yang digunakan untuk penerapan.
- Kode Model: Pengidentifikasi unik yang dihasilkan setelah model berhasil diterapkan, digunakan untuk menentukan model saat memanggil API.
- Status Penerapan/Status Event: Termasuk status seperti Menunggu penerapan, Menerapkan, Running, Penerapan gagal, Sedang offline, Layanan dijeda, Dihentikan, Menghapus, Langganan ditangguhkan/Pembayaran tertunda ditangguhkan, Memulihkan layanan, Running (Mengubah konfigurasi), dan Running (Perubahan gagal).
- Metode penagihan: Metode penagihan layanan penerapan saat ini.
- Detail penerapan: Informasi konfigurasi seperti jenis Model Unit dan jumlah replika.
- Detail pembatasan laju: Menampilkan konfigurasi pembatasan laju layanan penerapan saat ini, seperti RPM (permintaan per menit) dan TPM (token per menit).
- Periode layanan: Menampilkan waktu pembuatan dan waktu kedaluwarsa layanan penerapan.
- Operasi: Bergantung pada status penerapan dan metode penagihan, Anda dapat melakukan operasi seperti perbarui, pantau, skalakan, perpanjang, offline, hapus, dan uji coba.
Menonaktifkan layanan penerapan
Buka konsol penerapan khusus, temukan layanan penerapan yang ingin Anda hentikan, lalu klik operasi yang sesuai berdasarkan jenis penagihan:
- Model Unit prabayar: Klik offline dan konfirmasi.
- Bayar sesuai penggunaan: Klik hapus dan konfirmasi.

FAQ
Bisakah saya mengunggah dan menerapkan model saya sendiri?
Anda dapat mengimpor beberapa model open-source di konsol Model Saya (Beijing). Untuk daftar model yang didukung secara terperinci, lihat Impor model.
Selain itu, Alibaba Cloud Platform for AI (PAI) menyediakan kemampuan untuk menerapkan model Anda sendiri. Anda dapat merujuk ke Penerapan model bahasa besar PAI-LLM untuk mempelajari metode penerapannya.
Bagaimana cara beralih ke metode penagihan lain?
Anda hanya dapat melepaskan sumber daya asli lalu membuat sumber daya baru menggunakan metode penagihan yang diinginkan.
Disarankan untuk beralih sesuai langkah-langkah berikut:
- Terapkan sumber daya baru menggunakan metode penagihan yang diinginkan.
- Alihkan API dan uji ketersediaan layanan.
- Hentikan dan lepaskan sumber daya asli.

