Lihat penggunaan model Alibaba Cloud Model Studio.
Untuk informasi selengkapnya mengenai kuota gratis, lihat Kuota gratis pengguna baru. Kelola penggunaan kuota gratis di halaman Free Quota.
Ketersediaan
- Wilayah: Hanya Singapura. Untuk informasi selengkapnya, lihat Wilayah dan domain akses.
- Model: Semua model dalam Model list, termasuk model yang di-fine-tune berdasarkan model tersebut.
- Cakupan: Penggunaan Token dan metrik serupa digunakan untuk verifikasi biaya dan hanya menghitung panggilan model yang ditagih dengan Token bayar sesuai pemakaian. Penggunaan untuk pelatihan model dan panggilan melalui unit throughput yang disediakan atau unit throughput khusus tidak termasuk; jumlah panggilan mencakup panggilan melalui unit throughput yang disediakan dan unit throughput khusus. Penggunaan alat yang dihasilkan oleh panggilan model dihitung secara terpisah.
Lihat penggunaan kuota gratis
Di Konsol
- Buka halaman Free Quota dan pilih tab jenis model untuk melihat penggunaan kuota gratis setiap model.
- Di tabel models, temukan model tertentu menggunakan pencarian, pengurutan, atau filter. Aktifkan atau nonaktifkan Free Quota Only secara individual atau dalam batch untuk mengelola pengaturan kuota gratis.
Lihat penggunaan model
Lihat penggunaan di halaman Model Usage. Data diagregasi berdasarkan ruang kerja, bukan berdasarkan akun Alibaba Cloud. Untuk informasi selengkapnya, lihat Bagaimana cara memeriksa total penggunaan token untuk akun Alibaba Cloud saya?. Latensi jumlah panggilan biasanya lebih rendah daripada metrik penggunaan lainnya: jumlah panggilan dapat muncul sekitar 1 menit setelah panggilan, sedangkan penggunaan token dan biaya mungkin memerlukan waktu sekitar 10 menit untuk diperbarui. Jumlah panggilan tidak ditampilkan untuk inferensi batch offline atau inferensi batch online.
- Pilih periode statistik dan rentang waktu. Anda dapat melihat data per menit, per jam, per hari, atau per bulan: per menit mendukung hingga 1 hari, per jam hingga 7 hari, per hari hingga 31 hari, dan per bulan hingga 12 bulan. Saat melihat data per menit atau per jam, grafik tren tidak mendukung pengelompokan.
- Pilih dimensi pengelompokan: berdasarkan model, API Key, ruang kerja, wilayah, situs layanan, atau spesifikasi. Spesifikasi mencakup faktor yang memengaruhi harga satuan, seperti input/output/cache hit, panjang konteks, mode thinking, dan resolusi pembuatan video.
- Filter berdasarkan model, API Key, ruang kerja, wilayah, situs layanan, sumber panggilan, dan jenis inferensi. Jenis inferensi mencakup inferensi online, inferensi batch offline (Batch File), dan inferensi batch online (Batch Chat). Jika ruang kerja tidak memiliki data penggunaan batch, hanya inferensi online yang ditampilkan.
- Lihat kartu metrik: Call Count, Tokens Usage, Image Count, Video/Audio Duration, Speech Synthesis Characters, Tool Call Count, dan lainnya. Kartu diagregasi berdasarkan unit penagihan. Misalnya, model teks dan model omni-modal sama-sama ditagih berdasarkan token, sehingga penggunaannya dihitung dalam Tokens Usage. Beralih antara Total dan Average per Call. Average per Call adalah penggunaan dibagi jumlah panggilan yang berhasil.
- Di tabel Model Usage Details, lihat jenis model, jumlah panggilan, penggunaan model, dan penggunaan alat untuk setiap model. Klik Details untuk melihat ringkasan dan tren berbagai jenis penggunaan serta penggunaan alat untuk model tersebut. Klik View Cost untuk melihat jumlah yang harus dibayar untuk penggunaan tersebut.
- Bagian Total Successful Calls di bagian bawah mencantumkan semua model dalam urutan menurun berdasarkan jumlah panggilan. Anda dapat melihatnya dalam layar penuh dan mengunduh data.
- Jumlah kegagalan, tingkat kegagalan, jumlah error pembatasan laju, dan jumlah intersepsi keamanan konten telah dipindahkan ke halaman Pemantauan model dan tidak lagi ditampilkan dalam detail penggunaan model.
- Kategori inferensi batch sebelumnya kini dipecah menjadi inferensi batch offline (Batch File) dan inferensi batch online (Batch Chat).
Lihat ikhtisar penagihan
Di halaman Cost Overview, lihat biaya untuk panggilan model dan pelatihan model, termasuk total biaya, biaya langganan, biaya tagihan, dan tren tagihan. Untuk detailnya, lihat Penagihan dan manajemen biaya.
Unit penggunaan
Di Model Studio, statistik penggunaan untuk model yang berbeda adalah sebagai berikut:
Type | Subcategory | Unit | Billing (invocation) |
|---|---|---|---|
Large language model | Ditagih berdasarkan jumlah token untuk input dan output. | ||
Visual model | Images | Ditagih berdasarkan jumlah images yang berhasil dihasilkan. | |
Seconds | Ditagih berdasarkan jumlah video seconds yang berhasil dihasilkan. | ||
Speech model | Second, character, or token | Dapat ditagih berdasarkan durasi audio (seconds), karakter teks yang sesuai, atau tokens, tergantung modelnya. | |
Omni-modal model | Token | Teks ditagih berdasarkan jumlah token. Modalitas lain (audio, image, video) ditagih berdasarkan jumlah token yang sesuai. | |
Embedding model | Token | Ditagih berdasarkan jumlah token dalam teks input. | |
Text embedding |
Mulai produksi
Rekomendasi untuk mengelola penggunaan model:
- Mengontrol panjang output model: Batasi panjang maksimum konten yang dihasilkan per pemanggilan untuk mengendalikan biaya, dengan secara wajar membatasi panjang pemikiran dan mengatur parameter
max_tokens. - Pilih model berdasarkan jenis tugas: Untuk tugas sederhana seperti kategorisasi dan ringkasan, prioritaskan model ringan berbiaya rendah daripada model canggih yang lebih mahal.
- Pemantauan dan peringatan: Pantau tren penggunaan. Atur peringatan penggunaan untuk menerima notifikasi tepat waktu jika terjadi penggunaan tidak normal.
- Optimalkan prompt: Prompt yang ringkas dan jelas meningkatkan kualitas output model serta mengurangi token input yang tidak perlu.
- Gunakan batch inference: Untuk tugas pemrosesan batch besar yang tidak memerlukan respons real-time, batch inference umumnya lebih hemat biaya dibandingkan pemanggilan real-time.
Glosarium
Noun | Explanation |
|---|---|
Token | Large language models memproses input dan output dalam bentuk token. Token dapat berupa:
Berdasarkan pengalaman, rata-rata 1 Token setara dengan sekitar 1,5–2 karakter Tionghoa; 1 huruf Inggris setara dengan sekitar 0,25 Token; 1 kata Inggris setara dengan sekitar 1,3 Token:
Setiap model memiliki batas maksimum jumlah token input dan output (lihat Model list). Melebihi batas ini menyebabkan kegagalan. |
Inferensi online | Mengacu pada semua pemanggilan model secara langsung maupun tidak langsung, terutama mencakup skenario berikut:
|
Inferensi batch offline (Batch File) | Pemrosesan data skala besar yang dilakukan secara offline untuk skenario yang tidak memerlukan respons real-time, menggunakan API OpenAI-compatible - Batch (file input). |
Inferensi batch online (Batch Chat) | Panggilan batch online yang dilakukan melalui API Batch Chat. |
FAQ
T: Bagaimana cara melihat total penggunaan token untuk Akun Alibaba Cloud saya?
J: Gunakan Akun Alibaba Cloud Anda untuk mengakses halaman Bill Details dan ekspor tagihan.
Di halaman Bill Details, filter dan ekspor tagihan:
- Atur Billing Month ke bulan target (misalnya
2025-05). - Di bawah Product Name, pilih Model Studio.
- Klik ikon unduh di pojok kanan atas tabel untuk mengekspor data penagihan.
Mengapa grafik atau detail menampilkan "-" atau nilai kosong?
Mengapa grafik atau detail menampilkan "-" atau nilai kosong?
- Tanda "-" dapat menunjukkan bahwa model tidak mendukung metrik tersebut.
- Data untuk dimensi tertentu mengalami keterlambatan. Tepat setelah panggilan, nilai mungkin muncul sebagai "-" dan berubah menjadi nilai aktual setelah beberapa menit atau lebih.
- API Key yang kosong biasanya menunjukkan bahwa panggilan berasal dari konsol.
- Untuk panggilan yang dilakukan melalui Batch Chat, data terkait ID API Key kosong.
- Informasi wilayah kosong untuk beberapa model.
- Metode pemanggilan kosong untuk model suara.