Skip to main content

Penggunaan model

Lihat penggunaan model Alibaba Cloud Model Studio.

Untuk informasi selengkapnya mengenai kuota gratis, lihat Kuota gratis pengguna baru. Kelola penggunaan kuota gratis di halaman Free Quota.

Ketersediaan

  • Wilayah: Hanya Singapura. Untuk informasi selengkapnya, lihat Wilayah dan domain akses.
  • Model: Semua model dalam Model list, termasuk model yang di-fine-tune berdasarkan model tersebut.
  • Cakupan: Penggunaan Token dan metrik serupa digunakan untuk verifikasi biaya dan hanya menghitung panggilan model yang ditagih dengan Token bayar sesuai pemakaian. Penggunaan untuk pelatihan model dan panggilan melalui unit throughput yang disediakan atau unit throughput khusus tidak termasuk; jumlah panggilan mencakup panggilan melalui unit throughput yang disediakan dan unit throughput khusus. Penggunaan alat yang dihasilkan oleh panggilan model dihitung secara terpisah.

Lihat penggunaan kuota gratis

Di Konsol

  1. Buka halaman Free Quota dan pilih tab jenis model untuk melihat penggunaan kuota gratis setiap model.
  2. Di tabel models, temukan model tertentu menggunakan pencarian, pengurutan, atau filter. Aktifkan atau nonaktifkan Free Quota Only secara individual atau dalam batch untuk mengelola pengaturan kuota gratis.
Free Quota Only: Saat diaktifkan, layanan akan otomatis berhenti ketika kuota gratis habis (mengembalikan error 403: AllocationQuota.FreeTierOnly). Hal ini mencegah biaya tambahan melebihi kuota gratis. Untuk terus menggunakan dan membayar berdasarkan penggunaan aktual, nonaktifkan fitur ini. Fitur ini hanya tersedia jika akun Anda memiliki kuota gratis yang belum digunakan. Setelah diaktifkan, fitur ini tidak dapat dinonaktifkan hingga kuota gratis sepenuhnya habis. Kuota gratis ditagih dengan granularitas per menit, dan data yang ditampilkan di Konsol mungkin mengalami keterlambatan. Rujuk nilai kuota gratis yang ditampilkan di Konsol.

Lihat penggunaan model

Lihat penggunaan di halaman Model Usage. Data diagregasi berdasarkan ruang kerja, bukan berdasarkan akun Alibaba Cloud. Untuk informasi selengkapnya, lihat Bagaimana cara memeriksa total penggunaan token untuk akun Alibaba Cloud saya?. Latensi jumlah panggilan biasanya lebih rendah daripada metrik penggunaan lainnya: jumlah panggilan dapat muncul sekitar 1 menit setelah panggilan, sedangkan penggunaan token dan biaya mungkin memerlukan waktu sekitar 10 menit untuk diperbarui. Jumlah panggilan tidak ditampilkan untuk inferensi batch offline atau inferensi batch online.
  1. Pilih periode statistik dan rentang waktu. Anda dapat melihat data per menit, per jam, per hari, atau per bulan: per menit mendukung hingga 1 hari, per jam hingga 7 hari, per hari hingga 31 hari, dan per bulan hingga 12 bulan. Saat melihat data per menit atau per jam, grafik tren tidak mendukung pengelompokan.
  2. Pilih dimensi pengelompokan: berdasarkan model, API Key, ruang kerja, wilayah, situs layanan, atau spesifikasi. Spesifikasi mencakup faktor yang memengaruhi harga satuan, seperti input/output/cache hit, panjang konteks, mode thinking, dan resolusi pembuatan video.
  3. Filter berdasarkan model, API Key, ruang kerja, wilayah, situs layanan, sumber panggilan, dan jenis inferensi. Jenis inferensi mencakup inferensi online, inferensi batch offline (Batch File), dan inferensi batch online (Batch Chat). Jika ruang kerja tidak memiliki data penggunaan batch, hanya inferensi online yang ditampilkan.
  4. Lihat kartu metrik: Call Count, Tokens Usage, Image Count, Video/Audio Duration, Speech Synthesis Characters, Tool Call Count, dan lainnya. Kartu diagregasi berdasarkan unit penagihan. Misalnya, model teks dan model omni-modal sama-sama ditagih berdasarkan token, sehingga penggunaannya dihitung dalam Tokens Usage. Beralih antara Total dan Average per Call. Average per Call adalah penggunaan dibagi jumlah panggilan yang berhasil.
  5. Di tabel Model Usage Details, lihat jenis model, jumlah panggilan, penggunaan model, dan penggunaan alat untuk setiap model. Klik Details untuk melihat ringkasan dan tren berbagai jenis penggunaan serta penggunaan alat untuk model tersebut. Klik View Cost untuk melihat jumlah yang harus dibayar untuk penggunaan tersebut.
  6. Bagian Total Successful Calls di bagian bawah mencantumkan semua model dalam urutan menurun berdasarkan jumlah panggilan. Anda dapat melihatnya dalam layar penuh dan mengunduh data.
  • Jumlah kegagalan, tingkat kegagalan, jumlah error pembatasan laju, dan jumlah intersepsi keamanan konten telah dipindahkan ke halaman Pemantauan model dan tidak lagi ditampilkan dalam detail penggunaan model.
  • Kategori inferensi batch sebelumnya kini dipecah menjadi inferensi batch offline (Batch File) dan inferensi batch online (Batch Chat).
Hanya data dari 1 September 2026 dan setelahnya yang tersedia. Untuk data sebelumnya, buka Expenses and Costs.

Lihat ikhtisar penagihan

Di halaman Cost Overview, lihat biaya untuk panggilan model dan pelatihan model, termasuk total biaya, biaya langganan, biaya tagihan, dan tren tagihan. Untuk detailnya, lihat Penagihan dan manajemen biaya.

Unit penggunaan

Di Model Studio, statistik penggunaan untuk model yang berbeda adalah sebagai berikut:

Type

Subcategory

Unit

Billing (invocation)

Large language model

Text generation

Token

Ditagih berdasarkan jumlah token untuk input dan output.

Deep thinking

Visual understanding

Visual model

Image generation

Images

Ditagih berdasarkan jumlah images yang berhasil dihasilkan.

Video generation

Seconds

Ditagih berdasarkan jumlah video seconds yang berhasil dihasilkan.

Speech model

Speech synthesis

Second, character, or token

Dapat ditagih berdasarkan durasi audio (seconds), karakter teks yang sesuai, atau tokens, tergantung modelnya.

Real-time speech synthesis

Audio file recognition

Real-time speech recognition

Audio and video translation

Omni-modal model

Omni-modal

Token

Teks ditagih berdasarkan jumlah token. Modalitas lain (audio, image, video) ditagih berdasarkan jumlah token yang sesuai.

Real-time multimodal

Embedding model

Multimodal embedding

Token

Ditagih berdasarkan jumlah token dalam teks input.

Text embedding

Mulai produksi

Rekomendasi untuk mengelola penggunaan model:
  • Mengontrol panjang output model: Batasi panjang maksimum konten yang dihasilkan per pemanggilan untuk mengendalikan biaya, dengan secara wajar membatasi panjang pemikiran dan mengatur parameter max_tokens.
  • Pilih model berdasarkan jenis tugas: Untuk tugas sederhana seperti kategorisasi dan ringkasan, prioritaskan model ringan berbiaya rendah daripada model canggih yang lebih mahal.
  • Pemantauan dan peringatan: Pantau tren penggunaan. Atur peringatan penggunaan untuk menerima notifikasi tepat waktu jika terjadi penggunaan tidak normal.
  • Optimalkan prompt: Prompt yang ringkas dan jelas meningkatkan kualitas output model serta mengurangi token input yang tidak perlu.
  • Gunakan batch inference: Untuk tugas pemrosesan batch besar yang tidak memerlukan respons real-time, batch inference umumnya lebih hemat biaya dibandingkan pemanggilan real-time.

Glosarium

Noun

Explanation

Token

Large language models memproses input dan output dalam bentuk token. Token dapat berupa:

  • Karakter tunggal: seperti A, I

  • Kata lengkap: seperti large, Model

  • Bagian dari kata panjang: Kata panjang sering kali dipecah menjadi beberapa token. Proses pemecahan ini disebut tokenization.

Berdasarkan pengalaman, rata-rata 1 Token setara dengan sekitar 1,5–2 karakter Tionghoa; 1 huruf Inggris setara dengan sekitar 0,25 Token; 1 kata Inggris setara dengan sekitar 1,3 Token:

  • Alibaba Cloud Model Studio: sekitar 4–5 Token

  • Hello World: sekitar 2 Token

Setiap model memiliki batas maksimum jumlah token input dan output (lihat Model list). Melebihi batas ini menyebabkan kegagalan.

Inferensi online

Mengacu pada semua pemanggilan model secara langsung maupun tidak langsung, terutama mencakup skenario berikut:

Inferensi batch offline (Batch File)

Pemrosesan data skala besar yang dilakukan secara offline untuk skenario yang tidak memerlukan respons real-time, menggunakan API OpenAI-compatible - Batch (file input).

Inferensi batch online (Batch Chat)

Panggilan batch online yang dilakukan melalui API Batch Chat.

FAQ

T: Bagaimana cara melihat total penggunaan token untuk Akun Alibaba Cloud saya? J: Gunakan Akun Alibaba Cloud Anda untuk mengakses halaman Bill Details dan ekspor tagihan. Di halaman Bill Details, filter dan ekspor tagihan:
  1. Atur Billing Month ke bulan target (misalnya 2025-05).
  2. Di bawah Product Name, pilih Model Studio.
  3. Klik ikon unduh di pojok kanan atas tabel untuk mengekspor data penagihan.
Saat Anda melihat data berdasarkan model, API Key, ruang kerja, atau dimensi lain, beberapa nilai mungkin muncul sebagai "-" atau kosong. Penyebab umum:
  • Tanda "-" dapat menunjukkan bahwa model tidak mendukung metrik tersebut.
  • Data untuk dimensi tertentu mengalami keterlambatan. Tepat setelah panggilan, nilai mungkin muncul sebagai "-" dan berubah menjadi nilai aktual setelah beberapa menit atau lebih.
  • API Key yang kosong biasanya menunjukkan bahwa panggilan berasal dari konsol.
  • Untuk panggilan yang dilakukan melalui Batch Chat, data terkait ID API Key kosong.
  • Informasi wilayah kosong untuk beberapa model.
  • Metode pemanggilan kosong untuk model suara.