Jika Anda memiliki beberapa bisnis atau skenario yang menggunakan Alibaba Cloud Model Studio, buat ruang kerja terpisah untuk mengelolanya secara independen. Hal ini memungkinkan Anda mengontrol model yang dapat dipanggil oleh setiap ruang kerja, menerapkan alokasi biaya, serta mengisolasi data pengguna masing-masing.
Jenis ruang kerja
Model Studio menyediakan dua jenis ruang kerja: ruang kerja default dan sub-ruang kerja.
Item | Ruang kerja default | Sub-ruang kerja |
|---|---|---|
Metode pembuatan | Dibuat secara otomatis saat Anda mengaktifkan Model Studio. | Dibuat secara manual oleh Akun Alibaba Cloud atau Pengguna RAM dengan izin manajemen. |
Keunikan | Bersifat unik secara global di bawah satu Akun Alibaba Cloud. | Beberapa sub-ruang kerja dapat ada di bawah satu Akun Alibaba Cloud. |
Izin model dalam ruang kerja | Dapat memanggil semua model tanpa otorisasi. | Memerlukan otorisasi untuk memanggil model tertentu. |
Identifikasi khusus | Pada halaman Ruang Kerja (Singapura atau Beijing), ruang kerja ini ditandai sebagai Default. | Di halaman Ruang Kerja, ruang kerja ini tidak memiliki tanda Default. |
Mulai
Buat ruang kerja baru
Anda dapat membuat ruang kerja terpisah, juga dikenal sebagai sub-ruang kerja, untuk layanan atau skenario baru. Model, biaya sumber daya, dan data pengguna dalam suatu ruang kerja sepenuhnya terisolasi dari ruang kerja lainnya.
Prosedur:
- Masuk ke halaman Workspaces (Singapore atau Beijing).
- Di pojok kanan atas, klik Add Workspace. Di kotak dialog yang muncul, masukkan nama untuk ruang kerja tersebut.
- Klik OK.
Dapatkan ID ruang kerja
ID ruang kerja adalah pengenal unik untuk suatu ruang kerja yang tidak berubah setelah dibuat. Contohnya: llm-7c72iiw36kd8****.
-
Untuk mendapatkan ID semua ruang kerja di Akun Alibaba Cloud: Buka halaman Workspaces (Singapore atau Beijing).
Anda harus menggunakan Akun Alibaba Cloud atau Pengguna RAM dengan izin manajemen. Jika tidak, error akan muncul saat Anda mencoba mengakses halaman tersebut.
-
Untuk mendapatkan ID ruang kerja saat ini: Di halaman utama Model Studio (Singapore atau Beijing), klik
di sudut kiri bawah, lalu klik Workspace Details.
Pengguna RAM tanpa izin administratif hanya dapat melihat ID sub-ruang kerja yang telah mereka ikuti.
Beralih antar ruang kerja
Ruang kerja bersifat independen satu sama lain. Anda tidak dapat melihat konten semua ruang kerja sekaligus. Sebagai gantinya, Anda harus beralih ke ruang kerja tertentu untuk melihat model, informasi biaya, dan data penggunanya.
Cara beralih: Di halaman utama Model Studio (Singapore atau Beijing), klik
di sudut kiri bawah. Anda kemudian dapat melihat dan beralih ke ruang kerja yang berbeda pada daftar.
Otorisasi sub-ruang kerja untuk memanggilmodel
Sub-ruang kerja dapat memanggil model tertentu, seperti qwen-plus, hanya setelah diberikan izin yang diperlukan untuk model tersebut.
Prosedur:
-
Buka halaman Ruang Kerja (Singapore atau Beijing). Temukan sub-ruang kerja yang ingin Anda otorisasi, lalu klik Authorization & Throttling Settings.

-
Temukan model yang diinginkan dan klik Edit di sebelah kanan.

-
Aktifkan izin yang diperlukan dan klik Save.
Jika ruang kerja tersebut telah diotorisasi sebelumnya, Anda tidak perlu mengotorisasi ulang.

Konfigurasikan pembatasan laju untuk pemanggilan model
Untuk memastikan keadilan pemanggilan model di berbagai layanan atau skenario, Anda dapat menetapkan batas laju pemanggilan independen untuk sub-ruang kerja yang berbeda.
- Titik masuk: Pada halaman Workspaces (Singapore atau Beijing), temukan sub-ruang kerja yang diinginkan, lalu klik Authorization & Throttling Settings di sebelah kanannya.
-
Cara kerja:
-
Dalam satu ruang kerja, pembatasan laju dikendalikan pada tingkat model. Misalnya, untuk model
qwen-plus, sistem menghitung jumlah total permintaan keqwen-plusdari seluruh Kunci API dalam ruang kerja tersebut dan menerapkan pembatasan berdasarkan jumlah tersebut. -
Batas pemanggilan model diukur dengan dua cara independen: Request Number Limit dan Token Limit. Pembatasan dipicu segera setelah salah satu batas tercapai.
Sebagai contoh, asumsikan batas laju permintaan adalah 20 permintaan per menit (RPM) dan batas laju token adalah 100.000 token per menit (TPM). Jika Anda mengirim 20 permintaan ke model dalam satu menit dan hanya mengonsumsi 1.000 token (di bawah batas 100.000 TPM), pembatasan tetap dipicu karena jumlah permintaan telah mencapai batas RPM.
-
Dalam satu ruang kerja, pembatasan laju dikendalikan pada tingkat model. Misalnya, untuk model
-
Batasan utama:
- Ruang kerja default tidak mendukung pengaturan pembatasan. Batas untuk semua model dalam ruang kerja ini sama dengan batas Akun Alibaba Cloud.
- Jumlah total pemanggilan ke suatu model di semua ruang kerja tidak boleh melebihi batas laju Akun Alibaba Cloud untuk model tersebut.
- Pembatasan pemanggilan model berlaku untuk pemanggilan real-time, tetapi tidak berlaku untuk tugas inferensi batch.
- Anda tidak dapat mengonfigurasi pembatasan untuk anggota tertentu dalam satu ruang kerja.
Tayang
-
Strategi perencanaan ruang kerja
-
Berdasarkan lingkungan (direkomendasikan): Buat ruang kerja terpisah untuk lingkungan pengembangan, pengujian, pra-produksi, dan produksi untuk mencapai pemagaran lingkungan yang ketat.
project-dev-workspaceproject-test-workspaceproject-prod-workspace
-
Berdasarkan lini bisnis: Buat ruang kerja terpisah untuk departemen bisnis berbeda di perusahaan Anda, seperti pemasaran, purna jual, dan desain. Hal ini menyederhanakan manajemen izin dan biaya.
marketing-team-workspacecustomer-team-workspace
-
Berdasarkan lingkungan (direkomendasikan): Buat ruang kerja terpisah untuk lingkungan pengembangan, pengujian, pra-produksi, dan produksi untuk mencapai pemagaran lingkungan yang ketat.
-
Strategi pembatasan laju
-
Alokasikan kuota total Akun Alibaba Cloud Anda ke setiap ruang kerja secara proporsional. Sisihkan sebagian sebagai buffer untuk menangani lonjakan trafik.
Contoh: Kuota total akun adalah 1.000 RPM. Rencana alokasinya sebagai berikut:
project-prod-workspace: 600 RPM (60%)project-test-workspace: 200 RPM (20%)project-dev-workspace: 100 RPM (10%)- Buffer cadangan: 100 RPM (10%)
-
Alokasikan kuota total Akun Alibaba Cloud Anda ke setiap ruang kerja secara proporsional. Sisihkan sebagian sebagai buffer untuk menangani lonjakan trafik.
Contoh: Kuota total akun adalah 1.000 RPM. Rencana alokasinya sebagai berikut:
Keamanan dan izin
Rekomendasi:
- Hindari menggunakan ruang kerja default untuk layanan produksi.
- Gunakan ruang kerja default hanya untuk pengujian awal atau operasi administrator.
- Buat dan kelola sub-ruang kerja terpisah untuk semua layanan resmi, seperti pengembangan, pengujian, dan produksi.
Kuota dan batasan
- Jumlah maksimum ruang kerja per Akun Alibaba Cloud: 10 di wilayah Singapura dan 20 di wilayah Beijing. Kedua batas tersebut termasuk satu ruang kerja default.
- Penghapusan tidak didukung: Ruang kerja tidak dapat dihapus setelah dibuat.
Penagihan
- Pembuatan dan pengelolaan ruang kerja tidak dikenai biaya.
- Biaya dikenakan berdasarkan konsumsi sumber daya dalam setiap ruang kerja, seperti pemanggilan model.