Untuk memanggil API Model Studio dari VPC tanpa mengarahkan lalu lintas melalui internet publik, tambahkan koneksi PrivateLink di konsol Model Studio dan kaitkan dengan ruang kerja Anda.
Cara kerja
Gateway Model Studio mendukung dua metode akses berikut:
- Akses jaringan publik: Panggil API Model Studio melalui nama domain MaaS publik
{WorkspaceId}.{RegionId}.maas.aliyuncs.com. Lalu lintas diarahkan melalui internet publik. - Koneksi pribadi PrivateLink: Tambahkan koneksi PrivateLink untuk VPC Anda di konsol Model Studio, lalu panggil API Model Studio melalui nama domain pribadi. Lalu lintas tetap berada dalam jaringan Alibaba Cloud dan tidak melewati internet publik.
-
Cloud publik: China (Beijing) dan China (Hong Kong).
Akses jaringan pribadi saat ini tidak didukung di wilayah lain.
Akses API Model Studio dengan koneksi PrivateLink
Langkah 1: Tambahkan koneksi PrivateLink di konsol Model Studio
- Masuk ke konsol Model Studio. Pada panel navigasi sebelah kiri, pilih Settings > Network configuration.
-
Pada penggunaan pertama, selesaikan persiapan berikut di panel Add PrivateLink:
- Authorize service-linked role for PrivateLink: Klik Authorize Now, lalu klik Confirm Authorization untuk membuat service-linked role
AliyunServiceRoleForBackrouterAccessNet. - Activate PrivateLink: Klik Enable Now untuk mengaktifkan layanan PrivateLink.
- Authorize service-linked role for PrivateLink: Klik Authorize Now, lalu klik Confirm Authorization untuk membuat service-linked role
-
Di bagian VPC private network access, klik Add dan konfigurasikan parameter berikut. Biarkan parameter lain pada nilai default-nya.
- Region: Pilih wilayah layanan Model Studio Anda, misalnya China (Hong Kong).
- VPC: Pilih VPC yang akan digunakan untuk mengakses Model Studio. Koneksi PrivateLink dibuat di dalam VPC ini, sehingga hanya sumber daya di VPC ini, seperti Instance ECS dan kontainer, yang dapat mengakses Model Studio melalui nama domain pribadi. Jika tidak ada VPC yang tersedia, klik Create VPC untuk membuatnya di konsol VPC. Untuk menggunakan VPC yang dibagikan oleh akun lain, pilih VPC yang dibagikan tersebut. Untuk informasi selengkapnya, lihat Akses lintas akun.
- Zones and Switches: Pilih zona yang didukung Model Studio dan memiliki vSwitch, lalu pilih vSwitch tersebut. Koneksi PrivateLink menggunakan satu alamat IP internal dari vSwitch di setiap zona yang dipilih sebagai alamat resolusi DNS internal untuk nama domain pribadi. Anda dapat menambahkan maksimal 2 kombinasi zona dan vSwitch. Kami menyarankan Anda menambahkan 2 kombinasi untuk ketersediaan tinggi, sehingga lalu lintas dapat dialihkan secara otomatis jika salah satu zona tidak tersedia. Jika tidak ada vSwitch yang tersedia, klik Create Switch untuk membuatnya di konsol VPC.
- Security Group: Pilih grup keamanan yang akan dikaitkan dengan koneksi PrivateLink. Grup keamanan mengontrol sumber daya yang dapat mengakses koneksi ini. Pastikan grup keamanan mengizinkan lalu lintas masuk pada port 443 (HTTPS). Jika tidak ada grup keamanan yang tersedia, klik Create Security Group untuk membuatnya di konsol ECS.
- Klik Confirm dan tunggu hingga Status koneksi berubah menjadi Created. Koneksi mulai berlaku dalam waktu sekitar 1 hingga 3 menit. Setelah berlaku, server cloud mana pun di VPC tersebut dapat menggunakan nama domain pribadi untuk mengakses Model Studio.
Langkah 2: Kaitkan koneksi PrivateLink dengan ruang kerja
Ruang kerja yang perlu mengakses Model Studio melalui jaringan pribadi harus dikaitkan dengan koneksi PrivateLink.
- Pada panel navigasi sebelah kiri di konsol Model Studio, pilih Workspaces, lalu buat ruang kerja baru atau edit ruang kerja tujuan.
- Di Advanced Configuration, atur PrivateLink ke koneksi PrivateLink tujuan. Setiap opsi menampilkan ID endpoint beserta wilayah dan VPC-nya. Jika koneksi tujuan tidak tercantum, klik Create PrivateLink di daftar tarik-turun untuk membuatnya. Setelah dikaitkan, ruang kerja tersebut dapat mengakses Model Studio melalui koneksi pribadi dari VPC yang sesuai.
- Untuk menghapus kaitan, edit ruang kerja, kosongkan PrivateLink, lalu simpan perubahan. Atau, pada halaman Network configuration, bentangkan baris koneksi PrivateLink tujuan dan klik Unbind di kolom Associated workspace untuk melanjutkan di ruang kerja yang sesuai. Koneksi PrivateLink yang telah dikaitkan dengan ruang kerja tidak dapat dihapus sebelum kaitannya dilepas.
Langkah 3: Dapatkan nama domain pribadi
Setelah Anda menyelesaikan Langkah 2, nama domain pribadi dibuat untuk setiap ruang kerja yang dikaitkan. Pada halaman Network configuration, bentangkan baris koneksi PrivateLink tujuan di daftar VPC private network access dan salin nama domain pribadi di kolom Endpoint. Kolom Associated workspace menampilkan ID ruang kerja pemilik nama domain tersebut. Nama domain pribadi memiliki format {WorkspaceId}-{VpcId}.{region-id}.maas.aliyuncs.com, dengan WorkspaceId adalah ID ruang kerja dan VpcId adalah ID VPC tempat koneksi PrivateLink berada.
Anda juga dapat menemukan nama domain pribadi di kolom API Host dari ruang kerja tujuan pada halaman Workspaces. Setelah dikaitkan, kolom ini mencantumkan nama domain publik dan pribadi.
Nama domain pribadi hanya dapat diresolusi dan diakses di dalam VPC yang dipilih. Gunakan HTTPS (port 443) untuk memanggil API Model Studio. Jika tidak ada ruang kerja yang dikaitkan, kolom Endpoint pada baris yang dibentangkan akan kosong.
Langkah 4: Verifikasi koneksi
Ganti nama domain pada base_url permintaan API Anda dengan nama domain pribadi dari langkah sebelumnya, lalu lakukan pemanggilan dari dalam VPC.
Sebagai contoh, untuk memanggil model teks Qwen dalam mode kompatibel OpenAI:
- Sebelum diganti:
https://{WorkspaceId}.{RegionId}.maas.aliyuncs.com/compatible-mode/v1/chat/completions - Setelah diganti:
https://{WorkspaceId}-{VpcId}.{RegionId}.maas.aliyuncs.com/compatible-mode/v1/chat/completions
HTTP
Sebelum melakukan pemanggilan, Anda harus mendapatkan Kunci API. Untuk meneruskan Kunci API langsung di kode Anda, ganti $DASHSCOPE_API_KEY dengan Kunci API Anda.
Akses lintas akun
Secara default, koneksi PrivateLink hanya dapat dibuat di VPC yang dimiliki oleh akun saat ini, dan hanya sumber daya di VPC tersebut yang dapat mengakses Model Studio melalui nama domain pribadi. Jika VPC yang berisi sumber daya pemanggil dimiliki oleh akun Alibaba Cloud lain, Anda dapat memilih salah satu cara berikut:
- Cara 1: VPC sharing: Bagikan vSwitch di VPC pemanggil kepada akun Model Studio, sehingga koneksi PrivateLink dibuat langsung di VPC pemanggil.
- Cara 2: Interkoneksi VPC: Koneksi PrivateLink dibuat di VPC milik akun Model Studio sendiri, dan VPC pemanggil terhubung ke VPC tersebut melalui koneksi peering VPC atau CEN untuk mengakses koneksi PrivateLink.
Cara 1: VPC sharing
VPC sharing melibatkan dua akun:
- Akun pemilik VPC: Memiliki VPC dan vSwitch, serta membagikan vSwitch.
- Akun Model Studio: Menerima pembagian, menambahkan koneksi PrivateLink di konsol Model Studio, dan mengaitkan ruang kerja.
Langkah 1: Akun pemilik VPC membagikan vSwitch
Di konsol Resource Sharing, klik Create Sharing Unit dan selesaikan Configure Basic Information and Add Resources (tambahkan vSwitch yang akan dibagikan), Associate Permissions (pilih AliyunRSDefaultPermissionVSwitch), Associate Resource Users (masukkan UID akun Model Studio), dan Confirm and Submit. VPC sharing membagikan vSwitch, bukan seluruh VPC. Untuk informasi selengkapnya, lihat Berbagi VPC.
Langkah 2: Akun Model Studio menerima pembagian
Masuk ke konsol Resource Sharing dengan akun Model Studio dan terima pembagian di halaman Shared with Me. Jika unit pembagian sudah terkait, lewati langkah ini.
Langkah 3: Akun Model Studio menambahkan koneksi PrivateLink
Masuk ke konsol Model Studio dan tambahkan koneksi PrivateLink seperti yang dijelaskan di Langkah 1 topik ini. Perhatikan pengaturan berikut:
- Region: Pilih wilayah tempat VPC yang dibagikan berada. Wilayah tersebut harus mendukung akses jaringan pribadi Model Studio, misalnya China (Beijing) atau China (Hong Kong).
- VPC: Pilih VPC yang dibagikan.
- Zones and Switches: Pilih vSwitch yang dibagikan di VPC tersebut.
- Security Group: Pilih grup keamanan yang tersedia di VPC yang dibagikan, dan pastikan aturan masuknya mengizinkan sumber daya pemanggil mengakses port 443.
Langkah 4: Selesaikan konfigurasi berikutnya dan lakukan pemanggilan
Setelah koneksi PrivateLink dibuat, kaitkan ruang kerja dan dapatkan nama domain pribadi seperti yang dijelaskan di Langkah 2, Langkah 3, dan Langkah 4 topik ini. Pemanggil di VPC yang dibagikan menggunakan nama domain pribadi tersebut dan Kunci API ruang kerja untuk melakukan pemanggilan.
Cara 2: Interkoneksi VPC
Interkoneksi VPC melibatkan dua akun:
- Akun Model Studio: Membuat koneksi PrivateLink di VPC miliknya sendiri (selanjutnya disebut VPC Model Studio) dan mengaitkan ruang kerja.
- Akun pemanggil: Memiliki VPC tempat sumber daya pemanggil berada (selanjutnya disebut VPC pemanggil).
Langkah 1: Hubungkan jaringan
Hubungkan VPC Model Studio dan VPC pemanggil dengan salah satu cara berikut. Blok CIDR kedua VPC tidak boleh tumpang tindih. Untuk perbandingan pemilihan dan penagihan kedua cara, lihat Ikhtisar interkoneksi VPC.
-
Koneksi peering VPC
- Salah satu akun membuat koneksi peering di konsol VPC, memilih Cross-account untuk Accepter Account Type, serta memasukkan UID akun peer dan ID VPC peer.
- Akun peer menerima koneksi tersebut di halaman koneksi peering VPC di konsol VPC.
- Kedua akun masing-masing menambahkan rute di tabel rute VPC-nya, dengan blok CIDR tujuan berupa blok CIDR VPC peer dan hop berikutnya berupa koneksi peering tersebut.
-
CEN
- Salah satu akun membuat instans CEN dan membuat transit router di wilayah tempat VPC berada.
- Akun peer memberikan otorisasi VPC miliknya kepada instans CEN tersebut.
- Buat koneksi VPC untuk masing-masing VPC di transit router, sehingga kedua VPC terhubung ke transit router yang sama.
Langkah 2: Izinkan akses di grup keamanan koneksi PrivateLink
Setelah jaringan terhubung, pemanggil masih harus diizinkan oleh grup keamanan koneksi PrivateLink untuk mengakses koneksi PrivateLink. Akun Model Studio menambahkan aturan masuk berikut ke grup keamanan yang dikaitkan dengan koneksi PrivateLink:
| Parameter | Nilai |
|---|---|
| Kebijakan otorisasi | Izinkan |
| Jenis protokol | TCP kustom |
| Rentang port | 443 |
| Objek otorisasi | Blok CIDR VPC pemanggil, misalnya 192.168.0.0/16. Anda dapat melihatnya di halaman detail VPC di konsol VPC |
Langkah 3: Lakukan pemanggilan
Akun Model Studio memberikan nama domain pribadi dan Kunci API ruang kerja kepada akun pemanggil, dan sumber daya di VPC pemanggil melakukan pemanggilan seperti yang dijelaskan di Langkah 4 topik ini. Jika muncul kesalahan batas waktu koneksi seperti Failed to connect to <private domain name> port 443, periksa konfigurasi jaringan di Langkah 1 dan aturan grup keamanan di Langkah 2.
Penagihan
Penggunaan PrivateLink menimbulkan biaya tambahan. Untuk perkiraan biaya, lihat Penagihan PrivateLink.
Biaya PrivateLink dan biaya pemanggilan model ditagihkan ke akun yang membuat koneksi PrivateLink, terlepas dari akun mana yang memiliki VPC. Untuk penagihan koneksi peering VPC dan CEN, lihat Koneksi peering VPC dan Aturan penagihan CEN.
FAQ
-
Mengapa Instance ECS saya tidak dapat mengakses API Model Studio melalui jaringan pribadi?
Periksa hal berikut:
- Konfirmasi bahwa Instance ECS dan koneksi PrivateLink berada di VPC yang sama. Jika Instance ECS berada di VPC yang berbeda, Instance tersebut tidak dapat mengakses Model Studio melalui jaringan pribadi. Konfigurasikan koneksi VPC terlebih dahulu, misalnya koneksi peering VPC atau CEN, dan izinkan akses di grup keamanan koneksi PrivateLink. Untuk informasi selengkapnya, lihat Cara 2: Interkoneksi VPC.
- Verifikasi bahwa grup keamanan yang dikaitkan dengan koneksi PrivateLink mengizinkan lalu lintas masuk dari Blok CIDR Instance ECS pada port 443 (HTTPS).
- Periksa status koneksi PrivateLink. Nama domain pribadi hanya dapat digunakan setelah status koneksi menjadi Created dan koneksi mulai berlaku (sekitar 1 hingga 3 menit setelah dibuat).
- Periksa apakah ruang kerja telah dikaitkan. Nama domain pribadi hanya dibuat setelah sebuah ruang kerja dikaitkan dengan koneksi PrivateLink. Jika kolom Endpoint pada baris yang dibentangkan kosong, kaitkan ruang kerja seperti yang dijelaskan pada Langkah 2.
- Dapatkah endpoint diakses dari internet publik? Tidak. PrivateLink hanya menetapkan koneksi pribadi dalam jaringan internal Alibaba Cloud. Endpoint tidak dapat diakses dari internet publik, dan Anda tidak dapat mengaitkan EIP dengan ENI endpoint.
-
Apakah koneksi PrivateLink lama perlu dikaitkan dengan ruang kerja?
Tidak. Koneksi PrivateLink lama, yaitu yang dibuat sebagai endpoint antarmuka di konsol PrivateLink (VPC), dikaitkan dengan semua ruang kerja secara default. Anda dapat menggunakannya untuk mengakses API Model Studio melalui jaringan pribadi tanpa melakukan Langkah 2.
Saat Anda membentangkan koneksi lama pada halaman Network configuration, kolom Endpoint menampilkan
vpc-{region-id}.dashscope.aliyuncs.com(misalnya,vpc-ap-southeast-1.dashscope.aliyuncs.com), dan kolom Associated workspace menunjukkan bahwa koneksi tersebut dikaitkan dengan semua ruang kerja. Hal ini berbeda dari alur saat ini, yang mencantumkan{WorkspaceId}-{VpcId}.{region-id}.maas.aliyuncs.comuntuk setiap ruang kerja yang dikaitkan. Koneksi PrivateLink tidak dapat lagi dibuat dengan cara tersebut. Untuk menambah koneksi, ikuti Langkah 1 untuk membuatnya di konsol Model Studio, lalu ikuti Langkah 2 untuk mengaitkan ruang kerja yang memerlukan akses jaringan pribadi.