Akses AOQ Qwen-Omni-Realtime
Cakupan penggunaan
Dokumen ini ditujukan untuk Qwen-Omni-Realtime. Dokumentasi integrasi yang ada mencakup qwen3.8-omni-flash-realtime, qwen3.5-omni-plus-realtime, dan qwen3.5-omni-flash-realtime. Model contoh adalah qwen3.8-omni-flash-realtime.
- Gunakan API Key dan ID ruang kerja yang sesuai dengan wilayah dan ruang kerja yang dipilih.
-
domain Singapura:
{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com. - Simpan API Key hanya di server. Jangan sematkan dalam browser atau aplikasi seluler.
- Saat menangkap audio dengan mikrofon atau video dengan kamera, minta izin yang diperlukan sesuai persyaratan platform.
- Unduh SDK untuk platform Anda dari Unduhan SDK.
Autentikasi dan kredensial koneksi
clientIp bersifat opsional. Jika dihilangkan, gateway menggunakan alamat IP asal permintaan.
https://WorkspaceId.ap-southeast-1.maas.aliyuncs.com/api/v1/webrtc/realtime?model=qwen3.8-omni-flash-realtime-d '{}' dalam isi permintaan dengan -d '{"clientIp":"<CLIENT_PUBLIC_IP>"}'.
Bidang permintaan
Konfigurasi | Nilai | Deskripsi |
|---|---|---|
endpoint | Pilih domain endpoint sesuai kasus penggunaan | Tentukan domain endpoint. Untuk detailnya, lihat Memilih wilayah, cakupan penerapan, dan endpoint. Jika menggunakan Token Plan, atur |
Content-Type |
| Jenis media pesan |
Authorization |
| API Key Anda |
x-dashscope-rtc-transport |
| Pilih protokol AOQ |
clientIp | Alamat IP publik klien | Opsional. Jika dihilangkan, layanan menggunakan alamat IP asal permintaan yang diterima gateway. Jika ditentukan, layanan menggunakan clientIp. Layanan memilih endpoint Relay terbaik berdasarkan alamat IP klien. |
Contoh respons
Bidang respons
Bidang | Deskripsi |
|---|---|
sid | Identifier unik sesi. |
aoqTokenForClient | Token koneksi klien. Teruskan nilai ini ke bidang token SDK. |
clientRelayEndpoints | Array endpoint Relay. Setiap elemen dalam contoh respons berisi bidang berikut:
Properti endpointAlamat endpoint Relay.portPort endpoint Relay.route_indexContoh iOS di bawah menggunakan indeks array jika bidang ini tidak ada. |
clientRelayCertFingerprint | Sidik jari sertifikat TLS Relay. |
sidExpiresInSecs | Masa berlaku sesi dalam detik. |
extraInfo | Informasi tambahan.
Properti workspaceIdHashHash ID ruang kerja. |
Contoh koneksi AOQ Client SDK
clientIp adalah bidang opsional dalam badan permintaan. Jika tidak ditentukan, alamat IP yang mengirim permintaan ke gerbang Model Studio akan digunakan sebagai alamat IP klien. Jika ditentukan, nilai clientIp memiliki prioritas lebih tinggi. Pastikan AppServer bisnis Anda mendapatkan alamat IP asli klien dan meneruskannya agar mendapatkan titik akses Relay terbaik.Alur kerja

- Dapatkan kredensial koneksi melalui AppServer.
- Buat mesin SDK dan daftarkan callback.
- Atur trek media dan Data, lalu nonaktifkan pengiriman media upstream.
- Buat koneksi AOQ dan tunggu hingga tersambung.
- Konfigurasikan model sesuai protokolnya. Setelah dikonfirmasi, aktifkan media upstream yang diperlukan.
- Putuskan koneksi dan lepas sumber daya setelah interaksi selesai.
- SDK AOQ menangani pengambilan, pemrosesan, pengiriman, penerimaan, dan pemutaran media. Aplikasi harus bertukar pesan Data sesuai definisi peristiwa model tujuan.
-
Koneksi yang berhasil menunjukkan bahwa saluran transmisi ke model telah terbentuk. Klien hanya boleh mengaktifkan media uplink yang diperlukan setelah inisialisasi model selesai. Untuk model contoh
qwen3.8-omni-flash-realtimepada halaman ini, tunggusession.updatedsetelah mengirimsession.update, lalu mulai transmisi media.
1. Memperoleh kredensial koneksi
Klien meminta kredensial dari AppServer. AppServer memanggil endpoint koneksi Realtime model ini dan menyertakan API Key serta x-dashscope-rtc-transport: moq dalam permintaan gateway. Untuk endpoint, permintaan, dan deskripsi bidang lengkap, lihat Autentikasi token.
Petakan respons ke AoqConnectConfig:
| Respons gateway | Konfigurasi SDK |
|---|---|
aoqTokenForClient | token |
sid | sid |
clientRelayCertFingerprint | certFingerprint |
clientRelayEndpoints | relayEndpoints, konversi setiap titik akses sesuai struktur |
extraInfo contains workspaceIdHash | workspaceIdHash |
2. Menginisialisasi SDK dan mendaftarkan callback
Buat mesin dan daftarkan callback untuk status koneksi, pesan Data, dan kesalahan. Contoh berikut menggunakan Swift di iOS:
AoqEngineDelegate; kelola status koneksi dalam onConnectionStatusChange, uraikan peristiwa model target dalam onDataMsg, dan tangani kesalahan SDK dalam onError. Peristiwa kesalahan yang dikembalikan model juga harus ditangani secara terpisah dalam logika pemrosesan pesan Data. Untuk detail antarmuka SDK dan kesalahan, lihat SDK per platform dan Referensi fitur.
3. Mengonfigurasi SDK
Memilih arah media
Arah dilihat dari sisi klien. Konfigurasikan hanya modalitas input dan output yang diperlukan aplikasi. Jangan tambahkan track untuk arah yang tidak digunakan.
| Arah | Konfigurasi | Penggunaan umum |
|---|---|---|
| mengirim audio | Memublikasikan track Audio, mengatur encoder audio, serta mengonfigurasi perekaman bawaan atau eksternal | percakapan suara |
| menerima audio | Berlangganan track Audio, mengatur decoder audio, serta mengonfigurasi pemutar atau pemutaran eksternal | respons suara |
| mengirim video | Memublikasikan track Video, mengonfigurasi kamera atau input video eksternal dan parameter enkode | Mengirim video ke model yang mendukung input visual |
| menerima video | Model ini tidak mendukung output video | Jangan konfigurasikan langganan video |
Arah media untuk model ini
Tabel berikut mencantumkan arah media untuk model ini. Untuk cakupan model, lihat Cakupan penerapan. Untuk metode integrasi lain, lihat Qwen-Omni-Realtime.
| Model atau aplikasi | Mengirim audio | Menerima audio | Mengirim video | Menerima video |
|---|---|---|---|---|
| Qwen-Omni-Realtime | Aktifkan jika input suara diperlukan | Aktifkan jika respons suara diperlukan | Aktifkan jika input visual diperlukan | tidak dapat diaktifkan |
Mengatur parameter dan trek media
Atur audio upstream dan downstream secara terpisah: gunakan setAudioEncoderConfig untuk upstream dan setAudioDecoderConfig untuk downstream. Parameter ini mengendalikan transmisi jaringan; gateway mengonversi audio ke format yang diperlukan model. Atur encoding transport dan format audio dalam peristiwa model masing-masing sesuai persyaratan SDK dan model tujuan.
Jalankan startAudioCapture, startAudioPlayer, atau startVideoCapture sesuai kebutuhan. Untuk input dan output khusus, lihat fitur lanjutan di bawah.
publishTracks dikirim oleh klien, sedangkan subscribeTracks diterima oleh klien:
| Skenario | publishTracks | subscribeTracks |
|---|---|---|
| percakapan suara | Audio, Data | Audio, Data |
| Percakapan suara dengan input visual | Audio, Video, Data | Audio, Data |
4. Membuat koneksi
Isi kredensial dan konfigurasi track dalam AoqConnectConfig, lalu panggil:
onConnectionStatusChange mengembalikan .connected, lalu lanjutkan ke inisialisasi model. Kembalinya connect tidak berarti koneksi telah berhasil.
5. Bertukar peristiwa model dan media
Mengirim dan menguraikan peristiwa model
Klien mengirim peristiwa melalui track Data. Berikut cuplikan kode Swift untuk iOS; untuk antarmuka lain, lihat Referensi SDK iOS.
onDataMsg. Model ini mengidentifikasi jenis peristiwa melalui bidang type. Ikuti dokumentasi model target untuk bidang, parameter, dan kondisi penghentian lengkap.
Mengaktifkan media setelah model siap
Setelah model, sesi, atau tugas saat ini memenuhi kondisi kesiapan, aktifkan hanya arah upstream yang telah dikonfigurasi. Untuk input ucapan, panggil:
.video hanya jika input video diperlukan.
Kirim audio dan video melalui trek medianya, serta peristiwa model dan teks melalui trek Data. Misalnya, Omni melalui AOQ tidak memerlukan input_audio_buffer.append atau input_image_buffer.append untuk mengirim ulang media yang sama. Tangani audio downstream dengan pemutar yang dikonfigurasi atau logika pemutaran eksternal.
6. Mengakhiri interaksi dan melepas sumber daya
Saat koneksi tidak diperlukan lagi, panggil antarmuka pemutusan koneksi dan pelepasan sumber daya SDK AOQ dari aplikasi:
Mengirim dan menerima peristiwa melalui saluran Data
Klien mengirim dan menerima peristiwa model melalui track Data AOQ SDK. Saat terhubung, publikasi dan langganan track Data sama-sama diperlukan. Saat mengirim, serialisasikan peristiwa model ke AoqDataMsg dan panggil antarmuka pengiriman Data platform. Saat menerima, uraikan pesan dalam callback onDataMsg. Lihat SDK per platform untuk detail antarmuka.
Nama, bidang, parameter, dan waktu pengiriman peristiwa mengikuti Definisi peristiwa klien model target. Penguraian, perubahan status, hasil, dan penanganan kesalahan setelah menerima pesan mengikuti Definisi peristiwa server model. Kirim peristiwa inisialisasi sesuai persyaratan model; kirim peristiwa teks dan kontrol berikutnya sesuai kebutuhan aplikasi.
| Model atau aplikasi | Peristiwa klien (kirim) | Peristiwa server (terima) |
|---|---|---|
| Qwen-Omni-Realtime | Peristiwa klien | Peristiwa server |
-
Gunakan bidang
typeperistiwa untuk mengidentifikasi peristiwa model, dan tangani pengenal terkait sesuai referensi peristiwa model ini. - Operasi yang diperlukan model, seperti konfirmasi inisialisasi, pengiriman input, pembatalan respons, dan penyelesaian tugas, ditangani dalam saluran Data sesuai protokolnya. Operasi ini merupakan semantik interaksi model dan berbeda dari pemutusan koneksi transport.
- Sebelum mengakhiri, selesaikan pengiriman input dan penerimaan hasil sesuai dokumentasi peristiwa model ini. Jika pemutaran lengkap diperlukan, lepaskan koneksi hanya setelah memproses audio yang masih mengantre secara lokal.
- Data audio dan video dikirim melalui track media. Saat merujuk dokumentasi peristiwa model, enkapsulasi media dan mode interaksi yang tersedia tetap mengikuti metode akses di sini, bukan langsung menggunakan cara transmisi media WebSocket.
Fitur lanjutan
| Kemampuan | Kasus penggunaan | Dokumentasi |
|---|---|---|
| Mengendalikan transmisi audio dan video secara terpisah | Menunggu model siap, menjeda media upstream, atau mengaktifkan video sesuai kebutuhan | Pengelolaan transmisi media |
| Perangkat dan pemrosesan audio | Encoding, decoding, speaker, pencampuran file, dan callback frame audio | Fitur audio umum |
| Input audio eksternal | Menggunakan sumber audio yang disediakan aplikasi | Pengambilan audio khusus |
| Output audio eksternal | Memproses atau memutar audio output di aplikasi | Pemutaran audio khusus |
| Pengambilan dan input video | Menggunakan kamera atau gambar yang disediakan aplikasi | Fitur video umum, Input video khusus |
Contoh konfigurasi sesi
qwen3.8-omni-flash-realtime. Audio dan video dikirim melalui track media tanpa menggunakan peristiwa pengiriman media WebSocket.Unduhan AOQ SDK
Catatan pembaruan versi di bawah menjelaskan kemampuan umum AOQ SDK. Cakupan dukungan media model ini dijelaskan pada Arah media untuk model ini di atas.
| Versi | Platform | Unduhan | Tanggal rilis | Catatan rilis |
|---|---|---|---|---|
| v1.4.0 | Android | AoqClientSdk-release.aarlibPluginOpus.zip | 2026-10-27 |
|
| iOS | AoqClientSdk.framework.zipAoqScreenShare.framework.zipPluginOpus.framework.zip | |||
| HarmonyOS | AoqClientSdk.harlibPluginOpus.zip | |||
| Windows | AoqClientSdk-windows-x64.zip | |||
| macOS | AoqClientSdk.framework.zipPluginOpus.framework.zip | |||
| Electron | aoq-electron-sdk-1.4.0-59463182.tgzAtau, instal melalui npm:npm install aoq-electron-sdk@1.4.0-59463182 | |||
| Linux | x86_64: AoqClientSdk.ziparm64: AoqClientSdk.zip | |||
| v1.3.0 | Android | 2026-09-18 |
| |
| iOS | ||||
| HarmonyOS | ||||
| Windows | AoqClientSdk-windows-x64.zip | |||
| macOS | ||||
| Electron | Atau instal dengan npm: npm install aoq-electron-sdk@1.3.0-58586345 | |||
| Linux | x86_64: AoqClientSdk.zip arm64: AoqClientSdk.zip | |||
| v1.2.2 | iOS | AoqClientSdk.framework.zip | 2026-09-09 |
|
| v1.2.0 | Android | 2026-08-17 |
| |
| iOS | ||||
| HarmonyOS | ||||
| Windows | ||||
| macOS | ||||
| Electron | Atau, instal menggunakan npm: npm install aoq-electron-sdk@1.2.0-57407598 | |||
| Linux | x86_64: AoqClientSdk.zip arm64: AoqClientSdk.zip | |||
| v1.1.0 | Android | 2026-07-31 |
| |
| iOS | ||||
| HarmonyOS | ||||
| Linux | AoqClientSdk.zip | |||
| v1.0.1 | Android | 2026-07-09 |
| |
| iOS | ||||
| HarmonyOS |
Referensi event
Tutorial skenario
- Menggunakan AOQ dengan qwen3.8-omni-flash-realtime untuk panggilan realtime
- Membangun percakapan suara push-to-talk dengan qwen3.8-omni-flash-realtime melalui AOQ