Topik ini menjelaskan cara menggunakan API untuk memanggil model seri GLM di platform Alibaba Cloud Model Studio.
Titik akhir layanan
Titik akhir layanan bervariasi berdasarkan wilayah. Konfigurasikan URL dasar yang sesuai dengan wilayah yang Anda pilih.
- Kompatibel dengan OpenAI
- Kompatibel dengan OpenAI - API Responses
- DashScope
- China (Beijing)
- AS (Virginia)
- Jerman (Frankfurt)
- China (Hong Kong)
- Singapura
base_url untuk panggilan SDK adalah: https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1Titik akhir permintaan HTTP: POST https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1/chat/completions{WorkspaceId} dengan ID ruang kerja aktual Anda.
Memulai
glm-5.2 dan glm-5.2-fast-preview adalah model dalam seri GLM, dengan panjang konteks hingga 1 juta token. Kedua model ini memungkinkan Anda mengatur mode berpikir dan mode non-berpikir melalui parameter enable_thinking. Anda dapat menjalankan kode berikut untuk langsung memanggil model glm-5.2 dalam mode berpikir.
Sebelum memulai, dapatkan Kunci API dan konfigurasikan sebagai variabel lingkungan. Jika Anda menggunakan SDK, Anda juga harus menginstal SDK OpenAI atau DashScope.
- Kompatibel dengan OpenAI
- DashScope
- Kompatibel dengan Anthropic
enable_thinking bukan parameter standar OpenAI. Di SDK Python OpenAI, parameter ini dilewatkan melalui extra_body. Di SDK Node.js, parameter ini dilewatkan sebagai parameter tingkat atas.- Python
- Node.js
- HTTP
Kode contoh
Tanggapan
Pemanggilan alat streaming
glm-5.2, glm-5.2-fast-preview, glm-5.1, glm-5 mendukung parameter tool_stream. Parameter ini merupakan boolean yang secara default bernilai false dan hanya berlaku ketika stream diatur ke true. Ketika diaktifkan, argumen dari parameter tool_call dari Function Calling dikembalikan secara inkremental dalam aliran, bukan sekaligus setelah generasi lengkap selesai.
Perilaku gabungan dari stream dan tool_stream adalah sebagai berikut:
stream | tool_stream | metode pengembalian tool_call |
|---|---|---|
true | true | Argumen dikembalikan secara inkremental dalam beberapa chunk. |
true | false (default) | Argumen dikembalikan sepenuhnya dalam satu chunk. |
false | true/false | tool_stream tidak berpengaruh. Argumen dikembalikan sekaligus dalam tanggapan lengkap. |
- Kompatibel dengan OpenAI
- DashScope
- Python
- Node.js
- HTTP
Kode contoh
Usaha penalaran (reasoning_effort)
Model glm-5.2, glm-5.2-fast-preview, dan glm-5.1 memiliki mode berpikir yang diaktifkan secara default. Model pertama kali mengeluarkan proses berpikir (reasoning_content) lalu memberikan jawaban akhir. Anda dapat menggunakan parameter reasoning_effort untuk menyesuaikan usaha penalaran. Nilai yang lebih tinggi menunjukkan pemikiran yang lebih menyeluruh. Nilai yang didukung bervariasi berdasarkan model. Jika Anda memberikan nilai yang tidak didukung, kesalahan invalid_parameter_error akan dikembalikan. Pilih nilai dari tabel berikut.
Model | Nilai yang tersedia untuk reasoning_effort |
|---|---|
glm-5.2 |
|
glm-5.2-fast-preview |
|
glm-5.1 |
|
enable_thinking ke false dalam mode kompatibel OpenAI atau DashScope. Parameter ini memiliki prioritas lebih tinggi daripada reasoning_effort.reasoning_effort. Untuk mendapatkan konten berpikir, gunakan parameter native Anthropic thinking: {"thinking":{"type":"enabled","budget_tokens":1024}}. Ketika diaktifkan, blok content dalam tanggapan akan mencakup blok berpikir dengan type diatur ke thinking.- Kompatibel dengan OpenAI
- DashScope
Bersihkan riwayat berpikir (clear_thinking)
Parameter clear_thinking mengontrol apakah reasoning_content (proses berpikir) dari putaran sebelumnya dalam percakapan multi-putaran diteruskan ke model sebagai konteks. Parameter ini hanya didukung oleh model seri GLM.
true: Mengabaikanreasoning_contentdari putaran sebelumnya. Hanya konten non-penalaran seperti teks yang terlihat, pemanggilan alat, dan hasil yang digunakan sebagai input konteks. Hal ini mengurangi panjang konteks dan biaya.false(default): Mempertahankanreasoning_contentdari putaran sebelumnya dan memberikannya ke model bersama dengan konteks. Untuk mengaktifkan Preserved Thinking, Anda harus meneruskanreasoning_contenthistoris secara lengkap, tidak diubah, dan dalam urutan aslinya dalam pesan. Konten yang hilang, dipotong, ditulis ulang, atau diurutkan ulang dapat menurunkan performa atau menyebabkan fitur gagal.
assistant berisi reasoning_content. Ketika clear_thinking diatur ke true, konten berpikir historis tidak termasuk dalam konteks. Oleh karena itu, jumlah prompt_tokens lebih rendah dibandingkan ketika diatur ke false (default). Nilai aktual tergantung pada panjang reasoning_content historis.
- Kompatibel dengan OpenAI
- DashScope
API Responses
glm-5.2 mendukung panggilan melalui API Responses yang kompatibel dengan OpenAI. Hanya wilayah China (Beijing) dan Singapura yang didukung. Untuk titik akhir, lihat Titik akhir layanan.
Saat memanggil API Responses, Anda dapat menambahkan alat web_search (Pencarian web), web_extractor (Ekstraktor web), dan code_interpreter (Interpreter kode) ke parameter tools.
Fitur lainnya
| Model | Percakapan multi-putaran | Pemanggilan Fungsi | Output terstruktur | Pencarian web | Mode parsial | Cache konteks |
|---|---|---|---|---|---|---|
| glm-5.2 | Didukung | Didukung | DidukungHanya dalam mode non-berpikir | Tidak didukung | Tidak didukung | DidukungHanya cache implisit yang didukung |
| glm-5.2-fast-preview | Didukung | Didukung | DidukungHanya dalam mode non-berpikir | Tidak didukung | Tidak didukung | DidukungHanya cache implisit yang didukung |
| glm-5.1 | Didukung | Didukung | DidukungHanya dalam mode non-berpikir | Tidak didukung | Tidak didukung | DidukungCache eksplisit dan implisit keduanya didukung |
| glm-5 | Didukung | Didukung | DidukungHanya dalam mode non-berpikir | Tidak didukung | Tidak didukung | DidukungHanya cache implisit yang didukung |
Nilai parameter default
Model | enable_thinking | suhu | top_p | top_k | repetition_penalty |
|---|---|---|---|---|---|
glm-5.2 | true | 1.0 | 0.95 | 20 | 1.0 |
glm-5.1 | true | 1.0 | 0.95 | 20 | 1.0 |
glm-5 | true | 1.0 | 0.95 | 20 | 1.0 |
Perhatian
Saat memanggil model, ikuti tipe parameter dan bidang wajib pada API yang Anda gunakan. Perhatikan hal-hal berikut:
max_tokensharus berupa bilangan bulat, seperti1024, bukan nilai booleantrue. Saat memanggil glm-5.3,truedapat diperlakukan sebagai1, sehingga output terpotong setelah 1 token tanpa mengembalikan kesalahan parameter. Output mungkin hanya berisi konten pemikiran tanpa jawaban akhir.- Saat menggunakan API kompatibel Anthropic, setiap alat dalam array
toolsharus menyertakanname, seperti"name": "get_weather". Jikanametidak disertakan, permintaan akan gagal. Sertakan nama alat sebelum mengirim permintaan.
Model dan penagihan
Model seri GLM adalah model penalaran hibrida yang dirancang oleh Zhipu AI untuk agen. Model ini menyediakan mode berpikir dan non-berpikir.
- glm-5.2: Model GLM dengan panjang konteks 1 juta. Mendukung Pemanggilan Fungsi, output terstruktur, dan cache implisit. Anda dapat memanggilnya menggunakan antarmuka kompatibel OpenAI, DashScope, dan kompatibel Anthropic.
Dalam mode berpikir, rantai-pikiran ditagih sebagai token output.