Skip to main content

GLM-ZHIPU

Ce document décrit comment appeler le service d'inférence de modèle Z.AI sur Alibaba Cloud Model Studio.

Les fonctionnalités décrites dans ce document sont disponibles uniquement dans la région de Singapour. Pour utiliser le modèle, appelez-le depuis la région de Singapour.
Alibaba Cloud Model Studio a publié des domaines spécifiques à l'espace de travail pour les régions Chine (Pékin), Singapour et Chine (Hong Kong). Les nouveaux domaines dédiés offrent des performances supérieures et une stabilité accrue pour les requêtes d'inférence. Nous vous recommandons de migrer vers les nouveaux domaines :
  • Chine (Pékin) : de https://dashscope.aliyuncs.com à https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com
  • Singapour : de https://dashscope-intl.aliyuncs.com à https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com
  • Chine (Hong Kong) : de https://cn-hongkong.dashscope.aliyuncs.com à https://{WorkspaceId}.cn-hongkong.maas.aliyuncs.com
{WorkspaceId} est votre ID d'espace de travail, qui se trouve sur la page Workspace Details de la console Alibaba Cloud Model Studio. Le domaine existant reste pleinement fonctionnel.

Activation du service

  1. Accédez à la console Model Studio, recherchez ZHIPU/GLM, trouvez la carte du modèle de texte GLM-series Z.AI et cliquez sur Activer maintenant.
  2. Dans la boîte de dialogue, confirmez l'activation et l'autorisation.
Une fois ces étapes terminées, vous pouvez appeler le service de modèle GLM de Z.AI.

Démarrage rapide

ZHIPU/GLM-5.3 est le modèle le plus récent de la série GLM et prend en charge un contexte de 1M. Exécutez le code suivant pour appeler rapidement le modèle ZHIPU/GLM-5.3 en mode réflexion. Vous devez avoir obtenu une clé API et configuré la clé API comme variable d'environnement. Si vous appelez le modèle à l'aide d'un SDK, vous devez également installer le SDK.
  • Compatibilité OpenAI
Le paramètre enable_thinking n'est pas un paramètre OpenAI standard. Dans le SDK Python OpenAI, vous le transmettez dans extra_body. Dans le SDK Node.js, vous le transmettez en tant que paramètre de niveau supérieur.
  • Python
  • Node.js
  • HTTP

Exemple de code

from openai import OpenAI
import os

# Initialize the OpenAI client
client = OpenAI(
    # If the environment variable is not set, replace "sk-xxx" with your Alibaba Cloud Model Studio API Key.
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # Singapore region. Replace {WorkspaceId} with your Bailian workspace ID. URLs vary by region.
    base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1",
)

messages = [{"role": "user", "content": "Who are you?"}]
completion = client.chat.completions.create(
    model="ZHIPU/GLM-5.3",
    messages=messages,
    # Enable thinking mode by setting enable_thinking in extra_body.
    # reasoning_effort controls the reasoning effort. Optional values: max (default), high, low.
    extra_body={"enable_thinking": True},
    reasoning_effort="max",
    stream=True,
    stream_options={
        "include_usage": True
    },
)

reasoning_content = ""  # Full reasoning process
answer_content = ""  # Full response
is_answering = False  # Tracks if the model is in the answering phase
print("\n" + "=" * 20 + " Reasoning Process " + "=" * 20 + "\n")

for chunk in completion:
    if not chunk.choices:
        print("\n" + "=" * 20 + " Token Usage " + "=" * 20 + "\n")
        print(chunk.usage)
        continue

    delta = chunk.choices[0].delta

    # Collect only the reasoning content
    if hasattr(delta, "reasoning_content") and delta.reasoning_content is not None:
        if not is_answering:
            print(delta.reasoning_content, end="", flush=True)
        reasoning_content += delta.reasoning_content

    # When content is received, start generating the response
    if hasattr(delta, "content") and delta.content:
        if not is_answering:
            print("\n" + "=" * 20 + " Full Response " + "=" * 20 + "\n")
            is_answering = True
        print(delta.content, end="", flush=True)
        answer_content += delta.content

Réponse

==================== Reasoning Process ====================

Let me carefully consider the user's question. It seems simple, but it is actually quite profound.

From a linguistic perspective, the user is using English, which means I should respond in English. This is a fundamental self-introduction question, but it may have multiple layers of meaning.

First, I need to be clear that as a language model, I should honestly state my identity and nature. I am not a human, nor do I possess true emotions or consciousness. I am an AI assistant trained with deep learning technology. This is a basic fact.

Second, considering the user's potential needs, they might want to know:
1. What services can I provide?
2. What are my areas of expertise?
3. What are my limitations?
4. How can they interact with me more effectively?

In my answer, I should express a friendly and open attitude while maintaining professionalism and accuracy. I should state my main areas of expertise, such as knowledge Q&A, writing assistance, and creative support, while also frankly pointing out my limitations, such as the lack of real emotional experience.

Furthermore, to make the answer more complete, I should also express a positive attitude and willingness to help users solve problems. I can guide the user to ask more specific questions to better showcase my abilities.

Considering this is an open-ended opening, the answer should be concise and clear, yet contain enough information to give the user a clear understanding of my basic situation and lay a good foundation for subsequent conversations.

Finally, the tone should remain humble and professional, neither too technical nor too casual, to make the user feel comfortable and natural.
==================== Full Response ====================

I am a GLM large language model trained by ZHIPU AI, designed to provide users with information and help solve problems. I am designed to understand and generate human language, and I can answer questions, provide explanations, or participate in discussions on various topics.

I do not store your personal data, and our conversations are anonymous. Is there any topic I can help you understand or explore?
==================== Token Usage ====================

CompletionUsage(completion_tokens=344, prompt_tokens=7, total_tokens=351, completion_tokens_details=None, prompt_tokens_details=None)

Appel d'outil en streaming

Les modèles ZHIPU/GLM-5.3 et ZHIPU/GLM-5.2 prennent en charge le paramètre tool_stream. Ce paramètre est un booléen dont la valeur par défaut est false et qui fonctionne uniquement lorsque stream est true. Lorsqu'il est activé, les arguments du paramètre tool_call de Function calling sont retournés de manière incrémentielle sous forme de flux. Les paramètres stream et tool_stream fonctionnent ensemble comme suit :

stream

tool_stream

Commenttool_callest renvoyé

true

true

arguments sont renvoyés de manière incrémentielle dans plusieurs chunks.

true

false (par défaut)

arguments sont renvoyés complètement dans un seul chunk.

false

true/false

tool_stream n'a aucun effet. arguments sont renvoyés tous à la fois dans la réponse complète.

  • Compatible OpenAI
  • Python
  • Node.js
  • curl

Exemple de code

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # Singapore region. Replace {WorkspaceId} with your Bailian workspace ID. URLs vary by region.
    base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1",
)

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get weather information for a specified city",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string", "description": "The name of the city"}
                },
                "required": ["city"]
            }
        }
    }
]

messages = [{"role": "user", "content": "What is the weather like in Beijing"}]

completion = client.chat.completions.create(
    model="ZHIPU/GLM-5.3",
    tools=tools,
    messages=messages,
    extra_body={
        "tool_stream": True,
    },
    stream=True,
    stream_options={"include_usage": True},
)

for chunk in completion:
    if chunk.choices:
        delta = chunk.choices[0].delta
        if hasattr(delta, 'content') and delta.content:
            print(f"[content] {delta.content}")
        if hasattr(delta, 'tool_calls') and delta.tool_calls:
            for tc in delta.tool_calls:
                print(f"[tool_call] id={tc.id}, name={tc.function.name}, args={tc.function.arguments}")
        if chunk.choices[0].finish_reason:
            print(f"[finish_reason] {chunk.choices[0].finish_reason}")
    if not chunk.choices and chunk.usage:
        print(f"[usage] {chunk.usage}")

Contrôle de la réflexion (thinking.type et reasoning_effort)

ZHIPU/GLM-5.3 s'exécute toujours en mode réflexion et ne prend pas en charge la désactivation de la réflexion. Maintenez thinking.type défini sur enabled (ou maintenez enable_thinking défini sur true), et utilisez reasoning_effort pour contrôler la profondeur de raisonnement.

Paramètre

Description

Valeurs prises en charge

thinking.type

Contrôle si la réflexion est activée. La valeur par défaut est enabled. ZHIPU/GLM-5.3 ne prend plus en charge disabled. Passer disabled entraîne l'échec de la requête API.

enabled

reasoning_effort

Contrôle la profondeur de raisonnement du modèle. Si ce paramètre n'est pas spécifié, la valeur par défaut est max. Nous vous recommandons d'utiliser max.

  • max (par défaut) : raisonnement approfondi

  • high : raisonnement amélioré

  • low : raisonnement léger

Effacer l'historique de raisonnement (clear_thinking)

Le paramètre clear_thinking contrôle si le reasoning_content (processus de raisonnement) des tours précédents est transmis au modèle comme contexte dans les conversations multi-tours. Seuls les modèles de la série GLM prennent en charge ce paramètre.
  • true : Ignore le reasoning_content des tours précédents et utilise uniquement le contenu non lié au raisonnement, tel que le texte visible, les appels d'outils et les résultats d'outils, comme contexte. Cela réduit la longueur du contexte et le coût.
  • false (par défaut) : Conserve le reasoning_content des tours précédents et le fournit au modèle avec le contexte. Pour activer la préservation de la réflexion, vous devez transmettre intégralement le reasoning_content historique dans les messages, sans modification et dans son ordre d'origine. L'omission, la troncature, la réécriture ou le réordonnancement dégrade l'effet ou empêche sa prise en compte.
Ce paramètre affecte uniquement le contenu de raisonnement historique entre les tours. Il ne modifie pas le fait que le modèle génère ou produise un raisonnement lors du tour en cours.
Les exemples suivants utilisent le même ensemble de messages multi-tours, où les messages assistant contiennent reasoning_content. Lorsque clear_thinking=true, le contenu de raisonnement historique n'est pas comptabilisé dans le contexte, donc prompt_tokens est inférieur à celui obtenu avec false (la valeur par défaut). La valeur réelle dépend de la longueur du reasoning_content historique.
  • Compatible OpenAI
Python
from openai import OpenAI
import os

client = OpenAI(
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # The following is the URL for the Singapore region. Replace {WorkspaceId} with your Model Studio workspace ID. URLs differ by region.
    base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1",
)

# Multi-turn conversation. The assistant messages carry reasoning_content (historical reasoning process).
messages = [
    {"role": "user", "content": "What is 15 * 23?"},
    {"role": "assistant", "content": "15 multiplied by 23 equals 345.", "reasoning_content": "15 * 23 = 345"},
    {"role": "user", "content": "What if you add 55 to that?"},
    {"role": "assistant", "content": "345 plus 55 equals 400.", "reasoning_content": "345 + 55 = 400"},
    {"role": "user", "content": "What was the intermediate result?"},
]

completion = client.chat.completions.create(
    model="ZHIPU/GLM-5.3",
    messages=messages,
    extra_body={
    "thinking": {
        "type": "enabled",
        "clear_thinking": False  # False = retain reasoning content
      }
  }
)
print(completion.usage.prompt_tokens)  # Lower with true than with false

Autres fonctionnalités

ModèleConversation multi-toursAppel de fonctionSortie structuréeRecherche InternetComplétion de préfixeMise en cache du contexteContrôle de l'effort de raisonnement
ZHIPU/GLM-5.3Pris en chargePris en chargePris en chargeNon pris en chargePris en chargePris en chargePris en charge
reasoning_effort
ZHIPU/GLM-5.2Pris en chargePris en chargePris en charge
Mode sans réflexion uniquement
Non pris en chargePris en chargePris en chargePris en charge
reasoning_effort
La mise en cache du contexte utilise une mise en cache implicite et est activée par défaut. Elle diffère du service de mise en cache implicite d'Alibaba Cloud Model Studio comme suit :
  • Le nombre minimum de jetons mis en cache est de 512, contre 1024 pour Model Studio.

Valeurs par défaut des paramètres

Modèle

enable_thinking

temperature

top_p

top_k

repetition_penalty

ZHIPU/GLM-5.3

true (ne peut pas être désactivé)

1.0

0.95

-

-

ZHIPU/GLM-5.2

true

1.0

0.95

-

-

Un tiret (-) indique que le paramètre n'a pas de valeur par défaut et n'est pas pris en charge.

Liste des modèles et facturation

Les modèles de la série GLM sont des modèles de raisonnement hybrides de Z.AI. Ils sont conçus pour les agents intelligents et offrent deux modes : avec réflexion et sans réflexion. ZHIPU/GLM-5.3 prend en charge uniquement le mode avec réflexion. Pour des informations sur la longueur du contexte du modèle et les tarifs, consultez la console Model Studioconsole Model Studio. La facturation est basée sur les jetons d'entrée et de sortie du modèle.
En mode réflexion, la chaîne de pensée est facturée en fonction des jetons de sortie.

Codes d'erreur

Si une erreur se produit, voir Codes d'erreur pour résoudre le problème. Voici les codes d'erreur de service spécifiques à Z.AI. Les codes d'erreur HTTP sont identiques aux codes d'erreur généraux de Model Studio. Voir le lien ci-dessus.

Catégorie d'erreur

Code d'erreur

Message d'erreur

Erreur de base

500

Erreur interne

Erreur d'authentification

1000

Échec de l'authentification

1001

Le paramètre d'authentification n'a pas été reçu dans l'en-tête. L'authentification ne peut pas être effectuée.

1002

Le jeton d'authentification est invalide. Assurez-vous que le jeton d'authentification est transmis correctement.

1003

Le jeton d'authentification a expiré. Régénérez-le ou obtenez-en un nouveau.

1004

La vérification du jeton d'authentification a échoué.

1100

Lecture/écriture de compte

Erreur de compte

1110

Votre compte est inactif. Vérifiez les informations de votre compte.

1111

Votre compte n'existe pas.

1112

Votre compte est verrouillé. Contactez le service client pour le déverrouiller.

1113

Votre compte présente un solde impayé. Rechargez votre compte et réessayez.

1120

Impossible d'accéder à votre compte. Réessayez plus tard.

1121

Compte verrouillé en raison d'une violation de politique.

Erreur d'appel d'API

1200

Erreur d'appel d'API

1210

Paramètres d'appel d'API invalides. Consultez la documentation.

1211

Le modèle n'existe pas. Vérifiez le code du modèle.

1212

Le modèle actuel ne prend pas en charge la méthode d'appel ${method}.

1213

Le paramètre ${field} n'a pas été reçu.

1214

Le paramètre ${field} est invalide. Consultez la documentation.

1215

${field1} et ${field2} ne peuvent pas être définis en même temps. Consultez la documentation.

1220

Vous n'avez pas l'autorisation d'accéder à ${API_name}.

1221

L'API ${API_name} n'est plus disponible.

1222

L'API ${API_name} n'existe pas.

1230

Erreur de processus d'appel d'API.

1231

Vous avez déjà une requête : ${request_id}

1234

Erreur réseau. ID d'erreur : ${error_id}. Contactez le service client.

1261

Le prompt est trop long.

Erreur de blocage de politique d'API

1300

L'appel d'API a été bloqué par une politique.

1301

Le système a détecté du contenu potentiellement non sûr ou sensible dans l'entrée ou la sortie. Évitez d'utiliser des invites susceptibles de générer du contenu sensible. Merci de votre coopération.

1302

La concurrence pour cette API est trop élevée. Réduisez la concurrence ou contactez le service client pour augmenter la limite.

1303

Le taux de requêtes pour cette API est trop élevé. Réduisez le taux de requêtes ou contactez le service client pour augmenter la limite.

1304

La limite d'appels quotidiens pour cette API a été atteinte. Pour augmenter la limite, contactez le service client.

1305

La limite de trafic pour cette API a été atteinte.

1308

La limite d'utilisation de ${number} ${unit} a été atteinte. Votre limite sera réinitialisée à ${next_flush_time}.

1309

Votre plan Coding GLM a expiré et n'est pas disponible. Pour rétablir le service, renouvelez votre plan sur https://bigmodel.cn/claude-code.

1310

La limite d'utilisation hebdomadaire/mensuelle a été atteinte. Votre limite sera réinitialisée à ${next_flush_time}.

1311

Votre plan d'abonnement actuel n'inclut pas l'accès à ${model_name}.

1312

Ce modèle connaît un trafic élevé. Réessayez plus tard ou passez à un autre modèle tel que ${model_name}.

1313

L'utilisation de votre compte enfreint la politique d'utilisation équitable et votre taux de requêtes a été limité. Pour plus d'informations, consultez les « Conditions et accords - Accord d'abonnement et de renouvellement automatique ». Pour rétablir l'accès complet, allez dans Centre personnel > Aperçu du plan de programmation et demandez la levée de la restriction.