Este tópico descreve como usar APIs para chamar modelos da série GLM na plataforma Alibaba Cloud Model Studio. Cada modelo inclui 1 milhão de tokens gratuitos.
Endpoints de service
Os endpoints de service variam conforme a região. Configure a URL base correspondente à região selecionada.
- OpenAI compatible
- DashScope
- China (Beijing)
- US (Virginia)
- Germany (Frankfurt)
- China (Hong Kong)
- Singapore
base_url para chamadas via SDK é: https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1Endpoint de solicitação HTTP: POST https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1/chat/completions{WorkspaceId} pelo seu workspace ID real.
Primeiros passos
Os modelos glm-5,2 e glm-5,2-fast-preview são da série GLM. Eles possuem comprimento de contexto de 1M e permitem definir o modo de raciocínio e o modo sem raciocínio por meio do parâmetro enable_thinking. Execute o código abaixo para chamar rapidamente o modelo glm-5,2 no modo de raciocínio.
Antes de começar, obtenha uma chave de API e configure-a como variável de ambiente. Se você utilizar um SDK, também será necessário instale o SDK da OpenAI ou do DashScope.
- OpenAI compatible
- DashScope
- Anthropic compatible
enable_thinking não é um parâmetro padrão da OpenAI. No SDK Python da OpenAI, ele é transmitido via extra_body. No SDK Node.js, ele é passado como um parâmetro de nível superior.- Python
- Node.js
- HTTP
Código de exemplo
Resposta
Chamada de ferramentas em streaming
Os modelos glm-5,2, glm-5,2-fast-preview, glm-5,1 e glm-5 suportam o parâmetro tool_stream. Este parâmetro é booleano, tem como valor padrão false e só entra em vigor quando stream está definido como true. Quando ativado, os argumentos do parâmetro tool_call do Function Calling são retornados incrementalmente em fluxo, em vez de serem entregues todos de uma vez após a conclusão da geração.
O comportamento combinado de stream e tool_stream é o seguinte:
stream | tool_stream | Método de retorno de tool_call |
|---|---|---|
true | true | Os argumentos são retornados incrementalmente em múltiplos chunks. |
true | false (padrão) | Os argumentos são retornados completamente em um único chunk. |
false | true/false | tool_stream não tem efeito. Os argumentos são retornados de uma vez na resposta completa. |
- OpenAI compatible
- DashScope
- Python
- Node.js
- HTTP
Código de exemplo
Esforço de raciocínio (reasoning_effort)
Os modelos glm-5,2, glm-5,2-fast-preview e glm-5,1 têm o modo de raciocínio ativado por padrão. O modelo primeiro gera o processo de raciocínio (reasoning_content) e depois fornece a resposta final. Use o parâmetro reasoning_effort para ajustar o esforço de raciocínio. Um valor mais alto indica um raciocínio mais aprofundado. Os valores suportados variam conforme o modelo. Se você passar um valor não suportado, o sistema retornará um erro invalid_parameter_error. Selecione um valor na tabela a seguir.
Modelo | Valores disponíveis para reasoning_effort |
|---|---|
glm-5.2 |
|
glm-5.2-fast-preview |
|
glm-5.1 |
|
enable_thinking como false no modo compatível com OpenAI ou DashScope. Este parâmetro tem prioridade sobre reasoning_effort.reasoning_effort. Para obter o conteúdo de raciocínio, utilize o parâmetro nativo thinking da Anthropic: {"thinking":{"type":"enabled","budget_tokens":1024}}. Quando ativado, o content da resposta incluirá um bloco de raciocínio com type definido como thinking.- OpenAI compatible
- DashScope
Limpar histórico de raciocínio (clear_thinking)
O parâmetro clear_thinking controla se o reasoning_content (processo de raciocínio) de turnos anteriores em uma conversa de múltiplos turnos é passado ao modelo como contexto. Apenas os modelos da série GLM suportam este parâmetro.
true: Ignora oreasoning_contentde turnos anteriores. Somente conteúdos não relacionados ao raciocínio, como texto visível, chamadas de ferramentas e resultados, são usados como entrada de contexto. Isso reduz o comprimento do contexto e o custo.false(padrão): Mantém oreasoning_contentde turnos anteriores e o fornece ao modelo junto com o contexto. Para ative o Raciocínio Preservado, passe oreasoning_contenthistórico de forma completa, sem modificações e na ordem original dentro das mensagens. A ausência, corte, reescrita ou reordenação do conteúdo pode degradar o desempenho ou causar falha no recurso.
assistant contém reasoning_content. Quando clear_thinking está definido como true, o conteúdo histórico de raciocínio não é incluído no contexto. Consequentemente, a contagem de prompt_tokens é menor do que quando definido como false (padrão). O valor real depende do comprimento do reasoning_content histórico.
- OpenAI compatible
- DashScope
Outros recursos
| Modelo | Multi-turn conversation | Function Calling | Structured output | Web search | Partial mode | Context cache |
|---|---|---|---|---|---|---|
| glm-5,2 | Suportado | Suportado | SuportadoApenas no modo sem raciocínio | Não suportado | Não suportado | SuportadoApenas cache implícito é suportado |
| glm-5,2-fast-preview | Suportado | Suportado | SuportadoApenas no modo sem raciocínio | Não suportado | Não suportado | SuportadoApenas cache implícito é suportado |
| glm-5,1 | Suportado | Suportado | SuportadoApenas no modo sem raciocínio | Não suportado | Não suportado | SuportadoCache explícito e implícito são suportados |
| glm-5 | Suportado | Suportado | SuportadoApenas no modo sem raciocínio | Não suportado | Não suportado | SuportadoApenas cache implícito é suportado |
Valores padrão dos parâmetros
Modelo | enable_thinking | temperature | top_p | top_k | repetition_penalty |
|---|---|---|---|---|---|
glm-5.2 | true | 1,0 | 0,95 | 20 | 1,0 |
glm-5.1 | true | 1,0 | 0,95 | 20 | 1,0 |
glm-5 | true | 1,0 | 0,95 | 20 | 1,0 |
Precauções
Ao chamar o modelo, siga os tipos de parâmetros e os campos obrigatórios da API utilizada. Em particular:
max_tokensdeve ser um número inteiro, como1024, e não o valor booleanotrue. Ao chamar glm-5.3,truepode ser tratado como1, truncando a saída após 1 token sem retornar erro de parâmetro. A saída pode conter apenas o conteúdo de raciocínio, sem uma resposta final.- Ao usar a API compatível com Anthropic, cada ferramenta no array
toolsdeve incluirname, como"name": "get_weather". A ausência denamefaz a solicitação falhar. Inclua o nome da ferramenta antes de enviar a solicitação.
Modelos e faturamento
Os modelos da série GLM são modelos de raciocínio híbrido desenvolvidos pela Zhipu AI para agentes. Eles oferecem modos de raciocínio e sem raciocínio.
- glm-5,2: O modelo GLM, com comprimento de contexto de 1M. Suporta Function Calling, saída estruturada e cache implícito. É possível chamá-lo através das interfaces compatíveis com OpenAI, DashScope e Anthropic.
No modo de raciocínio, a cadeia de pensamento é faturada como tokens de saída.