Este documento descreve como chamar o service de inferência dos modelos Macaron fornecidos diretamente pela MindLab no Alibaba Cloud Model Studio.
Os recursos descritos neste documento estão disponíveis apenas na região Singapore. Para usar os modelos, faça a chamada a partir da região Singapore.
Ativação do service
- Acesse o console do Model Studio, pesquise por MindLab ou Macaron, localize o cartão do modelo da série MindLab Macaron e clique em Activate Now.
- Na caixa de diálogo, confirme a ativação e a autorização.
Início rápido
A MindLab fornece os modelos da série Macaron, incluindo mindlab/macaron-v1-tall, mindlab/macaron-v1.1-venti e mindlab/macaron-v1.1-coding-venti. Execute o código a seguir para chamar rapidamente o modelo mindlab/macaron-v1.1-venti no modo de streaming.
Você precisa ter obtido uma API Key e configurado a API Key como uma variável de ambiente. Se for chamar o modelo usando um SDK, também é necessário instalar o SDK.
- Compatível com OpenAI
- Compatível com Anthropic
O parâmetro
reasoning_effort não é um parâmetro padrão da OpenAI. No SDK Python da OpenAI, você o passa em extra_body. No SDK Node.js, você o passa como um parâmetro de nível superior.- Python
- Node.js
Código de exemplo
Controle de raciocínio
Os modelos da série Macaron são modelos de raciocínio híbrido. Você pode controlar o esforço de raciocínio com o parâmetro reasoning_effort. Valores opcionais: low, medium, high, xhigh e max.
O processo de raciocínio é retornado no campo reasoning_content. Para mindlab/macaron-v1-tall, o processo de raciocínio é retornado no campo reasoning.
Para conversas de múltiplas rodadas, defina
preserve_thinking como true para passar o reasoning_content histórico de volta para a entrada do modelo.Suporte a parâmetros
A tabela a seguir lista os parâmetros compatíveis com OpenAI suportados pelos modelos da série Macaron.
| Parâmetro | Descrição | Suportado |
|---|---|---|
| model (string) | O parâmetro model especifica o modelo a ser usado. | Sim |
| messages (array) | O histórico de conversas entre o usuário e o modelo. | Sim |
| stream (boolean) | Controla se a saída em streaming será usada. | Sim |
| stream_options (object) | Item de configuração para saída em streaming (include_usage). | Sim |
| temperature (float) | Controla a aleatoriedade e a diversidade das respostas do modelo. | Sim |
| top_p (float) | O limiar de probabilidade para o método de nucleus sampling. | Sim |
| top_k (float) | Especifica o número de tokens candidatos usados para amostragem durante a geração. | Não |
| repetition_penalty (float) | O grau de repetição em sequências consecutivas durante a geração do modelo. | Não |
| presence_penalty (float) | Controla o grau de repetição em toda a sequência durante a geração do modelo. | Não |
| response_format (object) | O formato do conteúdo retornado (text, json_object, json_schema). | Sim |
| max_tokens (integer) | Especifica o número máximo de tokens que o modelo pode gerar. | Sim |
| n (integer) | O número de respostas a serem geradas (1-4). | Sim |
| enable_thinking (boolean) | Especifica se o modo de raciocínio será ativado. | Sim |
| preserve_thinking (boolean) | Especifica se o reasoning_content histórico será concatenado à entrada do modelo. | Sim |
| thinking_budget (integer) | O número máximo de tokens para o processo de raciocínio. | Sim |
| reasoning_effort (string) | Controla o esforço de raciocínio (low, medium, high, xhigh, max). | Sim |
| tool_stream (boolean) | Especifica se os tool_call arguments do Function Calling são retornados em streaming. | Não |
| enable_code_interpreter (boolean) | Especifica se o recurso de interpretador de código será ativado. | Sim |
| seed (integer) | A semente aleatória usada durante a geração. | Não |
| logprobs (boolean) | Especifica se as probabilidades logarítmicas dos tokens de saída serão retornadas. | Sim |
| top_logprobs (integer) | O número de tokens candidatos com maior probabilidade a serem retornados (0-5). | Sim |
| stop (string or array) | Controle preciso sobre o processo de geração de conteúdo. | Sim |
| tools (array) | Especifica a biblioteca de ferramentas que o modelo pode chamar. | Sim |
| tool_choice (string or object) | A estratégia de seleção de ferramentas (auto, none, specific). | Sim |
| parallel_tool_calls (boolean) | Especifica se as chamadas de ferramentas em paralelo serão ativadas. | Não |
| enable_search (boolean) | Especifica se os resultados de pesquisa na Internet serão usados como referência. | Não |
| search_options (object) | A configuração da estratégia de pesquisa na Internet. | Não |
| skill (object) | Ativa habilidades de geração específicas (como geração de PPT). | Não |
| instructions (string) | Campo compatível com a OpenAI Responses API. | Sim |
Lista de modelos e faturamento
Os modelos da série Macaron são fornecidos pela MindLab e estão disponíveis apenas na região Singapore (escopo de implantação Internacional).
| ID do Modelo | Janela de contexto | Informações do modelo |
|---|---|---|
mindlab/macaron-v1-tall | 256K | mindlab/macaron-v1-tall |
mindlab/macaron-v1.1-venti | 1M | mindlab/macaron-v1.1-venti |
mindlab/macaron-v1.1-coding-venti | 1M | mindlab/macaron-v1.1-coding-venti |
No modo de raciocínio, a cadeia de pensamento é cobrada com base nos tokens de saída.