Skip to main content

Macaron-MindLab

Este documento descreve como chamar o service de inferência dos modelos Macaron fornecidos diretamente pela MindLab no Alibaba Cloud Model Studio.

Os recursos descritos neste documento estão disponíveis apenas na região Singapore. Para usar os modelos, faça a chamada a partir da região Singapore.
O Alibaba Cloud Model Studio lançou domínios específicos por workspace para as regiões China (Beijing), Singapore e China (Hong Kong). Os novos domínios dedicados oferecem desempenho superior e maior estabilidade para solicitações de inferência. Recomendamos migrar para os novos domínios:
  • China (Beijing): de https://dashscope.aliyuncs.com para https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com
  • Singapore: de https://dashscope-intl.aliyuncs.com para https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com
  • China (Hong Kong): de https://cn-hongkong.dashscope.aliyuncs.com para https://{WorkspaceId}.cn-hongkong.maas.aliyuncs.com
{WorkspaceId} é o ID do seu workspace, que pode ser encontrado na página Workspace Details no console do Alibaba Cloud Model Studio. O domínio existente permanece totalmente funcional.

Ativação do service

  1. Acesse o console do Model Studio, pesquise por MindLab ou Macaron, localize o cartão do modelo da série MindLab Macaron e clique em Activate Now.
  2. Na caixa de diálogo, confirme a ativação e a autorização.
Após concluir essas etapas, você poderá chamar o service de modelos Macaron da MindLab.

Início rápido

A MindLab fornece os modelos da série Macaron, incluindo mindlab/macaron-v1-tall, mindlab/macaron-v1.1-venti e mindlab/macaron-v1.1-coding-venti. Execute o código a seguir para chamar rapidamente o modelo mindlab/macaron-v1.1-venti no modo de streaming. Você precisa ter obtido uma API Key e configurado a API Key como uma variável de ambiente. Se for chamar o modelo usando um SDK, também é necessário instalar o SDK.
  • Compatível com OpenAI
  • Compatível com Anthropic
O parâmetro reasoning_effort não é um parâmetro padrão da OpenAI. No SDK Python da OpenAI, você o passa em extra_body. No SDK Node.js, você o passa como um parâmetro de nível superior.
  • Python
  • Node.js

Código de exemplo

from openai import OpenAI
import os

# Inicialize o cliente OpenAI
client = OpenAI(
    # Se a variável de ambiente não estiver definida, substitua "sk-xxx" pela sua API Key do Alibaba Cloud Model Studio.
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # Região Singapore. Substitua {WorkspaceId} pelo ID do seu workspace. As URLs variam por região.
    base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1",
)

messages = [{"role": "user", "content": "Quem é você?"}]
completion = client.chat.completions.create(
    model="mindlab/macaron-v1.1-venti",
    messages=messages,
    # reasoning_effort controla o esforço de raciocínio. Valores opcionais: low, medium, high, xhigh, max.
    extra_body={"reasoning_effort": "high"},
    stream=True,
    stream_options={
        "include_usage": True
    },
)

reasoning_content = ""  # Processo de raciocínio
answer_content = ""     # Resposta final
is_answering = False    # Se o processo de raciocínio terminou e a resposta final começou

for chunk in completion:
    if not chunk.choices:
        print("\n" + "=" * 20 + "Uso de tokens" + "=" * 20 + "\n")
        print(chunk.usage)
        continue

    delta = chunk.choices[0].delta

    # Coleta o processo de raciocínio
    if hasattr(delta, "reasoning_content") and delta.reasoning_content is not None:
        if not is_answering:
            print(delta.reasoning_content, end="", flush=True)
        reasoning_content += delta.reasoning_content

    # Coleta a resposta final
    if hasattr(delta, "content") and delta.content:
        if not is_answering:
            print("\n" + "=" * 20 + "Resposta final" + "=" * 20 + "\n")
            is_answering = True
        print(delta.content, end="", flush=True)
        answer_content += delta.content

Controle de raciocínio

Os modelos da série Macaron são modelos de raciocínio híbrido. Você pode controlar o esforço de raciocínio com o parâmetro reasoning_effort. Valores opcionais: low, medium, high, xhigh e max. O processo de raciocínio é retornado no campo reasoning_content. Para mindlab/macaron-v1-tall, o processo de raciocínio é retornado no campo reasoning.
Para conversas de múltiplas rodadas, defina preserve_thinking como true para passar o reasoning_content histórico de volta para a entrada do modelo.

Suporte a parâmetros

A tabela a seguir lista os parâmetros compatíveis com OpenAI suportados pelos modelos da série Macaron.
ParâmetroDescriçãoSuportado
model (string)O parâmetro model especifica o modelo a ser usado.Sim
messages (array)O histórico de conversas entre o usuário e o modelo.Sim
stream (boolean)Controla se a saída em streaming será usada.Sim
stream_options (object)Item de configuração para saída em streaming (include_usage).Sim
temperature (float)Controla a aleatoriedade e a diversidade das respostas do modelo.Sim
top_p (float)O limiar de probabilidade para o método de nucleus sampling.Sim
top_k (float)Especifica o número de tokens candidatos usados para amostragem durante a geração.Não
repetition_penalty (float)O grau de repetição em sequências consecutivas durante a geração do modelo.Não
presence_penalty (float)Controla o grau de repetição em toda a sequência durante a geração do modelo.Não
response_format (object)O formato do conteúdo retornado (text, json_object, json_schema).Sim
max_tokens (integer)Especifica o número máximo de tokens que o modelo pode gerar.Sim
n (integer)O número de respostas a serem geradas (1-4).Sim
enable_thinking (boolean)Especifica se o modo de raciocínio será ativado.Sim
preserve_thinking (boolean)Especifica se o reasoning_content histórico será concatenado à entrada do modelo.Sim
thinking_budget (integer)O número máximo de tokens para o processo de raciocínio.Sim
reasoning_effort (string)Controla o esforço de raciocínio (low, medium, high, xhigh, max).Sim
tool_stream (boolean)Especifica se os tool_call arguments do Function Calling são retornados em streaming.Não
enable_code_interpreter (boolean)Especifica se o recurso de interpretador de código será ativado.Sim
seed (integer)A semente aleatória usada durante a geração.Não
logprobs (boolean)Especifica se as probabilidades logarítmicas dos tokens de saída serão retornadas.Sim
top_logprobs (integer)O número de tokens candidatos com maior probabilidade a serem retornados (0-5).Sim
stop (string or array)Controle preciso sobre o processo de geração de conteúdo.Sim
tools (array)Especifica a biblioteca de ferramentas que o modelo pode chamar.Sim
tool_choice (string or object)A estratégia de seleção de ferramentas (auto, none, specific).Sim
parallel_tool_calls (boolean)Especifica se as chamadas de ferramentas em paralelo serão ativadas.Não
enable_search (boolean)Especifica se os resultados de pesquisa na Internet serão usados como referência.Não
search_options (object)A configuração da estratégia de pesquisa na Internet.Não
skill (object)Ativa habilidades de geração específicas (como geração de PPT).Não
instructions (string)Campo compatível com a OpenAI Responses API.Sim

Lista de modelos e faturamento

Os modelos da série Macaron são fornecidos pela MindLab e estão disponíveis apenas na região Singapore (escopo de implantação Internacional).
ID do ModeloJanela de contextoInformações do modelo
mindlab/macaron-v1-tall256Kmindlab/macaron-v1-tall
mindlab/macaron-v1.1-venti1Mmindlab/macaron-v1.1-venti
mindlab/macaron-v1.1-coding-venti1Mmindlab/macaron-v1.1-coding-venti
O faturamento é baseado nos tokens de entrada e saída do modelo. Os tokens de entrada com acerto de cache e os tokens usados para criar um cache explícito são cobrados com preços unitários separados. Para mais informações, consulte Preços de modelos e Cache de Contexto.
No modo de raciocínio, a cadeia de pensamento é cobrada com base nos tokens de saída.

Códigos de erro

Se ocorrer um erro, consulte Códigos de erro para resolver o problema.