Skip to main content

Macaron-MindLab

Este documento describe cómo llamar al servicio de inferencia de los modelos Macaron suministrados directamente por MindLab en Alibaba Cloud Model Studio.

Las funciones descritas en este documento están disponibles únicamente en la región de Singapur. Para utilizar los modelos, llámelos desde la región de Singapur.
Alibaba Cloud Model Studio ha lanzado dominios específicos de espacio de trabajo para las regiones de China (Pekín), Singapur y China (Hong Kong). Los nuevos dominios dedicados ofrecen un rendimiento superior y una mayor estabilidad para las solicitudes de inferencia. Recomendamos migrar a los nuevos dominios:
  • China (Pekín): de https://dashscope.aliyuncs.com a https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com
  • Singapur: de https://dashscope-intl.aliyuncs.com a https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com
  • China (Hong Kong): de https://cn-hongkong.dashscope.aliyuncs.com a https://{WorkspaceId}.cn-hongkong.maas.aliyuncs.com
{WorkspaceId} es su ID de espacio de trabajo, que se encuentra en la página Workspace Details de la consola de Alibaba Cloud Model Studio. El dominio existente permanece totalmente funcional.

Activación del servicio

  1. Vaya a la consola de Model Studio, busque MindLab o Macaron, encuentre la tarjeta del modelo de la serie MindLab Macaron y haga clic en Activate Now.
  2. En el cuadro de diálogo, confirme la activación y la autorización.
Después de completar estos pasos, podrá llamar al servicio de modelos Macaron de MindLab.

Inicio rápido

MindLab proporciona los modelos de la serie Macaron, incluidos mindlab/macaron-v1-tall, mindlab/macaron-v1.1-venti y mindlab/macaron-v1.1-coding-venti. Ejecute el siguiente código para llamar rápidamente al modelo mindlab/macaron-v1.1-venti en modo de streaming. Debe haber obtenido una clave de API y haber configurado la clave de API como variable de entorno. Si llama al modelo con un SDK, también debe instalar el SDK.
  • Compatible con OpenAI
  • Compatible con Anthropic
El parámetro reasoning_effort no es un parámetro estándar de OpenAI. En el SDK de Python de OpenAI, se pasa en extra_body. En el SDK de Node.js, se pasa como un parámetro de nivel superior.
  • Python
  • Node.js

Código de ejemplo

from openai import OpenAI
import os

# Inicialice el cliente de OpenAI
client = OpenAI(
    # Si la variable de entorno no está configurada, sustituya "sk-xxx" por su clave de API de Alibaba Cloud Model Studio.
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # Región de Singapur. Sustituya {WorkspaceId} por su ID de espacio de trabajo. Las URL varían según la región.
    base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1",
)

messages = [{"role": "user", "content": "¿Quién eres?"}]
completion = client.chat.completions.create(
    model="mindlab/macaron-v1.1-venti",
    messages=messages,
    # reasoning_effort controla el esfuerzo de razonamiento. Valores opcionales: low, medium, high, xhigh, max.
    extra_body={"reasoning_effort": "high"},
    stream=True,
    stream_options={
        "include_usage": True
    },
)

reasoning_content = ""  # Proceso de razonamiento
answer_content = ""     # Respuesta final
is_answering = False    # Si el proceso de razonamiento ha terminado y ha comenzado la respuesta final

for chunk in completion:
    if not chunk.choices:
        print("\n" + "=" * 20 + "Uso de tokens" + "=" * 20 + "\n")
        print(chunk.usage)
        continue

    delta = chunk.choices[0].delta

    # Recopilar el proceso de razonamiento
    if hasattr(delta, "reasoning_content") and delta.reasoning_content is not None:
        if not is_answering:
            print(delta.reasoning_content, end="", flush=True)
        reasoning_content += delta.reasoning_content

    # Recopilar la respuesta final
    if hasattr(delta, "content") and delta.content:
        if not is_answering:
            print("\n" + "=" * 20 + "Respuesta final" + "=" * 20 + "\n")
            is_answering = True
        print(delta.content, end="", flush=True)
        answer_content += delta.content

Control del pensamiento

Los modelos de la serie Macaron son modelos de razonamiento híbridos. Puede controlar el esfuerzo de razonamiento con el parámetro reasoning_effort. Valores opcionales: low, medium, high, xhigh y max. El proceso de pensamiento se devuelve en el campo reasoning_content. Para mindlab/macaron-v1-tall, el proceso de pensamiento se devuelve en el campo reasoning.
En conversaciones de varios turnos, establezca preserve_thinking en true para pasar el reasoning_content histórico de vuelta a la entrada del modelo.

Compatibilidad de parámetros

La siguiente tabla enumera los parámetros compatibles con OpenAI que admiten los modelos de la serie Macaron.
ParámetroDescripciónCompatible
model (string)El parámetro model especifica el modelo que se va a utilizar.Sí
messages (array)El historial de conversación entre el usuario y el modelo.Sí
stream (boolean)Controla si se utiliza la salida en streaming.Sí
stream_options (object)Elemento de configuración de la salida en streaming (include_usage).Sí
temperature (float)Controla la aleatoriedad y la diversidad de las respuestas del modelo.Sí
top_p (float)El umbral de probabilidad del método de muestreo nucleus.Sí
top_k (float)Especifica el número de tokens candidatos utilizados para el muestreo durante la generación.No
repetition_penalty (float)El grado de repetición en secuencias consecutivas durante la generación del modelo.No
presence_penalty (float)Controla el grado de repetición en toda la secuencia durante la generación del modelo.No
response_format (object)El formato del contenido devuelto (text, json_object, json_schema).Sí
max_tokens (integer)Especifica el número máximo de tokens que puede generar el modelo.Sí
n (integer)El número de respuestas que se generan (1-4).Sí
enable_thinking (boolean)Especifica si se activa el modo de pensamiento.Sí
preserve_thinking (boolean)Especifica si el reasoning_content histórico se concatena a la entrada del modelo.Sí
thinking_budget (integer)El número máximo de tokens para el proceso de pensamiento.Sí
reasoning_effort (string)Controla el esfuerzo de razonamiento (low, medium, high, xhigh, max).Sí
tool_stream (boolean)Especifica si los tool_call arguments de la llamada a funciones se devuelven en streaming.No
enable_code_interpreter (boolean)Especifica si se activa la función de intérprete de código.Sí
seed (integer)La semilla aleatoria utilizada durante la generación.No
logprobs (boolean)Especifica si se devuelven las probabilidades logarítmicas de los tokens de salida.Sí
top_logprobs (integer)El número de tokens candidatos más probables que se devuelven (0-5).Sí
stop (string or array)Control preciso del proceso de generación de contenido.Sí
tools (array)Especifica la biblioteca de herramientas que el modelo puede llamar.Sí
tool_choice (string or object)La estrategia de selección de herramientas (auto, none, specific).Sí
parallel_tool_calls (boolean)Especifica si se activan las llamadas a herramientas en paralelo.No
enable_search (boolean)Especifica si se utilizan resultados de búsqueda en Internet como referencia.No
search_options (object)La configuración de la estrategia de búsqueda en Internet.No
skill (object)Activa habilidades de generación específicas (como la generación de PPT).No
instructions (string)Campo compatible con la API OpenAI Responses.Sí

Lista de modelos y facturación

Los modelos de la serie Macaron son proporcionados por MindLab y están disponibles únicamente en la región de Singapur (ámbito de despliegue International).
ID del modeloVentana de contextoInformación del modelo
mindlab/macaron-v1-tall256Kmindlab/macaron-v1-tall
mindlab/macaron-v1.1-venti1Mmindlab/macaron-v1.1-venti
mindlab/macaron-v1.1-coding-venti1Mmindlab/macaron-v1.1-coding-venti
La facturación se basa en los tokens de entrada y salida del modelo. Los tokens de entrada con acierto de caché y los tokens utilizados para crear una caché explícita se facturan con precios unitarios independientes. Para más información, consulte Precios de modelos y Caché de contexto.
En el modo de pensamiento, la cadena de pensamiento se factura según los tokens de salida.

Códigos de error

Si se produce un error, consulte Códigos de error para resolverlo.