Skip to main content

Macaron-MindLab

Ce document décrit comment appeler le service d'inférence des modèles Macaron fournis directement par MindLab sur Alibaba Cloud Model Studio.

Les fonctionnalités décrites dans ce document sont disponibles uniquement dans la région de Singapour. Pour utiliser les modèles, appelez-les depuis la région de Singapour.
Alibaba Cloud Model Studio a publié des domaines spécifiques à l'espace de travail pour les régions Chine (Pékin), Singapour et Chine (Hong Kong). Les nouveaux domaines dédiés offrent des performances supérieures et une stabilité accrue pour les requêtes d'inférence. Nous vous recommandons de migrer vers les nouveaux domaines :
  • Chine (Pékin) : de https://dashscope.aliyuncs.com à https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com
  • Singapour : de https://dashscope-intl.aliyuncs.com à https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com
  • Chine (Hong Kong) : de https://cn-hongkong.dashscope.aliyuncs.com à https://{WorkspaceId}.cn-hongkong.maas.aliyuncs.com
{WorkspaceId} est votre ID d'espace de travail, qui se trouve sur la page Workspace Details de la console Alibaba Cloud Model Studio. Le domaine existant reste pleinement fonctionnel.

Activation du service

  1. Accédez à la console Model Studio, recherchez MindLab ou Macaron, trouvez la carte du modèle de la série MindLab Macaron et cliquez sur Activate Now.
  2. Dans la boîte de dialogue, confirmez l'activation et l'autorisation.
Une fois ces étapes terminées, vous pouvez appeler le service de modèles Macaron de MindLab.

Démarrage rapide

MindLab propose les modèles de la série Macaron, notamment mindlab/macaron-v1-tall, mindlab/macaron-v1.1-venti et mindlab/macaron-v1.1-coding-venti. Exécutez le code suivant pour appeler rapidement le modèle mindlab/macaron-v1.1-venti en mode streaming. Vous devez avoir obtenu une clé API et configuré la clé API comme variable d'environnement. Si vous appelez le modèle à l'aide d'un SDK, vous devez également installer le SDK.
  • Compatible OpenAI
  • Compatible Anthropic
Le paramètre reasoning_effort n'est pas un paramètre OpenAI standard. Dans le SDK Python d'OpenAI, vous le passez dans extra_body. Dans le SDK Node.js, vous le passez comme paramètre de niveau supérieur.
  • Python
  • Node.js

Exemple de code

from openai import OpenAI
import os

# Initialiser le client OpenAI
client = OpenAI(
    # Si la variable d'environnement n'est pas définie, remplacez "sk-xxx" par votre clé API Alibaba Cloud Model Studio.
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # Région de Singapour. Remplacez {WorkspaceId} par votre ID d'espace de travail. Les URL varient selon les régions.
    base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1",
)

messages = [{"role": "user", "content": "Qui êtes-vous ?"}]
completion = client.chat.completions.create(
    model="mindlab/macaron-v1.1-venti",
    messages=messages,
    # reasoning_effort contrôle l'effort de raisonnement. Valeurs possibles : low, medium, high, xhigh, max.
    extra_body={"reasoning_effort": "high"},
    stream=True,
    stream_options={
        "include_usage": True
    },
)

reasoning_content = ""  # Processus de raisonnement
answer_content = ""     # Réponse finale
is_answering = False    # Indique si le processus de raisonnement est terminé et si la réponse finale a commencé

for chunk in completion:
    if not chunk.choices:
        print("\n" + "=" * 20 + "Utilisation des tokens" + "=" * 20 + "\n")
        print(chunk.usage)
        continue

    delta = chunk.choices[0].delta

    # Collecter le processus de raisonnement
    if hasattr(delta, "reasoning_content") and delta.reasoning_content is not None:
        if not is_answering:
            print(delta.reasoning_content, end="", flush=True)
        reasoning_content += delta.reasoning_content

    # Collecter la réponse finale
    if hasattr(delta, "content") and delta.content:
        if not is_answering:
            print("\n" + "=" * 20 + "Réponse finale" + "=" * 20 + "\n")
            is_answering = True
        print(delta.content, end="", flush=True)
        answer_content += delta.content

Contrôle de la réflexion

Les modèles de la série Macaron sont des modèles de raisonnement hybrides. Vous pouvez contrôler l'effort de raisonnement avec le paramètre reasoning_effort. Valeurs possibles : low, medium, high, xhigh et max. Le processus de raisonnement est renvoyé dans le champ reasoning_content. Pour mindlab/macaron-v1-tall, le processus de raisonnement est renvoyé dans le champ reasoning.
Pour les conversations à plusieurs tours, définissez preserve_thinking sur true pour renvoyer le reasoning_content historique dans l'entrée du modèle.

Prise en charge des paramètres

Le tableau suivant répertorie les paramètres compatibles OpenAI pris en charge par les modèles de la série Macaron.
ParamètreDescriptionPris en charge
model (string)Le paramètre model spécifie le modèle à utiliser.Oui
messages (array)L'historique des conversations entre l'utilisateur et le modèle.Oui
stream (boolean)Contrôle l'utilisation de la sortie en streaming.Oui
stream_options (object)Élément de configuration de la sortie en streaming (include_usage).Oui
temperature (float)Contrôle le caractère aléatoire et la diversité des réponses du modèle.Oui
top_p (float)Le seuil de probabilité pour la méthode d'échantillonnage nucleus.Oui
top_k (float)Spécifie le nombre de tokens candidats utilisés pour l'échantillonnage pendant la génération.Non
repetition_penalty (float)Le degré de répétition dans les séquences consécutives lors de la génération.Non
presence_penalty (float)Contrôle le degré de répétition dans l'ensemble de la séquence lors de la génération.Non
response_format (object)Le format du contenu renvoyé (text, json_object, json_schema).Oui
max_tokens (integer)Spécifie le nombre maximal de tokens que le modèle peut générer.Oui
n (integer)Le nombre de réponses à générer (1 à 4).Oui
enable_thinking (boolean)Spécifie si le mode réflexion est activé.Oui
preserve_thinking (boolean)Spécifie si le reasoning_content historique est concaténé à l'entrée du modèle.Oui
thinking_budget (integer)Le nombre maximal de tokens pour le processus de raisonnement.Oui
reasoning_effort (string)Contrôle l'effort de raisonnement (low, medium, high, xhigh, max).Oui
tool_stream (boolean)Spécifie si les tool_call arguments du Function Calling sont renvoyés en streaming.Non
enable_code_interpreter (boolean)Spécifie si la fonctionnalité d'interpréteur de code est activée.Oui
seed (integer)La graine aléatoire utilisée lors de la génération.Non
logprobs (boolean)Spécifie si les probabilités logarithmiques des tokens de sortie sont renvoyées.Oui
top_logprobs (integer)Le nombre de tokens candidats les plus probables à renvoyer (0 à 5).Oui
stop (string or array)Contrôle précis du processus de génération de contenu.Oui
tools (array)Spécifie la bibliothèque d'outils que le modèle peut appeler.Oui
tool_choice (string or object)La stratégie de sélection des outils (auto, none, specific).Oui
parallel_tool_calls (boolean)Spécifie si les appels d'outils parallèles sont activés.Non
enable_search (boolean)Spécifie si les résultats de recherche Internet sont utilisés comme référence.Non
search_options (object)La configuration de la stratégie de recherche Internet.Non
skill (object)Active des compétences de génération spécifiques (comme la génération de PPT).Non
instructions (string)Champ compatible avec l'API OpenAI Responses.Oui

Liste des modèles et facturation

Les modèles de la série Macaron sont fournis par MindLab et sont disponibles uniquement dans la région de Singapour (portée de déploiement International).
ID du modèleFenêtre de contexteInformations sur le modèle
mindlab/macaron-v1-tall256Kmindlab/macaron-v1-tall
mindlab/macaron-v1.1-venti1Mmindlab/macaron-v1.1-venti
mindlab/macaron-v1.1-coding-venti1Mmindlab/macaron-v1.1-coding-venti
La facturation est basée sur les tokens d'entrée et de sortie du modèle. Les tokens d'entrée ayant fait l'objet d'un accès au cache et les tokens utilisés pour créer un cache explicite sont facturés à des prix unitaires distincts. Pour plus d'informations, consultez Tarification des modèles et Cache de contexte.
En mode réflexion, la chaîne de pensée est facturée en tokens de sortie.

Codes d'erreur

En cas d'erreur, consultez Codes d'erreur pour résoudre le problème.