Ce document décrit comment appeler le service d'inférence des modèles Macaron fournis directement par MindLab sur Alibaba Cloud Model Studio.
Les fonctionnalités décrites dans ce document sont disponibles uniquement dans la région de Singapour. Pour utiliser les modèles, appelez-les depuis la région de Singapour.
Activation du service
- Accédez à la console Model Studio, recherchez MindLab ou Macaron, trouvez la carte du modèle de la série MindLab Macaron et cliquez sur Activate Now.
- Dans la boîte de dialogue, confirmez l'activation et l'autorisation.
Démarrage rapide
MindLab propose les modèles de la série Macaron, notamment mindlab/macaron-v1-tall, mindlab/macaron-v1.1-venti et mindlab/macaron-v1.1-coding-venti. Exécutez le code suivant pour appeler rapidement le modèle mindlab/macaron-v1.1-venti en mode streaming.
Vous devez avoir obtenu une clé API et configuré la clé API comme variable d'environnement. Si vous appelez le modèle à l'aide d'un SDK, vous devez également installer le SDK.
- Compatible OpenAI
- Compatible Anthropic
Le paramètre
reasoning_effort n'est pas un paramètre OpenAI standard. Dans le SDK Python d'OpenAI, vous le passez dans extra_body. Dans le SDK Node.js, vous le passez comme paramètre de niveau supérieur.- Python
- Node.js
Exemple de code
Contrôle de la réflexion
Les modèles de la série Macaron sont des modèles de raisonnement hybrides. Vous pouvez contrôler l'effort de raisonnement avec le paramètre reasoning_effort. Valeurs possibles : low, medium, high, xhigh et max.
Le processus de raisonnement est renvoyé dans le champ reasoning_content. Pour mindlab/macaron-v1-tall, le processus de raisonnement est renvoyé dans le champ reasoning.
Pour les conversations à plusieurs tours, définissez
preserve_thinking sur true pour renvoyer le reasoning_content historique dans l'entrée du modèle.Prise en charge des paramètres
Le tableau suivant répertorie les paramètres compatibles OpenAI pris en charge par les modèles de la série Macaron.
| Paramètre | Description | Pris en charge |
|---|---|---|
| model (string) | Le paramètre model spécifie le modèle à utiliser. | Oui |
| messages (array) | L'historique des conversations entre l'utilisateur et le modèle. | Oui |
| stream (boolean) | Contrôle l'utilisation de la sortie en streaming. | Oui |
| stream_options (object) | Élément de configuration de la sortie en streaming (include_usage). | Oui |
| temperature (float) | Contrôle le caractère aléatoire et la diversité des réponses du modèle. | Oui |
| top_p (float) | Le seuil de probabilité pour la méthode d'échantillonnage nucleus. | Oui |
| top_k (float) | Spécifie le nombre de tokens candidats utilisés pour l'échantillonnage pendant la génération. | Non |
| repetition_penalty (float) | Le degré de répétition dans les séquences consécutives lors de la génération. | Non |
| presence_penalty (float) | Contrôle le degré de répétition dans l'ensemble de la séquence lors de la génération. | Non |
| response_format (object) | Le format du contenu renvoyé (text, json_object, json_schema). | Oui |
| max_tokens (integer) | Spécifie le nombre maximal de tokens que le modèle peut générer. | Oui |
| n (integer) | Le nombre de réponses à générer (1 à 4). | Oui |
| enable_thinking (boolean) | Spécifie si le mode réflexion est activé. | Oui |
| preserve_thinking (boolean) | Spécifie si le reasoning_content historique est concaténé à l'entrée du modèle. | Oui |
| thinking_budget (integer) | Le nombre maximal de tokens pour le processus de raisonnement. | Oui |
| reasoning_effort (string) | Contrôle l'effort de raisonnement (low, medium, high, xhigh, max). | Oui |
| tool_stream (boolean) | Spécifie si les tool_call arguments du Function Calling sont renvoyés en streaming. | Non |
| enable_code_interpreter (boolean) | Spécifie si la fonctionnalité d'interpréteur de code est activée. | Oui |
| seed (integer) | La graine aléatoire utilisée lors de la génération. | Non |
| logprobs (boolean) | Spécifie si les probabilités logarithmiques des tokens de sortie sont renvoyées. | Oui |
| top_logprobs (integer) | Le nombre de tokens candidats les plus probables à renvoyer (0 à 5). | Oui |
| stop (string or array) | Contrôle précis du processus de génération de contenu. | Oui |
| tools (array) | Spécifie la bibliothèque d'outils que le modèle peut appeler. | Oui |
| tool_choice (string or object) | La stratégie de sélection des outils (auto, none, specific). | Oui |
| parallel_tool_calls (boolean) | Spécifie si les appels d'outils parallèles sont activés. | Non |
| enable_search (boolean) | Spécifie si les résultats de recherche Internet sont utilisés comme référence. | Non |
| search_options (object) | La configuration de la stratégie de recherche Internet. | Non |
| skill (object) | Active des compétences de génération spécifiques (comme la génération de PPT). | Non |
| instructions (string) | Champ compatible avec l'API OpenAI Responses. | Oui |
Liste des modèles et facturation
Les modèles de la série Macaron sont fournis par MindLab et sont disponibles uniquement dans la région de Singapour (portée de déploiement International).
| ID du modèle | Fenêtre de contexte | Informations sur le modèle |
|---|---|---|
mindlab/macaron-v1-tall | 256K | mindlab/macaron-v1-tall |
mindlab/macaron-v1.1-venti | 1M | mindlab/macaron-v1.1-venti |
mindlab/macaron-v1.1-coding-venti | 1M | mindlab/macaron-v1.1-coding-venti |
En mode réflexion, la chaîne de pensée est facturée en tokens de sortie.