本文档介绍如何在阿里云百炼平台调用 MindLab 直供的 Macaron 模型推理服务。
本文档描述的功能仅在新加坡地域可用,如需使用模型,需从新加坡地域调用。
服务开通
- 前往百炼控制台,搜索 MindLab 或 Macaron,找到 MindLab Macaron 系列模型卡片,单击立即开通;
- 在弹窗内确认开通及授权。
快速开始
MindLab 提供 Macaron 系列模型,包括 mindlab/macaron-v1-tall、mindlab/macaron-v1.1-venti 和 mindlab/macaron-v1.1-coding-venti。运行以下代码以流式输出快速调用 mindlab/macaron-v1.1-venti 模型。
需要已获取与配置 API Key并完成配置API Key到环境变量。如果通过SDK调用,需要安装SDK。
- OpenAI 兼容
- Anthropic 兼容
reasoning_effort 不是标准的 OpenAI 参数,使用 OpenAI Python SDK 时通过 extra_body 传入,使用 Node.js SDK 时作为顶层参数传入。- Python
- Node.js
示例代码
思考控制
Macaron 系列模型为混合推理模型,可通过 reasoning_effort 参数控制思考深度,可选值:low、medium、high、xhigh、max。
思考过程通过 reasoning_content 字段返回。其中 mindlab/macaron-v1-tall 的思考过程通过 reasoning 字段返回。
多轮对话时,可将
preserve_thinking 设为 true,将历史 reasoning_content 拼接至模型输入。参数支持情况
下表列出 Macaron 系列模型支持的 OpenAI 兼容参数。
| 参数 | 说明 | 支持情况 |
|---|---|---|
| model(string) | 用户使用model参数指明对应的模型 | 支持 |
| messages(array) | 用户与模型的对话历史 | 支持 |
| stream(boolean) | 用于控制是否使用流式输出 | 支持 |
| stream_options(object) | 流式输出的配置项(include_usage) | 支持 |
| temperature(float) | 控制模型回复的随机性和多样性 | 支持 |
| top_p(float) | 核采样方法概率阈值 | 支持 |
| top_k(float) | 指定生成过程中用于采样的候选Token数量 | 不支持 |
| repetition_penalty(float) | 模型生成时连续序列中的重复度 | 不支持 |
| presence_penalty(float) | 控制模型生成时整个序列中的重复度 | 不支持 |
| response_format(object) | 返回内容的格式(text、json_object、json_schema) | 支持 |
| max_tokens(integer) | 指定模型可生成的最大token个数 | 支持 |
| n(integer) | 生成响应的个数(1-4) | 支持 |
| enable_thinking(boolean) | 是否开启思考模式 | 支持 |
| preserve_thinking(boolean) | 是否将历史reasoning_content拼接至模型输入 | 支持 |
| thinking_budget(integer) | 思考过程的最大Token数 | 支持 |
| reasoning_effort(string) | 控制推理力度(low、medium、high、xhigh、max) | 支持 |
| tool_stream(boolean) | Function Calling的tool_call arguments是否流式返回 | 不支持 |
| enable_code_interpreter(boolean) | 是否开启代码解释器功能 | 支持 |
| seed(integer) | 生成时使用的随机数种子 | 不支持 |
| logprobs(boolean) | 是否返回输出Token的对数概率 | 支持 |
| top_logprobs(integer) | 返回最大概率的候选Token个数(0-5) | 支持 |
| stop(string or array) | 内容生成过程的精确控制 | 支持 |
| tools(array) | 指定可供模型调用的工具库 | 支持 |
| tool_choice(string or object) | 工具选择策略(auto、none、specific) | 支持 |
| parallel_tool_calls(boolean) | 是否开启并行工具调用 | 不支持 |
| enable_search(boolean) | 是否使用互联网搜索结果进行参考 | 不支持 |
| search_options(object) | 联网搜索的策略配置 | 不支持 |
| skill(object) | 启用特定生成技能(如PPT生成) | 不支持 |
| instructions(string) | OpenAI Responses API兼容字段 | 支持 |
模型列表与计费
Macaron 系列模型由 MindLab 提供,仅在新加坡地域(国际部署范围)可用。
| 模型 ID | 上下文长度 | 模型信息 |
|---|---|---|
mindlab/macaron-v1-tall | 256K | mindlab/macaron-v1-tall |
mindlab/macaron-v1.1-venti | 1M | mindlab/macaron-v1.1-venti |
mindlab/macaron-v1.1-coding-venti | 1M | mindlab/macaron-v1.1-coding-venti |
思考模式下,思维链按输出 Token 计费。