本文檔介紹如何在阿里雲百鍊平台叫用 MindLab 直供的 Macaron 模型推理服務。
本文檔描述的功能僅在新加坡地區可用,如需使用模型,需從新加坡地區調用。
服務開通
- 前往百鍊控制台,搜尋 MindLab 或 Macaron,找到 MindLab Macaron 系列模型卡片,單擊立即開通;
- 在彈窗內確認開通及授權。
快速開始
MindLab 提供 Macaron 系列模型,包括 mindlab/macaron-v1-tall、mindlab/macaron-v1.1-venti 和 mindlab/macaron-v1.1-coding-venti。運行以下代碼以流式輸出快速調用 mindlab/macaron-v1.1-venti 模型。
需要已擷取與配置 API Key並完成配置API Key到環境變數。如果通過SDK調用,需要安裝SDK。
- OpenAI相容
- Anthropic相容
reasoning_effort 不是標準的 OpenAI 參數,使用 OpenAI Python SDK 時通過 extra_body 傳入,使用 Node.js SDK 時作為頂層參數傳入。- Python
- Node.js
範例代碼
思考控制
Macaron 系列模型為混合推理模型,可通過 reasoning_effort 參數控制思考深度,可選值:low、medium、high、xhigh、max。
思考過程通過 reasoning_content 欄位返回。其中 mindlab/macaron-v1-tall 的思考過程通過 reasoning 欄位返回。
多輪對話時,可將
preserve_thinking 設為 true,將歷史 reasoning_content 拼接至模型輸入。參數支援情況
下表列出 Macaron 系列模型支援的 OpenAI 相容參數。
| 參數 | 說明 | 支援情況 |
|---|---|---|
| model(string) | 使用者使用model參數指明對應的模型 | 支援 |
| messages(array) | 使用者與模型的對話歷史 | 支援 |
| stream(boolean) | 用於控制是否使用流式輸出 | 支援 |
| stream_options(object) | 流式輸出的配置項(include_usage) | 支援 |
| temperature(float) | 控制模型回覆的隨機性和多樣性 | 支援 |
| top_p(float) | 核取樣方法機率閾值 | 支援 |
| top_k(float) | 指定產生過程中用於取樣的候選Token數量 | 不支援 |
| repetition_penalty(float) | 模型產生時連續序列中的重複度 | 不支援 |
| presence_penalty(float) | 控制模型產生時整個序列中的重複度 | 不支援 |
| response_format(object) | 返回內容的格式(text、json_object、json_schema) | 支援 |
| max_tokens(integer) | 指定模型可產生的最大token個數 | 支援 |
| n(integer) | 產生回應的個數(1-4) | 支援 |
| enable_thinking(boolean) | 是否開啟思考模式 | 支援 |
| preserve_thinking(boolean) | 是否將歷史reasoning_content拼接至模型輸入 | 支援 |
| thinking_budget(integer) | 思考過程的最大Token數 | 支援 |
| reasoning_effort(string) | 控制推理力度(low、medium、high、xhigh、max) | 支援 |
| tool_stream(boolean) | Function Calling的tool_call arguments是否流式返回 | 不支援 |
| enable_code_interpreter(boolean) | 是否開啟代碼解譯器功能 | 支援 |
| seed(integer) | 產生時使用的亂數種子 | 不支援 |
| logprobs(boolean) | 是否返回輸出Token的對數機率 | 支援 |
| top_logprobs(integer) | 返回最大機率的候選Token個數(0-5) | 支援 |
| stop(string or array) | 內容產生過程的精確控制 | 支援 |
| tools(array) | 指定可供模型調用的工具庫 | 支援 |
| tool_choice(string or object) | 工具選擇策略(auto、none、specific) | 支援 |
| parallel_tool_calls(boolean) | 是否開啟並行工具調用 | 不支援 |
| enable_search(boolean) | 是否使用互聯網搜尋結果進行參考 | 不支援 |
| search_options(object) | 連網搜尋的策略配置 | 不支援 |
| skill(object) | 啟用特定產生技能(如PPT產生) | 不支援 |
| instructions(string) | OpenAI Responses API相容欄位 | 支援 |
模型列表與計費
Macaron 系列模型由 MindLab 提供,僅在新加坡地區(國際部署範圍)可用。
| 模型 ID | 上下文長度 | 模型資訊 |
|---|---|---|
mindlab/macaron-v1-tall | 256K | mindlab/macaron-v1-tall |
mindlab/macaron-v1.1-venti | 1M | mindlab/macaron-v1.1-venti |
mindlab/macaron-v1.1-coding-venti | 1M | mindlab/macaron-v1.1-coding-venti |
思考模式下,思維鏈按輸出 Token 計費。