Skip to main content

Macaron-MindLab

本ドキュメントでは、Alibaba Cloud Model Studio で MindLab 直供の Macaron モデル推論サービスを呼び出す方法について説明します。

本ドキュメントに記載されている機能は、シンガポールリージョンでのみ利用可能です。モデルを使用するには、シンガポールリージョンから呼び出してください。
Alibaba Cloud Model Studio は、中国(北京)、シンガポール、および中国(香港)リージョン向けにワークスペース固有のドメインをリリースしました。新しい専用ドメインは、推論リクエストに対して優れたパフォーマンスと高い安定性を提供します。新しいドメインへの移行を推奨します。
  • 中国(北京):https://dashscope.aliyuncs.com から https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com へ
  • シンガポール:https://dashscope-intl.aliyuncs.com から https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com へ
  • 中国(香港):https://cn-hongkong.dashscope.aliyuncs.com から https://{WorkspaceId}.cn-hongkong.maas.aliyuncs.com へ
{WorkspaceId}はワークスペースIDであり、Alibaba Cloud Model StudioコンソールのWorkspace Detailsページで確認できます。既存のドメインは引き続き完全に機能します。

サービスの有効化

  1. Model Studio コンソール に移動し、MindLab または Macaron を検索して、MindLab Macaron シリーズのモデルカードを見つけ、「今すぐ有効化」をクリックします。
  2. ダイアログボックスで、有効化と承認を確認します。
これらの手順を完了すると、MindLab の Macaron モデルサービスを呼び出すことができます。

クイックスタート

MindLab は Macaron シリーズのモデルを提供しています。mindlab/macaron-v1-tall、mindlab/macaron-v1.1-venti、mindlab/macaron-v1.1-coding-venti が含まれます。以下のコードを実行して、mindlab/macaron-v1.1-venti モデルをストリーミングモードで素早く呼び出してください。 API キーを取得 し、API キーを環境変数として設定 している必要があります。SDK を使用してモデルを呼び出す場合は、SDK をインストール する必要もあります。
  • OpenAI 互換性
  • Anthropic 互換性
reasoning_effort パラメータは標準の OpenAI パラメータではありません。OpenAI Python SDK では extra_body で渡します。Node.js SDK ではトップレベルのパラメータとして渡します。
  • Python
  • Node.js

サンプルコード

from openai import OpenAI
import os

# OpenAI クライアントを初期化
client = OpenAI(
    # 環境変数が設定されていない場合は、"sk-xxx" を Alibaba Cloud Model Studio API キーに置き換えてください。
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # シンガポールリージョン。{WorkspaceId} はワークスペース ID に置き換えてください。URL はリージョンによって異なります。
    base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1",
)

messages = [{"role": "user", "content": "あなたは誰ですか?"}]
completion = client.chat.completions.create(
    model="mindlab/macaron-v1.1-venti",
    messages=messages,
    # reasoning_effort は推論の深さを制御します。指定可能な値: low、medium、high、xhigh、max
    extra_body={"reasoning_effort": "high"},
    stream=True,
    stream_options={
        "include_usage": True
    },
)

reasoning_content = ""  # 思考プロセス
answer_content = ""     # 最終回答
is_answering = False    # 思考プロセスが終了し、最終回答の出力が開始されたかどうか

for chunk in completion:
    if not chunk.choices:
        print("\n" + "=" * 20 + "Token使用量" + "=" * 20 + "\n")
        print(chunk.usage)
        continue

    delta = chunk.choices[0].delta

    # 思考プロセスを収集
    if hasattr(delta, "reasoning_content") and delta.reasoning_content is not None:
        if not is_answering:
            print(delta.reasoning_content, end="", flush=True)
        reasoning_content += delta.reasoning_content

    # 最終回答を収集
    if hasattr(delta, "content") and delta.content:
        if not is_answering:
            print("\n" + "=" * 20 + "最終回答" + "=" * 20 + "\n")
            is_answering = True
        print(delta.content, end="", flush=True)
        answer_content += delta.content

思考制御

Macaron シリーズのモデルはハイブリッド推論モデルです。reasoning_effort パラメータで推論の深さを制御できます。指定可能な値: low、medium、high、xhigh、max。 思考プロセスは reasoning_content フィールドで返されます。mindlab/macaron-v1-tall の思考プロセスは reasoning フィールドで返されます。
マルチターンの会話では、preserve_thinking を true に設定すると、履歴の reasoning_content をモデル入力に連結できます。

パラメータのサポート状況

次の表に、Macaron シリーズのモデルがサポートする OpenAI 互換パラメータを示します。
パラメータ説明サポート状況
model(string)model パラメータで使用するモデルを指定します。サポート
messages(array)ユーザーとモデルの会話履歴です。サポート
stream(boolean)ストリーミング出力を使用するかどうかを制御します。サポート
stream_options(object)ストリーミング出力の設定項目(include_usage)です。サポート
temperature(float)モデル応答のランダム性と多様性を制御します。サポート
top_p(float)nucleus サンプリングの確率しきい値です。サポート
top_k(float)生成プロセスでサンプリングに使用する候補トークン数を指定します。未サポート
repetition_penalty(float)生成される連続シーケンスの繰り返し度です。未サポート
presence_penalty(float)生成されるシーケンス全体の繰り返し度を制御します。未サポート
response_format(object)返されるコンテンツの形式(text、json_object、json_schema)です。サポート
max_tokens(integer)モデルが生成できるトークンの最大数を指定します。サポート
n(integer)生成するレスポンスの数(1~4)です。サポート
enable_thinking(boolean)思考モードを有効にするかどうかを指定します。サポート
preserve_thinking(boolean)履歴の reasoning_content をモデル入力に連結するかどうかを指定します。サポート
thinking_budget(integer)思考プロセスの最大トークン数です。サポート
reasoning_effort(string)推論の深さを制御します(low、medium、high、xhigh、max)。サポート
tool_stream(boolean)Function Calling の tool_call arguments をストリーミングで返すかどうかを指定します。未サポート
enable_code_interpreter(boolean)コードインタープリター機能を有効にするかどうかを指定します。サポート
seed(integer)生成に使用する乱数シードです。未サポート
logprobs(boolean)出力トークンの対数確率を返すかどうかを指定します。サポート
top_logprobs(integer)返す最も確率の高い候補トークンの数(0~5)です。サポート
stop(string or array)コンテンツ生成プロセスを正確に制御します。サポート
tools(array)モデルが呼び出せるツールを指定します。サポート
tool_choice(string or object)ツール選択戦略(auto、none、specific)です。サポート
parallel_tool_calls(boolean)並列ツール呼び出しを有効にするかどうかを指定します。未サポート
enable_search(boolean)インターネット検索結果を参考に使用するかどうかを指定します。未サポート
search_options(object)インターネット検索の戦略設定です。未サポート
skill(object)特定の生成スキル(PPT 生成など)を有効にします。未サポート
instructions(string)OpenAI Responses API 互換フィールドです。サポート

モデル一覧と課金

Macaron シリーズのモデルは MindLab から提供され、シンガポールリージョン(International デプロイ範囲)でのみ利用可能です。
モデル IDコンテキストウィンドウモデル情報
mindlab/macaron-v1-tall256Kmindlab/macaron-v1-tall
mindlab/macaron-v1.1-venti1Mmindlab/macaron-v1.1-venti
mindlab/macaron-v1.1-coding-venti1Mmindlab/macaron-v1.1-coding-venti
モデルは入力トークンと出力トークンに基づいて課金されます。キャッシュヒットした入力トークンと明示的キャッシュの作成に使用されたトークンは、個別の単価で課金されます。詳細については、モデル料金とコンテキストキャッシュをご覧ください。
思考モードでは、思考連鎖は出力トークンとして課金されます。

エラーコード

エラーが発生した場合は、エラーコードを参照して解決してください。