Qwen モデルを例に、API(HTTP)呼び出しで Alibaba Cloud Model Studio にモデルをデプロイする一連の手順を説明します。デプロイ、照会、推論、削除、および権限のトラブルシューティングを扱います。
前提条件
1. モデルのデプロイ
次のコマンドは、ファインチューニング済みカスタムモデル qwen3-8b-ft-202511132025-0260 を使用して、同名の専用サービス qwen3-8b-ft-202511132025-0260 を作成します。
カスタムモデル ID を取得するには、Model Studio コンソールのモデルファインチューニングページで、デプロイするモデルのタスク名をクリックします。続いて出力をクリックし、青色のモデル名をクリックします。表示されたマイモデルページの基本情報でモデル ID を確認できます。
モデル ID を model_name パラメーターに指定し、API でモデルをデプロイします。
- プロビジョニング済みスループット(PTU)
- モデルユニット
- トークン使用量
- dashscope CLI
デプロイコマンドを実行してサービスのデプロイが成功すると、使用していなくても直ちに課金が開始されます。操作前にサービスの課金ルールを確認することを推奨します。
deployed_model は専用サービスの一意の ID です。
2. サービス状態の照会
次のコマンドを実行して、特定の専用サービスの詳細を照会します。
RUNNING になると、デプロイは完了です。
3. 推論リクエストの送信
DashScope SDK を初めて使用する場合は、SDK のインストールを参照してください。API キーのワークスペースとモデルのデプロイ先ワークスペースが一致していることを確認してください。
model パラメーターにデプロイ成功後に返されたモデルの code を指定します。専用デプロイコンソールで取得できます。
推論パラメーターの整合
Model Studio 推論エンジンのパラメーターのデフォルト値は、ローカルの推論フレームワークと異なる場合があります。vLLM のデフォルト値に合わせるには、API 呼び出し時に次の表を参照してください。SGLang など、他のフレームワークを使用する場合は、それぞれのドキュメントを参照してください。
パラメーター名 | 推奨値(vLLM のデフォルト値に対応) |
|---|---|
temperature | 範囲: [0, 2)。vLLM のデフォルト値に合わせるには 1.0 を指定します。 |
top_p | 範囲: (0, 1.0]。vLLM のデフォルト値に合わせるには 1.0 を指定します。 |
top_k | None または 100 より大きい値を指定すると、top_k サンプリングが無効になります(top_p のみ適用)。99 を指定すると、vLLM のデフォルト値 0(全体からのサンプリング)に近い動作になります。 |
presence_penalty | 範囲: [-2.0, 2.0]。vLLM のデフォルト値に合わせるには 0 を指定します。 |
repetition_penalty(DashScope プロトコル) | repetition_penalty を大きくすると、生成テキストの繰り返しが減ります。1.0 はペナルティなしを表します。範囲: 0 より大きい値。vLLM のデフォルト値に合わせるには 1.0 を指定します。 |
4. 専用サービスの削除
専用サービスが不要になった場合は、次のコマンドで削除できます。
権限のトラブルシューティング
モデルのデプロイ中に権限エラーが発生した場合は、デプロイ方法に応じて次の 2 つの手順で確認します。
コンソールでのデプロイ
- 「Missing permission for this module」と表示された場合は、業務ワークスペースの権限管理ページで、アカウントにモデルデプロイ - 操作権限があることを確認してください。 正常に操作できない場合は、組織または IT 管理者に、必要な権限の追加や権限の問題の確認を依頼してください。
-
デプロイ中に「xx business space does not have permission to deploy the xx model」というエラーが発生した場合は、Model Studio のワークスペース管理ページで、該当ワークスペースに対象モデルのデプロイ権限を追加してください。
API 呼び出しエラー:
Workspace xxx does not have deployment privilege for model xxxx.
権限不足が表示された場合は、組織または IT 管理者に、必要な権限の追加または操作の代行を依頼してください。
API でのデプロイ
API でモデルをデプロイする場合は、次の点を確認してください。
-
API キーのワークスペースに、モデルを管理する権限が必要です。Model Studio のワークスペース管理ページで、該当ワークスペースのモデルデプロイ権限を確認してください。
API 呼び出しエラー:
該当ワークスペースの操作列で、モデル権限とレート制限の設定をクリックします。 モデル一覧で対象モデルを探し、モデルデプロイ列の権限状態を確認します。未承認の場合は、編集を操作列でクリックして権限を付与します。 権限不足が表示された場合は、組織または IT 管理者に、必要な権限の追加または操作の代行を依頼してください。Workspace xxx does not have deployment privilege for model xxxx. -
API キーを所有する所有者アカウントが、ワークスペースで必要な権限を持っていることを確認します。Model Studio コンソールの左下でワークスペースをクリックし、適切なワークスペースに切り替えます。続いて次のアイコンをクリックします:
モデルデプロイの権限設定を確認してください。
API 呼び出しエラー:
左側のナビゲーションで権限管理をクリックし、ユーザー一覧に API キーの所有者アカウント(種類:プライマリアカウント)が含まれていることを確認します。 権限不足が表示された場合は、組織または IT 管理者に、必要な権限の追加または操作の代行を依頼してください。Workspace access denied.