Alibaba Cloud Model Studio でファインチューニングしたモデルと、ローカルで LoRA または全パラメーターファインチューニングを行ってインポートしたモデルを管理します。OSS の初回権限付与、モデルファイルの準備と検証、インポートフォームの入力、モデルの状態管理、よくある問題の対処方法を説明します。これらのモデルはクラウドにデプロイして、高い同時実行性と低レイテンシーの推論サービスを提供できます。
対応モデル
マイモデルページでは、次の 2 種類のモデルを管理できます。
- ファインチューニング済みモデル:Alibaba Cloud Model Studio でファインチューニングしたモデルです。詳しくはファインチューニングに対応するモデルを参照してください。
-
インポートしたモデル:Object Storage Service(OSS)からインポートしたモデルです。LoRA または全パラメーターファインチューニングを行ったモデルをインポートできます。
全パラメーターファインチューニング済みモデルのインポートは、許可リスト制の機能です。有効にするにはアカウントマネージャーにお問い合わせください。
モデル一覧:- 中国(北京)
- シンガポール
対応モデル
モデル名
Qwen3
Qwen3-32B
Qwen3
Qwen3-14B
Qwen3
Qwen3-8B
Qwen3
Qwen3-4B-Instruct-2507
Qwen3-VL
Qwen3-VL-8B-Instruct
Qwen2.5
Qwen2.5-72B-Instruct
Qwen2.5
Qwen2.5-32B-Instruct
Qwen2.5
Qwen2.5-14B-Instruct
Qwen2.5
Qwen2.5-7B-Instruct
Qwen2.5-VL
Qwen2.5-VL-72B-Instruct
Qwen2.5-VL
Qwen2.5-VL-7B-Instruct
データの更新には遅延が生じる場合があります。インポート時の画面表示を確認してください。
モデルのインポート
Alibaba Cloud Model Studio コンソールを使用して OSS からモデルをインポートする方法を説明します。
API またはコマンドラインによるモデルのインポートには対応していません。
- マイモデルページでモデルのインポートをクリックして、インポート画面を開きます。
- モデル名を入力し、ベースモデル(ファインチューニングの対象モデル)を選択します。
- インポート方法でOSS からインポートを選択します。現在、ほかの方法には対応していません。LoRA または全パラメーターファインチューニング済みモデルの関連ファイルを Alibaba Cloud Object Storage Service(OSS)に手動でアップロードしてください。アップロード モデルファイルの例
- OK をクリックすると、モデルのインポートが開始されます。リクエストが集中している時間帯は時間がかかる場合があるため、完了までお待ちください。
LoRA モデルファイルの準備
インポート前に、以下の要件に従って LoRA モデルファイルを OSS バケットのサブディレクトリに配置し(ルートディレクトリは使用不可)、送信前の自動検証に合格する必要があります。モデルファイルは選択したサブディレクトリの直下に配置してください。システムが自動的に検出します。
必須ファイルとディレクトリ構造
サブディレクトリには adapter_model.safetensors(SafeTensors 形式の LoRA アダプターの重み)、adapter_config.json(rank や alpha などを含む設定ファイル)、config.json(ベースモデルの設定)が必要です。ディレクトリを選択すると、これらのファイルの形式と完全性が自動的に検証されます。
学習パラメーターの制約
- rank の値:8、16、32、64 のいずれかを使用し、同じモデルのすべての LoRA 層で同じ rank にする必要があります。それ以外はインポートできません。
- 語彙を変更しない:学習中に新しいトークンを追加したり元の語彙を変更したりしたモデルはインポートできません。語彙はベースモデルと完全に一致する必要があります。
- チャットテンプレートを変更しない:学習中に chat_template を変更したモデルはインポートできません。ベースモデルのデフォルト設定と一致する必要があります。chat_template は config.json または tokenizer_config.json の
chat_templateフィールドにあります。 - 視覚言語モデルは VIT を凍結する:Vision Transformer 部分を凍結する必要があります。LoRA アダプターに視覚関連の重みパラメーターが含まれている場合(VIT が凍結されていない場合)、インポートできません。
visual で始まるパラメーターキーが含まれるかを調べ、VIT が凍結されているか確認できます。
visual で始まるキー(例:visual.encoder.layer.0...)があれば、VIT は凍結されておらず、インポートできません。lora_A、lora_B など LoRA 関連のキーのみであれば VIT は凍結されており、通常どおりインポートできます。
送信前の自動検証
モデルのインポートページでディレクトリを選択すると、ファイル検証 API が自動的に呼び出され、モデルファイルの形式と完全性が確認されます。検証に失敗すると、ディレクトリ欄の下に赤いメッセージが表示され、送信できなくなります。案内に従って修正してから送信してください。よくある原因は必須ファイルの不足で、エラーコードは AvailableModelFileNotFound です。
インポートフォームの項目
モデルのインポートフォームには次の項目があります。
項目 | 説明 | 制約 |
|---|---|---|
モデル名 | モデルの表示名を入力します。 | 必須、最大 50 文字 |
ベースモデル | LoRA 学習に使用したベースモデルを選択します。学習時のモデルと一致する必要があります。 | 必須、ドロップダウンから選択 |
学習方法 | 選択肢はベースモデルによって異なります。選択後に自動表示され、先頭の項目がデフォルトで選択されます。 | 必須、ドロップダウンから選択 |
インポート元 | 「OSS からインポート」のみ対応し、ほかの選択肢はありません。 | 読み取り専用、デフォルトで選択 |
バケット | モデルファイルを保存した OSS バケットを選択します。bailian-datahub-access=read タグの付いたバケットのみ表示されます。 | 必須、ドロップダウンから選択 |
モデルのディレクトリ | 選択したバケット内でモデルのチェックポイントを含むサブディレクトリを参照して選択します。バケットのルートディレクトリは選択できません。 | 必須、ツリーから選択 |
モデルの暗号化 | プラットフォームはエクスポートするモデルファイルに OSS サーバー側暗号化(SSE-OSS)を自動的に有効にします。完全マネージドの OSS キーと AES256 暗号化アルゴリズムを使用します。 | 読み取り専用、プラットフォームが強制適用 |
次のステップ
マイモデルの管理
マイモデルページで、現在のワークスペースのすべてのファインチューニング済みモデルとインポートしたモデルを確認できます。デプロイや削除などの操作も行えます。
削除:削除前にモデルのデプロイを解除してください。モデルのファインチューニングで作成したモデルを削除しても、ファインチューニング画面の記録は削除されません。
状態と遷移
モデルの状態は、作成中、作成済み、作成失敗、期限切れです。作成中はインポートの進行中、作成済みはインポートが完了してデプロイ可能、作成失敗はインポートが成功しなかったことを示します。期限切れは、作成成功後に OSS の元のモデルファイルが変更されたことを示します。作成中のモデルがある場合、一覧は 3 秒ごとにバックグラウンドで自動更新されます。これは正常な動作であり、API の異常ではありません。
作成失敗の横にある「詳細」リンクにポインターを合わせると、エラーコード(AvailableModelFileNotFound など)と対応する oss://bucket/path が表示され、失敗したファイルを特定できます。
期限切れにポインターを合わせると、「次のファイルに更新が検出されました」というポップアップと変更された元のファイル名が表示され、再インポートを促します。
操作列の利用条件
各行の操作列にはデプロイ、追加学習、削除の 3 つのボタンがあり、モデルの状態によって利用可否が決まります。
- デプロイ:作成済みの場合のみ利用でき、クリックするとデプロイ作成ページが開きます。手順はデプロイと運用管理を参照してください。ほかの状態や利用可能なデプロイ方法がない場合は無効です。
- 追加学習:OSS からインポートしたモデルは追加学習に対応していないため、無効です。
- 削除:作成中のモデルは削除できません。量子化モデルはモデル圧縮ページから削除する必要があります。
oss://bucket/path、学習ジョブの場合は元のジョブ ID(削除済みなら「学習ジョブは削除されました」)を表示します。対応するデプロイ方法列にはデプロイ方法、学習方法のタグ(全パラメーター、LoRA、量子化など)、課金方法(トークン単位、モデルユニット単位など)が表示されます。利用できるデプロイ方法がない場合は「-」です。
すべての操作はモデル単位で行います。一括削除や一括デプロイには対応していません。
マイモデルの呼び出し
モデルはデプロイ成功後にのみ推論サービスを提供します(API 呼び出しのみ)。操作手順と課金方法はデプロイ後の呼び出しを参照してください。
- キーの制限:Alibaba Cloud Model Studio でファインチューニングしたモデルをデプロイした後は、そのワークスペースの API キーでのみ呼び出せます。現在、DashScope のみ対応し、OpenAI 互換の呼び出しには対応していません。
- 推論結果の最適化:呼び出し時に
presence_penalty、frequency_penalty、repetition_penaltyなどの推論ハイパーパラメーターを明示的に設定し、オフラインのファインチューニングで使用した推論設定と一致させてください。
モデルファイルの例
-
LoRA ファインチューニングでは通常、best_model_checkpoint(検証セットで最も性能がよかったチェックポイント)と last_model_checkpoint(最後に保存されたチェックポイント)の 2 つが生成されます。必要に応じていずれかをインポートできます。
インポートするファイルには adapter_model.safetensors と adapter_config.json が必要です。LoRA の学習方法は、Alibaba Cloud 大規模言語モデル ACP コースのモデルファインチューニングの章を参照してください。
チェックポイントのディレクトリには通常、
global_step100/(サブディレクトリ)、README.md、adapter_config.json、adapter_model.safetensors、additional_config.json、configuration.json、generation_config.json、latest、rng_state_0.pth、rng_state_1.pthが含まれます。 - 全パラメーターファインチューニングの場合、インポートするファイルはオープンソースモデルと整合している必要があります。
よくある質問
初めて OSS から Model Studio にファイルをインポートするには?
初めて OSS から Model Studio にファイルをインポートするには?
bailian-datahub-access タグを追加してください。Alibaba Cloud アカウントと RAM ユーザーの概念や違いについては、先に権限管理を参照してください。
- Alibaba Cloud アカウントを使用する場合
- RAM ユーザーを使用する場合
- 権限付与へをクリックします。 インポート方法でOSS からインポートを選択すると、「OSS の権限が付与されていません」と表示されます。右側の権限付与へリンクをクリックします。
-
ダイアログで権限付与を確認をクリックします。前提条件である OSS サービスリンクロールが自動的に有効になります。
通常は数秒で有効になります。サービスの混雑時は多少遅れる場合があります。
「リクエストに失敗しました。再送信するか管理者にお問い合わせください。エラーコード:10041495」と表示される場合の対処方法。
-
対象 OSS バケットに
bailian-datahub-accessタグを追加します。このタグは Alibaba Cloud Model Studio がアクセスできるバケットを識別します。タグのないバケットにはアクセスできません。
- OSS 管理コンソールを開き、左側のナビゲーションでバケット一覧をクリックします。作成したバケットが表示されます。
- 対象バケットのタグ列でアイコンにポインターを合わせ、編集へをクリックします。
- タグの作成をクリックします。
- タグをクリックします。タグ名を
bailian-datahub-access、値をreadに設定し、保存をクリックします。
-
モデルのインポート画面に戻り、対象バケットを選び直して再度インポートします。
Alibaba Cloud Model Studio はバケットのルートディレクトリにあるファイルへのアクセスには対応していません。アクセス先として既存のフォルダーを選択するか、バケット内に新しく作成してください。
エラー "10041495" が発生した場合の対処方法は?
エラー "10041495" が発生した場合の対処方法は?
- Alibaba Cloud アカウントで OSS 管理コンソールを開き、画面の案内に従って OSS を有効にします。
- Alibaba Cloud Model Studio のモデルのインポート画面に戻り、もう一度権限を付与します。
AvailableModelFileNotFound でインポートに失敗する場合の対処方法は?
AvailableModelFileNotFound でインポートに失敗する場合の対処方法は?
adapter_model.safetensors、adapter_config.json、config.json があることを確認し、rank、語彙、chat_template の制約を満たしたうえで、ディレクトリを選び直して送信してください。モデルの「期限切れ」状態は何を意味しますか?
モデルの「期限切れ」状態は何を意味しますか?
バケットのドロップダウンで対象バケットを選択できない場合の対処方法は?
バケットのドロップダウンで対象バケットを選択できない場合の対処方法は?
bailian-datahub-access=read タグのないバケットは選択できません。OSS コンソールで対象バケットにタグを追加してから、インポートページに戻って選び直してください。マイモデルの一覧が数秒ごとに自動更新されるのは異常ですか?
マイモデルの一覧が数秒ごとに自動更新されるのは異常ですか?
インポートしたモデルの推論結果がローカルの vLLM や SGLang と異なるのはなぜですか?
インポートしたモデルの推論結果がローカルの vLLM や SGLang と異なるのはなぜですか?
インポートしたモデルを削除すると OSS の元のファイルに影響しますか?
インポートしたモデルを削除すると OSS の元のファイルに影響しますか?
bailian-datahub-access=read タグを介して読み取るだけです。モデルを削除しても OSS のファイルは変更されません。旧方式の権限付与から移行するには?
旧方式の権限付与から移行するには?