専用コンピュートデプロイメントには、専用スループットユニット(DTU)とモデルユニット(MU)の2つのプランがあり、指定されたモデルに専用のGPUリソースを提供します。DTUは新リリースのモデルを対象とし(入出力TPM × 期間で課金)、MUは既存のモデルに使用されます(モデルユニット数 × 期間で課金)。本文書では、両プランの機能、課金方法、利用フロー、および対応モデルについて説明します。
概要
専用コンピューティングデプロイメントは、指定されたモデルに対して専用のGPUリソースとパフォーマンス保証を提供し、ベースモデルとカスタムモデルの両方のデプロイメントをサポートします。Bailianは2つの専用コンピューティングプランを提供しています。
- DTU(Dedicated Throughput Unit):入力/出力TPM単位で販売され、より直接的なスループット保証を提供します。プラットフォームによって維持される専用基盤GPUリソースを備えたフルマネージド推論サービスです。
- Model Unit(MU):使用時間とモデルユニット数によって計算能力を設定し、専用リソースを使用します。カスタムパフォーマンスメトリクスとPD分離モードをサポートします。課金粒度はモデルユニット数×時間です。
- 専用GPUリソースを使用し、推論環境は他のユーザーから物理的に分離されています。
- ベースモデルおよびカスタムモデル(Bailianファインチューニングモデルまたはユーザーアップロードモデル)をサポートしています。
- プラットフォームが基盤となる運用を維持するため、GPUを管理する必要はありません。
- RPM/TPMの積極的な制限はなく、トラフィックは実際のキャパシティによって制限されます。
ソリューションの選択
Bailianは推論呼び出しに対して複数のキャパシティおよび課金プランを提供しています。DTUは専用デプロイ、ファインチューニングモデルのデプロイ、高コンカレンシーでの低レイテンシ、またはデータ分離が必要なシナリオに適しています。各プランの比較を以下の表に示します。
Token従量課金やPTUを含むすべての課金方式の完全な比較については、専用デプロイ概要 メインテーブルを参照してください。
比較维度 | DTU | PTU | Token Pay-as-you-go | PAI/Lingjun |
|---|---|---|---|---|
機能 | 専用コンピューティング + ファインチューニング済みモデル | スループット保証 + 低レイテンシ | エラスティックかつゼロ閾値 | カスタムランタイム |
リソース分離 | 物理分離 | 論理分離 | 共有プール | 物理分離 |
ファインチューニング済みモデル | フルパラメータ + LoRA | 未サポート | LoRA | サポート済み |
カスタムフレームワーク | 未サポート | 未サポート | 未サポート | サポート済み |
課金モード | TPMクォータ × 期間 | TPMクォータ × 期間 | トークン使用量 | GPU × 期間 |
課金ルール
- DTU課金
- MU課金
サポートされているモデルと料金
- DTUの価格とパフォーマンスベンチマーク
- MUの価格
- Singapore
モデル | ベースライン入力(TPM) | ベースライン出力(TPM) | 入力単価(USD/kTPM・月) | 出力単価(USD/kTPM・月) | 月額料金(USD) |
|---|---|---|---|---|---|
qwen3.7-plus-2026-05-26 | 1,192,000 | 148,000 | 37 | 295 | 87,764 |
1,372,000 | 170,000 | 32 | 257 | 87,594 | |
660,000 | 124,000 | 66 | 352 | 87,208 | |
704,000 | 132,000 | 62 | 331 | 87,340 |
以下のパフォーマンス参考データは 0% のキャッシュヒット率で測定されました。実際の使用では、キャッシュヒット率が上がるにつれてモデルのパフォーマンスも向上します。
モデル | 入力長 | 出力長 | キャッシュヒット率 | 初回トークンレイテンシ(ms) | トークンあたりレイテンシ(ms) |
|---|---|---|---|---|---|
qwen3.7-plus-2026-05-26 | 16,000 | 2,000 | 0 | 888 | 10 |
16,000 | 2,000 | 0 | 2,418 | 15 | |
2,600 | 500 | 0 | 819 | 14 | |
2,600 | 500 | 0 | 970 | 13 |
デプロイの作成
- DTUデプロイメントの作成
- MUデプロイメントの設定
パラメーター | 説明 | 必須 | 値の説明 |
|---|---|---|---|
Service Name | デプロイメントサービスの名前 | はい | カスタム |
Model | デプロイ対象モデル | はい | ドロップダウン選択 |
Deployment Template | デプロイメントアーキテクチャ | いいえ | ドロップダウン選択、デフォルトは最初の項目 |
Payment Type | 課金方法 | はい | 前払い(月額) |
Input Throughput Quota | 購入済み入力TPM容量 | はい | ベースライン入力TPM(kTPM)の整数倍 |
Output Throughput Quota | 購入済み出力TPM容量 | はい | ベースライン出力TPM(kTPM)の整数倍 |
Purchase Duration | 購入期間 | はい | 1-12(整数、月) |
Auto Renewal | 有効期限切れ時の自動更新 | いいえ | オン/オフ |
Single Renewal Duration | 自動更新が有効な場合に必須 | はい | 1-12(整数、月) |
キャパシティプランニング
DTUは入出力TPM単位で販売され、購入したTPMが1分間に処理可能な最大トークン数を定義します。キャパシティプランニングでは、ビジネスのピーク時のトークン需要から購入倍数を導き出し、負荷テストを通じて実際に維持可能な同時実行数とレイテンシが要件を満たしていることを検証することを目的としています。各モデルのベースライン入出力TPMおよび標準ワークロードのパフォーマンスリファレンスは、上記の表に記載されています。
evalscopeなどの負荷テストツールを使用して、実際のビジネスシナリオ(入力/出力長、コンカレンシー、レイテンシ要件)に対してテストを行い、料金表に基づいて購入倍数を決定します。
キャパシティプランニング方法
- ピーク時のビジネスメトリクスをプロファイリングします:典型的なリクエストの入力/出力トークン長、目標コンカレンシー、初回トークンレイテンシ(TTFT)およびトークン生成レイテンシ(TPOT)の要件。
- ピークスループット需要を推定します:ピーク入力TPM ≈ コンカレンシー × リクエストあたりの入力長 ÷ リクエストあたりの処理時間(分);ピーク出力TPM ≈ コンカレンシー × リクエストあたりの出力長 ÷ リクエストあたりの生成時間(分)。
- 購入倍数を計算します:入力倍数 = ⌈ピーク入力TPM ÷ ベースライン入力TPM⌉、出力倍数 = ⌈ピーク出力TPM ÷ ベースライン出力TPM⌉。DTUでは入力と出力を一緒にスケーリングする必要があるため、大きい方の値を最終的な倍数として採用します。
- 負荷テストで検証します:計算した倍数を購入した後、ターゲットワークロードの下でevalscopeを使用して再テストし、実際のスループットとレイテンシがビジネス要件を満たしていることを確認します。レイテンシが高い場合は、TPMの余裕範囲内でコンカレンシーを上げて実効スループットを向上させます。
スケーリングおよび更新/解約
- DTUのスケーリングおよび更新・解約
- MUのスケーリングおよび更新