Skip to main content

DTU専用コンピューティングデプロイメント

専用コンピュートデプロイメントには、専用スループットユニット(DTU)とモデルユニット(MU)の2つのプランがあり、指定されたモデルに専用のGPUリソースを提供します。DTUは新リリースのモデルを対象とし(入出力TPM × 期間で課金)、MUは既存のモデルに使用されます(モデルユニット数 × 期間で課金)。本文書では、両プランの機能、課金方法、利用フロー、および対応モデルについて説明します。

概要

専用コンピューティングデプロイメントは、指定されたモデルに対して専用のGPUリソースとパフォーマンス保証を提供し、ベースモデルとカスタムモデルの両方のデプロイメントをサポートします。Bailianは2つの専用コンピューティングプランを提供しています。
  • DTU(Dedicated Throughput Unit):入力/出力TPM単位で販売され、より直接的なスループット保証を提供します。プラットフォームによって維持される専用基盤GPUリソースを備えたフルマネージド推論サービスです。
  • Model Unit(MU):使用時間とモデルユニット数によって計算能力を設定し、専用リソースを使用します。カスタムパフォーマンスメトリクスとPD分離モードをサポートします。課金粒度はモデルユニット数×時間です。
DTUとMUはモデルの適用可能性によって区別されます。新しくリリースされたモデルはDTU(入力/出力TPMで計測)を使用し、既存のモデルは引き続きMU(モデルユニット数で計測)を使用します。どちらも専用コンピューティング、リソース分離、およびファインチューニングモデルのデプロイを提供します。新規デプロイの場合、モデルがサポートしていればDTUを選択してください。 両プランの共通機能:
  • 専用GPUリソースを使用し、推論環境は他のユーザーから物理的に分離されています。
  • ベースモデルおよびカスタムモデル(Bailianファインチューニングモデルまたはユーザーアップロードモデル)をサポートしています。
  • プラットフォームが基盤となる運用を維持するため、GPUを管理する必要はありません。
  • RPM/TPMの積極的な制限はなく、トラフィックは実際のキャパシティによって制限されます。
一般的なモデルデプロイのワークフローについては、専用デプロイ概要 および Provisioned Throughput を参照してください。

ソリューションの選択

Bailianは推論呼び出しに対して複数のキャパシティおよび課金プランを提供しています。DTUは専用デプロイ、ファインチューニングモデルのデプロイ、高コンカレンシーでの低レイテンシ、またはデータ分離が必要なシナリオに適しています。各プランの比較を以下の表に示します。 Token従量課金やPTUを含むすべての課金方式の完全な比較については、専用デプロイ概要 メインテーブルを参照してください。

比較维度

DTU

PTU

Token Pay-as-you-go

PAI/Lingjun

機能

専用コンピューティング + ファインチューニング済みモデル

スループット保証 + 低レイテンシ

エラスティックかつゼロ閾値

カスタムランタイム

リソース分離

物理分離

論理分離

共有プール

物理分離

ファインチューニング済みモデル

フルパラメータ + LoRA

未サポート

LoRA

サポート済み

カスタムフレームワーク

未サポート

未サポート

未サポート

サポート済み

課金モード

TPMクォータ × 期間

TPMクォータ × 期間

トークン使用量

GPU × 期間

課金ルール

  • DTU課金
  • MU課金
DTUは入力TPMと出力TPMごとに個別に課金され、前払い(月額)モデルを使用します。各モデルには固定の入力/出力ベースラインTPMがあり(下表参照)、ベースラインTPMの整数倍で購入する必要があります。入力と出力の両方について少なくとも 1× ベースラインTPMを購入してください。本番環境では、それぞれ 2× 以上を推奨します。料金は、モデル、入出力TPM、サービスリージョン、購入期間に基づいてバックエンドで計算されます。各モデルの入出力単価および月額料金は下表のとおりです。単価はkTPM・月単位で請求され、月額料金は入力と出力のベースラインTPMの合計に1を乗じた金額となります。ファインチューニング済みモデルの料金は対応するベースモデルと同じですが、実際のコンソール表示に従います。

サポートされているモデルと料金

  • DTUの価格とパフォーマンスベンチマーク
  • MUの価格
  • Singapore

モデル

ベースライン入力(TPM)

ベースライン出力(TPM)

入力単価(USD/kTPM・月)

出力単価(USD/kTPM・月)

月額料金(USD)

qwen3.7-plus-2026-05-26

1,192,000

148,000

37

295

87,764

1,372,000

170,000

32

257

87,594

660,000

124,000

66

352

87,208

704,000

132,000

62

331

87,340

標準ワークロードにおける各モデルのパフォーマンス参考データを以下の表に示します。実際のコンソール表示为准拠してください。
以下のパフォーマンス参考データは 0% のキャッシュヒット率で測定されました。実際の使用では、キャッシュヒット率が上がるにつれてモデルのパフォーマンスも向上します。

モデル

入力長

出力長

キャッシュヒット率

初回トークンレイテンシ(ms)

トークンあたりレイテンシ(ms)

qwen3.7-plus-2026-05-26

16,000

2,000

0

888

10

16,000

2,000

0

2,418

15

2,600

500

0

819

14

2,600

500

0

970

13

このうち、qwen3.8-27b は現在ホワイトリストによるアクセスが必要ですが、その他のモデルは Singapore 公式サイトで利用可能です。

デプロイの作成

  • DTUデプロイメントの作成
  • MUデプロイメントの設定
DTUを使用する前に、コンソールでDTU機能を有効化し、リソースクォータを申請してください。有効化後、Bailianコンソールの Dedicated Deployment ページで対象モデルを選択し、課金方式としてDTUを選択してデプロイを作成します。
DTUデプロイは現在、API経由での作成および管理をサポートしていません。Bailianコンソールで有効化、作成、スケーリング、および更新を完了してください。
一般的なモデルデプロイの基本的なワークフローについては、Dedicated Deployment 概要を参照してください。デプロイを作成するためのフォームフィールドを以下の表に示します。

パラメーター

説明

必須

値の説明

Service Name

デプロイメントサービスの名前

はい

カスタム

Model

デプロイ対象モデル

はい

ドロップダウン選択

Deployment Template

デプロイメントアーキテクチャ

いいえ

ドロップダウン選択、デフォルトは最初の項目

Payment Type

課金方法

はい

前払い(月額)

Input Throughput Quota

購入済み入力TPM容量

はい

ベースライン入力TPM(kTPM)の整数倍

Output Throughput Quota

購入済み出力TPM容量

はい

ベースライン出力TPM(kTPM)の整数倍

Purchase Duration

購入期間

はい

1-12(整数、月)

Auto Renewal

有効期限切れ時の自動更新

いいえ

オン/オフ

Single Renewal Duration

自動更新が有効な場合に必須

はい

1-12(整数、月)

キャパシティプランニング

DTUは入出力TPM単位で販売され、購入したTPMが1分間に処理可能な最大トークン数を定義します。キャパシティプランニングでは、ビジネスのピーク時のトークン需要から購入倍数を導き出し、負荷テストを通じて実際に維持可能な同時実行数とレイテンシが要件を満たしていることを検証することを目的としています。各モデルのベースライン入出力TPMおよび標準ワークロードのパフォーマンスリファレンスは、上記の表に記載されています。 evalscopeなどの負荷テストツールを使用して、実際のビジネスシナリオ(入力/出力長、コンカレンシー、レイテンシ要件)に対してテストを行い、料金表に基づいて購入倍数を決定します。

キャパシティプランニング方法

  1. ピーク時のビジネスメトリクスをプロファイリングします:典型的なリクエストの入力/出力トークン長、目標コンカレンシー、初回トークンレイテンシ(TTFT)およびトークン生成レイテンシ(TPOT)の要件。
  2. ピークスループット需要を推定します:ピーク入力TPM ≈ コンカレンシー × リクエストあたりの入力長 ÷ リクエストあたりの処理時間(分);ピーク出力TPM ≈ コンカレンシー × リクエストあたりの出力長 ÷ リクエストあたりの生成時間(分)。
  3. 購入倍数を計算します:入力倍数 = ⌈ピーク入力TPM ÷ ベースライン入力TPM⌉、出力倍数 = ⌈ピーク出力TPM ÷ ベースライン出力TPM⌉。DTUでは入力と出力を一緒にスケーリングする必要があるため、大きい方の値を最終的な倍数として採用します。
  4. 負荷テストで検証します:計算した倍数を購入した後、ターゲットワークロードの下でevalscopeを使用して再テストし、実際のスループットとレイテンシがビジネス要件を満たしていることを確認します。レイテンシが高い場合は、TPMの余裕範囲内でコンカレンシーを上げて実効スループットを向上させます。
レイテンシ要件が厳しくない場合、購入したTPM上限の範囲内でコンカレンシーを上げて、実際のスループットを増加させることができます。 業務見積もりの例: ベースライン入力が656K TPM、ベースライン出力が82K TPMのモデルにおいて、ビジネスピーク時のプロファイリング結果がピーク入力約1,300K TPM、ピーク出力約160K TPMであった場合、コンピューティング倍率は以下のようになります。入力 ⌈1300÷656⌉=2、出力 ⌈160÷82⌉=2。大きい方の値(2倍)を採用し、入力1,312K TPM(656K×2)+出力164K TPM(82K×2)を購入します。次に、ピークワークロードでevalscopeを使用して負荷テストを実行し、レイテンシが基準を満たすことを確認します。ビジネス量が倍増した場合(ピーク入力約2,600K、出力約320K)、倍率は入力 ⌈2600÷656⌉=4、出力 ⌈320÷82⌉=4となり、4倍を購入します。つまり、入力2,624K TPM(656K×4)+出力328K TPM(82K×4)とし、再テストを行います。 見積もり計算式:
Purchase multiple = max(⌈peak input TPM ÷ baseline input TPM⌉, ⌈peak output TPM ÷ baseline output TPM⌉)

スケーリングおよび更新/解約

  • DTUのスケーリングおよび更新・解約
  • MUのスケーリングおよび更新
デプロイリストには購入済みの入力/出力TPMクォータが表示され、詳細ページにはTPMキャパシティの詳細が表示されます。スケーリング:デプロイリストで「Scale」をクリックして、入力/出力TPMキャパシティを変更します。スケールアップ時は追加請求額が表示され、スケールダウン時は推定返金額が表示されます。入力と出力は同時に増減する必要があり、片方のみを増やしてもう片方を減らすことはできません。実行中のデプロイのみ操作可能です。更新:前払い月額デプロイは期限切れ時に更新できます。詳細ページの更新ボタンから更新フローに入り、自動更新の切り替えおよび単一の更新期間の設定が可能です。解約:前払い月額注文は早期解約をサポートしています。使用済み部分は 1.2 倍の係数で精算され、返金されます。詳細については、構成ダウングレードの返金ルールを参照してください。解約は取り消し不可です。解約後、専用リソースは解放され、サービスは停止します。

FAQ

DTUデプロイとToken従量課金の違いは何ですか? Token従量課金は共有リソースプール上のトークン使用量に基づいて課金されます。DTUは専用GPUリソースを使用し、入力/出力TPMに基づいて課金されるため、安定したスループットと専用デプロイが必要なシナリオに適しています。 DTUデプロイでサポートされている課金方式は何ですか? 前払い(月額)課金のみがサポートされています。 購入したTPMの使用状況を確認するにはどうすればよいですか? Bailianコンソールの Dedicated Deployment のデプロイリストおよび詳細ページで、購入済みの入力/出力TPMクォータを確認できます。Dedicated Deployment 概要を参照してください。