TPM 予約

​

概要

• キャパシティ保証:予約された TPM キャパシティはお客様のワークロード専用であり、他のユーザーと共有されません。
• 専用モデルコード:スループット予約を作成すると、システムが専用モデルコードを自動的に生成します。API リクエストの model パラメーターをこのコードに置き換える必要があります。
• オーバーフロー戦略:予約の作成時に、超過トラフィックの処理方法を選択できます。従量課金への自動オーバーフロー (デフォルト、サービス中断なし) または予約キャパシティのみ (超過リクエストは 429 を返し、追加料金は発生しません)。
• 追加容量パッケージ:既存の予約に追加のキャパシティインスタンスを購入できます。新しいインスタンスは同じ専用モデルコードを共有し、追加後は予約済みキャパシティの合計がそれに応じて増加します。詳細は、管理操作 をご参照ください。
• 8 時間枠予約:標準モードでは、固定 8 時間ですぐに有効になるプリペイドプラン (8 時間枠単位) を選択でき、負荷が特定の時間帯に集中するシナリオに適しています。詳細は、スループット予約の課金 をご参照ください。

​

プランの比較と選択

​

対応モデル

​

課金と使用量に関する注意事項

• デプロイが成功すると課金が開始されます:キャパシティ料金は購入数量に基づいて課金され、呼び出しの有無に関係なく発生し、実際の使用量によって減額されることはありません (1 回も呼び出しを行わなくても料金は全額発生します)。予約されたキャパシティ内の呼び出しには追加料金は発生しません。前払い料金は一括で支払われ、購入が成功した時点から期限まで継続的に有効になります。実際の料金については、Bailian コンソールをご参照ください。
• 8 時間枠予約 (8 時間枠単位の課金) の課金ルールと販売上の制約については、スループット予約の課金 をご参照ください。
• オーバーフローポリシーが「自動オーバーフロー」の場合:クォータを超えるリクエストは、サービス中断なしで標準の従量課金にデグレードされます。デグレード回数は、詳細ページの オーバーフローデグレード統計 で確認できます。「予約キャパシティのみ」に設定した場合:クォータを超えるリクエストは 429 を返し、追加料金は発生しません。
• サービス期限切れ後 2 時間以内は、インスタンスの呼び出しと更新が可能です。期限切れ後 2 ～ 14 時間は停止され、呼び出しできませんが、更新は可能です。14 時間経過後は解放され、復旧できません。(日次予約に適用され、8 時間枠予約はこの猶予期間の対象外です。8 時間枠予約の課金 を参照)

​

TPM 予約の作成

スループット予約の作成ページで、予約名、モデル、課金サイクル、入力 TPM、出力 TPM、購入期間、満了時の自動更新、オーバーフローポリシーなどのパラメーターを順に入力します。ページの右側には、見積もりに役立つ TPM 容量計算ツールが表示されます。

1. 以下のパラメーターを入力します。

   パラメーター	説明	必須	値の説明
   予約名	識別用のカスタム名。	はい	50 文字以下
   モデルの選択	キャパシティを予約するモデルを選択します。申請時に専用モデルコードが自動的に生成されます。	はい	スループット予約に対応するモデルのみ選択可能です。コンソールの表示をご参照ください。
   パフォーマンスモード	推論パフォーマンスの階層。単一インスタンスのスループット容量を決定します。	はい	標準モード (標準 API と同じ TPS) / 高速モード (PTU モデルデプロイと同等、標準 API 比で 1.5 ～ 2 倍の TPS 向上)
   課金サイクル	課金サイクル。	はい	日次、8 時間枠 (標準モードのみ、固定 8 時間、即時有効。詳細は スループット予約の課金 を参照)
   入力 TPM	予約する入力スループット。単位は kTPM (1 kTPM = 1,000 トークン/分)。	はい	開始値とステップはモデルにより異なります。コンソールの表示をご参照ください。
   出力 TPM	予約する出力スループット。単位は kTPM。	はい	開始値とステップはモデルにより異なります。コンソールの表示をご参照ください。
   購入期間	予約の有効期間。	はい	入力ボックスに日数を入力します。対応値: 1 ～ 30、60、90、120、365 日。
   満了時の自動更新	期限切れの 1 日前に自動的に支払いと更新が行われます (実行ルールは スループット予約の課金 を参照)。デフォルトで有効です。8 時間枠は更新に対応していないため、このパラメーターは適用されません。	いいえ	オン / オフ
   1 回の更新期間	各自動更新の期間。	いいえ	入力ボックスに日数を入力します。値の範囲は購入期間と同じです。
   オーバーフローポリシー	予約済みキャパシティを使い切ったときの超過リクエストの処理方法。	はい	トークン単位の従量課金への自動オーバーフロー (デフォルト。超過分は従量課金に切り替わり、サービス中断なし) / 予約済みキャパシティのみ (超過分は 429 を返し、追加料金なし)

2. パラメーターを確認したら、[今すぐ購入] をクリックします。料金確認ダイアログで料金を確認し、[支払いの確認] をクリックします。
3. スループット予約詳細ページの [概要] タブで 専用モデルコード を見つけ、コピーをクリックします。
4. API リクエストの model パラメーターを、コピーした専用モデルコードに置き換えます。

   前提条件: スループット予約インスタンスが作成済みで、ステータスが [実行中] であること。

   GLM-5.2 の thinking_budget パラメーター (思考の長さを制限) は、呼び出し時には有効になりません。

# When the request volume surges within a short period, the system needs a brief warm-up to match the required compute.
# During warm-up, some requests may experience latency fluctuations. Stability recovers after warm-up completes.
# Ensure you have request queuing or retry mechanisms in place.

import dashscope

client = dashscope.Client(api_key="your-api-key")

response = client.chat.completions.create(
    model="your-dedicated-model-code",   # 専用モデルコードに置き換えてください
    messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)

# When the request volume surges within a short period, the system needs a brief warm-up to match the required compute.
# During warm-up, some requests may experience latency fluctuations. Stability recovers after warm-up completes.
# Ensure you have request queuing or retry mechanisms in place.
curl -X POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions \
  -H "Authorization: Bearer $DASHSCOPE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"your-dedicated-model-code","messages":[{"role":"user","content":"Hello"}]}'

​

TPM キャパシティーカリキュレーター

​

表示と管理

スループット予約ページでは、各モデルカードにアクティブな予約数、予約済みの入出力 TPM、ピーク率が表示されます。予約一覧テーブルには、予約 ID、入出力 TPM、ステータス、課金方法 (日次、8 時間枠、時間単位など)、満了時刻などの列があり、モデル、時間、ステータスによるフィルタリングに対応しています。

​

予約の詳細

• 概要
• 監視
• API アクセス

• 基本情報:予約名、専用モデルコード (コピー可能)、ベースモデル、入出力容量。
• 統計カード (過去 7 日間):アクティブな予約数、合計およびピークの TPM 使用量、平均利用率。
• 利用率の推移:入出力方向を切り替え可能です。予約済みキャパシティのラインと実際の使用量を表示します。
• オーバーフローデグレード統計:予約済みキャパシティを超えた後にデグレードされたリクエストの数を表示します (デグレードは「自動オーバーフロー」ポリシーの場合のみ発生します)。

詳細なランタイム監視データを提供します:利用率、クォータ使用量 (入出力)、クォータ内およびクォータ外の呼び出し数、キャッシュヒット数。8 時間枠予約の場合は、枠内のパッケージ利用率も追加で表示されます。詳細は、モデル監視 をご参照ください。

専用モデルコードと呼び出し例を表示します。

​

管理操作

• 追加容量パッケージ
• スケーリング
• 更新
• 解約

スループット予約ページでは、TPM 予約と PTU (Provisioned Throughput Unit) の 2 種類のキャパシティインスタンスを一元管理します。追加容量パッケージはその両方に適用できます。予約一覧ページの対象カードの「アクティブなキャパシティインスタンス」エリアで 追加容量パッケージ をクリックすると、既存の予約に追加のキャパシティインスタンスを購入できます。追加後、予約の合計容量はベース予約とすべての追加容量パッケージの合計になります。専用モデルコードは変わらず、API 呼び出しの変更も不要です。ダイアログの上部には、ベース予約に関する以下の情報が表示されます。

• 専用モデルコード、ベースモデル、パフォーマンスモード (標準モード/高速モード)、オーバーフローポリシー:ベース予約から継承され、変更できません。
• 既存の容量パッケージ:現在追加されている容量パッケージの数。

以下の購入パラメーターを入力します。

パラメーター	説明	必須	値の説明
課金サイクル	追加容量パッケージの課金サイクルは、ベース予約の課金方法に制約されます。ベースがプリペイドの場合はプリペイドの追加パッケージのみ選択可能で、ベースが従量課金の場合はプリペイドまたは従量課金の追加パッケージを選択できます。高速モードは従量課金またはサブスクリプションに対応し、標準モードはサブスクリプションのみ (日次または 8 時間枠) に対応します。	はい	従量課金/時間単位 / サブスクリプション/日次 / サブスクリプション/8 時間枠 (標準モードのみ。枠内で容量が増加し、枠外では無効になります。ルールは スループット予約の課金 を参照)
入力容量	追加される入力スループット。単位は kTPM。	はい	10 kTPM から、10 kTPM 刻み。
出力容量	追加される出力スループット。単位は kTPM。	はい	1 kTPM から、1 kTPM 刻み。
購入期間	追加容量パッケージの有効期間。サブスクリプション/日次の場合のみ必須です。従量課金/時間単位は実際の期間に基づいて課金されるため、この項目は不要です。	はい	1~30、60、90、120、365 日。
満了時の自動更新	サブスクリプション/日次のみ適用。期限切れの 1 日前の 08:00 に自動的に支払いと更新が行われます。	いいえ	オン / オフ

1 つのモデルコード配下に、未削除の従量課金 (時間単位) キャパシティインスタンスは 1 つまでしか存在できません。従量課金インスタンスが既に存在する場合、追加容量パッケージの課金サイクルはサブスクリプション/日次のみ設定できます。

下部には入力予約料金、出力予約料金、合計が表示されます。確認後、購入を確認 をクリックします。購入が成功すると、新しいキャパシティインスタンスは「アクティブなキャパシティインスタンス」一覧に入り、予約済みキャパシティの合計もそれに応じて増加します。

[スケーリング] をクリックし、ダイアログで入力 TPM と出力 TPM を調整します。

入力 TPM と出力 TPM は 0 に設定できます。0 にすると、キャパシティ料金は発生せず、専用モデルコードは保持されるため、期限切れや解約によるコードの無効化を回避できます。ただし、0 への設定はダウングレードであり、使用済み部分は 1.2 倍の係数で精算されて返金されます (上記の「課金と使用量に関する注意事項」を参照)。

[更新] をクリックして更新期間を選択し、支払いを完了します。[満了時の自動更新] が有効になっている場合、システムは期限切れの 1 日前の 08:00 に自動的に支払いと更新を行います。

[解約] をクリックすると、解約手続きを完了するために課金センターへリダイレクトされます。

解約は取り消せません。解約後、専用モデルコードは無効になり、既存のリクエストはパブリックリソース処理にフォールバックします。解約時、使用済み部分は 1.2 倍の係数で精算されて返金されます。上記の計算式を参照してください。

​

よくある質問