アカウント、ワークスペース、または API Key レベルでモデル推論の月間予算上限とアラートを設定し、予算を使い果たした際にオプションで自動停止できます。
概要
予算管理では、モデル推論に対する月次の予算上限とアラートを設定でき、必要に応じて予算が尽きた際に従量課金制のAPI呼び出しを自動的に制限することも可能です。これにより、アカウント、ワークスペース、またはAPI Keyレベルでの柔軟なコスト制御を実現できます。
Model Studio コンソール にログインします。左側のナビゲーションペインで Cost and Usage > Budget Management を選択し、Budget Management ページに移動します。
アカウント、ワークスペース、および API Key レベルで個別に予算を設定できます。詳細については、予算ディメンションを参照してください。
予算スコープと集計サイクル
- 予算スコープ:従量課金の API 料金のみを含みます。モデルトレーニング、プリセットスループット(PTU)、およびモデルユニット(DTU)の料金は含まれません。
- 集計サイクル:各暦月(例:9月 1 00:00 から 9月 30 24:00)。
予算ディメンション
次の3つのディメンションで予算を個別に設定できます。
ディメンション | スコープ | 説明 |
|---|---|---|
アカウント | プライマリアカウント配下のすべてのワークスペースおよび API Key | アカウントレベルの合計予算を設定し、アカウント配下のすべての従量課金料金を集計します。 |
ワークスペース | 単一のワークスペース | 指定されたワークスペースに独立した予算を設定し、そのワークスペース内の従量課金料金のみを集計します。 |
API Key | 単一の API Key | 指定された API Key に独立した予算を設定し、その Key で発生した従量課金料金のみを集計します。 |
予算とアラートの設定
Budget Managementページで、テーブル内のレコードのEditをクリックするか、テーブル上部のSet Budgetボタンをクリックします。予算とアラートの設定パネルで、以下のオプションを設定します。
- 予算対象:プライマリアカウント(全ワークスペース)やアカウント ID などのディメンション情報を表示します。
- 月次予算管理:有効にすると予算額を設定できます。
- 現在の予算:編集時は既存の予算額を表示し、初回設定時は「未設定」と表示されます。
- 新規予算:月間の予算上限を入力します(単位:米ドル)。
- 予算到達時にサービスを停止:有効にすると、コストが予算上限に達した際に、システムがそのディメンションの従量課金呼び出しを自動的に制限します。
- アラート閾値:予算に対するパーセンテージ(80% など)を設定します。コストがこの割合に達すると通知が送信されます。閾値は予算に基づいてアラート金額を自動計算します。たとえば、予算が $10,000 で閾値が 80% の場合、「消費が予算の 80%($8,000.00)に達したら通知を送信」と表示されます。通知方法の設定 をクリックして通知チャネルを設定します。予算アラート通知は基本受信(サイト内メッセージ、SMS、メール)とボット受信のみをサポートしており、音声受信には対応していません。
予算到達時の動作
予算アラート
コストが設定されたアラート閾値(予算の 80% など)に達した場合、および予算が使い果たされた場合(100%)、システムから通知が送信されます。
予算到達時のサービス停止
予算到達時にサービスを停止 が有効な場合、コストが予算上限に達すると、システムはそのディメンションの従量課金呼び出しを自動的に制限します。呼び出しは 429 エラーを返します。エラーメッセージの例:
The budget configured in Budget Management has been exhausted. You will be unable to make further API calls until the budget limit is increased or reset.このエラーの詳細については、エラーコードを参照してください。
FAQ
予算管理にモデルトレーニング料金は含まれますか?
予算管理にモデルトレーニング料金は含まれますか?
いいえ。予算管理は従量課金の API 料金のみを追跡し、モデルトレーニング、プリセットスループット(PTU)、およびモデルユニット(DTU)の料金は含まれません。
予算に達した後、どのように呼び出しを再開できますか?
予算に達した後、どのように呼び出しを再開できますか?
以下の方法で呼び出しを再開できます:
- Budget Management ページで予算上限を増額する。
- 「予算到達時にサービスを停止」トグルをオフにする。
- 無料枠の付与後に自動的に復旧しなかった場合は、予算閾値を手動で調整してください。
予算上限に達した後もなぜ料金が発生するのですか?
予算上限に達した後もなぜ料金が発生するのですか?
サービス停止には一定の遅延があり、遅延中に発生した料金は通常通り請求されます。予算超過を避けるため、アラート閾値(80% など)に達した際は速やかにアラートを監視することを推奨します。