Définissez des limites budgétaires mensuelles et des alertes pour l'inférence de modèle au niveau du compte, de l'espace de travail ou de la clé API, avec un arrêt automatique optionnel lorsque le budget est épuisé.
Vue d'ensemble
La gestion du budget vous permet de définir des limites budgétaires mensuelles et des alertes pour l'inférence de modèles, et éventuellement de restreindre automatiquement les appels d'API à la demande lorsque le budget est épuisé, offrant ainsi un contrôle flexible des coûts au niveau du compte, de l'espace de travail ou de la API Key.
Connectez-vous à la console Model Studio. Dans le volet de navigation gauche, choisissez Cost and Usage > Budget Management pour accéder à la page Budget Management.
Vous pouvez définir des budgets indépendamment aux niveaux compte, espace de travail et clé API. Pour plus de détails, voir Dimensions budgétaires.
Portée du budget et cycle statistique
- Portée du budget : Inclut uniquement les frais d'API à l'usage. N'inclut pas les frais d'entraînement de modèle, de débit prédéfini (PTU) ou d'unité de modèle (DTU).
- Cycle statistique : Chaque mois civil, par exemple du 1 septembre 00:00 au 30 septembre 24:00.
Dimensions budgétaires
Vous pouvez définir des budgets indépendamment selon les trois dimensions suivantes :
Dimension | Portée | Description |
|---|---|---|
Compte | Tous les espaces de travail et clés API sous le compte principal | Définit un budget total au niveau du compte, agrégeant tous les frais à l'usage sous ce compte. |
Espace de travail | Un seul espace de travail | Définit un budget indépendant pour l'espace de travail spécifié, en comptabilisant uniquement les frais à l'usage au sein de cet espace de travail. |
Clé API | Une seule clé API | Définit un budget indépendant pour la clé API spécifiée, en comptabilisant uniquement les frais à l'usage générés par cette clé. |
Définir le budget et les alertes
Sur la page Budget Management, cliquez sur Edit pour un enregistrement du tableau, ou cliquez sur le bouton Set Budget au-dessus du tableau. Dans le panneau Définir le budget et les alertes, configurez les options suivantes :
- Cible du budget : Affiche les informations de dimension, telles que le compte principal (tous les espaces de travail) et l'ID du compte.
- Gestion du budget mensuel : Activez cette option pour définir un montant budgétaire.
- Budget actuel : Lors de la modification, affiche le montant budgétaire existant ; affiche « Non défini » lors de la première configuration.
- Nouveau budget : Saisissez la limite budgétaire mensuelle (en USD).
- Arrêter le service lorsque le budget est atteint : Lorsque cette option est activée, le système restreint automatiquement les appels à l'usage pour cette dimension lorsque les coûts atteignent la limite budgétaire.
- Seuil d'alerte : Définissez un pourcentage du budget (tel que 80%). Une notification est envoyée lorsque les coûts atteignent ce pourcentage. Le seuil calcule automatiquement le montant d'alerte en fonction du budget — par exemple, avec un budget de $10,000 et un seuil de 80%, il affiche « Envoyer une notification lorsque la consommation atteint 80% ($8,000.00) du budget ». Cliquez sur Définir la méthode de notification pour configurer les canaux de notification. Les notifications d'alerte budgétaire ne prennent en charge que la réception de base (messages sur le site, SMS et e-mail) et la réception par robot ; la réception vocale n'est pas prise en charge.
Comportement lorsque le budget est atteint
Alertes budgétaires
Lorsque les coûts atteignent votre seuil d'alerte configuré (tel que 80% du budget), ainsi que lorsque le budget est épuisé (100%), le système envoie une notification.
Arrêt du service lorsque le budget est atteint
Si l'option Arrêter le service lorsque le budget est atteint est activée, le système restreint automatiquement les appels à l'usage pour cette dimension lorsque les coûts atteignent la limite budgétaire. Les appels renverront une erreur 429. Exemple de message d'erreur :
The budget configured in Budget Management has been exhausted. You will be unable to make further API calls until the budget limit is increased or reset.Pour des informations détaillées sur cette erreur, voir Codes d'erreur.
FAQ
La gestion du budget inclut-elle les frais d'entraînement de modèle ?
La gestion du budget inclut-elle les frais d'entraînement de modèle ?
Comment reprendre les appels après l'atteinte du budget ?
Comment reprendre les appels après l'atteinte du budget ?
- Augmenter la limite budgétaire sur la page Budget Management.
- Désactiver l'option « Arrêter le service lorsque le budget est atteint ».
- Si le service n'a pas été rétabli automatiquement après l'octroi d'un quota gratuit, ajuster manuellement le seuil de budget.
Pourquoi des frais sont-ils encore encourus après l'atteinte de la limite budgétaire ?
Pourquoi des frais sont-ils encore encourus après l'atteinte de la limite budgétaire ?