Skip to main content

Déploiement à la demande par token

Une méthode de déploiement facturée selon l'utilisation des tokens du modèle, prenant en charge uniquement les modèles affinés LoRA. Aucun frais en cas de non-utilisation. Convient à la validation de l'effet du modèle après affinement et aux scénarios à faible coût avec des exigences faibles en matière de concurrence et de latence.

Vue d'ensemble

Facturé selon l'utilisation des Tokens (aucun frais en cas de non-utilisation). Prend en charge uniquement certains modèles ayant subi un affinement efficace LoRA. Convient à la validation de l'effet du modèle après affinement et aux scénarios à faible coût avec des exigences faibles en matière de concurrence et de latence. Le débit/concurrence et la vitesse de génération sont prédéfinis par la plateforme et ne peuvent pas être ajustés par les utilisateurs.
La méthode de facturation ne peut pas être modifiée après la création du service. Pour changer, vous devez mettre hors ligne le modèle déployé et le redéployer. Voir Introduction au déploiement de modèles.

Règles de facturation

Fee = Model input token count × Model input unit price + Model output token count × Model output unit price (minimum billing unit: 1 token)
  • La facturation basée sur l'utilisation des tokens du modèle n'est prise en charge qu'après avoir terminé un entraînement SFT efficace (c'est-à-dire un affinement efficace LoRA ; le paramètre plan est défini sur lora pour le déploiement API) sur les modèles de base suivants et obtenu un modèle personnalisé.

Modèles pris en charge et tarification

  • Singapore
  • Pékin

Modèle de base

Code du modèle

Entrée

$/Million de Tokens

Sortie

$/Million de Tokens

Qwen3-14B

qwen3-14b

Mode sans réflexion : $0.35

Mode réflexion : $0.35

Mode sans réflexion : $1.4

Mode réflexion : $4.2

Déploiement LoRA

Le déploiement à la demande par token prend uniquement en charge les modèles affinés LoRA. Lors de la création via l'API, définissez plan sur lora. Le paramètre capacity n'a aucun effet mais doit être renseigné. Pour la mise à l'échelle, accédez à la console Dedicated Deployment et soumettez un formulaire de demande. Pour un exemple complet de création de déploiement via l'API, consultez le Guide de déploiement de l'API.

Mise à l'échelle

Pour les déploiements basés sur l'utilisation des tokens, la mise à l'échelle nécessite la soumission d'un formulaire de demande dans la console et l'attente d'une révision manuelle. La mise à l'échelle en libre-service n'est pas prise en charge.

FAQ

Les déploiements basés sur l'utilisation des tokens seront automatiquement libérés s'ils ne sont pas utilisés dans un délai d'un mois.
Vous devez mettre hors ligne la ressource d'origine, puis créer une nouvelle ressource en utilisant la méthode de facturation souhaitée. Voir Introduction au déploiement de modèles.