Skip to main content

Déployer un modèle à l'aide d'une API ou d'une CLI

Cette rubrique explique comment déployer un modèle Qwen sur Alibaba Cloud Model Studio via des appels API.

Prérequis

1. Déployer le modèle

La commande suivante utilise le modèle personnalisé affiné qwen3-8b-ft-202511132025-0260 pour créer un service dédié nommé qwen3-8b-ft-202511132025-0260. Pour obtenir l'ID du modèle personnalisé, accédez à la page Console Model Studio - affinage de modèle. Cliquez sur le Task Name du modèle à déployer, puis sur Outputs, et enfin sur le nom du modèle en bleu. La page My Models s'ouvre alors ; vous y trouverez l'ID du modèle dans la section des informations de base. Utilisez l'ID du modèle comme valeur d'entrée du paramètre model_name pour déployer le modèle via l'API.
  • Provisioned Throughput (PTU)
  • Model unit
  • Token usage
  • dashscope CLI
La facturation débute dès le déploiement réussi du service, même sans utilisation. Avant de poursuivre, consultez les règles de facturation du service.
Le mode de facturation au débit provisionné repose sur la durée d'utilisation. Il convient aux scénarios exigeant un débit stable, une concurrence élevée, une faible latence et un trafic prévisible. Dans ce mode, la plateforme provisionne le débit/concurrence et la vitesse de génération, sans possibilité d'ajustement.
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments" \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
    "name": "my_qwen_flash",
    "model_name": "qwen-flash-2025-07-28",
    "plan": "ptu",
    "ptu_capacity": {
        "input_tpm": 10000,
	"output_tpm": 1000
    }
}'
En cas de succès, la commande retourne le résultat suivant (exemple basé sur un déploiement LoRA) :
{
    "request_id": "83b173ab-2b2f-41aa-8c57-b173e8be934e",
    "output":
    {
        "deployed_model": "qwen3-8b-ft-202511132025-0260",
        "gmt_create": "2025-11-20T20:06:46.405",
        "gmt_modified": "2025-11-20T20:06:46.405",
        "status": "PENDING",
        "model_name": "qwen3-8b-ft-202511132025-0260",
        "base_model": "qwen3-8b",
        "workspace_id": "llm-8v*****",
        "charge_type": "post_paid",
        "creator": "16542*****",
        "modifier": "16542*****",
        "plan": "***"
    }
}
Ici, deployed_model correspond à l'ID unique du service dédié.

2. Interroger l'état du service

Exécutez la commande suivante pour obtenir les détails d'un service dédié spécifique :
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/qwen3-8b-ft-202511132025-0260" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'
En cas de succès, la commande retourne le résultat suivant :
{
    "request_id": "ca36952d-9136-426e-ab08-68a97ad72719",
    "output":
    {
        "deployed_model": "qwen3-8b-ft-202511132025-0260",
        "gmt_create": "2025-11-20T20:32:08",
        "gmt_modified": "2025-11-20T20:42:25",
        "status": "RUNNING",
        "model_name": "qwen3-8b-ft-202511132025-0260",
        "base_model": "qwen3-8b",
        "base_capacity": 2,
        "capacity": 2,
        "ready_capacity": 2,
        "workspace_id": "llm-8v53etv3hwb8orx1",
        "charge_type": "post_paid",
        "creator": "1654290265984853",
        "modifier": "1654290265984853",
        "plan": "mu",
        "model_unit_spec": "MU1"
    }
}
Lorsque l'état du service passe à RUNNING, le déploiement est terminé.

3. Effectuer des requêtes d'inférence

Si vous utilisez le SDK DashScope pour la première fois, consultez la rubrique Installer le SDK.Vérifiez que l'espace de travail associé à la clé API correspond bien à l'espace de travail de déploiement du modèle.
Lors de l'appel à un service dédié déployé, le paramètre model doit être défini sur le code du modèle retourné après un déploiement réussi. Obtenez-le depuis la console de déploiement dédié.
import os
import dashscope

# Voici la configuration de la région de Singapour (ap-southeast-1). La valeur de region varie selon la région.
# Si la variable d'environnement n'est pas configurée, remplacez la ligne suivante par votre API Key de Model Studio : api_key="sk-xxx",
client = dashscope.Client(
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    region="ap-southeast-1",
)

messages = [
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Who are you?"},
]
response = client.chat.completions.create(
    model="qwen3-max-xxx-xxx",  # Remplacez par le code renvoyé après le déploiement réussi du modèle
    messages=messages,
    enable_thinking=False,
)
print(response)

Alignement des paramètres d'inférence

Les valeurs par défaut des paramètres du moteur d'inférence de Model Studio peuvent différer de celles de votre framework d'inférence local. Pour vous aligner sur les valeurs par défaut de vLLM, reportez-vous au tableau ci-dessous lors de l'appel à l'API ; si vous utilisez SGLang ou un autre framework, reportez-vous à la documentation correspondante.

Nom du paramètre

Valeur recommandée (correspond aux valeurs par défaut de vLLM)

temperature

Plage: [0, 2). Définissez 1.0 pour correspondre à la valeur par défaut de vLLM.

top_p

Plage: (0, 1.0]. Définissez 1.0 pour correspondre à la valeur par défaut de vLLM.

top_k

Définissez None ou une valeur supérieure à 100 pour désactiver l'échantillonnage top_k (seul top_p s'applique). Une valeur de 99 se rapproche de la valeur par défaut de vLLM, à savoir 0 (échantillonnage complet).

presence_penalty

Plage: [-2.0, 2.0]. Définissez 0 pour correspondre à la valeur par défaut de vLLM.

repetition_penalty (protocole DashScope)

Augmenter repetition_penalty réduit les répétitions dans le texte généré. Une valeur de 1.0 signifie l'absence de pénalité. Plage: supérieure à 0. Définissez 1.0 pour correspondre à la valeur par défaut de vLLM.

4. Supprimer le service dédié

L'exécution de la commande de suppression met immédiatement le service de déploiement hors ligne. Cette action irréversible entraîne les conséquences suivantes :
  1. Vous ne pouvez plus appeler le modèle.
  2. La facturation du service s'arrête.
Si un service dédié ne vous est plus utile, supprimez-le à l'aide de la commande suivante :
curl --request DELETE 'https://dashscope-intl.aliyuncs.com/api/v1/deployments/qwen3-8b-ft-202511132025-0260' \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'
En cas de succès, la commande retourne le résultat suivant :
{
    "request_id": "8f726017-6042-420e-a465-0d366a3aba59",
    "output":
    {
        "deployed_model": "qwen3-8b-ft-202511132025-0260",
        "gmt_create": "2025-11-20T20:32:08",
        "gmt_modified": "2025-11-27T16:35:31.591",
        "status": "DELETING",
        "model_name": "qwen3-8b-ft-202511132025-0260",
        "base_model": "qwen3-8b",
        "base_capacity": 2,
        "capacity": 2,
        "ready_capacity": 2,
        "workspace_id": "llm-8v53etv3hwb8orx1",
        "charge_type": "post_paid",
        "creator": "1654290265984853",
        "modifier": "1654290265984853",
        "plan": "mu",
        "model_unit_spec": "MU1"
    }
}
Une fois le service supprimé, son état ne peut plus être interrogé selon la méthode décrite dans la section 2. Interroger l'état du service.

Résolution des problèmes d'autorisation

Si vous rencontrez des erreurs d'autorisation lors du déploiement d'un modèle, deux voies de résolution s'offrent à vous selon la méthode de déploiement :

Déploiement via la console

  1. Si le message "Missing permission for this module" s'affiche, vérifiez que votre compte dispose de l'autorisation Model Deployment - Operation sur la page de gestion des autorisations de l'espace métier. Si vous ne pouvez pas opérer normalement, contactez votre organisation ou votre administrateur informatique afin d'ajouter les autorisations nécessaires ou de vérifier les problèmes d'autorisation en votre nom.
  2. Si l'erreur "l'espace métier xx ne dispose pas de l'autorisation pour déployer le modèle xx" est signalée lors du déploiement, accédez à la page Gestion des espaces métier de Model Studio pour ajouter l'autorisation de déploiement du modèle correspondant à l'espace métier concerné.
    Erreur d'appel API : Workspace xxx does not have deployment privilege for model xxxx.
    PixPin_2025-11-27_15-03-57
    PixPin_2025-11-27_15-06-41
    Si un message d'autorisations insuffisantes s'affiche, contactez votre organisation ou votre administrateur informatique afin d'ajouter les autorisations nécessaires ou d'effectuer l'opération en votre nom.

Déploiement via API

Lors du déploiement d'un modèle via une API, vérifiez les points suivants :
  1. Le Workspace associé à la clé API doit disposer des autorisations nécessaires pour gérer le modèle. Accédez à la page Gestion des espaces métier de Model Studio et vérifiez les paramètres d'autorisation de déploiement de modèle pour l'espace de travail concerné.
    Erreur d'appel API : Workspace xxx does not have deployment privilege for model xxxx.
    Dans la colonne Actions correspondant à l'espace de travail, cliquez sur Model Permission and Flow Control Settings. Dans la Model List, localisez le modèle cible et vérifiez l'état d'autorisation dans la colonne Model Deployment. Si la mention Not Authorized apparaît, cliquez sur Edit dans la colonne Actions pour accorder l'autorisation. Si un message d'autorisations insuffisantes s'affiche, contactez votre organisation ou votre administrateur informatique afin d'ajouter les autorisations nécessaires ou d'effectuer l'opération en votre nom.
  2. Le Owner Account propriétaire de la clé API dispose des autorisations requises dans le Workspace. Accédez à la console Model Studio, cliquez sur l'espace de travail situé dans le coin inférieur gauche, basculez vers l'espace de travail approprié, puis cliquez sur image pour vérifier les paramètres d'autorisation de déploiement de modèle.
    Erreur d'appel API : Workspace access denied.
    Dans le volet de navigation de gauche, cliquez sur Permission Management et confirmez que la liste des utilisateurs inclut le compte propriétaire de la clé API (avec le type primary account). Si un message d'autorisations insuffisantes s'affiche, contactez votre organisation ou votre administrateur informatique afin d'ajouter les autorisations nécessaires ou d'effectuer l'opération en votre nom.

Référence API

Pour plus de détails sur les appels API, consultez la rubrique Détails de l'API.