Skip to main content

Détails du déploiement

Récupère les détails d'un déploiement de modèle spécifique.

Prérequis

Les déploiements utilisant le mode de facturation DTU ne prennent pas actuellement en charge la création et la gestion via cet ensemble d'API. Veuillez utiliser la console ; consultez Déploiement sur calcul dédié DTU.

Obtenir l'état d'un déploiement de modèle

Interroge les détails et l'état d'exécution d'un déploiement de modèle spécifique. Vous pouvez interroger cette API à intervalles réguliers ; lorsque status devient RUNNING, cela indique que le modèle a été déployé avec succès.
Le déploiement d'un modèle prend généralement 5 à 10 minutes.

Endpoint

GET https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}

Exemple de requête

Vous pouvez utiliser la commande suivante pour interroger les détails d'un service dédié spécifique :
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/qwen-plus-202305099980-fac9-sample" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

Paramètres de la requête

Paramètre

Type

Emplacement

Obligatoire

Description

deployed_model

String

path

Oui

Identifiant unique du déploiement de modèle. Vous pouvez l'obtenir via l'opération Créer un déploiement ou l'opération Lister les déploiements.

Exemple de réponse

Attention au champ status. Lorsque le statut devient RUNNING, le modèle a été déployé avec succès et est prêt à être appelé.
{
  "request_id": "66a855f0-a6fe-4b05-9786-fb30c7c6782d",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:06:13",
    "status": "RUNNING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 1,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3***",
    "charge_type": "post_paid",
    "creator": "175805416***",
    "modifier": "175805416***"
  }
}

Paramètres de la réponse

Champ

Type

Description

request_id

String

Identifiant unique de la requête.

output

Object

Détails de la tâche.

output.deployed_model

String

Identifiant unique du déploiement de modèle. Utilisé pour consulter l'état du déploiement et appeler le modèle.

output.model_name

String

Nom d'identification du modèle.

output.base_model

String

Modèle de base utilisé.

output.status

String

Statut du déploiement:

  • PENDING: le déploiement est en cours de création.

  • RUNNING: le déploiement est en cours d'exécution et le modèle peut traiter les requêtes normalement.

  • UPDATING: modification de la configuration en cours.

  • UPDATING_FAILED: échec de la modification de la configuration.

  • DELETING: le déploiement est en cours de suppression.

  • DELETED: le déploiement a été supprimé.

  • FAILED: échec de la création ou de la mise à jour du déploiement.

  • STOPPED: le déploiement a été arrêté et n'est plus facturé.

  • ARREARS_DOWN: service suspendu en raison d'un paiement en retard.

  • ARREARS_RECOVERING: récupération en cours après suspension pour paiement en retard.

  • OFFLINING: le service est en cours de mise hors ligne.

output.base_capacity

Number

Nombre d'unités de ressources de base.

output.capacity

Number

Nombre actuel d'unités de ressources.

output.ready_capacity

Number

Nombre d'unités de ressources prêtes.

output.workspace_id

String

ID de l'espace de travail associé à la clé API Model Studio d'Alibaba Cloud. Voir Obtenir l'ID de l'espace de travail.

output.charge_type

String

Mode de facturation. post_paid indique un paiement à l'usage.

output.gmt_create

String

Heure de création du déploiement.

output.gmt_modified

String

Heure de la dernière modification du déploiement.

output.creator

String

ID du compte Alibaba Cloud du créateur.

output.modifier

String

ID du compte Alibaba Cloud de la personne ayant effectué la modification.

output.plan

String

Plan de déploiement.

Lister les modèles déployables

Obtient la liste des modèles candidats éligibles au déploiement sur la plateforme Model Studio, c'est-à-dire les modèles pouvant être utilisés pour créer des déploiements.

Endpoint

GET https://dashscope-intl.aliyuncs.com/api/v1/deployments/models

Exemple de requête

Utilisez la commande suivante pour interroger les modèles disponibles pour le déploiement. Nous recommandons d'utiliser version=v1.0 pour obtenir une réponse complète incluant les plans de déploiement et les informations des gabarits.
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/models?page_no=1&page_size=100&version=v1.0&model_source=base" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'
Interroger les modèles affinés par l'utilisateur :
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments/models?page_no=1&page_size=100&version=v1.0&model_source=custom" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

Paramètres de la requête

Paramètre

Type

Obligatoire

Description

page_no

Number

Non

Numéro de page. Valeur par défaut: 1.

page_size

Number

Non

Taille de page. Valeur par défaut: 50. Valeur maximale: 100. Valeur minimale: 1.

model_source

String

Non

Source du modèle. base désigne les modèles système (par défaut), custom désigne les modèles affinés par l'utilisateur.

version

String

Non

Version de l'API. Nous recommandons d'utiliser v1.0. Lorsque v1.0 est spécifié, la réponse inclut les informations complètes des plans de déploiement et des gabarits.

Exemple de réponse

Après l'exécution de la commande, le résultat suivant est renvoyé :
{
    "request_id": "f7da015c-ea90-4d96-af89-2f8d7604026a",
    "output": {
        "page_no": 1,
        "page_size": 100,
        "total": 5,
        "models": [
            {
                "model_name": "qwen3-8b",
                "plans": [
                    {
                        "plan": "mu",
                        "templates": [
                            {
                                "template_id": "MU1",
                                "template_name": "单机部署-标准推理型",
                                "template_type": "COUPLED",
                                "template_version": "v1",
                                "template_desc": "适用于标准推理场景",
                                "roles": {
                                    "unified": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    }
                                }
                            },
                            {
                                "template_id": "MU1-PD",
                                "template_name": "PD分离部署-标准推理型",
                                "template_type": "SEPERATED",
                                "template_version": "v1",
                                "template_desc": "适用于PD分离推理场景",
                                "roles": {
                                    "prefill": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    },
                                    "decode": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    }
                                }
                            }
                        ]
                    },
                    {
                        "plan": "lora"
                    }
                ]
            }
        ]
    }
}

Paramètres de la réponse

Paramètre

Type

Description

models

Array

Liste des modèles déployables.

models[].model_name

String

Nom du modèle.

models[].plans

Array

Liste des plans de déploiement pris en charge par le modèle. Renvoyée lorsque version=v1.0 est spécifié.

models[].plans[].plan

String

Type de plan de déploiement: mu (Model Unit), cu (Compute Unit), ptu (Provisioned Throughput Unit), lora (déploiement partagé LoRA).

models[].plans[].templates

Array

Liste des gabarits de déploiement (renvoyée lorsque plan=mu).

models[].plans[].templates[].template_id

String

ID du gabarit, à passer en tant que paramètre deploy_spec lors de la création d'une tâche de déploiement.

models[].plans[].templates[].template_name

String

Nom d'affichage du gabarit.

models[].plans[].templates[].template_type

String

Type de gabarit: COUPLED (sans séparation PD, utilise le paramètre capacity), SEPERATED (avec séparation PD, utilise les paramètres prefill_capacity et decode_capacity).

models[].plans[].templates[].template_version

String

Version du gabarit.

models[].plans[].templates[].template_desc

String

Description du gabarit.

models[].plans[].templates[].roles

Object

Configuration des rôles de nœud. Le mode COUPLED contient un nœud unified ; le mode SEPERATED contient les nœuds prefill et decode.

models[].plans[].templates[].roles.{role}.model_unit_spec

String

Spécification de l'unité de modèle.

models[].plans[].templates[].roles.{role}.capacity_unit_per_instance

Number

Nombre d'unités de capacité par instance, c'est-à-dire base_capacity. Lors de la création d'un déploiement, capacity doit être un multiple entier de cette valeur.

page_no

Number

Numéro de page interrogée.

page_size

Number

Taille de page interrogée.

total

Long

Nombre total de modèles correspondant aux conditions de la requête.

Lister les modèles déployés

Obtient la liste des instances de déploiement créées, c'est-à-dire les services de modèles réellement en cours d'exécution ou déployés dans l'espace de travail actuel.

Endpoint

GET https://dashscope-intl.aliyuncs.com/api/v1/deployments

Exemple de requête

Exécutez la commande suivante pour obtenir la liste des services dédiés :
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments?page_no=1&page_size=100" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

Paramètres de la requête

Paramètre

Type

Emplacement

Obligatoire

Description

page_no

Number

query

Non

Numéro de page. Valeur par défaut: 1.

page_size

Number

query

Non

Taille de page. Valeur par défaut: 50. Valeur maximale: 200. Valeur minimale: 1.

Exemple de réponse

Après l'exécution de la commande, le résultat suivant est renvoyé :
{
  "request_id": "7efdd3a7-a90d-96c6-b477-70055d59edf7",
  "output": {
    "page_no": 1,
    "page_size": 10,
    "total": 1,
    "deployments": [
      {
        "deployed_model": "emo-35b3f106-sample01",
        "gmt_create": "2025-06-17T11:00:38",
        "gmt_modified": "2025-06-17T11:06:13",
        "status": "RUNNING",
        "model_name": "emo",
        "base_model": "emo",
        "base_capacity": 1,
        "capacity": 1,
        "ready_capacity": 1,
        "workspace_id": "llm-v71tlv3d***",
        "charge_type": "post_paid",
        "creator": "175805416***",
        "modifier": "175805416***"
      }
    ]
  }
}

Paramètres de la réponse

Champ

Type

Description

request_id

String

Identifiant unique de la requête.

output.page_no

Number

Numéro de page actuel.

output.page_size

Number

Nombre d'éléments par page.

output.total

Number

Nombre total de déploiements.

output.deployments

Array

Liste des déploiements de modèles. Chaque élément comporte les mêmes champs que la sortie de Obtenir l'état d'un déploiement de modèle.

Modifier les limites de débit d'un déploiement

Modifie les paramètres de limitation RPM (requêtes par minute) et TPM (jetons par minute) d'un déploiement de modèle spécifique.
Seuls certains modèles déployés à l'aide d'unités de modèle prennent en charge la modification des paramètres RPM et TPM.

Endpoint

PUT https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}/update

Exemple de requête

Exécutez la commande suivante pour modifier les paramètres de limitation de débit d'un déploiement spécifique :
curl -X PUT "https://dashscope-intl.aliyuncs.com/api/v1/deployments/qwen-plus-2025-12-01-b6d61c71/update" \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
    "rpm_limit": 1000,
    "tpm_limit": 200
}'

Paramètres de la requête

Paramètre

Type

Emplacement

Obligatoire

Description

deployed_model

String

path

Oui

Identifiant unique du déploiement de modèle. Vous pouvez l'obtenir via l'opération Créer un déploiement ou l'opération Lister les déploiements.

rpm_limit

Number

body

Au moins un paramètre

Requêtes par minute (RPM).

tpm_limit

Number

body

Jetons par minute (TPM).

Exemple de réponse

Après l'exécution de la commande, le résultat suivant est renvoyé :
{
    "request_id": "1d121fd9-876c-40ad-bc40-a9e68ef3b986",
    "output":
    {
        "deployed_model": "qwen-plus-2025-12-01-b6d61c71",
        "gmt_create": "2026-01-07T13:52:44",
        "gmt_modified": "2026-01-07T14:01:41",
        "status": "PENDING",
        "model_name": "qwen-plus-2025-12-01",
        "base_model": "qwen-plus-2025-12-01",
        "base_capacity": 4,
        "capacity": 4,
        "ready_capacity": 0,
        "workspace_id": "llm-8v53e*******",
        "charge_type": "post_paid",
        "creator": "16542902******",
        "modifier": "16542902********",
        "plan": "mu",
        "model_unit_spec": "MU1",
        "enable_thinking": true,
        "max_context_length": 1,
        "rpm_limit": 1000,
        "tpm_limit": 200
    }
}

Paramètres de la réponse

En plus des champs de base listés dans Obtenir l'état d'un déploiement de modèle, la réponse peut également inclure les champs suivants :

Champ

Type

Description

output.plan

String

Plan de déploiement.

output.model_unit_spec

String

Gabarit de déploiement par unité de modèle, par exemple MU1.

output.enable_thinking

Boolean

Indique si le mode réflexion est activé.

output.max_context_length

Number

Longueur maximale du contexte.

output.rpm_limit

Number

Limite de requêtes par minute.

output.tpm_limit

Number

Limite de jetons par minute.

Mettre à l'échelle un déploiement

Ajuste le nombre d'unités de ressources utilisées par un service dédié en effectuant une opération de mise à jour.

Endpoint

PUT https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}/scale

Exemple de requête

Exécutez la commande suivante pour mettre à l'échelle un service spécifique :
curl --request PUT "https://dashscope-intl.aliyuncs.com/api/v1/deployments/emo-35b3f106-sample01/scale" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json' \
    --data '{
                "capacity":2
            }'

Paramètres de la requête

Paramètre

Type

Obligatoire

Description

deployed_model

String

Oui

Identifiant unique du déploiement de modèle (paramètre de chemin). Vous pouvez l'obtenir via l'opération Créer un déploiement ou l'opération Lister les déploiements.

capacity

Integer

Conditionnellement requis

Ne prend effet que lorsque "plan": "mu" est spécifié. Pour plus de détails sur la prise en charge, consultez la prise en charge des fonctionnalités du déploiement par unités de modèle.

Nombre d'unités de ressources utilisées par le modèle après la mise à jour. Il doit être un multiple entier de base_capacity.

ptu_capacity

Object

Conditionnellement requis

Ne prend effet que lorsque "plan": "ptu" est spécifié. Pour plus de détails sur la prise en charge, consultez la prise en charge des fonctionnalités du déploiement PTU.

Exemple: "ptu_capacity": { "input_tpm": 10000, "output_tpm": 1000 }.

ptu_capacity.input_tpm

Number

Conditionnellement requis

Ne prend effet que lorsque "plan": "ptu" est spécifié. Pour plus de détails sur la prise en charge, consultez la prise en charge des fonctionnalités du déploiement PTU.

Nombre maximal de jetons d'entrée par minute (input tokens per minute) pris en charge par le modèle déployé. Pris en charge par tous les modèles.

ptu_capacity.output_tpm

Number

Conditionnellement requis

Ne prend effet que lorsque "plan": "ptu" est spécifié. Pour plus de détails sur la prise en charge, consultez la prise en charge des fonctionnalités du déploiement PTU.

Nombre maximal de jetons de sortie par minute (output tokens per minute) pris en charge par le modèle déployé. Pris en charge par tous les modèles.

ptu_capacity.thinking_output_tpm

Number

Non

Ne prend effet que lorsque "plan": "ptu" est spécifié. Pour plus de détails sur la prise en charge, consultez la prise en charge des fonctionnalités du déploiement PTU.

Nombre maximal de jetons de sortie de réflexion provisionnés par minute (thinking output tokens per minute) pris en charge par le modèle déployé. Pris en charge par certains modèles.

Exemple de réponse

Après l'exécution de la commande, le résultat suivant est renvoyé :
{
  "request_id": "6c6b7676-3fea-423b-bc26-c9e2337e1142",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:42:02.311",
    "status": "UPDATING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 2,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3dezezp2en",
    "charge_type": "post_paid",
    "creator": "17580541***",
    "modifier": "17580541***"
  }
}

Paramètres de la réponse

Les champs de la réponse sont identiques à ceux de Obtenir l'état d'un déploiement de modèle. Pour plus de détails, consultez les paramètres de réponse de la section Obtenir l'état d'un déploiement de modèle.

Supprimer un déploiement

Supprime un déploiement de modèle spécifique et libère les ressources de calcul correspondantes.
Après cette opération, le service de déploiement du modèle sera immédiatement mis hors ligne et ne pourra pas être récupéré :
  1. Le modèle ne pourra plus être appelé.
  2. La facturation du service de déploiement sera arrêtée.

Endpoint

DELETE https://dashscope-intl.aliyuncs.com/api/v1/deployments/{deployed_model}

Exemple de requête

Exécutez la commande suivante pour supprimer un déploiement spécifique.
curl --request DELETE "https://dashscope-intl.aliyuncs.com/api/v1/deployments/emo-35b3f106-sample01" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

Paramètres de la requête

Paramètre

Type

Emplacement

Obligatoire

Description

deployed_model

String

path

Oui

Identifiant unique du déploiement de modèle. Vous pouvez l'obtenir via l'opération Créer un déploiement ou l'opération Lister les déploiements.

Exemple de réponse

Attention au champ status. Lorsque le statut devient DELETING, cela indique que le déploiement est en cours de suppression.
{
  "request_id": "5378b78b-8564-481f-a3e0-580e551df22c",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:42:02",
    "status": "DELETING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 2,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3***",
    "charge_type": "post_paid",
    "creator": "175805416***",
    "modifier": "175805416***"
  }
}
Ensuite, appelez Obtenir l'état d'un déploiement de modèle pour vérifier la suppression. Si la réponse suivante est renvoyée, cela signifie que le service déployé n'existe plus et a été supprimé avec succès.
{
    "request_id": "eb619064-0c4f-4d29-aa49-xxxxxx",
    "message": "Not found.",
    "code": "NotFound"
}

Paramètres de la réponse

Les champs de la réponse sont identiques à ceux de Obtenir l'état d'un déploiement de modèle. Pour plus de détails, consultez les paramètres de réponse de la section Obtenir l'état d'un déploiement de modèle.

Réponses d'erreur

Exemple de réponse

{
    "request_id": "ca218d57-b91b-46b2-bd35-c41c6287bcf4",
    "message": "Model: qwen-plus-20230703-cx7f not found!",
    "code": "NotFound"
}

Paramètres de la réponse

Champ

Type

Description

request_id

String

ID unique de la requête.

code

String

Code d'erreur.

message

String

Message d'erreur.

Lorsqu'une requête échoue, les erreurs suivantes peuvent être renvoyées :

Code d'erreur

Message d'erreur

Cause de l'erreur

NotFound

Model: xxx not found!

  • Un modèle inexistant a été spécifié lors de la création du déploiement.

  • Un modèle inexistant a été spécifié lors de la consultation, de la mise à jour ou de la suppression du déploiement.

Conflict

Deployed model xxx already exists, please specify a suffix.

Le suffixe spécifié lors de la création du déploiement a déjà été utilisé.

InvalidParameter

Invalid capacity (xx), capacity must be larger than or equal to 0 and multiples of 1 and less than 1000!

Unités de capacité non valides spécifiées lors de la création ou de la mise à jour du déploiement.