Compressez les modèles à l'aide de techniques telles que la quantification afin de réduire les coûts d'inférence.
Présentation
L'API Model Compression compresse les modèles personnalisés affinés sur l'ensemble des paramètres grâce à des techniques comme la quantification. Cette approche réduit l'empreinte mémoire lors de l'inférence et améliore le débit. Actuellement, la fonctionnalité de compression prend uniquement en charge la quantification et couvre l'intégralité du cycle de vie : consultation des modèles, création des tâches, interrogation du statut, récupération des journaux, ainsi que l'annulation ou la suppression des tâches.
Flux typique :
- Répertoriez les modèles quantifiables et les modèles de configuration → obtenez le
template_idet lemodelquantifiable - Créez une tâche de compression → obtenez le
job_id - Interrogez régulièrement la tâche de compression ou récupérez ses journaux → jusqu'à ce que le statut soit
SUCCEEDED/FAILED/CANCELED - Une fois le statut
SUCCEEDEDatteint, utilisez le champquantized_outputpour créer un déploiement ; lorsque vous n'en avez plus besoin, annulez ou supprimez la tâche de compression
https://dashscope-intl.aliyuncs.com. L'authentification utilise uniformément l'en-tête Authorization: Bearer ${YOUR_API_KEY} et les requêtes POST doivent inclure Content-Type: application/json.
Pour connaître la signification des champs de l'objet de tâche et la machine d'états, consultez la section Objet de tâche de compression. Pour les codes d'erreur unifiés, reportez-vous aux Codes d'erreur à la fin de cette rubrique.
Démarrage rapide
L'API Model Compression est actuellement disponible uniquement dans la région Singapour. Si vous utilisez une autre région, effectuez les opérations de compression de modèles via la console Bailian de cette région.L'API Model Compression fournit un ensemble complet d'interfaces RESTful couvrant la consultation des modèles, la création des tâches, l'interrogation du statut, la récupération des journaux, ainsi que l'annulation ou la suppression des tâches. Cette documentation s'adresse aux développeurs souhaitant intégrer les fonctionnalités de compression via OpenAPI ou SDK. Pour une présentation via la console, consultez les documents connexes.
Prérequis
Avant d'appeler les interfaces décrites dans cette rubrique, assurez-vous d'avoir effectué les opérations suivantes :
- Activez le service Alibaba Cloud Bailian et complétez la vérification d'identité réelle.
- L'espace de travail actuel doit comporter au moins un modèle personnalisé affiné sur l'ensemble des paramètres (opération réalisée via l'interface de tâche d'affinage), avec un modèle de base
qwen3.5-flash-2026-02-23ouqwen3.6-plus-2026-04-02. Les modèles LoRA et les modèles déjà quantifiés ne sont pas pris en charge. - Obtenez une clé API (consultez la rubrique Obtenir une clé API).
Les spécifications des unités de déploiement prises en charge par le modèle issu de la compression dépendent du modèle de quantification sélectionné. Le nombre de déploiements se configure dans la console Bailian, sous « Model Deployment ». La fonctionnalité de compression est actuellement gratuite pour une durée limitée.
Liste des interfaces
Domaine pour toutes les interfaces : https://dashscope-intl.aliyuncs.com
# | Méthode | Chemin | Description |
|---|---|---|---|
1 | GET |
| Répertorier les modèles quantifiables et les modèles de configuration |
2 | POST |
| Créer une tâche de compression |
3 | GET |
| Répertorier les tâches de compression |
4 | GET |
| Consulter les détails d'une tâche de compression |
5 | GET |
| Récupérer les journaux d'une tâche de compression |
6 | POST |
| Annuler une tâche de compression |
7 | DELETE |
| Supprimer une tâche de compression |
Authentification
Toutes les interfaces transmettent la clé API via l'en-tête HTTP suivant :
Content-Type: application/json s'applique aux scénarios impliquant un corps de requête POST.
Prise en main en 5 minutes
- HTTP
base_model est qwen3.5-flash-2026-02-23, le suffix est test et le job_id est quant-202604111200-a1b2, l'ID du modèle de sortie sera :
Objet de tâche de compression
L'API Model Compression est actuellement disponible uniquement dans la région Singapour. Si vous utilisez une autre région, effectuez la compression de modèles via la console Bailian de cette région.
Propriétés de l'objet
Paramètres de réponse
Champ | Type | Description |
|---|---|---|
job_id | String | ID de la tâche |
job_name | String | Nom de la tâche |
job_description | String | Description de la tâche |
status | String | Statut de la tâche (voir Statuts des tâches) |
model | String | ID du modèle source |
base_model | String | ID du modèle de base |
template_id | String | ID du modèle de compression utilisé |
template_name | String | Nom du modèle |
template_description | String | Description du modèle |
training_type | String | Type de tâche, fixé à |
compress_type | String | Type de compression, identique à |
hyper_parameters | Object | Hyperparamètres effectivement appliqués (seuls les paramètres visibles par l'utilisateur sont renvoyés) |
custom_calibration_file_ids | Array<String> | Liste des ID de fichiers du jeu de données d'étalonnage personnalisé |
quantized_output | String | ID du modèle produit après quantification (valeur présente uniquement lorsque le statut est SUCCEEDED) |
create_time | String | Date de création de la tâche |
start_time | String | Date de début d'exécution de la tâche (null lorsque le statut est PENDING/QUEUING) |
end_time | String | Date de fin de la tâche (valeur présente dans les états terminaux) |
error | Object | Informations d'erreur en cas d'échec, contenant les champs |
group | String | Groupe de la tâche, fixé à |
usage | Integer | Durée d'utilisation du GPU (en secondes), présente lorsque le statut est SUCCEEDED ou CANCELED |
Statuts des tâches
Statut | Description |
|---|---|
| Tâche créée, en attente de planification |
| Placée dans la file d'attente de planification, en attente de ressources GPU |
| Tâche en cours d'exécution |
| Annulation initiée, en attente de l'arrêt |
| Tâche réussie, le champ |
| Tâche échouée, les champs |
| Tâche annulée |
Répertorier les modèles quantifiables et les modèles de configuration
Cette interface répertorie tous les modèles personnalisés affinés quantifiables de l'utilisateur actuel, ainsi que les modèles de compression associés à chacun d'eux. Les modèles de configuration sont liés aux modèles ; différentes combinaisons d'architecture de modèle × précision × spécifications MU cibles correspondent à des modèles distincts.
Seuls les modèles personnalisés entièrement affinés (SFT/DPO/CPT) par l'utilisateur actuel à partir d'un modèle de base sont renvoyés. Les modèles affinés via LoRA et les modèles déjà quantifiés n'apparaissent pas dans les résultats.Endpoint
Paramètre | Type | Obligatoire | Valeur par défaut | Description |
|---|---|---|---|---|
model | String | Non | - | Filtre par ID de modèle ; si un nom de modèle de base est transmis, tous les modèles personnalisés basés sur ce modèle de base sont renvoyés |
lang | String | Non | zh-CN | Langue de la réponse : |
Exemple de réponse (complet : avec hyperparamètres ajustables)
Exemple de réponse (complet : avec hyperparamètres ajustables)
Champ | Type | Description |
|---|---|---|
base_models | Array<String> | Liste des noms de modèles de base prenant en charge la compression |
custom_models[].model | String | ID du modèle |
custom_models[].model_name | String | Nom d'affichage du modèle |
custom_models[].base_model | String | Nom du modèle de base |
custom_models[].templates | Array | Liste des modèles de configuration de compression pris en charge par ce modèle, hérités des modèles du modèle de base |
templates[].template_id | String | ID du modèle, à transmettre en tant que paramètre template_id lors de la création d'une tâche de compression |
templates[].template_name | String | Nom du modèle (prend en charge le multilingue ; renvoie la version linguistique correspondante selon le paramètre |
templates[].description | String | Description du modèle (prend en charge le multilingue ; renvoie la version linguistique correspondante selon le paramètre |
templates[].compress_type | String | Type de compression, fixé à |
templates[].hyper_parameters | Array | Hyperparamètres ajustables ; un tableau vide indique l'absence d'hyperparamètres ajustables |
hyper_parameters[].name | String | Nom du paramètre (utilisé comme clé lors de la création d'une tâche) |
hyper_parameters[].type | String | Type : |
hyper_parameters[].display_name | String | Nom d'affichage du paramètre (prend en charge le multilingue ; renvoie la version linguistique correspondante selon le paramètre |
hyper_parameters[].description | String | Description du paramètre (prend en charge le multilingue ; renvoie la version linguistique correspondante selon le paramètre |
hyper_parameters[].defaultValue | String | Valeur par défaut |
hyper_parameters[].recommend_value | String | Valeur recommandée |
hyper_parameters[].required | Boolean | Indique si le paramètre est obligatoire |
hyper_parameters[].support_values | Array<String> | Liste des valeurs d'énumération (présente uniquement lorsque |
hyper_parameters[].data_range | Array<String> | Plage numérique (présente uniquement lorsque |
hyper_parameters[].step | Integer | Pas (présent uniquement lorsque |
Créer une tâche de compression
Endpoint
Paramètre | Type | Obligatoire | Valeur par défaut | Description |
|---|---|---|---|---|
model | String | Oui | - | ID du modèle source, obtenable via l'API |
template_id | String | Oui | - | ID du modèle de compression, obtenable via l'API |
job_name | String | Non | Généré automatiquement | Nom de la tâche ; les doublons ne sont pas autorisés pour un même utilisateur ; longueur maximale de 50 caractères |
job_description | String | Non | - | Description de la tâche ; longueur maximale de 200 caractères |
hyper_parameters | Object | Non | Valeur par défaut du modèle | Surcharges d'hyperparamètres (paires clé-valeur) ; transmettez uniquement les éléments que vous souhaitez remplacer |
custom_calibration_file_ids | Array<String> | Non | - | Liste des ID de fichiers du jeu de données d'étalonnage personnalisé (ID de groupe de fichiers, au format |
output_model_suffix | String | Non | - | Suffixe du nom du modèle quantifié en sortie ; longueur maximale de 8 caractères, uniquement des lettres minuscules et des chiffres. Format du nom du modèle de sortie : |
Répertorier les tâches de compression
Cette interface permet de filtrer par statut, modèle, modèle de configuration, spécification de quantification, algorithme, plage horaire, nom ou ID de tâche. Elle prend également en charge le tri par date de création et la pagination.
Endpoint
Paramètre | Type | Obligatoire | Valeur par défaut | Description |
|---|---|---|---|---|
status | String | Non | - | Filtre par statut (par exemple, RUNNING, SUCCEEDED) |
model | String | Non | - | Filtre par ID de modèle source |
template_id | String | Non | - | Filtre par ID de modèle |
quant_spec | String | Non | - | Filtre par spécification de quantification (par exemple, |
quant_method | String | Non | - | Filtre par algorithme de quantification (par exemple, |
start_time | String | Non | - | La date de début de la tâche n'est pas antérieure à cette valeur. Format : |
end_time | String | Non | - | La date de fin de la tâche n'est pas postérieure à cette valeur, format identique à celui de |
job_name | String | Non | - | Recherche floue par nom de tâche |
job_id | String | Non | - | Recherche floue par ID de tâche |
search_key | String | Non | - | Mot-clé de recherche. Lorsque |
select_key | String | Non | - | Champ de recherche pour |
sort_by | String | Non | create_time | Champ de tri, prend actuellement en charge uniquement |
sort_order | String | Non | desc | Ordre de tri, |
page_no | Integer | Non | 1 | Numéro de page |
page_size | Integer | Non | 10 | Taille de la page, maximum 100 |
Champ | Type | Description |
|---|---|---|
total | Integer | Nombre total de tâches correspondantes |
page_no | Integer | Numéro de la page actuelle |
page_size | Integer | Taille de la page |
jobs | Array | Liste des tâches, la signification des champs est identique à celle des paramètres de réponse de l'interface de création de tâche de compression |
Consulter une tâche de compression
Endpoint
Champ | Type | Description |
|---|---|---|
job_id | String | ID de la tâche, obtenable via l'interface de création ou de liste des tâches de compression |
job_name | String | Nom de la tâche |
job_description | String | Description de la tâche |
status | String | Statut de la tâche (voir Statuts des tâches pour plus de détails) |
model | String | ID du modèle source |
base_model | String | ID du modèle de base |
template_id | String | ID du modèle de compression utilisé |
template_name | String | Nom du modèle |
template_description | String | Description du modèle |
training_type | String | Type de tâche, fixé à |
compress_type | String | Type de compression, identique à |
hyper_parameters | Object | Hyperparamètres effectivement appliqués (seuls les paramètres visibles par l'utilisateur sont renvoyés) |
custom_calibration_file_ids | Array<String> | Liste des ID de fichiers du jeu de données d'étalonnage personnalisé |
quantized_output | String | ID du modèle produit après quantification (valeur présente uniquement lorsque le statut est SUCCEEDED), utilisable par l'interface Créer un déploiement pour déployer le modèle |
create_time | String | Date de création de la tâche |
start_time | String | Date de début d'exécution de la tâche (null lorsque le statut est PENDING/QUEUING) |
end_time | String | Date de fin de la tâche (valeur présente dans les états terminaux) |
error | Object | Informations d'erreur en cas d'échec, contenant les champs |
group | String | Groupe de la tâche, fixé à |
usage | Integer | Durée d'utilisation du GPU (en secondes), présente lorsque le statut est SUCCEEDED ou CANCELED |
Récupérer les journaux d'une tâche de compression
Endpoint
{job_id} représente l'ID de la tâche de compression, obtenable via l'interface de création ou de liste des tâches de compression.
Paramètres de requête
Paramètre | Type | Obligatoire | Valeur par défaut | Description |
|---|---|---|---|---|
offset | Integer | Non | 0 | Ignore les N premières lignes et commence la lecture à partir de la ligne N+1 |
line | Integer | Non | 100 | Nombre de lignes à lire, maximum 1 000 |
- Lorsqu'un jeu de données d'étalonnage personnalisé est fourni pour la tâche, les journaux contiennent un marqueur indiquant la fin du traitement des données :
data process succeeded, start to quantization - L'interface de journaux filtre les marqueurs système internes et ne renvoie que les informations lisibles par l'utilisateur concernant la progression de la compression
Annuler une tâche de compression
Vous pouvez annuler uniquement les tâches dont le statut est PENDING, QUEUING ou RUNNING. L'annulation est une opération asynchrone. La tâche passe d'abord dans l'état transitoire CANCELING avant d'atteindre finalement le statut CANCELED.
Endpoint
{job_id} représente l'ID de la tâche de compression, obtenable via l'API de création ou de liste des tâches de compression.
Exemple de requête
Supprimer une tâche de compression
Vous pouvez supprimer uniquement les tâches ayant atteint un état terminal (SUCCEEDED / FAILED / CANCELED). La suppression de l'enregistrement de la tâche ne supprime pas le modèle quantifié déjà généré (champ quantized_output).
Endpoint
{job_id} représente l'ID de la tâche de compression, obtenable via l'API de création ou de liste des tâches de compression.
Exemple de requête
Codes d'erreur
Codes d'erreur courants
Code d'erreur | HTTP | Description |
|---|---|---|
| 400 | Paramètre de requête invalide |
| 400 | Paramètre obligatoire manquant |
| 401 | Échec de l'authentification |
| 403 | Aucune autorisation d'accès |
| 404 | La ressource n'existe pas |
| 400 | L'état de la ressource ne permet pas cette opération (par exemple, annulation d'une tâche déjà dans un état terminal) |
| 429 | Quota dépassé |
| 500 | Erreur interne du service |
Codes d'erreur métier
Les codes d'erreur métier suivants sont répertoriés par scénario. Le champ External Code correspond à la valeur réelle du champ code renvoyée par l'interface.
Validation des paramètres
External Code | HTTP | Description |
|---|---|---|
| 400 | Paramètre obligatoire |
| 400 | Paramètre obligatoire |
| 400 | La quantification directe des modèles de base n'est pas prise en charge |
| 400 | Le modèle de configuration spécifié n'existe pas |
| 400 | Le modèle actuel ne prend pas en charge ce modèle de compression |
| 400 | Le modèle ne prend pas en charge la quantification |
| 400 | Les modèles affinés via LoRA ne prennent pas en charge la quantification |
| 400 | Données du modèle indisponibles |
| 400 | Le nom de la tâche contient des caractères non pris en charge |
| 400 | Le champ |
| 400 | Le modèle source n'est pas prêt |
| 403 | Aucune autorisation pour utiliser ce modèle de compression |
External Code | HTTP | Description |
|---|---|---|
| 400 | Hyperparamètre obligatoire non fourni |
| 400 | Hyperparamètre inconnu fourni |
| 400 | La valeur de l'hyperparamètre ne figure pas dans la liste d'énumération |
| 400 | La valeur de l'hyperparamètre est hors plage |
| 400 | La valeur de l'hyperparamètre n'est pas un nombre valide |
External Code | HTTP | Description |
|---|---|---|
| 404 | La tâche de compression spécifiée n'existe pas |
| 400 | Paramètre obligatoire |
External Code | HTTP | Description |
|---|---|---|
| 400 | Paramètre de numéro de page invalide (doit être ≥ 1) |
| 400 | Taille de page invalide (doit être comprise entre 1 et 100) |
| 400 | Format de date invalide |