Gérez les modèles ajustés dans Alibaba Cloud Model Studio et les modèles importés après ajustement fin local (LoRA ou de tous les paramètres uniquement). Ce guide couvre la première autorisation OSS, la préparation et la validation des fichiers, le formulaire d’importation, la gestion des états et le dépannage courant. Ces modèles prennent en charge le déploiement cloud et fournissent une inférence à forte concurrence et faible latence.
Modèles pris en charge
Sur la page Mes modèles, vous pouvez gérer les deux types de modèles suivants :
- Modèles ajustés : Modèles ayant fait l’objet d’un ajustement fin dans Alibaba Cloud Model Studio. Pour en savoir plus, consultez Modèles pris en charge pour l’ajustement fin.
-
Modèles importés : Modèles importés depuis Object Storage Service (OSS). L’importation prend en charge les modèles ajustés avec LoRA ou sur tous les paramètres.
L’importation de modèles ajustés sur tous les paramètres nécessite une inscription sur liste d’autorisation. Contactez votre responsable de compte pour l’activer.
Liste des modèles :- Chine (Pékin)
- Singapour
Modèles pris en charge
Nom du modèle
Qwen3
Qwen3-32B
Qwen3
Qwen3-14B
Qwen3
Qwen3-8B
Qwen3
Qwen3-4B-Instruct-2507
Qwen3-VL
Qwen3-VL-8B-Instruct
Qwen2.5
Qwen2.5-72B-Instruct
Qwen2.5
Qwen2.5-32B-Instruct
Qwen2.5
Qwen2.5-14B-Instruct
Qwen2.5
Qwen2.5-7B-Instruct
Qwen2.5-VL
Qwen2.5-VL-72B-Instruct
Qwen2.5-VL
Qwen2.5-VL-7B-Instruct
Les données peuvent être mises à jour avec un certain retard. Reportez-vous à l’affichage de l’interface lors de l’importation.
Importer des modèles
Cette section explique comment importer des modèles depuis OSS avec la console Alibaba Cloud Model Studio.
L’importation de modèles par API ou ligne de commande n’est pas prise en charge.
- Sur la page Mes modèles, cliquez sur Importer un modèle pour ouvrir l’interface d’importation.
- Saisissez un Nom du modèle et sélectionnez le Modèle de base (le modèle à ajuster).
- Dans Méthode d’importation, sélectionnez Importer depuis OSS. Aucune autre méthode n’est actuellement prise en charge. Téléversez manuellement les fichiers de votre modèle ajusté avec LoRA ou sur tous les paramètres dans Alibaba Cloud Object Storage Service (OSS). Téléverser Voir les exemples de fichiers de modèle
- Après avoir cliqué sur OK, le système commence l’importation. En période de forte demande, le processus peut prendre plus de temps. Attendez qu’il se termine.
Préparer les fichiers du modèle LoRA
Avant l’importation, placez les fichiers du modèle LoRA dans un sous-répertoire d’un compartiment OSS (la racine n’est pas prise en charge) selon les exigences ci-dessous, puis faites-les valider automatiquement avant l’envoi. Les fichiers doivent être placés directement dans le sous-répertoire sélectionné ; le système les détecte automatiquement.
Fichiers requis et structure des répertoires
Le sous-répertoire doit contenir : adapter_model.safetensors (poids de l’adaptateur LoRA au format SafeTensors), adapter_config.json (configuration contenant notamment rank et alpha) et config.json (configuration du modèle de base). Après la sélection du répertoire, le système valide automatiquement le format et l’intégrité de ces fichiers.
Contraintes des paramètres d’entraînement
- Valeurs de rank : Le rank doit être 8, 16, 32 ou 64, et toutes les couches LoRA d’un même modèle doivent utiliser la même valeur ; sinon, le modèle ne peut pas être importé.
- Le vocabulaire ne doit pas être modifié : Les modèles ayant ajouté des tokens ou modifié le vocabulaire d’origine pendant l’entraînement ne peuvent pas être importés ; le vocabulaire doit correspondre exactement à celui du modèle de base.
- Le modèle de conversation ne doit pas être modifié : Les modèles ayant modifié chat_template pendant l’entraînement ne peuvent pas être importés ; il doit correspondre à la configuration par défaut du modèle de base. Il se trouve dans le champ
chat_templatede config.json ou tokenizer_config.json. - Les modèles vision-langage doivent geler le VIT : La partie Vision Transformer doit être gelée. Si l’adaptateur LoRA contient des paramètres de poids visuels (VIT non gelé), le modèle ne peut pas être importé.
visual et déterminer si le VIT est gelé.
visual (par exemple visual.encoder.layer.0...), le VIT n’est pas gelé et le modèle ne peut pas être importé. Si seules des clés LoRA telles que lora_A et lora_B sont présentes, le VIT est gelé et le modèle peut être importé normalement.
Validation automatique avant l’envoi
Après la sélection d’un répertoire sur la page Importer un modèle, le système appelle automatiquement l’API de validation pour vérifier le format et l’intégrité des fichiers. En cas d’échec, un message rouge apparaît sous le champ du répertoire et bloque l’envoi ; corrigez les fichiers selon ce message. Une cause courante est l’absence de fichiers requis, correspondant au code AvailableModelFileNotFound.
Champs du formulaire d’importation
Le formulaire d’importation de modèles contient les champs suivants :
Champ | Description | Contrainte |
|---|---|---|
Nom du modèle | Saisissez un nom d’affichage pour le modèle. | Obligatoire, jusqu’à 50 caractères |
Modèle de base | Sélectionnez le modèle de base utilisé pour l’entraînement LoRA ; il doit correspondre à celui de l’entraînement. | Obligatoire, sélection dans la liste déroulante |
Méthode d’entraînement | Les options dépendent du modèle de base choisi ; elles s’affichent automatiquement après sa sélection, avec la première sélectionnée par défaut. | Obligatoire, sélection dans la liste déroulante |
Source de l’importation | Seule l’option « Importer depuis OSS » est prise en charge. | Lecture seule, sélectionné par défaut |
Compartiment | Sélectionnez le compartiment OSS contenant les fichiers du modèle ; seuls ceux portant la balise bailian-datahub-access=read sont affichés. | Obligatoire, sélection dans la liste déroulante |
Répertoire du modèle | Parcourez et sélectionnez le sous-répertoire contenant le checkpoint du modèle dans le compartiment choisi ; la racine n’est pas sélectionnable. | Obligatoire, sélection dans l’arborescence |
Chiffrement du modèle | La plateforme active automatiquement le chiffrement côté serveur OSS (SSE-OSS) pour les fichiers de modèle exportés, avec des clés OSS entièrement gérées et l’algorithme AES256. | Lecture seule, imposé par la plateforme |
Étapes suivantes
Gérer mes modèles
Sur la page Mes modèles, vous pouvez afficher tous les modèles ajustés et importés dans l’espace de travail actuel, ainsi que les déployer ou les supprimer.
Supprimer : Retirez le déploiement avant de supprimer le modèle. S’il provient d’Ajustement fin des modèles, cette opération ne supprime pas les enregistrements de l’interface d’ajustement fin.
États et transitions
Les états sont Création en cours, Créé, Échec de la création et Expiré. Création en cours indique que l’importation est en cours ; Créé indique qu’elle est terminée et que le modèle est prêt au déploiement ; Échec de la création indique que l’importation a échoué ; Expiré indique que les fichiers source OSS ont changé après la création du modèle. La liste s’actualise discrètement toutes les 3 secondes pour les modèles en cours de création ; c’est un comportement normal, pas une anomalie d’API.
À côté de l’état Échec de la création, survolez le lien « Détails » pour afficher le code d’erreur (tel qu’AvailableModelFileNotFound) et le chemin oss://bucket/path correspondant afin d’identifier le fichier concerné.
Pour l’état Expiré, survolez-le pour afficher « Des mises à jour ont été détectées dans les fichiers suivants » et la liste des fichiers source modifiés, vous invitant à réimporter le modèle.
Disponibilité de la colonne Actions
La colonne Actions de chaque ligne propose trois boutons : Déployer, Entraînement incrémentiel et Supprimer. Leur disponibilité dépend de l’état du modèle :
- Déployer : Disponible uniquement à l’état Créé ; ouvre la page de création du déploiement. Consultez Déploiement et exploitation. Dans les autres états, ou sans méthode de déploiement disponible, le bouton est désactivé.
- Entraînement incrémentiel : Les modèles importés depuis OSS ne prennent pas en charge l’entraînement incrémentiel ; le bouton est désactivé.
- Supprimer : Les modèles en cours de création ne peuvent pas être supprimés ; les modèles quantifiés doivent être supprimés depuis la page de compression des modèles.
oss://bucket/path pour OSS, l’ID de la tâche source pour l’entraînement (ou « Tâche d’entraînement supprimée »). La colonne Méthodes de déploiement prises en charge affiche les méthodes de déploiement, les balises de méthode d’entraînement (tous les paramètres, LoRA ou quantification) et les modes de facturation (par token ou par unité de modèle) ; elle affiche « - » lorsqu’aucune méthode n’est disponible.
Toutes les opérations portent sur un seul modèle ; la suppression et le déploiement par lots ne sont pas pris en charge.
Appeler mes modèles
Les modèles fournissent un service d’inférence uniquement après un déploiement réussi (appels API uniquement). Pour les opérations et la facturation, consultez Appeler après le déploiement.
- Restrictions de clé : Après le déploiement des modèles ajustés dans Alibaba Cloud Model Studio, appelez-les uniquement avec la clé API de leur espace de travail. Seuls les appels DashScope sont actuellement pris en charge, pas les appels compatibles OpenAI.
- Optimiser les résultats d’inférence : Lors de l’appel, configurez explicitement les hyperparamètres d’inférence (tels que
presence_penalty,frequency_penaltyetrepetition_penalty). Assurez-vous qu’ils correspondent à ceux utilisés lors de votre ajustement fin hors ligne.
Exemples de fichiers de modèle
-
L’ajustement fin LoRA génère généralement deux checkpoints : best_model_checkpoint (meilleure performance sur l’ensemble de validation) et last_model_checkpoint (dernier checkpoint enregistré). Vous pouvez importer l’un ou l’autre selon vos besoins.
Les fichiers importés doivent inclure adapter_model.safetensors et adapter_config.json. Pour les méthodes LoRA, consultez la section sur l’ajustement fin du Cours ACP Alibaba Cloud sur les grands modèles de langage.
Le répertoire du checkpoint contient généralement :
global_step100/(sous-répertoire),README.md,adapter_config.json,adapter_model.safetensors,additional_config.json,configuration.json,generation_config.json,latest,rng_state_0.pthetrng_state_1.pth. - Les fichiers à importer pour l’ajustement fin de tous les paramètres doivent être cohérents avec ceux des modèles open source.
FAQ
Comment importer des fichiers depuis OSS vers Model Studio pour la première fois ?
Comment importer des fichiers depuis OSS vers Model Studio pour la première fois ?
bailian-datahub-access au compartiment OSS cible avant l’importation.Si vous ne connaissez pas les concepts et les différences entre compte Alibaba Cloud et utilisateurs RAM, consultez d’abord Gestion des autorisations.
- Avec un compte Alibaba Cloud
- Avec un utilisateur RAM
- Cliquez sur Accéder à l’autorisation. Après avoir sélectionné Importer depuis OSS dans Méthode d’importation, la page affiche « Vous n’avez pas autorisé OSS ». Repérez le lien Accéder à l’autorisation à droite du message.
-
Dans la boîte de dialogue, cliquez sur Confirmer l’autorisation. Le système active automatiquement le rôle lié au service OSS, qui est un prérequis.
L’autorisation prend généralement effet en quelques secondes. Un léger délai est possible en période de forte activité.
Que faire si « Cette requête a échoué. Réessayez ou contactez l’administrateur. Code d’erreur : 10041495 » s’affiche ?
-
Ajoutez la balise
bailian-datahub-accessau compartiment OSS cible.Cette balise identifie les compartiments accessibles à Alibaba Cloud Model Studio. Les compartiments sans cette balise ne sont pas accessibles.
- Accédez à la console de gestion OSS. Dans la navigation à gauche, cliquez sur Liste des compartiments. Les compartiments que vous avez créés s’affichent.
- Dans la colonne Balise du compartiment cible, survolez l’icône, puis cliquez sur Accéder à la modification.
- Cliquez sur Créer une balise.
- Cliquez sur Balise. Définissez le nom sur
bailian-datahub-accesset la valeur surread, puis cliquez sur Enregistrer.
-
Revenez à l’interface Importer un modèle, sélectionnez à nouveau le compartiment cible et réessayez l’importation.
Alibaba Cloud Model Studio ne prend pas en charge l’accès aux fichiers situés à la racine d’un compartiment. Sélectionnez un dossier existant ou créez-en un dans le compartiment pour permettre l’accès.
Que faire en cas d’erreur "10041495" ?
Que faire en cas d’erreur "10041495" ?
- Avec le compte Alibaba Cloud, accédez à la console de gestion OSS et activez OSS selon les instructions.
- Revenez à l’interface Importer un modèle d’Alibaba Cloud Model Studio et réessayez l’autorisation.
Que faire si l’importation échoue avec AvailableModelFileNotFound ?
Que faire si l’importation échoue avec AvailableModelFileNotFound ?
adapter_model.safetensors, adapter_config.json et config.json valides, ainsi que le respect des contraintes de rank, vocabulaire et chat_template. Sélectionnez à nouveau le répertoire et envoyez.Que signifie l’état Expiré d’un modèle ?
Que signifie l’état Expiré d’un modèle ?
Que faire si le compartiment cible n’est pas sélectionnable dans la liste déroulante ?
Que faire si le compartiment cible n’est pas sélectionnable dans la liste déroulante ?
bailian-datahub-access=read ne sont pas sélectionnables. Ajoutez cette balise dans la console OSS, puis revenez à la page d’importation et sélectionnez à nouveau le compartiment.L’actualisation automatique de la liste Mes modèles toutes les quelques secondes est-elle une anomalie ?
L’actualisation automatique de la liste Mes modèles toutes les quelques secondes est-elle une anomalie ?
Pourquoi les résultats d’inférence du modèle importé diffèrent-ils de ceux de vLLM ou SGLang en local ?
Pourquoi les résultats d’inférence du modèle importé diffèrent-ils de ceux de vLLM ou SGLang en local ?
La suppression d’un modèle importé affecte-t-elle les fichiers source dans OSS ?
La suppression d’un modèle importé affecte-t-elle les fichiers source dans OSS ?
bailian-datahub-access=read, et la suppression du modèle ne modifie aucun fichier dans OSS.Comment migrer depuis l’ancienne méthode d’autorisation ?
Comment migrer depuis l’ancienne méthode d’autorisation ?