Skip to main content

Mes modèles

Gérez les modèles ajustés dans Alibaba Cloud Model Studio et les modèles importés après ajustement fin local (LoRA ou de tous les paramètres uniquement). Ce guide couvre la première autorisation OSS, la préparation et la validation des fichiers, le formulaire d’importation, la gestion des états et le dépannage courant. Ces modèles prennent en charge le déploiement cloud et fournissent une inférence à forte concurrence et faible latence.

Modèles pris en charge

Sur la page Mes modèles, vous pouvez gérer les deux types de modèles suivants :
  • Modèles ajustés : Modèles ayant fait l’objet d’un ajustement fin dans Alibaba Cloud Model Studio. Pour en savoir plus, consultez Modèles pris en charge pour l’ajustement fin.
  • Modèles importés : Modèles importés depuis Object Storage Service (OSS). L’importation prend en charge les modèles ajustés avec LoRA ou sur tous les paramètres.
    L’importation de modèles ajustés sur tous les paramètres nécessite une inscription sur liste d’autorisation. Contactez votre responsable de compte pour l’activer.
    Liste des modèles :
    • Chine (Pékin)
    • Singapour

    Modèles pris en charge

    Nom du modèle

    Qwen3

    Qwen3-32B

    Qwen3

    Qwen3-14B

    Qwen3

    Qwen3-8B

    Qwen3

    Qwen3-4B-Instruct-2507

    Qwen3-VL

    Qwen3-VL-8B-Instruct

    Qwen2.5

    Qwen2.5-72B-Instruct

    Qwen2.5

    Qwen2.5-32B-Instruct

    Qwen2.5

    Qwen2.5-14B-Instruct

    Qwen2.5

    Qwen2.5-7B-Instruct

    Qwen2.5-VL

    Qwen2.5-VL-72B-Instruct

    Qwen2.5-VL

    Qwen2.5-VL-7B-Instruct

    Les données peuvent être mises à jour avec un certain retard. Reportez-vous à l’affichage de l’interface lors de l’importation.

Importer des modèles

Cette section explique comment importer des modèles depuis OSS avec la console Alibaba Cloud Model Studio.
L’importation de modèles par API ou ligne de commande n’est pas prise en charge.
  1. Sur la page Mes modèles, cliquez sur Importer un modèle pour ouvrir l’interface d’importation.
  2. Saisissez un Nom du modèle et sélectionnez le Modèle de base (le modèle à ajuster).
  3. Dans Méthode d’importation, sélectionnez Importer depuis OSS. Aucune autre méthode n’est actuellement prise en charge. Téléversez manuellement les fichiers de votre modèle ajusté avec LoRA ou sur tous les paramètres dans Alibaba Cloud Object Storage Service (OSS). Téléverser Voir les exemples de fichiers de modèle
    • Lors de la première importation, accordez les autorisations demandées dans l’interface et ajoutez une balise au compartiment cible. Pour en savoir plus, consultez Comment importer des fichiers depuis OSS vers Model Studio pour la première fois ?.
    • Les classes de stockage OSS prises en charge n’incluent pas Archive, Cold Archive ni Deep Cold Archive. Les compartiments chiffrés et privés sont pris en charge.
    • L’accès aux fichiers situés à la racine d’un compartiment OSS n’est pas pris en charge. Sélectionnez un sous-répertoire existant ou créez-en un dans le compartiment pour qu’Alibaba Cloud Model Studio puisse y accéder.
    • Vous pouvez importer des fichiers de modèle de toute taille. Après l’importation, ils utilisent l’espace de stockage gratuit fourni par Alibaba Cloud Model Studio.
  4. Après avoir cliqué sur OK, le système commence l’importation. En période de forte demande, le processus peut prendre plus de temps. Attendez qu’il se termine.

Préparer les fichiers du modèle LoRA

Avant l’importation, placez les fichiers du modèle LoRA dans un sous-répertoire d’un compartiment OSS (la racine n’est pas prise en charge) selon les exigences ci-dessous, puis faites-les valider automatiquement avant l’envoi. Les fichiers doivent être placés directement dans le sous-répertoire sélectionné ; le système les détecte automatiquement.

Fichiers requis et structure des répertoires

Le sous-répertoire doit contenir : adapter_model.safetensors (poids de l’adaptateur LoRA au format SafeTensors), adapter_config.json (configuration contenant notamment rank et alpha) et config.json (configuration du modèle de base). Après la sélection du répertoire, le système valide automatiquement le format et l’intégrité de ces fichiers.

Contraintes des paramètres d’entraînement

  • Valeurs de rank : Le rank doit être 8, 16, 32 ou 64, et toutes les couches LoRA d’un même modèle doivent utiliser la même valeur ; sinon, le modèle ne peut pas être importé.
  • Le vocabulaire ne doit pas être modifié : Les modèles ayant ajouté des tokens ou modifié le vocabulaire d’origine pendant l’entraînement ne peuvent pas être importés ; le vocabulaire doit correspondre exactement à celui du modèle de base.
  • Le modèle de conversation ne doit pas être modifié : Les modèles ayant modifié chat_template pendant l’entraînement ne peuvent pas être importés ; il doit correspondre à la configuration par défaut du modèle de base. Il se trouve dans le champ chat_template de config.json ou tokenizer_config.json.
  • Les modèles vision-langage doivent geler le VIT : La partie Vision Transformer doit être gelée. Si l’adaptateur LoRA contient des paramètres de poids visuels (VIT non gelé), le modèle ne peut pas être importé.
Avant l’importation, vous pouvez exécuter le script suivant pour vérifier si adapter_model.safetensors contient des clés de paramètres commençant par visual et déterminer si le VIT est gelé.
from safetensors import safe_open
import argparse

def print_safetensor_structure(file_path):
    print(f"Loading safetensor file: {file_path}")
    print("="*80)

    with safe_open(file_path, framework="pt") as f:
        keys = f.keys()
        print(f"Found {len(keys)} tensors in the file:\n")

        for key in sorted(keys):
            tensor = f.get_tensor(key)
            shape = tuple(tensor.shape)
            dtype = str(tensor.dtype)
            device = tensor.device if hasattr(tensor, 'device') else 'cpu'

            lora_tag = " [LoRA]" if "lora_A" in key or "lora_B" in key else ""

            print(f"[{dtype:>14}] {shape} | {key} {lora_tag}")

if __name__ == "__main__":
    parser = argparse.ArgumentParser(description="Print structure of a .safetensors LoRA adapter.")
    parser.add_argument("filepath", type=str, help="Path to the .safetensors file")
    args = parser.parse_args()

    print_safetensor_structure(args.filepath)
Interprétation : Si la sortie contient des clés commençant par visual (par exemple visual.encoder.layer.0...), le VIT n’est pas gelé et le modèle ne peut pas être importé. Si seules des clés LoRA telles que lora_A et lora_B sont présentes, le VIT est gelé et le modèle peut être importé normalement.

Validation automatique avant l’envoi

Après la sélection d’un répertoire sur la page Importer un modèle, le système appelle automatiquement l’API de validation pour vérifier le format et l’intégrité des fichiers. En cas d’échec, un message rouge apparaît sous le champ du répertoire et bloque l’envoi ; corrigez les fichiers selon ce message. Une cause courante est l’absence de fichiers requis, correspondant au code AvailableModelFileNotFound.

Champs du formulaire d’importation

Le formulaire d’importation de modèles contient les champs suivants :

Champ

Description

Contrainte

Nom du modèle

Saisissez un nom d’affichage pour le modèle.

Obligatoire, jusqu’à 50 caractères

Modèle de base

Sélectionnez le modèle de base utilisé pour l’entraînement LoRA ; il doit correspondre à celui de l’entraînement.

Obligatoire, sélection dans la liste déroulante

Méthode d’entraînement

Les options dépendent du modèle de base choisi ; elles s’affichent automatiquement après sa sélection, avec la première sélectionnée par défaut.

Obligatoire, sélection dans la liste déroulante

Source de l’importation

Seule l’option « Importer depuis OSS » est prise en charge.

Lecture seule, sélectionné par défaut

Compartiment

Sélectionnez le compartiment OSS contenant les fichiers du modèle ; seuls ceux portant la balise bailian-datahub-access=read sont affichés.

Obligatoire, sélection dans la liste déroulante

Répertoire du modèle

Parcourez et sélectionnez le sous-répertoire contenant le checkpoint du modèle dans le compartiment choisi ; la racine n’est pas sélectionnable.

Obligatoire, sélection dans l’arborescence

Chiffrement du modèle

La plateforme active automatiquement le chiffrement côté serveur OSS (SSE-OSS) pour les fichiers de modèle exportés, avec des clés OSS entièrement gérées et l’algorithme AES256.

Lecture seule, imposé par la plateforme

Les états des modèles importés sont Création en cours (importation), Créé (prêt à être déployé), Échec de la création (échec de l’importation) et Expiré (fichiers source modifiés).

Étapes suivantes

Gérer mes modèles

Sur la page Mes modèles, vous pouvez afficher tous les modèles ajustés et importés dans l’espace de travail actuel, ainsi que les déployer ou les supprimer.
Supprimer : Retirez le déploiement avant de supprimer le modèle. S’il provient d’Ajustement fin des modèles, cette opération ne supprime pas les enregistrements de l’interface d’ajustement fin.

États et transitions

Les états sont Création en cours, Créé, Échec de la création et Expiré. Création en cours indique que l’importation est en cours ; Créé indique qu’elle est terminée et que le modèle est prêt au déploiement ; Échec de la création indique que l’importation a échoué ; Expiré indique que les fichiers source OSS ont changé après la création du modèle. La liste s’actualise discrètement toutes les 3 secondes pour les modèles en cours de création ; c’est un comportement normal, pas une anomalie d’API. À côté de l’état Échec de la création, survolez le lien « Détails » pour afficher le code d’erreur (tel qu’AvailableModelFileNotFound) et le chemin oss://bucket/path correspondant afin d’identifier le fichier concerné. Pour l’état Expiré, survolez-le pour afficher « Des mises à jour ont été détectées dans les fichiers suivants » et la liste des fichiers source modifiés, vous invitant à réimporter le modèle.

Disponibilité de la colonne Actions

La colonne Actions de chaque ligne propose trois boutons : Déployer, Entraînement incrémentiel et Supprimer. Leur disponibilité dépend de l’état du modèle :
  • Déployer : Disponible uniquement à l’état Créé ; ouvre la page de création du déploiement. Consultez Déploiement et exploitation. Dans les autres états, ou sans méthode de déploiement disponible, le bouton est désactivé.
  • Entraînement incrémentiel : Les modèles importés depuis OSS ne prennent pas en charge l’entraînement incrémentiel ; le bouton est désactivé.
  • Supprimer : Les modèles en cours de création ne peuvent pas être supprimés ; les modèles quantifiés doivent être supprimés depuis la page de compression des modèles.
Après avoir cliqué sur Supprimer et confirmé, seul l’enregistrement du modèle dans Model Studio est supprimé ; les fichiers source OSS ne sont pas affectés. Le champ de recherche en haut de la liste filtre par nom et peut être effacé/réinitialisé. La colonne Source affiche l’origine : oss://bucket/path pour OSS, l’ID de la tâche source pour l’entraînement (ou « Tâche d’entraînement supprimée »). La colonne Méthodes de déploiement prises en charge affiche les méthodes de déploiement, les balises de méthode d’entraînement (tous les paramètres, LoRA ou quantification) et les modes de facturation (par token ou par unité de modèle) ; elle affiche « - » lorsqu’aucune méthode n’est disponible. Toutes les opérations portent sur un seul modèle ; la suppression et le déploiement par lots ne sont pas pris en charge.

Appeler mes modèles

Les modèles fournissent un service d’inférence uniquement après un déploiement réussi (appels API uniquement). Pour les opérations et la facturation, consultez Appeler après le déploiement.
  • Restrictions de clé : Après le déploiement des modèles ajustés dans Alibaba Cloud Model Studio, appelez-les uniquement avec la clé API de leur espace de travail. Seuls les appels DashScope sont actuellement pris en charge, pas les appels compatibles OpenAI.
  • Optimiser les résultats d’inférence : Lors de l’appel, configurez explicitement les hyperparamètres d’inférence (tels que presence_penalty, frequency_penalty et repetition_penalty). Assurez-vous qu’ils correspondent à ceux utilisés lors de votre ajustement fin hors ligne.

Exemples de fichiers de modèle

  • L’ajustement fin LoRA génère généralement deux checkpoints : best_model_checkpoint (meilleure performance sur l’ensemble de validation) et last_model_checkpoint (dernier checkpoint enregistré). Vous pouvez importer l’un ou l’autre selon vos besoins. Les fichiers importés doivent inclure adapter_model.safetensors et adapter_config.json. Pour les méthodes LoRA, consultez la section sur l’ajustement fin du Cours ACP Alibaba Cloud sur les grands modèles de langage. Le répertoire du checkpoint contient généralement : global_step100/ (sous-répertoire), README.md, adapter_config.json, adapter_model.safetensors, additional_config.json, configuration.json, generation_config.json, latest, rng_state_0.pth et rng_state_1.pth.
  • Les fichiers à importer pour l’ajustement fin de tous les paramètres doivent être cohérents avec ceux des modèles open source.

FAQ

Lors de la première importation depuis OSS vers Alibaba Cloud Model Studio, accordez les autorisations demandées dans l’interface et ajoutez la balise bailian-datahub-access au compartiment OSS cible avant l’importation.
Si vous ne connaissez pas les concepts et les différences entre compte Alibaba Cloud et utilisateurs RAM, consultez d’abord Gestion des autorisations.
  • Avec un compte Alibaba Cloud
  • Avec un utilisateur RAM
  1. Cliquez sur Accéder à l’autorisation. Après avoir sélectionné Importer depuis OSS dans Méthode d’importation, la page affiche « Vous n’avez pas autorisé OSS ». Repérez le lien Accéder à l’autorisation à droite du message.
  2. Dans la boîte de dialogue, cliquez sur Confirmer l’autorisation. Le système active automatiquement le rôle lié au service OSS, qui est un prérequis.
    L’autorisation prend généralement effet en quelques secondes. Un léger délai est possible en période de forte activité.
    Que faire si « Cette requête a échoué. Réessayez ou contactez l’administrateur. Code d’erreur : 10041495 » s’affiche ?
  3. Ajoutez la balise bailian-datahub-access au compartiment OSS cible.
    Cette balise identifie les compartiments accessibles à Alibaba Cloud Model Studio. Les compartiments sans cette balise ne sont pas accessibles.
    1. Accédez à la console de gestion OSS. Dans la navigation à gauche, cliquez sur Liste des compartiments. Les compartiments que vous avez créés s’affichent.
    2. Dans la colonne Balise du compartiment cible, survolez l’icône, puis cliquez sur Accéder à la modification.
    3. Cliquez sur Créer une balise.
    4. Cliquez sur Balise. Définissez le nom sur bailian-datahub-access et la valeur sur read, puis cliquez sur Enregistrer.
  4. Revenez à l’interface Importer un modèle, sélectionnez à nouveau le compartiment cible et réessayez l’importation.
    Alibaba Cloud Model Studio ne prend pas en charge l’accès aux fichiers situés à la racine d’un compartiment. Sélectionnez un dossier existant ou créez-en un dans le compartiment pour permettre l’accès.
Cela se produit généralement lorsque le compte Alibaba Cloud n’a pas activé Object Storage Service (OSS). Procédez comme suit :
  1. Avec le compte Alibaba Cloud, accédez à la console de gestion OSS et activez OSS selon les instructions.
  2. Revenez à l’interface Importer un modèle d’Alibaba Cloud Model Studio et réessayez l’autorisation.
Cette erreur indique un échec de validation du répertoire du modèle (format ou intégrité) et ne se résout pas par un simple nouveau téléversement. Vérifiez la présence de fichiers adapter_model.safetensors, adapter_config.json et config.json valides, ainsi que le respect des contraintes de rank, vocabulaire et chat_template. Sélectionnez à nouveau le répertoire et envoyez.
Expiré indique que les fichiers source OSS ont changé après la création réussie du modèle. Il s’agit d’une détection normale, pas d’une panne. Survolez l’état pour voir les fichiers modifiés. Réimportez le modèle pour le rendre à nouveau utilisable.
Il s’agit d’une exigence d’autorisation, pas d’une panne. Avec la nouvelle méthode, les compartiments sans la balise bailian-datahub-access=read ne sont pas sélectionnables. Ajoutez cette balise dans la console OSS, puis revenez à la page d’importation et sélectionnez à nouveau le compartiment.
Non. Lorsque des modèles sont en cours de création, la liste s’actualise discrètement toutes les 3 secondes pour obtenir leur dernier état. Elle s’arrête automatiquement lorsqu’aucun modèle n’est en cours de création. C’est normal.
Pour aligner les paramètres d’inférence, consultez le Guide de déploiement d’API.
Non. Seul l’enregistrement dans Model Studio est supprimé ; une réimportation est nécessaire pour le restaurer. Les fichiers source OSS vous appartiennent ; Model Studio les lit uniquement via la balise bailian-datahub-access=read, et la suppression du modèle ne modifie aucun fichier dans OSS.
Si vous utilisiez l’ancienne méthode, la page d’importation affiche sous Compartiment : « Nous recommandons la nouvelle méthode d’autorisation des compartiments pour améliorer la sécurité », avec le lien « Changer maintenant ». Cliquez dessus et confirmez pour passer à l’autorisation par rôle lié au service. La migration n’affecte pas les données existantes.