Qwen-Long traite des documents pouvant atteindre 10 millions de tokens grâce à un mécanisme de téléchargement et de référence de fichiers, dépassant ainsi les limites de contexte des modèles standards.
Ce document s'applique uniquement à la région Chine continentale (Pékin). Pour utiliser le modèle, vous devez disposer d'une clé API de la région Chine continentale (Pékin).
Mode d'utilisation
Utilisez Qwen-Long en deux étapes : téléchargez les fichiers, puis appelez l'API.
-
Téléchargement et analyse des fichiers :
- Téléchargez un fichier via l'API. Pour plus de détails sur les formats pris en charge et les limites de taille, consultez la section Formats pris en charge.
- Après un téléchargement réussi, le système retourne un
file-idunique pour votre compte et lance l'analyse. Le téléchargement, le stockage et l'analyse des fichiers sont gratuits.
-
Appel d'API et facturation :
- Lors de l'appel du modèle, référencez un ou plusieurs
file-iddans le messagesystem. - Le modèle effectue l'inférence en se basant sur le contenu textuel associé au
file-id. - Pour chaque appel d'API, le nombre de tokens du contenu de fichier référencé est comptabilisé comme tokens d'entrée pour cette requête.
- Lors de l'appel du modèle, référencez un ou plusieurs
Prise en main
Prérequis
- Obtenez une clé API et configurez-la en tant que variable d'environnement.
- Pour appeler le modèle via un SDK, installez le SDK OpenAI.
Télécharger un document
Cet exemple télécharge le fichier Model_Studio_Phone_Product_Introduction.docx vers le stockage sécurisé de Model Studio via l'interface compatible OpenAI et obtient un file-id. Consultez la documentation de l'API pour connaître les paramètres de téléchargement.
Python
file-id du fichier téléchargé.
Transmettre des informations et discuter via un ID de fichier
Transmettez le file-id dans les messages système : le premier message définit le rôle, le second contient le file-id, puis ajoutez les questions de l'utilisateur.
Les documents volumineux nécessitent un temps d'analyse plus long. Attendez la fin de l'analyse avant d'effectuer l'appel.
Python
Transmettre plusieurs documents
Transmettez plusieurs file-id dans un seul message système ou ajoutez des messages système distincts pour chaque document.
- Pass multiple documents
- Append documents
Python
Transmettre des informations sous forme de texte brut
Au lieu d'utiliser des file-id, transmettez directement le contenu du document sous forme de chaîne de caractères. Ajoutez la définition du rôle dans le premier message afin d'éviter toute confusion avec le contenu du document.
Si le contenu du document dépasse 1 million de tokens, utilisez plutôt un ID de fichier en raison des limites de taille de l'API.
- Simple example
- Pass multiple documents
- Append documents
Saisissez le contenu du document directement dans le message système.
Python
Tarification du modèle
| Nom du modèle | Version | Longueur du contexte | Entrée max. | Sortie max. | Coût d'entrée | Coût de sortie |
|---|---|---|---|---|---|---|
| (Tokens) | (pour 1 million de tokens) | |||||
qwen-longAPI Batch à 50 % des tarifs en temps réel | Stable | 10 000 000 | 10 000 000 | 32 768 | 0,072 $ | 0,287 $ |
FAQ
- Le modèle Qwen-Long prend-il en charge la soumission de tâches par lot ? Oui. Qwen-Long prend en charge l'API Batch d'OpenAI à 50 % du tarif des appels en temps réel. Soumettez les tâches par lot sous forme de fichiers ; ces tâches s'exécutent de manière asynchrone et retournent les résultats une fois terminées ou en cas de délai d'attente dépassé.
- Où sont enregistrés les fichiers après leur téléchargement via l'API de fichiers compatible OpenAI ? Les fichiers sont téléchargés gratuitement dans votre bucket Model Studio. Consultez la section API File d'OpenAI pour interroger et gérer les fichiers.
-
Comment garantir que le modèle génère une chaîne JSON dans un format standard ?
qwen-longet tous ses instantanés prennent en charge la sortie structurée. Spécifiez un schéma JSON pour obtenir un JSON valide conforme à votre structure.
Référence de l'API
Reportez-vous aux détails de l'API Qwen pour connaître les paramètres d'entrée et de sortie du modèle Qwen-Long.
Codes d'erreur
Si l'appel du modèle échoue et renvoie un message d'erreur, consultez la section Codes d'erreur pour résoudre le problème.
Limites
-
Dépendances du SDK :
- Les opérations sur les fichiers (téléchargement, suppression, requête) nécessitent un SDK compatible OpenAI.
- Appelez les modèles à l'aide d'un SDK compatible OpenAI ou du SDK Dashscope.
-
Téléchargement de fichiers :
- Formats pris en charge : TXT, DOCX, PDF, XLSX, EPUB, MOBI, MD, CSV, JSON, BMP, PNG, JPG/JPEG et GIF.
- Taille des fichiers : la taille maximale des fichiers image est de 20 Mo. Pour les autres formats de fichiers, elle est de 150 Mo.
- Quota du compte : maximum 10 000 fichiers ou 100 Go par compte. Les téléchargements échouent lorsque l'une de ces limites est atteinte. Supprimez des fichiers pour libérer du quota. Consultez la section Compatible OpenAI - Fichier.
- Durée de conservation : actuellement, aucune limite d'expiration n'est imposée aux fichiers stockés.
-
Entrées de l'API :
- Le premier message
systemdéfinit le rôle. Le second contient le contenu du document oufileid://xxx. Le messageusercontient la requête. - Lorsque vous référencez des fichiers à l'aide d'un
file-id, une seule requête peut référencer jusqu'à 100 fichiers. - En présence d'un second message
system, la limite du messageuserest de 9 000 tokens. Aucune limite ne s'applique s'il n'y a qu'un seul message système. - La longueur totale du contexte est limitée à 10 millions de tokens.
- Le premier message
-
Sorties de l'API :
- La longueur de sortie maximale est de 32 768 tokens.
-
Partage de fichiers :
- Les
file-idsont spécifiques à un compte et ne peuvent pas être utilisés entre comptes ni avec des clés API d'utilisateurs RAM.
- Les
- Limitation du débit : pour plus d'informations sur les conditions de limitation du débit des modèles, consultez la section Limitation du débit.