Skip to main content

Overview

Un modèle de génération de texte produit du contenu à partir d'invites en langage naturel pour des applications telles que les chatbots, la création de contenu, la synthèse de documents et la génération de code.

L'entrée peut varier d'un simple mot-clé à des invites complexes et contextuelles en plusieurs étapes. Voici quelques cas d'utilisation courants :
  • Création de contenu : Générez des articles d'actualité, des descriptions de produits et des scripts pour vidéos courtes.
  • Service client : Développez des chatbots automatisés disponibles 24h/24 et 7j/7 pour répondre aux questions fréquentes.
  • Traduction de texte : Traduisez du texte entre plusieurs langues.
  • Synthèse : Résumez des articles longs, des rapports et des e-mails.
  • Rédaction de documents juridiques : Élaborez des modèles de contrats et des avis juridiques.

Concepts clés

L'entrée d'un modèle de génération de texte est une invite, composée d'un ou plusieurs objets message contenant chacun un rôle et un contenu :
  • Message système : Définit la personnalité du modèle, les lignes directrices comportementales ou les instructions spécifiques à la tâche. La valeur par défaut est « You are a helpful assistant. » (Vous êtes un assistant utile).
  • Message utilisateur : La question, l'instruction ou l'entrée fournie par l'utilisateur au modèle.
  • Message assistant : La réponse du modèle. Dans le cadre d'une conversation multi-tours, transmettez les messages historiques de l'assistant pour maintenir le contexte.
Pour appeler le modèle, construisez un tableau de ces objets message nommé messages. Une requête typique comprend un message system qui définit les lignes directrices comportementales et un message user contenant l'entrée de l'utilisateur.
Le message system est facultatif mais recommandé. Définir le rôle du modèle et ses contraintes comportementales permet d'obtenir des résultats plus cohérents et prévisibles.
[
    {"role": "system", "content": "You are a helpful assistant who provides precise, efficient, and insightful responses, ready to assist users with various tasks and questions."},
    {"role": "user", "content": "Who are you?"}
]
La réponse contient la réplique du modèle dans un message assistant.
{
    "role": "assistant",
    "content": "Hello! I am Qwen, a large-scale language model developed by Tongyi Lab at Alibaba Group. I can help you with tasks like answering questions, creating text, logical reasoning, and coding. I understand and generate multiple languages, and can handle multi-turn conversations and complex instructions. If there is anything you need help with, just let me know!"
}

Démarrage rapide

Prérequis : Obtenir une clé API et Configurer la clé API comme variable d'environnement. Si vous utilisez un SDK, installez également le SDK OpenAI ou DashScope. Le paramètre {WorkspaceId} dans les URL de base de l'exemple correspond à votre ID d'espace de travail. Pour savoir comment l'obtenir, consultez Régions et domaines d'accès.
  • API Chat Completions compatible avec OpenAI
  • OpenAI-Compatible Responses API
  • DashScope
  • Python
  • Java
  • Node.js
  • Go
  • C# (HTTP)
  • PHP (HTTP)
  • curl
import os
from openai import OpenAI

try:
    client = OpenAI(
        # API keys vary by region. To obtain an API key, see https://www.alibabacloud.com/help/en/model-studio/get-api-key
        # If you haven't set the environment variable, replace the following line with your Alibaba Cloud Model Studio API key: api_key="sk-xxx",
        api_key=os.getenv("DASHSCOPE_API_KEY"),
        # Endpoint for the Asia Pacific SE 1 (Chine (Pékin)) region. Replace {WorkspaceId} with your Workspace ID. URLs vary by region.
        base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1",
    )

    completion = client.chat.completions.create(
        model="qwen4-max",
        messages=[
            {"role": "system", "content": "You are a helpful assistant."},
            {"role": "user", "content": "Who are you?"},
        ],
    )
    print(completion.choices[0].message.content)
    # To view the full response, uncomment the following line.
    # print(completion.model_dump_json())
except Exception as e:
    print(f"Error message: {e}")
    print("For more information, see the documentation: https://www.alibabacloud.com/help/en/model-studio/error-code")

Réponse

I am Qwen, a large-scale language model developed by Tongyi Lab at Alibaba Group. I can help you answer questions and create content, such as writing stories, official documents, emails, and scripts. I can also do logical reasoning, program, share opinions, play games, and more. If you have any questions or need help, feel free to ask!

Traitement des données d'image et vidéo

Les modèles multimodaux traitent les données non textuelles (images, vidéos) pour des tâches telles que la réponse aux questions visuelles et la détection d'événements. Ils diffèrent des modèles textuels sur deux points :
  • Construction du message utilisateur : Les messages utilisateur multimodaux incluent du texte et des données non textuelles, telles que des images et de l'audio.
  • Interfaces du SDK DashScope : Utilisez l'interface MultiModalConversation pour le SDK Python DashScope, et la classe MultiModalConversation pour le SDK Java DashScope.
Pour connaître les limitations relatives aux fichiers image et vidéo, consultez la rubrique Compréhension des images et des vidéos .
  • Complétions de chat compatibles avec OpenAI
  • DashScope
  • Python
  • Node.js
  • curl
from openai import OpenAI
import os

client = OpenAI(
    # API keys vary by region. To get an API key: https://www.alibabacloud.com/help/en/model-studio/get-api-key
    # If the environment variable is not set, provide your Model Studio API key directly, for example: api_key="sk-xxx"
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # The endpoint URL varies by region. Modify it for your region.
    base_url="https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1"
)
messages = [
    {
        "role": "user",
        "content": [
                {
                    "type": "image_url",
                    "image_url": {
                        "url": "https://help-static-aliyun-doc.aliyuncs.com/file-manage-files/zh-CN/20251031/ownrof/f26d201b1e3f4e62ab4a1fc82dd5c9bb.png"
                    },
                },
            {"type": "text", "text": "What products are shown in the image?"},
        ],
    }
]
completion = client.chat.completions.create(
    model="qwen3.6-plus",
    messages=messages,
)
print(completion.choices[0].message.content)
from openai import OpenAI
import os

client = OpenAI(
    # API keys vary by region. To get an API key: https://www.alibabacloud.com/help/en/model-studio/get-api-key
    # If the environment variable is not set, provide your Model Studio API key directly, for example: api_key="sk-xxx"
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # This is the endpoint for the Singapore region. Replace {WorkspaceId} with your WorkspaceId. Endpoints vary by region.
    base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1"
)
messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "image_url",
                "image_url": {
                    "url": "https://help-static-aliyun-doc.aliyuncs.com/file-manage-files/zh-CN/20251031/ownrof/f26d201b1e3f4e62ab4a1fc82dd5c9bb.png"
                },
            },
            {"type": "text", "text": "What products are shown in the image?"},
        ],
    }
]
completion = client.chat.completions.create(
    model="qwen3.6-plus",
    messages=messages,
)
print(completion.choices[0].message.content)

Appels asynchrones

Les appels asynchrones améliorent le débit pour les charges de travail à forte concurrence.
  • OpenAI-compatible chat completions API
  • DashScope
Python
import os
import asyncio
from openai import AsyncOpenAI
import platform

# Create an asynchronous client instance.
client = AsyncOpenAI(
    # API keys vary by region. To get an API key, see https://www.alibabacloud.com/help/en/model-studio/get-api-key
    # If you have not set the environment variable, replace the following line with your Model Studio API key: api_key="sk-xxx",
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # This is the URL for the Singapore region. Replace {WorkspaceId} with your workspace ID.
    base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1"
)

# Define an asynchronous task.
async def task(question):
    print(f"Sending question: {question}")
    response = await client.chat.completions.create(
        messages=[
            {"role": "user", "content": question}
        ],
        model="qwen-plus",  # For a list of models, see https://www.alibabacloud.com/help/en/model-studio/getting-started/models
    )
    print(f"Model response: {response.choices[0].message.content}")

# Main asynchronous function.
async def main():
    questions = ["Who are you?", "What can you do?", "What's the weather like?"]
    tasks = [task(q) for q in questions]
    await asyncio.gather(*tasks)

if __name__ == '__main__':
    # Set the event loop policy.
    if platform.system() == 'Windows':
        asyncio.set_event_loop_policy(asyncio.WindowsSelectorEventLoopPolicy())
    # Run the main coroutine.
    asyncio.run(main(), debug=False)
Exemple de réponse
Étant donné que les appels sont asynchrones, l'ordre des réponses peut différer de cet exemple.
Sending question: Who are you?
Sending question: What can you do?
Sending question: What's the weather like?
Model response: Hello! I'm Qwen, a large-scale language model developed by Tongyi Lab at Alibaba Group. I can help you answer questions and create content, such as writing stories, official documents, emails, and scripts. I can also do logical reasoning, programming, share opinions, play games, and more. If you have any questions or need help, feel free to ask!
Model response: Hello! I am currently unable to access real-time weather information. You can tell me your city or region, and I will do my best to provide you with general weather advice or information. Alternatively, you can use a weather app to check the real-time weather conditions.
Model response: I have many skills, for example:

1. Answering questions: Whether it's academic questions, general knowledge, or professional topics, I can try to help you find answers.
2. Creating text: I can write various types of text, such as stories, official documents, emails, and scripts.
3. Logical reasoning: I can help you solve logical reasoning problems, such as math problems and riddles.
4. Programming: I can provide programming assistance, including code writing, debugging, and optimization.
5. Multilingual support: I support multiple languages, including but not limited to Chinese, English, French, and Spanish.
6. Expressing opinions: I can offer you some perspectives and suggestions to help you make decisions.
7. Playing games: We can play text-based games together, such as riddles or idiom solitaire.

If you have any specific needs or questions, feel free to let me know, and I will do my best to help you!

Utilisation en production

Création d'un contexte de haute qualité

L'injection de grandes quantités de données brutes dans un modèle augmente les coûts et peut dégrader les performances en raison des limitations de la fenêtre de contexte. L'ingénierie du contexte, qui consiste à charger dynamiquement des connaissances précises, améliore la qualité et l'efficacité de la génération. Les techniques clés incluent :
  • prompt engineering : Concevez et optimisez les invites textuelles pour guider le modèle vers la sortie souhaitée. Pour plus d'informations, consultez le Guide des invites pour la génération de texte.
  • Retrieval-Augmented Generation (RAG) : Permet au modèle de répondre aux questions à partir d'une base de connaissances externe, telle que la documentation produit ou les manuels techniques.
  • tool calling : Récupère des informations en temps réel (météo, trafic) ou effectue des actions (appels API, envoi d'e-mails) pour le compte du modèle.
  • memory : Fournit une mémoire à long et à court terme afin que le modèle puisse se rappeler le contexte lors de conversations multi-tours.

Contrôle de la diversité des réponses

Les paramètres temperature et top_p contrôlent la diversité du texte généré. Des valeurs plus élevées augmentent la diversité ; des valeurs plus faibles augmentent le déterminisme. Pour isoler l'effet de chaque paramètre, ajustez-en un seul à la fois.
  • temperature : Plage : [0, 2). Ajuste principalement l'aléatoire.
  • top_p : Plage : [0, 1]. Filtre les réponses en fonction d'un seuil de probabilité.
Les exemples suivants montrent comment les paramètres affectent la sortie. Invite d'entrée : « Écrivez une nouvelle de trois phrases dont les personnages principaux sont un chat et un rayon de soleil. »
  • Diversité élevée (Exemple : temperature=0,9) : Idéal pour l'écriture créative, le brainstorming ou la rédaction marketing.
    Sunlight slanted across the windowsill, and the orange cat crept toward the bright patch as its fur turned the color of melted honey.
    It reached out and tapped the light, then sank into it as if stepping into a warm pool, and the sunlight flowed up its back in a quiet tide.
    The afternoon grew heavy—curled in drifting gold, the cat heard time melt softly inside its purr.
    
  • Déterminisme élevé (Exemple : temperature=0,1) : Idéal pour les questions factuelles, la génération de code ou les textes juridiques.
    In the afternoon, an old cat curled on the windowsill and dozed while counting the spots of light.
    Sunlight hopped across its mottled back, like turning the pages of an old photo album.
    Dust rose and fell, as if time whispered: you were once young, and I was once fierce.
    
temperature :
  • Une température plus élevée aplatit la distribution de probabilité des tokens, rendant les tokens moins probables plus fréquents et augmentant l'aléatoire de la sortie.
  • Une température plus faible accentue la distribution, rendant les tokens à haute probabilité encore plus probables et réduisant l'aléatoire de la sortie.
top_p :L'échantillonnage top_p (nucleus) sélectionne parmi le plus petit ensemble de tokens dont la probabilité cumulée atteint ou dépasse le seuil top_p. Les tokens sont triés par probabilité et accumulés jusqu'à ce que le seuil soit atteint, puis le token suivant est échantillonné aléatoirement dans cet ensemble réduit.
  • Un top_p plus élevé élargit le pool de sélection des tokens, produisant un texte plus diversifié.
  • Un top_p plus faible réduit le pool, produisant un texte plus ciblé et déterministe.
# Paramètres recommandés pour les scénarios courants
SCENARIO_CONFIGS = {
    # Écriture créative
    "creative_writing": {
        "temperature": 0.9,
        "top_p": 0.95
    },
    # Génération de code
    "code_generation": {
        "temperature": 0.2,
        "top_p": 0.8
    },
    # Questions-réponses factuelles
    "factual_qa": {
        "temperature": 0.1,
        "top_p": 0.7
    },
    # Traduction
    "translation": {
        "temperature": 0.3,
        "top_p": 0.8
    }
}

# Exemple OpenAI
# completion = client.chat.completions.create(
#     model="qwen-plus",
#     messages=[{"role": "user", "content": "Write a poem about the moon"}],
#     **SCENARIO_CONFIGS["creative_writing"]
# )
# Exemple DashScope
# response = client.chat.completions.create(
#     model="qwen-plus",
#     messages=[{"role": "user", "content": "Write a Python function that determines whether the input n is a prime number. Output code only."}],
#     **SCENARIO_CONFIGS["code_generation"]
# )

Autres fonctionnalités

Pour des scénarios plus complexes, les fonctionnalités suivantes sont disponibles :
  • conversation multi-tours : Pour une interaction continue, telle que les questions de suivi ou la collecte d'informations.
  • sortie en streaming : Renvoie les tokens progressivement au fur et à mesure de leur génération, évitant les délais d'expiration pour les chatbots et la génération de code en temps réel.
  • réflexion approfondie : Produit des réponses de meilleure qualité et plus structurées pour le raisonnement complexe ou l'analyse stratégique.
  • sortie structurée : Contraint les réponses à un format JSON cohérent pour une utilisation programmatique et l'analyse des données.
  • complétion par préfixe : Poursuit la génération à partir d'un texte existant, utile pour la complétion de code ou l'écriture de longs documents.

Référence API

Pour tous les paramètres, consultez la référence de l'API compatible OpenAI et la référence de l'API DashScope.

FAQ

Q : Pourquoi le nombre de tokens d'entrée est-il supérieur au nombre de tokens du texte que j'ai envoyé ?

R : Lors du traitement d'une conversation, le système utilise un modèle de chat (Chat Template) pour envelopper le texte d'entrée brut, en ajoutant des marqueurs de contrôle tels que les identifiants de rôle et les délimiteurs de message. Ces marqueurs générés par le système sont également comptés comme des tokens. Par exemple, lorsque vous envoyez le message {"role": "user", "content": "Hi"} à qwen3.8-max, le texte « Hi » correspond à seulement 1 token après tokenisation. Cependant, lors du traitement système, le texte d'entrée complet réel est formaté comme suit : <|im_start|>user\nHi<|im_end|>\n<|im_start|>assistant\n<think>. Après tokenisation, ce texte complet porte le nombre total de tokens d'entrée à 11.

Q : Pourquoi l'API Qianwen ne peut-elle pas analyser les liens de pages web ?

R : L'API Qianwen ne peut pas accéder directement au contenu des pages web. Utilisez plutôt le function calling, ou un outil de scraping web comme Beautiful Soup de Python pour extraire le contenu et le transmettre au modèle.

Q : Différences de réponse :Qianwen (Web) vs. API Qianwen

R : Qianwen (Web) ajoute des fonctionnalités par-dessus l'API Qianwen, notamment l'analyse de pages web, la recherche web, la création d'images et la génération de présentations PowerPoint. Ces fonctionnalités ne sont pas incluses dans l'API de base, mais vous pouvez construire des fonctionnalités similaires en utilisant , le function calling.

Q : Génération de fichiers Word, Excel, PDF ou PPT

R : Non. Les modèles de génération de texte ne produisent que du texte brut. Convertissez la sortie au format souhaité en utilisant votre propre code ou des bibliothèques tierces .