Skip to main content
Geração de texto

Modo parcial

Em cenários como conclusão de código e continuação de texto, é possível gerar novo conteúdo a partir de um fragmento de texto existente (prefixo). O Modo Parcial garante que a saída do modelo se conecte perfeitamente ao seu prefixo, proporcionando maior precisão e controle.

Como funciona

Para usar o Modo Parcial, configure o array messages. Na última mensagem do array, defina o role como assistant e forneça o prefixo no campo content. Também é necessário definir o parâmetro "partial": true nessa mensagem. O formato de messages é o seguinte:
[
    {
        "role": "user",
        "content": "Complete this Fibonacci function. Do not add anything else."
    },
    {
        "role": "assistant",
        "content": "def calculate_fibonacci(n):\n    if n <= 1:\n        return n\n    else:\n",
        "partial": true
    }
]
O modelo começa então a gerar texto a partir do prefixo especificado.

Modelos suportados

  • Modelos de geração de texto
    • Qwen-Max (modo sem raciocínio): séries Qwen3.7-Max, Qwen3.6-Max, Qwen3-Max, Qwen-Max
    • Qwen-Plus (modo sem raciocínio): séries Qwen3.7-Plus, Qwen3.6-Plus, Qwen3.5-Plus, Qwen-Plus
    • Qwen-Flash (modo sem raciocínio): séries Qwen3.7-Flash, Qwen3.6-Flash, Qwen3.5-Flash, Qwen-Flash
    • Qwen-Coder: séries Qwen3-Coder, Qwen2.5-Coder
    • Qwen-Turbo (modo sem raciocínio): série Qwen-Turbo
    • Série open source Qwen3.6 (modo sem raciocínio)
    • Série open source Qwen3.5 (modo sem raciocínio)
    • Série open source Qwen3 (modo sem raciocínio)
    • Série open source Qwen2.5
  • Modelos multimodais
    • Qwen-VL: séries Qwen3-VL-Plus, Qwen3-VL-Flash, Qwen-VL-Max, Qwen-VL-Plus
    • Série open source Qwen3-VL (modo sem raciocínio)

Primeiros passos

Pré-requisitos

Antes de começar, get an API key e set the API key as an environment variable. Se você chamar o service usando o OpenAI SDK ou DashScope SDK, será necessário install the SDK. Caso seja membro de um sub-workspace, verifique se o superadministrador já granted model access to your workspace.
O DashScope Java SDK não é suportado.

Código de exemplo

A conclusão de código é o principal caso de uso do Modo Parcial. O exemplo a seguir mostra como concluir uma função Python.
  • OpenAI compatible
  • DashScope
  • Python
  • Node.js
  • curl
import os
from openai import OpenAI

# 1. Initialize the client
client = OpenAI(
    # API keys differ by region. Get your API key: https://www.alibabacloud.com/help/en/model-studio/get-api-key
    # If not set in environment, replace here with your API key
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # The following URL is for the Singapore region. Replace {WorkspaceId} with your actual workspace ID. URLs vary by region.
    # For Beijing region use: https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1
    base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1",
)
# 2. Define the code prefix to complete
prefix = """def calculate_fibonacci(n):
    if n <= 1:
        return n
    else:
"""

# 3. Make a Partial Mode request
# Note: The last message in the messages array must have role "assistant" and include "partial": True
completion = client.chat.completions.create(
    model="qwen3.8-max",
    messages=[
        {"role": "user", "content": "Complete this Fibonacci function. Do not add anything else."},
        {"role": "assistant", "content": prefix, "partial": True},
    ],
)

# 4. Manually join the prefix and the model's generated content
generated_code = completion.choices[0].message.content
complete_code = prefix + generated_code

print(complete_code)

Resposta

def calculate_fibonacci(n):
    if n <= 1:
        return n
    else:
        return calculate_fibonacci(n-1) + calculate_fibonacci(n-2)

Casos de uso

Passar imagens ou vídeos

Os modelos Qwen-VL suportam o Modo Parcial com dados de imagem ou vídeo, o que é útil para cenários como descrições de produtos, publicações em redes sociais, artigos de notícias e redação criativa.
  • OpenAI compatible
  • DashScope
  • Python
  • Node.js
  • curl
import os
from openai import OpenAI

client = OpenAI(
    # If not set in environment, replace the next line with: api_key="sk-xxx",
    # API keys differ by region. Get your API key: https://www.alibabacloud.com/help/en/model-studio/get-api-key
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # The following URL is for the Singapore region. Replace {WorkspaceId} with your actual workspace ID. URLs vary by region.
    # For Beijing region use: https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1
    base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1"
)

completion = client.chat.completions.create(
    model="qwen3-vl-plus",
    messages=[
        {
            "role": "user",
            "content": [
                {
                    "type": "image_url",
                    "image_url": {
                        "url": "https://img.alicdn.com/imgextra/i3/O1CN01zFX2Bs1Q0f9pESgPC_!!6000000001914-2-tps-450-450.png"
                    },
                },
                {"type": "text", "text": "I want to post this on social media. Help me write a caption."},
            ],
        },
        {
            "role": "assistant",
            "content": "Today I discovered a hidden-gem café",
            "partial": True,
        },
    ],
)
print(completion.choices[0].message.content)

Resposta

— the tiramisu here is pure bliss! Every bite delivers perfect harmony between coffee and cream. Pure joy! #FoodShare #Tiramisu #CoffeeTime

Hope you like this caption! Let me know if you need any changes.

Continuar a partir de uma saída incompleta

Se o valor de max_tokens for muito pequeno, o LLM poderá retornar conteúdo incompleto. Utilize o Modo Parcial para continuar a partir desse ponto e assegurar que a saída seja semanticamente completa.
  • OpenAI compatible
  • DashScope
  • Python
  • Node.js
import os
from openai import OpenAI

client = OpenAI(
    # API keys differ by region. Get your API key: https://www.alibabacloud.com/help/en/model-studio/get-api-key
    # If not set in environment, replace here with your API key
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # The following URL is for the Singapore region. Replace {WorkspaceId} with your actual workspace ID. URLs vary by region.
    # For Beijing region use: https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1
    base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1",
)

def chat_completion(messages,max_tokens=None):
    response = client.chat.completions.create(
        model="qwen-plus",
        messages=messages,
        max_tokens=max_tokens
    )
    print(f"### Reason generation stopped: {response.choices[0].finish_reason}")

    return response.choices[0].message.content

# Example usage
messages = [{"role": "user", "content": "Write a short sci-fi story"}]

# First call with max_tokens set to 40
first_content = chat_completion(messages, max_tokens=40)
print(first_content)
# Add the first response as an assistant message and set partial=True
messages.append({"role": "assistant", "content": first_content, "partial": True})

# Second call
second_content = chat_completion(messages)
print("### Complete content:")
print(first_content+second_content)

Resposta

length: O limite de max_tokens foi atingido. stop: O modelo finalizou naturalmente ou encontrou uma palavra de parada do parâmetro stop.
### Reason generation stopped: length
**"The End of Memory"**

In the distant future, Earth is no longer fit for human life. The atmosphere is polluted, oceans are dry, and cities lie in ruins. Humans migrated to a habitable planet named "Eden," with blue skies, fresh air, and endless resources.

However, Eden is not a true paradise. It holds no human history, no past, and no memory.

...
**"If we forget who we are, are we still human?"**

— End —

Faturamento

O faturamento cobre tokens de entrada e saída. O prefixo conta como parte dos tokens de entrada.

Códigos de erro

Se a chamada do modelo falhar e retornar uma mensagem de erro, consulte Error codes para resolução.
Plano de Tokens
Playground de Modelos
Inferência do Modelo
Avaliação
Compressão de Modelos
Estatísticas e Monitoramento
Suporte