Skip to main content
Prompt

Otimize as saídas do modelo com uma biblioteca de amostras de prompt

Modelos de uso geral podem ter dificuldade em fornecer respostas precisas e formatadas para tarefas especializadas. Com o aprendizado few-shot, recupere exemplos relevantes de pares de perguntas e respostas predefinidos e de alta qualidade para orientar o modelo a gerar respostas mais precisas e consistentes. Utilize este recurso quando as respostas precisarem seguir um estilo rigoroso, como em atendimento ao cliente, perguntas e respostas específicas de domínio e geração de conteúdo formatado.

Demonstração

Conteúdo da biblioteca de amostras:

Entrada do usuário

Saída do modelo

Explique o termo: API (Application Programming Interface)

Explicação: Uma API é uma especificação de interface que define como os componentes de software interagem. Ela permite que diferentes aplicativos troquem dados e chamem funções por meio de regras e protocolos predefinidos. Analogia: Imagine o cardápio de um restaurante. O cardápio (API) lista os pratos (recursos) que você pode pedir e como pedi-los (formato da solicitação). A cozinha (serviço) prepara a comida (resposta) com base nos requisitos do cardápio. Você não precisa saber como a cozinha funciona internamente.

Explique o termo: Blockchain

Explicação: Blockchain é uma tecnologia de livro-razão digital distribuído e descentralizado. Ela registra dados de transações em uma cadeia crescente de "blocos" vinculados criptograficamente. Isso torna os dados difíceis de adulterar e melhora a transparência e a segurança. Analogia: Pense em um livro-razão bancário mantido coletivamente por muitas pessoas, todas com acesso à visualização. Cada nova transação é registrada como uma nova entrada e bloqueada com uma senha. Após a gravação nesse livro-razão, torna-se muito difícil alguém modificá-lo secretamente.

Explique o termo: Emaranhamento Quântico

Explicação: O emaranhamento quântico é um fenômeno estranho da mecânica quântica. Quando duas ou mais partículas estão ligadas, seus estados são interdependentes. Independentemente da distância entre elas, medir o estado de uma partícula afeta instantaneamente o estado da outra. Analogia: Imagine que você tem um par de luvas mágicas. Ao colocar a luva da mão esquerda, a outra luva se torna instantaneamente a luva da mão direita, não importa onde esteja. Seus estados são vinculados instantaneamente.

Com essa biblioteca de amostras, o modelo segue a estrutura e o estilo de analogia dos exemplos. Comparação:

Sem a biblioteca de amostras de prompt

image

Usando a biblioteca de amostras de prompt

image

Crie e use uma biblioteca de amostras de prompt

1. Crie uma biblioteca de amostras de prompt

  1. Acesse a página Sample Library. Clique em Create Sample Library (primeira biblioteca) ou no ícone image para criar uma.
    image
  2. Insira um nome e selecione um método de importação: Manual Input ou Batch Import.
    • Entrada manual
    • Importação em lote
    Insira a entrada do usuário e a saída do modelo. Clique em Add Sample para adicionar mais amostras.
    image

2. Usar a biblioteca de amostras em um aplicativo de agente

Associe a biblioteca de amostras a um aplicativo de agente para ativá-la.
  1. Certifique-se de ter um aplicativo de agente.
  2. Acesse a página Application Management. Localize o aplicativo de agente desejado e clique em Configure no cartão do aplicativo.
  3. Ative a chave Sample Library. Adicione uma biblioteca de amostras e selecione aquela que você criou. Um aplicativo suporta até 5 bibliotecas usando recuperação multicanal.
    Recuperação multicanal: O sistema recupera amostras de todas as bibliotecas, classifica-as e seleciona as K mais relevantes (configurável) para injetar no contexto.
    Não é possível definir manualmente a ordem de recuperação.
  4. Opcional: Clique em Configure para ajustar os segmentos recuperados. Padrão: 5, máximo: 10.
  5. Clique em Publish para publicar o aplicativo e aplicar a configuração.

3. Testar e validar

  • Depuração no console
  • Chamadas de API
Na interface de depuração, insira uma consulta relacionada à amostra, por exemplo, Explain the term: Neural Network.
image
Clique em Prompt Sample Retrieval para visualizar a entrada e a saída da recuperação.
image

Gerencie bibliotecas de amostras e amostras

Gerencie bibliotecas de amostras

image
  • Adicionar: Clique no ícone image ao lado de Sample Library Management para criar uma biblioteca.
  • Excluir: Passe o mouse sobre a biblioteca de amostras desejada e clique no ícone image para excluí-la.
    Não é possível excluir bibliotecas referenciadas por aplicativos. Para excluir, remova a referência na configuração do aplicativo em Application Management .
  • Renomear: Passe o mouse sobre a biblioteca de amostras desejada e clique no ícone image.

Gerencie amostras

Selecione uma biblioteca de amostras:
  • Adicionar: Clique em Enrich Sample ou Import Data para adicionar amostras.
  • Excluir: Na coluna Actions da amostra desejada, clique em Delete.
  • Modificar: Na coluna Actions da amostra que deseja alterar, clique em Modify. Modifique o conteúdo de User Input ou Model Output e clique em Save.

Limites

  • Capacidade da biblioteca de amostras: Cada biblioteca de amostras pode conter até 300 amostras.
    Esse limite equilibra desempenho e precisão. Bibliotecas grandes aumentam a latência. Divida as amostras que excederem 300 em várias bibliotecas por tópico (por exemplo, "Recursos do Produto", "Política de Pós-Venda").
  • Limite de associação de aplicativos: Cada aplicativo de agente pode ser associado a até 5 bibliotecas de amostras.
    O sistema recupera dados de todas as bibliotecas em paralelo.
  • Limite de segmentos recuperados: Uma única solicitação pode recuperar até 10 segmentos de amostra para injetar no contexto.
    Ajuste esse valor na configuração do aplicativo para controlar o tamanho do contexto e equilibrar o desempenho com os custos de token.
  • Limite de importação de arquivos: Para importações em lote, este recurso suporta arquivos Excel de até 20 MB. É possível importar até 100 amostras por vez.

Faturamento

O recurso de biblioteca de amostras de prompt não gera taxas de armazenamento ou gerenciamento. No entanto, ativar esse recurso aumenta o consumo de tokens nas chamadas do modelo, afetando os custos. Os tokens adicionais vêm das amostras recuperadas injetadas no contexto. Fórmula de estimativa de custo: Total de Tokens de Entrada ≈ Tokens da Consulta do Usuário + Total de Tokens de Todas as Amostras Recuperadas + Tokens de Instrução do Sistema

Perguntas frequentes

  • Qual é a relação entre uma biblioteca de amostras e uma amostra? Uma biblioteca de amostras contém até 300 amostras (cada uma composta por: entrada do usuário + saída do modelo). As bibliotecas organizam as amostras; você pode criar várias com nomes diferentes para os aplicativos.