Los modelos de lenguaje grandes (LLM) no pueden responder preguntas sobre datos privados. La herramienta de recuperación de conocimientos recupera contenido de una base de conocimientos y lo proporciona al LLM. Esto permite que el modelo genere respuestas más precisas y relevantes.
Requisitos previos
- Obtenga una clave de API y configúrela como variable de entorno.
-
Cree una base de conocimientos y obtenga su ID. Puede crear una base de conocimientos de una de las siguientes maneras:
- Crear en la consola: Cree una base de conocimientos en la página de bases de conocimientos en la consola de Model Studio. Para más información, consulte Crear y utilizar una base de conocimientos.
-
Crear mediante la API: Puede invocar la API a través del kit de desarrollo de software (SDK) de Alibaba Cloud Model Studio para crear una base de conocimientos. Para más información, consulte la Guía de la API de base de conocimientos.
Antes de crear una base de conocimientos mediante la API, obtenga el ID del espacio de trabajo (
workspace_id) desde la consola de Model Studio. Solo se admiten dos tipos de bases de conocimientos: búsqueda de documentos y consulta de datos. Estos tipos son adecuados para pares básicos de preguntas y respuestas de documentos y no admiten respuestas con texto enriquecido o imágenes.
Cómo usar
Puede invocar la función de recuperación de conocimientos a través de la Responses API agregando la herramienta file_search al parámetro tools y especificando el ID de la base de conocimientos en el parámetro vector_store_ids.
Antes de comenzar, cree y utilice una base de conocimientos y obtenga su ID. Actualmente, el parámetro vector_store_ids solo admite un ID de base de conocimientos.
Modelos admitidos
- Qwen-Max: serie Qwen3.8-Max y serie Qwen3.7-Max
- Qwen-Plus: serie Qwen3.7-Plus, serie Qwen3.6-Plus y serie Qwen3.5-Plus
- Qwen-Flash: serie Qwen3.7-Flash, serie Qwen3.6-Flash y serie Qwen3.5-Flash
- Serie de código abierto Qwen3.8
- Serie de código abierto Qwen3.6 (excepto qwen3.6-27b)
- Serie de código abierto Qwen3.5
Introducción
Ejecute el siguiente código para invocar la herramienta de recuperación de conocimientos a través de la Responses API. La herramienta recupera contenido relevante de la base de conocimientos especificada para generar una respuesta.
Reemplace vector_store_ids en el código de ejemplo con su ID de base de conocimientos.
Salida por secuencias
La herramienta de recuperación de conocimientos realiza una búsqueda semántica en la base de conocimientos, lo cual puede tardar algún tiempo en procesarse. Puede habilitar la salida en streaming para obtener resultados intermedios en tiempo real.
Parámetros
La herramienta file_search admite los siguientes parámetros:
| Parámetro | Obligatorio | Descripción |
|---|---|---|
type | Sí | Debe establecerse en "file_search". |
vector_store_ids | Sí | Una lista de IDs de bases de conocimientos. Actualmente, solo puede pasar un ID de base de conocimientos. Puede encontrar el ID de la base de conocimientos en la página de detalles de la base de conocimientos en la consola de Model Studio u obtenerlo al crear una base de conocimientos mediante la API.Asegúrese de pasar un ID de base de conocimientos válido. Si pasa una matriz vacía o un ID no válido, la herramienta de recuperación de conocimientos no funcionará. El modelo utilizará entonces su propio conocimiento para generar una respuesta y no devolverá un error. |
Facturación
La facturación implica los siguientes aspectos:
- Tarifas por llamada de modelo: El contenido recuperado de la base de conocimientos se agrega al prompt. Esto aumenta el número de tokens de entrada para el modelo. Se le cobra según los precios estándar del modelo. Para obtener detalles sobre los precios, consulte la consola de Model Studio.
- Tarifas por llamada de herramienta: La función de base de conocimientos es actualmente gratuita.