Describe las especificaciones de formato, los requisitos de empaquetado, los límites de tamaño y cantidad, y las cuotas de carga mediante API para los datos de ajuste fino de modelos de generación de texto, ayudando a los usuarios a construir y cargar datos de entrenamiento SFT/DPO/CPT compatibles según el método de entrenamiento.
Visión general
Este documento describe las especificaciones de formato, los requisitos de empaquetado, los límites de tamaño y cantidad, y las cuotas de carga mediante API para los datos de ajuste fino de modelos de generación de texto. El alcance cubre el ajuste fino de modelos de generación de texto (texto/imagen/video → texto), incluyendo SFT/DPO/CPT de texto plano, comprensión de imágenes y video Qwen VL, extracción de fotogramas de video, llamada de funciones y pensamiento. El ajuste fino de modelos de generación de video (imagen → video) queda fuera del alcance.
El tipo de conjunto de datos (conjunto de entrenamiento o conjunto de evaluación) no se puede cambiar después de su creación. El soporte para cada método de entrenamiento y elemento se detalla en Matriz de soporte de métodos y elementos de entrenamiento. Las reglas de construcción de formato para cada combinación se describen en los capítulos correspondientes a continuación.
Las operaciones de gestión (parámetros de creación, gestión de versiones, reglas de gestión del conjunto de evaluación, selección del método de importación, limpieza de datos, seguridad y cumplimiento) se tratan en documentos relacionados; consulte Conjunto de entrenamiento y conjunto de evaluación, Introducción al ajuste fino de modelos, etc. Recomendamos descargar la plantilla de datos para el escenario correspondiente en la página de creación del conjunto de datos y preparar los datos según la estructura de la plantilla para evitar fallos de importación.
Para recomendaciones sobre la construcción del conjunto de datos (escala de datos recomendada, diversidad y equilibrio, estrategias de aumento de datos), consulte Introducción al ajuste fino de modelos - Consejos para la construcción del conjunto de datos.
Matriz de soporte de métodos y elementos de entrenamiento
El conjunto de entrenamiento admite tres métodos de entrenamiento: SFT, DPO y CPT. El estado de soporte de cada método de entrenamiento y elemento se muestra en la tabla matricial a continuación. El orden de ajuste fino recomendado es CPT (opcional) → SFT → DPO (opcional); los tres son progresivos, no mutuamente excluyentes.
Disponibilidad por región:
- SFT, la carga local, el retorno de registros, la carga mediante API y los formatos de datos multimodales son compatibles en todas las regiones.
- DPO, CPT, la importación de OSS y el montaje de almacenamiento en la nube solo son compatibles en la región de Beijing.
Método de entrenamiento | Generación de texto | Comprensión visual - Entrada de imagen | Comprensión visual - Entrada de video (qwen3.5+) | Comprensión visual - Llamada a herramientas (qwen3.5+) | Pensamiento profundo |
|---|---|---|---|---|---|
✓ | ✓ | ✓ | ✓ | ✓ | |
✓ | ✗ | ✗ | ✗ | ✓ | |
✓ | ✗ | ✗ | ✗ | ✗ | |
✓ | ✗ | ✗ | ✗ | ✗ |
Generación de texto - Formato SFT
Los datos de entrenamiento de generación de texto SFT utilizan el formato de archivo jsonl, basado en la estructura multiturno messages de ChatML.
- Admite tres roles: system, user y assistant. El campo content es una cadena (para la estructura de matriz de contenido en escenarios multimodales, consulte el capítulo de formato multimodal correspondiente).
- El tamaño máximo de un archivo individual es de 200 MB.
- Un conjunto de datos puede mezclar filas de diferentes formatos: cada registro selecciona un formato de forma independiente, sin necesidad de unificarlos en un solo formato.
- Formatos disponibles: diálogo estándar, pensamiento profundo, llamada de funciones y llamada de funciones combinada con pensamiento (consulte las pestañas de ejemplos a continuación).
- ChatML estándar
- Pensamiento profundo (thinking)
- Llamada a funciones
Uso avanzado
-
Se admite el parámetro
loss_weight, con un rango de valores de(0.0, 1.0]; cuanto mayor sea el valor, mayor será la importancia de este registro durante el entrenamiento.Compatible de forma predeterminada en Qwen3.5 y modelos posteriores; para habilitar el soporte en los modelos de las series Qwen3 y Qwen2.5, contacte a su gerente de cuenta.
Reglas de etiquetas de pensamiento
El contenido de pensamiento se envuelve en etiquetas <think>\n…\n</think>\n\n y se coloca dentro del texto de salida del asistente (compartiendo el mismo último contenido del asistente que la respuesta final). Reglas:
- Solo se puede colocar en la última salida de assistant; las salidas intermedias de assistant no deben incluir etiquetas de pensamiento.
- Se deben conservar los saltos de línea antes y después de la etiqueta de pensamiento.
- Si una muestra de entrenamiento está configurada para que el modelo no genere etiquetas de pensamiento, no se recomienda volver a habilitar el modo de pensamiento al llamar al modelo después del entrenamiento.
Formato del conjunto de evaluación
El conjunto de evaluación solo sirve para escenarios de generación de texto y es independiente del método de entrenamiento SFT/DPO/CPT: los modelos entrenados con DPO/CPT también utilizan el conjunto de evaluación de generación de texto para su evaluación, sin distinción por método de entrenamiento.
Los conjuntos de evaluación admiten dos formatos de muestra, que se seleccionan en el escenario de entrenamiento del formato de datos al crear el conjunto de datos:
- Generación de texto (prompt&completion): formato de una sola vuelta. Cada muestra consta de un Prompt (pregunta del usuario) y una Completion (respuesta de referencia). La carga local solo admite archivos xls y xlsx (hasta 20 MB por archivo); la estructura de columnas se puede consultar en la plantilla de datos proporcionada por la consola.
- Generación de texto (ChatML-messages): formato de conversación multivuelta. Cada muestra es un array de messages compuesto por mensajes de los roles system, user y assistant, y la respuesta de referencia es el último mensaje de assistant en messages. La carga local admite archivos jsonl, xls y xlsx (hasta 200 MB por archivo); se puede descargar un archivo de muestra al crear el conjunto de datos.
- messages: el array de mensajes. El mensaje de system es opcional y se coloca en primer lugar; los mensajes de user y assistant se alternan; en las conversaciones multivuelta se siguen añadiendo pares de mensajes user/assistant, y el último mensaje de assistant es la respuesta de referencia de la muestra.
- El content de un mensaje de assistant puede contener contenido de pensamiento del modelo: el texto de pensamiento se coloca antes de la respuesta y se separa con el marcador
</think>(se utiliza al evaluar modelos de razonamiento). - extra: un campo de extensión personalizado opcional que admite tipos como objetos, arrays y valores numéricos, que puede utilizar para adjuntar datos personalizados a las muestras según las necesidades del negocio.
- Métodos de ingesta: carga local y retorno de registros; no se admiten la importación de Object Storage Service (OSS) ni el montaje de almacenamiento en la nube.
- Solo las versiones en borrador creadas previamente admiten la edición en línea (Prompt/Completion); las versiones publicadas no se pueden editar.
- En los conjuntos de datos ChatML, la vista previa del archivo en la página de detalles del conjunto de datos muestra el contenido completo de messages de cada muestra jsonl.
- El rango de registros admitido abarca los últimos 30 días.
- Máximo de 100,000 registros por importación.
- Debe autorizar el rol vinculado al servicio y especificar la API Key y las condiciones de filtro del modelo.
- El conjunto de entrenamiento solo está disponible para escenarios de generación de texto SFT (también se admite el conjunto de evaluación de generación de texto).
Generación de texto - Formato DPO
Los datos de entrenamiento de generación de texto DPO utilizan el formato jsonl. Basándose en la estructura multiturno messages de ChatML, contiene adicionalmente dos salidas de assistant contrastantes, chosen y rejected, para el entrenamiento de alineación de preferencias. Todo el contenido dentro de messages se utiliza como entrada, y DPO se usa para entrenar la retroalimentación positiva/negativa del modelo sobre la última entrada del usuario. Para las reglas de la estructura multiturno de messages, consulte Generación de texto - Formato SFT.
Para el contenido de pensamiento profundo, la salida de assistant elegida o rechazada puede envolverse con etiquetas de pensamiento. La etiqueta de pensamiento solo puede colocarse en la última línea de assistant. Para las reglas, consulte Generación de texto - Formato SFT.
El parámetro loss_weight (solo por invitación) admite el módulo chosen. El rango de valores es de 0.0 a 1.0; cuanto mayor sea el valor, mayor será la importancia del entrenamiento. Para más detalles, consulte Generación de texto - Formato SFT.
El límite de tamaño de archivo individual para los datos de entrenamiento DPO es de 200 MB, consistente con la generación de texto SFT. Para la definición de DPO, consulte Introducción al ajuste fino de modelos. Para la gestión de versiones y las operaciones de publicación, consulte Conjunto de entrenamiento y conjunto de evaluación.
Consulte el bloque de código a continuación para ver una muestra de datos de entrenamiento de generación de texto DPO:
- ChatML estándar
- Pensamiento profundo (thinking)
Generación de texto - Formato CPT
Los datos de entrenamiento de generación de texto CPT utilizan el formato de texto plano jsonl, con un objeto jsonl por línea, estructurado como {text}, donde el campo text es contenido de texto plano. Para las reglas de la estructura multiturno de messages, consulte Generación de texto - Formato SFT.
Restricciones de datos de entrenamiento CPT:
- Se recomienda un mínimo de 50 millones de Tokens, y el límite de tamaño de archivo individual es de 300 MB.
Comprensión visual - Formato SFT
Los datos de entrenamiento de imágenes SFT se utilizan para la comprensión multimodal Qwen VL (la opción de la interfaz de la consola es "Image Understanding"). Utilizan un formato de paquete zip que contiene un archivo de datos de texto de entrenamiento data.jsonl y archivos de imagen. data.jsonl debe colocarse en la raíz del paquete. Los messages de cada registro de entrenamiento en data.jsonl adoptan una estructura de matriz content, cuyos elementos contienen un campo de imagen (image) y un campo de texto (text). Se recomienda una estructura de directorios de una sola capa. Para las reglas de empaquetado, consulte Reglas de empaquetado de paquetes zip multimodales.
- Límites de entrada de imagen
- Límites de entrada de video
- El ancho y el alto de una sola imagen no deben exceder 1024 px.
- Una sola imagen no debe exceder 10 MB.
- Formatos admitidos: bmp, jpeg, jpg, png, tif, tiff, webp.
- ChatML estándar
- Pensamiento (thinking)
- Llamada a funciones (function calling)
- Entrada de imagen
- Modo de ruta de archivo de video
- Modo de lista de fotogramas de imagen
Reglas del formato de llamada a funciones
El modo de llamada de funciones agrega definiciones de tools y el mecanismo tool_calls/role:tool sobre la estructura de mensajes multiturno. Las restricciones de campos son las siguientes:
- tools: matriz de definiciones de herramientas; cada elemento contiene type:"function" y function{name, description, parameters}; parameters es un JSON Schema (que contiene type/properties/required).
- messages: matriz de diálogo multiturno; los roles incluyen user, assistant y tool.
- content: matriz de contenido multimodal; puede contener elementos de imagen, texto, video y otros (consistente con el formato de comprensión multimodal).
- assistant.tool_calls: matriz de llamadas a herramientas generada por el modelo; contiene id, type:"function", function{name, arguments}; arguments es una cadena JSON.
- role:"tool": retorno de la herramienta; tool_call_id debe corresponder uno a uno con el tool_calls[].id correspondiente; content contiene el resultado del retorno de la herramienta.
Reglas de etiquetas de pensamiento
El contenido de pensamiento se envuelve en etiquetas <think>\n…\n</think>\n\n y se coloca dentro del texto de salida del asistente (perteneciente al mismo último contenido del asistente que la respuesta final). Reglas:
- Debe colocarse únicamente en la última salida de assistant; las salidas intermedias de assistant no agregan etiquetas de pensamiento.
- Se deben conservar los saltos de línea antes y después de las etiquetas de pensamiento.
- Si las muestras de entrenamiento configuran el modelo para no generar etiquetas de pensamiento, una vez finalizado el entrenamiento no se recomienda habilitar el modo de pensamiento para las llamadas.
Reglas de empaquetado de paquetes zip multimodales
Los datos de entrenamiento de comprensión multimodal se cargan como un paquete zip a través de la página Agregar conjunto de datos. El empaquetado debe cumplir las siguientes restricciones:
- El paquete zip admite hasta 2 GB.
- El conjunto de caracteres permitido para los nombres de carpetas y archivos dentro del paquete son letras ASCII (a-z, A-Z), dígitos (0-9), guiones bajos (_) y guiones (-).
- El archivo de datos de texto de entrenamiento es fijo como data.jsonl y debe ubicarse en el directorio raíz del paquete zip: asegúrese de que, tras la extracción, al abrir el archivo zip se muestre directamente data.jsonl, sin ninguna carpeta externa adicional que lo envuelva.
Límites de tamaño y cantidad de archivos
Los límites superiores del tamaño y la cantidad de archivos de carga local se establecen según el método de entrenamiento y el escenario, como se detalla en la tabla específica del escenario a continuación. Para los límites de admisión de imágenes, consulte Comprensión visual - Formato SFT; para los límites de formato del conjunto de evaluación, consulte Formato del conjunto de evaluación; para los límites de ingesta de retorno de registros, consulte Formato del conjunto de evaluación.
max_length toma valores en el rango de 500 a 131072 como parámetro de configuración de longitud de secuencia de entrenamiento, no como límite superior de admisión de carga. El límite superior del tamaño de admisión de un solo registro de datos de entrenamiento está sujeto a lo que se muestre en la página de la consola.
Los límites superiores del tamaño y la cantidad de archivos de carga local se establecen según el método y el escenario de entrenamiento. El volumen de datos recomendado es el valor mínimo sugerido:
Método de entrenamiento/escenario | Tamaño máximo de archivo individual | Recuento máximo de archivos (maxCount) | Volumen de datos recomendado |
|---|---|---|---|
Generación de texto - Formato SFT | 200 MB | 10 (predeterminado) | Al menos miles de muestras |
Generación de texto - Formato DPO | 200 MB | 10 (predeterminado) | Al menos cientos de muestras |
Generación de texto - Formato CPT | 300 MB | 1 | Al menos 50 millones de Tokens |
Multimodal (zip) | 2 GB | 1 | Prepare muestras suficientes según los escenarios reales |
Nombre de archivo (sin extensión) | ≤120 caracteres y único | — | — |
Extensión | Debe estar en la lista Crear conjunto de datos | — | — |
Cuota de carga de API
La cuota para cargar archivos de ajuste fino mediante la API de DashScope (con purpose etiquetado como ajuste fino de modelo) se muestra en la tabla de cuotas a continuación. Al crear un conjunto de datos en la consola, la lista de la File API admite fusionar y registrar hasta 10 archivos; los archivos de ajuste fino cargados mediante la API son visibles y utilizables tanto en la página de ajuste fino de modelos de la consola como en las llamadas a la API.
Restricciones para cargar conjuntos de datos mediante montaje de almacenamiento en la nube:
- Especifique la ruta del manifiesto del directorio raíz data.jsonl mediante file_path de MountStorage; no se admiten archivos zip.
- Antes de realizar el montaje, debe autorizar al servicio Bailian para acceder a los datos de OSS.
- Archivo individual que supera los 300 MB: cargue mediante el montaje de almacenamiento en la nube o el canal ZIP multimodal de 2 GB.
- Cuota total superada: elimine archivos históricos para liberar espacio.
- Los datos importados habilitan automáticamente el cifrado del lado del servidor de OSS (SSE-OSS, AES256).
Elemento de cuota | Límite | Descripción |
|---|---|---|
Tamaño de archivo individual | Hasta 300 MB | Archivos de ajuste fino (para el propósito de ajuste fino de modelos) |
Espacio total de archivos válidos | 100 GB | Acumulado de archivos no eliminados |
Recuento total de archivos válidos | 10000 | Acumulado de archivos no eliminados |
Duración de almacenamiento de archivos | Sin límite de tiempo | No caduca automáticamente |
Límite superior de la lista de la File API | 10 | Registro combinado al crear un conjunto de datos en la consola |
Dimensión | Importación OSS | Montaje de almacenamiento en la nube |
|---|---|---|
Requisito previo | Etiqueta de autorización de acceso a datos de Bailian | Autorizar al servicio Bailian para acceder a los datos de OSS |
Forma de los datos | Archivos individuales o por lotes | Carpeta completa del conjunto de datos sin comprimir (no se admite zip) |
Entrada | Gestión de datos > Nuevo conjunto de datos > Importación de OSS | Ajuste fino de modelos > Crear tarea de entrenamiento > Configuración de datos > Montaje del conjunto de datos |
Conjunto de evaluación | ✗ | ✗ |
Validación de carga y errores comunes
Al cargar archivos localmente en la página Agregar conjunto de datos, la validación de la interfaz rechaza los archivos que no cumplen las reglas de admisión y muestra un aviso. Los rechazos de validación comunes y los escenarios de error de carga se muestran en los elementos desplegables a continuación:
Problema: Al cargar archivos, la interfaz indica que el recuento de archivos supera el límite superior y los archivos son rechazados.
Problema: Al cargar archivos, la interfaz indica que el recuento de archivos supera el límite superior y los archivos son rechazados.
- Verifique el límite superior de maxCount correspondiente al método de entrenamiento actual; para más detalles, consulte Límites de tamaño y cantidad de archivos.
- Reduzca el recuento de archivos para que esté dentro del límite superior; combine los datos multimodales en un solo zip y los datos CPT en un solo jsonl.
- Si el recuento de archivos aún supera el límite, divídalo en varios conjuntos de datos y cárguelos por lotes.
Problema: La longitud del nombre del archivo (sin incluir la extensión) supera los 120 caracteres y la interfaz rechaza la carga.
Problema: La longitud del nombre del archivo (sin incluir la extensión) supera los 120 caracteres y la interfaz rechaza la carga.
- Cambie el nombre del archivo para que el nombre (sin incluir la extensión) se reduzca a un máximo de 120 caracteres.
- Utilice únicamente caracteres a-z/A-Z/0-9/_/-; elimine los caracteres chinos y otros caracteres no ASCII.
- Los nombres de archivo dentro de un paquete multimodal también deben ser globalmente únicos.
Problema: Los nombres de archivo están duplicados (la comparación excluye la extensión) y la interfaz rechaza la carga.
Problema: Los nombres de archivo están duplicados (la comparación excluye la extensión) y la interfaz rechaza la carga.
- Busque archivos con nombres duplicados y cámbieles el nombre para que la parte sin la extensión sea única.
- Los archivos con el mismo nombre pero diferente extensión (por ejemplo, image.jpg e image.png) también se consideran duplicados y deben diferenciarse simultáneamente.
- Los nombres de archivo dentro de un zip multimodal deben ser globalmente únicos, incluso si están distribuidos en diferentes carpetas.
Problema: El tamaño del archivo individual supera el límite superior del método de entrenamiento correspondiente y la interfaz rechaza la carga.
Problema: El tamaño del archivo individual supera el límite superior del método de entrenamiento correspondiente y la interfaz rechaza la carga.
- Compruebe si el tamaño del archivo supera el límite superior del método de entrenamiento correspondiente.
- Divida el jsonl en varios archivos para la carga por lotes (SFT/DPO); la división de datos CPT requiere crear varios conjuntos de datos nuevos.
- Para el método de manejo de desbordamiento cuando un solo archivo supera los 300 MB, consulte Cuota de carga de API.
Problema: La extensión del archivo no está en la lista supportedExtension y la interfaz muestra una advertencia y rechaza la carga.
Problema: La extensión del archivo no está en la lista supportedExtension y la interfaz muestra una advertencia y rechaza la carga.
- Compruebe si la extensión del archivo está dentro de la lista admitida para el escenario correspondiente.
- Convierta el archivo a una extensión admitida y vuelva a empaquetarlo para su carga.
- Las extensiones de imagen y video dentro de un zip multimodal deben cumplir cada una con los requisitos; de lo contrario, fallará la importación de todo el paquete.
Problema: Durante la carga de OSS, el archivo se establece en estado de error y la carga no se completa.
Problema: Durante la carga de OSS, el archivo se establece en estado de error y la carga no se completa.
- Verifique que el Bucket de OSS tenga agregada la etiqueta de autorización de acceso a datos de Bailian.
- Confirme que se ha autorizado al servicio Bailian para acceder a los datos de OSS.
- Verifique que data.jsonl y el formato de archivo cumplan con las reglas de empaquetado y reintente la carga; para más detalles, consulte Reglas de empaquetado de paquetes zip multimodales.
- Las operaciones de publicación y eliminación son irreversibles; las versiones publicadas no pueden editarse nuevamente, y solo las versiones en borrador pueden eliminarse o editarse en línea.
- El tipo de conjunto de datos (conjunto de entrenamiento/conjunto de evaluación) no se puede cambiar ni intercambiarse después de su creación; si se selecciona el incorrecto, es necesario crear un nuevo conjunto de datos y volver a importar todos los datos.
- Cambiar el tipo de conjunto de datos, el escenario de entrenamiento o el método de entrenamiento borra los archivos cargados y restablece la ubicación de almacenamiento y el método de importación.