Skip to main content

Ajuste fino con la API o la CLI

Ajuste los modelos Qwen en Model Studio a través de la API (HTTP) o la CLI (shell). Se admiten tres métodos de ajuste: ajuste fino supervisado (SFT), preentrenamiento continuo (CPT) y optimización directa de preferencias (DPO).

Requisitos previos

La API solo admite facturación basada en tokens. Para utilizar unidades de entrenamiento de modelos (prepago o pospago), cree el trabajo en la consola.

Cargar archivos de ajuste

Preparar archivos de ajuste fino

Para conocer las especificaciones de formato de datos, las reglas de empaquetado, los límites de tamaño y cantidad, y las cuotas de carga de la API de cada método de entrenamiento (SFT/DPO/CPT), consulte Reglas de carga de datos de ajuste. Los formatos de archivo admitidos por cada método de entrenamiento:

Método de entrenamiento

Formato de archivo

Generación de texto SFT

jsonl (estructura de mensajes de múltiples turnos ChatML)

SFT multimodal (imágenes/vídeos)

zip (data.jsonl + archivos de imagen/vídeo)

DPO

jsonl (pares de preferencia elegido/rechazado)

CPT

jsonl (texto sin formato {text})

Conjunto de evaluación

xlsx (prompt&completion) / jsonl, xls, xlsx (ChatML-messages)

También puede descargar una plantilla de datos desde la consola de Model Studio.

Debajo del área de carga de archivos en la página Create Dataset, puede encontrar el enlace de descarga de la plantilla de datos.

Cargar archivos de ajuste fino a Model Studio

  • API de archivos compatible con OpenAI
import os
from pathlib import Path
from openai import OpenAI

client = OpenAI(
    # If you have not configured an environment variable, replace the following line with api_key="sk-xxx" and use your Model Studio API key.
    # API keys for the Singapore and China (Beijing) regions are different. Get an API key: https://www.alibabacloud.com/help/model-studio/get-api-key
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # The following is the URL for the Singapore region. If you use the service in the China (Beijing) region, replace the URL with: https://dashscope-intl.aliyuncs.com/compatible-mode/v1
    base_url="https://dashscope-intl.aliyuncs.com/compatible-mode/v1",
)

# test.jsonl is a local sample file.
file_object = client.files.create(file=Path("test.jsonl"), purpose="fine-tune")

print(file_object.model_dump_json())
Limitaciones:
  • El tamaño máximo de un solo archivo es de 300 MB.
  • La cuota total de almacenamiento para todos los archivos válidos (no eliminados) es de 100 GB.
  • La cuota total de cantidad para todos los archivos válidos (no eliminados) es de 10000 archivos.
  • El almacenamiento de archivos no tiene límite de tiempo.
Los archivos de ajuste cargados a través de la API son visibles y utilizables tanto en la página de ajuste fino de modelos de la consola de Model Studio como en las llamadas a la API.

Ajuste fino de modelos

La creación, consulta, registro, gestión de puntos de control y la enumeración, cancelación o eliminación de trabajos de ajuste fino se realizan mediante la API. Los parámetros completos de solicitud y respuesta de cada interfaz, así como sus ejemplos, se encuentran en la página correspondiente de la API; esta sección solo describe el flujo de trabajo.

Crear un trabajo de ajuste fino

Llame a la interfaz Crear un trabajo de ajuste fino (POST /api/v1/fine-tunes) para iniciar el entrenamiento. Consulte dicha página para ver el cuerpo de la solicitud (model / training_datasets / hyper_parameters / training_type, etc.) y los ejemplos de respuesta.

Consultar detalles del trabajo de ajuste fino

Utilice el job_id para consultar el estado de la tarea. Para obtener más información, consulte Consultar el estado de la tarea de ajuste fino.

Obtener registros de trabajo de ajuste fino

Recupere los registros de entrenamiento a través de la interfaz Obtener registros de la tarea de ajuste fino (GET /api/v1/fine-tunes/{job_id}/logs).

Consultar y publicar puntos de control del modelo

Los puntos de control producidos por el ajuste fino se pueden listar y exportar (publicar):
  • Listar puntos de control: consulte Listar puntos de control (GET /api/v1/fine-tunes/{job_id}/checkpoints).
  • Exportar (publicar) un punto de control específico: consulte Exportar punto de control (GET /api/v1/fine-tunes/{job_id}/export/{checkpoint}?model_name=...), asíncrono; sondee el estado a través de la interfaz de lista.

Más operaciones de ajuste fino

Implementación e invocación de modelos

Despliegue de modelos

Para implementar el modelo, vaya a la consola de Dedicated Deployment.

Invocación de modelos

Una vez que el estado de implementación es RUNNING, invoque el modelo ajustado como cualquier otro modelo. También puede obtener el Código de modelo desde la consola de Dedicated Deployment. Uso y parámetros: Referencia de la API de DashScope. 
curl 'https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation' \
--header 'Authorization: Bearer '${DASHSCOPE_API_KEY}  \
--header 'Content-Type: application/json' \
--data '{
    "model": "<your_model_instance_id>",
    "input":{
        "messages":[
            {
                "role": "user",
                "content": "Who are you?"
            }
        ]
    },
    "parameters": {
        "result_format": "message"
    }
}'