Comprima modelos utilizando técnicas como la cuantización para reducir los costos de inferencia.
Visión general
La API de compresión de modelos comprime modelos personalizados ajustados de parámetros completos mediante técnicas como la cuantización, reduciendo la huella de memoria de inferencia y mejorando el rendimiento. Actualmente, la función de compresión solo admite cuantización y cubre el ciclo de vida completo desde la consulta de plantillas, creación de tareas, sondeo de estado, recuperación de registros, hasta la cancelación/eliminación de tareas.
Flujo típico:
- Listar modelos cuantizables y plantillas de configuración → obtener el
template_idy elmodelcuantizable - Crear una tarea de compresión → obtener el
job_id - Sondear Consulta de tarea de compresión / Obtener registros de tarea de compresión → hasta
SUCCEEDED/FAILED/CANCELED - Después de
SUCCEEDED, usequantized_outputpara crear una implementación; cuando ya no sea necesario, Cancelar tarea de compresión / Eliminar tarea de compresión
https://dashscope-intl.aliyuncs.com. La autenticación utiliza uniformemente Authorization: Bearer ${YOUR_API_KEY}, y las solicitudes POST deben incluir Content-Type: application/json.
Para los significados de los campos del objeto de tarea y la máquina de estados, consulte Objeto de tarea de compresión; para códigos de error unificados, consulte Códigos de error al final del documento.
Inicio rápido
La API de compresión de modelos actualmente solo está disponible en la región de Singapore. Si utiliza otra región, complete las operaciones de compresión de modelos a través de la consola Bailian de esa región.La API de compresión de modelos proporciona un conjunto completo de interfaces RESTful que cubren consulta de plantillas, creación de tareas, sondeo de estado, obtención de registros y cancelación/eliminación de tareas. Este documento está destinado a desarrolladores para integrar capacidades de compresión a través de OpenAPI o SDK. Para introducciones a la consola, consulte los documentos relacionados.
Requisitos previos
Antes de llamar a las interfaces de este documento, complete lo siguiente:
- Activó el servicio Alibaba Cloud Bailian y completó la verificación de nombre real.
- El espacio de trabajo actual tiene al menos un modelo personalizado ajustado de parámetros completos basado en
qwen3.5-flash-2026-02-23(completado a través de la interfaz de tarea de ajuste fino). La función de compresión actual solo admite este modelo; los modelos LoRA y los modelos ya cuantizados no son compatibles. - Se obtuvo una API Key (consulte Obtener API Key).
Las especificaciones de unidad de implementación admitidas por el modelo de salida comprimido están determinadas por la plantilla de cuantización seleccionada, y la cantidad de implementación se configura bajo Dedicated Deployment en la consola Bailian. La función de compresión actual es gratuita por tiempo limitado.
Lista de interfaces
Todos los dominios de interfaz: https://dashscope-intl.aliyuncs.com
# | Método | Ruta | Descripción |
|---|---|---|---|
1 | GET |
| Listar modelos cuantizables y plantillas de configuración |
2 | POST |
| Crear trabajo de compresión |
3 | GET |
| Listar trabajos de compresión |
4 | GET |
| Consultar detalles del trabajo de compresión |
5 | GET |
| Obtener registros del trabajo de compresión |
6 | POST |
| Cancelar trabajo de compresión |
7 | DELETE |
| Eliminar trabajo de compresión |
Autenticación
Todas las interfaces incluyen la API Key mediante encabezado HTTP:
Content-Type: application/json se aplica a escenarios de cuerpo de solicitud POST.
Comenzar en 5 minutos
- HTTP
base_model es qwen3.5-flash-2026-02-23, suffix es test, job_id es quant-202604111200-a1b2, y el ID del modelo de salida es:
Objeto de trabajo de compresión
La API de compresión de modelos actualmente solo está disponible en la región de Singapore. Si utiliza otra región, complete la compresión del modelo en la consola Bailian de esa región.
Propiedades del objeto
Parámetros de respuesta
Campo | Tipo | Descripción |
|---|---|---|
job_id | String | ID de trabajo |
job_name | String | Nombre del trabajo |
job_description | String | Descripción del trabajo |
status | String | Estado del trabajo (consulte Estado del trabajo) |
model | String | ID del modelo fuente |
base_model | String | ID del modelo base |
template_id | String | ID de la plantilla de compresión en uso |
template_name | String | Nombre de la plantilla |
template_description | String | Descripción de la plantilla |
training_type | String | Tipo de trabajo, fijo como |
compress_type | String | Tipo de compresión, igual que |
hyper_parameters | Object | Hiperparámetros realmente efectivos (solo devuelve parámetros visibles para el usuario) |
custom_calibration_file_ids | Array<String> | Lista de IDs de archivo para el conjunto de datos de calibración personalizado |
quantized_output | String | ID del modelo generado después de la cuantización (solo tiene valor cuando SUCCEEDED) |
create_time | String | Hora de creación del trabajo |
start_time | String | Hora de inicio de ejecución del trabajo (null cuando PENDING/QUEUING) |
end_time | String | Hora de finalización del trabajo (tiene valor en estados terminales) |
error | Object | Información de error en caso de fallo, que contiene |
group | String | Grupo de trabajos, fijo como |
usage | Integer | Duración de GPU (segundos), aparece cuando SUCCEEDED o CANCELED |
Estado del trabajo
Status | Descripción |
|---|---|
| Trabajo creado, en espera de programación |
| Ingresó a la cola de programación, en espera de recursos de GPU |
| Trabajo en curso |
| Cancelación iniciada, en espera de finalización |
| Tarea exitosa, el campo |
| Tarea fallida, los campos |
| Trabajo cancelado |
Listar modelos cuantizables y plantillas de configuración
Lista todos los modelos personalizados ajustados cuantizables del usuario actual, así como las plantillas de compresión vinculadas a cada modelo. Las plantillas están vinculadas a modelos; diferentes combinaciones de arquitectura de modelo × precisión × especificaciones de MU objetivo corresponden a diferentes plantillas.
Solo devuelve modelos personalizados que el usuario actual ha ajustado completamente (SFT/DPO/CPT) basándose en un modelo base. Los modelos ajustados con LoRA y los modelos ya cuantizados no aparecerán en los resultados.Endpoint
Parámetro | Tipo | Obligatorio | Valor predeterminado | Descripción |
|---|---|---|---|---|
model | String | No | - | Filtrar por ID de modelo; cuando se pasa un nombre de modelo base, devuelve todos los modelos personalizados basados en ese modelo base |
lang | String | No | zh-CN | Idioma de respuesta: |
Ejemplo de respuesta (completo: con hiperparámetros ajustables)
Ejemplo de respuesta (completo: con hiperparámetros ajustables)
Campo | Tipo | Descripción |
|---|---|---|
base_models | Array<String> | Lista de nombres de modelos base que admiten compresión |
custom_models[].model | String | Model ID |
custom_models[].model_name | String | Nombre para mostrar del modelo |
custom_models[].base_model | String | Nombre del modelo base |
custom_models[].templates | Array | Lista de plantillas de configuración de compresión admitidas por este modelo, heredadas de las plantillas de su modelo base |
templates[].template_id | String | ID de plantilla, pasado como el parámetro template_id al crear una tarea de compresión |
templates[].template_name | String | Nombre de la plantilla (admite varios idiomas; devuelve la versión del idioma correspondiente según el parámetro |
templates[].description | String | Descripción de la plantilla (admite varios idiomas; devuelve la versión del idioma correspondiente según el parámetro |
templates[].compress_type | String | Tipo de compresión, fijo como |
templates[].hyper_parameters | Array | Hiperparámetros ajustables; una matriz vacía significa que no hay hiperparámetros ajustables |
hyper_parameters[].name | String | Nombre del parámetro (se utiliza como clave al crear una tarea) |
hyper_parameters[].type | String | Tipo: |
hyper_parameters[].display_name | String | Nombre para mostrar del parámetro (admite varios idiomas; devuelve la versión del idioma correspondiente según el parámetro |
hyper_parameters[].description | String | Descripción del parámetro (admite varios idiomas; devuelve la versión del idioma correspondiente según el parámetro |
hyper_parameters[].defaultValue | String | Valor predeterminado |
hyper_parameters[].recommend_value | String | Valor recomendado |
hyper_parameters[].required | Boolean | Si es obligatorio |
hyper_parameters[].support_values | Array<String> | Lista de valores de enumeración (solo presente cuando |
hyper_parameters[].data_range | Array<String> | Rango numérico (solo presente cuando |
hyper_parameters[].step | Integer | Tamaño de paso (solo presente cuando |
Crear una tarea de compresión
Endpoint
Parámetro | Tipo | Obligatorio | Valor predeterminado | Descripción |
|---|---|---|---|---|
model | String | Sí | - | ID del modelo fuente, que se puede obtener a través de la API |
template_id | String | Sí | - | ID de la plantilla de compresión, que se puede obtener a través de la API |
job_name | String | No | Generado automáticamente | Nombre del trabajo; no se permiten duplicados bajo el mismo usuario; hasta 50 caracteres |
job_description | String | No | - | Descripción del trabajo; hasta 200 caracteres |
hyper_parameters | Object | No | Valor predeterminado de la plantilla | Sobrescrituras de hiperparámetros (clave-valor); pase solo los elementos que want sobrescribir |
custom_calibration_file_ids | Array<String> | No | - | Lista de IDs de archivos de conjuntos de datos de calibración personalizados (ID de grupo de conjunto de datos, en formato |
output_model_suffix | String | No | - | Sufijo del nombre del modelo de salida cuantizado; hasta 8 caracteres, solo letras minúsculas y dígitos. Formato del nombre del modelo de salida: |
Listar tareas de compresión
Admite filtrado por estado, modelo, plantilla, especificación de cuantización, algoritmo, rango de tiempo, nombre/ID de tarea, y admite ordenación por hora de creación y paginación.
Endpoint
Parámetro | Tipo | Obligatorio | Valor predeterminado | Descripción |
|---|---|---|---|---|
status | String | No | - | Filtrar por estado (por ejemplo, RUNNING, SUCCEEDED) |
model | String | No | - | Filtrar por ID del modelo fuente |
template_id | String | No | - | Filtrar por ID de plantilla |
quant_spec | String | No | - | Filtrar por especificación de cuantización (por ejemplo, |
quant_method | String | No | - | Filtrar por algoritmo de cuantización (por ejemplo, |
start_time | String | No | - | La hora de inicio de la tarea no es anterior a este valor. Formato: |
end_time | String | No | - | La hora de finalización del trabajo no es posterior a este valor, formato igual que |
job_name | String | No | - | Coincidencia aproximada por nombre de trabajo |
job_id | String | No | - | Coincidencia aproximada por ID de trabajo |
search_key | String | No | - | Palabra clave de búsqueda. Cuando no se proporciona |
select_key | String | No | - | Campo de búsqueda para |
sort_by | String | No | create_time | Campo de ordenamiento, actualmente solo admite |
sort_order | String | No | desc | Dirección de ordenamiento, |
page_no | Integer | No | 1 | Número de página |
page_size | Integer | No | 10 | Tamaño de página, máximo 100 |
Campo | Tipo | Descripción |
|---|---|---|
total | Integer | Número total de trabajos coincidentes |
page_no | Integer | Número de página actual |
page_size | Integer | Tamaño de página |
jobs | Array | Lista de tareas, los significados de los campos son los mismos que los parámetros de respuesta de crear una tarea de compresión |
Consultar una tarea de compresión
Endpoint
Campo | Tipo | Descripción |
|---|---|---|
job_id | String | ID de tarea, que se puede obtener a través de la interfaz de crear tarea de compresión o listar tareas de compresión |
job_name | String | Nombre del trabajo |
job_description | String | Descripción del trabajo |
status | String | Estado del trabajo (consulte Estado del trabajo para más detalles) |
model | String | ID del modelo fuente |
base_model | String | ID del modelo base |
template_id | String | ID de la plantilla de compresión utilizada |
template_name | String | Nombre de la plantilla |
template_description | String | Descripción de la plantilla |
training_type | String | Tipo de trabajo, fijo como |
compress_type | String | Tipo de compresión, igual que |
hyper_parameters | Object | Hiperparámetros realmente efectivos (solo devuelve parámetros visibles para el usuario) |
custom_calibration_file_ids | Array<String> | Lista de IDs de archivo para el conjunto de datos de calibración personalizado |
quantized_output | String | ID del modelo generado después de la cuantización (solo tiene valor cuando SUCCEEDED), puede ser utilizado por la interfaz Crear implementación para la implementación del modelo |
create_time | String | Hora de creación del trabajo |
start_time | String | Hora de inicio de ejecución del trabajo (null cuando PENDING/QUEUING) |
end_time | String | Hora de finalización del trabajo (tiene valor en estados terminales) |
error | Object | Información de error en caso de fallo, que contiene |
group | String | Grupo de trabajos, fijo como |
usage | Integer | Duración de GPU (segundos), presente cuando SUCCEEDED o CANCELED |
Obtener registros de tarea de compresión
Endpoint
{job_id} es el ID de la tarea de compresión, que se puede obtener a través de la interfaz de crear tarea de compresión o listar tareas de compresión.
Parámetros de solicitud
Parámetro | Tipo | Obligatorio | Valor predeterminado | Descripción |
|---|---|---|---|---|
offset | Integer | No | 0 | Omitir las primeras N líneas y comenzar a leer desde la línea (N+1) |
line | Integer | No | 100 | Número de líneas a leer, hasta 1000 |
- Cuando se proporciona un conjunto de datos de calibración personalizado para la tarea, los registros contienen un marcador de finalización de procesamiento de datos
data process succeeded, start to quantization - La interfaz de registros ha filtrado los marcadores internos del sistema y solo devuelve información de progreso de compresión legible por el usuario
Cancelar una tarea de compresión
Solo puede cancelar tareas en estado PENDING, QUEUING o RUNNING. La cancelación es una operación asíncrona. La tarea entra primero en el estado transitorio CANCELING y finalmente se convierte en CANCELED.
Endpoint
{job_id} es el ID de la tarea de compresión, que se puede obtener de la API Crear tarea de compresión o Listar tareas de compresión.
Ejemplo de solicitud
Eliminar una tarea de compresión
Solo puede eliminar tareas en estado terminal (SUCCEEDED / FAILED / CANCELED). Eliminar un registro de tarea no elimina el modelo cuantizado ya generado (quantized_output).
Endpoint
{job_id} es el ID de la tarea de compresión, que se puede obtener de la API Crear tarea de compresión o Listar tareas de compresión.
Ejemplo de solicitud
Código de error
Códigos de error comunes
Código de error | HTTP | Descripción |
|---|---|---|
| 400 | Parámetro de solicitud no válido |
| 400 | Falta un parámetro obligatorio |
| 401 | Error de autenticación |
| 403 | Sin permiso de acceso |
| 404 | El recurso no existe |
| 400 | El estado del recurso no permite esta operación (por ejemplo, cancelar una tarea que ya está en un estado terminal) |
| 429 | Cuota excedida |
| 500 | Error interno del servicio |
Códigos de error de negocio
Los siguientes códigos de error de negocio se listan por escenario. External Code es el valor real del campo code devuelto por la interfaz.
Validación de parámetros
Código externo | HTTP | Descripción |
|---|---|---|
| 400 | Falta el parámetro obligatorio |
| 400 | Falta el parámetro obligatorio |
| 400 | No se admite la cuantización directa de modelos base |
| 400 | La plantilla de configuración especificada no existe |
| 400 | El modelo actual no admite esta plantilla de compresión |
| 400 | El modelo no admite cuantización |
| 400 | Los modelos ajustados con LoRA no admiten cuantización |
| 400 | Datos del modelo no disponibles |
| 400 | El nombre del trabajo contiene caracteres no admitidos |
| 400 |
|
| 400 | El modelo fuente no está listo |
| 403 | Sin permiso para usar esta plantilla de compresión |
Código externo | HTTP | Descripción |
|---|---|---|
| 400 | No se proporcionó un hiperparámetro obligatorio |
| 400 | Se proporcionó un hiperparámetro desconocido |
| 400 | El valor del hiperparámetro no está en la lista de enumeración |
| 400 | El valor del hiperparámetro está fuera de rango |
| 400 | El valor del hiperparámetro no es un número válido |
Código externo | HTTP | Descripción |
|---|---|---|
| 404 | El trabajo de compresión especificado no existe |
| 400 | Falta el parámetro obligatorio |
Código externo | HTTP | Descripción |
|---|---|---|
| 400 | Parámetro de número de página no válido (debe ser ≥ 1) |
| 400 | Tamaño de página no válido (debe ser 1–100) |
| 400 | Formato de hora no válido |