Skip to main content

Model compression

A compressão de modelos utiliza quantização para converter um modelo ajustado de precisão total em uma versão de baixa precisão, reduzindo a especificação de MU e o custo necessário para implantação. Este tópico descreve como crie e gerencie tarefas de compressão de modelos no console.

Visão geral do recurso

A compressão de modelos emprega quantização para transformar um modelo ajustado de precisão total em uma versão de baixa precisão. Esse processo diminui a especificação de MU exigida na implantação e preserva as capacidades do modelo, reduzindo assim os custos de implantação de inferência. Na plataforma Model Studio, a compressão de modelos refere-se especificamente à quantização e não envolve poda estrutural nem destilação de conhecimento. A compressão é uma etapa opcional no pipeline de produção de modelos. O pipeline completo é: Fine-tuning → Compressão de modelos → Deployment. Primeiro, conclua o treinamento de ajuste fino; em seguida, comprima o modelo ajustado resultante e, por fim, implante o modelo comprimido como um serviço de inferência.
A compressão é irreversível. Um modelo comprimido não pode ser submetido a novo ajuste fino nem comprimido uma segunda vez. Confirme o template de quantização antes de iniciar a compressão.

Modelos suportados

Os modelos com suporte atual para compressão estão listados na tabela abaixo. Consulte o console para obter a lista definitiva.
  • China (Beijing)
  • Singapore

Série de modelos

Modelo base

Especificação de implantação antes da compressão

Especificação de implantação após a compressão

Qwen

qwen3.5-flash-2026-02-23

MU1*2($14.852/hour)

MU5/MU8/MU9

Qwen

qwen3.6-plus-2026-04-02

MU1*8($59.408/hour)

Consulte o console

Limites de uso

  • Disponível apenas na região North China 2 (Beijing).
  • Suporta apenas modelos personalizados produzidos por ajuste fino na plataforma Model Studio. Modelos base e modelos de terceiros não são suportados.
  • Modelos comprimidos não podem passar por novo ajuste fino nem por uma segunda compressão.

Crie uma tarefa de compressão

Pré-requisitos

Antes de usar o recurso de compressão de modelos, verifique se já existe um modelo personalizado ajustado na plataforma Model Studio disponível no workspace atual. Caso ainda não tenha concluído o ajuste fino do modelo, finalize primeiro o treinamento conforme descrito em Fine-tuning.

Procedimento

  1. Faça login no console do Model Studio. Na barra de navegação superior, selecione Model > Train > Model Compression.
  2. Na página de compressão de modelos, clique em Create Compression Task.
  3. Na página de criação da tarefa de compressão, configure os seguintes parâmetros:
    image

    Parâmetro

    Obrigatório

    Descrição

    Task Name

    Sim

    Até 50 caracteres. Recomenda-se incluir a abreviação do modelo, o método de quantização e o número da versão para facilitar o gerenciamento posterior.

    Task Description

    Não

    Até 200 caracteres.

    Source Model

    Sim

    Clique para abrir a caixa de diálogo de seleção de modelos, que exibe apenas modelos ajustados passíveis de compressão. Se nenhuma opção disponível aparecer na caixa de diálogo, conclua primeiro o treinamento de ajuste fino. Alterar o modelo de origem limpa automaticamente o template de quantização selecionado, pois a lista de templates suportados varia entre modelos.

    Output Model Name Suffix

    Sim

    Aceita apenas letras minúsculas e dígitos, com até 8 caracteres. Caracteres inválidos são filtrados automaticamente. Esse sufixo é anexado ao nome do modelo de origem como identificador do modelo comprimido.

    Quantization Template

    Sim

    Os templates disponíveis são exibidos em uma grade de cartões. É necessário selecionar um modelo de origem antes de escolher um template. Um número de MU maior no nome do template indica uma especificação de implantação menor e custo mais baixo.

    Calibration Data

    Condicionalmente obrigatório

    Este campo aparece apenas quando o template de quantização selecionado inclui parâmetros de entrada de calibração. É possível selecionar até 5 conjuntos de dados; conjuntos de dados montados via OSS não são suportados. Os conjuntos de dados devem ser criados e publicados em Data Management.

  4. Após confirmar que a configuração está correta, clique em Start Compression. O botão fica habilitado somente depois que todos os campos obrigatórios forem preenchidos. Após a criação bem-sucedida, você é redirecionado automaticamente para a página da lista de tarefas.
Não é possível modificar a configuração de uma tarefa de compressão após sua criação. Verifique cuidadosamente a seleção do template de quantização antes de clicar em Start Compression.

Visualize o progresso e os logs da tarefa de compressão

Na página da lista de tarefas, clique no nome de uma tarefa para acessar a página de detalhes. Essa página contém duas abas: Details e Log.

Aba Details

image
A aba Details exibe as seguintes informações:
  • Informações básicas: ID da tarefa (copiável), status de execução, horário de criação e duração da tarefa (atualizada em tempo real durante a execução). Quando uma tarefa falha, a mensagem de erro também é exibida.
  • Configuração de compressão: modelo de origem, modelo comprimido, método de quantização, dados de calibração e outras informações de configuração definidas no momento da criação.

Aba Log

image
Acesse a aba Log para visualizar os logs de execução da tarefa de compressão.
  • Linhas exibidas: É possível escolher exibir as 100, 500, 2.000 ou 5.000 linhas mais recentes dos logs.
  • Atualização automática: Quando ativada, o conteúdo do log é atualizado automaticamente a cada 30 segundos.
  • Coloração por nível de log: INFO (verde), DEBUG (cinza), ERROR (vermelho), WARN (amarelo).
  • Operações de log: Permite baixar os logs completos (sem limitação pela quantidade de linhas exibidas), recolher ou expandir subentradas, alternar entre os modos escuro e claro e ativar ou desativar a quebra de linha.

Solução de problemas de falha

Se uma tarefa de compressão falhar, solucione o problema seguindo estas etapas:
  1. Verifique a mensagem de erro na aba Details.
  2. Acesse a aba Log e busque registros de nível ERROR.
  3. Baixe os logs completos para uma análise detalhada.
  4. Caso o problema permaneça sem solução, abra um ticket e anexe o ID da tarefa e o arquivo de log.

Gerencie tarefas de compressão

No console, selecione Model > Train > Model Compression para acessar a página da lista de tarefas e gerenciar as tarefas de compressão que você criou.
image

Lista de tarefas

A lista de tarefas exibe as seguintes 7 colunas de informações:

Nome da coluna

Descrição

Task Name/ID

Nome e ID da tarefa. Clique no nome da tarefa para ir à página de detalhes.

Quantization Template

Nome do template de quantização selecionado quando a tarefa foi criada.

Task Status

Status atual de execução da tarefa.

Source Model

Nome do modelo ajustado antes da compressão.

Compressed Model

Nome do modelo gerado pela compressão. Clicável apenas quando a tarefa é bem-sucedida, redirecionando ao centro de modelos para visualização.

Creation Time

Horário de criação da tarefa.

Operation

Operações disponíveis, incluindo parar e excluir. A disponibilidade das operações depende do status da tarefa.

É possível filtrar e pesquisar por Quantization Template, Task Status (5 tipos), intervalo de tempo e nome ou ID da tarefa. A lista permite ordenação e exibe 10 registros por página.

Status da tarefa

As tarefas de compressão possuem 7 status no total. O ciclo de vida é o seguinte:
  • PENDING (não iniciado): A tarefa foi criada e aguarda agendamento.
  • QUEUING (na fila): A tarefa entrou na fila de execução.
  • RUNNING (em execução): A tarefa está executando a compressão.
  • SUCCEEDED (compressão bem-sucedida): A compressão foi concluída e o modelo foi gerado.
  • FAILED (falha na compressão): Ocorreu um erro durante a compressão.
  • CANCELING (parando): O usuário solicitou a interrupção e a tarefa está sendo encerrada.
  • CANCELED (cancelada): A tarefa foi interrompida pelo usuário.

Parar e excluir tarefas

  • Parar uma tarefa: Apenas tarefas nos status PENDING e RUNNING podem ser interrompidas. Ao clicar em Stop, é necessário confirmar novamente na caixa de diálogo. Uma vez interrompida, a tarefa não pode ser recuperada. Também há um botão de parada disponível na página de detalhes.
  • Excluir uma tarefa: Somente tarefas em estados terminais (SUCCEEDED, FAILED, CANCELED) podem ser excluídas; tarefas no status QUEUING não podem ser excluídas. Excluir o registro da tarefa não afeta o modelo comprimido já produzido.
Aviso de estado vazio: quando não há tarefas, a página exibe um texto orientativo e oferece uma entrada para criar uma tarefa; quando há resultados de filtro, aparece a mensagem "No matches found", sugerindo ajustar as condições de filtro ou limpar a pesquisa.

Faturamento

  • A tarefa de compressão em si é gratuita por tempo limitado. O prazo final está sujeito aos anúncios no console.
  • O modelo comprimido é cobrado por especificação de MU durante a fase de implantação. Para informações detalhadas sobre o faturamento de implantação, consulte Deployment.
Tomando como exemplo o modelo ajustado qwen3.5-flash-2026-02-23, consulte as especificações de implantação e os preços antes e depois da compressão em Supported models. Os custos de implantação são reduzidos em aproximadamente 56%. Recomendamos comparar os efeitos de compressão de vários templates de quantização durante o período gratuito e selecionar o plano ideal antes da implantação formal.

FAQ

A caixa de diálogo de seleção do modelo de origem exibe apenas modelos ajustados passíveis de compressão. Se não houver opções selecionáveis, significa que o workspace atual não possui um modelo ajustado qualificado. Consulte Fine-tuning para concluir o treinamento de ajuste fino e garanta que o status do treinamento seja bem-sucedido antes de criar uma tarefa de compressão.
Não. A compressão é uma operação unidirecional. Se precisar fazer ajustes, refaça a compressão a partir do modelo ajustado de precisão total original. Para mais detalhes, consulte as restrições de uso em Feature overview.
São três técnicas distintas de otimização de modelos. A quantização reduz a precisão dos parâmetros, a poda remove estruturas redundantes e a destilação usa um modelo grande para treinar um modelo menor. Atualmente, o Model Studio suporta apenas quantização.
O template de quantização determina a especificação de implantação do modelo comprimido. Quanto maior o número de MU no nome do template, menor a especificação de implantação e o custo, porém maior a possível perda de precisão. Recomendamos escolher um template com base no equilíbrio entre custo e precisão adequado ao seu negócio. Em caso de dúvida, teste vários templates durante o período gratuito e valide os efeitos usando um conjunto de testes de negócios após a implantação.
Os dados de calibração servem para melhorar a precisão da quantização. Recomendamos escolher um conjunto de dados semanticamente semelhante ao cenário de inferência alvo. Por exemplo, se o modelo comprimido for usado em um cenário de perguntas e respostas de atendimento ao cliente, utilize um conjunto de dados contendo amostras de diálogos desse contexto como dados de calibração.
A compressão por quantização pode causar algum grau de perda de precisão. Recomendamos usar um conjunto de testes de negócios para realizar a verificação de inferência após a implantação. Se a precisão não atender às suas necessidades, tente alterar o template de quantização e comprimir novamente, ou adicione dados de calibração para melhorar a qualidade da quantização.
As tarefas de compressão estão gratuitas por tempo limitado. O método de cobrança após o fim do período gratuito está sujeito aos anúncios no console. A taxa de implantação do modelo comprimido não é afetada pelo período gratuito e continua sendo cobrada por especificação de MU.
Recomendamos testar vários templates de quantização no mesmo modelo ajustado durante o período gratuito, implantá-los separadamente e verificar os efeitos de inferência com um conjunto de testes de negócios. Compare o desempenho dos diferentes templates em termos de precisão e custo e selecione o plano que melhor atende às necessidades do seu negócio antes da entrada em produção.
Para gerenciar tarefas de compressão via API, consulte Model compression API reference.