Gerencie modelos ajustados no Alibaba Cloud Model Studio e modelos importados após ajuste fino local (apenas LoRA ou de todos os parâmetros). Este guia abrange a autorização inicial do OSS, a preparação e validação dos arquivos do modelo, o preenchimento do formulário de importação, o gerenciamento de estados e a solução de problemas comuns. Esses modelos permitem implantação na nuvem e oferecem inferência com alta simultaneidade e baixa latência.
Modelos compatíveis
Na página Meus modelos, você pode gerenciar os dois tipos de modelos a seguir:
- Modelos ajustados: Modelos submetidos a ajuste fino no Alibaba Cloud Model Studio. Para obter detalhes, consulte Modelos compatíveis com ajuste fino.
-
Modelos importados: Modelos importados do Object Storage Service (OSS). É possível importar modelos ajustados com LoRA ou com todos os parâmetros.
A importação de modelos ajustados com todos os parâmetros é um recurso sujeito a lista de permissão. Para habilitá-lo, entre em contato com seu gerente de conta.
Lista de modelos:- China (Pequim)
- Singapura
Modelos compatíveis
Nome do modelo
Qwen3
Qwen3-32B
Qwen3
Qwen3-14B
Qwen3
Qwen3-8B
Qwen3
Qwen3-4B-Instruct-2507
Qwen3-VL
Qwen3-VL-8B-Instruct
Qwen2.5
Qwen2.5-72B-Instruct
Qwen2.5
Qwen2.5-32B-Instruct
Qwen2.5
Qwen2.5-14B-Instruct
Qwen2.5
Qwen2.5-7B-Instruct
Qwen2.5-VL
Qwen2.5-VL-72B-Instruct
Qwen2.5-VL
Qwen2.5-VL-7B-Instruct
As atualizações dos dados podem sofrer atrasos. Consulte as informações exibidas na interface ao importar modelos.
Importar modelos
Esta seção descreve como importar modelos do OSS usando o console do Alibaba Cloud Model Studio.
Não é possível importar modelos por API ou linha de comando.
- Na página Meus modelos, clique em Importar modelo para abrir a interface de importação.
- Informe um Nome do modelo e selecione o Modelo base (o modelo a ser ajustado).
- Em Método de importação, selecione Importar do OSS. Atualmente, não há outros métodos disponíveis. Envie manualmente os arquivos do modelo ajustado com LoRA ou com todos os parâmetros para o Alibaba Cloud Object Storage Service (OSS). Enviar arquivos Ver exemplos de arquivos do modelo
- Ao clicar em OK, o sistema começa a importar o modelo. Em horários de pico, o processo pode demorar mais. Aguarde sua conclusão.
Preparar arquivos de modelo LoRA
Antes da importação, coloque os arquivos do modelo LoRA em um subdiretório de um bucket OSS (o diretório raiz não é aceito) conforme os requisitos a seguir e passe pela validação automática antes de enviar. Os arquivos devem ficar diretamente no subdiretório selecionado; o sistema os detecta automaticamente.
Arquivos obrigatórios e estrutura de diretórios
O subdiretório deve conter: adapter_model.safetensors (pesos do adaptador LoRA em formato SafeTensors), adapter_config.json (configuração com parâmetros como rank e alpha) e config.json (configuração do modelo base). Após selecionar um diretório, o sistema valida automaticamente o formato e a integridade desses arquivos.
Restrições dos parâmetros de treinamento
- Valores de rank: O rank deve ser 8, 16, 32 ou 64, e todas as camadas LoRA do mesmo modelo devem usar o mesmo valor; caso contrário, o modelo não pode ser importado.
- O vocabulário não pode ser alterado: Modelos que adicionaram tokens ou alteraram o vocabulário original durante o treinamento não podem ser importados; o vocabulário deve ser idêntico ao do modelo base.
- O template de chat não pode ser alterado: Modelos que modificaram chat_template durante o treinamento não podem ser importados; ele deve corresponder à configuração padrão do modelo base. O chat_template fica no campo
chat_templatede config.json ou tokenizer_config.json. - Modelos de visão e linguagem devem congelar o VIT: A parte Vision Transformer deve ser congelada. Se o adaptador LoRA contiver parâmetros de peso relacionados à visão (VIT não congelado), o modelo não poderá ser importado.
visual e determinar se o VIT está congelado.
visual (por exemplo, visual.encoder.layer.0...), o VIT não está congelado e o modelo não pode ser importado. Se houver apenas chaves LoRA, como lora_A e lora_B, o VIT está congelado e o modelo pode ser importado normalmente.
Validação automática antes do envio
Após selecionar um diretório na página Importar modelo, o sistema chama automaticamente a API de validação para verificar o formato e a integridade dos arquivos. Se a validação falhar, uma mensagem vermelha aparece abaixo do campo e impede o envio; corrija os arquivos conforme indicado. Uma causa comum é a ausência de arquivos obrigatórios, com o código AvailableModelFileNotFound.
Campos do formulário de importação
O formulário de importação de modelos contém os seguintes campos:
Campo | Descrição | Restrição |
|---|---|---|
Nome do modelo | Informe um nome de exibição para o modelo. | Obrigatório, até 50 caracteres |
Modelo base | Selecione o modelo base usado no treinamento LoRA; ele deve corresponder à base do treinamento. | Obrigatório, seleção na lista suspensa |
Método de treinamento | As opções dependem do modelo base selecionado; elas aparecem automaticamente após a seleção, com a primeira selecionada por padrão. | Obrigatório, seleção na lista suspensa |
Origem da importação | Somente “Importar do OSS” é aceito; não há outras opções. | Somente leitura, selecionado por padrão |
Bucket | Selecione o bucket OSS que armazena os arquivos do modelo; somente buckets com a tag bailian-datahub-access=read são listados. | Obrigatório, seleção na lista suspensa |
Diretório do modelo | Localize e selecione o subdiretório com o checkpoint do modelo no bucket escolhido; o diretório raiz não pode ser selecionado. | Obrigatório, seleção na árvore |
Criptografia do modelo | A plataforma ativa automaticamente a criptografia no servidor OSS (SSE-OSS) para os arquivos de modelo exportados, usando chaves OSS totalmente gerenciadas e o algoritmo AES256. | Somente leitura, imposto pela plataforma |
Próximas etapas
Gerenciar meus modelos
Na página Meus modelos, você pode visualizar todos os modelos ajustados e importados no espaço de trabalho atual, além de implantá-los e excluí-los.
Excluir: Remova a implantação antes de excluir o modelo. Se ele vier de Ajuste fino de modelos, a operação não excluirá os registros da interface de ajuste fino.
Estados e transições
Os estados são Criando, Criado, Falha na criação e Expirado. Criando indica importação em andamento; Criado indica que a importação terminou e o modelo está pronto para implantação; Falha na criação indica que a importação falhou; Expirado indica que os arquivos de origem no OSS mudaram após a criação do modelo. A lista é atualizada automaticamente em segundo plano a cada 3 segundos para modelos no estado Criando; isso é normal, não uma exceção da API.
Ao lado do estado Falha na criação, o link “Detalhes” mostra, ao passar o cursor, o código de erro (como AvailableModelFileNotFound) e o caminho oss://bucket/path correspondente para localizar o arquivo com falha.
No estado Expirado, passe o cursor para ver a mensagem “Foram detectadas atualizações nos seguintes arquivos” e a lista de arquivos de origem alterados, solicitando a reimportação.
Disponibilidade da coluna de ações
A coluna de ações de cada linha oferece três botões: Implantar, Treinamento incremental e Excluir. A disponibilidade depende do estado do modelo:
- Implantar: Disponível apenas no estado Criado; abre a página de criação da implantação. Consulte Implantação e operações. Em outros estados ou quando não há método de implantação disponível, o botão fica desabilitado.
- Treinamento incremental: Modelos importados do OSS não permitem treinamento incremental; o botão fica desabilitado.
- Excluir: Modelos no estado Criando não podem ser excluídos; modelos quantizados devem ser excluídos na página de compressão de modelos.
oss://bucket/path para OSS e o ID do trabalho de origem para treinamento (ou “Trabalho de treinamento excluído”, se removido). A coluna Métodos de implantação compatíveis exibe métodos de implantação, tags do método de treinamento (todos os parâmetros, LoRA ou quantização) e formas de cobrança (por token ou por unidade de modelo); quando não há método disponível, mostra “-”.
Todas as operações são feitas por modelo; exclusão e implantação em lote não são permitidas.
Invocar meus modelos
Os modelos oferecem inferência somente após uma implantação bem-sucedida (apenas via API). Para operações e cobrança, consulte Invocar após a implantação.
- Restrições de chave: Após implantar modelos ajustados no Alibaba Cloud Model Studio, invoque-os apenas com a chave de API do espaço de trabalho correspondente. Atualmente, somente chamadas DashScope são aceitas, não chamadas compatíveis com OpenAI.
- Otimizar resultados de inferência: Ao invocar, configure explicitamente os hiperparâmetros de inferência (como
presence_penalty,frequency_penaltyerepetition_penalty). Use os mesmos valores de inferência utilizados durante o ajuste fino offline.
Exemplos de arquivos de modelo
-
O ajuste fino LoRA normalmente gera dois checkpoints: best_model_checkpoint (melhor desempenho no conjunto de validação) e last_model_checkpoint (último checkpoint salvo). Importe qualquer um conforme necessário.
Inclua adapter_model.safetensors e adapter_config.json nos arquivos importados. Para aprender sobre LoRA, consulte a seção de ajuste fino no Curso ACP de grandes modelos de linguagem da Alibaba Cloud.
O diretório do checkpoint normalmente contém:
global_step100/(subdiretório),README.md,adapter_config.json,adapter_model.safetensors,additional_config.json,configuration.json,generation_config.json,latest,rng_state_0.ptherng_state_1.pth. - Os arquivos importados para ajuste fino de todos os parâmetros devem ser consistentes com os modelos de código aberto.
Perguntas frequentes
Como importar arquivos do OSS para o Model Studio pela primeira vez?
Como importar arquivos do OSS para o Model Studio pela primeira vez?
bailian-datahub-access ao bucket de destino antes de importar.Se você não conhece os conceitos e as diferenças entre a conta Alibaba Cloud e os usuários RAM, leia primeiro Gerenciamento de permissões.
- Usando uma conta Alibaba Cloud
- Usando um usuário RAM
- Clique em Ir para autorização. Após selecionar Importar do OSS em Método de importação, a página mostra “Você não autorizou o OSS”. Localize o link Ir para autorização à direita da mensagem.
-
Na caixa de diálogo, clique em Confirmar autorização. O sistema ativa automaticamente a Função vinculada ao serviço OSS, que é um pré-requisito.
Normalmente entra em vigor em poucos segundos. Em horários de pico, pode haver um pequeno atraso.
O que fazer se aparecer “Esta solicitação falhou. Tente reenviar ou contate o administrador. Código de erro: 10041495”.
-
Adicione a tag
bailian-datahub-accessao bucket OSS de destino.Essa tag identifica buckets acessíveis pelo Alibaba Cloud Model Studio. Buckets sem a tag não podem ser acessados.
- Acesse o Console de gerenciamento do OSS. Na navegação à esquerda, clique em Lista de buckets. Os buckets criados serão exibidos.
- Na coluna Tag do bucket de destino, passe o cursor sobre o ícone e clique em Ir para edição.
- Clique em Criar tag.
- Clique em Tag. Defina o nome como
bailian-datahub-accesse o valor comoread. Clique em Salvar.
-
Volte à interface Importar modelo, selecione novamente o bucket de destino e tente importar outra vez.
O Alibaba Cloud Model Studio não permite acessar arquivos no diretório raiz de um bucket. Selecione uma pasta existente ou crie uma no bucket para acesso.
O que fazer se ocorrer o erro "10041495"?
O que fazer se ocorrer o erro "10041495"?
- Com a conta Alibaba Cloud, acesse o Console de gerenciamento do OSS e ative o OSS conforme as instruções.
- Volte à interface Importar modelo do Alibaba Cloud Model Studio e tente autorizar novamente.
O que fazer quando a importação falha com AvailableModelFileNotFound?
O que fazer quando a importação falha com AvailableModelFileNotFound?
adapter_model.safetensors, adapter_config.json e config.json válidos e se atende às restrições de rank, vocabulário e chat_template. Selecione novamente o diretório e envie.O que significa o estado Expirado do modelo?
O que significa o estado Expirado do modelo?
O que fazer quando o bucket de destino não pode ser selecionado na lista suspensa?
O que fazer quando o bucket de destino não pode ser selecionado na lista suspensa?
bailian-datahub-access=read não podem ser selecionados. Adicione a tag ao bucket no console OSS e volte à página de importação para selecioná-lo novamente.A atualização automática da lista Meus modelos a cada poucos segundos é uma falha?
A atualização automática da lista Meus modelos a cada poucos segundos é uma falha?
Por que os resultados de inferência do modelo importado diferem dos de vLLM ou SGLang locais?
Por que os resultados de inferência do modelo importado diferem dos de vLLM ou SGLang locais?
Excluir um modelo importado afeta os arquivos de origem no OSS?
Excluir um modelo importado afeta os arquivos de origem no OSS?
bailian-datahub-access=read, e excluir o modelo não altera nenhum arquivo no OSS.Como migrar do método de autorização legado?
Como migrar do método de autorização legado?