Skip to main content

Meus modelos

Gerencie modelos ajustados no Alibaba Cloud Model Studio e modelos importados após ajuste fino local (apenas LoRA ou de todos os parâmetros). Este guia abrange a autorização inicial do OSS, a preparação e validação dos arquivos do modelo, o preenchimento do formulário de importação, o gerenciamento de estados e a solução de problemas comuns. Esses modelos permitem implantação na nuvem e oferecem inferência com alta simultaneidade e baixa latência.

Modelos compatíveis

Na página Meus modelos, você pode gerenciar os dois tipos de modelos a seguir:
  • Modelos ajustados: Modelos submetidos a ajuste fino no Alibaba Cloud Model Studio. Para obter detalhes, consulte Modelos compatíveis com ajuste fino.
  • Modelos importados: Modelos importados do Object Storage Service (OSS). É possível importar modelos ajustados com LoRA ou com todos os parâmetros.
    A importação de modelos ajustados com todos os parâmetros é um recurso sujeito a lista de permissão. Para habilitá-lo, entre em contato com seu gerente de conta.
    Lista de modelos:
    • China (Pequim)
    • Singapura

    Modelos compatíveis

    Nome do modelo

    Qwen3

    Qwen3-32B

    Qwen3

    Qwen3-14B

    Qwen3

    Qwen3-8B

    Qwen3

    Qwen3-4B-Instruct-2507

    Qwen3-VL

    Qwen3-VL-8B-Instruct

    Qwen2.5

    Qwen2.5-72B-Instruct

    Qwen2.5

    Qwen2.5-32B-Instruct

    Qwen2.5

    Qwen2.5-14B-Instruct

    Qwen2.5

    Qwen2.5-7B-Instruct

    Qwen2.5-VL

    Qwen2.5-VL-72B-Instruct

    Qwen2.5-VL

    Qwen2.5-VL-7B-Instruct

    As atualizações dos dados podem sofrer atrasos. Consulte as informações exibidas na interface ao importar modelos.

Importar modelos

Esta seção descreve como importar modelos do OSS usando o console do Alibaba Cloud Model Studio.
Não é possível importar modelos por API ou linha de comando.
  1. Na página Meus modelos, clique em Importar modelo para abrir a interface de importação.
  2. Informe um Nome do modelo e selecione o Modelo base (o modelo a ser ajustado).
  3. Em Método de importação, selecione Importar do OSS. Atualmente, não há outros métodos disponíveis. Envie manualmente os arquivos do modelo ajustado com LoRA ou com todos os parâmetros para o Alibaba Cloud Object Storage Service (OSS). Enviar arquivos Ver exemplos de arquivos do modelo
    • Na primeira importação, conclua a autorização conforme indicado na interface e adicione uma tag ao bucket de destino. Para obter detalhes, consulte Como importar arquivos do OSS para o Model Studio pela primeira vez?.
    • As classes de armazenamento compatíveis dos buckets OSS não incluem Archive, Cold Archive nem Deep Cold Archive. Buckets criptografados e privados são compatíveis.
    • Não é possível acessar arquivos no diretório raiz de um bucket OSS. Selecione um subdiretório existente ou crie um no bucket OSS para acesso pelo Alibaba Cloud Model Studio.
    • É possível importar arquivos de modelo de qualquer tamanho. Após a importação, eles usam o espaço de armazenamento gratuito fornecido pelo Alibaba Cloud Model Studio.
  4. Ao clicar em OK, o sistema começa a importar o modelo. Em horários de pico, o processo pode demorar mais. Aguarde sua conclusão.

Preparar arquivos de modelo LoRA

Antes da importação, coloque os arquivos do modelo LoRA em um subdiretório de um bucket OSS (o diretório raiz não é aceito) conforme os requisitos a seguir e passe pela validação automática antes de enviar. Os arquivos devem ficar diretamente no subdiretório selecionado; o sistema os detecta automaticamente.

Arquivos obrigatórios e estrutura de diretórios

O subdiretório deve conter: adapter_model.safetensors (pesos do adaptador LoRA em formato SafeTensors), adapter_config.json (configuração com parâmetros como rank e alpha) e config.json (configuração do modelo base). Após selecionar um diretório, o sistema valida automaticamente o formato e a integridade desses arquivos.

Restrições dos parâmetros de treinamento

  • Valores de rank: O rank deve ser 8, 16, 32 ou 64, e todas as camadas LoRA do mesmo modelo devem usar o mesmo valor; caso contrário, o modelo não pode ser importado.
  • O vocabulário não pode ser alterado: Modelos que adicionaram tokens ou alteraram o vocabulário original durante o treinamento não podem ser importados; o vocabulário deve ser idêntico ao do modelo base.
  • O template de chat não pode ser alterado: Modelos que modificaram chat_template durante o treinamento não podem ser importados; ele deve corresponder à configuração padrão do modelo base. O chat_template fica no campo chat_template de config.json ou tokenizer_config.json.
  • Modelos de visão e linguagem devem congelar o VIT: A parte Vision Transformer deve ser congelada. Se o adaptador LoRA contiver parâmetros de peso relacionados à visão (VIT não congelado), o modelo não poderá ser importado.
Antes de importar, execute o script a seguir para verificar se adapter_model.safetensors contém chaves de parâmetros que começam com visual e determinar se o VIT está congelado.
from safetensors import safe_open
import argparse

def print_safetensor_structure(file_path):
    print(f"Loading safetensor file: {file_path}")
    print("="*80)

    with safe_open(file_path, framework="pt") as f:
        keys = f.keys()
        print(f"Found {len(keys)} tensors in the file:\n")

        for key in sorted(keys):
            tensor = f.get_tensor(key)
            shape = tuple(tensor.shape)
            dtype = str(tensor.dtype)
            device = tensor.device if hasattr(tensor, 'device') else 'cpu'

            lora_tag = " [LoRA]" if "lora_A" in key or "lora_B" in key else ""

            print(f"[{dtype:>14}] {shape} | {key} {lora_tag}")

if __name__ == "__main__":
    parser = argparse.ArgumentParser(description="Print structure of a .safetensors LoRA adapter.")
    parser.add_argument("filepath", type=str, help="Path to the .safetensors file")
    args = parser.parse_args()

    print_safetensor_structure(args.filepath)
Interpretação: Se a saída contiver chaves que começam com visual (por exemplo, visual.encoder.layer.0...), o VIT não está congelado e o modelo não pode ser importado. Se houver apenas chaves LoRA, como lora_A e lora_B, o VIT está congelado e o modelo pode ser importado normalmente.

Validação automática antes do envio

Após selecionar um diretório na página Importar modelo, o sistema chama automaticamente a API de validação para verificar o formato e a integridade dos arquivos. Se a validação falhar, uma mensagem vermelha aparece abaixo do campo e impede o envio; corrija os arquivos conforme indicado. Uma causa comum é a ausência de arquivos obrigatórios, com o código AvailableModelFileNotFound.

Campos do formulário de importação

O formulário de importação de modelos contém os seguintes campos:

Campo

Descrição

Restrição

Nome do modelo

Informe um nome de exibição para o modelo.

Obrigatório, até 50 caracteres

Modelo base

Selecione o modelo base usado no treinamento LoRA; ele deve corresponder à base do treinamento.

Obrigatório, seleção na lista suspensa

Método de treinamento

As opções dependem do modelo base selecionado; elas aparecem automaticamente após a seleção, com a primeira selecionada por padrão.

Obrigatório, seleção na lista suspensa

Origem da importação

Somente “Importar do OSS” é aceito; não há outras opções.

Somente leitura, selecionado por padrão

Bucket

Selecione o bucket OSS que armazena os arquivos do modelo; somente buckets com a tag bailian-datahub-access=read são listados.

Obrigatório, seleção na lista suspensa

Diretório do modelo

Localize e selecione o subdiretório com o checkpoint do modelo no bucket escolhido; o diretório raiz não pode ser selecionado.

Obrigatório, seleção na árvore

Criptografia do modelo

A plataforma ativa automaticamente a criptografia no servidor OSS (SSE-OSS) para os arquivos de modelo exportados, usando chaves OSS totalmente gerenciadas e o algoritmo AES256.

Somente leitura, imposto pela plataforma

Os estados dos modelos importados incluem Criando (importação em andamento), Criado (pronto para implantação), Falha na criação (falha na importação) e Expirado (arquivos de origem alterados).

Próximas etapas

Gerenciar meus modelos

Na página Meus modelos, você pode visualizar todos os modelos ajustados e importados no espaço de trabalho atual, além de implantá-los e excluí-los.
Excluir: Remova a implantação antes de excluir o modelo. Se ele vier de Ajuste fino de modelos, a operação não excluirá os registros da interface de ajuste fino.

Estados e transições

Os estados são Criando, Criado, Falha na criação e Expirado. Criando indica importação em andamento; Criado indica que a importação terminou e o modelo está pronto para implantação; Falha na criação indica que a importação falhou; Expirado indica que os arquivos de origem no OSS mudaram após a criação do modelo. A lista é atualizada automaticamente em segundo plano a cada 3 segundos para modelos no estado Criando; isso é normal, não uma exceção da API. Ao lado do estado Falha na criação, o link “Detalhes” mostra, ao passar o cursor, o código de erro (como AvailableModelFileNotFound) e o caminho oss://bucket/path correspondente para localizar o arquivo com falha. No estado Expirado, passe o cursor para ver a mensagem “Foram detectadas atualizações nos seguintes arquivos” e a lista de arquivos de origem alterados, solicitando a reimportação.

Disponibilidade da coluna de ações

A coluna de ações de cada linha oferece três botões: Implantar, Treinamento incremental e Excluir. A disponibilidade depende do estado do modelo:
  • Implantar: Disponível apenas no estado Criado; abre a página de criação da implantação. Consulte Implantação e operações. Em outros estados ou quando não há método de implantação disponível, o botão fica desabilitado.
  • Treinamento incremental: Modelos importados do OSS não permitem treinamento incremental; o botão fica desabilitado.
  • Excluir: Modelos no estado Criando não podem ser excluídos; modelos quantizados devem ser excluídos na página de compressão de modelos.
Ao clicar em Excluir e confirmar, somente o registro do modelo no Model Studio é removido; os arquivos de origem no OSS não são afetados. A caixa de pesquisa no topo filtra modelos por nome e permite limpar/redefinir a busca. A coluna Origem mostra a fonte da importação: oss://bucket/path para OSS e o ID do trabalho de origem para treinamento (ou “Trabalho de treinamento excluído”, se removido). A coluna Métodos de implantação compatíveis exibe métodos de implantação, tags do método de treinamento (todos os parâmetros, LoRA ou quantização) e formas de cobrança (por token ou por unidade de modelo); quando não há método disponível, mostra “-”. Todas as operações são feitas por modelo; exclusão e implantação em lote não são permitidas.

Invocar meus modelos

Os modelos oferecem inferência somente após uma implantação bem-sucedida (apenas via API). Para operações e cobrança, consulte Invocar após a implantação.
  • Restrições de chave: Após implantar modelos ajustados no Alibaba Cloud Model Studio, invoque-os apenas com a chave de API do espaço de trabalho correspondente. Atualmente, somente chamadas DashScope são aceitas, não chamadas compatíveis com OpenAI.
  • Otimizar resultados de inferência: Ao invocar, configure explicitamente os hiperparâmetros de inferência (como presence_penalty, frequency_penalty e repetition_penalty). Use os mesmos valores de inferência utilizados durante o ajuste fino offline.

Exemplos de arquivos de modelo

  • O ajuste fino LoRA normalmente gera dois checkpoints: best_model_checkpoint (melhor desempenho no conjunto de validação) e last_model_checkpoint (último checkpoint salvo). Importe qualquer um conforme necessário. Inclua adapter_model.safetensors e adapter_config.json nos arquivos importados. Para aprender sobre LoRA, consulte a seção de ajuste fino no Curso ACP de grandes modelos de linguagem da Alibaba Cloud. O diretório do checkpoint normalmente contém: global_step100/ (subdiretório), README.md, adapter_config.json, adapter_model.safetensors, additional_config.json, configuration.json, generation_config.json, latest, rng_state_0.pth e rng_state_1.pth.
  • Os arquivos importados para ajuste fino de todos os parâmetros devem ser consistentes com os modelos de código aberto.

Perguntas frequentes

Ao importar arquivos do OSS para o Alibaba Cloud Model Studio pela primeira vez, conclua a autorização conforme a interface e adicione a tag bailian-datahub-access ao bucket de destino antes de importar.
Se você não conhece os conceitos e as diferenças entre a conta Alibaba Cloud e os usuários RAM, leia primeiro Gerenciamento de permissões.
  • Usando uma conta Alibaba Cloud
  • Usando um usuário RAM
  1. Clique em Ir para autorização. Após selecionar Importar do OSS em Método de importação, a página mostra “Você não autorizou o OSS”. Localize o link Ir para autorização à direita da mensagem.
  2. Na caixa de diálogo, clique em Confirmar autorização. O sistema ativa automaticamente a Função vinculada ao serviço OSS, que é um pré-requisito.
    Normalmente entra em vigor em poucos segundos. Em horários de pico, pode haver um pequeno atraso.
    O que fazer se aparecer “Esta solicitação falhou. Tente reenviar ou contate o administrador. Código de erro: 10041495”.
  3. Adicione a tag bailian-datahub-access ao bucket OSS de destino.
    Essa tag identifica buckets acessíveis pelo Alibaba Cloud Model Studio. Buckets sem a tag não podem ser acessados.
    1. Acesse o Console de gerenciamento do OSS. Na navegação à esquerda, clique em Lista de buckets. Os buckets criados serão exibidos.
    2. Na coluna Tag do bucket de destino, passe o cursor sobre o ícone e clique em Ir para edição.
    3. Clique em Criar tag.
    4. Clique em Tag. Defina o nome como bailian-datahub-access e o valor como read. Clique em Salvar.
  4. Volte à interface Importar modelo, selecione novamente o bucket de destino e tente importar outra vez.
    O Alibaba Cloud Model Studio não permite acessar arquivos no diretório raiz de um bucket. Selecione uma pasta existente ou crie uma no bucket para acesso.
Isso normalmente ocorre porque a conta Alibaba Cloud não ativou o Object Storage Service (OSS). Siga estas etapas:
  1. Com a conta Alibaba Cloud, acesse o Console de gerenciamento do OSS e ative o OSS conforme as instruções.
  2. Volte à interface Importar modelo do Alibaba Cloud Model Studio e tente autorizar novamente.
Esse erro indica que a validação dos arquivos falhou por problemas de formato ou integridade, e reenviá-los simplesmente não resolve. Verifique se o diretório contém adapter_model.safetensors, adapter_config.json e config.json válidos e se atende às restrições de rank, vocabulário e chat_template. Selecione novamente o diretório e envie.
Expirado indica que os arquivos de origem no OSS mudaram após a criação bem-sucedida do modelo. É uma detecção normal, não uma falha. Passe o cursor sobre o estado para ver os arquivos alterados. Reimporte o modelo para voltar a utilizá-lo.
Isso é um requisito de autorização, não uma falha. No novo método, buckets sem a tag bailian-datahub-access=read não podem ser selecionados. Adicione a tag ao bucket no console OSS e volte à página de importação para selecioná-lo novamente.
Não. Quando há modelos no estado Criando, a lista é atualizada em segundo plano a cada 3 segundos para obter o estado mais recente. A atualização para automaticamente quando não há mais modelos nesse estado. Isso é normal.
Para alinhar os parâmetros de inferência, consulte o Guia de implantação de API.
Não. A exclusão remove apenas o registro no Model Studio; para restaurá-lo, reimporte o modelo. Os arquivos de origem no OSS pertencem a você; o Model Studio apenas os lê por meio da tag bailian-datahub-access=read, e excluir o modelo não altera nenhum arquivo no OSS.
Se você usava o método legado, a página de importação mostra abaixo do campo Bucket: “Recomendamos mudar para o novo método de autorização de buckets para aumentar a segurança”, com o link “Mudar agora”. Clique nele e confirme na caixa de diálogo para migrar para a autorização por função vinculada ao serviço. A migração não afeta os dados existentes.