Visualize o uso dos modelos do Alibaba Cloud Model Studio.
Para obter mais informações sobre cotas gratuitas, consulte New user free quota . Gerencie o uso da cota gratuita na página Free Quota .
Disponibilidade
- Regiões: Somente Singapura. Para obter mais informações, consulte Regiões e domínios de acesso.
- Modelos: Todos os modelos da Lista de modelos, incluindo modelos ajustados baseados neles.
- Escopo: O uso de Token e métricas semelhantes serve para verificação de custos e contabiliza apenas chamadas de modelo cobradas por Token no modo de pagamento conforme o uso. O uso para treinamento de modelo e chamadas por meio de unidades de throughput provisionadas ou unidades de throughput dedicadas não é incluído; a contagem de chamadas inclui chamadas de unidades de throughput provisionadas e dedicadas. O uso de ferramentas gerado por chamadas de modelo é contado separadamente.
Visualizar uso da cota gratuita
No console
- Acesse a página Free Quota e selecione uma aba de tipo de modelo para visualizar o uso da cota gratuita de cada modelo.
- Na tabela de modelos, localize modelos específicos usando busca, ordenação ou filtros. Ative ou desative o Free Quota Only individualmente ou em lote para gerenciar as configurações de cota gratuita.
Visualizar uso do modelo
Visualize o uso na página Model Usage. Os dados são agregados por workspace, não por conta da Alibaba Cloud. Para obter mais informações, consulte Como visualizo o uso total de tokens da minha conta da Alibaba Cloud?. A contagem de chamadas geralmente apresenta latência menor do que outras métricas de uso: a contagem de chamadas pode aparecer cerca de 1 minuto após uma chamada, enquanto o uso de tokens e os custos podem levar cerca de 10 minutos para serem atualizados. A contagem de chamadas não é exibida para inferência em lote offline ou inferência em lote online.
- Selecione um período estatístico e um intervalo de tempo. É possível visualizar os dados por minuto, hora, dia ou mês: minuto suporta até 1 dia, hora até 7 dias, dia até 31 dias e mês até 12 meses. Ao visualizar dados por minuto ou hora, o agrupamento não é suportado no gráfico de tendência.
- Selecione uma dimensão de agrupamento: por modelo, API Key, workspace, região, local de serviço ou especificação. A especificação inclui fatores que afetam o preço unitário, como entrada/saída/acertos de cache, comprimento de contexto, modo de raciocínio e resolução de geração de vídeo.
- Filtre por modelo, API Key, workspace, região, local de serviço, origem da chamada e tipo de inferência. Os tipos de inferência incluem inferência online, inferência em lote offline (Batch File) e inferência em lote online (Batch Chat). Se o workspace não tiver dados de uso em lote, apenas a inferência online será exibida.
- Visualize os cartões de métricas: Call Count, Tokens Usage, Image Count, Video/Audio Duration, Speech Synthesis Characters, Tool Call Count e outros. Os cartões são agregados por unidade de faturamento. Por exemplo, modelos de texto e modelos omni são cobrados por Token, portanto, o uso é contabilizado em Tokens Usage. Alterne entre Total e Average per Call. Average per Call é o uso dividido pelas chamadas bem-sucedidas.
- Na tabela Model Usage Details, visualize o tipo de modelo, a contagem de chamadas, o uso do modelo e o uso de ferramentas de cada modelo. Clique em Details para visualizar o resumo e a tendência dos diferentes tipos de uso e do uso de ferramentas do modelo. Clique em View Cost para visualizar o valor a pagar pelo uso.
- A seção Total Successful Calls na parte inferior lista todos os modelos em ordem decrescente de contagem de chamadas. É possível visualizá-la em tela cheia e baixar os dados.
- A contagem de falhas, a taxa de falhas, a contagem de erros de limitação e a contagem de interceptações de segurança de conteúdo foram movidas para a página Model monitoring e não são mais exibidas nos detalhes de uso do modelo.
- A categoria anterior de inferência em lote agora é dividida em inferência em lote offline (Batch File) e inferência em lote online (Batch Chat).
Visualizar visão geral de faturamento
Na página Cost Overview, visualize os custos de chamadas de modelo e treinamento de modelo, incluindo o custo total, o custo de assinatura, o custo da fatura e a tendência da fatura. Para obter detalhes, consulte Faturamento e gestão de custos.
Unidades de uso
No Model Studio, as estatísticas de uso para diferentes modelos são:
Tipo | Subcategoria | Unidade | Faturamento (invocação) |
|---|---|---|---|
Modelo de linguagem grande | Text generation | Faturado pelo número de tokens de entrada e saída. | |
Modelo visual | Image generation | Imagens | Faturado pelo número de imagens geradas com sucesso. |
Segundos | Faturado pelo número de segundos de vídeo gerados com sucesso. | ||
Modelo de fala | Segundo, caractere ou token | Pode ser faturado por duração de áudio (segundos), caracteres de texto correspondentes ou tokens, dependendo do modelo. | |
Modelo omni-modal | Token | O texto é faturado pela contagem de tokens. Outras modalidades (áudio, imagem, vídeo) são faturadas pelas respectivas contagens de tokens. | |
Modelo de embedding | Token | Faturado pelo número de tokens no texto de entrada. | |
Embedding de texto |
Entrando em produção
Recomendações para gerenciar o uso de modelos:
- Controle o comprimento da saída do modelo: Limite o comprimento máximo do conteúdo gerado por invocação e, consequentemente, controle os custos definindo adequadamente limiting the thinking length e configurando o parâmetro max_tokens.
- Selecione modelos com base no tipo de tarefa: Para tarefas simples, como categorização e resumo, priorize modelos leves e de menor custo em vez de modelos poderosos, porém mais caros.
- Monitoramento e alertas: Monitor usage trends. Configure alertas de uso para receber notificações oportunas sobre usos anormais.
- Otimize os prompts: Prompts concisos e claros melhoram a qualidade da saída do modelo e reduzem tokens de entrada desnecessários.
- Utilize inferência em lote: Para tarefas de processamento em grandes lotes e sem necessidade de tempo real, batch inference costuma ser mais econômico do que a invocação em tempo real.
Glossário
Termo | Explicação |
|---|---|
Token | Os modelos de linguagem grande processam entrada e saída em tokens. Um token pode ser:
Com base na experiência, em média, 1 Token corresponde a aproximadamente 1,5-2 caracteres chineses; 1 letra inglesa corresponde a aproximadamente 0,25 Tokens; 1 palavra inglesa corresponde a aproximadamente 1,3 Tokens:
Cada modelo possui uma contagem máxima de tokens de entrada e saída (consulte Model list). Exceder esse limite causa falha. |
Inferência online | Refere-se a todas as invocações diretas e indiretas de um modelo, cobrindo principalmente os seguintes cenários:
|
Inferência em lote offline (Batch File) | Processamento de dados em larga escala realizado offline para cenários que não exigem respostas em tempo real, usando a API OpenAI-compatible - Batch (file input). |
Inferência em lote online (Batch Chat) | Chamadas em lote online feitas por meio da API Batch Chat. |
Perguntas frequentes
P: Como visualizo o uso total de tokens da minha conta Alibaba Cloud?
R: Use sua conta Alibaba Cloud para acessar a página Bill Details e exporte a fatura.
@props:china
Na página Real-time, filtre e exporte a fatura:
- Defina o Batches para o mês desejado (como
2025-05). - Em Bill Details, selecione Billing Month.
- Clique em no ícone de download no canto superior direito da tabela para exportar os dados de faturamento.
Por que os gráficos ou os detalhes mostram "-" ou valores vazios?
Por que os gráficos ou os detalhes mostram "-" ou valores vazios?
- Um "-" pode indicar que o modelo não suporta a métrica.
- Os dados de uma dimensão específica apresentam atraso. Logo após uma chamada, o valor pode aparecer como "-" e mudar para o valor real após alguns minutos ou mais.
- Uma API Key vazia geralmente indica que a chamada veio do console.
- Para chamadas feitas por meio do Batch Chat, os dados relacionados ao ID da API Key ficam vazios.
- As informações de região ficam vazias para alguns modelos.
- O método de invocação fica vazio para modelos de fala.