Skip to main content
Começar

Limitação de taxa dinâmica

O Bailian aplica limitação de taxa dinâmica a alguns modelos. O valor do limite de TPM é ajustado mensalmente com base na sua faixa de consumo mensal no Bailian, e o TPM efetivamente disponível nunca será inferior ao valor desse limite.

Mecanismo de limitação de taxa dinâmica

O Bailian utiliza um mecanismo de limitação de taxa dinâmica para determinados modelos. Os pontos principais são:
  • Valor do limite: Definido por faixa conforme o valor do seu consumo mensal no Bailian. Funciona como linha de base garantida para throughput e passa por ajuste mensal.
  • Limitação flexível: Quando o volume de chamadas atinge o valor do limite, a limitação não é acionada se a plataforma ainda tiver recursos disponíveis. Assim, o TPM efetivamente disponível nunca é inferior ao valor do limite. É um comportamento esperado que o limite real observado durante as chamadas seja superior ao valor definido.
  • Granularidade do limite: Por conta + modelo. Os volumes de chamadas de todos os workspaces e API Keys vinculados a uma conta principal são agregados e contabilizados na cota de TPM dessa conta para o respectivo modelo, compartilhando o mesmo limite.
  • Workspace: Defina um valor de limite específico para um modelo dentro de um workspace. Workspaces sem configuração individual compartilham a cota no nível da conta.
  • RPM: No mecanismo de limitação dinâmica, o modelo possui um limite de RPM relativamente alto. Não é necessário configurá-lo separadamente, e a limitação de RPM não é acionada durante o uso normal.
  • Mais informações: Para conceitos básicos de RPM/TPM e detalhes por dimensão, consulte Rate limiting. Para configurações de limite de workspace, consulte Permission management.

Modelos e faixas de limite de taxa

O Bailian define sua faixa de limite de TPM com base no seu histórico de consumo. Para verificar o valor exato do limite, consulte a página de detalhes do modelo.
Caso o valor do limite de TPM não atenda às necessidades do seu negócio, entre em contato com seu gerente de contas para solicitar um aumento de cota.
  • Singapore
  • China (Beijing)

Modelos suportados

Faixas de limite de TPM

qwen3.8-max

2.000.000

5.000.000

10.000.000

qwen3.8-max-0902

1.500.000

1.500.000

1.500.000

deepseek-v4-pro-0813

1.200.000

5.000.000

10.000.000

Modelos e faixas de limite de taxa

O valor do limite de TPM é escalonado com base no valor de consumo mensal na plataforma Bailian. As faixas para os modelos suportados em diferentes regiões estão listadas abaixo (os valores podem variar conforme a exibição no console):
  • China (Beijing)
  • Singapore

Consumo mensal na plataforma Bailian

Valor do limite de TPM (qwen3.8-max)

Valor do limite de TPM (qwen3.8-max-0902)

Valor do limite de TPM (deepseek-v4-pro-0813)

≤ 100.000

5.000.000

1.500.000

1.200.000

(100.000, 1.000.000]

10.000.000

1.500.000

10.000.000

(1.000.000, +∞)

20.000.000

1.500.000

20.000.000

Por exemplo, em China (Beijing): se o consumo de uma conta no Bailian no mês civil anterior foi de 500.000, ela se enquadra na faixa (100.000, 1.000.000], correspondendo a um valor de limite de TPM de 10.000.000 para o qwen3.8-max.

Visualização de cotas

Acesse o console do Bailian. No painel de navegação à esquerda, escolha Quota management para acessar a página de gerenciamento de cotas. A página de gerenciamento de cotas é somente leitura e exibe os modelos com suporte a limitação de taxa dinâmica, o valor atual do limite de TPM e a faixa de consumo no Bailian.
Se o valor do limite de TPM não atender às necessidades do seu negócio, entre em contato com seu gerente de contas para solicitar um aumento de cota.
image

Estratégia de ajuste dinâmico de limites

As faixas de limite são ajustadas dinamicamente seguindo estas regras:
  • Base de escalonamento: Valor de consumo na plataforma Bailian.
  • Ciclo de cálculo: Baseado no ciclo de faturamento de mês civil.
  • Notificação: Os usuários afetados recebem um aviso no dia 10 de cada mês.
  • Data de vigência: A nova faixa entra em vigor no dia 15 de cada mês.
  • Direção do ajuste: De faixa inferior para superior (upgrade) ou manutenção da faixa atual.
Plano de Tokens
Playground de Modelos
  • Music generation
Inferência do Modelo
Avaliação
Compressão de Modelos
Estatísticas e Monitoramento
Suporte