Modelo de linguagem grande destilado baseado no Llama-3.1-70B e treinado com as saídas do DeepSeek R1.
Provedor de service de inferência
O Alibaba Cloud Model Studio é o provedor de service de inferência para deepseek-r1-distill-llama-70b.
Capacidades do modelo
Capacidade | Suporte | Capacidade | Suporte |
Modalidade de entrada | Text | Modalidade de saída | Text |
Experiência do modelo | Supported | Function Calling | Unsupported |
Saídas estruturadas | Unsupported | Pesquisa na web | Unsupported |
Conclusão de prefixo | Unsupported | Cache de contexto | Unsupported |
Inferência em lote | Unsupported | Fine-tuning | Unsupported |
Limites de contexto
Parâmetro | Valor | Parâmetro | Valor |
Comprimento máximo de entrada | 32.768 | Comprimento máximo de saída | 16.384 |
Janela de contexto | 32.768 |
Preços
Não há informações públicas de preços disponíveis.
Limites de taxa
- China (Beijing)
Parâmetro | Valor |
RPM (solicitações por minuto) | 60 |
TPM (tokens por minuto) | 100.000 |