La implementación de cómputo dedicado ofrece dos planes: Unidad de Rendimiento Dedicado (DTU) y Unidad de Modelo (MU), proporcionando recursos GPU dedicados para modelos específicos. DTU está dirigido a modelos recién lanzados (facturado por TPM de entrada/salida x duración); MU se usa para modelos existentes (facturado por cantidad de unidades de modelo x duración). Este documento presenta las características, facturación, flujo de uso y modelos admitidos de ambos planes.
Visión general
La implementación de cómputo dedicado proporciona recursos GPU dedicados y garantías de rendimiento para modelos específicos, admitiendo tanto la implementación de modelos base como personalizados. Bailian ofrece dos planes de cómputo dedicado:
- DTU (Unidad de Rendimiento Dedicado): Se vende por TPM de entrada/salida, proporcionando garantías de rendimiento más directas. Servicio de inferencia totalmente gestionado con recursos GPU subyacentes dedicados mantenidos por la plataforma.
- Model Unit (MU): Configura la potencia de cómputo por duración de uso y cantidad de unidades de modelo, con recursos dedicados. Admite métricas de rendimiento personalizadas y modo de desagregación PD. La granularidad de facturación es cantidad de unidades de modelo x duración.
- Recursos GPU dedicados; el entorno de inferencia está físicamente aislado de otros usuarios.
- Admite modelos base y modelos personalizados (modelos ajustados de Bailian o modelos cargados por el usuario).
- La plataforma mantiene las operaciones subyacentes, no es necesario gestionar GPUs.
- Sin límites proactivos de RPM/TPM; el tráfico está limitado por la capacidad real.
Selección de solución
Bailian ofrece múltiples planes de capacidad y facturación para llamadas de inferencia. DTU es adecuado para escenarios que requieren implementación dedicada, implementación de modelos ajustados, baja latencia con alta concurrencia o aislamiento de datos. Los planes se comparan en la tabla a continuación.
Para una comparación completa de todos los métodos de facturación, incluidos Token de pago por uso y PTU, consulte la tabla principal de Dedicated Deployment Overview.
Dimensión de comparación | DTU | PTU | Token de pago por uso | PAI/Lingjun |
|---|---|---|---|---|
Función | Cómputo dedicado + modelos ajustados | Garantía de rendimiento + baja latencia | Elástico y sin umbral | Runtime personalizado |
Aislamiento de recursos | Aislamiento físico | Aislamiento lógico | Pool compartido | Aislamiento físico |
Modelos ajustados | Parámetros completos + LoRA | No compatible | LoRA | Compatible |
Framework personalizado | No compatible | No compatible | No compatible | Compatible |
Modo de facturación | Cuota de TPM × duración | Cuota de TPM × duración | Uso de tokens | GPU × duración |
Reglas de facturación
- Facturación de DTU
- Facturación de MU
DTU se factura por separado por TPM de entrada y TPM de salida, utilizando un modelo de prepago (mensual). Cada modelo tiene TPM base de entrada/salida fijos (ver tabla a continuación), y debe adquirir en múltiplos enteros del TPM base. Adquiera al menos 1× TPM base tanto para entrada como para salida; para producción, se recomienda 2× o superior para cada uno.Las tarifas son calculadas por el backend según el modelo, TPM de entrada/salida, región de servicio y duración de la compra. Los precios unitarios de entrada/salida y el precio mensual para cada modelo se muestran en la tabla a continuación. Los precios unitarios se facturan por kTPM·mes, y el precio mensual es el total para 1× TPM base tanto de entrada como de salida. Los precios de modelos ajustados son los mismos que los del modelo base correspondiente, sujetos a lo que se muestre realmente en la consola.
Modelos admitidos y precios
- Precios y benchmarks de rendimiento de DTU
- Precios de MU
- Singapore
Modelo | Entrada base (TPM) | Salida base (TPM) | Precio unitario de entrada (USD/kTPM·mes) | Precio unitario de salida (USD/kTPM·mes) | Precio mensual (USD) |
|---|---|---|---|---|---|
qwen3.7-plus-2026-05-26 | 1,192,000 | 148,000 | 37 | 295 | 87,764 |
1,372,000 | 170,000 | 32 | 257 | 87,594 | |
660,000 | 124,000 | 66 | 352 | 87,208 | |
704,000 | 132,000 | 62 | 331 | 87,340 |
Los siguientes datos de referencia de rendimiento se midieron con una tasa de aciertos de caché de 0%. En el uso real, a medida que aumenta la tasa de aciertos de caché, el rendimiento del modelo mejora en consecuencia.
Modelo | Longitud de entrada | Longitud de salida | Tasa de aciertos de caché | Latencia del primer token (ms) | Latencia por token (ms) |
|---|---|---|---|---|---|
qwen3.7-plus-2026-05-26 | 16,000 | 2,000 | 0 | 888 | 10 |
16,000 | 2,000 | 0 | 2,418 | 15 | |
2,600 | 500 | 0 | 819 | 14 | |
2,600 | 500 | 0 | 970 | 13 |
Creación de implementación
- Creación de implementación DTU
- Configuración de implementación MU
Antes de usar DTU, habilite la función DTU en la consola y solicite una cuota de recursos. Una vez habilitada, seleccione el modelo objetivo en la página Dedicated Deployment de la consola Bailian y elija DTU como método de facturación para crear una implementación.Para el flujo de trabajo básico de implementación de modelos generales, consulte Dedicated Deployment Overview.Los campos del formulario para crear una implementación se muestran en la siguiente tabla.
Parámetro | Descripción | Obligatorio | Descripción del valor |
|---|---|---|---|
Service Name | Nombre del servicio de implementación | Sí | Personalizado |
Model | Modelo objetivo a implementar | Sí | Selección en menú desplegable |
Deployment Template | Arquitectura de implementación | No | Selección en menú desplegable, predeterminado al primero |
Payment Type | Método de facturación | Sí | Prepago (mensual) |
Input Throughput Quota | Capacidad de TPM de entrada adquirida | Sí | Múltiplo entero de la TPM de entrada base (kTPM) |
Output Throughput Quota | Capacidad de TPM de salida adquirida | Sí | Múltiplo entero de la TPM de salida base (kTPM) |
Purchase Duration | Periodo de compra | Sí | 1-12 (entero, meses) |
Auto Renewal | Renovación automática al vencimiento | No | Activado/Desactivado |
Single Renewal Duration | Requerido cuando la renovación automática está activada | Sí | 1-12 (entero, meses) |
Planificación de capacidad
DTU se vende por TPM de entrada/salida; el TPM adquirido define el máximo de tokens procesables por minuto. La planificación de capacidad tiene como objetivo derivar el múltiplo de compra a partir de la demanda pico de tokens de su negocio, y luego verificar mediante pruebas de carga que la concurrencia y latencia sostenibles reales cumplan con los requisitos. Las referencias de TPM base de entrada/salida y rendimiento bajo carga estándar para cada modelo se encuentran en las tablas anteriores.
Utilice una herramienta de pruebas de carga como evalscope para probar su escenario empresarial real (longitud de entrada/salida, concurrencia, requisitos de latencia) y luego determine el múltiplo de compra según la tabla de precios.
Método de planificación de capacidad
- Defina las métricas pico del negocio: longitud típica de tokens de entrada/salida por solicitud, concurrencia objetivo y requisitos de latencia del primer token (TTFT) y latencia de generación por token (TPOT).
- Estime la demanda de rendimiento pico: TPM de entrada pico ≈ concurrencia × longitud de entrada por solicitud ÷ tiempo de procesamiento por solicitud (minutos); TPM de salida pico ≈ concurrencia × longitud de salida por solicitud ÷ tiempo de generación por solicitud (minutos).
- Calcule el múltiplo de compra: múltiplo de entrada = ⌈TPM de entrada pico ÷ TPM de entrada base⌉, múltiplo de salida = ⌈TPM de salida pico ÷ TPM de salida base⌉. DTU requiere que la entrada y la salida escalen conjuntamente, por lo que debe tomar el mayor de los dos como múltiplo final.
- Verifique con pruebas de carga: después de adquirir el múltiplo calculado, vuelva a probar con evalscope bajo la carga de trabajo objetivo para confirmar que el rendimiento y la latencia reales cumplen con los requisitos del negocio. Si la latencia es alta, aumente la concurrencia dentro del margen de TPM para mejorar el rendimiento efectivo.
Escalado y renovación/cancelación
- Escalado y renovación/cancelación de DTU
- Escalado y renovación de MU
La lista de implementaciones muestra las cuotas de TPM de entrada/salida adquiridas; la página de detalles muestra los detalles de la capacidad de TPM.Escalado: Haga clic en "Scale" en la lista de implementaciones para modificar la capacidad de TPM de entrada/salida. Al escalar horizontalmente hacia arriba se muestra el monto adicional adeudado; al escalar hacia abajo se muestra el reembolso estimado. La entrada y la salida deben aumentarse o disminuirse juntas; una no puede aumentar mientras la otra disminuye. Solo se pueden operar implementaciones en ejecución.Renovación: Las implementaciones mensuales de prepago pueden renovarse al vencer. El botón de renovación en la página de detalles inicia el flujo de renovación, que admite un interruptor de renovación automática y una duración única de renovación.Cancelación de suscripción: Los pedidos mensuales de prepago admiten terminación anticipada; la parte utilizada se liquida con un coeficiente de 1.2x para el reembolso. Para más detalles, consulte Refund rules for configuration downgrades. La cancelación de la suscripción es irreversible; tras la cancelación, los recursos dedicados se liberan y el servicio se detiene.