reserva de TPM

​

Visión general

• Garantía de capacidad: La capacidad TPM reservada está dedicada a su carga de trabajo y no se comparte con otros usuarios.
• Código de modelo dedicado: Después de crear una reserva de rendimiento, el sistema genera automáticamente un código de modelo dedicado. Debe reemplazar el parámetro model en sus solicitudes de API con este código.
• Estrategia de desbordamiento: Al crear una reserva, puede elegir cómo gestionar el tráfico excedente: desbordamiento automático a pago por uso (predeterminado, sin interrupción del servicio) o usar solo capacidad reservada (las solicitudes excedentes devuelven 429, sin cargos adicionales).
• Paquete de capacidad adicional: Adquiera instancias de capacidad adicionales además de una reserva existente. Las nuevas instancias comparten el mismo código de modelo dedicado, y la capacidad total reservada aumenta en consecuencia tras la adición. Para más información, consulte Operaciones de administración.
• Reserva con ventana de tiempo de 8 horas: En el modo Estándar, puede elegir un plan prepago (por ventana de tiempo de 8 horas) con una duración fija de 8 horas y efecto inmediato, adecuado para escenarios donde la carga se concentra en ventanas de tiempo específicas. Para más información, consulte Facturación de reserva de rendimiento.

​

Comparar y seleccionar un plan

​

Modelos admitidos

​

Notas de facturación y uso

• La facturación comienza una vez que el despliegue se realiza correctamente: los cargos por capacidad se facturan según la cantidad comprada, se aplican independientemente de si se realizan llamadas o no y no se reducen en función del uso real (se generan íntegramente aunque no se realice ninguna llamada). Las llamadas dentro de la capacidad reservada no generan cargos adicionales; el importe se abona en un único pago por adelantado y la reserva entra en vigor de forma continua desde el momento en que la compra se completa correctamente. Consulte la consola de Bailian para ver los cargos reales.
• Para conocer las reglas de facturación y las restricciones de venta de las reservas con ventana de tiempo de 8 horas (facturadas por ventana de tiempo de 8 horas), consulte Facturación de reserva de rendimiento.
• Cuando la política de desbordamiento es "Desbordamiento automático": las solicitudes que exceden la cuota pasan a la facturación estándar de pago por uso sin interrupción del servicio. Puede ver el recuento de degradaciones en la página de detalles en Estadísticas de degradación por desbordamiento. Cuando se establece en "Solo capacidad reservada": las solicitudes que exceden la cuota devuelven 429 y no generan cargos adicionales.
• Dentro de las 2 horas posteriores al vencimiento del servicio, la instancia aún puede ser llamada y renovada; desde 2 hasta 14 horas después del vencimiento, se detiene, no puede ser llamada, pero aún puede renovarse; después de 14 horas, se libera y no puede recuperarse. (Aplica a reservas diarias; las reservas con ventana de tiempo de 8 horas no son elegibles para este periodo de gracia. Consulte Facturación de reserva con ventana de tiempo de 8 horas)

​

Crear una reserva de rendimiento

En la página Crear reserva de rendimiento, rellene secuencialmente parámetros como el nombre de la reserva, modelo, ciclo de facturación, TPM de entrada, TPM de salida, duración de la compra, renovación automática al vencer y política de desbordamiento. El lado derecho de la página proporciona una calculadora de capacidad TPM para ayudar con la estimación.

1. Complete los siguientes parámetros:

   Parámetro	Descripción	Obligatorio	Descripción del valor
   Reservation name	Nombre personalizado para identificación.	Sí	≤ 50 caracteres
   Select model	Seleccione el modelo para el cual desea reservar capacidad. Se genera automáticamente un código de modelo dedicado al enviar la solicitud.	Sí	Solo están disponibles los modelos que admiten reserva de rendimiento; consulte lo que se muestra en la consola.
   Performance mode	Nivel de rendimiento de inferencia, que determina la capacidad de rendimiento de una sola instancia.	Sí	Modo estándar (mismo TPS que la API estándar) / Modo de alta velocidad (equivalente al despliegue de modelos PTU, con una mejora de 1.5-2x en TPS respecto a la API estándar)
   Billing cycle	Ciclo de facturación.	Sí	Por día; por ventana de tiempo de 8 horas (solo Modo estándar, 8 horas fijas, efecto inmediato; para más información, consulte Facturación de reserva de rendimiento)
   Input TPM	Rendimiento de entrada reservado, en kTPM (1 kTPM = 1,000 tokens/minuto).	Sí	El valor inicial y el incremento varían según el modelo; consulte lo que se muestra en la consola.
   Output TPM	Throughput de salida reservado, en kTPM.	Sí	El valor inicial y el incremento varían según el modelo; consulte lo que se muestra en la consola.
   Purchase duration	Duración válida de la reserva.	Sí	Introduzca el número de días en el campo de entrada. Valores admitidos: 1-30, 60, 90, 120, 365 días.
   Auto-renewal on expiry	Deduce automáticamente el pago y renueva un día antes del vencimiento (para reglas de ejecución, consulte Facturación de reserva de rendimiento). Activado de forma predeterminada. La opción Por ventana de tiempo de 8 horas no admite renovación; este parámetro no aplica.	No	Activado / Desactivado
   Single renewal duration	Duración de cada renovación automática.	No	Introduzca el número de días en el campo de entrada. El rango de valores es el mismo que el de la duración de la compra.
   Overflow policy	Cómo se gestionan las solicitudes que superan la capacidad reservada cuando esta se agota.	Sí	Desbordamiento automático a pago por uso por token (predeterminado; el desbordamiento cambia a pago por uso, sin interrupción del servicio) / Solo capacidad reservada (el desbordamiento devuelve 429, sin cargos adicionales)

2. Tras confirmar los parámetros, haga clic en Buy now. En el cuadro de diálogo de confirmación de tarifas, verifique los cargos y haga clic en Confirm payment.
3. En la pestaña Overview de la página de detalles de la reserva de rendimiento, busque el Código de modelo dedicado y haga clic en copiar.
4. Reemplace el parámetro model en su solicitud de API con el código de modelo dedicado copiado:

   Requisito previo: se ha creado una instancia de reserva de rendimiento y su estado es En ejecución.

   El parámetro thinking_budget de GLM-5.2 (que limita la longitud del razonamiento) no surte efecto al realizar la llamada.

# Cuando el volumen de solicitudes aumenta rápidamente en un corto periodo, el sistema necesita un breve precalentamiento para adaptarse a la potencia de cómputo requerida.
# Durante el precalentamiento, algunas solicitudes pueden experimentar fluctuaciones de latencia; la estabilidad se recupera una vez completado el precalentamiento.
# Asegúrese de contar con mecanismos de cola de solicitudes o de reintento.

import dashscope

client = dashscope.Client(api_key="your-api-key")

response = client.chat.completions.create(
    model="your-dedicated-model-code",   # Reemplace con el código de su modelo dedicado
    messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)

# When the request volume surges within a short period, the system needs a brief warm-up to match the required compute.
# During warm-up, some requests may experience latency fluctuations. Stability recovers after warm-up completes.
# Ensure you have request queuing or retry mechanisms in place.
curl -X POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions \
  -H "Authorization: Bearer $DASHSCOPE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"your-dedicated-model-code","messages":[{"role":"user","content":"Hello"}]}'

​

Calculadora de capacidad TPM

​

Ver y administrar

En la página de reserva de rendimiento, cada tarjeta de modelo muestra el recuento de reservas activas, el TPM de entrada/salida reservado y la proporción pico. La tabla de lista de reservas contiene columnas como ID de reserva, TPM de entrada/salida, estado y método de facturación (por día, por ventana de tiempo de 8 horas, por hora, etc.)·hora de vencimiento, y admite filtrado por modelo, tiempo y estado.

​

Detalles de la reserva

• Descripción general
• Monitoreo
• Acceso a la API

• Información básica: nombre de la reserva, código de modelo dedicado (copiable), modelo base, capacidad de entrada/salida.
• Tarjetas de estadísticas (últimos 7 días): recuento de reservas activas, uso total y máximo de TPM, utilización promedio.
• Tendencia de utilización: alterne entre las direcciones de entrada/salida; muestra la línea de capacidad reservada y el uso real.
• Estadísticas de degradación por desbordamiento: muestra el número de solicitudes degradadas tras superar la capacidad reservada (la degradación solo ocurre bajo la política "Desbordamiento automático").

Proporciona datos detallados de supervisión en tiempo de ejecución: utilización, uso de cuota (entrada/salida), número de llamadas dentro y fuera de la cuota y volumen de aciertos de caché; para las reservas con ventana de tiempo de 8 horas, muestra adicionalmente la utilización del paquete dentro de la ventana de 8 horas. Para más detalles, consulte: Supervisión de modelos.

Muestra el código de modelo dedicado y ejemplos de invocación.

​

Operaciones de administración

• Paquete de capacidad adicional
• Escalado
• Renovación
• Cancelar suscripción

La página de reserva de rendimiento gestiona centralizadamente dos tipos de instancias de capacidad: reservas de TPM y PTU (Unidades de Rendimiento Aprovisionado). Los paquetes de capacidad adicional aplican a ambos. En el área "Instancias de capacidad activas" de una tarjeta objetivo en la página de lista de reservas, haga clic en Add-on capacity package para adquirir instancias de capacidad adicionales sobre una reserva existente. Después de la adición, la capacidad total de la reserva equivale a la suma de la reserva base y todos los paquetes de capacidad adicional. El código de modelo dedicado permanece sin cambios y no se requieren modificaciones en las llamadas a la API.La parte superior del cuadro de diálogo muestra la siguiente información sobre la reserva base:

• Código de modelo dedicado, modelo base, modo de rendimiento (Modo estándar/Modo de alta velocidad) y política de desbordamiento: heredados de la reserva base y no se pueden modificar.
• Paquetes de capacidad existentes: el número de paquetes de capacidad añadidos actualmente.

Complete los siguientes parámetros de compra:

Parámetro	Descripción	Obligatorio	Descripción del valor
Billing cycle	El ciclo de facturación del paquete de capacidad adicional está restringido por el método de facturación de la reserva base: si la base es prepago, solo se pueden seleccionar paquetes adicionales prepagos; si la base es de pago por uso, se pueden seleccionar paquetes adicionales prepagos o de pago por uso. El modo de alta velocidad admite pago por uso o suscripción; el modo estándar admite solo suscripción (por día o por ventana de tiempo de 8 horas).	Sí	Pago por uso/por hora / Suscripción/por día / Suscripción/por ventana de tiempo de 8 horas (solo modo Estándar; la capacidad aumenta dentro de la ventana y deja de ser válida fuera de ella; para consultar las reglas, véase Facturación de reserva de rendimiento)
Input capacity	Throughput de entrada adicional, en kTPM.	Sí	Comenzando en 10 kTPM, en incrementos de 10 kTPM.
Output capacity	Throughput de salida adicional, en kTPM.	Sí	Comenzando en 1 kTPM, en incrementos de 1 kTPM.
Purchase duration	Duración válida del paquete de capacidad adicional. Requerido solo para Suscripción/por día; Pago por uso/por hora se factura según la duración real y no requiere este campo.	Sí	1~30, 60, 90, 120, 365 días.
Auto-renewal on expiry	Aplica solo a Suscripción/por día. Deduce automáticamente el pago y renueva a las 08:00 un día antes del vencimiento.	No	Activado / Desactivado

Solo puede existir una instancia de capacidad de pago por uso (por hora) no eliminada bajo un único Código de modelo: si ya existe una instancia de pago por uso, el ciclo de facturación del paquete de capacidad adicional solo se puede configurar como Suscripción/por día.

La parte inferior muestra la tarifa de reserva de entrada, la tarifa de reserva de salida y el total. Tras la confirmación, haga clic en Confirm purchase. Una vez completada la compra con éxito, la nueva instancia de capacidad aparecerá en la lista "Instancias de capacidad activas" y la capacidad total reservada aumentará en consecuencia.

Haga clic en Scaling y ajuste el TPM de entrada y el TPM de salida en el cuadro de diálogo.

El TPM de entrada y el TPM de salida se pueden establecer en 0: tras reducir a cero, no se acumulan cargos por capacidad y se conserva el código de modelo dedicado, lo que evita la invalidación del código causada por vencimiento o cancelación de suscripción. Sin embargo, reducir a cero es una reducción de categoría, y la parte utilizada se liquida con un coeficiente de 1.2x para el reembolso (consulte las notas de facturación y uso anteriores).

Haga clic en Renew, seleccione una duración de renovación y complete el pago. Si Renovación automática al vencer está activada, el sistema deducirá automáticamente el pago y renovará a las 08:00 un día antes del vencimiento.

Haga clic en Unsubscribe y el sistema le redirigirá al Centro de facturación para completar el proceso de cancelación de suscripción.

La cancelación de la suscripción es irreversible. Tras cancelar la suscripción, el código de modelo dedicado deja de ser válido y las solicitudes existentes vuelven al procesamiento con recursos públicos. Al cancelar la suscripción, la parte utilizada se liquida con un coeficiente de 1.2x para el reembolso. Consulte la fórmula anterior.

​

FAQ