Un modelo multilingüe de reordenamiento de texto para recuperación semántica y RAG, que clasifica los documentos candidatos según su relevancia respecto a las consultas.
Proveedor de servicios de inferencia
El proveedor de servicios de inferencia para gte-rerank-v2 es Alibaba Cloud Model Studio.
Capacidades del modelo
| Capacidad | Compatibilidad | Capacidad | Compatibilidad |
|---|---|---|---|
Modalidad de entrada | Texto | Modalidad de salida | Texto |
Experiencia del modelo | No compatible | Llamada a funciones | No compatible |
Salidas estructuradas | No compatible | Búsqueda web | No compatible |
Completado de prefijo | No compatible | Almacenamiento en caché de contexto | No compatible |
Inferencia por lotes | No compatible | Ajuste fino | No compatible |
Límites de contexto
| Parámetro | Valor | Parámetro | Valor |
|---|---|---|---|
Longitud máxima de entrada | 30000 | Longitud máxima de salida | 0 |
Ventana de contexto | 30000 |
Límites de tasa
- China (Beijing)
| Parámetro | Valor |
|---|---|
RPM (Solicitudes por minuto) | 5040 |
TPM (Tokens por minuto) | 4,980,000,000 |