Cómo funciona

Esta página explica los conceptos en los que se basa Model Router: léela una vez y todas las demás páginas te resultarán más claras.

El saldo prepago

Tu instalación tiene un saldo prepago en USD. Solo se mueve en dos direcciones:

• Aumenta cuando recargas (de forma manual, mediante la recarga automática o por un ajuste acreditado en tu cuenta). Las recargas aparecen al instante.
• Disminuye a medida que se acumula el uso. El servicio de inferencia informa del uso en tiempo real y este se concilia con tu saldo prepago cada 15 minutos, por lo que la actividad muy reciente puede tardar unos minutos en aparecer en Monthly usage. El historial de transacciones solo muestra las recargas y los ajustes del saldo.

El saldo es el límite financiero: cuando llega a cero, las solicitudes de inferencia se bloquean con un error de insufficient credits hasta que recargas. La lista de modelos sigue funcionando con saldo cero, para que las integraciones puedan descubrir el catálogo antes de que agregues fondos a la cuenta.

El catálogo de modelos

El catálogo contiene modelos de muchos proveedores, cada uno con un precio por millón de tokens (la entrada y la salida tienen precios independientes, que se muestran en la configuración de Models). Todos los modelos están habilitados de forma predeterminada para tu instalación; puedes:

• Deshabilitar modelos para toda la cuenta en Settings → Models (al menos un modelo debe seguir habilitado).
• Restringir modelos por clave de API o por servicio conectado: una lista más acotada, además del conjunto habilitado en la instalación.

Una entrada especial del catálogo, auto (el Auto Router), no tiene un precio propio. Para cada solicitud, selecciona automáticamente el mejor modelo según la complejidad de la instrucción, y se te cobra la tarifa del modelo que elige. Consulta Modelos.

Dos formas de consumir modelos

1. Servicios Conectados

Los dispositivos Agente de IA vinculados a tu instalación se conectan a Model Router automáticamente (nunca se introduce una clave de API en el dispositivo), y los Workflows también pueden conectarse. Cada servicio conectado aparece en Settings → Service Access & API Keys, en Connected Services, con sus propias cifras de gasto, y puedes asignar a cada uno sus propios límites de gasto, restricciones de modelos y anulaciones de las protecciones. Consulta Connected Services.

2. Tus propias claves de API

Puedes crear claves de API (empiezan por phk_) para que el software y los sistemas de terceros compatibles con BYOK (Bring Your Own Key, trae tu propia clave) puedan conectarse a los modelos que publica Performance Hub. El endpoint es compatible con OpenAI: dirige cualquier SDK o herramienta de OpenAI a la URL base y autentícate con tu clave. Consulta Claves de API y Conectar tu aplicación.

Ambas vías consumen el mismo saldo, respetan los mismos límites de gasto de toda la cuenta, aparecen en los mismos análisis de Activity y en Logs, y se pueden acotar de forma individual.

Saldo frente a límites de gasto

Son dos mecanismos distintos, y se aplican ambos:

Los límites de gasto de la cuenta tienen tres períodos: diario (se restablece todos los días a medianoche, hora local de la instalación), mensual (se restablece el día 1 de cada mes, hora local de la instalación) y un tope absoluto de por vida (cuenta el gasto desde el último restablecimiento manual y nunca se restablece por sí solo). Puede haber cualquier combinación activa a la vez, y los límites se aplican al conjunto de todas las claves de API y los servicios conectados. El saldo prepago se sigue aplicando además de estos.

Los límites por clave y por servicio funcionan del mismo modo (diario, mensual y de por vida), pero solo cuentan el gasto de esa clave o ese servicio. Cuando se alcanza un límite, solo se bloquea esa clave o ese servicio; el resto de la instalación sigue funcionando.

Cómo se procesa una solicitud

Cuando una solicitud llega al endpoint, las comprobaciones se ejecutan en este orden:

1. Autenticación: una clave de API o una identidad de servicio conectado válidas. En el caso de una clave de API, una instalación en la que Model Router no está habilitado se rechaza en este punto con HTTP 403 ("Model Router is not enabled for this facility"). La lista de modelos (GET /v1/models) se responde justo después de la autenticación, por lo que sigue funcionando con saldo cero.
2. Comprobación del crédito prepago: el saldo disponible debe ser superior a $0 (en el caso de los servicios conectados, Model Router también debe estar habilitado); de lo contrario, la solicitud se rechaza con un error de insufficient credits (HTTP 402).
3. Límites de gasto de la cuenta: si se supera un tope diario, mensual o de por vida, la solicitud se rechaza con un error de budget exceeded (HTTP 402) que indica cuándo se restablece el período, en la zona horaria de tu instalación.
4. Límites de gasto por clave o por servicio: la misma comprobación, aplicada a la clave o al servicio que hace la llamada.
5. Comprobaciones de la instrucción: la protección contra la inyección de instrucciones y tus filtros de contenido personalizados se ejecutan sobre la instrucción. Un filtro de tipo block o una detección de inyección rechazan la solicitud (HTTP 403, content policy violation); los filtros de tipo redact reescriben las coincidencias como [REDACTED] y dejan que la solicitud continúe.
6. Enrutamiento del modelo: el Auto Router resuelve auto en un modelo concreto (una solicitud que contiene una imagen se envía a un modelo con capacidad de visión que tengas permitido). Los modelos de respaldo se filtran según los que puede usar la clave, se aplica tu configuración de razonamiento cuando la solicitud no establece la suya propia y los límites de salida solicitados se ajustan a lo que admite el modelo.
7. Inferencia: el servicio de inferencia aplica PII masking y Secret redaction (cuando están habilitados) antes de que la instrucción llegue al modelo; después, la solicitud se envía al proveedor del modelo y la respuesta se transmite de vuelta.

Los límites de frecuencia (solicitudes por minuto y tokens por minuto, si se establecen en la clave o el servicio) se aplican en todo momento; superarlos devuelve HTTP 429.

Qué se registra

Cada solicitud se registra con sus metadatos: hora, modelo (tanto el modelo solicitado como el que resolvió el enrutador), proveedor, tokens (de instrucción, de respuesta, en caché y de razonamiento), costo, latencia, tiempo hasta el primer token, velocidad, estado y la clave o el servicio que hizo la llamada. El contenido de las instrucciones y las respuestas nunca se almacena.

Las cifras de uso y gasto que se muestran en el módulo son las mismas que se usan para aplicar los límites, por lo que lo que ves como "limit reached" es exactamente lo que se bloquea.

Glosario