Model Router

Model Router ofrece a tu instalación acceso prepago a un catálogo de modelos de IA líderes a través de un único endpoint compatible con OpenAI. Tus AI Agents de Performance Hub se conectan a él automáticamente sin ninguna configuración, los Workflows también pueden conectarse y puedes crear tus propias claves de API para usar los mismos modelos en software de terceros o propio: un asistente de reservas, un formulario de admisión de una clínica o una aplicación de conserjería de un hotel. Recargas un saldo en USD, estableces límites de gasto y supervisas cada solicitud en tiempo real, todo desde un solo lugar.

Referencia rápida

Dónde encontrarlo: Menú principal → Model Router (instalaciones con Technology Stack). El módulo se encuentra en el grupo AI Modules & Agents del menú principal.

Quién puede acceder: Solo Organisation Administrators (instalaciones con Technology Stack).

Propósito: Comprar inferencia de IA con un saldo prepago: administrar claves de API, límites de gasto, recarga automática y uso.

Cómo se integra todo

• Tu instalación tiene un saldo prepago en USD. Lo recargas con tu tarjeta de facturación guardada (de forma manual o automática), y cada solicitud de IA descuenta del saldo el precio del modelo que la atendió.
• El catálogo de modelos incluye modelos de muchos proveedores. Todos los modelos están habilitados de forma predeterminada; puedes activar o desactivar modelos individuales para tu instalación y restringirlos aún más por clave de API o por servicio conectado.
• Hay dos formas de consumir modelos:
  • Connected Services: los dispositivos AI Agent vinculados se conectan automáticamente, sin necesidad de una clave de API, y los Workflows también pueden conectarse.
  • Tus propias claves de API: crea claves y dirige cualquier SDK o herramienta compatible con OpenAI al endpoint de Performance Hub.
• Los límites de gasto (diario, mensual y un tope absoluto de por vida) te permiten acotar el gasto con independencia del saldo, en todas las claves y servicios conectados, con límites más estrictos por clave y por servicio disponibles además de estos.
• Cada solicitud queda registrada (modelo, tokens, costo, latencia y estado) en los análisis de Activity y en la pestaña Logs. El contenido de las instrucciones y las respuestas nunca se almacena.

Las áreas principales

El módulo tiene cuatro pestañas y un área de configuración (icono de engranaje, arriba a la derecha):

El panel Overview

La pestaña Overview resume tu cuenta de un vistazo.

Figura 1: La franja de estadísticas (Available balance, Spent today, Spent this month y Estimated runway) y los indicadores de consulta rápida de recarga automática, límites, modelos y servicios conectados

Debajo de la franja de estadísticas, unos indicadores resumen la recarga automática, los límites de gasto, los modelos habilitados y cuántos servicios conectados están en línea. Aparece un indicador Low balance junto a ellos cuando el saldo es igual o inferior al umbral de recarga automática.

• Available balance: el crédito prepago que queda en este momento.
• Spent today / Spent this month: los cargos por uso del día y del mes calendario en curso (hora local de la instalación).
• Estimated runway: "Rough estimate based on average daily spend this month. Top up or enable auto top-up to extend it."

Figura 2: Spend over time (últimos 14 días, con la variación respecto del período anterior) y Spend by model

Figura 3: Requests over time por modelo, y Reliability & speed con la tasa de errores, la latencia p95 y la latencia a lo largo del tiempo

Figura 4: Budget usage y Top agents & keys ordenados por gasto

Figura 5: El mapa de calor Activity: un año de uso, que puede alternarse entre Tokens, Spend y Requests, con la racha más larga y los promedios diarios y semanales

Guía de la documentación

Conceptos

• Cómo funciona: el modelo conceptual: saldo prepago frente a límites de gasto, las dos vías de acceso, cómo se calcula el precio de las solicitudes y el glosario completo.

Primeros pasos

• Primeros pasos: cómo habilitar el módulo, tu primera recarga y tu primera solicitud.
• Conectar tu aplicación: la guía de inicio rápido para tu propio software: URL base, autenticación y ejemplos con curl, Python y TypeScript.

Administrar el acceso

• Modelos: el catálogo, cómo habilitar y deshabilitar modelos, los ajustes predefinidos rápidos y el Auto Router.
• Claves de API: cómo crear claves, la visualización única del secreto, los topes de gasto por clave, los límites de frecuencia, las restricciones de modelos y el ciclo de vida de rotación, revocación y eliminación.
• Connected Services: cómo se conectan los AI Agents vinculados y los Workflows, y cómo acotar cada uno.
• Guardrails: protecciones de contenido (enmascaramiento de información de identificación personal, ocultación de secretos, protección contra la inyección de instrucciones) y filtros de contenido personalizados.

Dinero y supervisión

• Presupuestos y recargas: el saldo, las recargas manuales y automáticas, los recibos, el historial de transacciones, el uso mensual y los límites de gasto.
• Actividad y registros: las vistas de análisis, la exportación a CSV y el registro de solicitudes.

Referencia

• Referencia: todas las configuraciones, valores predeterminados, límites y respuestas de error en un solo lugar.
• Solución de problemas: soluciones por síntoma para solicitudes bloqueadas, problemas con las claves y preguntas sobre el saldo.
• Preguntas frecuentes: preguntas frecuentes.

Lista de verificación para comenzar

Marca los elementos a medida que avanzas: tu progreso se guarda en este navegador y puedes imprimir la lista.

Seleccionar una instalación

El módulo se configura por instalación. Usa el selector de instalación de la barra de herramientas principal de Performance Hub para elegir qué instalación vas a configurar. Mientras se carga el contexto de la instalación, el módulo muestra "Loading facility context…".