Model Router

O Model Router dá à sua instalação acesso pré-pago a um catálogo dos principais modelos de IA por meio de um único endpoint compatível com a OpenAI. Os seus AI Agents do Performance Hub se conectam a ele automaticamente, sem configuração, os Workflows também podem se conectar, e você pode provisionar as suas próprias chaves de API para conectar os mesmos modelos a softwares de terceiros ou internos — um assistente de reservas, um formulário de admissão de uma clínica ou um aplicativo de concierge de hotel. Você recarrega um saldo em USD, define limites de gasto e acompanha cada solicitação em tempo real — tudo em um só lugar.

Referência rápida

Onde encontrar: Menu principal → Model Router (instalações Technology Stack). O módulo fica no grupo AI Modules & Agents do menu principal.

Quem pode acessar: Somente Organisation Administrators (instalações Technology Stack).

Finalidade: Comprar inferência de IA com um saldo pré-pago: gerenciar chaves de API, limites de gasto, recarga automática e uso.

Como tudo se encaixa

• A sua instalação tem um saldo pré-pago em USD. Você o recarrega com o cartão de cobrança armazenado (manual ou automaticamente), e cada solicitação de IA consome o saldo pelo preço do modelo que a atendeu.
• O catálogo de modelos abrange modelos de vários provedores. Todos os modelos vêm habilitados por padrão; você pode ativar ou desativar modelos individuais para a sua instalação e restringi-los ainda mais por chave de API ou por serviço conectado.
• Há duas formas de consumir modelos:
  • Connected Services — os dispositivos de Agente de IA pareados se conectam automaticamente, sem necessidade de chave de API, e os Workflows também podem se conectar.
  • As suas próprias chaves de API — provisione chaves e aponte qualquer SDK ou ferramenta compatível com a OpenAI para o endpoint do Performance Hub.
• Os limites de gasto (diário, mensal e um teto absoluto vitalício) permitem limitar o gasto independentemente do saldo, em todas as chaves e serviços conectados — com limites mais rígidos por chave e por serviço disponíveis adicionalmente.
• Cada solicitação é registrada — modelo, tokens, custo, latência e status — nas análises de Activity e na guia Logs. O conteúdo dos prompts e das respostas nunca é armazenado.

As áreas principais

O módulo tem quatro guias, além de uma área de configurações (ícone de engrenagem, no canto superior direito):

O painel Overview

A guia Overview resume a sua conta em um relance.

Figura 1: A faixa de indicadores (Available balance, Spent today, Spent this month e Estimated runway) e os chips de consulta rápida para recarga automática, limites, modelos e serviços conectados

Abaixo da faixa de indicadores, chips resumem a recarga automática, os limites de gasto, os modelos habilitados e quantos serviços conectados estão on-line. Um chip Low balance aparece ao lado deles quando o saldo está igual ou abaixo do limite para recarga automática.

• Available balance — o crédito pré-pago restante neste momento.
• Spent today / Spent this month — as cobranças de uso no dia atual e no mês corrente (horário local da instalação).
• Estimated runway — "Rough estimate based on average daily spend this month. Top up or enable auto top-up to extend it."

Figura 2: Spend over time (últimos 14 dias, com a variação em relação ao período anterior) e Spend by model

Figura 3: Requests over time por modelo e Reliability & speed, com a taxa de erros, a latência p95 e a latência ao longo do tempo

Figura 4: Budget usage e Top agents & keys classificados por gasto

Figura 5: O mapa de calor de Activity: um ano de uso, alternável entre Tokens, Spend e Requests, com a sequência mais longa e as médias diárias e semanais

Guia da documentação

Conceitos

• Como funciona — o modelo conceitual: saldo pré-pago versus limites de gasto, os dois caminhos de acesso, como as solicitações são precificadas e o glossário completo.

Primeiros passos

• Primeiros passos — como habilitar o módulo, fazer a primeira recarga e enviar a primeira solicitação.
• Como conectar o seu aplicativo — o guia de início rápido para o seu próprio software: URL base, autenticação e exemplos em curl / Python / TypeScript.

Gerenciamento de acesso

• Models — o catálogo, como habilitar e desabilitar modelos, predefinições rápidas e o Auto Router.
• Chaves de API — criação de chaves, a exibição única do segredo, tetos de gasto por chave, limites de taxa, restrições de modelos e o ciclo de vida de rotação/revogação/exclusão.
• Connected Services — como os AI Agents pareados e os Workflows se conectam e como limitar cada um deles.
• Guardrails — proteções de conteúdo (mascaramento de PII, ocultação de segredos, proteção contra injeção de prompt) e filtros de conteúdo personalizados.

Dinheiro e monitoramento

• Orçamentos e recargas — o saldo, as recargas manuais e automáticas, os recibos, o histórico de transações, o uso mensal e os limites de gasto.
• Atividade e logs — as visualizações de análise, a exportação para CSV e o log de solicitações.

Referência

• Referência — todas as configurações, padrões, limites e respostas de erro em um só lugar.
• Solução de problemas — correções por sintoma para solicitações bloqueadas, problemas com chaves e dúvidas sobre o saldo.
• Perguntas frequentes — FAQ.

Lista de verificação para começar

Marque os itens à medida que avança — o seu progresso é salvo neste navegador, e você pode imprimir a lista.

Como selecionar uma instalação

O módulo é configurado por instalação. Use o seletor de instalação na barra de ferramentas principal do Performance Hub para escolher a instalação que você está configurando. Enquanto o contexto da instalação é carregado, o módulo exibe "Loading facility context…".