Model Router
Sur cette page
Model Router offre à votre site un accès prépayé à un catalogue de modèles d'IA de premier plan via un point de terminaison unique compatible OpenAI. Vos AI Agents Performance Hub s'y connectent automatiquement sans aucune configuration, les Workflows peuvent également s'y connecter, et vous pouvez créer vos propres clés API pour brancher les mêmes modèles sur des logiciels tiers ou internes : un assistant de réservation, un formulaire d'admission de clinique ou une application de conciergerie d'hôtel. Vous rechargez un solde en USD, définissez des limites de dépenses et suivez chaque requête en temps réel, le tout depuis un seul endroit.
Référence rapide
Où le trouver : Menu principal → Model Router (sites Technology Stack). Le module se trouve dans le groupe AI Modules & Agents du menu principal.
Qui peut y accéder : les Organisation Administrators uniquement (sites Technology Stack).
Objectif : acheter de l'inférence IA sur un solde prépayé : gérer les clés API, les limites de dépenses, le rechargement automatique et l'utilisation.
Comment les éléments s'articulent
- Votre site dispose d'un solde prépayé en USD. Vous le rechargez avec votre carte de facturation enregistrée (manuellement ou automatiquement), et chaque requête d'IA est déduite du solde au prix du modèle qui l'a traitée.
- Le catalogue de modèles couvre des modèles de nombreux fournisseurs. Tous les modèles sont activés par défaut ; vous pouvez activer ou désactiver des modèles individuellement pour votre site, et les restreindre davantage par clé API ou par service connecté.
- Il existe deux façons d'utiliser les modèles :
- Connected Services : les appareils Agent IA associés se connectent automatiquement, sans clé API, et les Workflows peuvent également se connecter.
- Vos propres clés API : créez des clés et pointez n'importe quel SDK ou outil compatible OpenAI vers le point de terminaison Performance Hub.
- Les limites de dépenses (quotidienne, mensuelle et un plafond absolu à vie) vous permettent d'encadrer les dépenses indépendamment du solde, pour toutes les clés et tous les services connectés, avec des limites plus strictes par clé et par service disponibles en complément.
- Chaque requête est enregistrée (modèle, tokens, coût, latence et état) dans les analyses Activity et l'onglet Logs. Le contenu des prompts et des réponses n'est jamais stocké.
Les zones principales
Le module comporte quatre onglets et une zone Settings (icône en forme de roue dentée, en haut à droite) :
| Zone | Ce que vous y faites |
|---|---|
| Overview | Le tableau de bord : solde disponible, dépenses du jour et du mois, autonomie estimée, graphiques des dépenses et des requêtes, fiabilité en un coup d'œil, utilisation du budget, et principaux agents et clés. |
| Activity | Analyses d'utilisation approfondies avec quatre vues (Overview, Trends, Performance, Explore), filtres par clé, agent et modèle, et export CSV. |
| Budgets & Limits | Deux sous-onglets : Spend Limits (plafonds quotidiens, mensuels et à vie pour l'ensemble du compte, et limites par service) et Balance & Top-up (rechargements manuels, rechargement automatique, historique des transactions et utilisation mensuelle). |
| Logs | La piste d'audit par requête : modèle, tokens, coût, vitesse et état de chaque requête, avec actualisation en direct, recherche, filtres et un panneau de détails. |
| Settings (roue dentée) | Models (activer ou désactiver les modèles du catalogue, modifier l'Auto Router), Service Access & API Keys (services connectés, clés API et informations de connexion à l'API) et Guardrails (protections du contenu et filtres de contenu personnalisés). |
Le tableau de bord Overview
L'onglet Overview résume votre compte en un coup d'œil.
Figure 1 : La bande de statistiques (Available balance, Spent today, Spent this month et Estimated runway) et les pastilles récapitulatives pour le rechargement automatique, les limites, les modèles et les services connectés
Sous la bande de statistiques, des pastilles résument le rechargement automatique, les limites de dépenses, les modèles activés et le nombre de services connectés en ligne. Une pastille Low balance apparaît à côté lorsque le solde est inférieur ou égal au seuil de rechargement automatique.
- Available balance : le crédit prépayé restant à cet instant.
- Spent today / Spent this month : les frais d'utilisation du jour en cours et du mois civil en cours (heure locale du site).
- Estimated runway : "Rough estimate based on average daily spend this month. Top up or enable auto top-up to extend it."
Figure 2 : Spend over time (14 derniers jours, avec l'évolution par rapport à la période précédente) et Spend by model
Figure 3 : Requests over time par modèle, et Reliability & speed avec le taux d'erreur, la latence p95 et la latence dans le temps
Figure 4 : Budget usage et Top agents & keys classés par dépenses
Figure 5 : La carte de chaleur Activity : une année d'utilisation, commutable entre Tokens, Spend et Requests, avec la plus longue série et les moyennes quotidienne et hebdomadaire
Guide de la documentation
Concepts
- Fonctionnement : le modèle conceptuel, à savoir solde prépayé et limites de dépenses, les deux voies d'accès, la tarification des requêtes et le glossaire complet.
Prise en main
- Prise en main : activer le module, effectuer votre premier rechargement et votre première requête.
- Connecter votre application : le guide de démarrage rapide pour vos propres logiciels : URL de base, authentification et exemples curl / Python / TypeScript.
Gestion des accès
- Models : le catalogue, l'activation et la désactivation des modèles, les préréglages rapides et l'Auto Router.
- Clés API : création de clés, affichage unique du secret, plafonds de dépenses par clé, limites de débit, restrictions de modèles et cycle de vie (rotation, révocation, suppression).
- Connected Services : comment les AI Agents associés et les Workflows se connectent, et comment encadrer chacun d'eux.
- Guardrails : protections du contenu (masquage des données personnelles, masquage des secrets, protection contre l'injection de prompts) et filtres de contenu personnalisés.
Finances et surveillance
- Budgets et rechargements : le solde, les rechargements manuels et automatiques, les reçus, l'historique des transactions, l'utilisation mensuelle et les limites de dépenses.
- Activité et journaux : les vues d'analyse, l'export CSV et le journal des requêtes.
Référence
- Référence : chaque paramètre, valeur par défaut, limite et réponse d'erreur, regroupés en un seul endroit.
- Dépannage : solutions symptôme par symptôme pour les requêtes bloquées, les problèmes de clés et les questions de solde.
- Questions fréquentes : FAQ.
Liste de contrôle de démarrage
Cochez les éléments au fur et à mesure : votre progression est enregistrée dans ce navigateur et vous pouvez imprimer la liste.
Sélection d'un site
Le module se configure site par site. Utilisez le sélecteur Facility dans la barre d'outils principale de Performance Hub pour choisir le site que vous configurez. Pendant le chargement du contexte du site, le module affiche "Loading facility context…".