Vollständige Tabellen für Model Router. Konzepte und Anleitungen finden Sie ausgehend von der Übersicht.
Modul
Element
Wert
Ort im Menü
Hauptmenü → Model Router, in der Gruppe AI Modules & Agents
Wer darauf zugreifen kann
Nur Organisation Administrator (Einrichtungen mit Technology Stack).
Geltungsbereich
Pro Einrichtung (wählen Sie die Einrichtung in der Hauptsymbolleiste aus)
Währung
USD
Aufladungen
Einstellung
Wert
Mindestbetrag für Aufladungen
$10
Höchstbetrag einer einzelnen Aufladung
$5,000
Vorgabebeträge
$25, $50, $100, $250, $500, $1000
Zahlungsmethode
Die gespeicherte Zahlungskarte der Einrichtung
Zeitpunkt der Gutschrift
Sofort
Beleg
Belegnummer + herunterladbares PDF pro Aufladung; wird außerdem per E-Mail an die Abrechnungskontakte der Einrichtung gesendet
Automatische Aufladung
Einstellung
Wert
Auslöser
Das Guthaben fällt unter Ihren Schwellenwert When balance is below
Aufladebetrag
Ihr Betrag Top up by (mindestens $10)
Prüfintervall
Etwa alle 15 Minuten
Fehlerbehandlung
Banner wird angezeigt bei: keine Karte hinterlegt, Karte erfordert Authentifizierung, Karte abgelehnt
Nutzung und Abgleich
Element
Wert
Abgleich der Nutzung
Alle 15 Minuten mit dem Prepaid-Guthaben; angezeigt in Monthly usage, gruppiert nach Kalendermonat (UTC)
Available balance
Live: gutgeschriebener Gesamtbetrag abzüglich der laufenden Ausgaben (nicht nur das abgeglichene Konto)
Estimated runway
Durchschnittliche tägliche Ausgaben dieses Monats, hochgerechnet auf das Guthaben; angezeigt als 0 days, 1 day, N days, 365+ days oder Not enough data
Kontoweite Ausgabenlimits
Limit
Zurücksetzen
Vorgabebeträge
Tageslimit
Jeden Tag um Mitternacht, Ortszeit der Einrichtung
$25, $50, $100, $250
Monatslimit
Am 1. jedes Monats, Ortszeit der Einrichtung
$50, $100, $250, $500, $1000
Total (hard cap)
Nur manuelles Zurücksetzen (Reset hard cap – Zähler auf $0, Limit unverändert, abgeschlossener Zeitraum wird im Verlauf der Zurücksetzungen gespeichert)
—
Beliebige Kombinationen können aktiv sein. Die Limits gelten für alle API-Schlüssel und verbundenen Dienste zusammen; das Prepaid-Guthaben gilt zusätzlich. Bei Überschreitung werden Anfragen mit einem 402-Fehler budget_exceeded blockiert, bis das Zeitfenster zurückgesetzt wird.
Einstellungen pro Schlüssel / pro Dienst
Einstellung
Standard
Hinweise
Bezeichnung
leer
Optional; dient der Zuordnung der Nutzung in Activity und Logs
Verbindungstyp (nur API-Schlüssel)
API key
API key bleibt in der Liste der API-Schlüssel; External agent erscheint unter Connected Services
Tägliches Ausgabenlimit
aus
Wird zu Beginn jedes Tages zurückgesetzt, Zeitzone der Einrichtung
Monatliches Ausgabenlimit
aus
Wird am 1. jedes Monats zurückgesetzt, Zeitzone der Einrichtung
Gesamtlimit
aus
Gesamtausgaben über die Lebensdauer des Schlüssels oder Dienstes; wird nie zurückgesetzt
Requests / min
Unbegrenzt
Bei Überschreitung wird HTTP 429 zurückgegeben
Tokens / min
Unbegrenzt
Bei Überschreitung wird HTTP 429 zurückgegeben
Modelle beschränken
aus (alle für die Einrichtung aktivierten Modelle)
Nur die ausgewählten Modelle sind mit diesem Schlüssel oder Dienst nutzbar
Guardrails der Einrichtung überschreiben
aus (übernimmt die Einrichtung)
Wenn aktiviert, gilt die eigene Auswahl des Schlüssels oder Dienstes – einschließlich „keine“
Status und Aktionen von API-Schlüsseln
Status
Bedeutung
Active
Der Schlüssel funktioniert.
Provisioning…
Wird kurz angezeigt, während ein neuer Schlüssel eingerichtet wird.
Disabled
Der Schlüssel ist widerrufen (die Zeile ist abgeblendet); er kann reaktiviert werden.
Aktion
Umkehrbar?
Wirkung
Edit
—
Bezeichnung, Limits, Modelle und Guardrails ändern.
Rotate
Nein
Neuer Geheimschlüssel wird ausgestellt (einmalig angezeigt); der alte funktioniert sofort nicht mehr.
Revoke
Ja (Re-activate)
Schlüssel wird sofort deaktiviert.
Delete
Nein
Schlüssel wird dauerhaft entfernt.
Modelle
Element
Wert
Standard
Alle Katalogmodelle aktiviert
Automatically enable new models
Wenn aktiviert, werden neu in den Katalog aufgenommene Modelle automatisch für die Einrichtung eingeschaltet
Einschränkung
"At least one model must stay enabled."
Schnellvorgaben
All models, Frontier, Western providers, Open weights, Budget (Eingabepreis ≤ $1.00 / 1M Tokens)
Filter
Status (Any/Enabled/Disabled), Region (United States/Europe/China), Capability (Vision, Audio, PDF input, Reasoning)
Kontextfenster, Eingabe- und Ausgabepreis pro 1M Tokens, Symbole für Fähigkeiten (Text, Bild, Audio, PDF), Reasoning-Einstellung
Auto Router
Stufe
Beschreibung
Simple
Kurze, einfache Prompts
Medium
Alltägliche Aufgaben
Complex
Schwierige, mehrstufige Aufgaben
Reasoning
Tiefgehendes Reasoning und Analysen
Modell-ID: auto; Usage-priced – abgerechnet wird der Tarif des Modells, das der Router pro Anfrage auswählt.
Routing pro Einrichtung über Edit routing bearbeitbar (nur aktivierte Modelle auswählbar; jede Stufe muss ein Modell haben); Reset to default stellt die Standardzuordnung wieder her.
Logs/Activity zeigen das ermittelte Modell; der Anfragebereich zeigt auto als Requested model.
Sicherheitsvorkehrungen
Guardrail
Aktion bei Treffer
PII masking
Maskiert personenbezogene Daten im Prompt; die Anfrage wird fortgesetzt
Secret redaction
Entfernt Schlüssel/Tokens/Geheimnisse aus dem Prompt; die Anfrage wird fortgesetzt
Prompt-injection shield
Blockiert die Anfrage (403 content_policy_violation)
Vorlage
Aktiviert
None
Nichts (Standard)
PII protection
PII masking
Secret redaction
Secret redaction
Injection shield
Prompt-injection shield
Strict
Alle drei
Inhaltsfilter
Element
Wert
Maximale Anzahl Filter pro Einrichtung
25
Maximale Länge eines Musters
300 Zeichen
Aktionen
Redact (Treffer durch [REDACTED] ersetzen) oder Block (mit 403 ablehnen)
Sicherheit der Muster
Unsichere reguläre Ausdrücke (z. B. Muster, die zu katastrophalem Backtracking neigen) und Muster mit mehr als 300 Zeichen werden verworfen und nicht angewendet
Vererbung
Einrichtungsweit; Schlüssel und Dienste mit überschriebenen Guardrails verwenden ihre eigene Liste
Transaktionsverlauf
Der Transaktionsverlauf listet nur Aufladungen und Guthabenanpassungen auf. Die Nutzung wird in Monthly usage zusammengefasst.
Typ
Bedeutung
Top-up
Kartenbelastung, die dem Guthaben gutgeschrieben wird
Refund
Erstattete Belastung
Adjustment
Manuelle Guthabenkorrektur
Element
Wert
Spalten
Date, Type, Amount, Balance after, Receipt
Mehrere Belege
Zeilen markieren, dann Download receipts (n)
Monatliche Nutzung
Element
Wert
Gruppierung
Kalendermonat (UTC); der aktuelle Monat ist mit Month to date gekennzeichnet
Abgleich
Alle 15 Minuten mit dem Prepaid-Guthaben
Spalten
Month, Usage, Deductions, Downloads
Abbuchungstyp
Usage charge (abgeglichene Inferenzausgaben), aufgeführt, wenn Sie einen Monat aufklappen
Downloads pro Monat
Download usage statement (PDF) und Download usage detail (CSV)
Status
Nutzungsaufstellungen, keine Rechnungen; nur Kartenaufladungen haben Belege
Aktivität und Protokolle
Element
Wert
Activity-Ansichten
Overview, Trends, Performance, Explore
Zeitraumvorgaben
Last 24 hours, Last 7 days, Last 30 days, Last 90 days, Year, All time, Custom range
Zeitraumvorgaben in Logs
Last 15 minutes, Last hour, Last 24 hours (Standard), Last 7 days, Last 30 days, benutzerdefiniert; Live-Aktualisierung Off / 10s / 30s (Standard) / 60s
Group-by-Optionen in Explore
Model, API key / agent, Source, Provider, Status
Obergrenze für CSV-Rohexporte
25,000 Zeilen
Exporttypen
Raw requests; Summary by model / by key & agent / by source / by period (Zusammenfassungen umfassen ganze Tage)
Gespeicherte Inhalte
Nur Metadaten – nie Prompt- oder Antwortinhalte
API-Fehlerantworten
Basis-URL: wird unter Einstellungen → Service Access & API Keys → Connecting to the API angezeigt (z. B. https://app.performancehub.co/ai/v1). Fehler verwenden das OpenAI-Format { "error": { "message", "type", "code" } }.
HTTP
type
code
Bedeutung
401
invalid_request_error
invalid_api_key
Fehlender API-Schlüssel oder ungültige Anmeldedaten eines verbundenen Dienstes
401
invalid_request_error
—
Unbekannter oder widerrufener API-Schlüssel ("Invalid API key")
402
insufficient_quota
insufficient_credits
Prepaid-Guthaben aufgebraucht (oder bei verbundenen Diensten: die Einrichtung ist nicht aktiviert)
402
insufficient_quota
budget_exceeded
Ein Ausgabenlimit wurde erreicht (Einrichtung, Schlüssel oder verbundener Dienst); der Body enthält window, resetsAt, timezone, docsUrl
403
invalid_request_error
—
"Model Router is not enabled for this facility" (API-Schlüssel) oder "Facility has no provisioned inference key" (zum Schlüssel gibt es keinen zugrunde liegenden Inferenzschlüssel)
403
invalid_request_error
content_policy_violation
Durch einen Inhaltsfilter oder den Prompt-Injection-Schutz blockiert
429
—
—
Ratenlimit für Anfragen/Min. oder Tokens/Min. überschritten
502
server_error
—
Vorgelagerter Inferenzdienst nicht verfügbar (erneut versuchen)
Ein unerwarteter Fehler bei der Prüfung des API-Schlüssels gibt HTTP 500 "Something went wrong" zurück; versuchen Sie die Anfrage erneut.
GET /v1/models bleibt auch bei einem Guthaben von null verfügbar.
