Aktivität und Protokolle
Auf dieser Seite
Zwei Registerkarten dienen der Überwachung: Activity (aggregierte Analysen) und Logs (das Prüfprotokoll pro Anfrage). Beide umfassen alle API-Schlüssel und verbundenen Dienste, und beide erfassen nur Metadaten – Prompt- und Antwortinhalte werden nie gespeichert.
Die Registerkarte „Activity“
Activity hat vier Ansichten – Overview, Trends, Performance, Explore – sowie die Schaltfläche Export. Alle Ansichten nutzen dieselben Steuerelemente in der Kopfzeile: Filtern nach Key / agent, Filtern nach Model und eine Range-Auswahl (Last 24 hours, Last 7/30/90 days, Year, All time oder Custom range).
Übersicht
Abbildung 1: Die Kopfzeile von Activity (Ansichtsregisterkarten, Filter, Zeitraum und Export) und die KPI-Karten
Die KPI-Karten, jeweils mit einem Vergleich zum vorherigen Zeitraum ("vs prev" / "No prior data"):
| KPI | Bedeutung |
|---|---|
| Spend this period | "Total spend over the selected date range." – mit den durchschnittlichen Kosten pro Anfrage. |
| Requests | Anzahl der Anfragen. |
| Token volume | Gesamtzahl der Tokens. |
| Error rate | "Share of requests in this period that returned an error." |
Abbildung 2: Top API keys & agents und Top sources
Top API keys & agents ordnet die Schlüssel und verbundenen Dienste nach Ausgaben, und Top sources schlüsselt die Nutzung nach API-Schlüsseln, Agenten und Workflows auf.
Darunter schlüsseln drei Diagramme die Nutzung nach Modell und nach Token-Typ auf.
Abbildung 3: Usage by model: Ausgaben im Zeitverlauf für jedes Modell
Abbildung 4: Anfragevolumen nach Modell
Abbildung 5: Die Token-Aufschlüsselung (Prompt-, Completion- und Reasoning-Tokens)
Wo Prompt-Caching greift, zeigt die Karte Prompt token caching die Cache hit rate – "Share of prompt tokens served from the provider prompt cache." – sowie die Volumen zwischengespeicherter und nicht zwischengespeicherter Tokens.
Abbildung 6: Prompt-Token-Caching
Trends
Abbildung 7: Trends: Modelle im Zeitverlauf mit einer Trending-Liste; der Metrikschalter (Tokens, Spend, Requests) befindet sich oben rechts
Trends zeigt Entwicklungen: Jedes Modell (und in einem eigenen Abschnitt jeder Schlüssel bzw. Agent) wird im Zeitverlauf dargestellt, mit einer Trending-Liste der Aufsteiger – einschließlich eines New-Badges für Einträge ohne Nutzung im vorherigen Zeitraum.
Leistung
Abbildung 8: Performance: KPIs zu Latenz, Durchsatz und Fehlern mit Average latency over time und Errors over time
| KPI | Bedeutung |
|---|---|
| Median latency | "Median (p50) end-to-end request duration over the selected range." |
| p95 latency | "95th-percentile request duration — the slow tail most users feel." |
| Avg time to first token | "Average delay before the first streamed token (streaming requests only)." |
| Throughput | "Average output generation speed across requests." (tok/s) |
| Error rate / Total errors | Fehler im ausgewählten Zeitraum. |
Abbildung 9: Reliability & performance by model mit Top failing models und Top failing keys & agents
Die Tabelle pro Modell (Anfragen, Fehlerrate, durchschnittliche und p95-Latenz, Durchsatz, Ausgaben) ist der schnellste Weg, ein fehlerhaft arbeitendes Modell zu erkennen; die Listen der fehlschlagenden Einträge zeigen direkt, was Sie untersuchen sollten. Gibt es keine Fehler, sehen Sie "No errors in this period".
Erkunden
Abbildung 10: Explore: eine Pivot-Auswertung Ihrer Nutzung mit Metric, Group by, Then by und Show top
Explore ist eine frei gestaltbare Pivot-Auswertung: Wählen Sie eine Metric (z. B. Spend), Group by (Model, API key / agent, Source, Provider, Status), verschachteln Sie optional mit Then by und begrenzen Sie die Liste mit Show top. Das Ergebnis ist eine sortierte Aufschlüsselung mit Value und % of Total. Über Zeilenaktionen können Sie Apply filters based on this model (bzw. Schlüssel/Agent) wählen und mit View in logs direkt zu den Protokollen springen.
Aktivitätsdaten exportieren
Klicken Sie auf Export, um den Exportdialog zu öffnen:
Abbildung 11: Export activity data: Exportinhalt, Zeitraum, Filter und Spalten
- Exportinhalt: Raw requests (eine CSV-Zeile pro Anfrage) oder eine Zusammenfassung – Summary by model, Summary by key & agent, Summary by source, Summary by period.
- Zeitraum und Filter: Zeitraum und Filter der aktuellen Ansicht werden übernommen und können angepasst werden. Der Dialog zeigt die ungefähre Zeilenanzahl an ("approx. … requests"); Rohexporte sind auf 25,000 Zeilen begrenzt ("export is capped at 25,000" erscheint, wenn der Zeitraum diese Grenze überschreitet).
- Spalten: Wählen Sie für Rohexporte aus Time (UTC), Request ID, Model, Provider, Status, Key / agent, Key hash, Source, End user, Prompt/Completion/Total/Cached/Reasoning tokens, Spend (USD), Duration (ms), TTFT (ms), Tokens/sec, Cache hit, Zero completion und IP – mit Select all / Clear all.
Die Registerkarte „Logs“
Die Registerkarte „Logs“ ist das Prüfprotokoll Anfrage für Anfrage.
Abbildung 12: Logs: Suche, Filter, Live-Aktualisierung und die Anfragetabelle
- Suche ("Search request ID, key, model…") sowie Filter für Status (Success / Failed / All), Key / agent, Model und Provider.
- Range-Voreinstellungen: Last 15 minutes, Last hour, Last 24 hours (Standard), Last 7 days und Last 30 days oder eigene Daten.
- Live befindet sich neben dem Zeitraum und aktualisiert die Tabelle automatisch: Wählen Sie Off, 10s, 30s (Standard) oder 60s. Ein Countdown zeigt, wann die nächste Aktualisierung erfolgt, und Refresh now erzwingt eine sofortige Aktualisierung. Live wird ausgeblendet, wenn ein benutzerdefinierter Zeitraum in der Vergangenheit endet.
Abbildung 13: Das Live-Steuerelement: Aktualisierung Off, 10s, 30s oder 60s, neben der Zeitraumauswahl
- Das Histogramm zeigt das Anfragevolumen über den Zeitraum (Fehler hervorgehoben); markieren Sie durch Ziehen einen Bereich, um die Tabelle auf dieses Zeitfenster einzugrenzen ("Showing logs for …", mit Clear selection).
- Export öffnet Export request logs: Wählen Sie Rohanfragen oder eine Zusammenfassung, den Zeitraum, die Filter (Key / agent, Model, Provider, Status – plus Ihren aktuellen Suchtext) und bei Rohexporten die Spalten.
Bei Zusammenfassungen weist der Dialog darauf hin: "Summaries cover whole days, so a sub-day or graph selection is widened to full days." und "The search text is not applied to summaries."
Jede Zeile zeigt Datum, Anfrage-ID, Modell, Anbieter, Eingabe- und Ausgabe-Tokens, Agent/Schlüssel, Geschwindigkeit (tok/s), Kosten und Status (success / failure). Ein No charge-Badge kennzeichnet fehlgeschlagene oder leere Antworten, für die keine Kosten anfallen. Ein cached-Badge bei der Eingabeanzahl zeigt Tokens an, die aus dem Prompt-Cache bereitgestellt wurden, und die Fußzeile zeigt "Showing … of …". Ein leeres Ergebnis zeigt "No requests yet." oder "No requests match your filters."
Anfragedetails
Klicken Sie auf eine Zeile, um den Bereich Request details zu öffnen:
Abbildung 14: Request details: Metadaten, Token-Anzahlen und Kosten
| Abschnitt | Felder |
|---|---|
| Request | Request ID (kopierbar), Time, Status, Model (das Modell, das die Anfrage bearbeitet hat), Requested model (z. B. auto, wenn der Auto Router das Modell gewählt hat), Provider, IP address, Cache hit, Latency, Time to first token sowie API base (der Upstream-Host), sofern erfasst. |
| Tokens | Prompt tokens, Completion tokens, Total tokens, Speed – sowie Cached tokens (Lesen/Schreiben) und Reasoning tokens, sofern vorhanden. |
| Cost | Die exakten Kosten der Anfrage. |
| Source | Key / Agent (welcher API-Schlüssel oder Agent den Aufruf ausgeführt hat) und End user (die Endbenutzerkennung, falls der Aufrufer eine angegeben hat). |
In den Protokollen gibt es bewusst nirgends Prompt- oder Antwortinhalte.