Aktywność i dzienniki

Monitorowanie obejmują dwie karty: Activity (zagregowana analityka) i Logs (ścieżka audytu każdego żądania). Obie obejmują wszystkie klucze API i połączone usługi i obie rejestrują wyłącznie metadane — treść promptów i odpowiedzi nigdy nie jest przechowywana.

Karta Activity

Karta Activity ma cztery widoki — Overview, Trends, Performance, Explore — oraz przycisk Export. Wszystkie widoki korzystają z tych samych elementów sterujących w nagłówku: filtra Key / agent, filtra Model oraz selektora Range (Last 24 hours, Last 7/30/90 days, Year, All time lub Custom range).

Przegląd

Rysunek 1: Nagłówek Activity (karty widoków, filtry, zakres i Export) oraz karty KPI

Karty KPI, każda z porównaniem z poprzednim okresem ("vs prev" / "No prior data"):

Rysunek 2: Top API keys & agents oraz Top sources

Top API keys & agents szereguje klucze i połączone usługi według wydatków, a Top sources dzieli wykorzystanie między klucze API, agentów i przepływy pracy.

Poniżej trzy wykresy przedstawiają wykorzystanie w podziale na modele i typy tokenów.

Rysunek 3: Usage by model: wydatki w czasie dla każdego modelu

Rysunek 4: Request volume by model

Rysunek 5: Token breakdown (tokeny promptu, uzupełnienia i rozumowania)

Tam, gdzie ma zastosowanie buforowanie promptów, karta Prompt token caching pokazuje Cache hit rate — "Share of prompt tokens served from the provider prompt cache." — oraz liczbę tokenów buforowanych i niebuforowanych.

Rysunek 6: Prompt token caching

Trendy

Rysunek 7: Trends: modele w czasie z listą Trending; przełącznik metryki (Tokens, Spend, Requests) znajduje się w prawym górnym rogu

Widok Trends pokazuje zmiany: każdy model (oraz każdy klucz/agent, w osobnej sekcji) przedstawiony na wykresie w czasie, z listą Trending pozycji o rosnącym wykorzystaniu — w tym z plakietką New dla pozycji bez wykorzystania w poprzednim okresie.

Wydajność

Rysunek 8: Performance: wskaźniki KPI opóźnienia, przepustowości i błędów oraz wykresy Average latency over time i Errors over time

Rysunek 9: Reliability & performance by model wraz z Top failing models i Top failing keys & agents

Tabela dla poszczególnych modeli (żądania, wskaźnik błędów, średnie opóźnienie i opóźnienie p95, przepustowość, wydatki) to najszybszy sposób na wykrycie modelu, który działa nieprawidłowo; listy pozycji z błędami wskazują bezpośrednio, co należy zbadać. Gdy nie ma błędów, zobaczysz komunikat "No errors in this period".

Eksploruj

Rysunek 10: Explore: tabela przestawna wykorzystania z polami Metric, Group by, Then by i Show top

Explore to dowolna tabela przestawna: wybierz Metric (np. Spend), Group by (Model, API key / agent, Source, Provider, Status), opcjonalnie zagnieźdź grupowanie za pomocą Then by i ogranicz listę za pomocą Show top. Wynikiem jest uszeregowane zestawienie z kolumnami Value i % of Total. Akcje wiersza pozwalają Apply filters based on this model (lub kluczu/agencie) i przejść do View in logs.

Eksportowanie danych aktywności

Kliknij Export, aby otworzyć okno dialogowe eksportu:

Rysunek 11: Export activity data: co eksportować, zakres dat, filtry i kolumny

• Co eksportować: Raw requests (jeden wiersz CSV na żądanie) lub podsumowanie — Summary by model, Summary by key & agent, Summary by source, Summary by period.
• Zakres dat i filtry: zakres i filtry bieżącego widoku są przenoszone i można je dostosować. Okno dialogowe pokazuje przybliżoną liczbę wierszy ("approx. … requests"); eksporty surowych danych są ograniczone do 25,000 wierszy (gdy zakres przekracza ten limit, pojawia się komunikat "export is capped at 25,000").
• Kolumny: w przypadku eksportu surowych danych wybierz spośród Time (UTC), Request ID, Model, Provider, Status, Key / agent, Key hash, Source, End user, Prompt/Completion/Total/Cached/Reasoning tokens, Spend (USD), Duration (ms), TTFT (ms), Tokens/sec, Cache hit, Zero completion i IP — z opcjami Select all / Clear all.

Karta Logs

Karta Logs to ścieżka audytu rejestrująca żądanie po żądaniu.

Rysunek 12: Logs: wyszukiwanie, filtry, odświeżanie na żywo i tabela żądań

• Wyszukiwanie ("Search request ID, key, model…") oraz filtry Status (Success / Failed / All), Key / agent, Model i Provider.
• Ustawienia wstępne Range: Last 15 minutes, Last hour, Last 24 hours (domyślne), Last 7 days i Last 30 days lub wybór niestandardowych dat.
• Przełącznik Live znajduje się obok zakresu i automatycznie odświeża tabelę: wybierz Off, 10s, 30s (domyślnie) lub 60s. Odliczanie pokazuje, kiedy nastąpi następne odświeżenie, a Refresh now wymusza je od razu. Przełącznik Live jest ukryty, gdy niestandardowy zakres kończy się w przeszłości.

Rysunek 13: Przełącznik Live: odświeżanie Off, 10s, 30s lub 60s, obok selektora zakresu

• Histogram pokazuje liczbę żądań w danym zakresie (z wyróżnionymi błędami); zaznacz przeciągnięciem jego fragment, aby zawęzić tabelę do tego przedziału czasu ("Showing logs for …", z opcją Clear selection).
• Export otwiera okno Export request logs: wybierz surowe żądania lub podsumowanie, zakres dat, filtry (Key / agent, Model, Provider, Status — oraz bieżący tekst wyszukiwania) i, w przypadku eksportu surowych danych, kolumny.

W przypadku podsumowań okno dialogowe informuje: "Summaries cover whole days, so a sub-day or graph selection is widened to full days." oraz "The search text is not applied to summaries."

Każdy wiersz pokazuje datę, identyfikator żądania, model, dostawcę, tokeny wejściowe i wyjściowe, agenta / klucz, szybkość (tok/s), koszt i stan (success / failure). Plakietka No charge oznacza nieudane lub puste odpowiedzi, za które nic nie pobrano. Plakietka cached przy liczbie tokenów wejściowych oznacza tokeny obsłużone z bufora promptów, a stopka pokazuje "Showing … of …". Pusty wynik wyświetla komunikat "No requests yet." lub "No requests match your filters."

Szczegóły żądania

Kliknij wiersz, aby otworzyć panel Request details:

Rysunek 14: Request details: metadane, liczba tokenów i koszt

W dziennikach celowo nie ma nigdzie treści promptów ani odpowiedzi.