Attività e log

In questa pagina

Il monitoraggio è affidato a due schede: Activity (analisi aggregate) e Logs (la traccia di controllo per singola richiesta). Entrambe coprono tutte le chiavi API e tutti i servizi connessi ed entrambe registrano solo metadati: il contenuto dei prompt e delle risposte non viene mai memorizzato.

La scheda Activity

Activity offre quattro viste (Overview, Trends, Performance, Explore) più un pulsante Export. Tutte le viste condividono i controlli dell'intestazione: filtro per Key / agent, filtro per Model e un selettore Range (Last 24 hours, Last 7/30/90 days, Year, All time o Custom range).

Panoramica

L'intestazione di Activity e le schede KPIL'intestazione di Activity e le schede KPI

Figura 1: l'intestazione di Activity (schede delle viste, filtri, intervallo ed Export) e le schede KPI

Le schede KPI, ciascuna con un confronto rispetto al periodo precedente ("vs prev" / "No prior data"):

KPISignificato
Spend this period"Total spend over the selected date range.", con il costo medio per richiesta.
RequestsNumero di richieste.
Token volumeToken totali.
Error rate"Share of requests in this period that returned an error."

Top API keys & agents e Top sourcesTop API keys & agents e Top sources

Figura 2: Top API keys & agents e Top sources

Top API keys & agents classifica le chiavi e i servizi connessi in base alla spesa e Top sources suddivide l'utilizzo tra chiavi API, agenti e workflow.

Sotto di esse, tre grafici suddividono l'utilizzo per modello e per tipo di token.

Utilizzo per modelloUtilizzo per modello

Figura 3: utilizzo per modello: la spesa nel tempo per ciascun modello

Volume di richieste per modelloVolume di richieste per modello

Figura 4: volume di richieste per modello

La ripartizione dei tokenLa ripartizione dei token

Figura 5: la ripartizione dei token (token di prompt, di completamento e di ragionamento)

Dove si applica la memorizzazione nella cache dei prompt, una scheda Prompt token caching mostra il Cache hit rate ("Share of prompt tokens served from the provider prompt cache.") e i volumi di token memorizzati e non memorizzati nella cache.

Caching dei token del promptCaching dei token del prompt

Figura 6: Prompt token caching

La vista TrendsLa vista Trends

Figura 7: Trends: i modelli nel tempo con un elenco Trending; il selettore della metrica (Tokens, Spend, Requests) si trova in alto a destra

Trends mostra l'andamento: ogni modello (e ogni chiave/agente, in una sezione dedicata) rappresentato nel tempo, con un elenco Trending di quelli in crescita, compreso un badge New per le voci senza utilizzo nel periodo precedente.

Prestazioni

KPI e grafici di PerformanceKPI e grafici di Performance

Figura 8: Performance: KPI di latenza, throughput ed errori, con Average latency over time ed Errors over time

KPISignificato
Median latency"Median (p50) end-to-end request duration over the selected range."
p95 latency"95th-percentile request duration — the slow tail most users feel."
Avg time to first token"Average delay before the first streamed token (streaming requests only)."
Throughput"Average output generation speed across requests." (tok/s)
Error rate / Total errorsGli errori nel periodo selezionato.

Affidabilità e prestazioni per modelloAffidabilità e prestazioni per modello

Figura 9: affidabilità e prestazioni per modello, con Top failing models e Top failing keys & agents

La tabella per modello (richieste, tasso di errore, latenza media e p95, throughput, spesa) è il modo più rapido per individuare un modello che non funziona correttamente; gli elenchi delle entità con errori indicano direttamente cosa esaminare. Se non ci sono errori vedrai "No errors in this period".

Esplora

La vista ExploreLa vista Explore

Figura 10: Explore: una tabella pivot sul tuo utilizzo con Metric, Group by, Then by e Show top

Explore è una tabella pivot libera: scegli una Metric (ad es. Spend), un Group by (Model, API key / agent, Source, Provider, Status), facoltativamente annida con Then by e limita l'elenco con Show top. Il risultato è una ripartizione ordinata con Value e % of Total. Le azioni di riga ti consentono di usare Apply filters based on this model (o chiave/agente) e di passare a View in logs.

Esportare i dati di attività

Fai clic su Export per aprire la finestra di dialogo di esportazione:

La finestra di dialogo Export activity dataLa finestra di dialogo Export activity data

Figura 11: Export activity data: cosa esportare, intervallo di date, filtri e colonne

  • Cosa esportare: Raw requests (una riga CSV per richiesta) oppure un riepilogo: Summary by model, Summary by key & agent, Summary by source, Summary by period.
  • Intervallo di date e filtri: l'intervallo e i filtri della vista corrente vengono mantenuti e possono essere modificati. La finestra di dialogo mostra il numero approssimativo di righe ("approx. … requests"); le esportazioni non elaborate sono limitate a 25,000 righe (quando l'intervallo supera questo valore compare "export is capped at 25,000").
  • Colonne: per le esportazioni non elaborate, scegli tra Time (UTC), Request ID, Model, Provider, Status, Key / agent, Key hash, Source, End user, Prompt/Completion/Total/Cached/Reasoning tokens, Spend (USD), Duration (ms), TTFT (ms), Tokens/sec, Cache hit, Zero completion e IP, con Select all / Clear all.

La scheda Logs

La scheda Logs è la traccia di controllo richiesta per richiesta.

La scheda LogsLa scheda Logs

Figura 12: Logs: ricerca, filtri, aggiornamento in tempo reale e tabella delle richieste

  • Ricerca ("Search request ID, key, model…") più filtri per Status (Success / Failed / All), Key / agent, Model e Provider.
  • Intervalli predefiniti Range: Last 15 minutes, Last hour, Last 24 hours (l'impostazione predefinita), Last 7 days e Last 30 days, oppure scegli date personalizzate.
  • Live si trova accanto all'intervallo e aggiorna automaticamente la tabella: scegli Off, 10s, 30s (l'impostazione predefinita) o 60s. Un conto alla rovescia indica quando verrà eseguito il prossimo aggiornamento e Refresh now ne forza uno. Live è nascosto quando un intervallo personalizzato termina nel passato.

Il controllo di aggiornamento LiveIl controllo di aggiornamento Live

Figura 13: il controllo Live: aggiornamento Off, 10s, 30s o 60s, accanto al selettore dell'intervallo

  • L'istogramma mostra il volume delle richieste nell'intervallo (con gli errori evidenziati); trascina per selezionarne una porzione e limitare la tabella a quella finestra ("Showing logs for …", con Clear selection).
  • Export apre Export request logs: scegli richieste non elaborate o un riepilogo, l'intervallo di date, i filtri (Key / agent, Model, Provider, Status, più il testo di ricerca corrente) e, per le esportazioni non elaborate, le colonne.

Per i riepiloghi, la finestra di dialogo precisa: "Summaries cover whole days, so a sub-day or graph selection is widened to full days." e "The search text is not applied to summaries."

Ogni riga mostra data, ID della richiesta, modello, fornitore, token di input e di output, agente / chiave, velocità (tok/s), costo e stato (success / failure). Un badge No charge contrassegna le risposte non riuscite o vuote che non hanno alcun costo. Un badge cached sul conteggio di input indica i token serviti dalla cache dei prompt e il piè di pagina mostra "Showing … of …". Un risultato vuoto mostra "No requests yet." o "No requests match your filters."

Dettagli della richiesta

Fai clic su una riga per aprire il pannello Request details:

Il pannello Request detailsIl pannello Request details

Figura 14: Request details: metadati, conteggi dei token e costo

SezioneCampi
RequestRequest ID (copiabile), Time, Status, Model (il modello che ha elaborato la richiesta), Requested model (ad es. auto quando il modello è stato scelto dall'Auto Router), Provider, IP address, Cache hit, Latency, Time to first token e API base (l'host a monte) quando registrato.
TokensPrompt tokens, Completion tokens, Total tokens, Speed, più Cached tokens (lettura/scrittura) e Reasoning tokens quando presenti.
CostIl costo esatto della richiesta.
SourceKey / Agent (quale chiave API o agente ha effettuato la chiamata) ed End user (l'identificativo dell'utente finale, se il chiamante lo ha fornito).

Nei log non è presente, di proposito, alcun contenuto di prompt o risposte.