Atividade e logs

Nesta página

Duas guias cobrem o monitoramento: Activity (análises agregadas) e Logs (a trilha de auditoria por solicitação). Ambas abrangem todas as chaves de API e todos os serviços conectados, e ambas registram somente metadados — o conteúdo dos prompts e das respostas nunca é armazenado.

A guia Activity

A guia Activity tem quatro visualizações — Overview, Trends, Performance e Explore — além de um botão Export. Todas as visualizações compartilham os controles do cabeçalho: filtro por Key / agent, filtro por Model e um seletor de Range (Last 24 hours, Last 7/30/90 days, Year, All time ou Custom range).

Visão geral

O cabeçalho da guia Activity e os cartões de KPIO cabeçalho da guia Activity e os cartões de KPI

Figura 1: O cabeçalho da guia Activity (guias de visualização, filtros, intervalo e Export) e os cartões de KPI

Os cartões de KPI, cada um com uma comparação com o período anterior ("vs prev" / "No prior data"):

KPISignificado
Spend this period"Total spend over the selected date range." — com o custo médio por solicitação.
RequestsQuantidade de solicitações.
Token volumeTotal de tokens.
Error rate"Share of requests in this period that returned an error."

Top API keys & agents e Top sourcesTop API keys & agents e Top sources

Figura 2: Top API keys & agents e Top sources

Top API keys & agents classifica as chaves e os serviços conectados por gasto, e Top sources divide o uso entre chaves de API, agentes e workflows.

Abaixo deles, três gráficos detalham o uso por modelo e por tipo de token.

Uso por modeloUso por modelo

Figura 3: Uso por modelo: gasto ao longo do tempo para cada modelo

Volume de solicitações por modeloVolume de solicitações por modelo

Figura 4: Volume de solicitações por modelo

O detalhamento de tokensO detalhamento de tokens

Figura 5: O detalhamento de tokens (tokens de prompt, de conclusão e de raciocínio)

Quando o cache de prompts se aplica, um cartão Prompt token caching mostra a Cache hit rate — "Share of prompt tokens served from the provider prompt cache." — e os volumes de tokens em cache e fora do cache.

Cache de tokens de promptCache de tokens de prompt

Figura 6: Cache de tokens de prompt

A visualização TrendsA visualização Trends

Figura 7: Trends: modelos ao longo do tempo com uma lista Trending; o seletor de métrica (Tokens, Spend, Requests) fica no canto superior direito

A visualização Trends mostra a evolução: cada modelo (e cada chave/agente, em sua própria seção) em um gráfico ao longo do tempo, com uma lista Trending dos que estão em alta — incluindo um selo New para as entradas sem uso no período anterior.

Desempenho

KPIs e gráficos de desempenhoKPIs e gráficos de desempenho

Figura 8: Performance: KPIs de latência, taxa de transferência e erros, com a latência média ao longo do tempo e os erros ao longo do tempo

KPISignificado
Median latency"Median (p50) end-to-end request duration over the selected range."
p95 latency"95th-percentile request duration — the slow tail most users feel."
Avg time to first token"Average delay before the first streamed token (streaming requests only)."
Throughput"Average output generation speed across requests." (tok/s)
Error rate / Total errorsErros no período selecionado.

Confiabilidade e desempenho por modeloConfiabilidade e desempenho por modelo

Figura 9: Confiabilidade e desempenho por modelo, com Top failing models e Top failing keys & agents

A tabela por modelo (solicitações, taxa de erros, latência média e p95, taxa de transferência, gasto) é a forma mais rápida de identificar um modelo com mau funcionamento; as listas de entidades com falhas apontam diretamente o que investigar. Sem falhas, você verá "No errors in this period".

Explorar

A visualização ExploreA visualização Explore

Figura 10: Explore: uma tabela dinâmica do seu uso com Metric, Group by, Then by e Show top

Explore é uma tabela dinâmica livre: escolha uma Metric (por exemplo, Spend), um Group by (Model, API key / agent, Source, Provider, Status), opcionalmente aninhe com Then by e limite a lista com Show top. O resultado é um detalhamento classificado com Value e % of Total. As ações de linha permitem Apply filters based on this model (ou na chave/agente) e ir para View in logs.

Exportando dados de atividade

Clique em Export para abrir a caixa de diálogo de exportação:

A caixa de diálogo Export activity dataA caixa de diálogo Export activity data

Figura 11: Export activity data: o que exportar, intervalo de datas, filtros e colunas

  • O que exportar: Raw requests (uma linha de CSV por solicitação) ou um resumo — Summary by model, Summary by key & agent, Summary by source, Summary by period.
  • Intervalo de datas e filtros: o intervalo e os filtros da visualização atual são mantidos e podem ser ajustados. A caixa de diálogo mostra a quantidade aproximada de linhas ("approx. … requests"); as exportações brutas são limitadas a 25,000 linhas ("export is capped at 25,000" aparece quando o intervalo excede esse limite).
  • Colunas: para exportações brutas, escolha entre Time (UTC), Request ID, Model, Provider, Status, Key / agent, Key hash, Source, End user, Prompt/Completion/Total/Cached/Reasoning tokens, Spend (USD), Duration (ms), TTFT (ms), Tokens/sec, Cache hit, Zero completion e IP — com Select all / Clear all.

A guia Logs

A guia Logs é a trilha de auditoria solicitação por solicitação.

A guia LogsA guia Logs

Figura 12: Logs: pesquisa, filtros, atualização em tempo real e a tabela de solicitações

  • Pesquisa ("Search request ID, key, model…") e filtros por Status (Success / Failed / All), Key / agent, Model e Provider.
  • Predefinições de Range: Last 15 minutes, Last hour, Last 24 hours (o padrão), Last 7 days e Last 30 days, ou escolha datas personalizadas.
  • Live fica ao lado do intervalo e atualiza a tabela automaticamente: escolha Off, 10s, 30s (o padrão) ou 60s. Uma contagem regressiva mostra quando a próxima atualização será executada, e Refresh now força uma atualização. Live fica oculto quando um intervalo personalizado termina no passado.

O controle de atualização LiveO controle de atualização Live

Figura 13: O controle Live: atualização Off, 10s, 30s ou 60s, ao lado do seletor de intervalo

  • O histograma mostra o volume de solicitações ao longo do intervalo (com os erros destacados); arraste para selecionar uma região dele e ampliar a tabela para essa janela ("Showing logs for …", com Clear selection).
  • Export abre Export request logs: escolha solicitações brutas ou um resumo, o intervalo de datas, os filtros (Key / agent, Model, Provider, Status — além do seu texto de pesquisa atual) e, para exportações brutas, as colunas.

Para resumos, a caixa de diálogo informa: "Summaries cover whole days, so a sub-day or graph selection is widened to full days." e "The search text is not applied to summaries."

Cada linha mostra a data, o ID da solicitação, o modelo, o provedor, os tokens de entrada e de saída, o agente/chave, a velocidade (tok/s), o custo e o status (success / failure). Um selo No charge marca as respostas com falha ou vazias que não tiveram custo. Um selo cached na contagem de entrada mostra os tokens atendidos pelo cache de prompts, e o rodapé mostra "Showing … of …". Um resultado vazio mostra "No requests yet." ou "No requests match your filters."

Detalhes da solicitação

Clique em uma linha para abrir a gaveta Request details:

A gaveta Request detailsA gaveta Request details

Figura 14: Request details: metadados, contagens de tokens e custo

SeçãoCampos
RequestRequest ID (copiável), Time, Status, Model (o modelo que atendeu a solicitação), Requested model (por exemplo, auto quando o Auto Router escolheu o modelo), Provider, IP address, Cache hit, Latency, Time to first token e API base (o host upstream), quando registrado.
TokensPrompt tokens, Completion tokens, Total tokens, Speed — além de Cached tokens (leitura/gravação) e Reasoning tokens, quando presentes.
CostO custo exato da solicitação.
SourceKey / Agent (qual chave de API ou agente fez a chamada) e End user (o identificador do usuário final, se o chamador o tiver fornecido).

Não há, de propósito, nenhum conteúdo de prompt ou de resposta em nenhum lugar dos logs.