活动与日志

本页内容

有两个选项卡用于监控:Activity(汇总分析)和 Logs(按请求的审计记录)。两者都涵盖每个 API 密钥和已连接服务,并且都只记录元数据:提示和响应内容永远不会被存储。

Activity 选项卡

Activity 包含四个视图:Overview、Trends、Performance、Explore,另有一个 Export 按钮。所有视图共用标题栏控件:按 Key / agent 筛选、按 Model 筛选,以及 Range 选择器(Last 24 hours、Last 7/30/90 days、Year、All time 或 Custom range)。

概览

Activity 标题栏和 KPI 卡片Activity 标题栏和 KPI 卡片

图 1:Activity 标题栏(视图选项卡、筛选器、范围和 Export)以及 KPI 卡片

KPI 卡片如下,每张卡片都会与上一周期进行比较("vs prev" / "No prior data"):

KPI含义
Spend this period"Total spend over the selected date range."(所选日期范围内的总支出),并显示每个请求的平均成本。
Requests请求数。
Token volume令牌总数。
Error rate"Share of requests in this period that returned an error."(此周期内返回错误的请求所占比例)

Top API keys & agents 和 Top sourcesTop API keys & agents 和 Top sources

图 2:Top API keys & agents 和 Top sources

Top API keys & agents 按支出对密钥和已连接服务进行排名,Top sources 则按 API 密钥、代理和 Workflows 划分使用情况。

其下方有三个图表,按模型和令牌类型细分使用情况。

按模型划分的使用情况按模型划分的使用情况

图 3:Usage by model:每个模型随时间变化的支出

按模型划分的请求量按模型划分的请求量

图 4:Request volume by model

Token breakdownToken breakdown

图 5:Token breakdown(提示、补全和推理令牌)

在适用提示缓存的情况下,Prompt token caching 卡片会显示 Cache hit rate("Share of prompt tokens served from the provider prompt cache.",即由提供商提示缓存提供的提示令牌所占比例),以及已缓存与未缓存的令牌量。

提示词 Token 缓存提示词 Token 缓存

图 6:Prompt token caching

Trends 视图Trends 视图

图 7:Trends:各模型随时间的变化及 Trending 列表;指标切换(Tokens、Spend、Requests)位于右上角

Trends 显示变化趋势:每个模型(以及每个密钥/代理,位于单独的部分)都以随时间变化的图表呈现,并附有上升项的 Trending 列表,其中上一周期没有使用记录的条目会带有 New 标记。

性能

Performance KPI 和图表Performance KPI 和图表

图 8:Performance:延迟、吞吐量和错误 KPI,以及 Average latency over time 和 Errors over time

KPI含义
Median latency"Median (p50) end-to-end request duration over the selected range."(所选范围内端到端请求时长的中位数 (p50))
p95 latency"95th-percentile request duration — the slow tail most users feel."(第 95 百分位请求时长,即大多数用户感受到的慢尾部分)
Avg time to first token"Average delay before the first streamed token (streaming requests only)."(收到第一个流式令牌前的平均延迟,仅限流式请求)
Throughput"Average output generation speed across requests."(各请求的平均输出生成速度)(tok/s)
Error rate / Total errors所选周期内的错误。

按模型显示的 Reliability & performance按模型显示的 Reliability & performance

图 9:按模型显示的 Reliability & performance,以及 Top failing models 和 Top failing keys & agents

按模型显示的表格(请求数、错误率、平均延迟和 p95 延迟、吞吐量、支出)是发现异常模型的最快方式;失败实体列表则直接指出需要调查的对象。如果没有失败,您会看到 "No errors in this period"。

探索

Explore 视图Explore 视图

图 10:Explore:使用 Metric、Group by、Then by 和 Show top 对使用情况进行透视分析

Explore 是一种自由形式的透视分析:选择 Metric(例如 Spend)、Group by(Model、API key / agent、Source、Provider、Status),可选择使用 Then by 进行嵌套,并使用 Show top 限制列表长度。结果是一个带有 Value 和 % of Total 的排名明细。通过行操作,您可以 Apply filters based on this model(或密钥/代理),并跳转到 View in logs。

导出活动数据

点击 Export 打开导出对话框:

Export activity data 对话框Export activity data 对话框

图 11:Export activity data:导出内容、日期范围、筛选器和列

  • **导出内容:**Raw requests(每个请求一行 CSV)或汇总:Summary by model、Summary by key & agent、Summary by source、Summary by period。
  • **日期范围和筛选器:**当前视图的范围和筛选器会沿用过来,并可进行调整。对话框会显示大致行数("approx. … requests");原始导出最多 25,000 行(当范围超出此限制时,会显示 "export is capped at 25,000")。
  • **列:**对于原始导出,可从 Time (UTC)、Request ID、Model、Provider、Status、Key / agent、Key hash、Source、End user、Prompt/Completion/Total/Cached/Reasoning tokens、Spend (USD)、Duration (ms)、TTFT (ms)、Tokens/sec、Cache hit、Zero completion 和 IP 中选择,并可使用 Select all / Clear all。

Logs 选项卡

Logs 选项卡是逐个请求的审计记录。

Logs 选项卡Logs 选项卡

图 12:Logs:搜索、筛选器、实时刷新和请求表

  • 搜索("Search request ID, key, model…"),以及 Status(Success / Failed / All)、Key / agent、Model 和 Provider 筛选器。
  • Range 预设:Last 15 minutes、Last hour、Last 24 hours(默认)、Last 7 days 和 Last 30 days,也可以选择自定义日期。
  • Live 位于范围选择器旁边,可自动刷新表格:选择 Off、10s、30s(默认)或 60s。倒计时会显示下次刷新的时间,点击 Refresh now 可立即刷新。当自定义范围的结束时间已过去时,Live 会被隐藏。

Live 刷新控件Live 刷新控件

图 13:Live 控件:Off、10s、30s 或 60s 刷新,位于范围选择器旁边

  • 直方图显示该范围内的请求量(错误会突出显示);在直方图上拖动选择一个区域,即可将表格缩放到该时间窗口("Showing logs for …",并提供 Clear selection)。
  • Export 会打开 Export request logs:选择原始请求或汇总、日期范围、筛选器(Key / agent、Model、Provider、Status,以及您当前的搜索文本),对于原始导出还可选择列。

对于汇总,对话框会注明:"Summaries cover whole days, so a sub-day or graph selection is widened to full days."(汇总以整天为单位,因此不足一天的选择或图表选择会扩展为整天)以及 "The search text is not applied to summaries."(搜索文本不适用于汇总)

每一行显示日期、请求 ID、模型、提供商、输入和输出令牌、代理/密钥、速度 (tok/s)、成本和状态(success / failure)。No charge 标记表示不产生费用的失败或空响应。输入计数上的 cached 标记表示由提示缓存提供的令牌,页脚显示 "Showing … of …"。结果为空时会显示 "No requests yet." 或 "No requests match your filters."

请求详细信息

点击某一行即可打开 Request details 抽屉:

Request details 抽屉Request details 抽屉

图 14:Request details:元数据、令牌计数和成本

部分字段
RequestRequest ID(可复制)、Time、Status、Model(处理该请求的模型)、Requested model(例如 Auto Router 选择模型时为 auto)、Provider、IP address、Cache hit、Latency、Time to first token,以及 API base(上游主机,如有记录)。
TokensPrompt tokens、Completion tokens、Total tokens、Speed,以及 Cached tokens(读取/写入)和 Reasoning tokens(如有)。
Cost该请求的确切成本。
SourceKey / Agent(发出调用的 API 密钥或代理)和 End user(最终用户标识符,如果调用方提供了)。

日志中刻意不包含任何提示或响应内容。