Hoạt động và nhật ký

Hai tab phục vụ việc giám sát: Activity (phân tích tổng hợp) và Logs (dấu vết kiểm tra theo từng yêu cầu). Cả hai đều bao gồm mọi khóa API và dịch vụ được kết nối, và cả hai chỉ ghi lại siêu dữ liệu — nội dung câu lệnh và phản hồi không bao giờ được lưu trữ.

Tab Activity

Activity có bốn chế độ xem — Overview, Trends, Performance, Explore — cùng với nút Export. Tất cả chế độ xem dùng chung các điều khiển ở phần đầu trang: lọc theo Key / agent, lọc theo Model và bộ chọn Range (Last 24 hours, Last 7/30/90 days, Year, All time hoặc Custom range).

Tổng quan

Hình 1: Phần đầu trang Activity (các tab chế độ xem, bộ lọc, khoảng thời gian và Export) và các thẻ KPI

Các thẻ KPI, mỗi thẻ kèm so sánh với kỳ trước ("vs prev" / "No prior data"):

Hình 2: Top API keys & agents và Top sources

Top API keys & agents xếp hạng các khóa và dịch vụ được kết nối theo chi tiêu, còn Top sources phân chia mức sử dụng giữa khóa API, agent và workflow.

Bên dưới là ba biểu đồ phân tích mức sử dụng theo mô hình và theo loại token.

Hình 3: Usage by model: chi tiêu theo thời gian cho từng mô hình

Hình 4: Request volume by model

Hình 5: Token breakdown (token câu lệnh, token hoàn thành và token suy luận)

Khi có áp dụng bộ nhớ đệm câu lệnh, thẻ Prompt token caching hiển thị Cache hit rate — "Share of prompt tokens served from the provider prompt cache." — cùng khối lượng token được lưu đệm và không được lưu đệm.

Hình 6: Prompt token caching

Xu hướng

Hình 7: Trends: các mô hình theo thời gian kèm danh sách Trending; công tắc chỉ số (Tokens, Spend, Requests) nằm ở góc trên bên phải

Trends cho thấy sự biến động: từng mô hình (và từng khóa/agent, trong phần riêng) được thể hiện trên biểu đồ theo thời gian, kèm danh sách Trending gồm các mục tăng mạnh — bao gồm huy hiệu New cho các mục không có mức sử dụng trong kỳ trước.

Hiệu suất

Hình 8: Performance: các KPI về độ trễ, thông lượng và lỗi, cùng Average latency over time và Errors over time

Hình 9: Reliability & performance by model, cùng Top failing models và Top failing keys & agents

Bảng theo từng mô hình (số yêu cầu, tỷ lệ lỗi, độ trễ trung bình và p95, thông lượng, chi tiêu) là cách nhanh nhất để phát hiện mô hình hoạt động bất thường; các danh sách thực thể gặp lỗi chỉ thẳng đến những gì cần điều tra. Khi không có lỗi, bạn sẽ thấy "No errors in this period".

Khám phá

Hình 10: Explore: bảng tổng hợp mức sử dụng của bạn với Metric, Group by, Then by và Show top

Explore là bảng tổng hợp tự do: chọn Metric (ví dụ Spend), Group by (Model, API key / agent, Source, Provider, Status), có thể lồng thêm cấp bằng Then by, và giới hạn danh sách bằng Show top. Kết quả là bảng phân tích được xếp hạng với Value và % of Total. Các thao tác trên hàng cho phép bạn Apply filters based on this model (hoặc khóa/agent) và chuyển đến View in logs.

Xuất dữ liệu hoạt động

Nhấp vào Export để mở hộp thoại xuất:

Hình 11: Export activity data: nội dung cần xuất, khoảng thời gian, bộ lọc và cột

• Nội dung cần xuất: Raw requests (mỗi yêu cầu một hàng CSV) hoặc bản tóm tắt — Summary by model, Summary by key & agent, Summary by source, Summary by period.
• Khoảng thời gian và bộ lọc: khoảng thời gian và bộ lọc của chế độ xem hiện tại được giữ nguyên và có thể điều chỉnh. Hộp thoại hiển thị số hàng ước tính ("approx. … requests"); bản xuất dữ liệu thô được giới hạn ở 25,000 hàng ("export is capped at 25,000" xuất hiện khi khoảng thời gian vượt quá giới hạn này).
• Cột: đối với bản xuất dữ liệu thô, chọn trong số Time (UTC), Request ID, Model, Provider, Status, Key / agent, Key hash, Source, End user, Prompt/Completion/Total/Cached/Reasoning tokens, Spend (USD), Duration (ms), TTFT (ms), Tokens/sec, Cache hit, Zero completion và IP — với Select all / Clear all.

Tab Logs

Tab Logs là dấu vết kiểm tra theo từng yêu cầu.

Hình 12: Logs: tìm kiếm, bộ lọc, làm mới trực tiếp và bảng yêu cầu

• Tìm kiếm ("Search request ID, key, model…") cùng các bộ lọc Status (Success / Failed / All), Key / agent, Model và Provider.
• Các thiết lập sẵn Range: Last 15 minutes, Last hour, Last 24 hours (mặc định), Last 7 days và Last 30 days, hoặc chọn ngày tùy chỉnh.
• Live nằm cạnh khoảng thời gian và tự động làm mới bảng: chọn Off, 10s, 30s (mặc định) hoặc 60s. Bộ đếm ngược cho biết khi nào lần làm mới tiếp theo diễn ra, và Refresh now buộc làm mới ngay. Live bị ẩn khi khoảng thời gian tùy chỉnh kết thúc trong quá khứ.

Hình 13: Điều khiển Live: làm mới Off, 10s, 30s hoặc 60s, nằm cạnh bộ chọn khoảng thời gian

• Biểu đồ histogram hiển thị khối lượng yêu cầu trong khoảng thời gian (lỗi được làm nổi bật); kéo để chọn một vùng trên biểu đồ nhằm thu hẹp bảng vào khoảng thời gian đó ("Showing logs for …", kèm Clear selection).
• Export mở Export request logs: chọn yêu cầu thô hoặc bản tóm tắt, khoảng thời gian, bộ lọc (Key / agent, Model, Provider, Status — cùng văn bản tìm kiếm hiện tại của bạn) và, đối với bản xuất dữ liệu thô, các cột.

Đối với bản tóm tắt, hộp thoại ghi chú: "Summaries cover whole days, so a sub-day or graph selection is widened to full days." và "The search text is not applied to summaries."

Mỗi hàng hiển thị ngày, request ID, mô hình, nhà cung cấp, token đầu vào và đầu ra, agent / khóa, tốc độ (tok/s), chi phí và trạng thái (success / failure). Huy hiệu No charge đánh dấu các phản hồi lỗi hoặc trống không tính phí. Huy hiệu cached trên số token đầu vào cho biết các token được phục vụ từ bộ nhớ đệm câu lệnh, và phần chân trang hiển thị "Showing … of …". Khi không có kết quả, sẽ hiển thị "No requests yet." hoặc "No requests match your filters."

Chi tiết yêu cầu

Nhấp vào một hàng để mở ngăn Request details:

Hình 14: Request details: siêu dữ liệu, số token và chi phí

Nhật ký được thiết kế có chủ đích để không chứa bất kỳ nội dung câu lệnh hoặc phản hồi nào.