Активность и журналы

Для мониторинга предназначены две вкладки: Activity (сводная аналитика) и Logs (журнал аудита по каждому запросу). Обе охватывают все ключи API и подключенные сервисы, и обе записывают только метаданные — содержимое запросов и ответов никогда не сохраняется.

Вкладка Activity

На вкладке Activity есть четыре представления — Overview, Trends, Performance, Explore — и кнопка Export. Во всех представлениях доступны общие элементы управления в заголовке: фильтр Key / agent, фильтр Model и выбор периода Range (Last 24 hours, Last 7/30/90 days, Year, All time или Custom range).

Обзор

Рисунок 1. Заголовок вкладки Activity (вкладки представлений, фильтры, период и Export) и карточки KPI

Карточки KPI, каждая со сравнением с предыдущим периодом ("vs prev" / "No prior data"):

Рисунок 2. Top API keys & agents и Top sources

Top API keys & agents ранжирует ключи и подключенные сервисы по расходам, а Top sources показывает распределение использования между ключами API, агентами и рабочими процессами.

Ниже расположены три диаграммы с разбивкой использования по моделям и типам токенов.

Рисунок 3. Использование по моделям: расходы на каждую модель во времени

Рисунок 4. Объем запросов по моделям

Рисунок 5. Разбивка по токенам (токены запроса, завершения и рассуждений)

Если применяется кэширование запросов, карточка Prompt token caching показывает Cache hit rate — «Доля токенов запроса, полученных из кэша запросов провайдера.» — а также объемы кэшированных и некэшированных токенов.

Рисунок 6. Кэширование токенов запроса

Тренды

Рисунок 7. Trends: модели во времени со списком Trending; переключатель метрик (Tokens, Spend, Requests) находится в правом верхнем углу

Представление Trends показывает динамику: график каждой модели (и каждого ключа или агента — в отдельном разделе) во времени и список Trending с растущими позициями, включая значок New для позиций, которые не использовались в предыдущем периоде.

Производительность

Рисунок 8. Performance: KPI задержки, пропускной способности и ошибок с диаграммами Average latency over time и Errors over time

Рисунок 9. Надежность и производительность по моделям, а также Top failing models и Top failing keys & agents

Таблица по моделям (запросы, доля ошибок, средняя задержка и задержка p95, пропускная способность, расходы) — самый быстрый способ найти модель, работающую некорректно; списки сущностей с ошибками сразу указывают, что нужно проверить. Если ошибок нет, отображается "No errors in this period".

Обзор

Рисунок 10. Explore: сводная таблица по вашему использованию с параметрами Metric, Group by, Then by и Show top

Explore — это сводная таблица свободной формы: выберите Metric (например, Spend), Group by (Model, API key / agent, Source, Provider, Status), при необходимости добавьте вложенную группировку с помощью Then by и ограничьте список с помощью Show top. Результат — ранжированная разбивка со столбцами Value и % of Total. Действия со строками позволяют выбрать Apply filters based on this model (или ключ/агент) и перейти к View in logs.

Экспорт данных об активности

Нажмите Export, чтобы открыть диалоговое окно экспорта:

Рисунок 11. Export activity data: что экспортировать, период, фильтры и столбцы

• Что экспортировать: Raw requests (одна строка CSV на каждый запрос) или сводка — Summary by model, Summary by key & agent, Summary by source, Summary by period.
• Период и фильтры: период и фильтры текущего представления переносятся в диалоговое окно, и их можно изменить. В диалоговом окне отображается примерное количество строк ("approx. … requests"); экспорт необработанных данных ограничен 25,000 строк (если период превышает это значение, появляется "export is capped at 25,000").
• Столбцы: для экспорта необработанных данных выберите из Time (UTC), Request ID, Model, Provider, Status, Key / agent, Key hash, Source, End user, Prompt/Completion/Total/Cached/Reasoning tokens, Spend (USD), Duration (ms), TTFT (ms), Tokens/sec, Cache hit, Zero completion и IP — с кнопками Select all / Clear all.

Вкладка Logs

Вкладка Logs — это журнал аудита по каждому отдельному запросу.

Рисунок 12. Logs: поиск, фильтры, автообновление и таблица запросов

• Поиск ("Search request ID, key, model…"), а также фильтры Status (Success / Failed / All), Key / agent, Model и Provider.
• Готовые варианты Range: Last 15 minutes, Last hour, Last 24 hours (по умолчанию), Last 7 days и Last 30 days, либо выбор произвольных дат.
• Элемент Live расположен рядом с выбором периода и автоматически обновляет таблицу: выберите Off, 10s, 30s (по умолчанию) или 60s. Обратный отсчет показывает, когда произойдет следующее обновление, а Refresh now запускает его немедленно. Элемент Live скрыт, если произвольный период заканчивается в прошлом.

Рисунок 13. Элемент управления Live: обновление Off, 10s, 30s или 60s рядом с выбором периода

• Гистограмма показывает объем запросов за период (ошибки выделены); выделите на ней область перетаскиванием, чтобы ограничить таблицу этим интервалом ("Showing logs for …", с кнопкой Clear selection).
• Export открывает окно Export request logs: выберите необработанные запросы или сводку, период, фильтры (Key / agent, Model, Provider, Status — а также текущий текст поиска) и, для экспорта необработанных данных, столбцы.

Для сводок в диалоговом окне указано: «Сводки охватывают целые дни, поэтому выбор интервала меньше суток или области на графике расширяется до полных дней.» и «Текст поиска к сводкам не применяется.»

В каждой строке отображаются дата, идентификатор запроса, модель, провайдер, входные и выходные токены, агент/ключ, скорость (tok/s), стоимость и статус (success / failure). Значок No charge отмечает неудачные или пустые ответы, за которые плата не взимается. Значок cached у количества входных токенов показывает токены, полученные из кэша запросов, а в нижней части таблицы отображается "Showing … of …". При отсутствии результатов отображается "No requests yet." или "No requests match your filters."

Подробности запроса

Нажмите на строку, чтобы открыть панель Request details:

Рисунок 14. Request details: метаданные, количество токенов и стоимость

Содержимое запросов и ответов намеренно нигде в журналах не отображается.