Что это
Prometheus можно использовать для метрик AI-агента: request count, error rate, latency buckets, queue delay, tool error rate и custom counters по safety events.
Когда выбирать
Нужен для тестирования промптов, оценки качества, guardrails, red teaming, наблюдаемости и контроля AI-систем перед production.
На что обратить внимание
Оценки должны быть привязаны к реальным рискам: утечки данных, токсичность, галлюцинации, неверные действия агента и нарушения политик.
Как начать
- Опишите рисковые сценарии.
- Соберите тестовый набор.
- Запустите регулярные проверки.
- Отслеживайте регрессии после изменений.
