Хороший audit log отвечает на вопросы: кто инициировал запуск, какой агент работал, какой prompt version использовался, какой tool был вызван, какие аргументы переданы, какой объект изменился, старое и новое значение, кто подтвердил действие, какой результат и где trace для подробного разбора.
Audit log отличается от обычного технического лога. Технический лог помогает разработчику отладить ошибку. Audit log помогает бизнесу, безопасности и юристам понять, кто и почему совершил значимое действие. Поэтому его делают структурированным, защищенным от редактирования и удобным для поиска.
В AI-системах audit log часто связывают с agent trace. Trace показывает путь рассуждений и вызовов, а audit log фиксирует важные события с последствиями: создание сделки, отправка сообщения, изменение статуса, approval, отказ, rollback или ошибка.
Важно не писать в audit log все подряд и не хранить секреты. API-ключи, пароли, токены, полные персональные данные и лишний контент нужно маскировать. При этом ключевые факты, ID объектов, статусы, timestamps и причины решений должны сохраняться достаточно долго для расследований.
Примеры
- AI-агент изменил стадию сделки в CRM. Audit log хранит deal_id, старую стадию, новую стадию, tool, пользователя, время и причину.
- Агент подготовил письмо клиенту, менеджер нажал approve, после чего письмо ушло. В журнале есть draft_id, approver, timestamp и результат отправки.
- Tool call к Google Drive завершился ошибкой доступа. Audit log фиксирует resource_id, действие, статус denied и пользователя, от имени которого был запрос.
- После prompt injection агент предложил опасное действие, но guardrail его заблокировал. В журнале хранится action candidate, правило блокировки и trace.
- Финансовый агент подготовил отчет и список аномалий. Audit log показывает, какие источники данных использовались и кто открыл отчет.
- При rollback workflow журнал хранит, какая версия была откатана, кто подтвердил откат и какой результат вернул API.
Где используется
- расследование ошибок AI-агента
- контроль write-actions в CRM, документах, почте и API
- подтверждение действий через approval workflow
- безопасное внедрение AI-агентов в компании
- аудит доступа к персональным данным и секретам
- связь business events с agent trace и logs
- подготовка отчетов для ИБ, юристов и руководителей
- поиск причин инцидента и rollback
- контроль изменений prompt, model, tools и workflow
- доказательство того, кто принял решение и когда
Связанные термины
Частые вопросы
Audit log и обычный log - это одно и то же?
Нет. Обычный log чаще нужен для технической отладки. Audit log фиксирует значимые действия и решения: кто, что, когда, с какими правами, над каким объектом и с каким результатом.
Что обязательно писать в audit log AI-агента?
Минимум: run_id, actor, agent_id, action, tool, object_id, old/new value, timestamp, status, approval info, error reason и ссылку на trace. Для важных действий также полезны prompt version и model.
Можно ли хранить в audit log промпты и ответы модели?
Иногда да, но осторожно. Промпты и ответы могут содержать персональные данные, секреты и коммерческую информацию. Лучше хранить ссылки на trace, summary и маскированные значения, а полный контент ограничивать доступами и сроком хранения.
Почему audit log важен для approval workflow?
Он показывает, кто утвердил действие, что именно было утверждено, были ли правки, когда действие выполнилось и чем закончилось. Без audit log согласование превращается в устную договоренность.
Как защитить audit log от подмены?
Используйте append-only запись, ограниченные права, централизованное хранилище, резервирование, timestamps, event ids и, при необходимости, подписи или внешнюю систему логирования. Не давайте агенту редактировать собственный audit log.
Сколько хранить audit log?
Зависит от риска и требований компании. Для тестовых запусков срок может быть коротким, для финансов, юридических документов, персональных данных и клиентских действий обычно нужен более длинный retention и понятная политика удаления.
