Главное правило: пользователь должен понимать, что именно сохраняется, зачем это нужно, как долго хранится и как это удалить. Фраза "мы улучшаем сервис" слишком общая. Хороший интерфейс говорит конкретно: "Запомнить, что отчеты нужны в формате PDF по пятницам?"
Для AI-агентов consent особенно важен, потому что память влияет на будущие решения. Если агент запомнил неверный факт или чувствительную информацию без согласия, он может повторять ошибку, раскрыть лишнее в другом контексте или принять действие на основе устаревших данных.
Не все данные можно сохранять одинаково. Низкорисковые предпочтения можно хранить проще, а персональные данные, платежная информация, медицинские сведения, пароли, токены, документы и коммерческие тайны требуют отдельных правил, ограничений доступа и часто ручного подтверждения.
Хорошая система памяти дает пользователю контроль: посмотреть сохраненные факты, изменить их, отключить память, удалить отдельный факт или очистить все. Для компании также нужны audit log, TTL, роли доступа и политика, какие типы данных агенту запрещено запоминать.
Примеры
- Бот спрашивает: "Запомнить, что вы хотите получать короткие ответы без технических деталей?"
- Агент поддержки сохраняет язык общения клиента только после явного согласия.
- Система не сохраняет номер карты из переписки, потому что такие данные запрещены политикой памяти.
- Пользователь открывает раздел "Память" и удаляет факт о старом проекте, чтобы агент больше на него не ссылался.
- В корпоративном агенте память о клиенте хранится 90 дней, после чего автоматически очищается по TTL.
- Перед сохранением данных из договора агент отправляет запись на approval владельцу процесса.
Где используется
- персонализация ответов ИИ-ассистента
- долговременная память клиентского агента
- сохранение предпочтений пользователя
- контроль персональных и чувствительных данных
- настройка TTL для памяти агента
- удаление или исправление сохраненных фактов
- корпоративная политика AI-памяти
- audit log по сохранению памяти
- guardrails для запрета опасных данных
- human-in-the-loop approval для спорных фактов
Связанные термины
Частые вопросы
Чем память агента отличается от истории чата?
История чата обычно нужна для текущего диалога. Долговременная память сохраняет факты для будущих сессий, поэтому требует отдельного согласия и управления.
Всегда ли нужно спрашивать согласие на память?
Если данные будут использоваться в будущих сессиях или могут влиять на решения агента, согласие нужно делать явным. Особенно для персональных, рабочих и чувствительных данных.
Какие данные лучше не сохранять в память?
Пароли, API-ключи, токены, платежные данные, медицинские сведения, лишние персональные данные, коммерческие тайны и любые факты, которые пользователь не просил запоминать.
Как правильно попросить consent?
Коротко и конкретно: что сохранить, зачем, где это будет использоваться и как удалить. Например: "Запомнить этот формат отчета для будущих задач?"
Что делать, если агент запомнил неверный факт?
Нужен интерфейс просмотра и редактирования памяти. Пользователь или администратор должен уметь удалить факт, исправить его и увидеть, когда он был сохранен.
Как memory consent связан с безопасностью?
Память расширяет контекст агента и может переносить данные между сессиями. Без consent, TTL, ролей и audit log она превращается в риск утечки или неверного решения.
