В ИИ-системах PII masking особенно важен, потому что данные часто попадают в промпты, RAG-контекст, логи, trace, evals и внешние инструменты. Если агенту не нужно знать реальный телефон клиента, лучше заменить его на плейсхолдер вроде [PHONE]. Если нужно сохранить связь между несколькими сообщениями, используют стабильную маску: один и тот же email заменяется на один и тот же псевдоним.
Маскирование не всегда равно удалению данных. Иногда важно скрыть значение, но оставить тип и структуру: “клиент [PERSON] просит отправить счет на [EMAIL]”. Так модель понимает смысл задачи, но не видит лишние персональные данные. В других случаях нужно полностью вырезать поле или запретить передачу во внешний сервис.
Хороший PII masking работает до отправки данных в модель и после получения ответа. На входе он убирает лишнее из пользовательского текста и документов. На выходе проверяет, не раскрыл ли агент персональные данные случайно. Для production-агентов это стоит сочетать с data retention, audit log, access control, policy gate и тестами на sensitive data disclosure.
Примеры
- Перед отправкой обращения в модель email клиента заменяется на [EMAIL], а телефон — на [PHONE].
- В agent trace сохраняется не реальный номер паспорта, а маска [DOCUMENT_ID].
- Агент поддержки видит историю обращения, но банковские реквизиты в тексте скрыты.
- В наборе evals реальные имена клиентов заменяют на синтетические, чтобы тесты можно было безопасно хранить.
- После генерации ответа система проверяет, не вставил ли агент в текст скрытый адрес или телефон из контекста.
Где используется
- Скрывать персональные данные перед отправкой текста в LLM.
- Защищать логи, trace, evals и датасеты от лишних персональных данных.
- Маскировать email, телефоны, ФИО, адреса, документы, ID клиентов и реквизиты.
- Сохранять смысл текста через плейсхолдеры без раскрытия реальных значений.
- Проверять ответы агента на sensitive data disclosure.
- Снижать риск утечек при RAG, tool calling и работе с документами.
- Разделять данные, которые агенту нужны для задачи, и данные, которые лучше не показывать модели.
- Поддерживать compliance, privacy review и внутренние правила безопасности.
- Использовать policy gate, ACL и audit log для контроля доступа к исходным значениям.
Связанные термины
Частые вопросы
Что такое PII Masking простыми словами?
Это замена персональных данных на безопасные метки. Например, вместо реального email модель видит [EMAIL], а вместо телефона — [PHONE].
Какие данные относятся к PII?
К PII относятся ФИО, email, телефон, адрес, паспортные данные, банковские реквизиты, ID клиента, IP-адрес и любые данные, которые помогают определить человека.
Чем masking отличается от удаления данных?
При удалении поле полностью исчезает. При masking значение скрывается, но тип данных остается: модель понимает, что там был email или телефон, не видя реального значения.
Нужно ли маскировать данные перед отправкой в LLM?
Если реальные персональные данные не нужны для решения задачи, их лучше маскировать до отправки в модель, особенно в production-сценариях и логах.
Какая частая ошибка в PII masking?
Маскировать только входной текст и забывать про логи, trace, tool results, RAG-документы и финальный ответ агента.
