Важно, что redaction — не просто "замазать текст черным прямоугольником" на картинке. В цифровом документе скрытый текст может остаться внутри файла, метаданных или слоя OCR. Хорошая redaction удаляет или заменяет данные так, чтобы их нельзя было восстановить обычным копированием, поиском или экспортом.
Для ИИ-агентов redaction особенно важна. Агент может получать документы клиентов, тикеты поддержки, CRM-записи, логи tool calls и RAG-контекст. Перед отправкой этих данных во внешнюю модель или в ответ пользователю нужно убрать лишнее: PII, секреты, чужие данные, внутренние комментарии и конфиденциальные условия.
Redaction часто используют вместе с guardrails, retrieval filters, audit log и data retention. Система должна не только скрыть данные, но и показать, что именно было обработано, по какому правилу и где нужен ручной контроль.
Примеры
- Перед отправкой договора в ИИ-агента система заменяет паспортные данные и банковские реквизиты на метки вроде [REDACTED_PASSPORT] и [REDACTED_BANK].
- В логах tool calls скрывают API key, чтобы он не попал в отладочный отчет или внешнюю систему аналитики.
- Поддержка отправляет клиенту фрагмент тикета, но redaction убирает внутренние комментарии оператора и данные другого пользователя.
- RAG-система не передает модели chunks, где есть персональные данные, если у пользователя нет права на такой контекст.
- Юридический отдел публикует шаблон договора, предварительно удалив имена клиентов, суммы, адреса и номера приложений.
Где используется
- Скрывать PII перед отправкой данных в LLM или внешнюю API-систему.
- Удалять секреты, API keys, токены и пароли из логов.
- Готовить документы к публикации, обучению, разбору или передаче подрядчику.
- Очищать тикеты поддержки, CRM-записи и переписку от лишних персональных данных.
- Защищать RAG-контекст от утечки чужих или конфиденциальных документов.
- Сохранять audit log: какие поля были скрыты и по какому правилу.
- Снижать риск sensitive data disclosure в ответах ИИ-агента.
- Готовить безопасные примеры для evals, тестов и демонстраций.
- Разделять автоматическое маскирование и ручную проверку для спорных случаев.
Связанные термины
Частые вопросы
Чем redaction отличается от anonymization?
Redaction обычно скрывает или удаляет конкретные чувствительные фрагменты. Anonymization шире: она должна сделать данные не привязанными к конкретному человеку или организации.
Чем redaction отличается от masking?
Masking часто частично скрывает значение, например ****1234. Redaction обычно полностью удаляет или заменяет фрагмент меткой, чтобы исходное значение нельзя было увидеть.
Какие данные нужно редактировать перед отправкой в ИИ?
Обычно скрывают персональные данные, секреты, ключи API, пароли, платежные реквизиты, медицинские данные, коммерческие условия, внутренние инструкции и данные других клиентов.
Можно ли доверять автоматической redaction полностью?
Для простых шаблонов можно автоматизировать большую часть работы, но важные документы и спорные случаи лучше проверять человеком, особенно если данные юридически или финансово чувствительные.
Как проверить качество redaction?
Нужно тестировать на реальных форматах: PDF, DOCX, OCR, email, логи, таблицы. Проверяют, что данные нельзя восстановить копированием, поиском, экспортом или просмотром метаданных.
