Prompt injection возникает, когда пользователь или внешний текст пытается заставить модель игнорировать правила, раскрыть данные или вызвать опасный инструмент.
Для агентов это особенно опасно, потому что ошибка может привести не только к плохому ответу, но и к действию в CRM, файлах, коде или API.
Термин
Prompt injection
Атака, при которой вредный текст пытается изменить инструкции или поведение LLM-системы.