Tool poisoning особенно важен в экосистеме MCP и внешних интеграций. Агент видит tool descriptions как часть контекста, поэтому вредный или плохо описанный инструмент может повлиять на решение модели.
Подключайте только доверенные инструменты, ограничивайте права, фиксируйте версии и проверяйте tool calls перед выполнением.
Термин
Tool poisoning
Атака или ошибка, при которой описание инструмента или подключенный tool заставляет агента действовать неправильно.