Threat model для ИИ-агента должен учитывать не только обычные web-риски, но и prompt injection, tool abuse, data leakage, RAG poisoning и excessive agency.
Хорошая модель угроз помогает решить, где нужны sandbox, approval workflow, audit log, guardrails и ограничения инструментов.
Термин
Threat model
Описание того, кто и как может атаковать систему, какие активы защищаются и какие меры снижают риск.