Guardrails - это правила, фильтры и проверки вокруг агента. Они ограничивают опасные действия, проверяют входные и выходные данные, требуют подтверждение для важных операций и помогают не допустить утечки данных.
Примеры: запрет удалять записи без человека, ограничение доступа к платежам, проверка ответа по источникам, маскирование персональных данных, список разрешенных API и журнал действий.
Термин
Guardrails
Ограничения и проверки, которые удерживают AI-агента в безопасных рамках.