Галлюцинация возникает, когда модель генерирует ответ без достаточной опоры на факты или документы. RAG снижает этот риск, но не убирает его полностью.
Для агентов галлюцинации опаснее, чем для чатботов, потому что агент может на основе неверного вывода вызвать инструмент или изменить данные.
Термин
Галлюцинация
Уверенный, но неверный или неподтвержденный ответ модели.