Проще говоря, grounded answer — это ответ “по материалам”, а не “по ощущению модели”. Если AI говорит: “по договору срок оплаты 10 рабочих дней”, в источнике действительно должен быть пункт про 10 рабочих дней. Если такого пункта нет, ответ может звучать уверенно, но groundedness низкая.
Groundedness особенно важна в RAG-системах, корпоративном поиске, юридических документах, поддержке, финансах и аналитике. Там модель должна не просто ответить красиво, а показать, откуда взялась информация. Поэтому рядом часто используют source citation, source verification, retrieval logs и evals.
Низкая groundedness не всегда означает, что ответ фактически неверный. Модель может случайно сказать правду, но не на основе переданного контекста. Для надежной AI-системы это все равно проблема: пользователь не сможет проверить источник, а команда не поймет, почему модель так ответила.
Примеры
- RAG-ответ ссылается на конкретный пункт регламента, и этот пункт действительно содержит нужное правило.
- AI утверждает, что клиент оплатил счет, но в переданных данных оплаты нет — groundedness низкая.
- Юридический агент перечисляет риски договора и рядом показывает пункты, где они найдены.
- Ответ поддержки считается grounded, если он основан на актуальной статье базы знаний, а не на общей памяти модели.
- Eval проверяет, можно ли каждое ключевое утверждение подтвердить найденными чанками.
Где используется
- Оценка качества RAG-ответов
- Проверка юридических, финансовых и технических ответов по источникам
- Снижение галлюцинаций в корпоративных AI-системах
- Контроль source citation и source verification
- Диагностика плохого retrieval и нерелевантных чанков
- Evals для AI-поиска, базы знаний и поддержки
- Аудит ответов AI-агента перед запуском в продакшен
Связанные термины
Частые вопросы
Groundedness и factuality — это одно и то же?
Нет. Factuality показывает, верно ли утверждение в реальном мире. Groundedness показывает, подтверждается ли оно переданными источниками. Ответ может быть фактически верным, но не grounded, если источника в контексте не было.
Чем groundedness отличается от faithfulness?
Термины близкие. Faithfulness чаще означает, что ответ не противоречит источнику и не добавляет лишнего. Groundedness делает акцент на том, что утверждения имеют опору в переданном контексте.
Как повысить groundedness?
Улучшить retrieval, использовать source citation, просить модель отвечать только по контексту, проверять утверждения evals, фильтровать источники и показывать пользователю ссылки на документы.
Как понять, что groundedness низкая?
Модель добавляет факты, которых нет в источниках, ссылается на несуществующий документ, смешивает разные фрагменты, делает выводы без данных или не может показать, откуда взялось утверждение.
