В RAG-системе citations обычно появляются после retrieval. Система находит релевантные chunks, передает их модели, а затем показывает ссылки на эти chunks или исходные документы. Это помогает отличать ответ по базе знаний от догадки модели.
Citations могут выглядеть по-разному: ссылки в квадратных скобках, список источников под ответом, номера страниц PDF, названия документов, ссылки на CRM-записи, таймкоды звонка или ID chunks. Важно, чтобы пользователь мог перейти от ответа к первоисточнику.
Хорошие citations должны быть точными и привязанными к конкретным утверждениям. Если весь ответ ссылается на один общий документ, но в документе нет нужного факта, такая citation почти бесполезна. Лучше показывать источник рядом с тезисом или хотя бы указывать страницу, раздел и версию.
Citations не заменяют проверку источников. Они показывают, где модель искала подтверждение, но не гарантируют, что она правильно поняла документ. Для важных решений нужны source verification, актуальные документы, корректный chunking и проверка прав доступа.
Примеры
- Агент отвечает на вопрос по регламенту и ставит ссылки [1], [2] на конкретные разделы базы знаний.
- В ответе по PDF citation показывает страницу 14 и пункт договора, где описано условие.
- В call analytics citation может быть таймкодом звонка, где клиент озвучил возражение.
- В CRM-агенте citation ведет на карточку сделки, заметку менеджера или тикет поддержки.
- Если один тезис подтвержден документом, а другой нет, агент должен показать citation только у подтвержденного тезиса.
- При устаревшем документе citation должна показывать дату версии, чтобы пользователь видел риск старой информации.
Где используется
- ответы ИИ-агента по базе знаний
- RAG-поиск по документам компании
- проверка фактов в юридических и финансовых документах
- поддержка клиентов со ссылками на инструкции
- снижение риска галлюцинаций
- аудит ответов ИИ после спорного решения
- показ источников в чат-виджете или внутреннем ассистенте
- связь ответа с chunks, страницами и версиями документов
- объяснение, почему агент сделал конкретный вывод
- контроль доступа к закрытым источникам через ACL
Связанные термины
Частые вопросы
Citations гарантируют правильность ответа?
Нет. Citations дают возможность проверить ответ, но модель может сослаться на нерелевантный фрагмент или неправильно понять источник. Важные выводы нужно сверять.
Чем citations отличаются от source citation?
Source citation - это одна конкретная ссылка на источник или фрагмент. Citations - общий набор таких ссылок и механизм их показа в ответе.
Где лучше показывать citations?
Лучше рядом с утверждениями или сразу после абзаца. Список источников внизу тоже полезен, но хуже показывает, какой факт чем подтвержден.
Что делать, если источник не найден?
Агент должен честно сказать, что подтверждения нет в доступных источниках. Придумывать citations или ссылаться на неподходящий документ нельзя.
Какие данные нужны для качественных citations?
Нужны метаданные: документ, страница, раздел, chunk id, дата версии, ссылка на файл, owner и права доступа. Без метаданных citation сложно проверить.
Почему citations иногда ведут не туда?
Частые причины: плохой chunking, шумный retrieval, устаревший индекс, одинаковые названия документов, отсутствие page mapping или ошибка модели при сопоставлении ответа и источника.
