В RAG-системах citations особенно важны. Агент ищет релевантные chunks, формирует ответ и показывает пользователю источники, по которым можно проверить вывод. Без citations ответ выглядит уверенно, но непонятно, основан ли он на документе или на догадке модели.
Хорошая citation должна быть проверяемой: вести к исходному документу, показывать название, страницу или раздел, дату версии и, если возможно, точный фрагмент. Для внутренних баз знаний полезны права доступа: пользователь не должен видеть ссылку на документ, который ему недоступен.
Citation не гарантирует, что ответ правильный. Модель может неверно интерпретировать источник, сослаться на нерелевантный chunk или смешать несколько документов. Поэтому для важных решений нужна source verification: сверить, что ссылка действительно подтверждает конкретное утверждение.
В практическом интерфейсе citations лучше показывать рядом с утверждениями, а не только списком внизу. Тогда пользователь видит, какой факт чем подтвержден, и быстрее замечает места, где источника нет.
Примеры
- Агент отвечает по базе знаний и рядом с пунктом ставит ссылку на раздел инструкции, где это правило описано.
- В юридическом документе citation ведет на пункт договора и страницу PDF, а не просто на весь файл.
- В поддержке агент пишет ответ клиенту и прикладывает ссылку на актуальную статью базы знаний.
- В RAG-поиске citation показывает chunk, из которого взят тариф, дату обновления документа и owner.
- Если ответ содержит два разных факта, у каждого факта может быть своя citation.
- Агент не нашел источник и честно пишет: "в базе знаний подтверждения нет", вместо того чтобы придумывать ссылку.
Где используется
- ответы ИИ-агента по базе знаний через RAG
- проверка фактов в документах и регламентах
- снижение риска галлюцинаций
- поддержка клиентов с ссылками на инструкции
- юридический и финансовый анализ документов
- внутренний поиск по Confluence, Notion, Google Drive или PDF
- объяснение, почему агент сделал конкретный вывод
- контроль актуальности версии документа
- разграничение доступа к источникам через ACL
- аудит ответов ИИ и разбор спорных решений
Связанные термины
Частые вопросы
Citation означает, что ответ точно правильный?
Нет. Citation показывает источник, но модель может неправильно его понять. Для важных решений нужно проверить, что ссылка действительно подтверждает конкретное утверждение.
Что должна содержать хорошая citation?
Название источника, ссылку или ID документа, страницу или раздел, дату версии и желательно точный фрагмент. Для внутренних систем также важны права доступа.
Чем citation отличается от списка источников в конце?
Список источников показывает, какие документы использовались вообще. Citation лучше привязана к конкретному утверждению, поэтому легче проверить каждый факт.
Почему ИИ иногда дает неправильные citations?
Причины разные: плохой chunking, нерелевантный поиск, устаревший индекс, смешивание документов или попытка модели угадать ссылку. Поэтому citations тоже нужно тестировать.
Можно ли показывать citations на закрытые документы?
Только если пользователь имеет право на этот документ. В корпоративном RAG нужно проверять ACL до выдачи фрагмента и ссылки.
Что делать, если источник не найден?
Агент должен сказать, что подтверждения в доступных источниках нет, и предложить уточнить запрос или добавить документ в базу знаний. Придумывать citation нельзя.
