Термин RAG, источники и проверка фактов Средний

Source registry

Source registry - это реестр источников, где описано, какие документы, сайты, базы и хранилища разрешено использовать AI-агенту и насколько им можно доверять.

реестр источников каталог источников source catalog registry источников RAG knowledge source registry каталог документов для AI
Source registry нужен, чтобы AI-агент не брал знания откуда попало. В реестре фиксируют разрешенные источники: база знаний, Google Drive, Confluence, Notion, CRM, справочники, внутренние документы, публичные сайты, API и датасеты. Для каждого источника указывают владельца, тип, уровень доверия, дату обновления, правила доступа и назначение.

Проще говоря, source registry - это каталог источников для AI. Он отвечает на вопросы: откуда агент может брать факты, кто отвечает за актуальность, можно ли цитировать источник, кому он доступен, насколько он надежен и когда его нужно переиндексировать.

В RAG-сценариях source registry помогает управлять качеством ответов. Если агент ищет по базе знаний, он должен знать, какие коллекции использовать для поддержки, какие для юридических документов, какие устарели, а какие доступны только определенным ролям. Без реестра легко смешать черновики, старые инструкции и закрытые документы.

Source registry связан с source verification и source citation. Registry говорит, какие источники допустимы и какие у них свойства. Verification проверяет, подтверждается ли ответ источниками. Citation показывает пользователю, откуда взят факт. Вместе они снижают риск галлюцинаций и спорных ответов.

Для production полезно хранить в registry поля: source_id, название, URL или connector, владелец, тип источника, уровень доверия, область применения, ACL, freshness SLA, дата последней индексации, статус, правила цитирования, чувствительность данных и список связанных agent workflows.

Важно не считать source registry статичной таблицей. Источники устаревают, меняют владельцев, переезжают, становятся недоступными или получают новые права доступа. Поэтому реестр нужно обновлять, а AI-агент должен уметь учитывать freshness и не ссылаться на просроченные или запрещенные материалы.

Примеры

  • Для поддержки в source registry отмечены только актуальные статьи базы знаний, а старые PDF-инструкции имеют статус deprecated.
  • Юридический агент может читать договоры из защищенной папки, но только пользователям с нужным ACL.
  • RAG-агент использует source trust level: внутренний регламент выше по приоритету, чем публичная статья в блоге.
  • Если документ не переиндексировался 90 дней, source registry помечает его как stale и агент предупреждает о риске устаревания.
  • Ответ клиенту содержит citations только из источников, у которых разрешено внешнее цитирование.

Где используется

  • управление источниками для RAG
  • контроль актуальности базы знаний
  • разделение внутренних и публичных источников
  • проверка прав доступа к документам
  • source citation в ответах AI-агента
  • снижение галлюцинаций через trusted sources
  • аудит источников для compliance
  • переиндексация документов по расписанию
  • настройка AI-агентов под разные отделы и роли

Связанные термины

Частые вопросы

Что такое source registry простыми словами?

Это список разрешенных источников для AI-агента: документы, базы, сайты и API, из которых можно брать факты и которые имеют владельца, статус и правила доступа.

Зачем source registry нужен для RAG?

Он помогает не смешивать актуальные и устаревшие документы, учитывать права доступа, доверие к источнику и правила цитирования в ответах.

Какие поля хранить в source registry?

Название, source_id, URL или connector, тип источника, владелец, ACL, уровень доверия, статус, дата обновления, freshness SLA, правила цитирования и дата последней индексации.

Чем source registry отличается от vector database?

Vector database хранит индекс фрагментов для поиска. Source registry описывает сами источники, их права, владельцев, актуальность и правила использования.

Что делать с устаревшими источниками?

Помечать их как stale или deprecated, ограничивать использование, отправлять владельцу задачу на обновление и переиндексировать только после проверки.

Где читать дальше

Статьи по теме

Инструменты

Связанные инструменты