Термин AI-агенты, tool calling и безопасность Средний

Tool registry

Реестр инструментов, которые AI-агенту разрешено видеть и вызывать, с описанием прав, рисков, схем и владельцев.

реестр инструментов каталог tools tool catalog registry инструментов агента agent tool registry каталог функций агента function registry реестр tool calling
Tool registry — это каталог инструментов, доступных AI-агенту. В нем описывают, какие tools существуют, что они делают, какие аргументы принимают, кто владелец, какой у них risk level и при каких условиях агент может их вызвать.

Без tool registry агентная система быстро превращается в хаос: часть tools устаревает, часть имеет слишком широкие права, schema меняются без тестов, а никто не знает, какие действия реально доступны модели. Реестр делает инструменты видимыми, управляемыми и проверяемыми.

В хорошем registry у каждого инструмента есть имя, описание, tool schema, версия, владелец, окружение, права доступа, side effects, лимиты, политика логирования, требования к approval и статус: draft, active, deprecated или disabled.

Tool registry не заменяет backend ACL и guardrails, но помогает связать их в одну систему. Агент должен получать только те tools, которые разрешены для его роли, пользователя, канала и текущей задачи. Опасные действия лучше держать за allowlist и human approval.

Примеры

  • В tool registry инструмент send_email помечен как high risk: агент может создать черновик, но отправка требует approval.
  • CRM tool доступен только агенту продаж, а агент поддержки видит только search_customer и create_ticket.
  • Старый инструмент update_deal_stage переведен в статус deprecated, поэтому новые агенты его не получают.
  • Для каждого tool в registry хранится версия schema, чтобы после изменения аргументов можно было прогнать регрессионные тесты.
  • Инструмент refund_order доступен только при роли finance_agent и требует audit log, approval workflow и лимит суммы.

Где используется

  • Управлять списком tools, доступных AI-агентам.
  • Разделять инструменты по ролям, каналам, пользователям и окружениям.
  • Хранить risk level, side effects, владельца и статус каждого инструмента.
  • Контролировать изменения tool schema и запускать regression tests.
  • Связать tool calling с ACL, guardrails, audit log и approval workflow.
  • Отключать устаревшие или опасные tools без переписывания всего агента.
  • Понимать, какие действия агент реально может выполнить в production.

Связанные термины

Частые вопросы

Что такое tool registry простыми словами?

Это список инструментов, которые агенту разрешено использовать. В нем указано, что делает каждый tool, какие данные принимает, кто за него отвечает и насколько действие рискованное.

Чем tool registry отличается от tool schema?

Tool schema описывает аргументы одного инструмента. Tool registry хранит весь каталог инструментов: схемы, владельцев, права, риски, статусы и правила доступа.

Зачем нужен risk level у tools?

Не все инструменты одинаково опасны. Поиск в базе знаний почти безопасен, а отправка письма, возврат денег или изменение сделки требуют ограничений, логов и часто подтверждения человека.

Можно ли отдавать агенту все tools сразу?

Лучше не надо. Агент должен видеть только инструменты, нужные для текущей роли и задачи. Чем шире набор tools, тем выше риск ошибочного или опасного действия.

Что обязательно хранить в tool registry?

Минимум: имя, описание, schema, владелец, статус, risk level, side effects, права доступа, лимиты, требования к approval и правила логирования.

Где читать дальше

Статьи по теме

Инструменты

Связанные инструменты