Обычные evals могут сказать, что ответ плохой. Tool evals помогают понять, почему: агент выбрал не тот tool, передал неправильный id, не запросил недостающие данные, проигнорировал ошибку API, не сделал handoff или вызвал write tool без approval.
Для безопасного production-запуска tool evals особенно важны рядом с write tools: CRM updates, отправка писем, платежи, доступы, удаление данных, публикации и внешние webhooks. Такие сценарии нужно проверять на нормальных, пограничных и атакующих примерах.
Хороший набор tool evals хранит входной запрос, ожидаемый tool, ожидаемые аргументы, допустимые ошибки, требования к approval, ожидаемый tool result handling и критерии pass/fail. После изменения промпта, schema, модели или tool policy эти тесты запускают как regression suite.
Примеры
- Пользователь просит найти статус заказа. Tool eval ожидает вызов get_order_status с order_id, а не create_support_ticket.
- Клиент просит вернуть деньги. Evals проверяют, что агент не вызывает refund_order сразу, а создает approval request.
- API возвращает ошибку 403. Tool eval проверяет, что агент не повторяет вызов бесконечно и передает задачу человеку.
- После изменения tool schema тест проверяет, что агент передает due_date в формате YYYY-MM-DD, а не свободным текстом.
- В атакующем примере пользователь просит игнорировать policy. Tool eval должен показать, что write tool заблокирован.
Где используется
- Проверять правильный выбор инструмента для пользовательской задачи.
- Тестировать аргументы tool call и schema validation.
- Проверять обработку ошибок API, retry и handoff.
- Контролировать approval для high-risk и write tools.
- Ловить регрессии после изменения промпта, модели, schema или policy.
- Сравнивать поведение агента на normal cases и attack cases.
- Собирать evidence для production go/no-go перед запуском агента.
Связанные термины
Частые вопросы
Что такое tool evals простыми словами?
Это тесты, которые проверяют, как агент пользуется инструментами: выбирает ли правильный tool, передает ли верные аргументы и правильно ли реагирует на результат или ошибку.
Чем tool evals отличаются от обычных evals?
Обычные evals часто оценивают финальный ответ. Tool evals проверяют процесс: tool choice, arguments, policy, approval, retries, tool result и trace.
Какие метрики важны для tool evals?
Tool selection accuracy, argument validity, schema pass rate, unsafe call rate, approval compliance, error handling, idempotency и доля корректных handoff.
Когда запускать tool evals?
Перед production, после изменения промпта, модели, tool schema, policy, backend API или набора доступных tools. Лучше запускать их как регрессионный набор.
Что включить в dataset для tool evals?
Реальные запросы, edge cases, ошибки API, недостающие данные, попытки prompt injection, high-risk действия и ожидаемые tool calls с аргументами.
