Проще говоря, одна модель играет роль проверяющего. Она может поставить балл, выбрать лучший ответ из нескольких, найти нарушение инструкции, оценить полноту, тон, фактические ошибки, безопасность или соответствие формату.
Подход полезен для evals, тестирования промптов, проверки AI-агентов, RAG-систем, customer support ботов и генераторов контента. Например, можно автоматически прогонять 100 тестовых вопросов и просить модель-судью оценить, насколько ответы точные, полезные и безопасные.
Важно: LLM-as-judge не заменяет человека полностью. Модель-судья тоже может ошибаться, иметь смещения и по-разному оценивать похожие ответы. Поэтому для важных сценариев используют рубрики, эталонные примеры, несколько судей, выборочную ручную проверку и сравнение с человеческой оценкой.
Примеры
- AI-бот ответил клиенту. LLM-as-judge проверяет, был ли ответ вежливым, точным и не обещал ли лишнего.
- RAG-система дала ответ по базе знаний. Модель-судья оценивает, опирается ли ответ на найденные источники.
- Две модели написали разные варианты письма. LLM-as-judge выбирает лучший по понятности, тону и соответствию задаче.
- AI-агент предложил действие в CRM. Модель-судья проверяет, не нарушает ли оно правила безопасности.
- После изменения системного промпта набор тестов прогоняется заново, а LLM-as-judge сравнивает качество до и после.
Где используется
- Evals для промптов, AI-агентов и RAG-систем
- Регрессионное тестирование качества ответов после изменений
- Оценка customer support ответов по тону, полноте и безопасности
- Сравнение нескольких моделей или промптов на одном наборе задач
- Проверка structured output: соответствует ли ответ JSON-схеме и правилам
- Контроль hallucination, prompt injection и нарушений политики
- Выборочная проверка больших наборов AI-ответов перед публикацией
Связанные термины
Confidence score
Dataset для evals
Evals
Guardrails
Human-in-the-loop
Prompt Versioning
QA Scorecard
RAG Evals
Частые вопросы
LLM-as-judge можно считать объективной оценкой?
Нет полностью. Это полезная автоматическая оценка, но модель-судья тоже может ошибаться. Для важных систем ее нужно калибровать на примерах и сравнивать с человеческой проверкой.
Что нужно дать модели-судье?
Минимум: задачу, ответ модели, критерии оценки и формат результата. Лучше добавить рубрику с баллами, примеры хороших и плохих ответов, а также правила, что считать критической ошибкой.
Когда LLM-as-judge особенно полезен?
Когда нужно регулярно проверять много AI-ответов: после изменения промпта, модели, базы знаний, tool calling или логики AI-агента.
Какие риски есть у LLM-as-judge?
Смещение модели, нестабильные оценки, излишняя мягкость или строгость, ошибки в фактах и зависимость от качества рубрики. Поэтому нужны тестовые наборы, ручной контроль и метрики согласия с человеком.
