В AI-агентах конфликт часто возникает незаметно. Один источник говорит, что счет оплачен, другой показывает долг. Агент поддержки считает ответ безопасным, а guardrail помечает его как рискованный. Один reviewer одобрил pull request, другой нашел критический баг. Без правил система либо выберет случайный вариант, либо продолжит действие с неправильными данными.
Хорошее разрешение конфликтов начинается не с "угадать правильный ответ", а с классификации: какой тип конфликта возник, насколько он критичен, есть ли более авторитетный источник, можно ли автоматически выбрать победителя или нужно передать человеку.
Типовые правила: первоисточник важнее пересказа, свежая версия важнее старой, ручное подтверждение владельца важнее догадки модели, опасное действие блокируется до approval, а при равных источниках система сохраняет оба варианта и просит уточнение.
Для продакшена conflict resolution должен оставлять след: что конфликтовало, какой вариант выбран, по какому правилу, кто подтвердил и какие данные были доступны. Такой audit trail помогает разбирать ошибки и улучшать правила.
Примеры
- В CRM статус сделки "won", а в бухгалтерии оплата не найдена. Агент не отправляет thank-you письмо и ставит задачу финансам.
- Два агента предлагают разные ответы клиенту. Supervisor выбирает вариант с источниками и меньшим risk score.
- В договоре есть две версии правки. Система показывает отличия юристу и не принимает изменения автоматически.
- Reviewer одобрил pull request, но security scan нашел секрет в diff. Branch protection блокирует merge.
- RAG нашел два противоречивых документа. Агент отвечает: "данные расходятся" и показывает оба источника.
- Оператор изменил приоритет тикета вручную, поэтому автоматическое правило агента больше не перезаписывает это поле.
Где используется
- разрешение конфликтов между источниками данных
- согласование правок в договорах и документах
- merge conflict и code review
- арбитраж между несколькими AI-агентами
- выбор версии ответа перед отправкой клиенту
- конфликт статусов в CRM, 1С и платежах
- обработка противоречивых RAG-источников
- guardrails для опасных действий
- approval workflow и human-in-the-loop
- ведение audit trail по спорным решениям
Связанные термины
Частые вопросы
Что считается конфликтом в AI-системе?
Любая ситуация, где есть два или больше несовместимых варианта: разные данные, версии документа, ответы агентов, статусы задачи, решения проверок или правила доступа.
Можно ли всегда выбирать самый свежий источник?
Нет. Свежесть важна, но не всегда решает. Первоисточник, владелец данных, юридическая сила документа и ручное подтверждение могут быть важнее даты.
Когда конфликт нужно отдавать человеку?
Когда решение влияет на деньги, юридические обязательства, доступы, безопасность, репутацию или когда источники равны по надежности и противоречат друг другу.
Как конфликт resolution связан с guardrails?
Guardrails могут блокировать действие, если конфликт критичный. Например, агент не отправляет платеж, не удаляет данные и не публикует ответ, пока конфликт не разобран.
Что должно попадать в audit trail?
Какие варианты конфликтовали, какие источники использовались, какое правило сработало, кто подтвердил решение и какое действие система выполнила после этого.
Какая частая ошибка в conflict resolution?
Сделать одно общее правило для всех случаев. Для данных, кода, документов, денег и клиентских ответов нужны разные уровни строгости и разные fallback-сценарии.
