Это не то же самое, что долговременная память. Conversation context живет внутри текущей сессии или окна контекста. Когда диалог становится слишком длинным, часть старых сообщений может быть обрезана, сжата в summary или заменена более коротким state.
Если контекст собран плохо, модель начинает путаться: повторяет уже выполненные шаги, забывает ограничения, отвечает на старый вопрос, использует устаревшие данные или теряет важное согласие пользователя. В агентских сценариях это может привести к неверному tool call или действию без подтверждения.
Хороший conversation context не обязан включать всю переписку целиком. Часто лучше держать короткое рабочее представление: цель, актуальное состояние, что уже сделано, что запрещено, какие данные проверены, какие вопросы открыты и какие действия ожидаются дальше.
Для продуктов с ИИ важно проектировать контекст явно: что отправляется модели, что хранится только в backend, что попадает в long-term memory, что сжимается, а что удаляется. Это снижает стоимость, улучшает качество и помогает разбирать ошибки по traces.
Примеры
- Пользователь сначала просит писать коротко, и ассистент учитывает это ограничение в следующих ответах.
- Агент поддержки помнит в рамках чата, что клиент уже перезагрузил устройство и не предлагает тот же шаг снова.
- После выбора тарифа модель понимает, что вопрос "а сколько это стоит в год?" относится к выбранному тарифу.
- ИИ-агент видит результат предыдущего tool call и не вызывает тот же API повторно без причины.
- При длинном диалоге старые сообщения сжимаются в summary: цель, решения, открытые вопросы и важные запреты.
- Если пользователь переключился на новую задачу, context state обновляется, чтобы модель не смешивала старую тему с новой.
Где используется
- многоходовые диалоги с ассистентом
- поддержка клиентов в чате
- работа ИИ-агента по шагам
- хранение результата tool calls в сессии
- сохранение текущих ограничений пользователя
- контекст для follow-up вопросов
- сжатие длинного чата в summary
- handoff между агентом и оператором
- отладка ошибок через traces
- разделение текущего контекста и долговременной памяти
Связанные термины
Частые вопросы
Conversation context - это память агента?
Это краткосрочный контекст текущего диалога. Долговременная память сохраняет факты для будущих сессий, а conversation context обычно живет в текущем чате или workflow.
Что обычно входит в контекст диалога?
Последние сообщения, цель пользователя, уточнения, выбранные параметры, ограничения, результаты инструментов, открытые вопросы и следующий ожидаемый шаг.
Почему модель иногда забывает начало разговора?
У модели есть лимит контекстного окна. Когда диалог становится длинным, старые сообщения могут быть обрезаны или заменены summary.
Как не потерять важные детали в длинном чате?
Нужно сжимать контекст осознанно: сохранять цель, решения, запреты, точные числа, источники, согласия и нерешенные вопросы, а шум убирать.
Чем conversation context отличается от RAG?
Conversation context хранит ход текущего диалога. RAG ищет внешние знания в документах или базе знаний и добавляет релевантные фрагменты в prompt.
Можно ли отправлять модели всю историю чата?
Можно, пока она помещается в контекст и не содержит лишних или чувствительных данных. На практике лучше отправлять только актуальную часть и качественное summary.
