Thread summary используют, когда диалог становится длинным и его уже неудобно целиком отправлять в модель. Вместо десятков сообщений агент получает короткое, структурированное резюме: кто участники, о чем договорились, какие факты важны, какие задачи открыты и что нужно сделать дальше.
Проще говоря, thread summary - это сжатая память по разговору. Оно не должно пересказывать каждую реплику. Его задача - сохранить смысл, решения, ограничения, обещания, дедлайны, ссылки на документы, открытые вопросы и последние действия.
Для AI-агента thread summary помогает экономить токены и не терять контекст. Если агент поддержки ведет длинный чат с клиентом, он может не отправлять всю историю в каждый новый запрос. Вместо этого он отправляет свежие сообщения плюс summary: проблема, уже проверенные шаги, номер заказа, настроение клиента и следующий рекомендуемый шаг.
Хорошее summary должно быть проверяемым. В нем лучше разделять факты, решения, задачи и предположения. Например: "факт: клиент оплатил счет 12 мая", "решение: отправить замену", "открытый вопрос: подтвердить адрес", "риск: клиент недоволен вторым переносом". Так модель меньше путает подтвержденные данные с догадками.
Thread summary связано с context compression и short-term memory. Summary часто обновляют после каждого важного этапа: завершилась встреча, закрылась задача, появился новый документ, изменился статус клиента. Старые детали можно удалить, но важные решения и ограничения должны остаться.
В production важно хранить не только само summary, но и время обновления, источник, автора или модель, confidence score и ссылку на исходный trace или сообщения. Тогда при споре можно понять, откуда взялся факт и не превратилось ли резюме в испорченный пересказ.
Примеры
- В поддержке thread summary хранит проблему клиента, номер заказа, уже выполненные проверки, обещанный срок ответа и текущий уровень недовольства.
- После встречи агент делает summary: решения, action items, владельцы задач, дедлайны и вопросы, которые нужно вынести в следующий созвон.
- В sales-чате summary фиксирует потребности клиента, бюджет, возражения, следующую дату контакта и отправленное коммерческое предложение.
- В длинном диалоге с AI summary заменяет старую историю сообщений, чтобы агент не выходил за context window.
- При handoff от бота к оператору summary показывает человеку, что уже произошло, чтобы не заставлять клиента повторять все заново.
Где используется
- сжатие длинных чатов для AI-агента
- поддержка клиентов и handoff оператору
- резюме встреч и follow-up
- сохранение short-term memory между запусками агента
- уменьшение token usage и стоимости
- передача контекста между агентами
- работа с email-тредами и тикетами
- ведение CRM-заметок по сделке
- подготовка следующего шага в customer success
Связанные термины
Частые вопросы
Что такое thread summary простыми словами?
Это короткая сводка длинной переписки: что произошло, какие факты важны, о чем договорились, какие задачи открыты и что делать дальше.
Зачем AI-агенту thread summary?
Оно помогает не отправлять в модель весь старый диалог, экономит токены, ускоряет ответ и сохраняет важный контекст для следующих шагов.
Что должно быть в хорошем thread summary?
Участники, цель диалога, важные факты, решения, открытые вопросы, задачи, дедлайны, ограничения, настроение клиента и ссылки на исходные документы или сообщения.
Чем thread summary отличается от обычного пересказа?
Обычный пересказ может быть свободным текстом. Thread summary лучше делать структурированным: факты отдельно, решения отдельно, задачи отдельно, предположения отдельно.
Как часто обновлять thread summary?
После важных событий: нового решения, смены статуса, завершения встречи, передачи оператору, появления документа или когда диалог стал слишком длинным для context window.
