Проще говоря, модель не получает готовые правила как обычная программа. Она видит много примеров и настраивает внутренние параметры так, чтобы лучше предсказывать нужный результат. Поэтому качество данных напрямую влияет на качество модели.
Хорошие training data должны быть релевантными задаче, разнообразными, очищенными от мусора и правильно размеченными. Если обучать модель поддержки на грубых или неточных ответах операторов, она может перенять этот стиль. Если в данных много дублей, ошибок и устаревших правил, модель будет увереннее повторять эти ошибки.
Для fine-tuning данные обычно оформляют как пары или диалоги: вход пользователя, нужный контекст, ожидаемый ответ, иногда метка класса или structured output. Для классификации нужны примеры с правильными категориями. Для извлечения данных - документы и ожидаемый JSON. Для evals нужен отдельный dataset, который не смешивают с обучающим набором.
Важно отделять training data от test/eval data. Если модель видела примеры во время обучения, проверять качество на них нечестно: она может просто запомнить ответы. Поэтому часть данных оставляют для проверки на новых случаях. Это помогает заметить overfitting.
Training data отличается от RAG-документов. RAG дает модели факты во время ответа и может обновляться без переобучения. Training data меняет поведение модели через обучение или fine-tuning. Если нужно добавить актуальные регламенты, цены или базу знаний, чаще лучше начать с RAG, а не с дообучения.
Отдельный риск - безопасность данных. В обучающий набор не должны попадать секреты, API-ключи, пароли, лишние персональные данные, конфиденциальные договоры и частная переписка без законного основания. Перед обучением данные нужно чистить, а состав dataset версионировать и документировать.
Примеры
- Для классификатора обращений training data содержит текст тикета и правильную категорию: billing, delivery, bug или refund.
- Для fine-tuning ассистента поддержки dataset содержит вопрос клиента, нужный контекст и хороший ответ оператора.
- Для извлечения данных из счетов training data содержит PDF или текст документа и ожидаемый JSON с номером, датой, суммой и ИНН.
- Если в обучающем наборе много одинаковых примеров, модель может переобучиться и хуже отвечать на новые формулировки.
- Если в dataset случайно попал API-ключ, его нужно удалить до обучения и проверить, не утек ли секрет в другие копии данных.
Где используется
- обучение модели с нуля
- fine-tuning готовой модели
- классификация обращений и документов
- извлечение structured output
- обучение tone of voice ассистента
- улучшение качества на типовых кейсах
- подготовка eval dataset отдельно от train set
- data cleaning перед обучением
- контроль overfitting и baseline
- версионирование dataset в LLMOps
Связанные термины
Audit log
Baseline
Classification
Data cleaning
Data quality check
Data retention
DataFrame
Dataset для evals
Частые вопросы
Что такое данные для обучения?
Это примеры, на которых модель учится: входные данные, правильные ответы, метки классов, документы, изображения, код или другие образцы нужного поведения.
Чем training data отличается от eval data?
Training data используют для обучения или fine-tuning. Eval data оставляют для проверки качества на примерах, которые модель не должна была видеть во время обучения.
Можно ли обучать модель на сырых чатах поддержки?
Лучше нет. Сырые чаты часто содержат ошибки, грубый стиль, персональные данные, дубли, неполные ответы и устаревшие правила. Их нужно чистить и размечать.
Когда нужны training data, а когда RAG?
Training data нужны, когда нужно изменить поведение, стиль, классификацию или формат. RAG лучше подходит для актуальных фактов, документов, регламентов и базы знаний.
Какие данные нельзя класть в обучающий набор?
Секреты, API-ключи, пароли, лишние персональные данные, конфиденциальные документы без основания, противоречивые примеры, мусор, дубли и неподтвержденные ответы.
