Что получится в результате
Установим LM Studio на Windows, скачаем небольшую текстовую модель и получим черновик ответа по известным фактам. Потом проверим тот же запрос без интернета и сохраним результат в обычный текстовый файл. Терминал, Docker и платный AI-API для этого маршрута не нужны.
Для первого теста возьмём Qwen2.5-1.5B-Instruct в GGUF. Это небольшая модель 2024 года для освоения запуска, а не самая сильная модель 2026 года и не «модель без цензуры». После рабочего первого чата покажем, как выбрать другую GGUF-модель, в том числе сборку Dolphin.
Что понадобится
- Windows-компьютер с поддерживаемым процессором: для x64 LM Studio требует AVX2.
- Разработчик рекомендует от 16 ГБ RAM и 4 ГБ выделенной VRAM. Это рекомендации, а не обещание скорости; небольшой текстовый пример можно пробовать на CPU.
- Около 5 ГБ свободного места как запас для приложения, движка и первого файла; более крупная модель потребует больше места.
- Интернет на этапе установки и загрузки, затем он не нужен для обычного локального чата.
Сначала используйте вымышленные данные. Не подключайте внешние инструменты или реальные клиентские документы, пока проверяете базовый запуск.
Шаг 1. Установите LM Studio
Откройте lmstudio.ai и скачайте установщик для архитектуры своего Windows-компьютера. Тип системы можно посмотреть в «Параметры → Система → О системе». Запустите установщик, затем приложение. Если мастер предлагает настроить инструменты или интеграции, для первого чата они не нужны.
Проверка: окно приложения открывается. Если оно не запускается из-за неподдерживаемого процессора, скачивание другой модели не устранит отсутствие AVX2.
Шаг 2. Откройте поиск моделей
Перейдите во вкладку Discover с поиском моделей. На Windows её можно открыть сочетанием Ctrl+2. В строку поиска вставьте точное название репозитория:
Qwen/Qwen2.5-1.5B-Instruct-GGUFМожно вставить полный адрес huggingface.co/Qwen/Qwen2.5-1.5B-Instruct-GGUF. Проверьте автора Qwen, число 1.5B и суффиксы Instruct-GGUF. Похожий результат 7B или файл safetensors - другой вариант, не выбирайте его случайно.
Шаг 3. Выберите один файл
Откройте варианты загрузки и выберите Q4_K_M. Ориентир для этого репозитория - файл qwen2.5-1.5b-instruct-q4_k_m.gguf размером около 1,12 ГБ. Размер и наличие файла проверены 6 октября 2026 года; сверяйте имя перед загрузкой.
GGUF - формат файла модели. Q4_K_M - вариант квантования, уменьшающий размер весов. Это не отдельная нейросеть и не режим снятия ограничений. Не скачивайте все варианты Q2, Q4 и Q8: для первого опыта достаточно одного.
Шаг 4. Дождитесь окончания загрузки
Нажмите Download для выбранного файла. Не переходите к чату по одному проценту прогресса: дождитесь завершения и проверьте наличие модели в My Models.
Если загрузка оборвалась, сначала проверьте свободное место и сеть. В My Models также можно изменить папку хранения моделей. Меняйте место до следующей загрузки и проверьте результат в приложении; не перемещайте рабочие файлы наугад в проводнике.
Шаг 5. Загрузите модель в память
Откройте Chat. В верхнем селекторе загрузки модели выберите скачанную Qwen2.5-1.5B-Instruct с Q4_K_M. Дождитесь окончания загрузки в память. Если приложение предложит скачать совместимый runtime, выполните это пока есть интернет: runtime - движок, который выполняет модель.
Для первого короткого диалога оставьте стандартные настройки. Не выставляйте максимальный контекст и не подключайте MCP-инструменты. Проверка: модель выбрана в чате, а отправка сообщения доступна.
Шаг 6. Проверьте простой ответ
Создайте новый чат кнопкой «+» или Ctrl+N. Отправьте:
Ответь по-русски одним предложением. Известен факт: встреча завтра в 11:00. Напомни о встрече, не добавляя адрес, имя или другие сведения.Должно получиться короткое напоминание с 11:00. Любой текст в окне подтверждает только работу генерации. Если появились неизвестные имена или адрес, качество этого ответа не прошло проверку.
Шаг 7. Получите полезный черновик
Откройте ещё один новый чат, чтобы предыдущая встреча не попала в контекст. Вставьте задание целиком:
Ты готовишь черновик ответа клиенту на русском языке.
Используй только перечисленные факты. Ничего не отправляй.
Не придумывай причину задержки, дату доставки, скидку или обещание возврата.
Если фактов не хватает, скажи, что нужно уточнить.
Учебные данные:
Клиент: Мария.
Заявка: 42.
Статус: на проверке.
Следующее сообщение: 12 октября 2026 года.
Напиши письмо до 80 слов. В конце дай одну строку «Проверка фактов» с использованными фактами.В результате нужен понятный черновик письма, а не новый регламент работы с клиентами. Строка проверки помогает заметить лишние детали, но не заменяет сверку человеком.
Шаг 8. Проверьте неизвестный факт
Сопоставьте ответ с четырьмя строками учебных данных: имя, номер, статус, дата следующего сообщения. Затем в новом чате задайте отдельный вопрос:
Известно только: заявка 42 находится на проверке. Когда клиенту вернут деньги? Если дата неизвестна, прямо скажи об этом. Не придумывай срок.Приемлемый ответ: дата неизвестна. Названный срок без основания - ошибка. Не отправляйте такой текст клиенту. Сначала уточните задание или сравните другую модель на том же тесте.
Шаг 9. Проверьте чат без интернета
Когда модель и runtime уже скачаны, отключите Wi-Fi или сетевое соединение. Создайте новый чат с той же загруженной моделью и повторите задание шага 6. Дождитесь ответа, затем восстановите соединение.
Для обычного чата со скачанной моделью интернет не требуется. Поиск новых моделей, загрузка, обновления и отдельно подключённые внешние инструменты - другая история. Этот тест не доказывает, что любая будущая интеграция будет локальной.
Шаг 10. Сохраните проверенный текст
Скопируйте удачный черновик, откройте Блокнот и сохраните его как answer-lm-studio.txt с кодировкой UTF-8. Откройте файл снова: Мария, 42 и 12 октября должны читаться нормально. Не сохраняйте неподтверждённые обещания вместе с проверенной версией.
LM Studio хранит диалоги отдельно. В контекстном меню чата можно открыть его расположение через Show in File Explorer. Не редактируйте внутренний JSON диалога вручную: для передачи результата достаточно проверенного TXT.
Шаг 11. Освободите память или удалите ненужный файл
Чтобы освободить RAM/VRAM, выгрузите выбранную модель через управление загрузкой модели в Chat. Выгрузка из памяти не удаляет скачанный файл. Для удаления файла перейдите в My Models, найдите конкретную модель и подтвердите удаление через её меню.
Проверьте различие: выгруженную модель можно выбрать снова без скачивания, удалённую сначала придётся загрузить. Ваш отдельно сохранённый answer-lm-studio.txt не является файлом модели.
Шаг 12. Выберите другую модель без путаницы
Меняйте только одну вещь за раз: сначала модель, затем при необходимости настройки. Для русских рабочих текстов проверяйте инструктивные модели на тех же двух заданиях. Смотрите автора, исходную модель, лицензию, точное имя GGUF и объём памяти. Qwen в основном маршруте не обещает отсутствие отказов.
Если нужен именно учебный uncensored-пример, в Discover можно найти tensorblock/dolphin-2.9-llama3-8b-GGUF и вариант dolphin-2.9-llama3-8b-Q4_K_M.gguf, около 4,58 ГБ. Это GGUF-конверсия TensorBlock модели Dolphin от Cognitive Computations, а не официальный продукт Meta и не тот же файл Ollama. Репозиторий и имя проверены на дату статьи; перед загрузкой ещё раз сверьте исходную модель и её лицензию. Не берите 8B, если предыдущая модель едва помещалась.
Скачайте один вариант, выберите его в Chat и повторите тесты шагов 6-8. Dolphin - тоже пример старой модели, не рекомендация самого сильного решения. Полного отсутствия отказов, хорошего русского и корректности ответа метка uncensored не гарантирует. Кнопка приложения не переписывает обучение выбранной модели.
Если модель не загружается или отвечает плохо
- Файл скачан, но отсутствует в чате: проверьте My Models, формат GGUF и завершение загрузки. Если ошибка указывает на движок, обновите совместимый runtime через настройки LM Studio, затем повторите загрузку.
- Недостаточно памяти: выгрузите другую модель, закройте тяжёлые приложения, сократите контекст и выберите меньший файл. Свободное место на SSD не заменяет RAM или VRAM.
- GPU вызывает ошибку: в настройках загрузки попробуйте уменьшить выгрузку слоёв на GPU или CPU-режим. Скорость может упасть; это диагностическая проверка, не универсальное ускорение.
- Модель отвечает на другом языке или выдумывает факты: проверьте Instruct-версию, начните новый чат и повторите короткое русское задание. Сравните ответы другой модели, не скачивая самый большой файл автоматически.
Названия элементов интерфейса могут отличаться по версии и языку. Для проверки используйте документацию LM Studio о загрузке моделей и начале чата; не принимайте изображение обложки этой статьи за скриншот приложения.
Минимальная проверка результата
- В My Models находится выбранный GGUF, а в Chat выбрана именно эта модель.
- Короткий русский запрос получает ответ, включая работу после отключения интернета.
- Черновик использует известные факты и не придумывает срок возврата.
- Файл answer-lm-studio.txt открывается с нормальной кириллицей.
- Вы различаете выгрузку модели из памяти и удаление её файла.
Если хотя бы проверка фактов не пройдена, это пока эксперимент, а не готовый помощник для переписки. Не подключайте автоматическую отправку писем, доступ ко всему диску или реальные секреты. Для работы с документами на ezGPT есть отдельный маршрут локального помощника с Open WebUI; он не является обязательным продолжением этой установки.
Частые вопросы
Можно ли пользоваться LM Studio без видеокарты?
Небольшую текстовую модель можно пробовать на CPU, но скорость зависит от процессора и памяти. Для Windows разработчик рекомендует от 16 ГБ RAM и 4 ГБ выделенной VRAM; на x64 требуется AVX2. Успех загрузки проверяют на своём устройстве.
Что выбрать: GGUF, Q4_K_M или Q8?
GGUF - формат, Q4_K_M и Q8 - разные варианты квантования файла. Для первого опыта статьи выбран Q4_K_M конкретной модели Qwen2.5-1.5B-Instruct. Q8 обычно занимает больше места; это не обещание лучшего ответа на вашу задачу.
Почему модель без цензуры всё равно отказывает?
Uncensored не является технической гарантией поведения. Ограничения могут сохраняться в обучении модели и зависеть от контекста. LM Studio запускает выбранные веса; смена приложения или квантования сама по себе не удаляет ограничения.
Нужны ли интернет и оплаченный API для чата?
В основном маршруте используется скачанная локальная модель без внешнего API. Интернет нужен для поиска, установки и загрузки. Для обычного чата после этого он не требуется, но внешние инструменты и обновления имеют отдельные требования.
Почему маленькая модель путает факты на русском?
Размер файла и успешный запуск не доказывают качество. Дайте короткие исходные факты, начните новый чат и проверьте результат по строкам. Если модель продолжает выдумывать, замените её и повторите тот же тест; не отправляйте черновик автоматически.
