Что получится в результате
Установим PocketPal AI на Android и загрузим Qwen2.5-1.5B-Instruct в формате GGUF. На тестовой заметке модель выделит задачи и сроки. Вы проверите выжимку, сохраните её и повторите запрос с выключенным интернетом.
Это локальный текстовый чат, а не агент, управляющий телефоном. В этой сборке нет поиска в сети, доступа к почте и автоматической отправки сообщений. Вводите текст вручную; результат остаётся черновиком до вашей проверки.
Названия кнопок сверены для PocketPal v1.19.0 от 4 октября 2026 года. Версия в Google Play и перевод интерфейса могут отличаться. Реальный запуск на физическом Android-устройстве редакцией не выполнялся: скорость и устойчивость нужно проверить на своём телефоне по шагам ниже.
Что понадобится
- Android-телефон с 64-битной системой. В исходном коде v1.19.0 указаны Android API 24 и выше и сборки arm64-v8a/x86_64. Это техническая граница установки, не обещание работы на любом старом телефоне.
- Желательно 8 ГБ физической оперативной памяти или больше. Это запас для учебной сборки, а не официальный минимум приложения. На 6 ГБ результат зависит от свободной RAM; на 4 ГБ лучше не начинать с этой модели. «Расширение RAM» за счёт накопителя не равно физической памяти.
- Около 5 ГБ свободного места для приложения, модели и возможной копии при импорте. Файл модели занимает 1 117 320 736 байт, примерно 1,12 ГБ; потребление RAM будет больше.
- Wi-Fi для установки и скачивания. Для локального чата после загрузки не нужны аккаунт AI-сервиса, API-ключ или root-доступ.
Выбрана небольшая, не новейшая модель: нам нужен простой повторяемый текстовый тест. Качество русского, точность и скорость не равны большим облачным моделям.
Шаг 1. Проверьте телефон и свободное место
Откройте настройки Android, затем «О телефоне» и раздел памяти или хранилища. Запишите модель телефона, версию Android, объём физической RAM и свободное место. Расположение этих разделов зависит от производителя.
Закройте игру, видеоредактор и другие тяжёлые приложения. Если память почти заполнена, сначала освободите место. Не удаляйте рабочие документы и не включайте очистку данных приложений наугад.
Шаг 2. Установите именно PocketPal AI
Откройте [официальный сайт PocketPal](https://www.pocketpal.dev/) и перейдите по его ссылке Google Play. Сверьте имя PocketPal AI и идентификатор страницы магазина com.pocketpalai. Установите приложение и запустите его.
Если Google Play недоступен, альтернативный источник - [релизы автора на GitHub](https://github.com/a-ghorbani/pocketpal-ai/releases). В релизе v1.19.0 APK называется app-prod-release.apk. Скачивайте его только из репозитория a-ghorbani/pocketpal-ai, не с APK-зеркала. Разрешение Android на установку из этого источника включайте только на время установки, затем выключите. Не отключайте защиту устройства ради неизвестного файла.
Если Android пишет, что приложение несовместимо, остановитесь: изменение расширения APK или другой файл той же версии не исправляет несовместимую архитектуру. Не нужен ни Termux, ни установка Ollama через случайный скрипт.
Шаг 3. Найдите раздел моделей и не подключайте сервер
Завершите приветственный экран, откройте меню приложения и раздел Models. Для нашего маршрута нужны локальные файлы модели. Не выбирайте Add Remote Model, не вводите адрес сервера и ключ облачного провайдера.
Если использовали приложение раньше, перед тестом проверьте выбранную модель. Само название PocketPal на экране не доказывает локальную генерацию: в актуальном приложении есть и удалённые подключения.
Шаг 4. Найдите официальный репозиторий Qwen
В Models нажмите «+», затем Add from Hugging Face. В поиске введите Qwen2.5-1.5B-Instruct-GGUF и выберите репозиторий автора Qwen:
Qwen/Qwen2.5-1.5B-Instruct-GGUFСверьте автора и полное название, а не только первые слова. Не выбирайте Base-модель, похожую сборку другого автора или файл другой величины. Этот публичный репозиторий не требует токена для описанного скачивания; не создавайте ключ на всякий случай.
Шаг 5. Скачайте один конкретный GGUF
Откройте список файлов модели и выберите:
qwen2.5-1.5b-instruct-q4_k_m.ggufНажмите Download и дождитесь окончания. Оставьте приложение открытым во время загрузки; не скачивайте весь репозиторий со всеми вариантами квантования. Q4_K_M - конкретный уменьшенный вариант весов, а не дополнительная программа.
Проверка: у модели появилась возможность Load, а не продолжающаяся полоса скачивания. Если приложение показывает нехватку места или памяти, это предупреждение нужно устранить, а не просто закрыть.
Шаг 6. Используйте импорт, если встроенный поиск не работает
Этот шаг - запасной маршрут, при успешном шаге 5 его пропустите. В браузере откройте [файлы официальной модели](https://huggingface.co/Qwen/Qwen2.5-1.5B-Instruct-GGUF/tree/main), найдите ровно qwen2.5-1.5b-instruct-q4_k_m.gguf и скачайте его в Downloads.
Дождитесь полного скачивания. Вернитесь в PocketPal: Models, «+», Add Local Model. В системном выборе файла откройте Downloads и выберите GGUF. Это импорт модели, не прикрепление файла к сообщению.
Если файл имеет временное расширение, слишком мал или не выбирается, проверьте завершение скачивания. Не переименовывайте страницу HTML или ZIP в .gguf. После успешного импорта не удаляйте исходник, пока не проверите повторный запуск из шага 14: приложение может хранить копию или ссылку в зависимости от способа импорта.
Шаг 7. Ограничьте контекст перед загрузкой
Откройте Settings, найдите Model Initialization Settings и поле Context Size. Для первого короткого задания установите 2048. Это начальная настройка для экономии памяти, не максимальная возможность Qwen.
Оставьте остальные параметры и автоматический выбор вычислительного устройства по умолчанию. Если приложение предлагает Device Selection и загрузка с ускорением падает, попробуйте CPU, сохранив тот же размер контекста. Не включайте экспериментальные ускорители только потому, что они есть в меню.
Изменение параметров загрузки требует повторной загрузки модели. Если у вас уже активна другая модель, сначала используйте Offload, затем загружайте выбранный файл заново. Не ставьте 32 тысячи токенов «с запасом»: длинный контекст расходует память телефона.
Шаг 8. Загрузите модель в память
В Models найдите скачанный Qwen и нажмите Load. Дождитесь готовности, затем перейдите в Chat. При выборе модели из чата сверяйте её полное имя с файлом из шага 5.
Download сохраняет файл, Load подготавливает его к вычислениям. Это разные действия. Пока модель не загрузилась, ввод следующего задания не является тестом генерации.
При ошибке загрузки не запускайте её снова много раз подряд. Освободите RAM, проверьте Context Size, закройте тяжёлые приложения и повторите один раз. Если Android продолжает закрывать PocketPal, конкретная связка телефона и настроек не прошла тест.
Шаг 9. Получите первый ответ на русском
Создайте новый чат и отправьте:
Ответь по-русски одним коротким предложением. Перефразируй только этот факт, ничего не добавляй: встреча перенесена на четверг в 15:00.Проверка: ответ читается, содержит четверг и 15:00, не добавляет причину переноса и новое место. Для этой задачи не нужны интернет и сведения из обучения модели.
Если видите служебные токены или бессмысленный повтор, проверьте файл Instruct и настройки шаблона чата. Сначала верните стандартный шаблон модели через её Settings и Reset, сохранив изменение. Не придумывайте собственные BOS/EOS-токены: неправильный шаблон может ломать обычный ответ.
Шаг 10. Подготовьте полезный тест
В новом чате вставьте весь запрос ниже. Это выдуманная заметка: она не содержит персональных данных и позволяет проверить каждую строку результата.
Сделай короткую выжимку заметки. Ответь по-русски, без вступления.
Формат: задача — кто отвечает — срок. Затем отдельная строка «Что уточнить».
Используй только сведения из заметки. Не назначай людей и даты от себя.
Если ответственный или срок не указан, напиши «не указан».
Заметка:
Макет лендинга готов. Дизайнер отправит исправленную обложку до среды.
Менеджер проверит форму заявки в четверг.
Нужно обновить цены на странице, но кто это сделает и когда — не решили.Смысл теста - превратить три факта в короткую проверяемую запись, а не попросить телефон написать большой отчёт.
Шаг 11. Сверьте выжимку с исходной заметкой
Нужны три задачи: исправленная обложка от дизайнера до среды; проверка формы менеджером в четверг; обновление цен с неизвестными ответственным и сроком. Формулировки могут отличаться. В «Что уточнить» должен попасть вопрос об обновлении цен.
Сравните каждую строку с заметкой. Не оценивайте ответ только по красивому оформлению. Если модель назначила обновление цен менеджеру, это ошибка, даже если выглядит логично.
Для исправления напишите в том же чате: «В заметке не указан ответственный за цены. Исправь только этот пункт, не добавляй новых фактов». Проверьте заново. Если такая простая задача систематически не получается, выбранная модель не подходит для ваших выжимок; успешная установка ещё не означает полезный результат.
Шаг 12. Проверьте продолжение разговора
В том же чате задайте: «Что из перечисленного запланировано на четверг?» Ожидаем проверку формы заявки менеджером. В новом пустом чате эта заметка не обязана быть известна - её нужно вставить снова.
Для первых рабочих задач держите одну тему в одном чате и короткий исходный текст. Когда диалог разрастается, начинайте новый и передавайте только нужные факты. Наши 2048 токенов включают историю, инструкции и новый ответ, а не только последнюю заметку.
Шаг 13. Проверьте настоящий офлайн-ответ
После полного скачивания модели включите авиарежим и отдельно убедитесь, что Wi-Fi и мобильные данные выключены. Android может помнить включённый Wi-Fi в авиарежиме. Не делайте это, если от сети зависит текущий звонок или удалённая работа.
Откройте новый чат с той же локальной моделью и задайте новый запрос, которого ещё не было:
Ответь по-русски одной строкой. Из текста «Посылка 731 готова к выдаче в пятницу» извлеки только номер посылки и день выдачи.Проверка: получен новый ответ с 731 и пятницей при выключенных сетях. Просмотр старого ответа не доказывает работу без интернета. Если запрос требует сервер, ещё раз проверьте, не выбран ли Remote Model. Не включайте веб-поиск и другие сетевые инструменты для этого теста.
Шаг 14. Проверьте повторную загрузку
Оставьте сети выключенными. В Models нажмите Offload у активной модели, затем снова Load. После загрузки повторите короткий запрос из шага 9 в новом чате.
Так проверяется, что файл действительно доступен приложению, а не только остаётся рабочий контекст в RAM. Для импортированного файла особенно важно, чтобы доступ не зависел от временного разрешения или перемещённого исходника.
Если загрузка требует повторного скачивания, верните интернет, проверьте сохранённый файл и завершение импорта. Только после устранения проблемы повторяйте офлайн-тест. По его окончании восстановите обычное подключение телефона.
Шаг 15. Сохраните проверенный результат и замер
Используйте значок копирования под ответом или удержание текста и скопируйте проверенную выжимку в отдельную заметку «Локальный AI - тест». Для локального хранения выбирайте заметки без облачной синхронизации; вставка в облачный сервис уже не является полностью локальным маршрутом.
Добавьте вручную телефон, версию приложения, имя GGUF, Context Size = 2048 и время короткого ответа. Можно замерить секундомером время от отправки до окончания генерации: это ваш замер, не универсальная скорость модели. Если телефон ощутимо нагрелся, дайте ему остыть и повторите один короткий тест позже.
Отметьте статус «проверено» только после сверки фактов и нового ответа без сети. Для непроверенного текста оставьте «черновик». Не требуется создавать аккаунт или отправлять benchmark на публичную таблицу ради этого замера.
Шаг 16. Освободите память без удаления модели
По окончании работы откройте Models и нажмите Offload. Это освобождает активный контекст; скачанный файл удаляется другой командой - Delete. Не путайте выгрузку из RAM с удалением модели или очисткой всех данных приложения.
В следующий раз загрузите ту же модель через Load и начните новую задачу. После обновления приложения или замены GGUF повторите короткую проверку текста и авиарежима: прежний успешный тест относится к прежней конфигурации.
Минимальная проверка результата
- Скачан именно qwen2.5-1.5b-instruct-q4_k_m.gguf из репозитория Qwen, выбран локальный режим.
- Load завершился без ошибки, первый ответ на русском сохраняет четверг и 15:00.
- Выжимка не придумывает ответственного и дату обновления цен; каждый факт сверён человеком.
- Новый запрос про посылку 731 получает ответ при выключенных Wi-Fi и мобильных данных.
- Повторный Offload/Load без сети работает; проверенный текст и параметры теста сохранены отдельно.
Если что-то не работает
- Приложение не устанавливается: проверьте версию Android и совместимость устройства по официальной странице. Не ищите «взломанную» сборку ради снятия ошибки.
- Скачать не удалось: проверьте свободное место, сеть и окончание загрузки; используйте импорт из шага 6. Не создавайте токен, если ошибка не связана с авторизацией.
- Модель не загружается или приложение закрывается: уменьшите контекст, освободите RAM; при ошибках ускорителя попробуйте CPU. Если не помогло, остановитесь и выберите меньшую модель, заново проверив качество. Размер файла не равен объёму требуемой памяти.
- Ответ медленный: сократите исходный текст и ожидаемый ответ, оставьте приложение на экране и дайте телефону остыть. Не обещаем конкретную скорость для всех Snapdragon или MediaTek.
- В тексте мусор: сверьте Instruct-файл, целостность загрузки и стандартный шаблон. Неподходящая архитектура или повреждённый GGUF не лечатся новым промптом.
- Факты выдуманы: сократите задание, явно обозначьте неизвестные поля и сравните ответ с оригиналом. Для критической задачи лучше отказаться от результата, чем принять уверенную ошибку.
Что эта сборка не умеет
Выбранная Qwen2.5-1.5B-Instruct - текстовая модель: она не анализирует фото только потому, что приложение поддерживает другие мультимодальные модели. Здесь нет свежих новостей, автоматического чтения PDF, звонков или управления Android. Для каждого такого сценария нужны отдельные инструменты и проверка совместимости.
«Локальная» не означает «без цензуры» или «без ошибок». В этой инструкции нет снятия ограничений модели. Перед использованием другой сборки проверьте её автора, лицензию, формат и качество; неизвестное происхождение файла не становится безопасным из-за запуска офлайн.
Не передавайте модели реальные пароли и закрытые документы в первом тесте. Не отправляйте результат клиенту автоматически. Локальная генерация также не защищает копию текста в облачных заметках, отправленный отзыв или включённый сетевой инструмент.
Частые вопросы
Можно ли запустить локальную нейросеть на Android без Termux и root?
Да: описанный маршрут использует обычное приложение PocketPal и GGUF-файл. Сервер Ollama и команды терминала не нужны. Но совместимость телефона и наличие свободной памяти всё равно проверяются до генерации.
Сколько оперативной памяти нужно?
Для первого теста этой модели ориентируйтесь на 8 ГБ физической RAM, учитывая занятое системой место. Это редакторский запас, не официальный гарантированный минимум. На 6 ГБ возможны ограничения, на 4 ГБ лучше выбирать меньшую модель. Проверьте загрузку, короткий ответ и нагрев на своём устройстве.
Работает ли нейросеть без интернета?
Локальный чат с полностью скачанной моделью может генерировать без сети. Установка, скачивание и удалённые функции требуют подключения. Проверка - новый запрос и повторная загрузка модели при выключенных Wi-Fi и мобильных данных, а не просто чтение старой переписки.
Можно ли загрузить PDF или фотографию?
Не в описанном тесте. Используется текстовая модель, а заметка вставляется вручную. Функции приложения для других моделей не добавляют Qwen2.5-1.5B-Instruct зрение или автоматическое чтение документов. Начните с извлечённого небольшого текста, не с обещания разбора целого файла.
Это замена ChatGPT и модель без ограничений?
Нет. Это небольшая локальная модель для коротких текстовых задач с ручной проверкой. У неё нет гарантии точности, свежих знаний или отсутствия отказов. Если важны большие документы и сложное рассуждение, сначала сравните качество на своей задаче, а не выбирайте только по отсутствию подключения.
