256-бит AES - тот же стандарт, что защищает банковские транзакции

0%
· 6 минут

Нейросеть на телефоне без интернета: локальная модель на iPhone и Android

Коротко: на современном смартфоне можно запустить свою нейросеть, которая работает в режиме полёта и ничего не отправляет на серверы. Для iPhone проще всего приложение Locally AI от создателей LM Studio, для Android и iPhone — PocketPal. Оба бесплатные. Модель весит от полутора до трёх с половиной гигабайт и скачивается один раз, дальше интернет не нужен. Ниже — как поставить, какую модель выбрать под свой телефон и чего ждать от карманной нейросети.

Что умеет нейросеть в телефоне

Карманная модель меньше компьютерной, но для повседневного её хватает:

  • переписать сообщение вежливее или короче, придумать ответ;
  • перевести текст или меню в поездке — без роуминга и Wi-Fi;
  • объяснить незнакомое слово, пересказать статью, набросать план;
  • описать, что на фото, — у моделей с пометкой Vision.

Чего ждать не стоит: свежих новостей (модель знает мир только на дату обучения), безошибочных фактов и долгих сложных рассуждений. И телефон под нагрузкой заметно греется и тратит батарею — это нормально.

iPhone: Locally AI от LM Studio

Locally AI by LM Studio — бесплатное приложение от Element Labs, разработчика LM Studio. Работает на iPhone и iPad с iOS 18.1 и новее и на Mac с macOS 26, модели запускает на движке Apple MLX. Версии для Android у него нет.

  1. Поставь приложение из App Store и открой его.
  2. Выбери первую модель. При первом запуске приложение предложит список. На iPhone 15 Pro, всех iPhone 16 и новее есть вариант Apple Foundation — та же модель, что работает в Apple Intelligence: её не нужно скачивать, она уже в системе.
  3. Загляни в каталог моделей, если хочется умнее. Приложение само подписывает размеры и подсказывает, для каких iPhone модель рекомендуется. Например, в семействе Bonsai от PrismML приложение на момент написания предлагает вариант на 4B (около 2 ГБ) для iPhone 15 Pro и новее, а на 9B (около 3,5 ГБ) — для iPhone 17 Pro, iPhone Air и новее.
  4. Не закрывай приложение, пока модель скачивается — об этом приложение предупреждает само.
  5. Пиши. После загрузки можно включить режим полёта: ответы продолжат приходить.

Пометки у моделей в каталоге: Thinking — модель «рассуждает» перед ответом (точнее, но медленнее), Vision — понимает картинки, High CPU Usage — тяжёлая для этого телефона, будет греть его и садить батарею.

У моделей Bonsai тернарные веса: каждый принимает одно из трёх значений (−1, 0 или +1). Поэтому они заметно компактнее обычных моделей того же размера и хорошо подходят именно телефонам.

Android и iPhone: PocketPal

PocketPal AI — бесплатное приложение с открытым кодом, есть и в Google Play, и в App Store. Регистрация не нужна. Главное его отличие — оно умеет скачивать любые модели в формате GGUF прямо с Hugging Face, крупнейшего хранилища открытых нейросетей, а не только из встроенного списка.

PocketPal: модель с Hugging Face за пять шагов

  1. Поставь PocketPal из Google Play или App Store.
  2. Открой раздел моделей и нажми «+» в правом нижнем углу.
  3. Выбери «Add from Hugging Face» — откроется поиск по хранилищу.
  4. Найди модель по названию и размеру, например qwen3.5 4b, выбери файл и скачай его.
  5. Загрузи модель и начни чат. Дальше всё работает офлайн.

Если модель на Hugging Face закрыта лицензионным соглашением, PocketPal попросит токен доступа: его выдают в настройках аккаунта на сайте Hugging Face, а вставляется он в настройках приложения.

Для Android есть и альтернатива от Google — AI Edge Gallery: открытое приложение для Android 12 и новее, с моделями Gemma.

Какую модель выбрать под свой телефон

Ориентир простой: файл модели должен помещаться в оперативную память телефона с хорошим запасом — систему и открытые приложения никто не отменял. Сколько памяти в твоём телефоне, видно в настройках («О телефоне» на Android) или в характеристиках модели iPhone.

МодельПримерный размер файлаКому подойдёт
2B (Bonsai 2B, Qwen 3.5 2B)1–3 ГБСтарые и недорогие телефоны: быстро, но простовато
4B (Bonsai 4B, Qwen 3.5 4B)2–4 ГББольшинство телефонов последних лет — лучший баланс
9B (Bonsai 9B, Qwen 3.5 9B)3,5–7,5 ГБФлагманы с большим объёмом памяти; обычный 9B-файл в 6–7 ГБ телефону тяжёл, тернарный Bonsai примерно вдвое легче

Начни с 4B. Если отвечает быстро и телефон не перегревается — попробуй 9B; если тормозит — откатись на 2B.

Модели без отказов на телефоне

Обычные модели отказываются отвечать на часть тем. Через PocketPal можно поставить модели без отказов — открытые нейросети, у которых это поведение вырезано: в поиске по Hugging Face введи 4B abliterated или 9B abliterated, например Qwen3.5-9B-abliterated. Бери GGUF-версии — с GGUF в названии файла. Коротко о главном: отказов меньше, а ошибок не меньше, факты по-прежнему нужно проверять, и детям такую модель давать не стоит.

Tainet VPN прячет и содержимое, и метаданные: со стороны сети трафик неотличим от обычного HTTPS, владелец точки не видит, куда ты ходишь. Подключение через Telegram-бот или в личном кабинете на этом сайте, от 8 ₽ в день.

Попробовать →

Телефон или компьютер

Телефон — это всегда под рукой и без интернета. Компьютер — это модели в несколько раз крупнее и умнее: на ноутбуке с 16–32 ГБ памяти запускаются модели на 9–27B, которые заметно ближе к облачным чат-ботам. Если нужна мощность, а не мобильность, — смотри, как запустить нейросеть на своём компьютере.

Зачем тогда интернет

Локальной модели интернет нужен один раз — чтобы скачать приложение и файл модели, а это гигабайты, поэтому лучше через Wi-Fi. Дальше переписка с моделью остаётся на телефоне. Но всё остальное в телефоне по-прежнему ходит в сеть: облачные чат-боты, мессенджеры, браузер. Как защитить этот трафик, когда ты в чужом Wi-Fi или в поездке, — в разборе про VPN на смартфоне.

Частые вопросы

Это бесплатно?

Да: и Locally AI, и PocketPal, и модели из этой статьи бесплатны. У PocketPal есть необязательная разовая покупка с голосовым режимом, без неё приложение работает полностью.

Есть ли Locally AI на Android?

Нет, Locally AI выпускается только для iPhone, iPad и Mac. На Android используй PocketPal или Google AI Edge Gallery.

Работает ли нейросеть в режиме полёта?

Да. После того как модель скачана, приложение не обращается к интернету — можно включить режим полёта и проверить.

Почему телефон греется и садится?

Нейросеть нагружает процессор и графику на полную, как требовательная игра. Это нормально. Если греется слишком сильно — возьми модель поменьше или без пометки Thinking.

Что делать, если модель тормозит или приложение вылетает?

Скорее всего, модели не хватает памяти. Закрой фоновые приложения и попробуй модель на размер меньше: 4B вместо 9B или 2B вместо 4B.

Локальная нейросеть держит при себе всё, что ты у неё спрашиваешь. А трафик остальных приложений — облачных чат-ботов, мессенджеров, браузера — в публичном Wi-Fi видит владелец точки. Tainet прячет и содержимое, и метаданные: подключение в Telegram-боте или в личном кабинете на этом сайте, первые 7 дней бесплатно, дальше от 8 ₽ в день — одна подписка на телефон и компьютер.