Лучшая локальная
нейросеть
Открытые модели выходят каждый месяц, и «лучшая» зависит от задачи и видеокарты. Разбираем, на какие семейства смотреть и как выбрать размер, чтобы модель работала быстро.
Локальные нейросети: все материалы и ссылки на установщики · какую программу выбрать · лучшие модели · LM Studio · Ollama · работа с документами · дообучение.
Как выбирать
- Задача. Чат и тексты, программирование, документы, картинки или видео — для каждой свои модели.
- Видеопамять. Модель должна целиком помещаться в память видеокарты — таблица размеров.
- Русский язык. Не все открытые модели одинаково хорошо пишут по-русски — проверяйте на своих примерах.
- Свежесть. Берите последнее поколение семейства: новые версии того же размера обычно заметно умнее.
Для большой модели проще взять GPU в аренду, чем покупать железо под один эксперимент.
Какую модель скачать для локального запуска
| Ваш компьютер | Размер модели | Что получится |
|---|---|---|
| без видеокарты, 8–16 ГБ оперативной памяти | 1–4 млрд параметров | простые ответы, пересказ, черновики; медленно, но работает |
| видеокарта 6–8 ГБ | 7–8 млрд | нормальный чат на русском, помощь с кодом |
| видеокарта 12–16 ГБ | около 14 млрд | заметно умнее, хорошо для документов |
| видеокарта 24 ГБ | 27–32 млрд | серьёзные задачи: анализ, код, длинные документы |
Скачивайте сжатые версии (квантование Q4 или Q5 в формате GGUF): они в 3–4 раза меньше исходных при небольшой потере качества.
Локальная нейросеть для слабого ПК
На старом ноутбуке без видеокарты тоже можно запустить нейросеть. Возьмите GPT4All или LM Studio и самую маленькую модель семейства Qwen, Gemma или Llama (1–4 млрд параметров) в сжатии Q4. Ответ будет идти медленно — по нескольку слов в секунду, — а сложные задачи такая модель решает хуже. Для серьёзной работы на слабом компьютере практичнее облачная модель по API.
Как скачать Qwen на ПК
Скачать Qwen на ПК бесплатно можно тремя способами — через LM Studio, через Ollama или файлом с Hugging Face. Модели Qwen открытые, регистрация не нужна.
- В LM Studio: поиск моделей → наберите
qwen→ выберите размер под свою видеокарту → Download. Инструкция по LM Studio. - В Ollama: одна команда, например
ollama run qwen2.5:7b— модель скачается и откроется чат. Список версий — в библиотеке на ollama.com. - Вручную: файлы GGUF лежат на Hugging Face — ищите по названию модели и «GGUF».
Свежая открытая модель Qwen3.8-27B в исходном виде весит около 56 ГБ; в сжатии Q4 ей нужна видеокарта на 24 ГБ. Подробно о версиях — обзор Qwen 3.8.
Сильнейшие открытые модели сейчас
Какие открытые модели выше всех по оценкам людей, видно в рейтингах LMArena: для текста, для картинок и для видео — открытые там отмечены зелёным. Самые сильные открытые текстовые модели обычно рассчитаны на серверы; на ПК запускают их младшие и сжатые версии.
Текст и чат на русском
Хороший русский у семейств Qwen (Alibaba) и Gemma (Google); у DeepSeek для дома подходят компактные «дистиллированные» версии. Для видеокарты на 8 ГБ — модели 7–8 млрд параметров, на 12–16 ГБ — около 14 млрд, на 24 ГБ — около 30 млрд.
Лучшая локальная модель для кода
Для кода есть специальные версии — например, Qwen Coder. Модели 7–14 млрд хорошо дополняют код и объясняют его; для агентной работы над проектом (правки в нескольких файлах) локальных моделей среднего размера обычно не хватает — там сильнее облачные модели. Сравнение моделей на задачах кода — в рейтинге нейросетей.
Работа с документами
Важны длинный контекст и аккуратность в фактах; подходят те же Qwen и Gemma. Удобнее всего — через AnythingLLM.
Изображения
Открытые модели генерации картинок — Qwen-Image, HunyuanImage, FLUX.2 [dev] (только некоммерческое использование), HiDream, а также классические Stable Diffusion и Flux. Запускаются в ComfyUI; для комфортной работы нужна видеокарта от 8–12 ГБ, для крупных моделей — больше. Какие из них выше в оценках людей — рейтинг нейросетей для картинок.
Видео
Открытые видеомодели — Wan 2.2 (Apache 2.0), российская Kandinsky 5.0 от Сбера (MIT), HunyuanVideo 1.5, LTX-2 — генерируют короткие ролики на своём компьютере, но требуют мощной видеокарты — обычно от 16–24 ГБ — и терпения: ролик в несколько секунд может считаться минутами. Тоже запускаются через ComfyUI. Сравнение с закрытыми сервисами — рейтинг нейросетей для видео.
Где следить за новыми моделями
- Рейтинг нейросетей IRI Lab — сравнение моделей по коду и агентам, обновляется еженедельно.
- Hugging Face — каталог открытых моделей; там же выходят новые версии.
- Библиотеки моделей в LM Studio и Ollama — свежие версии появляются там вскоре после выхода.
Не хватает своей видеокарты — модель можно запустить на арендованном сервере (аренда GPU) или подключиться к сильным облачным моделям по API через IRI Gateway.