Локальная нейросеть на ПК:
какую программу выбрать
Чтобы запустить нейросеть на своём компьютере, нужна программа, которая скачает модель и запустит её. Их несколько, и они решают разные задачи — разбираем, что выбрать.
Локальные нейросети: все материалы и ссылки на установщики · какую программу выбрать · лучшие модели · LM Studio · Ollama · работа с документами · дообучение.
Коротко: что под какую задачу
- Просто поговорить с нейросетью в окне — LM Studio, GPT4All или Jan.
- Подключить модель к программам, ботам, n8n — Ollama.
- Задавать вопросы своим документам — AnythingLLM или GPT4All (функция LocalDocs).
- Генерировать картинки и видео — ComfyUI.
- Дать доступ команде через браузер — Open WebUI поверх Ollama.
Как запустить нейросеть на компьютере: 3 шага
- Скачайте программу с официального сайта — для первого раза проще всего LM Studio или GPT4All.
- Скачайте модель прямо в программе: поиск по названию (Qwen, Gemma, Llama), размер — под память видеокарты (на 8 ГБ — модели 7–8 млрд параметров).
- Откройте чат и пишите как в ChatGPT. Интернет после скачивания не нужен.
LM Studio, Ollama или GPT4All: сравнение
| LM Studio | Ollama | GPT4All | |
|---|---|---|---|
| Как выглядит | окно с чатом и каталогом моделей | фоновая служба и команды; чат — через Open WebUI | простое окно с чатом |
| Кому | тем, кто хочет попробовать без командной строки | тем, кому модель нужна программам, ботам, серверу | новичкам и слабым компьютерам |
| API для программ | да, localhost:1234 | да, localhost:11434 — главная сила | есть, но используют реже |
| Без видеокарты | работает, медленнее | работает, медленнее | работает — на это и рассчитан |
| Свои документы | приложить файл к сообщению | через AnythingLLM или Open WebUI | LocalDocs — поиск по папке |
LM Studio или Ollama? Нужен чат в окне — LM Studio; модель для программ и сервера — Ollama. GPT4All или LM Studio? Слабый компьютер и нужна простота — GPT4All; больше моделей и настроек — LM Studio. Программы не мешают друг другу, можно поставить обе.
Где скачать — только официальные сайты
| Программа | Для чего | Официальный сайт |
|---|---|---|
| LM Studio | чат с моделями в окне, без командной строки | lmstudio.ai |
| Ollama | запуск моделей одной командой, API для программ | ollama.com |
| GPT4All | простой чат, работает и без видеокарты, поиск по своим файлам | nomic.ai/gpt4all |
| Jan | открытая замена ChatGPT на компьютере | jan.ai |
| AnythingLLM | вопросы к своим документам | anythingllm.com |
| ComfyUI | генерация изображений и видео | comfy.org |
| Open WebUI | веб-чат для команды поверх Ollama | GitHub |
| llama.cpp | движок для разработчиков, на нём работают многие программы | GitHub |
Скачивайте программы только с официальных сайтов: под видом «сборок нейросетей» часто распространяют вредоносные файлы.
LM Studio
Самый удобный старт без командной строки: поиск моделей, подсказка, поместится ли модель в видеопамять, чат и локальный сервер для программ. Инструкция по LM Studio.
Ollama
Работает в фоне и управляется командами; главная сила — API в формате OpenAI, к которому подключаются почти любые программы. Лучший выбор, если модель нужна сервисам, а не только вам. Установка Ollama.
Ollama на Windows
Ollama для Windows ставится обычным установщиком: скачайте его с ollama.com (Download → Windows), после установки значок появится в трее. Модель запускается командой в PowerShell — например, ollama run qwen2.5:7b. Чтобы к Ollama подключались другие компьютеры сети, задайте переменную окружения OLLAMA_HOST=0.0.0.0 и перезапустите программу.
GPT4All
Простой чат от компании Nomic. Хорошо работает даже без видеокарты (медленнее), умеет искать ответы в папке ваших файлов (LocalDocs). Интерфейс понятный, модели скачиваются прямо из программы. Качество русского зависит от выбранной модели.
Jan
Открытая программа, похожая на ChatGPT, работает полностью офлайн. Умеет подключать и облачные модели по API — удобно держать локальные и облачные в одном окне. Есть локальный сервер для программ.
AnythingLLM
Заточена под документы: рабочие пространства, загрузка файлов, ответы со ссылками на источник. Модель берёт из Ollama, LM Studio или облака. Как настроить AnythingLLM.
ComfyUI
Для изображений и видео: Stable Diffusion, Flux и другие открытые модели. Требовательнее к видеокарте. Установка ComfyUI.
Какой компьютер нужен
Главное — объём видеопамяти: от него зависит, какая модель поместится и как быстро будет работать. Без видеокарты модели работают на процессоре, но заметно медленнее. Подробная таблица — какая видеокарта нужна под модель; какие модели выбрать — лучшие локальные нейросети.
Не хватает своей видеокарты — модель можно запустить на арендованном сервере (аренда GPU) или подключиться к сильным облачным моделям по API через IRI Gateway.