Локальные нейросети: скачать, установить, обучить, использовать
Нейросеть на своём компьютере: какие программы скачать (LM Studio, Ollama, GPT4All, Jan, ComfyUI), какая нужна видеокарта, как дообучить модель и применять в работе.
Локальная нейросеть — модель, которая работает на вашем компьютере (ПК или ноутбуке) или сервере, а не в облаке. Данные не уходят третьим лицам, нет подписки и лимитов, нейросеть работает без интернета. Цена — требования к железу: качество и скорость зависят от видеокарты.
Как установить нейросеть на компьютер
- Скачайте программу с официального сайта — для начала LM Studio или GPT4All (таблица ниже).
- В программе найдите и скачайте модель: Qwen, Gemma или Llama подходящего размера.
- Откройте чат. После скачивания нейросеть на своём компьютере работает офлайн.
Если своей видеокарты мало, можно арендовать GPU для инференса; готовые облачные модели — через API в рублях.
Что нужно и какая видеокарта нужна для нейросети
- Видеокарта с 6–8 ГБ памяти — для моделей на 7–8 млрд параметров; 12–16 ГБ — для 14 млрд; 24 ГБ — для 30 млрд. Без видеокарты маленькие модели работают на процессоре, но медленно. Подробно — какая видеокарта нужна под модель.
- Программа, которая скачает и запустит модель (таблица ниже).
- Модель под задачу: текст, код, документы, картинки — как выбрать.
Где скачать программы
| Программа | Для чего | Официальный сайт |
|---|---|---|
| LM Studio | чат с моделями в окне, без командной строки | lmstudio.ai |
| Ollama | запуск моделей одной командой, API для программ | ollama.com |
| GPT4All | простой чат, работает и без видеокарты, поиск по своим файлам | nomic.ai/gpt4all |
| Jan | открытая замена ChatGPT на компьютере | jan.ai |
| AnythingLLM | вопросы к своим документам | anythingllm.com |
| ComfyUI | генерация изображений и видео | comfy.org |
| Open WebUI | веб-чат для команды поверх Ollama | GitHub |
| llama.cpp | движок для разработчиков, на нём работают многие программы | GitHub |
Скачивайте программы только с официальных сайтов: под видом «сборок нейросетей» часто распространяют вредоносные файлы.
Инструкции по установке
- Какую программу выбрать — сравнение LM Studio, Ollama, GPT4All, Jan, AnythingLLM.
- LM Studio — запуск без командной строки.
- Ollama на Windows и Linux — модель для программ и серверов.
- Open WebUI — веб-чат для команды.
- ComfyUI — изображения и видео.
- n8n на своём сервере — автоматизация с нейросетями.
Лучшая локальная нейросеть сейчас
Для текста на русском на обычном ПК — модели семейств Qwen и Gemma размером под вашу видеокарту; для картинок — Qwen-Image, FLUX и Stable Diffusion в ComfyUI; для видео — Wan и российская Kandinsky 5.0. Подбор под задачу и железо — лучшая локальная нейросеть; какие открытые модели выше всех в оценках людей — рейтинги текста, картинок и видео.
Как дать локальной нейросети доступ в интернет
Сама модель интернета не видит — она знает только то, на чём обучена. Искать в сети за неё умеют программы-оболочки:
- Open WebUI — включите веб-поиск в настройках: перед ответом программа найдёт страницы и передаст их модели (установка Open WebUI).
- AnythingLLM — режим агента умеет искать в интернете и читать сайты.
- LM Studio — подключает внешние инструменты по протоколу MCP, в том числе поиск.
Учтите: с поиском запросы уходят в поисковик — полностью офлайн такая схема уже не работает.
Как обучить на своих данных
- Как дообучить нейросеть на своих данных — пошагово: примеры, QLoRA, Unsloth, запуск результата. Дообучение модели на своих данных (7–8 млрд параметров) помещается в одну видеокарту на 12–16 ГБ.
- Промпт, RAG или дообучение — что выбрать и сколько это стоит.
Как использовать в работе
- Вопросы к своим документам — договоры, регламенты, инструкции.
- Локальная нейросеть в компании — зачем и как.
- Профессии: программисту, юристу, бухгалтеру — что поручать нейросети.
Когда своего компьютера мало
Для больших моделей и команды — аренда GPU-сервера или сервер под свою LLM. Если важна не локальность, а доступ к сильнейшим моделям — облачные модели по API через IRI Gateway. Внедрение в компании — модели в своём контуре.
Читать в разделе «Обучение»
- Что такое нейросеть и как она работает
- Что такое LLM: большая языковая модель простыми словами
- Что такое RAG: поиск по базе знаний плюс генерация ответа
- Нейросеть для программиста: от автодополнения до агентов
Частые вопросы
Можно ли запустить нейросеть на обычном компьютере?
Да. Небольшие модели (1–8 млрд параметров) работают на компьютере с видеокартой от 6–8 ГБ, а без видеокарты — на процессоре, но медленнее. Проще всего начать с LM Studio или GPT4All.
Какую программу скачать для локальной нейросети?
Для чата в окне — LM Studio, GPT4All или Jan; чтобы подключить модель к программам — Ollama; для документов — AnythingLLM; для картинок и видео — ComfyUI. Скачивайте только с официальных сайтов.
Можно ли обучить локальную нейросеть на своих данных?
Да: дообучение методом LoRA или QLoRA укладывается в одну видеокарту на 12–16 ГБ для модели 7–8 млрд параметров. Если модели нужно просто знать ваши документы, обычно хватает поиска по ним (RAG) без обучения.
Работает ли локальная нейросеть без интернета?
Да. После скачивания программы и модели всё работает офлайн, и данные не покидают компьютер.