Как дообучить нейросеть
на своих данных

Обучить нейросеть или дообучить

Дообучение (fine-tuning) — это дополнительное обучение готовой нейросети на ваших примерах, чтобы она отвечала в нужном формате и стиле. Обучить свою языковую модель с нуля — это месяцы работы кластера видеокарт и бюджеты крупных компаний. На практике дообучают готовую открытую модель: она уже умеет говорить и рассуждать, а на ваших данных учится вашему формату, стилю и терминам. Дообучение модели на своих данных укладывается в одну видеокарту и вечер работы.

Сначала проверьте, нужно ли дообучение

Если модель должна знать ваши документы — чаще хватает поиска по ним (RAG): документы подкладываются в запрос, обучать ничего не нужно. Так работает AnythingLLM. Дообучение нужно, когда модель должна вести себя иначе: писать в вашем формате и стиле, классифицировать обращения по вашим правилам, понимать узкую терминологию. Разбор выбора — в статье промпт, RAG или дообучение.

Шаг 1. Подготовьте примеры

Нужны пары «запрос — правильный ответ» в формате, который понимает инструмент обучения. Удобнее всего JSONL — по примеру на строку:

{"messages": [{"role": "user", "content": "Классифицируй обращение: Не пришёл счёт за октябрь"},
              {"role": "assistant", "content": "Категория: бухгалтерия. Срочность: обычная."}]}

• Для стиля и формата обычно хватает нескольких сотен качественных примеров; для сложных задач — тысячи.
• Качество важнее количества: противоречивые примеры учат модель путаться.
• Отложите 10–20% примеров для проверки — на них модель не учится.
• Персональные данные клиентов обезличьте до обучения: модель может их запомнить.

Шаг 2. Выберите базовую модель

Начинайте с открытой модели на 7–8 млрд параметров с хорошим русским — например, из семейств Qwen или Gemma. Она обучается на одной видеокарте и быстро работает. Модели крупнее дают качество выше, но требуют серверных GPU.

Шаг 3. Дообучение LoRA и QLoRA

QLoRA-дообучение — самый дешёвый способ дообучить модель на одной видеокарте. Обучать модель целиком дорого: нужно менять миллиарды параметров. Метод LoRA замораживает модель и обучает небольшую надстройку-адаптер — доли процента от размера модели. QLoRA делает то же со сжатой (4-битной) моделью: памяти нужно в несколько раз меньше, качество почти то же. Так QLoRA-дообучение модели на 7–8 млрд параметров помещается в видеокарту с 12–16 ГБ памяти.

Unsloth: как пользоваться

Как пользоваться Unsloth: открыть готовый блокнот, подставить свои примеры и запустить — остальное библиотека делает сама. Это самый простой инструмент для QLoRA, открытая библиотека Unsloth. У неё готовые блокноты (notebooks) под популярные модели: их запускают на своём компьютере с видеокартой NVIDIA или в облачном блокноте с GPU.

1. Откройте блокнот Unsloth для выбранной модели или установите библиотеку: pip install unsloth.
2. Загрузите модель в 4-битном режиме и добавьте адаптер LoRA:

   from unsloth import FastLanguageModel
   model, tokenizer = FastLanguageModel.from_pretrained(
       model_name="название-модели", max_seq_length=2048, load_in_4bit=True)
   model = FastLanguageModel.get_peft_model(model, r=16, lora_alpha=16)

3. Укажите свой файл с примерами и запустите обучение (в блокнотах для этого готов шаг с тренером из библиотеки TRL). На нескольких сотнях примеров это минуты или десятки минут.
4. Сохраните результат в GGUF для локального запуска:

   model.save_pretrained_gguf("my-model", tokenizer, quantization_method="q4_k_m")

Главные настройки — число эпох (сколько раз модель проходит по данным; обычно 1–3) и ранг адаптера r: больше — адаптер гибче, но легче переучить модель на ваших примерах.

Шаг 4. Проверьте результат

Прогоните отложенные примеры через исходную и дообученную модель и сравните ответы. Смотрите не только на «правильно ли», но и на то, не разучилась ли модель общим вещам. Если стало хуже — обычно виноваты данные, а не настройки.

Шаг 5. Запустите свою модель

Файл GGUF, сохранённый Unsloth, открывается в LM Studio или подключается к Ollama — и дальше с моделью работают как с любой локальной.

Сколько это стоит

• На своей видеокарте 12–24 ГБ — только время и электричество.
• Нет видеокарты — облачный блокнот или почасовая аренда GPU на время обучения.
• Для компании с большим объёмом данных и требованиями к качеству — проект дообучения под ключ: дообучение LLM.

Не хватает своей видеокарты — модель можно запустить на арендованном сервере (аренда GPU) или подключиться к сильным облачным моделям по API через IRI Gateway.

Когда достаточно готового API

Перед обучением сравните базовую модель с хорошей инструкцией, примерами и поиском по своим документам. Проверяйте варианты на одном наборе задач: точность ответа, соблюдение формата, задержка и стоимость результата.

Если не хватает свежих сведений из документов, сначала проверьте RAG. Если требуется устойчивый формат или специальный стиль, подготовьте обучающие примеры и сравните дообучение с исходной моделью. Само наличие корпоративных данных ещё не делает обучение необходимым.