Дообучение LLM
на своих данных
Модель отвечает слишком общо, путает ваши термины или пишет не в том формате. Первая мысль — дообучить её на своих данных. Иногда это правильный ход, но чаще задачу решают дешевле.
Коротко: дообучение меняет поведение модели: стиль, формат, терминологию, умение решать узкую задачу. Новые факты лучше давать через поиск по документам (RAG). Почти всегда дообучают открытую модель методом LoRA, и главная статья расходов — не вычисления, а подготовка и проверка данных. Наша услуга — дообучение LLM на данных компании.
Промпт, RAG или дообучение
| Проблема | Что сначала попробовать |
|---|---|
| Модель не знает ваших документов, цен, регламентов | RAG: поиск по базе и подстановка найденного в запрос |
| Отвечает не в том формате или стиле | промпт с примерами; если не помогает — дообучение |
| Узкая повторяющаяся задача: классификация обращений, извлечение полей | дообучение небольшой модели — быстро и дёшево в работе |
| Данные нельзя отправлять во внешний сервис | открытая модель на своём сервере, при необходимости — дообученная |
| Факты часто меняются | RAG: дообученную модель пришлось бы переучивать |
Подробное сравнение — в статье fine-tuning или готовый API, про поиск по документам — RAG и агенты.
LoRA простыми словами
Полное дообучение меняет все миллиарды весов модели, требует много видеокарт и рискует испортить то, что модель уже умела. LoRA делает иначе: исходные веса замораживаются, а рядом обучаются небольшие дополнительные матрицы — доли процента от размера модели. На выходе получается «насадка» на сотни мегабайт, которую подключают к базовой модели.
QLoRA добавляет к этому сжатие базовой модели в 4 бита, и тогда модель на 7–8 млрд параметров дообучается на одной видеокарте с 24 ГБ памяти. Модели на 27–32 млрд обычно требуют 48–80 ГБ.
Какую модель брать
Дообучают модели с открытыми весами: их можно скачать, изменить и запустить у себя. Для узкой задачи часто хватает 7–14 млрд параметров, для сложных текстов — 27–32 млрд. Пример семейства с открытыми весами — Qwen 3.8. Закрытые модели вроде GPT или Claude дообучить у себя нельзя.
Сколько нужно данных
Данные для дообучения — пары «запрос → правильный ответ» в нужном вам виде. Ориентиры:
- стиль и формат — от нескольких сотен качественных примеров;
- узкая задача (классификация, извлечение полей) — от тысячи примеров на все варианты;
- сложное поведение — тысячи и десятки тысяч.
Качество важнее количества. Сотня противоречивых примеров учит модель противоречить. Откуда брать: переписка поддержки, закрытые заявки, проверенные экспертами ответы, документы, переписанные в формат вопросов и ответов. Персональные данные клиентов перед обучением удаляют или заменяют.
Как проверяют результат
Часть примеров откладывают и в обучении не используют. На них сравнивают три варианта: базовую модель с хорошим промптом, базовую модель с RAG и дообученную. Отдельно проверяют, что модель не разучилась отвечать на обычные вопросы. Если дообучение не обогнало промпт заметно, его не внедряют.
Сколько стоит
Само обучение LoRA на арендованной видеокарте стоит недорого: часы, реже дни работы одной-двух карт. Арендовать GPU можно, например, в облаке. Основной бюджет уходит на другое:
- сбор, чистку и разметку примеров;
- набор проверочных вопросов и сравнение вариантов;
- развёртывание модели и контроль качества после запуска.
У нас проекты дообучения стоят от 600 000 ₽ и занимают 6–14 недель, из них большая часть — данные и проверка.
Коротко
Сначала промпт и RAG, дообучение — когда нужен устойчивый формат, узкая задача или работа без внешних сервисов. Метод — LoRA на открытой модели, бюджет — в данных. Обсудить задачу: дообучение LLM на данных компании.