Что такое LLM: большая языковая модель простыми словами
LLM — это нейросеть, которая обучена на огромных объёмах текста предсказывать его продолжение. Разбираем, как она устроена, как её обучают и чего от неё ждать в работе.
Что такое LLM простыми словами
LLM (large language model) — большая языковая модель. Это нейросеть, которая прочитала огромный объём текста и научилась одному: предсказывать, какой фрагмент текста должен идти дальше.
Звучит скромно, но из этой способности вырастает почти всё, что умеют современные ассистенты. Чтобы правдоподобно продолжить вопрос ответом, модели нужно уловить смысл вопроса, знать факты, соблюдать грамматику и логику. Чтобы продолжить функцию на Python, нужно понимать код.
Самые известные LLM — модели семейств GPT, Claude, Gemini, DeepSeek, Llama, Qwen. Все они устроены по одному принципу, хотя отличаются размером, данными и способом дообучения.
Что значит «большая» и «языковая»
- Языковая модель — любая модель, которая оценивает вероятность последовательности слов. Простые языковые модели давно работали в подсказках клавиатуры и распознавании речи.
- Большая — это про масштаб: миллиарды параметров (весов нейросети) и обучающие данные, сопоставимые с заметной частью открытого текста интернета, книг и кода.
Именно рост масштаба сделал из подсказки следующего слова универсальный инструмент. Как к этому пришли, подробно рассказано в нашей истории LLM.
Как работает LLM
Токены
Модель работает не с буквами и не с целыми словами, а с токенами — кусочками текста. Частое слово может быть одним токеном, редкое — разбиться на несколько. Каждый токен превращается в вектор чисел, с которым и работает нейросеть. В токенах считают и длину запроса, и стоимость работы через API — подробнее в статье «Что такое токены».
Предсказание следующего токена
Получив текст, модель вычисляет вероятность каждого возможного следующего токена. Затем выбирает один из вероятных, добавляет его к тексту и повторяет всё заново. Так ответ появляется по кусочку — поэтому в чате текст «печатается» постепенно.
Параметр temperature управляет тем, насколько смело модель выбирает менее вероятные варианты. Низкое значение даёт более предсказуемый текст, высокое — более разнообразный.
Трансформер и механизм внимания
Почти все современные LLM построены на архитектуре трансформер. Её предложили в 2017 году Vaswani и соавторы в статье «Attention Is All You Need» — мы сделали её перевод.
Главная деталь трансформера — механизм внимания. Он позволяет каждому токену «посмотреть» на все предыдущие и решить, какие из них важны для текущего шага. В фразе «Маша отдала Пете книгу, потому что она уже прочитала её» внимание помогает связать «она» с Машей, а «её» — с книгой. Раньше модели обрабатывали текст строго по порядку и плохо удерживали длинные связи; трансформер смотрит на весь контекст сразу и хорошо распараллеливается при обучении.
Как обучают большую языковую модель
- Предобучение. Модель учится предсказывать следующий токен на огромном корпусе текстов. Это самый дорогой этап: на нём формируются знания о языке и мире.
- Дообучение на инструкциях. Модели показывают примеры диалогов «запрос — хороший ответ», чтобы она научилась выполнять просьбы вместо продолжения текста.
- Обучение на предпочтениях. Люди или другие модели сравнивают варианты ответов, и модель учится давать те, что оценены выше. Известный вариант — RLHF, обучение с подкреплением на обратной связи от людей.
После этого у модели появляется то, что пользователь воспринимает как «характер ассистента»: вежливость, формат ответов, отказ от опасных просьб.
Что такое LLM в нейросетях: место среди других моделей
LLM — это частный случай нейросети, а нейросети — часть машинного обучения. Отличие LLM от других моделей в том, что она универсальна. Классическую модель обучают под одну задачу: распознавать спам или прогнозировать спрос. Одна LLM без переобучения пишет письма, переводит, суммирует, классифицирует и программирует — достаточно поменять запрос.
Многие современные LLM мультимодальны: принимают на вход не только текст, но и изображения, документы, а иногда звук. Поэтому одной и той же модели можно отправить скан счёта и попросить извлечь из него реквизиты в таблицу, а затем по той же таблице написать письмо бухгалтерии.
Что LLM умеет в работе
- Тексты: черновики писем, статей, описаний товаров; редактура и смена тона.
- Документы: краткое изложение, сравнение версий, поиск условий в договоре, извлечение данных в таблицу.
- Перевод с сохранением терминологии и стиля.
- Код: написание функций, объяснение чужого кода, поиск ошибок, тесты.
- Поиск по знаниям: ответы на вопросы по базе документов в связке с RAG.
- Агенты: модель планирует шаги и вызывает инструменты — поиск, таблицы, почту, код.
Ограничения LLM
- Галлюцинации. Модель может уверенно выдать несуществующий факт или ссылку, потому что подбирает правдоподобный текст, а не сверяется с источником.
- Дата среза знаний. Модель знает только то, что было в данных на момент обучения. О свежих событиях она не знает, если их не передать в запросе.
- Окно контекста. За один раз модель видит ограниченное число токенов: запрос, историю диалога и приложенные документы вместе.
- Нет доступа к вашим данным. Внутренние документы компании модель не видела. Чтобы работать с ними, их нужно передать в контекст — обычно через RAG.
Открытые и закрытые модели
LLM различаются не только качеством, но и тем, как ими можно распоряжаться.
- Закрытые модели доступны только через сервис или API разработчика. Их веса не публикуются, зато не нужно думать о серверах и обновлениях.
- Модели с открытыми весами — например, семейства Llama, Qwen, DeepSeek, Mistral — можно скачать и запустить на своём оборудовании. Это полезно, когда данные нельзя передавать наружу, но требует видеокарт и инженерной работы.
Как пользоваться LLM
Есть два основных способа. Первый — чат-интерфейс: подходит для личной работы. Второй — программный доступ через API: так LLM встраивают в сервисы, боты и внутренние системы компании, а модели можно менять под задачу.
Как выбрать модель под задачу
- Сложность. Для анализа длинных документов, кода и многошаговых рассуждений нужны старшие модели. Для классификации писем или коротких ответов часто хватает быстрых и дешёвых.
- Объём контекста. Если нужно работать с большими документами, смотрите на размер окна контекста.
- Язык. Проверьте качество на русском именно на ваших примерах, а не по общим рейтингам.
- Цена и скорость. При массовой обработке разница в стоимости токенов между моделями становится заметной.
Лучший способ выбора — прогнать одни и те же десять-двадцать реальных задач через несколько моделей и сравнить результаты.
Что дальше
Если модель должна отвечать по вашим документам, разберитесь, что такое RAG. А сравнить модели разных компаний по возможностям и цене можно в каталоге моделей.
Читать в разделе «Обучение»
- Что такое нейросеть и как она работает
- Что такое RAG: поиск по базе знаний плюс генерация ответа
- Машинное обучение простыми словами: что это, как работает, виды и примеры
- Кто такой AI-инженер (инженер ИИ, LLM-инженер): что делает, стек, как стать
- Промпт-инженер: кто это, что делает и есть ли спрос в 2026
Частые вопросы
Что такое LLM модель?
LLM (large language model) — большая языковая модель: нейросеть с миллиардами параметров, обученная на огромных массивах текста. Она умеет продолжать текст, отвечать на вопросы, писать код и следовать инструкциям.
Что такое LLM в нейросетях?
Это класс нейросетей на архитектуре трансформер, специализированных на языке. К ним относятся модели семейств GPT, Claude, Gemini, DeepSeek, Llama и другие.
Что такое языковая модель LLM и чем она отличается от обычной языковой модели?
Любая языковая модель оценивает, какое слово вероятно следующим. «Большой» её делают масштаб параметров и обучающих данных — именно на таком масштабе появляются способности вроде следования инструкциям и работы с кодом.
Может ли большая языковая модель ошибаться?
Да. LLM может уверенно выдать неверный факт — это называют галлюцинацией, — а ещё не знает событий после даты среза обучающих данных. Важные ответы нужно проверять или давать модели источники через RAG.