llmdocsсправочник разработчика

Большая языковая модель (LLM)

Материал из llmdocs — справочник разработчика
Портал: LLM, агенты, MCP
Большая языковая модель (LLM)
Архитектуратрансформер (обычно только декодер)
Принциппредсказание следующего токена
Этапы обученияпредобучение, дообучение на инструкциях, обучение на предпочтениях
Размерот миллиардов до триллионов параметров
Примеры семействClaude, GPT, Gemini, Llama, Qwen, DeepSeek, Mistral
Доступчерез API, в чат-интерфейсах, локально (открытые веса)

Большая языковая модель (англ. Large Language Model, LLM) — нейронная сеть с миллиардами параметров, обученная на огромных объёмах текста предсказывать следующий токен. Из этой простой задачи при достаточном масштабе возникают разнообразные способности: модель отвечает на вопросы, пересказывает и переводит тексты, пишет и исправляет код, рассуждает по шагам и выполняет задачи по инструкции на естественном языке.

LLM — основа чат-ассистентов, помощников программиста, ИИ-агентов и систем поиска по документам (RAG). Почти все современные LLM построены на архитектуре трансформер.[6]

История

Языковые модели существовали давно — от n-граммных моделей для распознавания речи до рекуррентных сетей. Переломом стал трансформер (2017), позволивший эффективно обучать модели на огромных корпусах. В 2018 году появились BERT и первая GPT. Модель GPT-3 (2020) со 175 миллиардами параметров показала, что большая модель может решать новые задачи по нескольким примерам в запросе, без дообучения.[1]

Исследования законов масштабирования показали, что качество предсказуемо растёт с размером модели, объёмом данных и вычислений,[2] а работа Chinchilla (2022) уточнила оптимальное соотношение параметров и данных.[3] Широкую известность технологии принёс ChatGPT (ноябрь 2022). В 2023 году вышли Claude, GPT-4, открытые модели Llama, затем Gemini, Mistral, Qwen и DeepSeek. С 2024 года распространились рассуждающие модели, которые перед ответом генерируют развёрнутую цепочку размышлений.

Как обучают

  1. Предобучение. Модель читает триллионы токенов текста и кода и учится предсказывать следующий токен. Это самый дорогой этап: тысячи GPU работают недели и месяцы. Результат — базовая модель, которая хорошо продолжает текст, но плохо следует инструкциям.
  2. Дообучение на инструкциях (SFT). Модель обучают на примерах диалогов «запрос — хороший ответ».
  3. Обучение на предпочтениях. Люди или другие модели сравнивают варианты ответов, и модель учится давать предпочтительные: RLHF — обучение с подкреплением на отзывах людей,[4] методы вроде Constitutional AI, где модель оценивает ответы по набору принципов.[5] Обучение с подкреплением на задачах с проверяемым ответом (математика, код) развивает рассуждение.

Как работает генерация

Текст запроса разбивается на токены, модель вычисляет распределение вероятностей следующего токена, выбирает один, добавляет его к входу и повторяет. Выбор регулируется параметрами: температура (ниже — предсказуемее, выше — разнообразнее), top-p, ограничение длины. Всё, что модель «видит» в данный момент, — это содержимое её контекстного окна: системные инструкции, история диалога, документы и результаты инструментов.

Возможности

Поведение модели задаётся текстом запроса — этому посвящён промпт-инжиниринг. Для специальных задач модель можно дообучить (Fine-tuning и LoRA).

Ограничения

  • Галлюцинации. Модель может уверенно выдавать правдоподобную, но ложную информацию (см. Галлюцинации LLM). Снижают риск подача источников в контекст (RAG) и проверка ответов.
  • Дата отсечения знаний. Модель знает о мире только то, что было в обучающих данных; свежие сведения нужно передавать в контексте или через поиск.
  • Ограниченный контекст и рост стоимости с длиной запроса.
  • Уязвимость к инструкциям во входных данных — prompt injection.
  • Недетерминированность. Один и тот же запрос может давать разные ответы, что важно учитывать при оценке качества.

Использование

import anthropic

client = anthropic.Anthropic()            # ключ берётся из ANTHROPIC_API_KEY
msg = client.messages.create(
    model="claude-sonnet-5-5",
    max_tokens=1024,
    system="Отвечай кратко и по-русски.",
    messages=[{"role": "user", "content": "Чем TCP отличается от UDP?"}],
)
print(msg.content[0].text)

Коммерческие модели доступны через API провайдеров с оплатой за токены. Модели с открытыми весами можно запускать на своём оборудовании — см. Локальный запуск LLM (llama.cpp, Ollama) — что важно для приватности и работы без интернета.

См. также

Источники

  1. T. Brown et al. — Language Models are Few-Shot Learners (GPT-3, 2020)
  2. J. Kaplan et al. — Scaling Laws for Neural Language Models (2020)
  3. J. Hoffmann et al. — Training Compute-Optimal Large Language Models (Chinchilla, 2022)
  4. L. Ouyang et al. — Training language models to follow instructions with human feedback (2022)
  5. Y. Bai et al. — Constitutional AI: Harmlessness from AI Feedback (2022)
  6. A. Vaswani et al. — Attention Is All You Need (2017)
Категории: