Что такое LLM? Большие языковые модели простыми словами
LLM, или большая языковая модель, — это тип ИИ, обученный на огромном объёме текста, чтобы понимать язык и генерировать его. Получив текст, она предсказывает, что должно идти дальше, по одному небольшому фрагменту за раз, и эта простая способность оказывается достаточной, чтобы отвечать на вопросы, писать, делать сводки, переводить и писать код. Модели, которые стоят за ChatGPT, Claude и Gemini, — все это LLM.
Почему это важно, когда вы создаёте приложение с помощью AI
Если вы создаёте приложение с помощью AI-конструктора, вы работаете с LLM дважды. Во-первых, LLM и делает работу: читает ваш запрос, планирует изменения и пишет код. Во-вторых, вы можете захотеть использовать LLM внутри вашего приложения — как чат-бота, кнопку сводки или помощника для написания текстов.
Понимание основ помогает в обоих случаях. Оно объясняет, почему ИИ иногда неправильно понимает расплывчатый запрос, почему может уверенно выдать что-то ошибочное, почему длинные разговоры заставляют его терять нить и почему добавление функций ИИ в приложение стоит денег за каждое использование. Математика не нужна — достаточно здравой модели в голове.
Бытовая аналогия
Представьте человека, который прочитал невообразимо большую библиотеку — книги, сайты, инструкции, код, форумы — и стал чрезвычайно хорош в том, чтобы продолжать любой текст так, чтобы он подходил. Дайте ему начало письма — и он допишет его в вашем тоне. Задайте вопрос — и он напишет ответ такого типа, какой обычно следует за таким вопросом.
Но у него нет конспектов, которые можно проверить, а библиотека закрылась в определённую дату. Он вспоминает закономерности, а не ищет информацию. В большинстве случаев закономерности верны. Иногда он заполняет пробел тем, что лишь звучит правдиво, и делает это с той же уверенностью.
Это и есть LLM: очень начитанный, очень бойкий автор с несовершенной памятью и без встроенной проверки фактов.
Как работает LLM простыми словами
- Обучение. Модели показывают огромный объём текста, и она учится, подстраивая миллиарды внутренних чисел (своих параметров), предсказывать следующий фрагмент текста. Архитектура, которую используют большинство LLM, называется трансформер; её представили исследователи Google в 2017 году.
- Дообучение. Сырую модель затем доводят до того, чтобы она следовала инструкциям, вела диалог и не выдавала вредного содержимого, часто с помощью обратной связи от людей.
- Использование (инференс). Когда вы отправляете промпт, модель читает его и генерирует ответ по одному токену, каждый раз выбирая вероятный следующий токен с учётом всего предыдущего.
У неё нет базы фактов внутри, и она не продолжает учиться на вашем чате. Всё, что она «знает» в разговоре, либо получено при обучении, либо находится прямо перед ней сейчас — в её контекстном окне.
Пример: ответ в поддержку
Допустим, у вас интернет-магазин растений, и вы вставляете в LLM такой текст:
Клиент пишет: «Мой заказ #4412 пришёл с разбитым горшком. Что можете сделать?» Наша политика: мы бесплатно заменяем повреждённые товары в течение 14 дней, если клиент пришлёт фото. Напишите дружелюбный ответ.
Вот что происходит:
- Текст делится на токены, их примерно сотня.
- Модель читает всё целиком: сообщение клиента, вашу политику и ваше указание.
- Она генерирует ответ токен за токеном: «Здравствуйте! Очень жаль, что ваш горшок пришёл разбитым…» и просит прислать фото, упоминая бесплатную замену.
Теперь попробуйте тот же запрос без политики. Модель всё равно напишет уверенный и дружелюбный ответ, но может пообещать возврат денег или окно в 30 дней, потому что это распространённые шаблоны в письмах поддержки, которые она видела. Это и есть галлюцинация, и она показывает самый практичный урок о LLM: они точны настолько, насколько точна информация, которую вы им даёте. Приложения, которым нужны надёжные ответы, каждый раз подают модели нужный исходный материал — этот приём называется RAG.
Основные термины
| Термин | Значение |
|---|---|
| Токен | Фрагмент текста — часто слово или его часть. Лимиты и цены считаются в токенах. |
| Контекстное окно | Объём текста, который модель может учитывать одновременно: ваш промпт, разговор и документы. |
| Промпт | Входные данные, которые вы даёте модели. См. что такое промпт-инжиниринг. |
| Параметры | Внутренние числа, выученные при обучении. Больше — не значит автоматически лучше. |
| Обучающие данные | Текст, на котором училась модель. |
| Дата отсечки знаний | Дата, после которой у модели нет обучающих данных, поэтому она не знает свежих событий, если ей о них не сказали. |
| Галлюцинация | Гладкий, уверенный, но ложный ответ. |
| Температура | Настройка, определяющая, насколько разнообразным или предсказуемым будет ответ. |
| Инференс | Запуск модели для получения ответа. За это вы платите при каждом использовании. |
| Мультимодальность | Модели, которые работают не только с текстом, но и с изображениями, аудио или другими входными данными. |
| API | Способ, которым приложение отправляет промпты в LLM программно. См. как пользоваться API LLM. |
Частые ошибки и заблуждения
- «Она что-то ищет». Обычная LLM этого не делает. Некоторые приложения добавляют веб-поиск или поиск по документам, но сама модель генерирует ответ на основе закономерностей.
- «Если звучит уверенно, значит, верно». Уверенность и точность не связаны. Проверяйте имена, цифры, даты, цены и всё юридическое или медицинское.
- «Она помнит всё, что я сказал». Только то, что помещается в контекстное окно. В очень длинных разговорах ранние детали могут выпасть или получить меньше внимания. Повторяйте важное.
- «Она думает, как человек». Она может впечатляюще рассуждать над задачами, но у неё нет целей, убеждений или осознания последствий. Относитесь к её ответу как к черновику, который нужно проверить.
- «Больше или новее — всегда лучше». Для простой задачи с большим объёмом меньшая, дешёвая и быстрая модель часто оказывается правильным выбором.
- Отправка личных данных без проверки. Прежде чем вставлять данные клиентов в какой-либо сервис ИИ или встраивать их в приложение, проверьте условия провайдера об использовании и хранении данных.
Что попросить у AI-конструктора
Когда LLM создаёт ваше приложение:
- «Прежде чем что-то менять, скажи, что ты понял и что собираешься сделать.»
- «Вот точный текст политики; используй его дословно, а не придумывай детали.»
- «Не угадывай факты вроде цен или дат. Оставь плейсхолдер и перечисли их для меня.»
Когда вы хотите использовать LLM внутри приложения:
- «Добавь кнопку [сделать сводку], которая вызывает API провайдера [провайдер] с сервера. Храни API-ключ в секрете, никогда в браузере.»
- «Помести нашу политику в промпт, чтобы ответы придерживались её, и говори „не знаю“, когда не уверен.»
- «Ограничь длину ответов и количество запросов, которое один пользователь может сделать в день.»
- «Записывай стоимость каждого запроса, чтобы я видел расход.»
Пошаговое руководство см. в статье как добавить функции ИИ в приложение.
LLM и Mythex
Агент Mythex, который создаёт приложения, работает на LLM. Все пользуются одним стандартным агентом — выбора модели нет, — а создание использует кредиты Mythex. Функции ИИ внутри созданного вами приложения работают отдельно: вы используете собственный API-ключ провайдера, например OpenAI или Anthropic, сохраняете его как секрет проекта, и провайдер выставляет счёт за использование напрямую. Рецепт в документации добавить ИИ в приложение показывает, какой промпт использовать.
Вопросы
Что означает LLM?
LLM — это large language model, то есть большая языковая модель: модель ИИ, обученная на очень большом объёме текста, чтобы понимать язык и генерировать его. Модели, которые стоят за ChatGPT, Claude и Gemini, — это LLM.
ChatGPT — это LLM?
ChatGPT — это чат-приложение, построенное на LLM компании OpenAI. LLM — это базовая модель, которая генерирует текст; приложение добавляет к ней интерфейс чата, функции памяти, инструменты и защитные слои.
Почему LLM что-то выдумывают?
LLM генерирует наиболее правдоподобные следующие слова на основе выученных закономерностей, а не ищет факты в базе данных. Когда у неё нет нужной информации, она может выдать гладкий, уверенный, но неверный текст — это называется галлюцинацией. Дать модели исходный материал и проверять её ответы — значит снизить риск.
Учится ли LLM на моих разговорах?
Модель не меняется во время разговора; она видит только то, что находится в её контекстном окне. Используются ли ваши разговоры позже для обучения новых моделей, зависит от политики провайдера и ваших настроек, поэтому проверьте условия сервиса, которым пользуетесь.
Что такое токен в LLM?
Токен — это фрагмент текста, который модель читает и пишет, часто целое слово или его часть. Лимиты контекста и цены API измеряются в токенах, поэтому длинные промпты и ответы стоят дороже.