Як користуватися LLM API: токени, витрати, ключі та перша функція ШІ

LLM API — це вебсервіс, який дає змогу вашому застосунку надсилати текст до великої мовної моделі, наприклад GPT від OpenAI, Claude від Anthropic чи Gemini від Google, і отримувати її відповідь у коді. Ви реєструєтеся у постачальника, створюєте ключ API, а сервер вашого застосунку надсилає запити з цим ключем; плата стягується за кожний запит залежно від кількості токенів (фрагментів тексту) на вході та виході. Саме це зазвичай і означає «додати ШІ до застосунку»: добре складений запит до чужої моделі, зроблений безпечно з вашого сервера.

Чому це важливо, коли ви створюєте застосунок за допомогою ШІ

У застосунку, створеному ШІ, є два різні ШІ, і їх легко сплутати:

1. ШІ, який створює ваш застосунок — агент конструктора, який пише код.
2. ШІ всередині вашого застосунку — функція, якою користуються ваші користувачі, наприклад чат-помічник, кнопка «підсумувати» або автоматичне тегування.

Друге викликає LLM API з вашим ключем і виставляє рахунок вашому обліковому запису у постачальника. Розуміння токенів, контексту та цін дає змогу спроєктувати функцію, яка працює, не розкриває ваш ключ і не приносить несподіваних рахунків.

Побутова аналогія: дуже здібний фрілансер, якому платять за слово

Уявіть LLM API як блискучого фрілансера-автора, з яким ви спілкуєтеся електронною поштою і платите за слово — і за слова, які ви надсилаєте, і за ті, які він пише у відповідь (причому вихідні слова коштують дорожче).

• Між листами він не пам'ятає попередніх. Якщо хочете, щоб він продовжив розмову, вставляйте попередні повідомлення в кожен новий лист.
• Він може прочитати лише стільки за раз. Це обмеження називається контекстним вікном.
• Чим чіткіше ви сформулюєте завдання, тим кращою і коротшою буде відповідь, а отже, і дешевшою.

Основні поняття

Токени

Моделі читають і пишуть текст у токенах. У документації Anthropic щодо цін станом на вересень 2026 року один токен приблизно дорівнює 4 символам, або приблизно 0,75 англійського слова. Різні моделі та мови розбивають текст на токени по-різному, тож сприймайте це як орієнтир. Підраховується все: ваші інструкції, повідомлення користувача, будь-які документи, які ви додаєте, попередня розмова та відповідь.

Вхід і вихід

Вхідні токени — це те, що ви надсилаєте. Вихідні токени — це те, що пише модель. На сторінках цін OpenAI, Anthropic і Google станом на вересень 2026 року вихідні токени для тієї самої моделі коштують у кілька разів дорожче за вхідні. Сторінка цін Gemini від Google також зазначає, що внутрішнє «міркування» моделі зараховується як вихід.

Контекстне вікно

Максимальна кількість токенів, яку модель може прийняти в одному запиті, включно з відповіддю. Сучасні моделі приймають дуже довгі вхідні дані: деякі поточні моделі Anthropic, наприклад, приймають до мільйона токенів. Але довгі вхідні дані коштують дорожче та обробляються довше, тож надсилайте лише те, що потрібно для завдання.

Незалежні запити

У більшості API у стилі чату кожен запит за замовчуванням самостійний. Щоб чат «пам'ятав», ваш застосунок надсилає попередні повідомлення знову з кожним новим. Саме тому довга розмова коштує більше за повідомлення, ніж коротка.

Системний промпт

Інструкції, які задають роль моделі та правила для кожного запиту: «Ти підсумовуєш звернення до служби підтримки трьома маркованими пунктами. Ніколи не вказуй електронні адреси клієнтів». Користувачі їх не бачать, але вони визначають кожну відповідь.

Потокова передача

Замість очікування повної відповіді API може надсилати текст у міру генерування, тож користувачі одразу бачать, як з'являються слова. Це значно прискорює роботу чат-інтерфейсів.

Як працюють ціни

Станом на вересень 2026 року, за даними власних сторінок цін постачальників:

Деякі постачальники також пропонують спробувати безкоштовно: Anthropic дає новим користувачам невелику суму безкоштовного кредиту, а Gemini API від Google має безкоштовний рівень для деяких моделей, із застереженням, що вміст, надісланий на ньому, може використовуватися для вдосконалення продуктів Google.

Ціни суттєво відрізняються між маленькими швидкими моделями постачальника та його найбільшими, і вони часто змінюються, тож ми їх тут не наводимо. Простий орієнтовний розрахунок для будь-якої функції такий: (вхідні токени × ціна входу + вихідні токени × ціна виходу) × кількість запитів на місяць. Потім додайте запас і встановіть місячний ліміт витрат у панелі постачальника.

Приклад: кнопка «підсумувати звернення»

Невелика служба підтримки хоче кнопку, яка перетворює довгий ланцюжок листування з клієнтом на три маркованих пункти та запропоновану відповідь.

1. Отримайте ключ. Створіть обліковий запис в одного постачальника та згенеруйте ключ API. Встановіть низький місячний ліміт витрат.
2. Збережіть ключ як секрет на своєму сервері, наприклад під назвою ANTHROPIC_API_KEY або OPENAI_API_KEY — ніколи в коді сторінки. Див. змінні середовища та секрети.
3. Додайте серверний маршрут POST /api/summarise, який:
   • перевіряє, що людина увійшла в систему та належить до команди підтримки;
   • завантажує звернення з бази даних;
   • надсилає постачальнику системний промпт («Підсумуй трьома пунктами, потім склади ввічливу відповідь; не вигадуй номери замовлень») разом із текстом звернення;
   • обмежує довжину відповіді параметром максимальної кількості вихідних токенів;
   • повертає результат і записує в журнал, скільки токенів використано.
4. Кнопка викликає ваш маршрут, а не постачальника, і показує підсумок у міру потокової передачі.
5. Обробте збої. Якщо постачальник повільний або повертає помилку, покажіть «Зараз не вдалося підсумувати» і зберігайте звернення доступним.
6. Вимірюйте. Через тиждень перегляньте журнали токенів. Якщо більшість витрат припадає на довгі ланцюжки листів, скорочуйте цитовану історію перед надсиланням.

Зверніть увагу, чого тут немає: навчання моделі та особливої інфраструктури. Один ключ, один серверний маршрут і один добре складений промпт.

Ключові терміни

• Ключ API: секрет, який ідентифікує ваш обліковий запис у постачальника. Будь-хто, хто має його, може витрачати ваші гроші.
• Модель: конкретна LLM, яку ви викликаєте. Постачальники пропонують кілька розмірів за різними цінами та швидкостями.
• Temperature: налаштування різноманітності відповідей. Нижче значення дає передбачуванішу відповідь.
• Max tokens: обмеження довжини відповіді, яке також обмежує витрати.
• Ліміт частоти запитів (rate limit): скільки запитів або токенів може використати ваш обліковий запис за хвилину.
• Embeddings: числа, що відображають зміст тексту, використовуються для пошуку по вашим документам.
• RAG (retrieval-augmented generation): пошук релевантних уривків у ваших даних і додавання їх до промпту, щоб модель відповідала на основі вашого вмісту.
• Використання інструментів / виклик функцій: дозвіл моделі просити ваш застосунок виконати конкретну функцію, наприклад «перевір статус замовлення».

Поширені помилки та хибні уявлення

• Ключ у коді фронтенду. Найдорожча помилка. Код браузера є публічним. Завжди викликайте API із сервера. Чекліст безпеки для застосунків, створених ШІ розглядає це разом з іншими перевірками перед запуском.
• Немає ліміту витрат або ліміту для користувача. Помилка, цикл або зловживання користувача можуть швидко збільшити витрати. Встановіть ліміт у постачальника та обмежте кількість запитів на користувача у своєму застосунку.
• Надсилання всього щоразу. Цілі документи та повна історія чату множать вхідні токени. Скорочуйте, підсумовуйте старі повідомлення або отримуйте лише релевантні частини.
• Сліпа довіра до результату. Моделі можуть впевнено говорити неправильні речі. Для фактів, цін або будь-чого юридичного чи медичного спирайтеся на власні дані та показуйте джерела або залучайте людину для перевірки.
• Дозвіл вхідним даним користувача перевизначати ваші правила. Користувачі можуть написати «ігноруй свої інструкції». Тримайте дозволи та чутливі дії в коді сервера, а не лише в промпті.
• Початок із найбільшої моделі. Спершу спробуйте меншу й дешевшу модель; переходьте до більшої, лише якщо якість цього вимагає.
• Необдумане надсилання персональних даних. Перевіряйте умови використання даних постачальника, особливо на безкоштовних рівнях, і надсилайте лише те, що потрібно функції.

Про що просити ваш конструктор ШІ

Додай кнопку «Підсумувати» на сторінку звернення. Вона викликає серверний маршрут, який використовує секрет OPENAI_API_KEY (ніколи не відкривається браузеру), перевіряє, що користувач увійшов у систему, надсилає текст звернення з таким системним промптом: […], обмежує відповідь 300 токенами, передає відповідь на сторінку потоком і показує зрозуміле повідомлення про помилку, якщо виклик не вдався. Записуй кількість використаних токенів для кожного запиту та обмеж кожного користувача 30 підсумками на годину.

Для повноцінного досвіду чату див. як створити застосунок-чатбот на ШІ; інші ідеї — як додати функції ШІ до свого застосунку. Якщо API загалом для вас новина, почніть із що таке API.

LLM API в застосунках, створених у Mythex

Коли ви створюєте застосунок у Mythex, ШІ всередині нього використовує ваш власний ключ постачальника. Ви додаєте його як секрет проєкту або через картку секретів, яку Mythex показує в чаті, коли вона потрібна, і просите агента зробити виклик на сервері. Використання постачальника оплачується з вашого облікового запису у постачальника, а не з кредитів збірки Mythex. Mythex не включає токени для користувачів вашого застосунку та не надає вбудованого продукту бази знань; ліміти частоти запитів і контроль витрат ви проєктуєте й тестуєте самостійно. У рецепті документації додавання функцій ШІ з вашими ключами API є стартовий промпт, а сторінка конструктора застосунків ШІ показує, з чого почати.

Запитання