Како да користите LLM API: токени, трошоци, клучеви и првата AI функција

LLM API е веб-услуга што ви овозможува вашата апликација да испраќа текст до голем јазичен модел — како GPT моделите на OpenAI, Claude на Anthropic или Gemini на Google — и да го добие одговорот назад во кодот. Се регистрирате кај провајдерот, создавате API клуч, а серверот на вашата апликација испраќа барања со тој клуч; се наплаќате за секое барање според бројот на токени (делови од текст) што влегуваат и излегуваат. Тоа е, во суштина, сето „додавање AI во апликација“: добро напишано барање до туѓ модел, направено безбедно од вашиот сервер.

Зошто е важно кога градите со AI

Во апликација направена со AI постојат две различни AI, и лесно ги мешате:

1. AI што ја гради вашата апликација — агентот на градителот, кој го пишува кодот.
2. AI во вашата апликација — функција што ја користат вашите корисници, како асистент за разговор, копче „сумирај го ова“ или автоматско означување.

Втората ја повикува LLM API со вашиот клуч и ја наплаќа вашата сметка кај провајдерот. Разбирањето на токените, контекстот и цените е она што ви овозможува да дизајнирате функција што работи, не го открива вашиот клуч и не ве изненадува со сметка.

Секојдневна аналогија: многу способен фриленсер, плаќан по збор

Замислете LLM API како исклучително способен писател на слободна работа до кого стигнувате по е-пошта и го плаќате по збор — и за зборовите што ги испраќате и за зборовите што ви ги враќа (а зборовите што ги пишува се поскапи).

• Тој нема меморија помеѓу пораките. Ако сакате да го продолжи разговорот, ги лепите претходните пораки во секоја нова порака.
• Може да прочита само одредена количина одеднаш. Таа граница е контекстниот прозорец.
• Што е појасно упатството, толку подобар и пократок е одговорот — што е и поевтино.

Основни поими

Токени

Моделите читаат и пишуваат текст во токени. Документацијата за цени на Anthropic проценува дека еден токен е приближно 4 знаци, или околу 0,75 англиски збор, од септември 2026. Различните модели и јазици ги токенизираат различно, па тоа сфатете го како груб водич. Сè се брои: вашите упатства, пораката на корисникот, секој документ што го вклучувате, претходниот разговор и одговорот.

Влез и излез

Влезните токени се она што го испраќате. Излезните токени се она што моделот го пишува. На страниците со цени на OpenAI, Anthropic и Google, од септември 2026, излезните токени чинат неколкукратно повеќе од влезните за ист модел. Google во цените на Gemini исто така наведува дека внатрешното „размислување“ на моделот се смета за излез.

Контекстен прозорец

Максималниот број токени што модел може да ги прими во едно барање, вклучувајќи го и одговорот. Современите модели прифаќаат многу долги влезови — некои од моменталните модели на Anthropic, на пример, прифаќаат до милион токени. Но долгите влезови чинат повеќе и траат подолго, па испраќајте само она што задачата го бара.

Барања без состојба

Кај повеќето API во стил на разговор, секое барање стои самостојно. За да „запамти“ чет, вашата апликација ги испраќа повторно претходните пораки со секоја нова. Затоа долг разговор чини повеќе по порака од краток.

Системскиот prompt

Упатства што ја поставуваат улогата и правилата на моделот за секое барање: „Ги сумираш поддршката тикети во три точки. Никогаш не вклучувај е-пошти на клиенти.“ Корисниците не го гледаат, но тој го обликува секој одговор.

Стримување

Наместо да чекате целосен одговор, API може да испраќа текст додека се генерира, па корисниците ги гледаат зборовите како се појавуваат веднаш. Тоа го прави интерфејсот за разговор многу побрз.

Како функционираат цените

Од септември 2026, проверено на страниците со цени на провајдерите:

Неколку провајдери нудат и начин за пробување пред да платите: Anthropic им дава на новите корисници мал износ бесплатен кредит, а Gemini API на Google има бесплатно ниво кај некои модели, со предупредување дека содржината испратена преку него може да се користи за подобрување на производите на Google.

Цените се разликуваат многу помеѓу малите, брзи модели на еден провајдер и највеќе модели, а и често се менуваат, затоа тука не ги наведуваме. Едноставна проценка за која било функција е: (влезни токени × цена за влез + излезни токени × цена за излез) × број на барања месечно. Потоа додајте маргина и поставете месечен лимит на трошење во контролната табла на провајдерот.

Практичен пример: копче „сумирај го овој тикет“

Мал тим за поддршка сака копче што долга низа е-пошти од клиент ја претвора во три точки и предложен одговор.

1. Добијте клуч. Создајте сметка кај еден провајдер и генерирајте API клуч. Поставете низок месечен лимит на трошење.
2. Зачувајте го клучот како тајна на вашиот сервер, со име како ANTHROPIC_API_KEY или OPENAI_API_KEY — никогаш во кодот на страницата. Видете променливи на околината и тајни податоци.
3. Додајте серверска рута, POST /api/summarise, која:
   • проверува дали лицето е најавено и дали припаѓа на тимот за поддршка;
   • го вчитува тикетот од базата;
   • му испраќа на провајдерот системски prompt („Сумирај во три точки, па подготви учтив одговор; не измислувај броеви на нарачки“) плус текстот на тикетот;
   • ја ограничува должината на одговорот со поставка за максимален број излезни токени;
   • го враќа резултатот и бележи колку токени е потрошено.
4. Копчето ја повикува вашата рута, не провајдерот, и го прикажува сумирањето додека се стримува.
5. Справете се со грешка. Ако провајдерот е бавен или врати грешка, прикажете „Не можеме да сумираме во моментов“ и оставете го тикетот употреблив.
6. Измерете. По една недела, погледнете ги логовите за токени. Ако најголемиот дел од трошокот се долги синџири е-пошта, скратете ја цитираната историја пред испраќање.

Забележете што недостасува: нема обука на модел, нема посебна инфраструктура. Еден клуч, една серверска рута, еден добро напишан prompt.

Клучни поими

• API клуч: тајната што ја идентификува вашата сметка кај провајдерот. Секој што го има може да ви троши пари.
• Модел: конкретниот LLM што го повикувате. Провајдерите нудат неколку големини по различни цени и брзини.
• Temperature: поставка за тоа колку се разновидни одговорите. Пониска вредност значи попредвидливи.
• Max tokens: ограничување на должината на одговорот, што исто така ја ограничува цената.
• Rate limit: колку барања или токени може вашата сметка да користи во минута.
• Embeddings: броеви што го претставуваат значењето на текстот, се користат за пребарување во ваши сопствени документи.
• RAG (retrieval-augmented generation): наоѓање релевантни делови од ваши податоци и нивно вклучување во prompt-от, за моделот да одговара од вашата содржина.
• Tool use / function calling: овозможување моделот да побара од вашата апликација да изврши конкретна функција, како „провери статус на нарачка“.

Чести грешки и погрешни претстави

• Ставање на клучот во кодот на frontend. Најскапата грешка. Кодот во прелистувачот е јавен. Секогаш повикувајте од серверот. Листата за безбедност за апликации направени со AI го покрива ова со другите проверки пред објавување.
• Без лимит на трошење или лимити по корисник. Грешка, јамка или злоупотребувачки корисник брзо може да направи голем трошок. Поставете лимит кај провајдерот и ограничете барања по корисник во вашата апликација.
• Испраќање сè секогаш. Целите документи и целата историја на разговорот ги множат влезните токени. Скратете, сумирајте постарите пораки или земете само релевантните делови.
• Слепо верување во излезот. Моделите знаат да кажат погрешни работи со самодоверба. За факти, цени или нешто правно или медицинско, засновајте ги одговорите на ваши податоци и покажете извори, или нека ги провери човек.
• Дозволување корисничкиот внес да ги надјача вашите правила. Корисниците можат да напишат „занемари ги упатствата“. Дозволите и чувствителните дејства држете ги во серверскиот код, а не само во prompt-от.
• Почнување со најголемиот модел. Пробајте прво помал, поевтин модел; преминете на поголем само ако квалитетот го бара тоа.
• Испраќање лични податоци без размислување. Проверете ги условите за користење податоци на провајдерот, особено кај бесплатните нивоа, и испраќајте само она што функцијата го бара.

Што да го побарате од вашиот AI градител

Додади копче „Сумирај“ на страницата со тикети. Тоа повикува серверска рута што го користи тајниот клуч OPENAI_API_KEY (никогаш изложен на прелистувачот), проверува дали корисникот е најавен, го испраќа текстот на тикетот со овој системски prompt: […], го ограничува одговорот на 300 токени, го стримува одговорот на страницата и прикажува пријателска порака за грешка ако повикот не успее. Бележи колку токени е потрошено по барање и ограничи секој корисник на 30 сумирања на час.

За целосно искуство со разговор, видете како да направите апликација со AI чет-бот; за други идеи, како да додадете AI функции во вашата апликација. Ако API-јата воопшто ви се нови, почнете со што е API.

LLM API во апликации направени со Mythex

Кога градите со Mythex, AI во вашата апликација го користи вашиот клуч од провајдерот. Го додавате како тајна на проектот или преку картичката со тајни податоци што Mythex ја прикажува во чет кога ќе ни треба, и го замолувате агентот да направи повик на серверот. Користењето на провајдерот се наплаќа на вашата сметка кај провајдерот, а не како кредити за градење во Mythex. Mythex не вклучува токени за корисниците на вашата апликација ниту готов производ за база на знаење, а ограничувањата на барањата и контролата на трошоците се ваша одговорност за дизајн и тестирање. Рецептот во документацијата додавање AI функции со ваши API клучеви содржи почетен prompt, а страницата AI app builder покажува каде да започнете.

Прашања