Ako používať LLM API: tokeny, náklady, kľúče a prvá AI funkcia

LLM API je webová služba, ktorá vašej aplikácii umožní poslať text veľkému jazykovému modelu — napríklad GPT modelom od OpenAI, Claude od Anthropic alebo Gemini od Google — a získať jeho odpoveď späť do kódu. Zaregistrujete sa u poskytovateľa, vytvoríte API kľúč a server vašej aplikácie posiela požiadavky s týmto kľúčom; platíte za každú požiadavku podľa počtu tokenov (častí textu) na vstupe aj výstupe. Presne to zvyčajne znamená „pridať AI do aplikácie“: dobre napísaná požiadavka adresovaná cudziemu modelu, bezpečne odoslaná z vášho servera.

Prečo na tom záleží pri tvorbe s AI

V aplikácii vytvorenej AI existujú dve rôzne AI a ľahko ich zamieňate:

1. AI, ktorá vytvára vašu aplikáciu — vlastný agent buildera, ktorý píše kód.
2. AI vnútri vašej aplikácie — funkcia, ktorú používajú vaši používatelia, napríklad chatovací asistent, tlačidlo „zhrň toto“ alebo automatické označovanie.

Druhá volá LLM API s vaším kľúčom a účtuje váš účet u poskytovateľa. Pochopenie tokenov, kontextu a cien vám umožní navrhnúť funkciu, ktorá funguje, neunikne jej kľúč a nepríde vám prekvapujúce vyúčtovanie.

Každodenná analógia: veľmi schopný freelancer, platený za slovo

Predstavte si LLM API ako výborného spisovateľa na voľnej nohe, ktorému píšete e-maily a platíte za slovo — za slová, ktoré mu pošlete, aj za tie, ktoré vám napíše späť (a slová na výstupe stoja viac).

• Medzi e-mailmi nič nepamätá. Ak chcete, aby pokračoval v konverzácii, do každého nového e-mailu vložíte predchádzajúce správy.
• Naraz dokáže prečítať len určité množstvo textu. Tomuto limitu hovoríme kontextové okno.
• Čím jasnejšie zadanie, tým lepšia a kratšia odpoveď — a to je zároveň lacnejšie.

Základné pojmy

Tokeny

Modely čítajú a zapisujú text v tokenoch. Dokumentácia cien Anthropic odhaduje od septembra 2026 približne 4 znaky, teda zhruba 0,75 anglického slova, na jeden token. Rôzne modely a jazyky sa tokenizujú odlišne, takže to berte ako hrubé vodítko. Počíta sa všetko: vaše pokyny, správa používateľa, dokumenty, ktoré priložíte, predchádzajúca konverzácia aj odpoveď.

Vstup a výstup

Vstupné tokeny sú to, čo posielate. Výstupné tokeny sú to, čo model napíše. Na cenníkoch OpenAI, Anthropic a Google platí od septembra 2026, že výstupné tokeny stoja pri rovnakom modeli niekoľkonásobne viac než vstupné. Cenník Gemini od Google tiež uvádza, že interné „premýšľanie“ modelu sa počíta ako výstup.

Kontextové okno

Maximálny počet tokenov, ktoré model dokáže prijať v jednej požiadavke vrátane odpovede. Moderné modely prijímajú veľmi dlhé vstupy — niektoré súčasné modely Anthropic napríklad až milión tokenov. Dlhé vstupy však stoja viac a trvajú dlhšie, preto posielajte len to, čo úloha vyžaduje.

Bezstavové požiadavky

Pri väčšine API v štýle chatu je každá požiadavka predvolene samostatná. Aby si chat „pamätal“, vaša aplikácia pri každej novej správe pošle znova aj predchádzajúce správy. Preto je dlhá konverzácia na každú správu drahšia než krátka.

Systémový prompt

Pokyny, ktoré určujú rolu modelu a pravidlá pre každú požiadavku: „Zhrnieš podporné tikety do troch odrážok. Nikdy neuvádzaj e-mailové adresy zákazníkov.“ Používatelia ho nevidia, ale ovplyvňuje každú odpoveď.

Streaming

Namiesto čakania na celú odpoveď môže API posielať text, ako ho generuje, takže používatelia vidia slová hneď, ako sa objavia. Vďaka tomu pôsobia chatovacie rozhrania oveľa rýchlejšie.

Ako funguje cena

Od septembra 2026, overené na cenníkoch samotných poskytovateľov:

Niektorí poskytovatelia ponúkajú aj možnosť vyskúšať službu pred platbou: Anthropic dáva novým používateľom malý kredit zadarmo a Gemini API od Google má na niektorých modeloch bezplatnú úroveň — s upozornením, že obsah odoslaný v tejto úrovni sa môže použiť na zlepšovanie produktov Google.

Ceny sa výrazne líšia medzi malými, rýchlymi modelmi a najväčšími modelmi toho istého poskytovateľa a často sa menia, preto ich tu neuvádzame. Jednoduchý odhad pre ľubovoľnú funkciu je: (vstupné tokeny × cena vstupu + výstupné tokeny × cena výstupu) × počet požiadaviek za mesiac. Potom pridajte rezervu a v paneli poskytovateľa nastavte mesačný limit výdavkov.

Príklad: tlačidlo „zhrň tento tiket“

Malý tím podpory chce tlačidlo, ktoré dlhé vlákno e-mailov od zákazníka premení na tri odrážky a navrhnutú odpoveď.

1. Získajte kľúč. Vytvorte účet u jedného poskytovateľa a vygenerujte API kľúč. Nastavte nízky mesačný limit výdavkov.
2. Uložte kľúč ako tajomstvo na svojom serveri, napríklad pod názvom ANTHROPIC_API_KEY alebo OPENAI_API_KEY — nikdy v kóde stránky. Pozri premenné prostredia a tajomstvá.
3. Pridajte serverovú trasu POST /api/summarise, ktorá:
   • overí, že osoba je prihlásená a patrí do tímu podpory;
   • načíta tiket z databázy;
   • pošle poskytovateľovi systémový prompt („Zhrň v troch odrážkach, potom navrhni zdvorilú odpoveď; nevymýšľaj čísla objednávok“) spolu s textom tiketu;
   • obmedzí dĺžku odpovede nastavením maximálneho počtu výstupných tokenov;
   • vráti výsledok a zaznamená, koľko tokenov použil.
4. Tlačidlo volá vašu trasu, nie poskytovateľa, a zobrazí zhrnutie, keď sa postupne načítava.
5. Ošetrite zlyhanie. Ak je poskytovateľ pomalý alebo vráti chybu, zobrazte „Teraz sa nepodarilo zhrnúť“ a tiket nechajte použiteľný.
6. Merajte. Po týždni sa pozrite na záznamy tokenov. Ak väčšinu nákladov tvoria dlhé vlákna e-mailov, pred odoslaním skráťte citovanú históriu.

Všimnite si, čo tu chýba: žiadne trénovanie modelu, žiadna špeciálna infraštruktúra. Jeden kľúč, jedna serverová trasa, jeden dobre napísaný prompt.

Kľúčové pojmy

• API kľúč: tajomstvo, ktoré identifikuje váš účet u poskytovateľa. Ktokoľvek ho má, môže míňať vaše peniaze.
• Model: konkrétny LLM, ktorý volate. Poskytovatelia ponúkajú niekoľko veľkostí s rôznymi cenami a rýchlosťami.
• Teplota (temperature): nastavenie, aké rozmanité sú odpovede. Nižšia hodnota znamená predvídateľnejšie odpovede.
• Maximálny počet tokenov (max tokens): limit dĺžky odpovede, ktorý zároveň obmedzuje cenu.
• Limit požiadaviek (rate limit): koľko požiadaviek alebo tokenov môže váš účet použiť za minútu.
• Embeddings: čísla, ktoré vyjadrujú význam textu, a používajú sa na vyhľadávanie vo vlastných dokumentoch.
• RAG (retrieval-augmented generation): vyhľadanie relevantných pasáží z vašich vlastných dát a ich zahrnutie do promptu, aby model odpovedal z vášho obsahu.
• Použitie nástrojov / volanie funkcií (tool use / function calling): model môže vašu aplikáciu požiadať o spustenie konkrétnej funkcie, napríklad „over stav objednávky“.

Časté chyby a nesprávne predstavy

• Kľúč v kóde frontendu. Najdrahšia chyba. Kód v prehliadači je verejný. Vždy volajte zo servera. Bezpečnostný kontrolný zoznam pre aplikácie vytvorené AI to rieši spolu s ďalšími kontrolami pred spustením.
• Žiadny limit výdavkov ani limity na používateľa. Chyba, slučka alebo zneužívajúci používateľ môžu rýchlo zvýšiť náklady. Nastavte limit u poskytovateľa a v aplikácii obmedzte požiadavky na používateľa.
• Posielanie všetkého pri každej požiadavke. Celé dokumenty a celá história chatu znásobujú vstupné tokeny. Skracujte, zhrňte staršie správy alebo načítajte len relevantné časti.
• Slepá dôvera vo výstup. Modely dokážu sebaisto povedať nesprávne veci. Pri faktoch, cenách alebo čomkoľvek právnom či zdravotnom ukotvite odpovede vo vlastných dátach a ukážte zdroje, alebo ich skontroluje človek.
• Vstup používateľa, ktorý prepíše vaše pravidlá. Používatelia môžu napísať „ignoruj svoje pokyny“. Oprávnenia a citlivé akcie nechajte v kóde servera, nie len v prompte.
• Začínať s najväčším modelom. Najprv vyskúšajte menší a lacnejší model; prejdite na väčší, len ak to kvalita vyžaduje.
• Posielanie osobných údajov bez premyslenia. Skontrolujte podmienky používania dát u poskytovateľa, najmä v bezplatných úrovniach, a posielajte len to, čo funkcia potrebuje.

Čo požiadať od svojho AI buildera

Pridaj na stránku tiketu tlačidlo „Zhrnúť“. Volá serverovú trasu, ktorá používa tajomstvo OPENAI_API_KEY (nikdy nie v prehliadači), overí, že je používateľ prihlásený, pošle text tiketu s týmto systémovým promptom: […], obmedzí odpoveď na 300 tokenov, streamuje odpoveď na stránku a pri zlyhaní zobrazí priateľskú chybu. Zaznamenávaj spotrebované tokeny pri každej požiadavke a obmedz každého používateľa na 30 zhrnutí za hodinu.

Pre plný chatovací zážitok pozri ako vytvoriť chatbot aplikáciu s AI; pre ďalšie nápady ako pridať AI funkcie do aplikácie. Ak sú pre vás API všeobecne nové, začnite s čo je API.

LLM API v aplikáciách vytvorených s Mythex

Keď tvoríte s Mythex, AI vnútri vašej aplikácie používa váš vlastný kľúč poskytovateľa. Pridáte ho ako tajomstvo projektu, alebo cez kartu tajomstiev, ktorú Mythex v chate zobrazí, keď ju potrebuje, a požiadate agenta, aby volanie uskutočnil na serveri. Využitie poskytovateľa sa účtuje na váš účet u poskytovateľa, nie na kredity Mythex na tvorbu. Mythex nezahŕňa tokeny pre používateľov vašej aplikácie ani vstavaný produkt znalostnej bázy; limity požiadaviek a kontroly nákladov si navrhujete a testujete sami. Recept v dokumentácii pridanie AI funkcií s vlastnými API kľúčmi obsahuje štartovací prompt a stránka AI app builder ukazuje, kde začať.

Otázky