Kako koristiti LLM API-je: tokeni, troškovi, ključevi i prva AI funkcija

LLM API je web usluga koja vašoj aplikaciji omogućuje da velikom jezičnom modelu, poput OpenAI-jevih GPT modela, Anthropicova Claudea ili Googleova Geminija, pošalje tekst i dobije odgovor natrag u kodu. Prijavite se kod pružatelja, stvorite API ključ, a poslužitelj vaše aplikacije šalje zahtjeve s tim ključem. Plaćate svaki zahtjev prema broju tokena (dijelova teksta) koji ulaze i izlaze. To je obično sve što znači „dodavanje AI-ja u aplikaciju”: dobro napisan zahtjev upućen tuđem modelu, poslan sigurno s vašeg poslužitelja.

Zašto je to važno kad gradite uz AI

U aplikaciji izrađenoj uz AI postoje dvije različite AI komponente, i lako ih je pomiješati:

1. AI koji gradi vašu aplikaciju: agent alata za izradu, koji piše kod.
2. AI unutar vaše aplikacije: funkcija koju koriste vaši korisnici, poput chat asistenta, gumba „sažmi ovo” ili automatskog označavanja.

Druga komponenta poziva LLM API s vašim ključem i tereti vaš račun kod pružatelja. Razumijevanje tokena, konteksta i cijena omogućuje vam da osmislite funkciju koja radi, ne curi ključ i ne iznenađuje vas računom.

Svakodnevna usporedba: vrlo sposoban slobodni pisac koji se plaća po riječi

Zamislite LLM API kao briljantnog slobodnog pisca kojem se javljate e-poštom i plaćate ga po riječi, i za riječi koje mu šaljete i za riječi koje vam vrati (a riječi iz odgovora koštaju više).

• Nema pamćenja između e-poruka. Ako želite da nastavi razgovor, u svaku novu e-poruku morate zalijepiti prijašnje poruke.
• Može pročitati ograničenu količinu odjednom. Ta granica je kontekstni prozor.
• Što je jasnija vaša uputa, to je odgovor bolji i kraći, što je ujedno i jeftinije.

Osnovni pojmovi

Tokeni

Modeli čitaju i pišu tekst u tokenima. Anthropicova dokumentacija o cijenama od rujna 2026. procjenjuje oko 4 znaka, odnosno otprilike 0,75 engleske riječi, po tokenu. Različiti modeli i jezici tokeniziraju tekst različito, pa to shvatite kao grubu procjenu. Sve se broji: vaše upute, poruka korisnika, sve dokumente koje uključite, prijašnji razgovor i odgovor.

Ulaz i izlaz

Ulazni tokeni su ono što šaljete. Izlazni tokeni su ono što model napiše. Na stranicama s cijenama OpenAI-ja, Anthropica i Googlea, od rujna 2026., izlazni tokeni koštaju nekoliko puta više od ulaznih za isti model. Googleova stranica za Gemini cijene također navodi da se interno „razmišljanje” modela računa kao izlaz.

Kontekstni prozor

Najveći broj tokena koji model može primiti u jednom zahtjevu, uključujući odgovor. Moderni modeli prihvaćaju vrlo duge ulaze. Neki Anthropicovi aktualni modeli, na primjer, prihvaćaju do milijun tokena. No dugi ulazi koštaju više i sporiji su, pa šaljite samo ono što zadatak treba.

Zahtjevi bez stanja

Kod većine API-ja u stilu chata svaki zahtjev je samostalan. Da bi chat „pamtio”, vaša aplikacija mora ponovno poslati prijašnje poruke uz svaku novu. Zato je duga konverzacija skuplja po poruci od kratke.

Sistemska uputa

Upute koje određuju ulogu modela i pravila za svaki zahtjev, na primjer: „Sažimaš zahtjeve podrške u tri točke. Nikad ne navodi adrese e-pošte kupaca.” Korisnici je ne vide, ali ona oblikuje svaki odgovor.

Streaming

Umjesto da čeka cijeli odgovor, API može slati tekst dok se generira, pa korisnici odmah vide riječi kako se pojavljuju. Tako chat sučelja djeluju puno brže.

Kako funkcionira cijena

Od rujna 2026., provjereno na stranicama cijena samih pružatelja:

Neki pružatelji nude i način da isprobate prije plaćanja: Anthropic novim korisnicima daje mali iznos besplatnog kredita, a Googleov Gemini API ima besplatnu razinu za neke modele, uz upozorenje da se sadržaj poslan na njoj može koristiti za poboljšanje Googleovih proizvoda.

Cijene se znatno razlikuju između malih, brzih modela i najvećih modela pružatelja, a često se mijenjaju, pa ih ovdje ne navodimo. Jednostavna procjena za bilo koju funkciju glasi: (ulazni tokeni × cijena ulaza + izlazni tokeni × cijena izlaza) × broj zahtjeva mjesečno. Zatim dodajte marginu i postavite mjesečno ograničenje potrošnje u nadzornoj ploči pružatelja.

Primjer: gumb „sažmi ovaj zahtjev”

Mali tim podrške želi gumb koji dugu e-poštu s upitom kupca pretvara u tri točke i prijedlog odgovora.

1. Nabavite ključ. Napravite račun kod jednog pružatelja i generirajte API ključ. Postavite nisko mjesečno ograničenje potrošnje.
2. Spremite ključ kao tajnu na svoj poslužitelj, pod imenom poput ANTHROPIC_API_KEY ili OPENAI_API_KEY, nikad u kodu stranice. Pogledajte varijable okoline i tajne.
3. Dodajte rutu na poslužitelju, POST /api/summarise, koja:
   • provjerava je li osoba prijavljena i pripada li timu podrške;
   • učitava zahtjev iz baze podataka;
   • šalje pružatelju sistemsku uputu („Sažmi u tri točke, zatim napiši pristojan odgovor; ne izmišljaj brojeve narudžbi”) i tekst zahtjeva;
   • ograničava duljinu odgovora postavkom najvećeg broja izlaznih tokena;
   • vraća rezultat i bilježi koliko je tokena potrošeno.
4. Gumb poziva vašu rutu, a ne pružatelja, i prikazuje sažetak dok stiže.
5. Obradite grešku. Ako je pružatelj spor ili vrati grešku, prikažite „Trenutno ne možemo sažeti” i ostavite zahtjev upotrebljivim.
6. Izmjerite. Nakon tjedan dana pogledajte zapise o tokenima. Ako je većina troška u dugim e-porukama, prije slanja skratite citiranu povijest.

Primijetite što nedostaje: nema treniranja modela ni posebne infrastrukture. Jedan ključ, jedna ruta na poslužitelju i jedna dobro napisana uputa.

Ključni pojmovi

• API ključ: tajna koja vaš račun identificira kod pružatelja. Tko ga ima, može trošiti vaš novac.
• Model: točno određeni LLM koji pozivate. Pružatelji nude više veličina po različitim cijenama i brzinama.
• Temperatura: postavka koliko su odgovori raznoliki. Niža vrijednost znači predvidljivije odgovore.
• Najveći broj tokena (max tokens): ograničenje duljine odgovora, što ujedno ograničava trošak.
• Ograničenje brzine (rate limit): koliko zahtjeva ili tokena vaš račun smije koristiti u minuti.
• Embeddings: brojevi koji predstavljaju značenje teksta, koriste se za pretraživanje vaših vlastitih dokumenata.
• RAG (retrieval-augmented generation): pronalaženje relevantnih odlomaka iz vaših podataka i njihovo uključivanje u upit, tako da model odgovara iz vašeg sadržaja.
• Korištenje alata / pozivanje funkcija (tool use / function calling): model može zatražiti da vaša aplikacija pokrene određenu funkciju, poput „provjeri status narudžbe”.

Česte greške i zablude

• Ključ u kodu sučelja. Najskuplja greška. Kod u pregledniku je javan. Uvijek zovite s poslužitelja. Sigurnosni popis za aplikacije izrađene uz AI to pokriva zajedno s ostalim provjerama prije objave.
• Nema ograničenja potrošnje ni ograničenja po korisniku. Greška, petlja ili zlonamjeran korisnik mogu brzo potrošiti mnogo novca. Postavite ograničenje kod pružatelja i ograničite zahtjeve po korisniku u aplikaciji.
• Slanje svega uvijek. Cijeli dokumenti i čitave povijesti chata množe ulazne tokene. Skratite, sažmite starije poruke ili dohvatite samo relevantne dijelove.
• Slijepo vjerovanje izlazu. Modeli mogu samouvjereno navesti netočne stvari. Za činjenice, cijene ili sve pravno ili medicinsko, utemeljite odgovore na vlastitim podacima i prikažite izvore ili neka ih provjeri osoba.
• Korisnički unos koji poništava vaša pravila. Korisnici mogu upisati „zanemari svoje upute”. Dopuštenja i osjetljive radnje držite u kodu poslužitelja, a ne samo u uputi.
• Početak s najvećim modelom. Prvo isprobajte manji i jeftiniji model, a veći uzmite samo ako kvaliteta to zahtijeva.
• Slanje osobnih podataka bez razmišljanja. Provjerite uvjete korištenja podataka pružatelja, posebno na besplatnim razinama, i šaljite samo ono što funkcija treba.

Što tražiti od svog alata za izradu

Dodaj gumb „Sažmi” na stranicu zahtjeva. Poziva rutu na poslužitelju koja koristi tajnu OPENAI_API_KEY (nikad izloženu pregledniku), provjerava je li korisnik prijavljen, šalje tekst zahtjeva s ovom sistemskom uputom: […], ograničava odgovor na 300 tokena, prikazuje odgovor na stranici dok stiže i prikazuje prijateljsku poruku o pogrešci ako poziv ne uspije. Bilježi potrošene tokene po zahtjevu i ograniči svakog korisnika na 30 sažetaka po satu.

Za cjelovito iskustvo chata pogledajte kako izraditi aplikaciju s AI chatbotom, a za druge ideje kako dodati AI funkcije u aplikaciju. Ako su vam API-ji općenito novi, počnite s što je API.

LLM API-ji u aplikacijama izrađenim s Mythexom

Kad gradite s Mythexom, AI unutar vaše aplikacije koristi vaš ključ pružatelja. Dodajete ga kao tajnu projekta ili kroz karticu s tajnama koju Mythex prikaže u chatu kad je zatraži, a agenta zamolite da poziv napravi na poslužitelju. Potrošnja pružatelja tereti vaš račun kod pružatelja, a ne Mythex kredite za izradu. Mythex ne uključuje tokene za korisnike vaše aplikacije niti ugrađeni proizvod baze znanja, a ograničenja brzine i kontrole troškova na vama je osmisliti i testirati. Recept u dokumentaciji dodavanje AI funkcija s vlastitim API ključevima ima početni upit, a stranica AI alat za izradu aplikacija pokazuje gdje započeti.

Pitanja