Kako koristiti LLM API-je: tokeni, troškovi, ključevi i prva AI funkcija

LLM API je web servis koji omogućava vašoj aplikaciji da pošalje tekst velikom jezičkom modelu — kao što su GPT modeli kompanije OpenAI, Claude kompanije Anthropic ili Gemini kompanije Google — i dobije odgovor nazad u kodu. Registrujete se kod provajdera, napravite API ključ, a server vaše aplikacije šalje zahtjeve s tim ključem; plaćate svaki zahtjev po broju tokena (dijelova teksta) koji ulaze i izlaze. To je sve što obično znači „dodati AI u aplikaciju“: dobro napisan zahtjev ka tuđem modelu, poslat bezbjedno s vašeg servera.

Zašto je ovo važno kada pravite aplikaciju uz AI

U aplikaciji izrađenoj uz AI postoje dvije različite AI, i lako ih je pomiješati:

1. AI koji pravi vašu aplikaciju — agent alata za izradu, koji piše kod.
2. AI unutar vaše aplikacije — funkcija koju koriste vaši korisnici, kao što su chat asistent, dugme „sažmi ovo“ ili automatsko označavanje.

Druga koristi LLM API s vašim ključem i naplaćuje se na vaš račun kod provajdera. Razumijevanje tokena, konteksta i cijena omogućava vam da osmislite funkciju koja radi, ne otkriva vaš ključ i ne iznenađuje vas računom.

Svakodnevna analogija: vrlo sposoban freelancer, plaćen po riječi

Zamislite LLM API kao briljantnog freelance pisca do kojeg dolazite e-poštom i plaćate ga po riječi — i za riječi koje mu šaljete i za riječi koje on vraća (a riječi koje piše koštaju više).

• Između e-poruka nema memorije. Ako želite da nastavi razgovor, u svaku novu e-poruku nalijepite prethodne poruke.
• Može pročitati samo određenu količinu odjednom. Ta granica je kontekstni prozor.
• Jasniji zadatak daje bolji i kraći odgovor — što je ujedno i jeftinije.

Osnovni pojmovi

Tokeni

Modeli čitaju i pišu tekst u tokenima. Anthropic u dokumentaciji o cijenama procjenjuje oko 4 znaka, odnosno otprilike 0,75 engleske riječi, po tokenu, od septembra 2026. Različiti modeli i jezici se tokenizuju drugačije, pa to shvatite kao grubu smjernicu. Sve se računa: vaše upute, poruka korisnika, svi dokumenti koje uključite, ranija konverzacija i odgovor.

Ulaz i izlaz

Ulazni tokeni su ono što šaljete. Izlazni tokeni su ono što model napiše. Na stranicama s cijenama OpenAI-ja, Anthropica i Googlea, od septembra 2026, izlazni tokeni koštaju nekoliko puta više od ulaznih za isti model. Googleova cijena za Gemini također navodi da se interno „razmišljanje“ modela računa kao izlaz.

Kontekstni prozor

Maksimalan broj tokena koje model može primiti u jednom zahtjevu, uključujući odgovor. Savremeni modeli prihvataju vrlo duge ulaze — neki Anthropicovi trenutni modeli, na primjer, prihvataju do milion tokena. Ali dugi ulazi koštaju više i traju duže, pa šaljite samo ono što zadatak treba.

Zahtjevi bez stanja

Kod većine API-ja u stilu chata, svaki zahtjev je sam za sebe, podrazumijevano. Da bi chat „pamtio“, vaša aplikacija ponovo šalje ranije poruke uz svaku novu. Zato duga konverzacija košta više po poruci nego kratka.

Sistemska uputa

Upute koje postavljaju ulogu modela i pravila za svaki zahtjev: „Sažimaš poruke iz podrške u tri tačke. Nikada ne uključuj e-mail adrese kupaca.“ Korisnici je ne vide, ali ona oblikuje svaki odgovor.

Strimovanje

Umjesto da čeka cijeli odgovor, API može slati tekst dok se generiše, pa korisnici odmah vide kako se riječi pojavljuju. To čini chat interfejse mnogo bržim.

Kako funkcionišu cijene

Od septembra 2026, provjereno na stranicama provajdera s cijenama:

Neki provajderi nude i način da isprobate prije plaćanja: Anthropic novim korisnicima daje mali iznos besplatnog kredita, a Googleov Gemini API ima besplatni nivo za neke modele, uz upozorenje da sadržaj poslat na njemu može biti korišten za unapređenje Googleovih proizvoda.

Cijene se jako razlikuju između malih, brzih modela i najvećih modela jednog provajdera, i često se mijenjaju, zato ih ovdje ne navodimo. Jednostavna procjena za bilo koju funkciju je: (ulazni tokeni × ulazna cijena + izlazni tokeni × izlazna cijena) × broj zahtjeva mjesečno. Zatim dodajte rezervu i postavite mjesečni limit potrošnje na kontrolnoj tabli provajdera.

Primjer: dugme „sažmi ovu prijavu“

Mali tim za podršku želi dugme koje dugu e-mail nit kupca pretvara u tri tačke i predloženi odgovor.

1. Nabavite ključ. Napravite nalog kod jednog provajdera i generišite API ključ. Postavite nizak mjesečni limit potrošnje.
2. Čuvajte ključ kao tajnu na serveru, pod nazivom kao što je ANTHROPIC_API_KEY ili OPENAI_API_KEY — nikada u kodu stranice. Pogledajte varijable okruženja i tajne.
3. Dodajte server rutu, POST /api/summarise, koja:
   • provjerava da je osoba prijavljena i da pripada timu za podršku;
   • učitava prijavu iz baze podataka;
   • šalje provajderu sistemsku uputu („Sažmi u tri tačke, zatim napiši pristojan odgovor; ne izmišljaj brojeve narudžbi“) plus tekst prijave;
   • ograničava dužinu odgovora postavkom maksimalnog broja izlaznih tokena;
   • vraća rezultat i bilježi koliko je tokena potrošeno.
4. Dugme poziva vašu rutu, a ne provajdera, i prikazuje sažetak dok se strimuje.
5. Obradite grešku. Ako je provajder spor ili vrati grešku, prikažite „Trenutno ne možemo sažeti“ i ostavite prijavu upotrebljivom.
6. Mjerite. Poslije sedmice pogledajte logove tokena. Ako je većina troška u dugim nitima, skratite citirani dio historije prije slanja.

Primijetite šta nedostaje: nema treniranja modela, nema posebne infrastrukture. Jedan ključ, jedna server ruta, jedan dobro napisan prompt.

Ključni pojmovi

• API ključ: tajna koja identifikuje vaš nalog kod provajdera. Ko ga ima, može trošiti vaš novac.
• Model: konkretan LLM koji zovete. Provajderi nude nekoliko veličina po različitim cijenama i brzinama.
• Temperatura: postavka koliko su odgovori raznovrsni. Niža vrijednost znači predvidljivije.
• Maksimalni tokeni: ograničenje dužine odgovora, što ujedno ograničava trošak.
• Limit učestalosti (rate limit): koliko zahtjeva ili tokena vaš nalog smije koristiti u minuti.
• Embeddings: brojevi koji predstavljaju značenje teksta; koriste se za pretragu vaših dokumenata.
• RAG (retrieval-augmented generation): pronalaženje relevantnih odlomaka iz vaših podataka i njihovo uključivanje u prompt, tako da model odgovara na osnovu vašeg sadržaja.
• Korištenje alata / pozivanje funkcija (tool use / function calling): dozvoljava modelu da zatraži od vaše aplikacije da pokrene određenu funkciju, kao što je „provjeri status narudžbe“.

Česte greške i zablude

• Stavljanje ključa u frontend kod. Najskuplja greška. Kod u browseru je javan. Uvijek zovite sa servera. Lista provjera bezbjednosti za aplikacije izrađene uz AI pokriva ovo uz ostale provjere prije lansiranja.
• Nema limita potrošnje ni limita po korisniku. Greška, petlja ili zloupotrebljavajući korisnik mogu brzo povećati troškove. Postavite limit kod provajdera i ograničite zahtjeve po korisniku u aplikaciji.
• Slanje svega svaki put. Cijeli dokumenti i kompletne historije chata množe ulazne tokene. Skratite, sažmite starije poruke ili dohvatite samo relevantne dijelove.
• Slijepo vjerovanje izlazu. Modeli mogu samouvjereno reći pogrešne stvari. Za činjenice, cijene ili sve pravno ili medicinsko, zasnujte odgovore na vlastitim podacima i prikažite izvore, ili neka ih provjeri osoba.
• Dozvoljavanje da korisnički unos nadjača vaša pravila. Korisnici mogu napisati „zanemari svoje upute“. Dozvole i osjetljive radnje držite u kodu servera, a ne samo u promptu.
• Početak s najvećim modelom. Prvo isprobajte manji, jeftiniji model; prelazite na veći samo ako kvalitet to traži.
• Slanje ličnih podataka bez razmišljanja. Provjerite uslove korištenja podataka kod provajdera, posebno na besplatnim nivoima, i šaljite samo ono što funkcija treba.

Šta tražiti od alata za izradu

Dodaj dugme „Sažmi“ na stranicu prijave. Poziva rutu na serveru koja koristi tajnu OPENAI_API_KEY (nikada izloženu browseru), provjerava da je korisnik prijavljen, šalje tekst prijave s ovom sistemskom uputom: […], ograničava odgovor na 300 tokena, strimuje odgovor na stranicu i prikazuje prijateljsku poruku ako poziv ne uspije. Bilježi tokene po zahtjevu i ograničava svakog korisnika na 30 sažetaka po satu.

Za potpuno chat iskustvo pogledajte kako napraviti aplikaciju AI chatbota; za druge ideje kako dodati AI funkcije u svoju aplikaciju. Ako su API-ji uopšte novi za vas, počnite s šta je API.

LLM API-ji u aplikacijama izrađenim s Mythexom

Kada pravite s Mythexom, AI unutar vaše aplikacije koristi vaš ključ provajdera. Dodajete ga kao tajnu projekta, ili kroz karticu s tajnama koju Mythex prikaže u chatu kada je potrebna, i tražite od agenta da poziv napravi na serveru. Korištenje provajdera se naplaćuje na vaš račun kod provajdera, a ne kao Mythex krediti za izradu. Mythex ne uključuje tokene za korisnike vaše aplikacije niti ugrađeni proizvod baze znanja, a limite učestalosti i kontrole troškova dizajnirate i testirate sami. Recept dodavanje AI funkcija sa sopstvenim API ključevima ima početni prompt, a stranica AI alat za izradu aplikacija pokazuje odakle da počnete.

Pitanja