Kako koristiti LLM API-je: tokeni, troškovi, ključevi i prva AI funkcija

LLM API je veb servis koji vašoj aplikaciji omogućava da pošalje tekst velikom jezičkom modelu, kao što su OpenAI-jevi GPT modeli, Anthropic-ov Claude ili Google-ov Gemini, i u kodu primi odgovor. Registrujete se kod provajdera, napravite API ključ, a server vaše aplikacije šalje zahteve sa tim ključem. Naplaćuje se svaki zahtev po broju tokena (delova teksta) koji ulaze i izlaze. To je obično sve što znači "dodati AI u aplikaciju": dobro napisan zahtev ka tuđem modelu, poslat bezbedno sa vašeg servera.

Zašto je to važno kad gradite uz AI

U aplikaciji napravljenoj uz AI postoje dve različite AI i lako ih je pomešati:

1. AI koji pravi vašu aplikaciju: agent samog alata za pravljenje aplikacija, koji piše kod.
2. AI unutar vaše aplikacije: funkcija koju koriste vaši korisnici, kao što je chat asistent, dugme "sažmi ovo" ili automatsko označavanje.

Druga koristi LLM API sa vašim ključem i naplaćuje vaš račun kod provajdera. Razumevanje tokena, konteksta i cena omogućava vam da napravite funkciju koja radi, ne otkriva vaš ključ i ne iznenađuje vas računom.

Svakodnevna analogija: vrlo sposoban frilenser koji se plaća po reči

Zamislite LLM API kao briljantnog frilens pisca kome se javljate mejlom i plaćate po reči, i za reči koje mu šaljete i za reči koje vam vraća (a reči koje on piše koštaju više).

• Između mejlova nema pamćenja. Ako želite da nastavi razgovor, u svaki novi mejl nalepite prethodne poruke.
• Može da pročita samo određenu količinu odjednom. Ta granica je kontekstni prozor.
• Što je jasnije vaše uputstvo, to je odgovor bolji i kraći, što je ujedno i jeftinije.

Osnovni pojmovi

Tokeni

Modeli čitaju i pišu tekst u tokenima. Anthropic u dokumentaciji o cenama procenjuje oko 4 karaktera, ili otprilike 0,75 engleske reči, po tokenu, od septembra 2026. Različiti modeli i jezici se tokenizuju različito, pa to shvatite kao gruba orijentacija. Sve se broji: vaša uputstva, poruka korisnika, svi dokumenti koje uključite, ranija konverzacija i odgovor.

Ulaz i izlaz

Ulazni tokeni su ono što šaljete. Izlazni tokeni su ono što model napiše. Na stranicama sa cenama kod OpenAI-ja, Anthropic-a i Google-a, od septembra 2026, izlazni tokeni za isti model koštaju nekoliko puta više od ulaznih. Google u cenovniku za Gemini navodi i da se interno "razmišljanje" modela računa kao izlaz.

Kontekstni prozor

Najveći broj tokena koji model može da primi u jednom zahtevu, uključujući odgovor. Savremeni modeli prihvataju veoma duge ulaze. Neki od Anthropic-ovih trenutnih modela, na primer, prihvataju do milion tokena. Ali dugi ulazi koštaju više i traju duže, pa šaljite samo ono što zadatak zahteva.

Zahtevi bez stanja

Kod većine API-ja u obliku chata, svaki zahtev je podrazumevano samostalan. Da bi chat "pamtio", vaša aplikacija ponovo šalje ranije poruke uz svaku novu. Zato duga konverzacija košta više po poruci nego kratka.

Sistemski prompt

Uputstva koja određuju ulogu modela i pravila za svaki zahtev: "Sažimaš tikete za podršku u tri tačke. Nikad ne uključuj mejl adrese klijenata." Korisnici ga ne vide, ali oblikuje svaki odgovor.

Streaming

Umesto da čeka ceo odgovor, API može da šalje tekst dok se generiše, pa korisnici odmah vide kako se reči pojavljuju. Zbog toga chat izgleda mnogo brže.

Kako rade cene

Od septembra 2026, proveravano na stranicama provajdera:

Neki provajderi nude i način da probate pre plaćanja: Anthropic novim korisnicima daje mali iznos besplatnih kredita, a Google-ov Gemini API na nekim modelima ima besplatan nivo, uz upozorenje da se sadržaj poslat na njemu može koristiti za poboljšanje Google-ovih proizvoda.

Cene se dosta razlikuju između malih, brzih modela i najvećih modela istog provajdera, i često se menjaju, zato ih ovde ne navodimo. Jednostavna procena za bilo koju funkciju je: (ulazni tokeni × cena ulaza + izlazni tokeni × cena izlaza) × broj zahteva mesečno. Zatim dodajte marginu i postavite mesečni limit potrošnje u kontrolnoj tabli provajdera.

Primer: dugme "sažmi ovaj tiket"

Mali tim za podršku želi dugme koje dugu nit mejlova klijenta pretvara u tri tačke i predlog odgovora.

1. Nabavite ključ. Napravite nalog kod jednog provajdera i generišite API ključ. Postavite nizak mesečni limit potrošnje.
2. Sačuvajte ključ kao tajnu na serveru, pod imenom kao ANTHROPIC_API_KEY ili OPENAI_API_KEY, nikad u kodu stranice. Pogledajte promenljive okruženja i tajne.
3. Dodajte server rutu, POST /api/summarise, koja:
   • proverava da li je osoba prijavljena i da li pripada timu za podršku;
   • učitava tiket iz baze podataka;
   • šalje provajderu sistemski prompt ("Sažmi u tri tačke, zatim napiši pristojan odgovor; ne izmišljaj brojeve porudžbina") i tekst tiketa;
   • ograničava dužinu odgovora podešavanjem maksimalnog broja izlaznih tokena;
   • vraća rezultat i beleži koliko je tokena potrošeno.
4. Dugme poziva vašu rutu, a ne provajdera, i prikazuje sažetak dok se on pojavljuje.
5. Obradite grešku. Ako je provajder spor ili vrati grešku, prikažite "Trenutno ne možemo da sažmemo" i ostavite tiket upotrebljivim.
6. Izmerite. Posle nedelju dana pogledajte zapise o tokenima. Ako je većina troška u dugim nitima mejlova, skratite citirani deo istorije pre slanja.

Primetite šta nedostaje: nema treniranja modela, nema posebne infrastrukture. Jedan ključ, jedna server ruta, jedan dobro napisan prompt.

Ključni pojmovi

• API ključ: tajna koja identifikuje vaš nalog kod provajdera. Ko ga ima može da troši vaš novac.
• Model: tačno onaj LLM koji pozivate. Provajderi nude više veličina po različitim cenama i brzinama.
• Temperatura: podešavanje koliko su odgovori raznovrsni. Niža vrednost znači predvidljivije.
• Maksimalni tokeni: ograničenje dužine odgovora, što ujedno ograničava i trošak.
• Ograničenje brzine (rate limit): koliko zahteva ili tokena vaš nalog sme da koristi u minuti.
• Embedding-zi: brojevi koji predstavljaju značenje teksta, koriste se za pretragu vaših dokumenata.
• RAG (generisanje uz pretragu): pronalaženje relevantnih delova iz vaših podataka i njihovo uključivanje u prompt, pa model odgovara na osnovu vašeg sadržaja.
• Korišćenje alata / pozivanje funkcija: omogućavanje modelu da zatraži od vaše aplikacije da pokrene određenu funkciju, na primer "proveri status porudžbine".

Česte greške i zablude

• Stavljanje ključa u frontend kod. Najskuplja greška. Kod u pregledaču je javan. Uvek pozivajte sa servera. Lista za bezbednost aplikacija napravljenih uz AI pokriva ovo uz ostale provere pre objavljivanja.
• Bez limita potrošnje ili limita po korisniku. Greška, petlja ili zloupotrebljavajući korisnik mogu brzo da podignu troškove. Postavite limit kod provajdera i ograničite zahteve po korisniku u aplikaciji.
• Slanje svega svaki put. Celi dokumenti i kompletne istorije chata množe ulazne tokene. Skratite, sažmite starije poruke ili dohvatite samo relevantne delove.
• Slepo verovanje u izlaz. Modeli mogu samouvereno da kažu pogrešnu stvar. Za činjenice, cene ili bilo šta pravno ili medicinsko, zasnujte odgovore na svojim podacima i prikažite izvore, ili neka ih proveri čovek.
• Dozvoljavanje da korisnički unos poništi vaša pravila. Korisnici mogu da upišu "ignoriši uputstva". Dozvole i osetljive radnje držite u kodu servera, a ne samo u promptu.
• Početak sa najvećim modelom. Prvo probajte manji, jeftiniji model; pređite na veći samo ako kvalitet to zahteva.
• Slanje ličnih podataka bez razmišljanja. Proverite uslove korišćenja podataka kod provajdera, posebno na besplatnim nivoima, i šaljite samo ono što funkcija zaista treba.

Šta tražiti od vašeg AI alata za pravljenje aplikacija

Dodaj dugme "Sažmi" na stranicu tiketa. Ono poziva server rutu koja koristi tajnu OPENAI_API_KEY (nikad izloženu pregledaču), proverava da je korisnik prijavljen, šalje tekst tiketa uz ovaj sistemski prompt: […], ograničava odgovor na 300 tokena, prikazuje odgovor na stranici dok se pojavljuje i prikazuje prijateljsku poruku o grešci ako poziv ne uspe. Beleži potrošene tokene po zahtevu i ograniči svakog korisnika na 30 sažetaka po satu.

Za potpuno chat iskustvo pogledajte kako napraviti aplikaciju AI chatbot; za druge ideje, kako dodati AI funkcije u aplikaciju. Ako su vam API-ji uopšte novi, počnite od šta je API.

LLM API-ji u aplikacijama napravljenim na Mythex-u

Kad gradite na Mythex-u, AI unutar vaše aplikacije koristi vaš ključ kod provajdera. Dodajete ga kao tajnu projekta, ili preko kartice za tajne koju Mythex prikaže u chatu kad zatreba, i tražite od agenta da poziv napravi na serveru. Korišćenje provajdera se naplaćuje vašem računu kod provajdera, a ne Mythex kreditima za izgradnju. Mythex ne uključuje tokene za korisnike vaše aplikacije niti gotov proizvod za bazu znanja, a ograničenja brzine i kontrola troškova su vaš posao za dizajn i testiranje. Recept u dokumentaciji dodavanje AI funkcija sa sopstvenim API ključevima ima početni prompt, a stranica AI app builder pokazuje odakle da počnete.

Pitanja