Kako uporabljati LLM API-je: žetoni, stroški, ključi in prva funkcija z AI

LLM API je spletna storitev, ki vaši aplikaciji omogoča, da pošlje besedilo velikemu jezikovnemu modelu – na primer GPT modelom podjetja OpenAI, Claude podjetja Anthropic ali Gemini podjetja Google – in v kodi dobi njegov odgovor. Pri ponudniku se registrirate, ustvarite ključ API, strežnik vaše aplikacije pa pošilja zahteve s tem ključem; plačate vsako zahtevo glede na število žetonov (kosov besedila), ki gredo noter in ven. To je pri »dodajanju AI v aplikacijo« običajno vse: dobro napisana zahteva k tujemu modelu, poslana varno iz vašega strežnika.

Zakaj je to pomembno, ko gradite z AI

V aplikaciji, ustvarjeni z AI, sta dve različni umetni inteligenci, in lahko ju hitro zamenjate:

1. AI, ki gradi vašo aplikacijo – lastni agent graditelja, ki piše kodo.
2. AI znotraj vaše aplikacije – funkcija, ki jo uporabljajo vaši uporabniki, na primer klepetalni pomočnik, gumb »povzemi to« ali samodejno označevanje.

Druga možnost kliče LLM API z vašim ključem in obremenjuje vaš račun pri ponudniku. Razumevanje žetonov, konteksta in cen vam omogoča, da zasnujete funkcijo, ki deluje, ne razkrije vašega ključa in vas ne preseneti z računom.

Vsakdanja primerjava: zelo zmogljiv samostojni pisec, plačan po besedi

LLM API si predstavljajte kot odličnega samostojnega pisca, ki ga kontaktirate po e-pošti in plačate po besedi – tako za besede, ki mu jih pošljete, kot za besede, ki jih vrne (in besede, ki jih napiše, so dražje).

• Med sporočili nima spomina. Če želite, da nadaljuje pogovor, mu v vsako novo sporočilo prilepite prejšnja sporočila.
• Naenkrat lahko prebere samo določeno količino. Ta omejitev je kontekstno okno.
• Jasnejša naloga pomeni boljši in krajši odgovor – kar je tudi cenejše.

Osnovni pojmi

Žetoni

Modeli berejo in pišejo besedilo v žetonih. Anthropic v dokumentaciji o cenah od septembra 2026 ocenjuje približno 4 znake oziroma približno 0,75 angleške besede na žeton. Različni modeli in jeziki se razdelijo na žetone drugače, zato to vzemite zgolj kot grobo vodilo. Vse šteje: vaša navodila, sporočilo uporabnika, morebitni dokumenti, ki jih vključite, prejšnji pogovor in odgovor.

Vhod in izhod

Vhodni žetoni so tisto, kar pošljete. Izhodni žetoni so tisto, kar model napiše. Na cenikih OpenAI, Anthropic in Google je od septembra 2026 izhodni žeton pri istem modelu nekajkrat dražji od vhodnega. Pri Geminiju Google v cenik dodaja, da se model »razmišljanje« v notranjosti šteje kot izhod.

Kontekstno okno

Največje število žetonov, ki jih model lahko sprejme v eni zahtevi, vključno z odgovorom. Sodobni modeli sprejmejo zelo dolge vhode – nekateri trenutni modeli Anthropic na primer do milijon žetonov. Dolgi vhodi pa so dražji in počasnejši, zato pošljite samo tisto, kar naloga potrebuje.

Zahteve brez stanja

Pri večini API-jev v slogu klepeta je vsaka zahteva privzeto samostojna. Če želite, da se klepet »spomni«, vaša aplikacija pri vsakem novem sporočilu ponovno pošlje prejšnja sporočila. Zato je dolg pogovor na sporočilo dražji kot kratek.

Sistemski poziv

Navodila, ki določajo vlogo modela in pravila za vsako zahtevo: »Povzemaš prijave podpore v treh alinejah. Nikoli ne vključi e-poštnih naslovov strank.« Uporabniki tega ne vidijo, a oblikuje vsak odgovor.

Pretakanje

Namesto čakanja na celoten odgovor lahko API pošilja besedilo sproti, ko nastaja, zato uporabniki takoj vidijo, kako se besede pojavljajo. Klepetalni vmesniki tako delujejo veliko hitreje.

Kako deluje cenik

Od septembra 2026, preverjeno na cenikih ponudnikov:

Nekateri ponudniki ponujajo tudi možnost preizkusa pred plačilom: Anthropic novim uporabnikom da majhen znesek brezplačnih kreditov, Gemini API Googla pa ima pri nekaterih modelih brezplačno raven, pri čemer velja opozorilo, da se vsebina, poslana v njej, lahko uporabi za izboljšanje Googlovih izdelkov.

Cene se zelo razlikujejo med majhnimi, hitrimi modeli ponudnika in njegovimi največjimi, pogosto se spreminjajo, zato jih tukaj ne navajamo. Preprosta ocena za katero koli funkcijo je: (vhodni žetoni × cena vhoda + izhodni žetoni × cena izhoda) × število zahtev na mesec. Nato dodajte rezervo in v nadzorni plošči ponudnika nastavite mesečno omejitev porabe.

Primer: gumb »povzemi to prijavo«

Majhna ekipa podpore želi gumb, ki dolgo e-poštno niz pogovora stranke pretvori v tri alineje in predlog odgovora.

1. Pridobite ključ. Ustvarite račun pri enem ponudniku in ustvarite ključ API. Nastavite nizko mesečno omejitev porabe.
2. Ključ shranite kot skrivnost na svoj strežnik, na primer kot ANTHROPIC_API_KEY ali OPENAI_API_KEY – nikoli v kodi strani. Glejte spremenljivke okolja in skrivnosti.
3. Dodajte strežniško pot POST /api/summarise, ki:
   • preveri, ali je oseba prijavljena in ali pripada ekipi podpore;
   • naloži prijavo iz baze podatkov;
   • ponudniku pošlje sistemski poziv (»Povzemi v treh alinejah, nato pripravi vljuden odgovor; ne izmišljuj številk naročil«) in besedilo prijave;
   • omeji dolžino odgovora z nastavitvijo največjega števila izhodnih žetonov;
   • vrne rezultat in zabeleži, koliko žetonov je porabila.
4. Gumb kliče vašo pot, ne ponudnika, in medtem ko odgovor nastaja, prikaže povzetek.
5. Obravnavajte napako. Če je ponudnik počasen ali vrne napako, prikažite »Trenutno ne moremo povzeti« in ohranite uporabnost prijave.
6. Izmerite. Po enem tednu si oglejte dnevnike žetonov. Če je največ stroškov zaradi dolgih e-poštnih nizov, pred pošiljanjem skrajšajte citirano zgodovino.

Opazite, česa ni: brez učenja modela in brez posebne infrastrukture. En ključ, ena strežniška pot, en dobro napisan poziv.

Ključni izrazi

• Ključ API: skrivnost, ki vaš račun identificira pri ponudniku. Kdor jo ima, lahko porablja vaš denar.
• Model: določen LLM, ki ga kličete. Ponudniki ponujajo več velikosti pri različnih cenah in hitrostih.
• Temperatura: nastavitev, kako raznoliki so odgovori. Nižja vrednost pomeni bolj predvidljive odgovore.
• Največ žetonov: omejitev dolžine odgovora, ki hkrati omejuje strošek.
• Omejitev hitrosti: koliko zahtev ali žetonov lahko vaš račun uporabi na minuto.
• Vdelave (embeddings): števila, ki predstavljajo pomen besedila; uporabljajo se za iskanje po vaših lastnih dokumentih.
• RAG (generiranje z obogatitvijo s poizvedbo): iskanje ustreznih odlomkov iz vaših podatkov in vključitev v poziv, tako da model odgovarja na podlagi vaše vsebine.
• Uporaba orodij / klicanje funkcij: model lahko od aplikacije zahteva, naj zažene določeno funkcijo, na primer »poišči stanje naročila«.

Pogoste napake in zmote

• Ključ v kodi strani. Najdražja napaka. Koda brskalnika je javna. Vedno kličite iz strežnika. Varnostni kontrolni seznam za aplikacije, ustvarjene z AI to obravnava skupaj z drugimi preverjanji pred objavo.
• Brez omejitve porabe ali omejitev po uporabniku. Napaka, zanka ali zlorabljiv uporabnik lahko hitro povzročijo velike stroške. Nastavite omejitev pri ponudniku in v aplikaciji omejite zahteve po uporabniku.
• Pošiljanje vsega ob vsakem klicu. Celotni dokumenti in dolgi zgodovinski pogovori množijo vhodne žetone. Skrajšajte jih, starejša sporočila povzemite ali pridobite samo ustrezne dele.
• Slepo zaupanje izhodu. Modeli lahko samozavestno trdijo napačne stvari. Pri dejstvih, cenah ali karkoli pravnega ali zdravstvenega odgovore utemeljite na svojih podatkih in prikažite vire ali pa jih preveri človek.
• Dovoljevanje, da vnos uporabnika prepiše vaša pravila. Uporabniki lahko vpišejo »prezri svoja navodila«. Dovoljenja in občutljive dejavnosti naj ostanejo v kodi strežnika, ne samo v pozivu.
• Začetek z največjim modelom. Najprej preizkusite manjši, cenejši model; na večjega preidite samo, če kakovost to zahteva.
• Pošiljanje osebnih podatkov brez premisleka. Preverite pogoje ponudnika glede uporabe podatkov, zlasti pri brezplačnih ravneh, in pošljite samo to, kar funkcija potrebuje.

Kaj zahtevati od svojega graditelja z AI

Na strani prijave dodaj gumb »Povzemi«. Kliče strežniško pot, ki uporablja skrivnost OPENAI_API_KEY (nikoli izpostavljeno brskalniku), preveri, ali je uporabnik prijavljen, pošlje besedilo prijave s tem sistemskim pozivom: […], odgovor omeji na 300 žetonov, odgovor pretaka na stran in ob neuspehu klica prikaže prijazno napako. Beleži porabljene žetone za vsako zahtevo in vsakemu uporabniku omeji na 30 povzetkov na uro.

Za popolno izkušnjo klepeta glejte kako zgraditi aplikacijo klepetalnega robota z AI; za druge zamisli kako dodati funkcije z AI v svojo aplikacijo. Če so vam API-ji na splošno novi, začnite z kaj je API.

LLM API-ji v aplikacijah, zgrajenih z Mythexom

Ko gradite z Mythexom, AI znotraj vaše aplikacije uporablja vaš lastni ključ ponudnika. Dodate ga kot skrivnost projekta ali prek kartice s skrivnostmi, ki jo Mythex v klepetu prikaže, ko jo potrebuje, in agenta prosite, naj klic izvede na strežniku. Poraba ponudnika se zaračuna vašemu računu pri ponudniku, ne kreditom za gradnjo v Mythexu. Mythex za uporabnike vaše aplikacije ne vključuje žetonov ter ne ponuja vgrajenega izdelka za bazo znanja; omejitve hitrosti in nadzor stroškov morate načrtovati in preizkusiti sami. Recept v dokumentaciji dodajanje funkcij z AI z lastnimi ključi API vsebuje začetni poziv, stran graditelj aplikacij z AI pa pokaže, kje začeti.

Vprašanja