Kuidas kasutada LLM API-sid: tokenid, kulud, võtmed ja esimene AI-funktsioon

LLM API on veebiteenus, mis laseb sinu rakendusel saata tekst suurele keelemudelile, näiteks OpenAI GPT-mudelitele, Anthropicu Claude'ile või Google'i Geminile, ja saada vastus koodis tagasi. Registreeru pakkuja juures, loo API-võti ning sinu rakenduse server saadab päringuid selle võtmega; sind arvestatakse iga päringu eest tokenite (tekstitükkide) järgi, mis lähevad sisse ja tulevad välja. Tavaliselt tähendab „AI lisamine rakendusse“ just seda: hästi kirjutatud päringut kellegi teise mudelile, tehtuna turvaliselt sinu serverist.

Miks see AI-ga ehitades oluline on

AI-ga ehitatud rakenduses on kaks erinevat AI-d ja neid on lihtne segamini ajada:

1. AI, mis ehitab sinu rakendust — koostaja enda agent, mis kirjutab koodi.
2. AI sinu rakenduse sees — funktsioon, mida sinu kasutajad kasutavad, näiteks vestlusassistent, nupp „Võta kokku“ või automaatne märgistamine.

Teine kutsub LLM API-d sinu võtmega ja arvestatakse sinu pakkuja kontole. Tokenite, konteksti ja hinnastamise mõistmine aitab sul kujundada funktsiooni, mis töötab, ei lekita võtit ega üllata sind arvega.

Igapäevane võrdlus: väga võimekas vabakutseline, kes maksab sõnade järgi

Mõtle LLM API-st kui väga head vabakutselisest kirjutajast, kellega suhtled e-kirjadega ja keda maksad sõnade järgi — nii sinu saadetud kui ka tema tagasi kirjutatud sõnade eest (ja tema kirjutatud sõnad maksavad rohkem).

• Tal ei ole kirjade vahel mälu. Kui tahad vestlust jätkata, kleebid varasemad sõnumid iga uue kirja sisse.
• Ta suudab korraga lugeda vaid teatud koguse. See piir on kontekstiaken.
• Mida selgem on sinu juhend, seda parem ja lühem vastus — ja seda odavam.

Põhimõisted

Tokenid

Mudelid loevad ja kirjutavad teksti tokenites. Anthropicu hinnadokumentatsioon hindab seisuga september 2026, et üks token on umbes 4 tähemärki ehk umbes 0,75 inglisekeelset sõna. Erinevad mudelid ja keeled jagavad teksti erinevalt, nii et see on suunav hinnang. Kõik loetakse: sinu juhised, kasutaja sõnum, kaasatud dokumendid, varasem vestlus ja vastus.

Sisend ja väljund

Sisendtokenid on need, mida sa saadad. Väljundtokenid on need, mida mudel kirjutab. OpenAI, Anthropicu ja Google'i hinnalehtedel seisuga september 2026 maksavad väljundtokenid sama mudeli puhul mitu korda rohkem kui sisendtokenid. Google'i Gemini hinnastuses on märgitud, et mudeli sisemine „mõtlemine“ loetakse väljundiks.

Kontekstiaken

Maksimaalne tokenite arv, mida mudel suudab ühe päringu raames vastu võtta, sealhulgas vastus. Kaasaegsed mudelid aktsepteerivad väga pikki sisendeid — näiteks mõned Anthropicu praegused mudelid kuni miljon tokenit. Pikad sisendid maksavad aga rohkem ja võtavad kauem aega, seega saada ainult see, mida ülesanne vajab.

Olekuta päringud

Enamikus vestlusstiilis API-des on iga päring vaikimisi iseseisev. Selleks, et vestlus „mäletaks“, saadab sinu rakendus varasemad sõnumid iga uue sõnumi juures uuesti. Seetõttu maksab pikk vestlus iga sõnumi kohta rohkem kui lühike.

Süsteemiviip

Juhised, mis määravad mudeli rolli ja reeglid igale päringule: „Sa teed toekirjadest kokkuvõtteid kolme punktina. Ära kunagi lisa kliendi e-posti aadresse.“ Kasutaja seda ei näe, aga see kujundab iga vastust.

Voogedastus

Selle asemel, et oodata kogu vastust, saab API saata teksti nii, nagu see genereeritakse, nii et kasutaja näeb sõnu kohe ilmumas. See teeb vestlusliidese palju kiiremaks tundudes.

Kuidas hinnastus töötab

Seisuga september 2026, kontrollitud pakkujate enda hinnalehtedelt:

Mõned pakkujad pakuvad ka võimalust enne maksmist proovida: Anthropic annab uutele kasutajatele väikese tasuta krediidi ning Google'i Gemini API-l on mõnel mudelil tasuta tase, kuid selle tingimusel, et sinna saadetud sisu võidakse kasutada Google'i toodete parandamiseks.

Hinnad erinevad väga palju pakkuja väikeste ja kiirete mudelite ning suurimate vahel ja muutuvad sageli, seetõttu me siin hindu ei too. Lihtne hinnang mis tahes funktsioonile on: (sisendtokenid × sisendi hind + väljundtokenid × väljundi hind) × päringute arv kuus. Lisa sellele varu ja sea pakkuja armatuurlaual kuukulupiir.

Näide: nupp „Võta pilet kokku“

Väike toeteam soovib nuppu, mis muudab pika kliendikirja ahela kolmeks punktiks ja soovitatud vastuseks.

1. Hangi võti. Loo konto ühe pakkujaga ja genereeri API-võti. Sea madal kuukulupiir.
2. Salvesta võti saladusena oma serveris nimega näiteks ANTHROPIC_API_KEY või OPENAI_API_KEY — mitte kunagi lehe koodis. Vaata keskkonnamuutujad ja saladused.
3. Lisa serveri marsruut, POST /api/summarise, mis:
   • kontrollib, et kasutaja on sisse logitud ja kuulub toeteam'i;
   • laeb pileti andmebaasist;
   • saadab pakkujale süsteemiviiba („Tee kokkuvõte kolme punktina, seejärel koosta viisakas vastus; ära leiuta tellimuste numbreid“) ja pileti teksti;
   • piirab vastuse pikkust maksimaalse väljundtokenite seadega;
   • tagastab tulemuse ja logib kasutatud tokenite arvu.
4. Nupp kutsub sinu marsruuti, mitte pakkujat, ja näitab kokkuvõtet selle kirjutamise ajal.
5. Käsi tõrgetega. Kui pakkuja on aeglane või tagastab vea, näita „Kokkuvõtte tegemine ei õnnestu praegu“ ja jäta pilet kasutatavaks.
6. Mõõda. Pärast nädalat vaata tokenilogisid. Kui suurem osa kulust tuleb pikkadest kirjaahelatest, lühenda tsiteeritud ajalugu enne saatmist.

Pane tähele, mis puudub: pole mudeli treenimist ega erilist infrastruktuuri. Üks võti, üks serveri marsruut, üks hästi kirjutatud prompt.

Põhiterminid

• API-võti: saladus, mis tuvastab sinu konto pakkuja juures. Kõik, kellel see on, saavad sinu raha kulutada.
• Mudel: konkreetne LLM, mida kutsud. Pakkujad pakuvad mitut suurust erineva hinna ja kiirusega.
• Temperatuur: seade, mis määrab, kui mitmekesised vastused on. Madalam tähendab ettearvatavamat.
• Maksimaalsed tokenid: vastuse pikkuse piir, mis piirab ka kulu.
• Päringupiirang: mitu päringut või tokenit sinu konto tohib minutis kasutada.
• Embeddings: arvud, mis esitavad teksti tähendust; neid kasutatakse sinu enda dokumentides otsimiseks.
• RAG (retrieval-augmented generation): sinu andmetest sobivate lõikude leidmine ja promptisse lisamine, nii et mudel vastab sinu sisu põhjal.
• Tööriista kasutamine / funktsioonikutse: mudelile võimaldatakse paluda, et sinu rakendus käivitaks konkreetse funktsiooni, näiteks „vaata tellimuse staatust“.

Levinud vead ja väärarusaamad

• Võtme panemine esikülje koodi. Kõige kallim viga. Brauseri kood on avalik. Kutsu alati serverist. AI-ga ehitatud rakenduste turvanimekiri käsitleb seda koos teiste käivitamiseelsete kontrollidega.
• Kulupiiri ega kasutajapõhiseid piiranguid pole. Viga, tsükkel või väärkasutaja võib kulu kiiresti kasvatada. Sea pakkuja piir ja piira päringuid kasutaja kohta oma rakenduses.
• Kõige saatmine igal korral. Terved dokumendid ja kogu vestlusajalugu korrutavad sisendtokenid. Lühenda, võta vanemad sõnumid kokku või too välja ainult asjakohane.
• Väljundi pimesi usaldamine. Mudelid võivad kindlalt väita valesid asju. Faktide, hindade või õiguslike ja meditsiiniliste küsimuste puhul seo vastused oma andmetega ja näita allikaid või lase inimesel kontrollida.
• Kasutaja sisendi laskmine sinu reegleid tühistada. Kasutajad võivad kirjutada „ignoreeri oma juhiseid“. Hoia õigused ja tundlikud toimingud oma serveri koodis, mitte ainult promptis.
• Alustamine suurima mudeliga. Proovi esmalt väiksemat ja odavamat mudelit; mine suuremale ainult siis, kui kvaliteet seda nõuab.
• Isikuandmete saatmine mõtlemata. Kontrolli pakkuja andmekasutuse tingimusi, eriti tasuta tasemel, ja saada ainult see, mida funktsioon vajab.

Mida paluda oma AI-koostajalt

Lisa pileti lehele nupp „Võta kokku“. See kutsub serveri marsruuti, mis kasutab saladust OPENAI_API_KEY (brauserile kunagi nähtav ei ole), kontrollib, et kasutaja on sisse logitud, saadab pileti teksti selle süsteemiviibaga: […], piirab vastuse 300 tokeniga, voogedastab vastuse lehele ning näitab sõbralikku veateadet, kui kutse ebaõnnestub. Logi iga päringu tokenite arv ja piira iga kasutaja 30 kokkuvõtteni tunnis.

Täieliku vestlusrakenduse jaoks vaata kuidas ehitada AI-vestlusrobotit; muude ideede jaoks kuidas lisada rakendusse AI-funktsioone. Kui API-d on sulle uued, alusta lehelt mis on API.

LLM API-d Mythexiga ehitatud rakendustes

Kui ehitad Mythexiga, kasutab sinu rakenduse sees olev AI sinu enda pakkuja võtit. Lisad selle projekti saladusena või seadete kaardi kaudu, mille Mythex vestluses näitab, kui seda vaja on, ning palud agendil kutse teha serveris. Pakkuja kasutus arvestatakse sinu pakkuja kontole, mitte Mythexi ehitamiskrediitidele. Mythex ei lisa tokeneid sinu rakenduse kasutajatele ega sisaldab sisendbaasi toodet; päringupiirangud ja kulukontroll on sinu kujundada ja testida. Dokumentide retsept AI lisamine oma API-võtmetega sisaldab alustamise prompti ja lehel AI rakenduste koostaja näed, kust alustada.

Küsimused