Si të përdorësh API-t LLM: tokenë, kosto, çelësa dhe veçoria jote e parë me AI

Një API LLM është një shërbim web që e lejon aplikacionin tënd të dërgojë tekst te një model i madh gjuhësor — si modelet GPT të OpenAI, Claude të Anthropic ose Gemini të Google — dhe të marrë përgjigjen e tij përsëri në kod. Regjistrohesh te ofruesi, krijon një çelës API, dhe serveri i aplikacionit tënd dërgon kërkesa me atë çelës; paguan për çdo kërkesë sipas numrit të tokenëve (copëzave tekst) që hyjnë dhe dalin. Kjo është gjithçka që do të thotë zakonisht "të shtosh AI në një aplikacion": një kërkesë e shkruar mirë te modeli i dikujt tjetër, e bërë në mënyrë të sigurt nga serveri yt.

Pse ka rëndësi kur ndërton me AI

Në një aplikacion të ndërtuar me AI ka dy AI të ndryshme, dhe është e lehtë t'i ngatërrosh:

1. AI që ndërton aplikacionin tënd — agjenti i vetë builder-it të aplikacionit, që shkruan kodin.
2. AI brenda aplikacionit tënd — një veçori që e përdorin përdoruesit, si një asistent bisede, një buton "përmblidh këtë" ose etiketim automatik.

E dyta thërret një API LLM me çelësin tënd dhe të faturon llogarinë tënde te ofruesi. Të kuptuarit e tokenëve, kontekstit dhe çmimit është ajo që të lejon të projektosh një veçori që funksionon, nuk e rrjedh çelësin tënd dhe nuk të befason me një faturë.

Një analogji e përditshme: një shkrimtar i aftë i pavarur, i paguar për fjalë

Mendoje një API LLM si një shkrimtar i pavarur shumë i aftë, me të cilin komunikon me email dhe e paguan për fjalë — si për fjalët që i dërgon, ashtu edhe për ato që ai kthen (dhe fjalët e tij kushtojnë më shumë).

• Ai nuk ka memorie mes emaileve. Nëse do që të vazhdojë një bisedë, ngjit mesazhet e mëparshme në çdo email të ri.
• Mund të lexojë vetëm një sasi të kufizuar njëherësh. Ai kufi është dritarja e kontekstit.
• Sa më i qartë të jetë udhëzimi yt, aq më i mirë dhe më i shkurtër është përgjigjja — që është edhe më e lirë.

Konceptet bazë

Tokenët

Modelet lexojnë dhe shkruajnë tekst në tokenë. Dokumentacioni i çmimeve të Anthropic vlerëson rreth 4 karaktere, ose rreth 0.75 fjalë angleze, për token, në shtator 2026. Modele dhe gjuhë të ndryshme ndahen në token ndryshe, kështu që mendoje këtë si një udhëzues të përafërt. Çdo gjë numërohet: udhëzimet e tua, mesazhi i përdoruesit, çdo dokument që përfshin, biseda e mëparshme dhe përgjigja.

Hyrja dhe dalja

Tokenët e hyrjes janë ato që dërgon. Tokenët e daljes janë ato që shkruan modeli. Në faqet e çmimeve të OpenAI, Anthropic dhe Google, në shtator 2026, tokenët e daljes kushtojnë disa herë më shumë se tokenët e hyrjes për të njëjtin model. Çmimi i Gemini të Google thekson gjithashtu se "mendimi" i brendshëm i një modeli numërohet si dalje.

Dritarja e kontekstit

Numri maksimal i tokenëve që një model mund të marrë në një kërkesë të vetme, duke përfshirë përgjigjen. Modelet e sotme pranojnë hyrje shumë të gjata — disa modele aktuale të Anthropic, për shembull, pranojnë deri në një milion tokenë. Por hyrjet e gjata kushtojnë më shumë dhe zgjasin më shumë, kështu që dërgo vetëm atë që i duhet detyrës.

Kërkesat pa gjendje

Me shumicën e API-ve të stilit bisedë, çdo kërkesë qëndron e pavarur si parazgjedhje. Që një bisedë të "mbajë mend", aplikacioni yt dërgon përsëri mesazhet e mëparshme me secilin të ri. Prandaj një bisedë e gjatë kushton më shumë për mesazh sesa një e shkurtër.

Udhëzimi i sistemit

Udhëzimet që vendosin rolin dhe rregullat e modelit për çdo kërkesë: "Ti përmbledh kërkesat e mbështetjes në tre pika. Mos përfshi kurrë adresat email të klientëve." Përdoruesit nuk e shohin, por ai formëson çdo përgjigje.

Transmetimi (streaming)

Në vend që të presësh përgjigjen e plotë, API-ja mund të dërgojë tekstin ndërsa gjenerohet, kështu që përdoruesit shohin fjalët duke u shfaqur menjëherë. Kjo i bën ndërfaqet e bisedës të duken shumë më të shpejta.

Si funksionon çmimi

Në shtator 2026, i kontrolluar në faqet e çmimeve të vetë ofruesve:

Disa ofrues ofrojnë edhe mënyrën për të provuar para se të paguash: Anthropic u jep përdoruesve të rinj një shumë të vogël krediti falas, dhe Gemini API e Google ka një nivel falas për disa modele, me kusht që përmbajtja e dërguar në të mund të përdoret për të përmirësuar produktet e Google.

Çmimet ndryshojnë shumë midis modeleve të vogla e të shpejta të një ofruesi dhe atyre më të mëdhenjve, dhe ndryshojnë shpesh, prandaj nuk i citojmë këtu. Një vlerësim i thjeshtë për çdo veçori është: (tokenët e hyrjes × çmimi i hyrjes + tokenët e daljes × çmimi i daljes) × numri i kërkesave në muaj. Shto pas kësaj një marzh, dhe vendos një kufi shpenzimesh mujore në panelin e ofruesit.

Një shembull i zgjidhur: një buton "përmblidh këtë biletë"

Një ekip i vogël mbështetjeje dëshiron një buton që e kthen një fije të gjatë emailesh të klientit në tre pika dhe një përgjigje të sugjeruar.

1. Merr një çelës. Krijo një llogari me një ofrues dhe gjenero një çelës API. Vendos një kufi të ulët shpenzimesh mujore.
2. Ruaje çelësin si sekret në serverin tënd, me një emër si ANTHROPIC_API_KEY ose OPENAI_API_KEY — kurrë në kodin e faqes. Shih variablat e mjedisit dhe sekretet.
3. Shto një rrugë në server, POST /api/summarise, që:
   • kontrollon që personi është i kyçur dhe i përket ekipit të mbështetjes;
   • ngarkon biletën nga baza e të dhënave;
   • i dërgon ofruesit një udhëzim sistemi ("Përmblidh në tre pika, pastaj harto një përgjigje të sjellshme; mos shpik numra porosish") plus tekstin e biletës;
   • kufizon gjatësinë e përgjigjes me një cilësim maksimal tokenësh daljeje;
   • kthen rezultatin dhe regjistron sa tokenë përdori.
4. Butoni thërret rrugën tënde, jo ofruesin, dhe shfaq përmbledhjen ndërsa transmetohet.
5. Trajto dështimin. Nëse ofruesi është i ngadaltë ose kthen një gabim, shfaq "Nuk mund ta përmbledh tani" dhe lëre biletën të përdorshme.
6. Mat. Pas një jave, shiko regjistrat e tokenëve. Nëse pjesa më e madhe e kostos vjen nga fijet e gjata emailesh, shkurto historikun e citizuar përpara se ta dërgosh.

Vër re çfarë mungon: nuk ka trajnim modeli, nuk ka infrastrukturë të veçantë. Një çelës, një rrugë serveri, një udhëzim i shkruar mirë.

Termat kryesorë

• Çelës API: sekreti që e identifikon llogarinë tënde te ofruesi. Kushdo që e ka mund të shpenzojë paratë e tua.
• Modeli: LLM-ja specifike që thërret. Ofruesit ofrojnë disa madhësi me çmime dhe shpejtësi të ndryshme.
• Temperatura: një cilësim për sa të ndryshme janë përgjigjet. Më e ulët do të thotë më e parashikueshme.
• Tokenët maksimalë: një kufi i gjatësisë së përgjigjes, që kufizon edhe koston.
• Kufiri i shpejtësisë (rate limit): sa kërkesa ose tokenë mund të përdorë llogaria jote në minutë.
• Embeddings: numra që përfaqësojnë kuptimin e tekstit, të përdorur për kërkim në dokumentet e tua.
• RAG (gjenerim i përforcuar me kthim): gjetja e pasazheve përkatëse nga të dhënat e tua dhe përfshirja e tyre në kërkesë, që modeli t'i përgjigjet nga përmbajtja jote.
• Përdorimi i mjeteve / thirrja e funksioneve: të lejosh modelin t'i kërkojë aplikacionit tënd të ekzekutojë një funksion të caktuar, si "kërko statusin e porosisë".

Gabimet e zakonshme dhe keqkuptimet

• Vendosja e çelësit në kodin e frontend-it. Gabimi më i kushtueshëm. Kodi i shfletuesit është publik. Thirr gjithmonë nga serveri yt. Lista e sigurisë për aplikacionet e ndërtuara me AI e trajton këtë së bashku me kontrollet e tjera para lansimit.
• Pa kufi shpenzimesh ose kufi për përdorues. Një gabim, një lak ose një përdorues abuziv mund t'i rrisë kostot shpejt. Vendos një kufi te ofruesi dhe kufizo kërkesat për përdorues në aplikacionin tënd.
• Dërgimi i gjithçkaje në çdo herë. Dokumentet e plota dhe historikët e bisedave shumëzojnë tokenët e hyrjes. Shkurto, përmblidh mesazhet më të vjetra, ose merr vetëm pjesët përkatëse.
• Besimi i verbër te dalja. Modelet mund të thonë me siguri gjëra të gabuara. Për fakte, çmime ose çdo gjë ligjore ose mjekësore, baziro përgjigjet në të dhënat e tua dhe trego burimet, ose kërkoje një personi ta kontrollojë.
• Lejimi i hyrjes së përdoruesit të anashkalojë rregullat e tua. Përdoruesit mund të shkruajnë "injoro udhëzimet e tua". Mbaji lejet dhe veprimet e ndjeshme në kodin e serverit, jo vetëm në kërkesë.
• Nisja me modelin më të madh. Provo fillimisht një model më të vogël dhe më të lirë; ngjitu më lart vetëm nëse cilësia e kërkon.
• Dërgimi i të dhënave personale pa menduar. Kontrollo kushtet e përdorimit të të dhënave të ofruesit, veçanërisht në nivelet falas, dhe dërgo vetëm atë që i duhet veçorisë.

Çfarë t'i kërkosh builder-it tënd AI

Shto një buton "Përmblidh" te faqja e biletës. Ai thërret një rrugë serveri që përdor sekretin OPENAI_API_KEY (kurrë i ekspozuar te shfletuesi), kontrollon që përdoruesi është i kyçur, dërgon tekstin e biletës me këtë udhëzim sistemi: […], e kufizon përgjigjen në 300 tokenë, e transmeton përgjigjen te faqja dhe shfaq një gabim miqësor nëse thirrja dështon. Regjistro tokenët e përdorur për çdo kërkesë, dhe kufizo çdo përdorues në 30 përmbledhje në orë.

Për një përvojë të plotë bisede, shih si të ndërtosh një aplikacion chatbot AI; për ide të tjera, si të shtosh veçori AI në aplikacionin tënd. Nëse API-t në përgjithësi janë të reja për ty, fillo me çfarë është një API.

API-t LLM në aplikacionet e ndërtuara me Mythex

Kur ndërton me Mythex, AI brenda aplikacionit tënd përdor çelësin tënd të ofruesit. E shton si sekret të projektit, ose përmes kartës së sekreteve që Mythex shfaq në bisedë kur i duhet një i tillë, dhe i kërkon agjentit ta bëjë thirrjen në server. Përdorimi i ofruesit faturohet te llogaria jote e ofruesit, jo te kredittet e ndërtimit të Mythex. Mythex nuk përfshin tokenë për përdoruesit e aplikacionit tënd dhe nuk ka një produkt të integruar bazash njohurie, dhe kufijtë e shpejtësisë dhe kontrollet e kostove janë përgjegjësi jotja për t'i projektuar dhe testuar. Recetat e dokumentacionit shto veçori AI me çelësat e tu API përmban një kërkesë fillestare, dhe faqja ndërtuesi i aplikacioneve AI tregon nga ku të fillosh.

Pyetje