Cum folosești API-urile LLM: tokeni, costuri, chei și prima ta funcție cu AI

Un API LLM este un serviciu web care îi permite aplicației tale să trimită text unui model de limbaj mare — precum modelele GPT de la OpenAI, Claude de la Anthropic sau Gemini de la Google — și să primească înapoi răspunsul în cod. Te înscrii la furnizor, creezi o cheie API, iar serverul aplicației trimite cereri cu acea cheie; ești taxat pentru fiecare cerere în funcție de numărul de tokeni (bucăți de text) care intră și ies. Atâta înseamnă, de obicei, „a adăuga AI într-o aplicație”: o cerere bine scrisă către modelul altcuiva, făcută în siguranță din serverul tău.

De ce contează atunci când construiești cu AI

În aplicația făcută cu AI există două AI-uri, iar e ușor să le confunzi:

1. AI-ul care construiește aplicația — agentul builder-ului, care scrie codul.
2. AI-ul din interiorul aplicației — o funcție pe care o folosesc utilizatorii tăi, cum ar fi un asistent de chat, un buton „rezumă acest text” sau etichetarea automată.

Al doilea apelează un API LLM cu cheia ta și facturează contul tău de la furnizor. Înțelegerea tokenilor, a contextului și a prețurilor te ajută să proiectezi o funcție care funcționează, nu scurge cheia și nu te surprinde cu o factură.

O analogie din viața de zi cu zi: un scriitor freelancer foarte capabil, plătit pe cuvânt

Gândește-te la un API LLM ca la un scriitor freelancer foarte bun, la care ajungi prin e-mail și îl plătești pe cuvânt — atât pentru cuvintele pe care i le trimiți, cât și pentru cele pe care le scrie înapoi (iar cele scrise de el costă mai mult).

• Nu are memorie între e-mailuri. Dacă vrei să continue o conversație, lipești mesajele anterioare în fiecare e-mail nou.
• Poate citi doar o cantitate limitată deodată. Acea limită este fereastra de context.
• Cu cât briefingul tău este mai clar, cu atât răspunsul este mai bun și mai scurt — ceea ce înseamnă și mai ieftin.

Conceptele de bază

Tokeni

Modelele citesc și scriu text în tokeni. Documentația de prețuri a Anthropic estimează aproximativ 4 caractere, sau cam 0,75 cuvinte în engleză, pe token, începând cu septembrie 2026. Modelele și limbile diferite se tokenizează diferit, așa că privește asta ca pe un ghid aproximativ. Totul se numără: instrucțiunile tale, mesajul utilizatorului, orice documente incluse, conversația anterioară și răspunsul.

Intrare și ieșire

Tokenii de intrare sunt ceea ce trimiți. Tokenii de ieșire sunt ceea ce scrie modelul. Pe paginile de prețuri ale OpenAI, Anthropic și Google, începând cu septembrie 2026, tokenii de ieșire costă de câteva ori mai mult decât cei de intrare pentru același model. Prețurile Gemini de la Google precizează și că „gândirea” internă a unui model se numără ca ieșire.

Fereastra de context

Numărul maxim de tokeni pe care un model îi poate primi într-o singură cerere, inclusiv răspunsul. Modelele moderne acceptă intrări foarte lungi — unele modele actuale ale Anthropic, de exemplu, acceptă până la un milion de tokeni. Dar intrările lungi costă mai mult și durează mai mult, așa că trimite doar ce are nevoie sarcina.

Cereri fără stare

La majoritatea API-urilor de tip chat, fiecare cerere este independentă implicit. Ca un chat să „își amintească”, aplicația ta retrimite mesajele anterioare la fiecare mesaj nou. De aceea o conversație lungă costă mai mult pe mesaj decât una scurtă.

Promptul de sistem

Instrucțiuni care stabilesc rolul și regulile modelului pentru fiecare cerere: „Rezumă tichetele de suport în trei puncte. Nu include niciodată adresele de e-mail ale clienților.” Utilizatorii nu le văd, dar ele modelează fiecare răspuns.

Streaming

În loc să aștepte răspunsul complet, API-ul poate trimite textul pe măsură ce este generat, astfel că utilizatorii văd cuvintele apărând imediat. Asta face interfețele de chat să pară mult mai rapide.

Cum funcționează prețurile

Începând cu septembrie 2026, verificate pe paginile de prețuri ale furnizorilor:

Unii furnizori oferă și o modalitate de a încerca înainte să plătești: Anthropic le oferă utilizatorilor noi o mică sumă de credit gratuit, iar API-ul Gemini de la Google are un nivel gratuit pentru unele modele, cu avertismentul că și conținutul trimis pe el poate fi folosit pentru a îmbunătăți produsele Google.

Prețurile diferă mult între modelele mici și rapide ale unui furnizor și cele mai mari, iar se schimbă des, așa că nu le cităm aici. O estimare simplă pentru orice funcție este: (tokeni de intrare × prețul de intrare + tokeni de ieșire × prețul de ieșire) × numărul de cereri pe lună. Apoi adaugă o marjă și setează o limită lunară de cheltuieli în panoul furnizorului.

Un exemplu practic: un buton „rezumă acest tichet”

O echipă mică de suport vrea un buton care transformă un lung fir de e-mailuri de la clienți în trei puncte și o propunere de răspuns.

1. Obține o cheie. Creează un cont la un furnizor și generează o cheie API. Setează o limită lunară scăzută de cheltuieli.
2. Păstrează cheia ca secret pe serverul tău, cu un nume de genul ANTHROPIC_API_KEY sau OPENAI_API_KEY — niciodată în codul paginii. Vezi variabilele de mediu și secretele.
3. Adaugă o rută pe server, POST /api/summarise, care:
   • verifică dacă persoana este autentificată și face parte din echipa de suport;
   • încarcă tichetul din baza de date;
   • trimite furnizorului un prompt de sistem („Rezumă în trei puncte, apoi redactează un răspuns politicos; nu inventa numere de comandă”) plus textul tichetului;
   • limitează lungimea răspunsului cu o setare de număr maxim de tokeni de ieșire;
   • returnează rezultatul și înregistrează câți tokeni a folosit.
4. Butonul apelează ruta ta, nu furnizorul, și afișează rezumatul pe măsură ce apare.
5. Tratează eșecul. Dacă furnizorul răspunde lent sau returnează o eroare, afișează „Nu s-a putut face rezumatul acum” și lasă tichetul utilizabil.
6. Măsoară. După o săptămână, uită-te la jurnalele de tokeni. Dacă cea mai mare parte a costului vine din fire de e-mail lungi, taie istoricul citat înainte de trimitere.

Observă ce lipsește: nu există antrenare de model și nicio infrastructură specială. O cheie, o rută pe server și un prompt bine scris.

Termeni-cheie

• Cheie API: secretul care îți identifică contul la furnizor. Oricine o are îți poate cheltui banii.
• Model: modelul LLM specific pe care îl apelezi. Furnizorii oferă mai multe dimensiuni la prețuri și viteze diferite.
• Temperatură: o setare pentru cât de variate sunt răspunsurile. Valorile mai mici sunt mai previzibile.
• Max tokens: o limită a lungimii răspunsului, care limitează și costul.
• Limită de rată (rate limit): câte cereri sau câți tokeni poate folosi contul tău pe minut.
• Embeddings: numere care reprezintă sensul textului, folosite pentru căutare în propriile documente.
• RAG (retrieval-augmented generation): găsirea unor pasaje relevante din datele tale și includerea lor în prompt, astfel încât modelul să răspundă pe baza conținutului tău.
• Utilizarea uneltelor / apelarea funcțiilor (tool use / function calling): lăsarea modelului să ceară aplicației tale să ruleze o funcție specifică, de exemplu „caută starea comenzii”.

Greșeli frecvente și idei greșite

• Pui cheia în codul de frontend. Cea mai scumpă greșeală. Codul din browser este public. Apelează întotdeauna din server. Lista de verificare de securitate pentru aplicațiile făcute cu AI acoperă asta împreună cu celelalte verificări înainte de lansare.
• Nicio limită de cheltuieli sau limite per utilizator. O eroare, o buclă sau un utilizator abuziv pot consuma rapid bani. Setează o limită la furnizor și limitează cererile per utilizator în aplicație.
• Trimiți totul de fiecare dată. Documentele întregi și istoricele complete de chat înmulțesc tokenii de intrare. Taie, rezumă mesajele mai vechi sau recuperează doar părțile relevante.
• Ai încredere oarbă în rezultat. Modelele pot afirma cu încredere lucruri greșite. Pentru fapte, prețuri sau orice ține de lege sau medicină, sprijină răspunsurile pe datele tale și arată sursele, sau lasă o persoană să verifice.
• Lași intrarea utilizatorului să îți suprascrie regulile. Utilizatorii pot scrie „ignoră instrucțiunile tale”. Păstrează permisiunile și acțiunile sensibile în codul serverului, nu doar în prompt.
• Începi cu cel mai mare model. Încearcă întâi un model mai mic și mai ieftin; treci la unul mai mare doar dacă calitatea o cere.
• Trimiți date personale fără să te gândești. Verifică termenii de utilizare a datelor ai furnizorului, mai ales pe nivelurile gratuite, și trimite doar ce are nevoie funcția.

Ce să ceri builder-ului tău AI

Adaugă un buton „Rezumă” pe pagina tichetului. Apelează o rută de server care folosește secretul OPENAI_API_KEY (niciodată expus în browser), verifică dacă utilizatorul este autentificat, trimite textul tichetului cu acest prompt de sistem: […], limitează răspunsul la 300 de tokeni, transmite răspunsul în pagină și afișează o eroare prietenoasă dacă apelul eșuează. Înregistrează tokenii folosiți per cerere și limitează fiecare utilizator la 30 de rezumate pe oră.

Pentru o experiență completă de chat, vezi cum construiești o aplicație chatbot cu AI; pentru alte idei, cum adaugi funcții cu AI în aplicația ta. Dacă API-urile în general îți sunt noi, începe cu ce este un API.

API-uri LLM în aplicațiile făcute cu Mythex

Când construiești cu Mythex, AI-ul din aplicația ta folosește cheia ta de la furnizor. O adaugi ca secret de proiect, sau prin cardul de secrete pe care Mythex îl afișează în chat când are nevoie de el, și ceri agentului să facă apelul pe server. Utilizarea furnizorului se facturează contului tău de la furnizor, nu creditelor de construcție Mythex. Mythex nu include tokeni pentru utilizatorii aplicației tale și nici un produs de bază de cunoștințe integrat, iar limitele de rată și controalele de cost sunt ale tale de proiectat și testat. Rețeta din documentație adaugă funcții AI cu propriile chei API are un prompt de start, iar pagina constructorul de aplicații cu AI arată de unde să începi.

Întrebări