Kā lietot LLM API: marķieri, izmaksas, atslēgas un pirmā MI funkcija

LLM API ir tīmekļa pakalpojums, kas ļauj jūsu lietotnei nosūtīt tekstu lielajam valodas modelim — piemēram, OpenAI GPT modeļiem, Anthropic Claude vai Google Gemini — un koda līmenī saņemt atbildi. Jūs reģistrējaties pie nodrošinātāja, izveidojat API atslēgu, un jūsu lietotnes serveris sūta pieprasījumus ar šo atslēgu; par katru pieprasījumu maksājat pēc marķieru (teksta gabalu) skaita, kas ienāk un iziet. Tas parasti arī ir viss, ko nozīmē „MI pievienošana lietotnei”: labi uzrakstīts pieprasījums cita modelim, ko droši nosūta jūsu serveris.

Kāpēc tas ir svarīgi, veidojot ar MI

MI veidotā lietotnē ir divi dažādi MI, un viegli tos sajaukt:

1. MI, kas veido jūsu lietotni — lietotņu veidotāja pašu aģents, kas raksta kodu.
2. MI jūsu lietotnē — funkcija, ko lieto jūsu lietotāji, piemēram, tērzēšanas palīgs, poga „apkopo šo” vai automātiska marķēšana.

Otrais izsauc LLM API ar jūsu atslēgu un izraksta rēķinu jūsu nodrošinātāja kontam. Izpratne par marķieriem, kontekstu un cenām ļauj izstrādāt funkciju, kas darbojas, neizpauž jūsu atslēgu un neizbrīna jūs ar rēķinu.

Ikdienas salīdzinājums: ļoti spējīgs brīvmāksles autors, kas maksā par vārdu

Domājiet par LLM API kā par ļoti prasmīgu brīvmākslas rakstnieku, ar ko sazināties pa e-pastu un maksāt par vārdu — gan par vārdiem, ko jūs viņam nosūtāt, gan par vārdiem, ko viņš atsūta atpakaļ (un vārdi atbildē maksā vairāk).

• Starp e-pastiem viņam nav atmiņas. Ja vēlaties, lai viņš turpina sarunu, katrā jaunajā e-pastā ieliekat iepriekšējās vēstules.
• Vienlaikus viņš var izlasīt tikai noteiktu apjomu. Šo robežu sauc par konteksta logu.
• Jo skaidrāks uzdevums, jo labāka un īsāka atbilde — kas arī ir lētāk.

Pamatjēdzieni

Marķieri

Modeļi lasa un raksta tekstu marķieros. Anthropic cenu dokumentācijā ar 2026. gada septembri aptuveni 4 rakstzīmes jeb aptuveni 0,75 angļu vārdi uz marķieri. Dažādi modeļi un valodas marķierus veido atšķirīgi, tāpēc uztveriet to kā aptuvenu rokasgrāmatu. Skaitās viss: jūsu instrukcijas, lietotāja ziņa, visi iekļautie dokumenti, iepriekšējā saruna un atbilde.

Ieeja un izeja

Ieejas marķieri ir tas, ko jūs sūtāt. Izejas marķieri ir tas, ko modelis raksta. OpenAI, Anthropic un Google cenu lapās ar 2026. gada septembri redzams, ka vienam un tam pašam modelim izejas marķieri maksā vairākas reizes vairāk nekā ieejas marķieri. Google Gemini cenu lapā arī norādīts, ka modeļa iekšējā „domāšana” tiek skaitīta kā izeja.

Konteksta logs

Maksimālais marķieru skaits, ko modelis var pieņemt vienā pieprasījumā, ieskaitot atbildi. Mūsdienu modeļi pieņem ļoti garas ievades — piemēram, daži Anthropic pašreizējie modeļi pieņem līdz miljonam marķieru. Taču garas ievades maksā vairāk un prasa vairāk laika, tāpēc sūtiet tikai to, ko uzdevums prasa.

Bezstāvokļa pieprasījumi

Vairumā tērzēšanas stila API katrs pieprasījums pēc noklusējuma ir neatkarīgs. Lai tērzēšana „atcerētos”, jūsu lietotne ar katru jauno ziņu atkārtoti sūta iepriekšējās ziņas. Tāpēc gara saruna katru ziņu maksā dārgāk nekā īsa.

Sistēmas uzvedne

Instrukcijas, kas nosaka modeļa lomu un noteikumus katram pieprasījumam: „Tu apkopo atbalsta pieteikumus trīs punktos. Nekad neiekļauj klientu e-pasta adreses.” Lietotāji to neredz, bet tā veido katru atbildi.

Straumēšana

API tā vietā, lai gaidītu pilnu atbildi, var sūtīt tekstu, kamēr tas tiek ģenerēts, tāpēc lietotāji uzreiz redz vārdus parādāmies. Tādējādi tērzēšanas saskarnes šķiet daudz ātrākas.

Kā darbojas cenas

Kā pārbaudīts nodrošinātāju cenu lapās ar 2026. gada septembri:

Dažs nodrošinātājs piedāvā arī iespēju izmēģināt pirms maksāšanas: Anthropic jaunajiem lietotājiem dod nelielu bezmaksas kredītu, bet Google Gemini API dažiem modeļiem ir bezmaksas līmenis ar nosacījumu, ka tajā nosūtīts saturs var tikt izmantots Google produktu uzlabošanai.

Cenas ļoti atšķiras starp nodrošinātāja mazajiem, ātrajiem modeļiem un lielākajiem, un tās bieži mainās, tāpēc šeit tās necitējam. Vienkārša jebkuras funkcijas aplēse ir: (ieejas marķieri × ieejas cena + izejas marķieri × izejas cena) × pieprasījumu skaits mēnesī. Pēc tam pieskaitiet rezervi un nodrošinātāja panelī iestatiet mēneša tēriņu limitu.

Darba piemērs: poga „apkopo šo biļeti”

Neliela atbalsta komanda vēlas pogu, kas garu klienta e-pasta pavedienu pārvērš trīs punktos un ierosinātā atbildē.

1. Iegūstiet atslēgu. Izveidojiet kontu pie viena nodrošinātāja un ģenerējiet API atslēgu. Iestatiet zemu mēneša tēriņu limitu.
2. Glabājiet atslēgu kā noslēpumu savā serverī ar nosaukumu, piemēram, ANTHROPIC_API_KEY vai OPENAI_API_KEY — nekad lapas kodā. Skatiet vides mainīgos un noslēpumus.
3. Pievienojiet servera maršrutu, POST /api/summarise, kas:
   • pārbauda, vai persona ir pieteikusies un pieder atbalsta komandai;
   • ielādē biļeti no datubāzes;
   • nosūta nodrošinātājam sistēmas uzvedni („Apkopo trijos punktos, pēc tam sastādi pieklājīgu atbildi; neizdomā pasūtījumu numurus”) un biļetes tekstu;
   • ierobežo atbildes garumu ar maksimālo izejas marķieru iestatījumu;
   • atgriež rezultātu un ieraksta, cik marķieru izlietots.
4. Poga izsauc jūsu maršrutu, nevis nodrošinātāju, un rāda kopsavilkumu, kamēr tas tiek straumēts.
5. Apstrādājiet kļūmi. Ja nodrošinātājs ir lēns vai atgriež kļūdu, rādiet „Pašlaik nevarēja apkopot” un saglabājiet biļeti lietojamu.
6. Mēriet. Pēc nedēļas apskatiet marķieru žurnālus. Ja lielāko daļu izmaksu rada gari e-pasta pavedieni, pirms sūtīšanas apgrieziet citētu vēsturi.

Pievērsiet uzmanību, kas nav vajadzīgs: nav modeļa apmācības, nav īpašas infrastruktūras. Viena atslēga, viens servera maršruts, viena labi uzrakstīta uzvedne.

Galvenie termini

• API atslēga: noslēpums, kas identificē jūsu kontu nodrošinātājam. Ikviens, kam tā ir, var iztērēt jūsu naudu.
• Modelis: konkrētais LLM, ko izsaucat. Nodrošinātāji piedāvā vairākus izmērus ar dažādām cenām un ātrumu.
• Temperatūra: iestatījums, cik dažādas ir atbildes. Zemāka vērtība nozīmē paredzamākas atbildes.
• Maksimālie marķieri: atbildes garuma ierobežojums, kas ierobežo arī izmaksas.
• Ātruma limits: cik daudz pieprasījumu vai marķieru jūsu konts drīkst izmantot minūtē.
• Iegulumi (embeddings): skaitļi, kas attēlo teksta nozīmi, izmantoti meklēšanai jūsu pašu dokumentos.
• RAG (retrieval-augmented generation): atrast attiecīgus fragmentus no jūsu datiem un iekļaut tos uzvednē, lai modelis atbildētu, balstoties uz jūsu saturu.
• Rīku izmantošana / funkciju izsaukšana: ļaut modelim lūgt jūsu lietotnei izpildīt konkrētu funkciju, piemēram, „uzzini pasūtījuma statusu”.

Biežākās kļūdas un maldi

• Atslēgas ievietošana frontend kodā. Visdārgākā kļūda. Pārlūkprogrammas kods ir publisks. Vienmēr izsauciet no sava servera. Drošības kontrolsaraksts MI veidotām lietotnēm šo aptver kopā ar citām palaišanas pārbaudēm.
• Nav tēriņu limita vai lietotāja limita. Kļūda, cilpa vai ļaunprātīgs lietotājs var ātri radīt izmaksas. Iestatiet nodrošinātāja limitu un ierobežojiet pieprasījumus katram lietotājam savā lietotnē.
• Visa sūtīšana katru reizi. Veseli dokumenti un pilnas tērzēšanas vēstures palielina ieejas marķierus. Apgrieziet, apkopojiet vecākas ziņas vai izgūstiet tikai attiecīgās daļas.
• Rezultātam aklu uzticēšanos. Modeļi var pārliecinoši apgalvot nepareizas lietas. Faktiem, cenām vai jebkam juridiskam vai medicīniskam balstiet atbildes savos datos un rādiet avotus vai liediet cilvēkam pārbaudīt.
• Ļaut lietotāja ievadei pārrakstīt jūsu noteikumus. Lietotāji var ierakstīt „ignorē savas instrukcijas”. Tiesības un jutīgas darbības glabājiet sava servera kodā, ne tikai uzvednē.
• Sākt ar lielāko modeli. Vispirms izmēģiniet mazāku, lētāku modeli; pārejiet augstāk tikai tad, ja to prasa kvalitāte.
• Personas datu sūtīšana, nedomājot. Pārbaudiet nodrošinātāja datu lietošanas noteikumus, īpaši bezmaksas līmeņos, un sūtiet tikai to, ko funkcija prasa.

Ko lūgt savam MI veidotājam

Pievieno pogu „Summarise” biļetes lapā. Tā izsauc servera maršrutu, kas izmanto noslēpumu OPENAI_API_KEY (nekad neredzams pārlūkprogrammai), pārbauda, vai lietotājs ir pieteicies, nosūta biļetes tekstu ar šo sistēmas uzvedni: […], ierobežo atbildi līdz 300 marķieriem, straumē atbildi lapā un rāda draudzīgu kļūdas ziņojumu, ja izsaukums neizdodas. Ieraksti izlietotos marķierus katram pieprasījumam un ierobežo katru lietotāju līdz 30 kopsavilkumiem stundā.

Pilnai tērzēšanas pieredzei skatiet kā izveidot MI tērzēšanas robota lietotni; citām idejām — kā pievienot MI funkcijas savai lietotnei. Ja API vispār ir jauni, sāciet ar kas ir API.

LLM API lietotnēs, kas veidotas ar Mythex

Veidojot ar Mythex, MI jūsu lietotnē izmanto jūsu pašu nodrošinātāja atslēgu. Jūs to pievienojat kā projekta noslēpumu vai caur noslēpumu kartīti, ko Mythex rāda tērzēšanā, kad tā ir vajadzīga, un lūdzat aģentu veikt izsaukumu serverī. Nodrošinātāja lietojums tiek izrakstīts jūsu nodrošinātāja kontam, nevis Mythex veidošanas kredītiem. Mythex neiekļauj marķierus jūsu lietotnes lietotājiem un nepiedāvā iebūvētu zināšanu bāzes produktu, un izmaksu ierobežojumus un ātruma limitus projektējat un pārbaudāt jūs. Dokumentācijas recepte pievienot MI funkcijas ar saviem API atslēgām satur sākuma uzvedni, un lapa MI lietotņu veidotājs parāda, kur sākt.

Jautājumi