Ինչպես օգտագործել LLM API-ները՝ token-ներ, արժեք, բանալիներ և առաջին AI գործառույթը

LLM API-ն վեբ ծառայություն է, որը թույլ է տալիս ձեր հավելվածին տեքստ ուղարկել մեծ լեզվական մոդելին՝ օրինակ՝ OpenAI-ի GPT մոդելներին, Anthropic-ի Claude-ին կամ Google-ի Gemini-ին, և կոդի մեջ ստանալ նրա պատասխանը։ Մատակարարի հետ գրանցվում եք, ստեղծում API բանալի, և ձեր հավելվածի սերվերը հարցումներ է ուղարկում այդ բանալիով․ վճարում եք յուրաքանչյուր հարցման համար՝ ըստ ներմուծվող և արտածվող token-ների (տեքստի մասերի) քանակի։ Հավելվածին AI ավելացնելը սովորաբար հենց սա է. լավ գրված հարցում մեկ ուրիշի մոդելին, որ ուղարկվում է անվտանգ ձեր սերվերից։

Ինչու է սա կարևոր AI-ով կառուցելիս

AI-ով ստեղծված հավելվածում կան երկու տարբեր AI, և հեշտ է դրանք շփոթել․

1. AI-ն, որ կառուցում է ձեր հավելվածը — կառուցիչի սեփական agent-ը, որ գրում է կոդը։
2. AI-ն ձեր հավելվածի ներսում — գործառույթ, որ օգտագործում են ձեր օգտատերերը, օրինակ՝ զրույցի օգնական, «ամփոփիր սա» կոճակ կամ ավտոմատ պիտակավորում։

Երկրորդը զանգահարում է LLM API՝ ձեր բանալիով և վճարում է ձեր մատակարարի հաշվին։ Token-ները, կոնտեքստը և գները հասկանալը թույլ է տալիս մշակել գործառույթ, որ աշխատում է, չի արտահոսեցնում ձեր բանալին և չի զարմացնում ձեզ ռեժիմի հաշիվով։

Ամենօրյա անալոգիա. շատ ունակ ազատ գրող, որին վճարում եք բառով

Պատկերացրեք LLM API-ն որպես փայլուն ազատ գրող, որին էլփոստով եք դիմում և վճարում եք բառերի համար՝ և ձեր ուղարկած, և նրա վերադարձրած բառերի (վերջիններն ավելի թանկ են)։

• Նա հիշողություն չունի նամակների միջև։ Եթե ուզում եք, որ զրույցը շարունակվի, յուրաքանչյուր նոր նամակի մեջ նորից տեղադրում եք նախորդ հաղորդագրությունները։
• Նա կարող է մեկ անգամ կարդալ որոշակի քանակով։ Այդ սահմանը կոնտեքստի պատուհանն է։
• Որքան հստակ է ձեր առաջադրանքը, այնքան լավ և կարճ է պատասխանը, և դա էլ ավելի էժան է։

Հիմնական հասկացությունները

Token-ներ

Մոդելները տեքստը կարդում և գրում են token-ներով։ Anthropic-ի գնային փաստաթղթերը, 2026 թվականի սեպտեմբերի դրությամբ, գնահատում են մոտ 4 նիշ, կամ մոտ 0,75 անգլերեն բառ, մեկ token-ում։ Տարբեր մոդելներ և լեզուներ տարբեր կերպ են բաժանում տեքստը, այնպես որ սա մոտավոր ուղեցույց է։ Հաշվվում է ամեն ինչ․ ձեր հրահանգները, օգտատիրոջ հաղորդագրությունը, ցանկացած փաստաթուղթ, նախորդ զրույցը և պատասխանը։

Մուտք և ելք

Մուտքի token-ները այն են, ինչ ուղարկում եք։ Ելքի token-ները այն են, ինչ գրում է մոդելը։ OpenAI-ի, Anthropic-ի և Google-ի գնային էջներում, 2026 թվականի սեպտեմբերի դրությամբ, ելքի token-ներն արժեն մի քանի անգամ ավելի, քան մուտքի token-ները նույն մոդելի համար։ Google-ի Gemini-ի գները նաև նշում են, որ մոդելի ներքին «մտածելը» հաշվվում է որպես ելք։

Կոնտեքստի պատուհան

Առավելագույն token-ների քանակը, որ մոդելը կարող է ընդունել մեկ հարցումով, ներառյալ պատասխանը։ Ժամանակակից մոդելները շատ երկար մուտքեր են ընդունում՝ օրինակ Anthropic-ի ներկայիս որոշ մոդելներ մինչև մեկ միլիոն token։ Բայց երկար մուտքերն ավելի թանկ են և դանդաղ, այնպես որ ուղարկեք միայն այն, ինչ պետք է առաջադրանքին։

Անկախ հարցումներ

Ամենաշատ չաթի ձևի API-ներում յուրաքանչյուր հարցում լինում է ինքնուրույն, լռելյայն։ Որպեսզի չաթը «հիշի», ձեր հավելվածը յուրաքանչյուր նոր հաղորդագրության հետ նորից ուղարկում է նախորդները։ Դրա համար երկար զրույցի յուրաքանչյուր հաղորդագրություն ավելի թանկ է, քան կարճ զրույցինը։

Համակարգային հրահանգ

Հրահանգներ, որ սահմանում են մոդելի դերը և կանոնները յուրաքանչյուր հարցման համար. «Դու ամփոփում ես աջակցության տոմսերը երեք կետով։ Երբեք մի ներառիր հաճախորդի էլփոստի հասցեները»։ Օգտատերերը դա չեն տեսնում, բայց այն ձևավորում է յուրաքանչյուր պատասխան։

Հոսք (streaming)

Ամբողջ պատասխանը սպասելու փոխարեն API-ն կարող է տեքստը ուղարկել այն գեներացվելու պահին, և օգտատերերը բառերը անմիջապես տեսնում են։ Դա չաթի ինտերֆեյսը շատ ավելի արագ է թվում դարձնում։

Ինչպես է աշխատում վճարումը

2026 թվականի սեպտեմբերի դրությամբ, ստուգված մատակարարների գնային էջերում․

Որոշ մատակարարներ նաև առաջարկում են փորձել մինչև վճարելը․ Anthropic-ը նոր օգտատերերին տալիս է փոքր անվճար կրեդիտ, իսկ Google-ի Gemini API-ն ունի անվճար մակարդակ որոշ մոդելների վրա՝ այն նախազգուշացմամբ, որ դրա վրա ուղարկված բովանդակությունը կարող է օգտագործվել Google-ի արտադրանքը բարելավելու համար։

Գները մեծ տարբերվում են մատակարարի փոքր, արագ մոդելների և ամենամեծ մոդելների միջև, և հաճախ են փոխվում, ուստի այստեղ դրանք չենք նշում։ Ցանկացած գործառույթի պարզ գնահատումը սա է․ (մուտքի token-ներ × մուտքի գին + ելքի token-ներ × ելքի գին) × հարցումների թիվը ամսական։ Այնուհետև ավելացրեք մարժա և սահմանեք ամսական ծախսերի սահման մատակարարի վահանակում։

Աշխատած օրինակ. «ամփոփիր այս տոմսը» կոճակ

Փոքր աջակցման թիմը ուզում է կոճակ, որ երկար հաճախորդի էլփոստային շղթան վերածում է երեք կետի և առաջարկվող պատասխանի։

1. Ստացեք բանալի։ Ստեղծեք հաշիվ մեկ մատակարարի մոտ և գեներացրեք API բանալի։ Սահմանեք ամսական ցածր ծախսերի սահման։
2. Պահեք բանալին որպես գաղտնի տվյալ ձեր սերվերում, օրինակ՝ ANTHROPIC_API_KEY կամ OPENAI_API_KEY անունով, երբեք էջի կոդում։ Տե՛ս միջավայրի փոփոխականներ և գաղտնի տվյալներ։
3. Ավելացրեք սերվերային երթուղի՝ POST /api/summarise, որ՝
   • ստուգում է, որ մարդը մուտք է գործել և պատկանում է աջակցության թիմին;
   • բեռնում է տոմսը տվյալների բազայից;
   • մատակարարին ուղարկում է համակարգային հրահանգ («Ամփոփիր երեք կետով, ապա գրիր քաղաքավարի պատասխան․ մի հորինիր պատվերի համարներ») և տոմսի տեքստը;
   • սահմանափակում է պատասխանի երկարությունը առավելագույն ելքային token-ների կարգավորմամբ;
   • վերադարձնում է արդյունքը և գրանցում, թե քանի token է օգտագործվել։
4. Կոճակը զանգահարում է ձեր երթուղին, ոչ թե մատակարարին, և ամփոփումը ցույց է տալիս, երբ այն հոսում է էջ։
5. Կառավարեք ձախողումը։ Եթե մատակարարը դանդաղ է կամ վերադարձնում է սխալ, ցույց տվեք «Հիմա չհաջողվեց ամփոփել» և թողեք տոմսը օգտագործելի։
6. Չափեք։ Մեկ շաբաթ անց նայեք token-ների մատյանը։ Եթե արժեքի մեծ մասը երկար էլփոստային շղթաներից է, կրճատեք մեջբերված պատմությունը մինչ ուղարկելը։

Նկատեք, թե ինչ է բացակայում․ մոդելի վարժեցում չկա, հատուկ ենթակառուցվածք չկա։ Մեկ բանալի, մեկ սերվերային երթուղի, մեկ լավ գրված հրահանգ։

Հիմնական տերմիններ

• API բանալի. գաղտնի տվյալ, որ նույնացնում է ձեր հաշիվը մատակարարի մոտ։ Ով որ ունի, կարող է ծախսել ձեր գումարը։
• Մոդել. կոնկրետ LLM, որ զանգահարում եք։ Մատակարարները մի քանի չափսով են առաջարկում՝ տարբեր գներով և արագությամբ։
• Temperature. կարգավորում, թե որքան բազմազան են պատասխանները։ Ցածր արժեքը ավելի կանխատեսելի է։
• Առավելագույն token-ներ (max tokens). պատասխանի երկարության սահման, որ նաև սահմանում է արժեքը։
• Արագության սահման (rate limit). քանի հարցում կամ token կարող է օգտագործել ձեր հաշիվը րոպեում։
• Embeddings. թվեր, որ ներկայացնում են տեքստի իմաստը, օգտագործվում են ձեր սեփական փաստաթղթերում որոնելու համար։
• RAG (retrieval-augmented generation). ձեր տվյալներից համապատասխան հատվածների գտնում և հրահանգի մեջ ներառում, որ մոդելը պատասխանի ձեր բովանդակությունից։
• Գործիքների օգտագործում / function calling. թույլ տալ մոդելին խնդրել ձեր հավելվածին գործարկել կոնկրետ ֆունկցիա, օրինակ՝ «ստուգիր պատվերի կարգավիճակը»։

Սովորական սխալներ և թյուրըմբռնումներ

• Բանալին frontend կոդում։ Ամենաթանկ սխալը։ Բրաուզերի կոդը հանրային է։ Միշտ զանգահարեք սերվերից։ AI-ով ստեղծված հավելվածների անվտանգության ստուգացանկը այս մասը ներառում է մյուս թողարկման ստուգումների հետ միասին։
• Ծախսերի սահման չկա կամ օգտատիրոջ սահմաններ չկան։ Սխալը, ցիկլը կամ չարաշահող օգտատերը արագ կարող են մեծ ծախս առաջացնել։ Սահմանեք մատակարարի սահմանը և սահմանափակեք հարցումները յուրաքանչյուր օգտատիրոջ համար ձեր հավելվածում։
• Ամեն ինչ ամեն անգամ ուղարկելը։ Ամբողջական փաստաթղթերը և ամբողջ չաթի պատմությունը բազմապատկում են մուտքի token-ները։ Կրճատեք, ամփոփեք հին հաղորդագրությունները կամ ստացեք միայն համապատասխան մասերը։
• Արդյունքին կույր վստահելը։ Մոդելները կարող են վստահորեն ասել սխալ բաներ։ Փաստերի, գների կամ իրավական ու բժշկական հարցերի դեպքում հիմնավորեք պատասխանները ձեր տվյալներով և ցույց տվեք աղբյուրները, կամ թող մարդը ստուգի։
• Օգտատիրոջ մուտքին թույլ տալը գերազանցել ձեր կանոնները։ Օգտատերերը կարող են գրել «անտեսիր քո հրահանգները»։ Պահեք թույլտվությունները և զգայուն գործողությունները ձեր սերվերի կոդում, ոչ միայն հրահանգում։
• Սկսել ամենամեծ մոդելից։ Փորձեք նախ փոքր, ավելի էժան մոդել․ ավելի բարձր անցեք միայն, եթե որակը պահանջում է։
• Անձնական տվյալները առանց մտածելու ուղարկելը։ Ստուգեք մատակարարի տվյալների օգտագործման պայմանները, հատկապես անվճար մակարդակներում, և ուղարկեք միայն այն, ինչ պետք է գործառույթին։

Ինչ խնդրել ձեր AI կառուցիչից

Ավելացրու «Ամփոփել» կոճակ տոմսի էջում։ Այն զանգահարում է սերվերային երթուղի, որ օգտագործում է OPENAI_API_KEY գաղտնի տվյալը (երբեք բրաուզերին չբացահայտված), ստուգում է, որ օգտատերը մուտք է գործել, ուղարկում է տոմսի տեքստը հետևյալ համակարգային հրահանգով․ […], սահմանափակում է պատասխանը 300 token-ով, հոսում է պատասխանը էջ և ցույց է տալիս ընկերական սխալի հաղորդագրություն, եթե զանգահարումը ձախողվի։ Գրանցիր յուրաքանչյուր հարցման օգտագործած token-ները և սահմանիր յուրաքանչյուր օգտատիրոջ համար ժամում 30 ամփոփում։

Լրիվ չաթի փորձի համար տե՛ս ինչպես կառուցել AI չաթբոտ հավելված․ այլ գաղափարների համար՝ ինչպես ավելացնել AI գործառույթներ ձեր հավելվածին։ Եթե API-ները ընդհանրապես նոր են ձեզ համար, սկսեք ինչ է API-ն-ից։

LLM API-ներ Mythex-ով ստեղծված հավելվածներում

Մythex-ով կառուցելիս ձեր հավելվածի ներսի AI-ն օգտագործում է ձեր սեփական մատակարարի բանալին։ Այն ավելացնում եք որպես նախագծի գաղտնի տվյալ կամ չաթում Mythex-ի ցուցադրած գաղտնի տվյալների քարտի միջոցով, երբ այն պահանջվում է, և խնդրում եք agent-ին կատարել զանգահարումը սերվերի վրա։ Մատակարարի օգտագործումը վճարվում է ձեր մատակարարի հաշվին, ոչ Mythex-ի կառուցման կրեդիտներով։ Mythex-ը ձեր հավելվածի օգտատերերի համար token-ներ չի ներառում, և ոչ էլ գիտելիքի բազայի ներկառուցված արտադրանք, իսկ արագության սահմանները և ծախսերի վերահսկումը ձեր նախագծելու և փորձարկելու պատասխանատվությունն է։ Փաստաթղթերի AI գործառույթներ՝ ձեր սեփական API բանալիներով ուղեցույցում կա սկզբնական հրահանգ, իսկ AI հավելվածի կառուցիչ էջը ցույց է տալիս, թե որտեղից սկսել։

Հարցեր