LLM API-г хэрхэн ашиглах вэ: токен, зардал, түлхүүр ба анхны AI функц

LLM API бол таны аппад том хэлний загвар — жишээлбэл OpenAI-ийн GPT загварууд, Anthropic-ийн Claude эсвэл Google-ийн Gemini — руу текст илгээж, хариуг нь кодоор буцааж авах боломж олгодог вэб үйлчилгээ юм. Та үйлчилгээ үзүүлэгчтэй бүртгүүлж, API түлхүүр үүсгэнэ, мөн таны аппын сервер тэр түлхүүрээр хүсэлт илгээдэг; хүсэлт бүрт илгээсэн болон хүлээн авсан токен (текстийн хэсэг)-ийн тоогоор төлбөр төлдөг. "Аппдаа AI нэмэх" гэж ихэвчлэн юу гэсэн үг вэ гэхээр л энэ: бусдын загвар руу сайн бичсэн хүсэлтийг таны серверээс аюулгүйгээр илгээх.

AI-тай бүтээхэд яагаад чухал вэ

AI-аар бүтээсэн аппд хоёр өөр AI байдаг бөгөөд тэдгээрийг андуурах хялбар:

1. Аппыг бүтээж буй AI — аппын бүтээгчийн агент, кодыг бичдэг.
2. Аппын дотор байгаа AI — таны хэрэглэгчид ашигладаг функц, жишээлбэл чатын туслах, "товчилж хэл" товч эсвэл автомат шошгодох.

Хоёр дахь нь таны түлхүүрээр LLM API дуудаж, таны үйлчилгээ үзүүлэгчийн дансанд төлбөр бодуулдаг. Токен, контекст, үнийн тухай ойлголт нь ажилладаг, түлхүүрээ алддаггүй, нэхэмжлэхдээ гайхуулдаггүй функц зохион бүтээхэд тань тусалдаг.

Өдөр тутмын зүйрлэл: хамгийн чадварлаг фрилансер, үгээр нь төлдөг

LLM API-г маш чадварлаг, имэйлээр хүрдэг, үгээр нь төлбөр төлдөг нэгэн зохиолч гэж бод — та түүнд илгээх үг, мөн тэр буцаан бичих үгэнд нь төлдөг (буцаан бичих үгнүүд нь илүү үнэтэй).

• Тэд имэйлүүдийн хооронд санах ой байдаггүй. Яриаг үргэлжлүүлэхийн тулд өмнөх мессежүүдээ шинэ имэйл бүрт дахин буулгана.
• Тэд нэг удаад маш их унших боломжгүй. Энэ хязгаарыг контекстын цонх гэдэг.
• Бриф тань тодорхой байх тусам хариулт сайн, богино байна — энэ нь мөн арзан.

Үндсэн ойлголтууд

Токен

Загварууд текстийг токеноор уншиж, бичдэг. Anthropic-ийн үнийн баримт бичиг 2026 оны 9-р сарын байдлаар нэг токенд ойролцоогоор 4 тэмдэгт буюу 0.75 англи үг гэж тооцдог. Өөр загвар, хэл өөрөөр токенжуулдаг тул үүнийг ерөнхий заавар гэж үз. Бүх зүйл тооцогдоно: таны заавар, хэрэглэгчийн мессеж, оруулсан баримт бичиг, өмнөх яриа, мөн хариулт.

Оролт ба гаралт

Оролтын токен бол таны илгээдэг зүйл. Гаралтын токен бол загварын бичдэг зүйл. OpenAI, Anthropic, Google-ийн үнийн хуудсууд 2026 оны 9-р сарын байдлаар ижил загварт гаралтын токен оролтоосоо хэд дахин илүү үнэтэй гэж заасан. Google-ийн Gemini-ийн үнэ нь загварын дотоод "thinking" гаралт гэж тооцогдоно гэж бас тэмдэглэдэг.

Контекстын цонх

Нэг хүсэлтэд загварт оруулж болох хамгийн их токен, хариултыг оруулаад. Орчин үеийн загварууд маш урт оролтыг хүлээн авдаг — жишээлбэл Anthropic-ийн одоогийн зарим загвар нэг сая токен хүртэл хүлээн авдаг. Гэвч урт оролт илүү үнэтэй, удаан байдаг тул даалгаварт хэрэгтэй зүйлийг л илгээ.

Төлөвгүй хүсэлтүүд

Ихэнх чатын төрлийн API-д хүсэлт бүр өөрөө бие даасан байдаг. Чатыг "санахын" тулд таны апп өмнөх мессежүүдийг шинэ мессеж бүрт дахин илгээдэг. Тийм учраас урт яриа бүрт богино ярианаас илүү зардал гардаг.

Системийн промпт

Загварын үүрэг, дүрмийг тогтоох заавар, бүх хүсэлтэд хэрэглэгддэг: "Чи хэрэглэгчийн тикетийг гурван цэгээр товчилдог. Хэрэглэгчийн имэйл хаягийг хэзээ ч оруулахгүй." Хэрэглэгчид үүнийг хардаггүй ч хариу бүрт нөлөөлдөг.

Стриминг

Бүтэн хариултыг хүлээхийн оронд API нь текстийг үүсгэх тусам илгээж чаддаг тул хэрэглэгчид үгс шууд гарч ирэхийг харна. Энэ нь чатын интерфейсийг илүү хурдан мэт болгодог.

Үнийн бодолт

2026 оны 9-р сарын байдлаар, үйлчилгээ үзүүлэгчдийн өөрсдийн үнийн хуудсан дээр шалгасан:

Зарим үйлчилгээ үзүүлэгч төлөхөөс өмнө туршиж үзэх боломж бас өгдөг: Anthropic шинэ хэрэглэгчдэд жижиг хэмжээний үнэгүй кредит өгдөг, Google-ийн Gemini API зарим загварт үнэгүй түвшинтэй бөгөөд тэнд илгээсэн агуулгыг Google-ийн бүтээгдэхүүнийг сайжруулахад ашиглаж болно гэдгийг анхаарах хэрэгтэй.

Жижиг, хурдан загвар болон хамгийн том загваруудын үнэ ихээхэн ялгаатай бөгөөд тогтмол өөрчлөгддөг тул бид тэдгээрийг энд тоологүй. Аливаа функцийн энгийн тооцоо нь: (оролтын токен × оролтын үнэ + гаралтын токен × гаралтын үнэ) × сарын хүсэлтийн тоо. Дараа нь зөвшөөрөгдөх зөрүү нэмж, үйлчилгээ үзүүлэгчийн хяналтын самбарт сарын зардлын хязгаар тавь.

Жишээ: "Тикетийг товчил" товч

Жижиг дэмжлэгийн баг урт имэйл яриаг гурван цэг болон санал болгож буй хариулт болгон хөрвүүлэх товч хүсч байна.

1. Түлхүүр авах. Нэг үйлчилгээ үзүүлэгчтэй данс нээж, API түлхүүр үүсгэ. Сарын бага зардлын хязгаар тавь.
2. Түлхүүрээ нууц мэдээлэл болгон хадгал серверийнхээ тохиргоонд, жишээлбэл ANTHROPIC_API_KEY эсвэл OPENAI_API_KEY гэх мэт нэрээр — хэзээ ч хуудасны кодонд бүү хий. Харна уу: орчны хувьсагч ба нууц мэдээлэл.
3. Серверийн маршрут нэм, POST /api/summarise, дараах зүйлийг хийнэ:
   • хүн нэвтэрсэн эсэх, дэмжлэгийн багт хамаарах эсэхийг шалгана;
   • тикетийг өгөгдлийн сангаас ачаална;
   • үйлчилгээ үзүүлэгчид системийн промпт ("Гурван цэгээр товчил, дараа нь эелдэг хариу бич; захиалгын дугаар бүү зохио") болон тикетийн текстийг илгээнэ;
   • хариултын уртыг хамгийн их гаралтын токеноор хязгаарлана;
   • үр дүнг буцааж, хэдэн токен ашигласныг бүртгэнэ.
4. Товч таны маршрутыг дууддаг, үйлчилгээ үзүүлэгчийг шууд биш, мөн хариултыг стримлэн харуулна.
5. Алдааг зохицуулна. Үйлчилгээ удаан эсвэл алдаа буцаавал "Одоохондоо товчилж чадсангүй" гэж харуулж, тикетийг ашиглах боломжтой хэвээр үлдээнэ.
6. Хэмжинэ. Долоо хоногийн дараа токений бүртгэлийг хар. Хэрвээ зардлын гол хэсэг урт имэйл яриа бол илгээхээсээ өмнө иш татсан түүхийг тайрч хая.

Юу байхгүйг анзаарна уу: загвар сургалт байхгүй, тусгай дэд бүтэц шаардлагагүй. Нэг түлхүүр, нэг серверийн маршрут, нэг сайн бичсэн промпт.

Гол нэр томъёо

• API түлхүүр: таны дансыг үйлчилгээ үзүүлэгчид танигдуулдаг нууц мэдээлэл. Түүнийг мэдсэн хүн таны мөнгийг зарцуулж чадна.
• Загвар: таны дуудаж буй тодорхой LLM. Үйлчилгээ үзүүлэгчид янз бүрийн хэмжээ, үнэ, хурдтай загваруудыг санал болгодог.
• Temperature: хариултын хувьсах чадварыг тохируулах параметр. Бага байх тусам таамаглахад хялбар.
• Max tokens: хариултын уртын дээд хязгаар, мөн зардлыг хязгаарладаг.
• Rate limit: таны данс минутад хэдэн хүсэлт эсвэл токен ашиглаж болох хязгаар.
• Embeddings: текстийн утгыг илэрхийлдэг тоонууд, өөрийн баримт бичгүүдээс хайхад ашиглана.
• RAG (retrieval-augmented generation): өөрийн өгөгдлөөс холбогдох хэсгүүдийг олж, промптод оруулснаар загвар таны агуулгаас хариулдаг.
• Tool use / function calling: загвар таны аппаас тодорхой функц ажиллуулахыг хүсэх боломж, жишээлбэл "захиалгын статусыг шалга".

Түгээмэл алдаа ба буруу ойлголт

• Түлхүүрээ фронтенд кодонд тавих. Хамгийн үнэтэй алдаа. Браузерын код нийтэд нээлттэй. Үргэлж серверээсээ дуудаарай. AI-ээр бүтээсэн аппын аюулгүйн жагсаалт нь энэ болон бусад хэвлэх өмнөх шалгалтуудыг хамруулдаг.
• Зардлын хязгаар эсвэл хэрэглэгч тус бүрийн хязгаар байхгүй. Алдаа, давталт, хүчирхийлэгч хэрэглэгч зардлыг хурдан өсгөж чадна. Үйлчилгээ үзүүлэгчийн хязгаар тавьж, аппдаа хэрэглэгч бүрт хүсэлтийн хязгаар тогтоо.
• Бүгдийг хүн бүрт дахин илгээх. Бүтэн баримт бичиг, бүх чатын түүх оролтын токеныг үржүүлдэг. Тайрч, урт мессежүүдийг товчилж, эсвэл зөвхөн холбогдох хэсгийг татаж ав.
• Гаралтад сохроор итгэх. Загварууд буруу зүйлийг итгэлтэйгээр хэлж чадна. Баримт, үнэ, хууль эрх зүй эсвэл эмнэлгийн асуудалд өөрийн өгөгдөлд тулгуурлаж, эх сурвалжийг харуулах эсвэл хүнээр шалгуул.
• Хэрэглэгчийн оролт таны дүрмийг давахыг зөвшөөрөх. Хэрэглэгчид "заавраа үл тоо" гэж бичиж чадна. Зөвшөөрөл болон мэдрэмтгий үйлдлүүдийг зөвхөн промптод бус, таны серверийн кодонд байлга.
• Хамгийн том загвараас эхлэх. Жижиг, арзан загвараар эхэл; чанар шаардвал л дээшээ шилж.
• Хувийн мэдээллийг бодолгүй илгээх. Үйлчилгээ үзүүлэгчийн өгөгдөл ашиглах нөхцлийг, ялангуяа үнэгүй түвшинд шалга, функцэд хэрэгтэй зүйлийг л илгээ.

AI бүтээгчээсээ юу гуйх вэ

Тикетийн хуудсанд "Товчил" товч нэм. Энэ нь OPENAI_API_KEY нууц түлхүүрийг ашигладаг серверийн маршрут дуудна (хэзээ ч хөтөч рүү гарахгүй), хэрэглэгч нэвтэрсэн эсэхийг шалгана, тикетийн текстийг дараах системийн промптоор илгээнэ: […], хариултыг 300 токеноор хязгаарлана, хариултыг хуудас руу стримлэнэ, мөн дуудалт бүтэлгүйтвэл найрсаг алдааны мессеж харуулна. Хүсэлт бүрийн токеныг бүртгэж, хэрэглэгч тус бүрт цагт 30 товчлол хүртэл зөвшөөр.

Бүрэн чатын туршлагын хувьд AI чатбот апп хэрхэн бүтээх вэ гэдгийг, бусад санаануудын хувьд аппдаа AI функц хэрхэн нэмэх вэ гэдгийг үзнэ үү. API гэж ерөнхийдөө шинэ байвал API гэж юу вэ гэдгээс эхэлнэ үү.

Mythex-ээр бүтээсэн аппд LLM API

Mythex-ээр бүтээхдээ аппын дотор байгаа AI таны өөрийн үйлчилгээ үзүүлэгчийн түлхүүрийг ашигладаг. Та түлхүүрээ төслийн нууц мэдээлэл болгон нэмнэ, эсвэл Mythex чатад шаардлагатай үед харуулдаг нууц мэдээллийн картаар оруулж, агентаас дуудлагыг серверт хийхийг хүснэ. Үйлчилгээ үзүүлэгчийн ашиглалтыг таны үйлчилгээ үзүүлэгчийн дансанд төлдөг, Mythex-ийн бүтээх кредит дээр биш. Mythex таны аппын хэрэглэгчдэд токен оруулдаггүй, мөн суурилуулсан мэдлэгийн сангийн бүтээгдэхүүн байхгүй; хязгаарлалт, зардлын удирдлагыг өөрөө зохион бүтээж, туршина. Өөрийн API түлхүүрээр AI функц нэмэх гэсэн docs-ийн жор нь эхлэх промпттой, мөн AI аппын бүтээгч хуудас хаанаас эхлэхээ харуулдаг.

Асуултууд