LLM гэж юу вэ? Том хэлний загваруудыг энгийнээр тайлбарлая

LLM, буюу том хэлний загвар, бол хэлийг ойлгож, бичихийн тулд асар их текстээр сургасан AI-ийн нэг төрөл юм. Өгөгдсөн текстээр тэр дараа нь юу ирэх ёстойг нэг жижиг хэсгээр таамаглана, мөн энэ энгийн чадвар асуултанд хариулах, бичих, товчлох, орчуулах, код бичихэд хангалттай болдог. ChatGPT, Claude, Gemini-ийн ард байгаа загварууд бүгд LLM юм.

AI-аар бүтээхэд яагаад чухал вэ

AI app builder-оор бүтээж байгаа бол та LLM-тэй хоёр давхар харьцдаг. Нэгдүгээрт, LLM бүтээж байдаг: тэр таны хүсэлтийг уншиж, өөрчлөлт төлөвлөж, код бичдэг. Хоёрдугаарт, та app-ынхаа дотор LLM хүсч болно — чатбот, хураангуй товч, бичих туслах.

Энэ хоёр тохиолдолд үндсийг ойлгох нь тусална. Энэ нь AI заримдаа тодорхойгүй хүсэлтийг яагаад буруу ойлгодог, яагаад итгэлтэйгээр буруу зүйл гаргаж чаддаг, урт яриа яагаад өмнөх мэдээллээ алдаж болдог, мөн app-дээ AI функц нэмэхэд яагаад хэрэглээ бүрт мөнгө орох вэ гэдгийг тайлбарлана. Математик хэрэггүй — зөв оюунд суурилсан ойлголт л хангалттай.

Өдөр тутмын жишээ

Маш их номын санг — ном, вэбсайт, гарын авлага, код, форум — уншсан, аливаа бичвэрийг тохирсон байдлаар үргэлжлүүлэх маш сайн чадвартай хүнийг төсөөл. Имэйлийн эхлэлийг өгвөл тэр таны өнгөөр дуусгана. Асуулт асуувал тийм асуултын дараа ихэвчлэн ирдэг хариултыг бичнэ.

Гэхдээ тэд шалгах тэмдэглэлгүй, номын сан тодорхой огноогоор хаагдсан. Тэд юмыг хайж олохгүй, хэв маягийг санаж байна. Ихэнхдээ хэв маяг зөв. Заримдаа тэд цоорхойг зөвхөн зөв сонсогдох зүйлээр нөхдөг, яг ижил итгэлтэйгээр.

Энэ бол LLM: маш сайн уншсан, маш сайн ярьдаг бичээч, сайн биш санах ойтой, суурилуулсан баримт шалгагчгүй.

LLM энгийнээр хэрхэн ажилладаг вэ

1. Сургалт. Загварт асар их текст үзүүлж, хэдэн тэрбум дотоод тоо (түүний параметр) тохируулан дараагийн текстийг таамаглахыг сурдаг. Ихэнх LLM-ийн ашигладаг дизайныг transformer гэдэг бөгөөд үүнийг Google-ийн судлаачид 2017 онд танилцуулсан.
2. Тохируулга. Анхдагч загварыг зааврыг дагах, яриа хадгалах, хор хөнөөлтэй гаралтаас зайлсхийхээр нарийвчилна, ихэвчлэн хүний санал хүсэлтээр.
3. Ашиглах (inference). Та prompt илгээхэд загвар түүнийг уншаад токен бүрээр нэг хариулт үүсгэдэг, тэр бүрт өмнөх бүх зүйлийг харгалзан дараагийн магадлалтай токеныг сонгодог.

Дотроо фактын өгөгдлийн сангүй, таны чатаас суралцахаа ч зогсоогоогүй. Яриан дахь бүх «мэддэг» зүйл нь сургалтаас эсвэл яг одоо өмнө нь байгаа зүйлээс — түүний context window-оос — ирдэг.

Жишээ: үйлчилгээний хариу

Та онлайн ургамлын дэлгүүр ажиллуулдаг гэж үзье, мөн LLM-д ингэж наадаг:

Үйлчлүүлэгч бичнэ: «Миний #4412 захиалга эвдэрсэн саваатай ирсэн. Та юу хийж чадах вэ?» Бидний бодлого: гэмтсэн бараа 14 хоногийн дотор зураг илгээвэл үнэгүй солино. Найрсаг хариу бич.

Дараах зүйл болно:

• Текст нэг зуу орчим токенд хуваагдана.
• Загвар бүгдийг уншина: үйлчлүүлэгчийн мессеж, таны бодлого, таны зааварчилгаа.
• Тэр хариуг токен токеноор үүсгэнэ: «Сайн байна уу! Таны сав эвдэрсэн ирсэнд маш их уучлаарай…» гэж зураг хүсэж, үнэгүй солихыг дурдана.

Одоо ижил хүсэлтийг бодлогогүйгээр оролдоод үз. Загвар л найрсаг, итгэлтэй хариу бичнэ — гэвч буцаан олголт, эсвэл 30 хоногийн хугацаа амлаж болно, учир нь энэ нь тэр дэвшүүлсэн тусламжийн имэйлд харсан түгээмэл хэв маяг юм. Энэ бол hallucination, мөн энэ нь LLM-ийн хамгийн практик сургамжийг харуулдаг: тэд таны өгсөн мэдээллийн нарийвчлалтай л тэнцүү байдаг. Найдвартай хариулт шаарддаг app бүр загварт зөв эх материалыг үе бүр өгдөг, үүнийг RAG гэдэг арга юм.

Гол нэр томъёо

Түгээмэл алдаа, буруу ойлголт

• «Тэр юмыг хайж олдог.» Энгийн LLM хайдаггүй. Зарим app вэб хайлт эсвэл баримт олж авах функц нэмдэг ч загвар өөрөө хэв маягаас үүсгэдэг.
• «Итгэлтэй сонсогдвол зөв.» Итгэл ба нарийвчлал хоорондоо хамааралгүй. Нэр, тоо, огноо, үнэ болон хууль эсвэл эмнэлгийн аливаа зүйлийг шалга.
• «Миний хэлсэн бүхнийг санадаг.» Зөвхөн context window-д багтах зүйлийг л. Маш урт ярианд эхний мэдээлэл унаж эсвэл бага анхаарал авч болно. Чухал зүйлээ дахин хэл.
• «Хүн шиг бодож байна.» Тэр асуудлыг сайхан шийдэж чаддаг ч зорилго, итгэл үнэмшил, үр дагаврын ухамсар байхгүй. Гаралтыг шалгах ноорог гэж үз.
• «Том эсвэл шинэ нь үргэлж дээр.» Энгийн, их хэмжээний ажилд жижиг, хямд, хурдан загвар ихэвчлэн зөв сонголт байдаг.
• Хувийн өгөгдлийг шалгахгүйгээр илгээх. Үйлчлүүлэгчийн өгөгдлийг ямар ч AI үйлчилгээнд наахаасаа эсвэл app-д суулгахаасаа өмнө үйлчилгээ үзүүлэгчийн өгөгдөл ашиглах болон хадгалах нөхцлийг шалга.

AI builder-тээ юу гуйх вэ

LLM таны app-ийг бүтээж байх үед:

• «Юу ч өөрчлөхөөсөө өмнө, юуг ойлгосноо болон юу хийхээ надад хэл.»
• «Яг энэ бодлогын текстийг ашигла; дэлгэрэнгүйг зохиохын оронд үгээр үгэнд нь ашигла.»
• «Үнэ, огноо зэрэг фактуудыг бүү таамагла. Орлуулагч үлдээж, тэдгээрийг надад жагсаа.»

Та app-ынхаа дотор LLM хүсэж байгаа бол:

• «Серверээс [provider]-ийн API-г дуудах [хураангуйлах] товч нэм. API түлхүүрийг нууцлалтанд, хөтөчид бүү хадгал.»
• «Хариултууд бодлогоос гарахгүйн тулд бодлогуудаа prompt-д оруул, мөн итгэлгүй үед «мэдэхгүй байна» гэж хэл.»
• «Хариултын урт хязгаарлаж, нэг хэрэглэгч өдөрт хэдэн хүсэлт илгээж болохыг хязгаарла.»
• «Хэрэглээгээ харахын тулд хүсэлт бүрийн зардлыг бүртгэ.»

Алхам алхмаар заавар авах бол app-дээ AI функц хэрхэн нэмэх вэ-ийг үзнэ үү.

LLM ба Mythex

Mythex-ийн бүтээх agent LLM дээр ажилладаг. Бүгд ижил Standard agent-ийг авдаг — загвар сонгогч байхгүй — мөн бүтээхэд Mythex кредит зарцуулдаг. Таны бүтээсэн app-ийн дотор AI функцууд тусдаа: OpenAI эсвэл Anthropic зэрэг үйлчилгээ үзүүлэгчийн API түлхүүрээ өөрөө авч, төслийн нууцлалт болгон хадгална, мөн үйлчилгээ үзүүлэгч тэр хэрэглээний төлбөрийг шууд танаас авна. Docs-ийн app-дээ AI нэмэх жор нь ашиглах prompt-ыг харуулдаг.

Асуултууд