Mga gabay

Ano ang LLM? Large Language Model na Madaling Ipaliwanag

Ang LLM, o large language model, ay uri ng AI na sinanay sa napakaraming teksto para maintindihan at makabuo ng wika. Kapag binigyan ng ilang teksto, hinuhulaan nito kung ano ang dapat sumunod, isang maliit na bahagi sa bawat pagkakataon, at sapat na ang simpleng kakayahang ito para makasagot ng tanong, makasulat, makapag-summarize, makapagsalin at makasulat ng code. Ang mga model sa likod ng ChatGPT, Claude at Gemini ay pawang LLM.

Bakit mahalaga ito kapag gumagawa ka gamit ang AI

Kapag gumagawa ka gamit ang AI app builder, dalawang beses kang nakikitungo sa LLM. Una, may LLM na gumagawa ng app: binabasa nito ang hiling mo, nagpaplano ng pagbabago at sumusulat ng code. Pangalawa, baka gusto mo ng LLM sa loob mismo ng app mo — isang chatbot, button na nagsu-summarize, o assistant sa pagsusulat.

Makakatulong ang pag-unawa sa mga pangunahing kaalaman sa parehong kaso. Ipinapaliwanag nito kung bakit minsan hindi naiintindihan ng AI ang malabong hiling, bakit kumpiyansa itong makagagawa ng maling bagay, bakit maaaring makalimutan nito ang mga naunang detalye sa mahahabang usapan, at bakit may kaakibat na gastos sa bawat paggamit ang pagdaragdag ng AI feature sa app mo. Hindi mo kailangan ng matematika — sapat na ang tamang mental model.

Isang pang-araw-araw na halimbawa

Isipin ang isang taong nakabasa ng hindi maisip na laki ng library — mga libro, website, manwal, code, forum — at naging napakahusay sa pagpapatuloy ng anumang sulatin sa paraang bagay dito. Bigyan mo sila ng simula ng email at tatapusin nila ito sa tono mo. Magtanong ka at isusulat nila ang uri ng sagot na karaniwang sumusunod sa ganoong tanong.

Pero wala silang mga tala na matitingnan, at nagsara ang library sa isang tiyak na petsa. Naaalala nila ang mga pattern, hindi naghahanap ng impormasyon. Karamihan ng oras tama ang mga pattern. Minsan, pinupunan nila ang puwang ng bagay na tunog lang tama, nang may parehong kumpiyansa.

Iyan ang LLM: isang lubhang marunong magsulat, napaka-fluent, may hindi perpektong memorya at walang built-in na fact-checker.

Paano gumagana ang LLM, sa simpleng paliwanag

  1. Training. Ipinapakita sa model ang napakaraming teksto at natututo ito, sa pamamagitan ng pag-aayos ng bilyon-bilyong internal na numero (ang parameters nito), na hulaan ang susunod na bahagi ng teksto. Ang disenyong karamihan sa LLM ang gumagamit ay tinatawag na transformer, ipinakilala ng mga mananaliksik ng Google noong 2017.
  2. Tuning. Pagkatapos, pinipino ang raw na model para sumunod sa mga instruksyon, magpanatili ng usapan at iwasan ang nakasasamang output, kadalasan gamit ang feedback ng tao.
  3. Paggamit (inference). Kapag nagpadala ka ng prompt, binabasa ito ng model at bumubuo ng sagot na isang token sa bawat pagkakataon, bawat beses na pumipili ng malamang na susunod na token batay sa lahat ng nauna.

Wala itong database ng mga katotohanan sa loob, at hindi ito patuloy na natututo mula sa chat mo. Ang lahat ng “alam” nito sa isang usapan ay mula sa training o mula sa nasa harap nito ngayon — ang context window nito.

Isang halimbawang gawa: sagot sa customer support

Ipagpalagay na may online plant shop ka at idinikit mo ito sa isang LLM:

Sumulat ang customer: “Dumating ang order #4412 ko na basag ang paso. Ano ang magagawa ninyo?” Ang patakaran namin: pinapalitan namin nang libre ang nasirang item sa loob ng 14 na araw kung magpapadala ang customer ng larawan. Sumulat ng magiliw na sagot.

Narito ang nangyayari:

  • Hinahati ang teksto sa mga token, mga isang daan siguro.
  • Binabasa ng model ang buong teksto: ang mensahe ng customer, ang patakaran mo at ang instruksyon mo.
  • Bumubuo ito ng sagot na token por token: “Hi! Pasensya na po at basag ang paso ninyo pagdating…” at humihingi ng larawan, binabanggit ang libreng kapalit.

Subukan naman ang parehong hiling nang walang patakaran. Susulat pa rin ang model ng kumpiyansa at magiliw na sagot — pero baka mangako ng refund, o 30-araw na palugit, dahil karaniwang pattern ang mga iyon sa mga support email na nakita nito. Iyon ay hallucination, at ipinapakita nito ang pinaka-praktikal na aral tungkol sa LLM: kasing-tumpak lang sila ng impormasyong ibinibigay mo sa kanila. Ang mga app na nangangailangan ng maaasahang sagot ay nagbibigay sa model ng tamang source material sa bawat pagkakataon, isang teknik na tinatawag na RAG.

Mga terminong ipinaliwanag

TerminoIbig sabihin
TokenBahagi ng teksto — kadalasan isang salita o bahagi nito. Ang mga limitasyon at presyo ay binibilang sa tokens.
Context windowGaano karaming teksto ang kayang isaalang-alang ng model nang sabay: ang prompt mo, ang usapan at anumang dokumento.
PromptAng input na ibinibigay mo sa model. Tingnan ang ano ang prompt engineering.
ParametersMga internal na numerong natutunan sa training. Hindi awtomatikong mas mabuti ang mas marami.
Training dataAng tekstong pinag-aralan ng model.
Knowledge cutoffAng petsa pagkatapos nito ay walang training data ang model, kaya hindi nito alam ang kamakailang pangyayari maliban kung sabihan.
HallucinationMaayos at kumpiyansang output na mali.
TemperatureSetting kung gaano kaiba-iba o kahulaan ang output.
InferencePagpapatakbo ng model para makakuha ng sagot. Ito ang binabayaran mo kada paggamit.
MultimodalMga model na kaya ring humawak ng larawan, audio o iba pang input, hindi lang teksto.
APIParaan para magpadala ng app ng prompt sa LLM nang programmatically. Tingnan ang paano gamitin ang LLM APIs.

Karaniwang pagkakamali at maling akala

  • “Naghahanap ito ng impormasyon.” Hindi ginagawa iyon ng payak na LLM. May ilang app na nagdaragdag ng web search o document retrieval, pero ang model mismo ay bumubuo mula sa mga pattern.
  • “Kapag parang sigurado, tama.” Walang kinalaman ang kumpiyansa sa katumpakan. Suriin ang mga pangalan, numero, petsa, presyo at anumang legal o medikal.
  • “Naaalala nito ang lahat ng sinabi ko.” Ang nasa context window lang. Sa napakahabang usapan, maaaring mawala o hindi na mabigyang-pansin ang mga naunang detalye. Ulitin ang mahahalaga.
  • “Nag-iisip ito na parang tao.” Kaya nitong mangatwiran nang kahanga-hanga sa mga problema, pero wala itong layunin, paniniwala o kamalayan sa kahihinatnan. Ituring ang output nito bilang draft na susuriin.
  • “Laging mas maganda ang mas malaki o mas bago.” Para sa simple at maraming bilang na gawain, kadalasang tamang pagpili ang mas maliit, mas mura at mas mabilis na model.
  • Pagpapadala ng pribadong datos nang hindi tinitingnan. Bago mo idikit ang datos ng customer sa anumang AI service o ilagay ito sa app, suriin ang data-use at retention terms ng provider.

Ano ang hihilingin sa AI builder mo

Kapag ang LLM ang nagbu-build ng app mo:

  • “Bago ka magbago ng anuman, sabihin mo sa akin kung ano ang naintindihan mo at ang gagawin mo.”
  • “Narito ang eksaktong teksto ng patakaran; gamitin ito nang salita por salita sa halip na mag-imbento ng detalye.”
  • “Huwag manghula ng mga katotohanan gaya ng presyo o petsa. Maglagay ng placeholder at ilista ang mga ito para sa akin.”

Kapag gusto mo ng LLM sa loob ng app mo:

  • “Magdagdag ng [summarise] na button na tumatawag sa API ng [provider] mula sa server. Itago ang API key sa secret, hindi kailanman sa browser.”
  • “Ilagay ang mga patakaran namin sa prompt para manatili sa mga ito ang mga sagot, at sabihing ‘hindi ko alam’ kapag hindi sigurado.”
  • “Limitahan kung gaano kahaba ang mga sagot, at magtakda ng hangganan kung ilang request ang kaya ng isang user kada araw.”
  • “I-log kung magkano ang nagastos ng bawat request para makita ko ang paggamit.”

Para sa hakbang-hakbang na gabay, tingnan ang paano magdagdag ng AI features sa app mo.

LLM at Mythex

Tumatakbo sa LLM ang building agent ng Mythex. Iisa ang Standard agent para sa lahat — walang model picker — at gumagamit ng Mythex credits ang pagbu-build. Hiwalay ang mga AI feature sa loob ng app na ginawa mo: sarili mong API key mula sa provider gaya ng OpenAI o Anthropic ang dadalhin mo, ilalagay mo ito bilang project secret, at ang provider mismo ang maniningil sa iyo para sa paggamit na iyon. Ipinapakita ng docs recipe na magdagdag ng AI sa app mo ang prompt na gagamitin.

Mga tanong

Ano ang ibig sabihin ng LLM?

Ang LLM ay large language model: AI model na sinanay sa napakalaking dami ng teksto para maintindihan at makabuo ng wika. Ang mga model sa likod ng ChatGPT, Claude at Gemini ay mga LLM.

LLM ba ang ChatGPT?

Ang ChatGPT ay chat app na nakabatay sa mga LLM ng OpenAI. Ang LLM ang pinagbabatayang model na gumagawa ng teksto; idinadagdag ng app ang chat interface, memory feature, tool at safety layer sa paligid nito.

Bakit nag-iimbento ng mga bagay ang LLM?

Ang LLM ay bumubuo ng pinaka-malamang na susunod na mga salita batay sa mga pattern na natutunan nito, hindi sa pagtingin ng datos sa database. Kapag kulang ito sa tamang impormasyon, makakagawa ito ng maayos at kumpiyansang teksto na mali, na tinatawag na hallucination. Ang pagbibigay ng source material dito at pagsusuri sa mga sagot nito ay nakababawas ng panganib.

Natututo ba ang LLM mula sa mga usapan ko?

Hindi nagbabago ang model habang may usapan; nakikita lang nito ang nasa context window nito. Kung gagamitin ang mga usapan mo para sanayin ang mga susunod na model ay nakadepende sa patakaran ng provider at sa mga setting mo, kaya suriin ang terms ng serbisyong ginagamit mo.

Ano ang token sa LLM?

Ang token ay bahagi ng teksto na binabasa at isinusulat ng model — kadalasan isang salita o bahagi ng salita. Ang limitasyon sa context at presyo ng API ay sinusukat sa mga token, kaya mas mahal ang mas mahahabang prompt at sagot.

Mythex · Pricing · Gumawa ng kahit ano gamit ang AI · Mga template ng website at app · Paghahambing ng Mythex · Glosaryo ng paggawa ng app gamit ang AI · Mga libreng tool sa paggawa ng app gamit ang AI · English

English አማርኛ العربية Български বাংলা Bosanski Català Čeština Dansk Deutsch Ελληνικά Español Español (España) Eesti فارسی Suomi Français Français (Canada) ગુજરાતી हिन्दी Hrvatski Magyar Հայերեն Bahasa Indonesia Íslenska Italiano 日本語 ქართული Қазақ тілі ಕನ್ನಡ 한국어 Lietuvių Latviešu Македонски മലയാളം Монгол मराठी Bahasa Melayu မြန်မာ Norsk bokmål Nederlands ਪੰਜਾਬੀ Polski Português (Brasil) Português (Portugal) Română Русский Slovenčina Slovenščina Soomaali Shqip Srpski Svenska Kiswahili தமிழ் తెలుగు ไทย Türkçe Українська اردو Tiếng Việt 简体中文 繁體中文(香港) 繁體中文(台灣)