Hvað er LLM? Stór tungumálalíkön útskýrð einfaldlega

LLM, eða large language model (stórt tungumálalíkan), er tegund af AI sem er þjálfuð á gríðarlegu magni texta svo hún geti skilið og búið til mál. Þegar henni er gefinn texti spáir hún fyrir um hvað ætti að koma næst, einn lítinn bút í einu, og þessi einfalda geta reynist nægja til að svara spurningum, skrifa, draga saman, þýða og skrifa kóða. Líkönin á bak við ChatGPT, Claude og Gemini eru öll LLM.

Af hverju það skiptir máli þegar þú smíðar með AI

Ef þú smíðar með AI-smíðatóli fyrir öpp vinnurðu með LLM á tvo vegu. Í fyrsta lagi er LLM að smíða: hann les beiðnina þína, skipuleggur breytingar og skrifar kóðann. Í öðru lagi gætirðu viljað LLM inni í appinu þínu — spjallmenni, samantektarhnapp, skrifaðstoðarmann.

Að skilja grunnatriðin hjálpar í báðum tilvikum. Það útskýrir af hverju AI misskilur stundum óljósa beiðni, af hverju það getur sjálfsöruggt framleitt eitthvað rangt, af hverju langar samræður geta látið það missa þráðinn í fyrri smáatriðum og af hverju það kostar pening í hvert skipti að bæta gervigreindareiginleikum við appið þitt. Þú þarft ekki stærðfræðina — bara traustan hugarramma.

Hliðstæða úr daglegu lífi

Ímyndaðu þér einhvern sem hefur lesið ótrúlega stórt bókasafn — bækur, vefsíður, handbækur, kóða, spjallborð — og er orðinn óvenju góður í að halda áfram hvaða textabroti sem er á þann hátt sem passar. Gefðu þeim upphaf tölvupósts og þau klára hann í þínum tón. Spurðu spurningar og þau skrifa þá tegund svars sem yfirleitt fylgir slíkri spurningu.

En þau hafa engar glósur til að athuga og bókasafnið lokaði á ákveðinni dagsetningu. Þau eru að rifja upp mynstur, ekki að fletta upp. Oftast eru mynstrin rétt. Stundum fylla þau í eyðu með einhverju sem hljómar rétt, með nákvæmlega sama öryggi.

Það er LLM: afar vel lesinn, mjög reiprennandi rithöfundur með ófullkomið minni og ekkert innbyggt staðreyndaeftirlit.

Hvernig LLM virkar, í einföldum orðum

1. Þjálfun. Líkaninu er sýndur gríðarlegur texti og það lærir, með því að stilla milljarða innri talna (færibreyta, parameters), að spá fyrir um næsta textabút. Hönnunin sem flest LLM nota kallast transformer og var kynnt af vísindamönnum Google árið 2017.
2. Stilling. Hrá líkanið er síðan fínstillt til að fylgja fyrirmælum, halda samtal og forðast skaðlegt efni, oft með endurgjöf frá fólki.
3. Notkun (inference). Þegar þú sendir fyrirmæli les líkanið þau og býr til svar eitt tákn í einu, og velur í hvert sinn líklegt næsta tákn út frá öllu sem á undan kom.

Það geymir engan gagnagrunn af staðreyndum og lærir ekki áfram af spjallinu þínu. Allt sem það „veit“ í samtali kemur annaðhvort úr þjálfuninni eða úr því sem er fyrir framan það núna — samhengisglugganum þess.

Dæmi: svar við þjónustubeiðni

Segjum að þú reki netverslun með plöntur og límir þetta inn í LLM:

Viðskiptavinur skrifar: „Pöntun #4412 kom með brotnum potti. Hvað getið þið gert?“ Stefna okkar: við skiptum út skemmdum vörum án endurgjalds innan 14 daga ef viðskiptavinurinn sendir mynd. Skrifaðu vinalegt svar.

Þetta gerist:

• Textinn er skiptur í tákn, kannski um hundrað eða svo.
• Líkanið les allt: skilaboð viðskiptavinarins, stefnuna þína og fyrirmæli þín.
• Það býr til svar eitt tákn í einu: „Hæ! Mér þykir svo leitt að potturinn þinn kom brotinn…“ og biður um mynd, og nefnir ókeypis endurnýjun.

Prófaðu nú sömu beiðni án stefnunnar. Líkanið skrifar samt öruggt, vinalegt svar — en það gæti lofað endurgreiðslu eða 30 daga glugga, af því að það eru algeng mynstur í þjónustupóstum sem það hefur séð. Það er ofskynjun, og hún sýnir hagnýtustu lexíuna um LLM: þau eru aðeins jafn nákvæm og upplýsingarnar sem þú gefur þeim. Öpp sem þurfa áreiðanleg svör gefa líkaninu réttu heimildirnar í hvert skipti, aðferð sem kallast RAG.

Lykilhugtök útskýrð

Algeng mistök og misskilningur

• „Það flettir hlutum upp.“ Venjulegt LLM gerir það ekki. Sum öpp bæta við vefleit eða skjalaleit, en líkanið sjálft býr til út frá mynstrum.
• „Ef það hljómar öruggt þá hefur það rétt fyrir sér.“ Sjálfstraust og nákvæmni tengjast ekki. Athugaðu nöfn, tölur, dagsetningar, verð og allt lagalegt eða læknisfræðilegt.
• „Það man allt sem ég sagði.“ Aðeins það sem kemst í samhengisgluggann. Í mjög löngum samtölum geta fyrri smáatriði dottið út eða fengið minni athygli. Endurtaktu það sem skiptir máli.
• „Það hugsar eins og manneskja.“ Það getur rökstutt vandamál af áhrifamiklum hætti, en það hefur engin markmið, skoðanir eða vitund um afleiðingar. Meðhöndlaðu úttakið sem drög sem þarf að yfirfara.
• „Stærra eða nýrra er alltaf betra.“ Fyrir einfalt verkefni í miklu magni er minna, ódýrara og hraðvirkara líkan oft rétta valið.
• Að senda einkagögn án þess að athuga. Áður en þú límir gögn viðskiptavina inn í AI-þjónustu eða byggir þau inn í app skaltu athuga gagnanotkunar- og varðveisluskilmála veitandans.

Hvað þú átt að biðja AI-smíðatólið um

Þegar LLM er að smíða appið þitt:

• „Áður en þú breytir einhverju, segðu mér hvað þú skildir og hvað þú ætlar að gera.“
• „Hér er nákvæmi texti stefnunnar; notaðu hann orðrétt í stað þess að búa til smáatriði.“
• „Ekki giska á staðreyndir eins og verð eða dagsetningar. Settu inn ísetningarstað og listaðu þær fyrir mig.“

Þegar þú vilt LLM inni í appinu þínu:

• „Bættu við [samantektar]hnappi sem kallar á API [veitanda] frá þjóninum. Geymdu API-lykilinn sem leyndarmál, aldrei í vafranum.“
• „Settu stefnur okkar í fyrirmælin svo svörin haldi sig við þær, og segðu „ég veit það ekki“ þegar óvíst.“
• „Takmarkaðu hversu langt svörin geta verið og settu þak á hversu margar beiðnir einn notandi getur gert á dag.“
• „Skráðu hvað hver beiðni kostaði svo ég sjái notkunina.“

Fyrir skref-fyrir-skref leiðbeiningar, sjá hvernig þú bætir AI-eiginleikum við appið þitt.

LLM og Mythex

Smíðaagent Mythex keyrir á LLM. Allir fá sama Standard-agentinn — það er enginn líkanavalmynd — og smíði notar Mythex-inneign. AI-eiginleikar inni í appinu sem þú smíðar eru aðskildir: þú kemur með þinn eigin API-lykil frá veitanda eins og OpenAI eða Anthropic, geymir hann sem leyndarmál verkefnisins, og veitandinn rukkar þig beint fyrir notkunina. Skjalauppskriftin bættu AI við appið þitt sýnir fyrirmælin sem nota á.

Spurningar