Çfarë është një LLM? Modelet e mëdha gjuhësore të shpjeguara thjesht

Një LLM, ose large language model (model i madh gjuhësor), është një lloj AI-je i trajnuar mbi sasi jashtëzakonisht të mëdha teksti, në mënyrë që të kuptojë dhe të gjenerojë gjuhë. Duke marrë një tekst, parashikon çfarë duhet të vijë më pas, një copë të vogël në çdo herë, dhe kjo aftësi e thjeshtë rezulton e mjaftueshme për t’iu përgjigjur pyetjeve, për të shkruar, për të përmbledhur, për të përkthyer dhe për të shkruar kod. Modelet që qëndrojnë pas ChatGPT, Claude dhe Gemini janë të gjitha LLM.

Pse ka rëndësi kur ndërton me AI

Nëse ndërton me një ndërtues aplikacionesh me AI, punon me një LLM dy herë. Së pari, një LLM është ai që ndërton: lexon kërkesën tënde, planifikon ndryshimet dhe shkruan kodin. Së dyti, mund të dëshirosh një LLM brenda aplikacionit tënd — një chatbot, një buton përmbledhjeje, një asistent shkrimi.

Njohja e bazave të ndihmon në të dyja rastet. Shpjegon pse AI-ja ndonjëherë keqkupton një kërkesë të paqartë, pse mund të prodhojë me besim diçka të gabuar, pse bisedat e gjata mund ta bëjnë të humbasë gjurmët e detajeve të mëparshme, dhe pse shtimi i veçorive me AI në aplikacionin tënd kushton para për çdo përdorim. Nuk të duhet matematika — vetëm një model mendor i saktë.

Një analogji e përditshme

Imagjino dikë që ka lexuar një bibliotekë të pamundur të madhe — libra, sajte, manuale, kod, forume — dhe është bërë jashtëzakonisht i mirë në vazhdimin e çdo pjese shkrimi në mënyrë që t’i përshtatet. Jepi fillimin e një email-i dhe do ta përfundojë me tonin tënd. Pyete një pyetje dhe do të shkruajë llojin e përgjigjes që zakonisht vjen pas një pyetjeje të tillë.

Por nuk ka shënime për të kontrolluar, dhe biblioteka u mbyll në një datë të caktuar. Ai rikujton modele, jo kërkon gjëra. Shumicën e herës modelet janë të sakta. Herë pas here mbush një boshllëk me diçka që vetëm tingëllon e saktë, me po aq siguri.

Kjo është një LLM: një shkrues shumë i lexuar dhe i rrjedhshëm, me kujtesë të papërsosur dhe pa verifikues faktesh të integruar.

Si funksionon një LLM, me fjalë të thjeshta

1. Trajnimi. Modeli i tregohet sasi të mëdha teksti dhe mëson, duke rregulluar miliarda numra të brendshëm (parametrat e tij), të parashikojë copën e radhës të tekstit. Dizajni që përdorin shumica e LLM-ve quhet transformer, i prezantuar nga studiuesit e Google në 2017.
2. Përshtatja. Modeli i papërpunuar më pas rafinohet për të ndjekur udhëzime, për të mbajtur një bisedë dhe për të shmangur përmbajtje të dëmshme, shpesh duke përdorur reagimin njerëzor.
3. Përdorimi (inference). Kur dërgon një prompt, modeli e lexon dhe gjeneron një përgjigje një token në çdo herë, duke zgjedhur çdo herë tokenin e radhës më të mundshëm, duke pasur parasysh gjithçka që e ka paraprirë.

Nuk ka brenda një bazë faktesh, dhe nuk vazhdon të mësojë nga chat-i yt. Gjithçka që “di” në një bisedë vjen ose nga trajnimi ose nga ajo që është përpara tij tani — dritarja e kontekstit e tij.

Një shembull i punuar: një përgjigje mbështetëse

Supozo se ke një dyqan online bimësh dhe e ngjit këtë në një LLM:

Një klient shkruan: “Porosia ime #4412 më erdhi me një vazo të thyer. Çfarë mund të bëni?” Politika jonë: zëvendësojmë pa pagesë artikujt e dëmtuar brenda 14 ditësh nëse klienti dërgon një foto. Shkruaj një përgjigje miqësore.

Ja çfarë ndodh:

• Teksti ndahet në tokenë, rreth njëqind ose më shumë.
• Modeli e lexon gjithë tekstin: mesazhin e klientit, politikën tënde dhe udhëzimin.
• Gjeneron një përgjigje token pas tokeni: “Përshëndetje! Më vjen shumë keq që vazoja mbërriti e thyer…” dhe kërkon një foto, duke përmendur zëvendësimin pa pagesë.

Tani provo të njëjtën kërkesë pa politikën. Modeli prapëseprapë shkruan një përgjigje miqësore dhe të sigurt — por mund të premtojë një rimbursim ose një afat 30-ditor, sepse ato janë modele të zakonshme në email-et e mbështetjes që ka parë. Kjo është një halucinacion, dhe tregon mësimin më praktik për LLM-të: janë aq të sakta sa informacioni që u jep. Aplikacionet që kanë nevojë për përgjigje të besueshme i japin modelit materialin e duhur burimor çdo herë, një teknikë e quajtur RAG.

Termat kryesorë të shpjeguar

Gabime dhe keqkuptime të zakonshme

• “Kërkon gjëra.” Një LLM e thjeshtë nuk e bën këtë. Disa aplikacione shtojnë kërkim në web ose marrje dokumentesh, por vetë modeli gjeneron nga modelet.
• “Nëse tingëllon i sigurt, është i saktë.” Siguria dhe saktësia nuk kanë lidhje. Kontrollo emrat, numrat, datat, çmimet dhe çdo gjë ligjore ose mjekësore.
• “Kujton gjithçka që thashë.” Vetëm atë që del në dritaren e kontekstit. Në biseda shumë të gjata, detaje të hershme mund të zhduken ose të marrin më pak vëmendje. Riformulo atë që ka rëndësi.
• “Mendon si njeri.” Mund të arsyetojë mbi problemet në mënyrë mbresëlënëse, por nuk ka qëllime, besime ose vetëdije për pasojat. Trajto daljen e saj si një draft për ta shqyrtuar.
• “Më i madhi ose më i riu është gjithmonë më i mirë.” Për një detyrë të thjeshtë me volum të lartë, një model më i vogël, më i lirë dhe më i shpejtë është shpesh zgjedhja e duhur.
• Dërgimi i të dhënave private pa kontrolluar. Para se të ngjitësh të dhëna klientësh në çdo shërbim AI ose ta ndërtosh në një aplikacion, kontrollo kushtet e ofruesit për përdorimin dhe ruajtjen e të dhënave.

Çfarë t’i kërkosh ndërtuesit tënd me AI

Kur LLM-ja po ndërton aplikacionin tënd:

• “Para se të ndryshosh ndonjë gjë, më thuaj çfarë kuptove dhe çfarë do të bësh.”
• “Ja teksti i saktë i politikës; përdore fjalë për fjalë në vend që të shpikësh detaje.”
• “Mos hamendëso fakte si çmimet ose datat. Lër një vend mbajtës dhe listoji për mua.”

Kur dëshiron një LLM brenda aplikacionit tënd:

• “Shto një buton [përmblidh] që thërret API-n e [ofruesit] nga serveri. Mbaje çelësin API në një sekret, kurrë në shfletues.”
• “Vendos politikat tona në prompt, që përgjigjet të qëndrojnë brenda tyre, dhe thuaj ‘nuk e di’ kur s’je i sigurt.”
• “Kufizo sa të gjata mund të jenë përgjigjet, dhe kufizo sa kërkesa mund të bëjë një përdorues në ditë.”
• “Regjistro sa kushtoi çdo kërkesë, që të shoh përdorimin.”

Për një udhëzues hap pas hapi, shih si të shtosh veçori AI në aplikacionin tënd.

LLM-të dhe Mythex

Agjenti ndërtues i Mythex punon mbi një LLM. Të gjithë marrin të njëjtin agjent Standard — nuk ka zgjedhës modeli — dhe ndërtimi shpenzon kredite Mythex. Veçoritë AI brenda aplikacionit që ndërton janë të ndara: sjell çelësin tënd API nga një ofrues si OpenAI ose Anthropic, e ruan si sekret të projektit, dhe ofruesi të faturon drejtpërdrejt për atë përdorim. Receta e dokumentacionit shto AI në aplikacionin tënd tregon prompt-in që duhet përdorur.

Pyetje