Čo je LLM? Veľké jazykové modely jednoducho

LLM, čiže veľký jazykový model, je typ AI trénovaný na obrovskom množstve textu, aby dokázal rozumieť jazyku a generovať ho. Keď dostane nejaký text, predpovedá, čo má nasledovať, po malých kúskoch, a táto jednoduchá schopnosť stačí na odpovedanie na otázky, písanie, sumarizáciu, preklad aj písanie kódu. Modely, na ktorých stoja ChatGPT, Claude a Gemini, sú všetky LLM.

Prečo je to dôležité pri tvorbe s AI

Ak tvoríte s AI app builderom, pracujete s LLM dvakrát. Po prvé, LLM aplikáciu staviate: číta vašu požiadavku, plánuje zmeny a píše kód. Po druhé, možno chcete LLM vnútri svojej aplikácie — chatbota, tlačidlo na zhrnutie, asistenta na písanie.

Pochopenie základov pomôže v oboch prípadoch. Vysvetľuje, prečo AI niekedy nesprávne pochopí nejasnú požiadavku, prečo môže sebavedomo vytvoriť niečo nesprávne, prečo môžu dlhé konverzácie spôsobiť, že stratí prehľad o predchádzajúcich detailoch, a prečo pridanie funkcií AI do aplikácie stojí peniaze za každé použitie. Matematiku nepotrebujete — stačí správny mentálny model.

Každodenné prirovnanie

Predstavte si človeka, ktorý prečítal nepredstaviteľne veľkú knižnicu — knihy, weby, návody, kód, fóra — a stal sa mimoriadne dobrým v pokračovaní akéhokoľvek textu tak, aby sedel. Dajte mu začiatok e-mailu a dokončí ho vo vašom tóne. Položte otázku a napíše odpoveď, aká zvyčajne nasleduje po takejto otázke.

Ale nemá žiadne poznámky, ktoré by mohol skontrolovať, a knižnica sa zatvorila k určitému dátumu. Vybavuje si vzory, nevyhľadáva veci. Vo väčšine prípadov sú vzory správne. Niekedy však medzeru vyplní niečím, čo len znie správne, s rovnakou istotou.

Takto vyzerá LLM: veľmi čitateľný, veľmi plynulý pisateľ s nedokonalou pamäťou a bez vstavanej kontroly faktov.

Ako LLM funguje, prostými slovami

1. Trénovanie. Model dostane obrovské množstvo textu a učí sa, upravovaním miliárd vnútorných čísel (jeho parametrov), predpovedať nasledujúci kúsok textu. Dizajn, ktorý väčšina LLM používa, sa volá transformer a predstavili ho výskumníci Googlu v roku 2017.
2. Doladenie. Surový model sa potom spresní tak, aby nasledoval pokyny, udržal konverzáciu a vyhýbal sa škodlivému výstupu, často pomocou spätnej väzby od ľudí.
3. Používanie (inferencia). Keď pošlete prompt, model ho prečíta a generuje odpoveď po jednom tokene, pričom zakaždým vyberie pravdepodobný nasledujúci token podľa všetkého, čo bolo predtým.

Nemá v sebe databázu faktov a neučí sa ďalej z vášho chatu. Všetko, čo v konverzácii „vie“, pochádza buď z trénovania, alebo z toho, čo má práve pred sebou — z jeho kontextového okna.

Praktický príklad: odpoveď zákazníkovi

Predpokladajme, že prevádzkujete internetový obchod s rastlinami a vložíte do LLM tento text:

Zákazník píše: „Moja objednávka #4412 dorazila s rozbitým kvetináčom. Čo s tým môžete urobiť?“ Naša politika: poškodený tovar vymeníme zadarmo do 14 dní, ak zákazník pošle fotku. Napíš priateľskú odpoveď.

Čo sa stane:

• Text sa rozdelí na tokeny, asi stovku alebo viac.
• Model prečíta celý text: správu zákazníka, vašu politiku a váš pokyn.
• Vygeneruje odpoveď po tokenoch: „Ahoj! Je mi veľmi ľúto, že kvetináč dorazil rozbitý…“ a požiada o fotku, pričom spomenie bezplatnú výmenu.

Teraz skúste rovnakú požiadavku bez politiky. Model stále napíše sebavedomú, priateľskú odpoveď — ale môže sľúbiť vrátenie peňazí alebo 30-dňové okno, pretože to sú bežné vzory v podporných e-mailoch, ktoré videl. To je halucinácia a ukazuje najpraktickejšie ponaučenie o LLM: sú len také presné, aké informácie im dáte. Aplikácie, ktoré potrebujú spoľahlivé odpovede, dávajú modelu zakaždým správny zdrojový materiál, čo je technika zvaná RAG.

Vysvetlenie kľúčových pojmov

Časté chyby a mylné predstavy

• „Hľadá veci.“ Bežný LLM to nerobí. Niektoré aplikácie pridávajú webové vyhľadávanie alebo vyhľadávanie v dokumentoch, ale samotný model generuje z vzorov.
• „Ak znie sebavedomo, je to správne.“ Sebavedomie a presnosť spolu nesúvisia. Kontrolujte mená, čísla, dátumy, ceny a všetko právne alebo lekárske.
• „Pamätá si všetko, čo som povedal.“ Len to, čo sa zmestí do kontextového okna. Pri veľmi dlhých konverzáciách môžu skoršie detaily vypadnúť alebo dostať menej pozornosti. Zopakujte, čo je dôležité.
• „Premýšľa ako človek.“ Dokáže uvažovať o problémoch pôsobivo, ale nemá ciele, presvedčenia ani vedomie dôsledkov. Jeho výstup berte ako návrh na kontrolu.
• „Väčší alebo novší je vždy lepší.“ Pri jednoduchej úlohe s veľkým objemom býva správnou voľbou menší, lacnejší a rýchlejší model.
• Posielanie súkromných dát bez kontroly. Predtým, než vložíte dáta zákazníkov do ktorejkoľvek AI služby alebo ich zabudujete do aplikácie, skontrolujte podmienky poskytovateľa týkajúce sa použitia a uchovávania dát.

Čo požiadať od svojho AI tvorcu

Keď LLM staví vašu aplikáciu:

• „Predtým, než niečo zmeníš, povedz mi, čomu si rozumel a čo urobíš.“
• „Tu je presný text politiky; použi ho doslova a nevymýšľaj detaily.“
• „Nehádaj fakty ako ceny alebo dátumy. Nechaj zástupné miesta a vypíš mi ich.“

Keď chcete LLM vo svojej aplikácii:

• „Pridaj tlačidlo [zhrň], ktoré volá API poskytovateľa [poskytovateľ] zo servera. Kľúč ulož ako tajomstvo, nikdy v prehliadači.“
• „Daj naše politiky do promptu, aby sa odpovede držali pravidiel, a nech povie ‚neviem‘, keď si nie je istý.“
• „Obmedz dĺžku odpovedí a obmedz, koľko požiadaviek môže jeden používateľ denne urobiť.“
• „Zaznamenávaj, koľko stála každá požiadavka, aby som videl využitie.“

Krok za krokom ukážku nájdete v článku ako pridať funkcie AI do aplikácie.

LLM a Mythex

Agent Mythex na tvorbu beží na LLM. Všetci dostávajú rovnaký Standard agent — neexistuje výber modelu — a tvorba spotrebúva kredity Mythex. Funkcie AI vnútri aplikácie, ktorú vytvoríte, sú oddelené: vlastný API kľúč od poskytovateľa, napríklad OpenAI alebo Anthropic, uložíte ako tajomstvo projektu a poskytovateľ vám využitie účtuje priamo. Dokumentačný recept pridanie AI do aplikácie ukazuje prompt, ktorý treba použiť.

Otázky