Co je LLM? Velké jazykové modely jednoduše

LLM, neboli velký jazykový model, je druh AI natrénované na obrovském množství textu, aby dokázala rozumět jazyku a generovat ho. Když dostane nějaký text, předpoví, co má následovat, po malých kouscích, a tato jednoduchá schopnost stačí k tomu, aby odpovídala na otázky, psala, shrnovala, překládala a psala kód. Modely za ChatGPT, Claude a Gemini jsou všechny LLM.

Proč na tom záleží, když stavíte s AI

Když stavíte s nástrojem na tvorbu aplikací s AI, pracujete s LLM dvakrát. Za prvé, LLM aplikaci staví: čte váš požadavek, plánuje změny a píše kód. Za druhé můžete chtít LLM uvnitř své aplikace — chatbota, tlačítko pro shrnutí, asistenta pro psaní.

Základy vám pomohou v obou případech. Vysvětlí, proč AI občas špatně pochopí vágní požadavek, proč může sebejistě vytvořit něco špatného, proč dlouhé konverzace mohou ztratit přehled o dřívějších detailech a proč přidání funkcí AI do aplikace stojí peníze za každé použití. Nepotřebujete matematiku — stačí zdravý mentální model.

Každodenní přirovnání

Představte si člověka, který přečetl nepředstavitelně velkou knihovnu — knihy, weby, návody, kód, diskuze — a stal se mimořádně zdatným v tom, že pokračuje v jakémkoli textu tak, aby to sedělo. Dejte mu začátek e-mailu a dokončí ho ve vašem tónu. Položte otázku a napíše takový typ odpovědi, který na takovou otázku obvykle následuje.

Nemá ale žádné poznámky, do kterých by mohl nahlédnout, a knihovna se k určitému datu zavřela. Vybavuje si vzory, ne věci vyhledává. Většinou jsou vzory správné. Někdy vyplní mezeru něčím, co jen zní správně, se stejnou sebejistotou.

To je LLM: velmi načtený, velmi plynulý pisatel s nedokonalou pamětí a bez vestavěného korektora faktů.

Jak LLM funguje, obecně

1. Trénink. Modelu se ukáže obrovské množství textu a učí se upravováním miliard vnitřních čísel (jeho parametrů) předvídat další část textu. Návrh, který většina LLM používá, se nazývá transformer a v roce 2017 ho představili výzkumníci Googlu.
2. Doladění. Surový model se pak zdokonalí tak, aby plnil instrukce, vedl konverzaci a vyhýbal se škodlivému výstupu, často s použitím lidské zpětné vazby.
3. Použití (inference). Když pošlete prompt, model ho přečte a odpověď generuje po jednom tokenu, pokaždé vybírá pravděpodobný další token vzhledem ke všemu, co bylo předtím.

Nemá uvnitř databázi faktů a nezůstává se učit z vašeho chatu. Všechno, co „ví“ v konverzaci, pochází buď z tréninku, nebo z toho, co je právě před ním — z jeho kontextového okna.

Příklad: odpověď na podporu

Předpokládejme, že provozujete internetový obchod s rostlinami a vložíte tento text do LLM:

Zákazník píše: „Moje objednávka #4412 dorazila s rozbitým květináčem. Co s tím uděláte?“ Naše pravidla: poškozené zboží vyměníme zdarma do 14 dnů, pokud zákazník pošle fotku. Napiš přátelskou odpověď.

Stane se tohle:

• Text se rozdělí na tokeny, asi stovku nebo něco málo navíc.
• Model přečte celý text: zprávu zákazníka, vaše pravidla a váš pokyn.
• Vygeneruje odpověď token po tokenu: „Ahoj! Je mi líto, že vám květináč dorazil rozbitý…“ a požádá o fotku a zmíní bezplatnou výměnu.

Nyní zkuste stejný požadavek bez pravidel. Model stále napíše sebejistou, přátelskou odpověď — ale může slíbit vrácení peněz nebo 30denní lhůtu, protože to jsou běžné vzory v podpůrných e-mailech, které viděl. To je halucinace a ukazuje nejpraktičtější poučení o LLM: jsou jen tak přesné, jako informace, které jim dáte. Aplikace, které potřebují spolehlivé odpovědi, pokaždé dodají modelu správný zdrojový materiál, což je technika zvaná RAG.

Klíčové pojmy vysvětleny

Běžné chyby a omyly

• „Něco vyhledává.“ Prostý LLM nevyhledává. Některé aplikace přidávají webové hledání nebo vyhledávání v dokumentech, ale samotný model generuje z dalších vzorů.
• „Když zní sebejistě, je to správně.“ Sebejistota a přesnost spolu nesouvisí. Kontrolujte jména, čísla, data, ceny a cokoli právního nebo zdravotního.
• „Pamatuje si všechno, co jsem řekl.“ Jen to, co se vejde do kontextového okna. Ve velmi dlouhých konverzacích mohou dřívější detaily vypadnout nebo dostat menší pozornost. Důležité věci zopakujte.
• „Myslí jako člověk.“ Dokáže uvažovat nad problémy impozantně, ale nemá cíle, přesvědčení ani povědomí o důsledcích. Jeho výstup berte jako koncept k revizi.
• „Větší nebo novější je vždy lepší.“ Pro jednoduchý úkol s velkým objemem je často správná volba menší, levnější a rychlejší model.
• Posílání soukromých dat bez kontroly. Než vložíte data zákazníků do jakékoli služby AI nebo je zabudujete do aplikace, zkontrolujte podmínky poskytovatele pro používání a uchovávání dat.

Co žádat od vašeho AI nástroje na tvorbu aplikací

Když LLM staví vaši aplikaci:

• „Než cokoli změníš, řekni mi, čemu jsi rozuměl a co uděláš.“
• „Tady je přesný text pravidel; použij ho doslova a nevymýšlej detaily.“
• „Nehádej fakta jako ceny nebo data. Nech zástupný text a vypiš mi je.“

Když chcete LLM uvnitř své aplikace:

• „Přidej tlačítko [shrnout], které volá API poskytovatele [název] ze serveru. Klíč ukládej do tajného klíče, nikdy v prohlížeči.“
• „Naše pravidla dej do promptu, ať odpovědi zůstávají v jejich mezích, a když si není jistý, ať řekne ‚nevím‘.“
• „Omez délku odpovědí a omez, kolik požadavků může jeden uživatel za den poslat.“
• „Zaznamenávej, kolik každý požadavek stál, abych viděl využití.“

Krok za krokem vás provede článek jak přidat funkce AI do aplikace.

LLM a Mythex

Agent pro stavění v Mythexu běží na LLM. Všichni dostanou stejného agenta Standard — není tu výběr modelu — a stavění spotřebovává kredity Mythexu. Funkce AI uvnitř aplikace, kterou postavíte, jsou oddělené: přinesete vlastní API klíč od poskytovatele, například OpenAI nebo Anthropic, uložíte ho jako tajný klíč projektu a poskytovatel vám za použití účtuje přímo. Návod přidání AI do aplikace v dokumentaci ukazuje prompt, který použít.

Otázky