Šta je LLM? Veliki jezički modeli jednostavno objašnjeni
LLM, ili veliki jezički model, je vrsta AI-ja obučena na ogromnoj količini teksta tako da može da razume i generiše jezik. Dat mu je tekst, a on predviđa šta treba da sledi, jedan mali deo po deo, i ta jednostavna sposobnost pokazuje se dovoljnom da odgovara na pitanja, piše, sažima, prevodi i piše kod. Modeli iza ChatGPT-a, Claude-a i Gemini-ja su svi LLM-ovi.
Zašto je važno kad pravite uz AI
Ako pravite uz AI alat za aplikacije, dvostruko radite sa LLM-om. Prvo, LLM pravi aplikaciju: čita vaš zahtev, planira izmene i piše kod. Drugo, možda želite LLM unutar svoje aplikacije — chatbot, dugme za sažimanje, asistenta za pisanje.
Osnove vam pomažu u oba slučaja. Objašnjavaju zašto AI ponekad pogrešno razume nejasan zahtev, zašto može samouvereno da proizvede nešto pogrešno, zašto duge konverzacije mogu da ga natepaju da izgubi trag ranijim detaljima i zašto dodavanje AI funkcija u aplikaciju košta novac po upotrebi. Ne treba vam matematika — samo ispravan mentalni model.
Svakodnevna analogija
Zamislite nekoga ko je pročitao neshvatljivo veliku biblioteku — knjige, sajtove, uputstva, kod, forume — i postao izuzetno dobar u nastavljanju bilo kog teksta tako da se uklopi. Date mu početak email-a i on će ga završiti tonom koji odgovara vašem. Postavite pitanje i napisaće vrstu odgovora koja obično sledi takvo pitanje.
Ali nema beleške da proveri i biblioteka je zatvorena na određeni datum. On se seća obrazaca, ne traži informacije. Većinu vremena su obrasci tačni. Ponekad popuni rupu nečim što samo zvuči tačno, sa potpuno istom samouverenošću.
To je LLM: vrlo načitan, vrlo tečan pisac sa nesavršenim pamćenjem i bez ugrađene provere činjenica.
Kako LLM radi, uprošćeno
- Obuka. Model vidi ogromne količine teksta i uči, podešavajući milijarde unutrašnjih brojeva (njegove parametre), da predviđa sledeći deo teksta. Dizajn koji većina LLM-ova koristi zove se transformer, a uveli su ga istraživači Google-a 2017. godine.
- Podešavanje. Sirovi model se zatim dotera da prati uputstva, vodi razgovor i izbegava štetan sadržaj, često uz povratne informacije od ljudi.
- Korišćenje (inferencija). Kada pošaljete prompt, model ga čita i generiše odgovor jedan token po jedan, svaki put birajući verovatan sledeći token na osnovu svega što je pre toga.
On nema bazu činjenica unutar sebe i ne uči dalje iz vašeg ćaskanja. Sve što „zna” u razgovoru dolazi ili iz obuke ili iz onoga što je upravo pred njim — njegovog kontekstnog prozora.
Radni primer: odgovor podršci
Pretpostavimo da vodite internet prodavnicu biljaka i nalepite ovo u LLM:
Kupac piše: „Moja porudžbina #4412 je stigla sa polomljenom saksijom. Šta možete da uradite?” Naša politika: oštećene artikle zamenjujemo besplatno u roku od 14 dana ako kupac pošalje fotografiju. Napiši prijateljski odgovor.
Evo šta se dešava:
- Tekst se deli na tokene, možda stotinak.
- Model čita ceo tekst: poruku kupca, vašu politiku i vaše uputstvo.
- Generiše odgovor token po token: „Zdravo! Veoma mi je žao što je saksija stigla polomljena…” i traži fotografiju, pominjući besplatnu zamenu.
Sada probajte isti zahtev bez politike. Model i dalje napiše samouveren, prijateljski odgovor — ali možda obeća povraćaj novca ili rok od 30 dana, jer su to uobičajeni obrasci u email-ovima podrške koje je video. To je halucinacija, i pokazuje najpraktiviju lekciju o LLM-ovima: tačni su onoliko koliko su informacije koje im date. Aplikacije kojima trebaju pouzdani odgovori svaki put dostavljaju modelu pravi izvorni materijal, tehnika koja se zove RAG.
Ključni pojmovi objašnjeni
| Pojam | Značenje |
|---|---|
| Token | Deo teksta — često reč ili deo reči. Ograničenja i cene mere se u tokenima. |
| Kontekstni prozor | Koliko teksta model može da uzme u obzir odjednom: vaš prompt, razgovor i dokumenti. |
| Prompt | Ulaz koji dajete modelu. Pogledajte šta je prompt engineering. |
| Parametri | Unutrašnji brojevi naučeni tokom obuke. Više nije automatski bolje. |
| Podaci za obuku | Tekst iz kojeg je model učio. |
| Granica znanja | Datum posle kojeg model nema podatke za obuku, pa ne zna nedavne događaje ako mu se ne kažu. |
| Halucinacija | Tečan, samouveren rezultat koji je lažan. |
| Temperatura | Podešavanje koliko su rezultati raznovrsni ili predvidljivi. |
| Inferencija | Pokretanje modela da dobijete odgovor. To plaćate po upotrebi. |
| Multimodalan | Modeli koji mogu da obrađuju i slike, zvuk ili druge ulaze, a ne samo tekst. |
| API | Način na koji aplikacija šalje promptove LLM-u programski. Pogledajte kako koristiti LLM API-je. |
Česte greške i zablude
- „Traži informacije na internetu.” Običan LLM to ne radi. Neke aplikacije dodaju pretragu weba ili pretragu dokumenata, ali sam model generiše iz obrazaca.
- „Ako zvuči sigurno, tačno je.” Samouverenost i tačnost nisu povezane. Proverite imena, brojeve, datume, cene i sve pravno ili medicinski važno.
- „Pamti sve što sam rekao.” Samo ono što stane u kontekstni prozor. U vrlo dugim razgovorima rani detalji mogu da ispadnu ili dobiju manje pažnje. Ponovite ono što je važno.
- „Razmišlja kao čovek.” Može impresivno da rezonuje kroz probleme, ali nema ciljeve, uverenja ili svest o posledicama. Tretirajte njegov rezultat kao nacrt za pregled.
- „Veći ili noviji je uvek bolji.” Za jednostavan zadatak velikog obima, manji, jeftiniji i brži model je često pravi izbor.
- Slanje privatnih podataka bez provere. Pre nego što nalepite podatke klijenata u bilo koji AI servis ili ih ugradite u aplikaciju, proverite uslove provajdera o korišćenju i čuvanju podataka.
Šta tražiti od AI alata
Kada LLM pravi vašu aplikaciju:
- „Pre nego što išta promeniš, reci mi šta si razumeo i šta ćeš da uradiš.”
- „Evo tačnog teksta politike; koristi ga reč po reč umesto da izmišljaš detalje.”
- „Ne nagađaj činjenice poput cena ili datuma. Ostavi mesto za njih i navedi ih za mene.”
Kada želite LLM unutar svoje aplikacije:
- „Dodaj dugme [sažmi] koje poziva API provajdera [naziv] sa servera. API ključ čuvaj u tajni, nikad u pregledaču.”
- „Stavi naše politike u prompt da se odgovori drže njih, i neka kaže ‚ne znam’ kad nije siguran.”
- „Ograniči koliko odgovori mogu biti dugi i ograniči koliko zahteva jedan korisnik može da pošalje dnevno.”
- „Zabeleži koliko je svaki zahtev koštao da vidim potrošnju.”
Za korak-po-korak vodič pogledajte kako dodati AI funkcije u aplikaciju.
LLM-ovi i Mythex
Agent za izgradnju u Mythex-u radi na LLM-u. Svi dobijaju isti Standard agent — nema birača modela — a izgradnja troši Mythex kredite. AI funkcije unutar aplikacije koju pravite su posebne: sami donosite API ključ od provajdera poput OpenAI-ja ili Anthropic-a, čuvate ga kao tajnu projekta, a provajder vam naplaćuje tu upotrebu direktno. Recept u dokumentaciji dodaj AI u svoju aplikaciju pokazuje prompt koji treba koristiti.
Pitanja
Šta znači LLM?
LLM znači veliki jezički model (large language model): AI model obučen na vrlo velikoj količini teksta da razume i generiše jezik. Modeli iza ChatGPT-a, Claude-a i Gemini-ja su LLM-ovi.
Da li je ChatGPT LLM?
ChatGPT je aplikacija za ćaskanje izgrađena na OpenAI-jevim LLM-ovima. LLM je osnovni model koji generiše tekst; aplikacija dodaje interfejs za ćaskanje, funkcije memorije, alate i sigurnosne slojeve oko njega.
Zašto LLM-ovi izmišljaju stvari?
LLM generiše najverovatnije sledeće reči na osnovu obrazaca koje je naučio, a ne tako što traži činjenice u bazi podataka. Kada nema tačne informacije, može da proizvede tečan, samouveren tekst koji je pogrešan, i to se zove halucinacija. Davanje izvornog materijala i provera odgovora smanjuju rizik.
Da li LLM-ovi uče iz mojih razgovora?
Model se ne menja tokom razgovora; vidi samo ono što je u njegovom kontekstnom prozoru. Da li se vaši razgovori kasnije koriste za obuku budućih modela zavisi od politike provajdera i vaših podešavanja, pa proverite uslove servisa koji koristite.
Šta je token u LLM-u?
Token je deo teksta koji model čita i piše — često reč ili deo reči. Ograničenja konteksta i cene API-ja mere se u tokenima, pa duži prompt i duži odgovor koštaju više.