Mikä on LLM? Suuret kielimallit selitettynä

LLM eli suuri kielimalli on tekoälyn tyyppi, joka on koulutettu valtavalla tekstimäärällä ymmärtämään ja tuottamaan kieltä. Kun sille annetaan teksti, se ennustaa, mikä tulee seuraavaksi, yksi pieni palanen kerrallaan, ja tämä yksinkertainen kyky riittää vastaamaan kysymyksiin, kirjoittamaan, tiivistämään, kääntämään ja kirjoittamaan koodia. ChatGPT, Claude ja Gemini perustuvat kaikki LLM-malleihin.

Miksi sillä on merkitystä, kun rakennat tekoälyllä

Jos rakennat tekoälysovellusrakentajalla, työskentelet LLM:n kanssa kahdesti. Ensinnäkin LLM tekee rakentamisen: se lukee pyyntösi, suunnittelee muutokset ja kirjoittaa koodin. Toiseksi saatat haluta LLM:n sovelluksesi sisälle — chatbotin, yhteenvetopainikkeen tai kirjoitusavustajan.

Perusteiden ymmärtäminen auttaa molemmissa tapauksissa. Se selittää, miksi tekoäly joskus ymmärtää epämääräisen pyynnön väärin, miksi se voi varmasti tuottaa jotain vääriä, miksi pitkät keskustelut voivat saada sen unohtamaan aiemmat yksityiskohdat ja miksi tekoälyominaisuuksien lisääminen sovellukseesi maksaa jokaisesta käytöstä. Et tarvitse matematiikkaa — riittää selkeä mentaalimalli.

Arkinen vertauskuva

Kuvittele joku, joka on lukenut valtavan kirjaston — kirjoja, verkkosivuja, käyttöohjeita, koodia, keskustelupalstoja — ja on tullut erittäin hyväksi jatkamaan mitä tahansa tekstiä sopivalla tavalla. Anna hänelle sähköpostin alku, ja hän viimeistelee sen sinun sävyysi. Kysy kysymys, ja hän kirjoittaa sellaisen vastauksen, joka yleensä seuraa tällaista kysymystä.

Mutta hänellä ei ole muistiinpanoja tarkistettavaksi, ja kirjasto suljettiin tietyllä päivämäärällä. Hän muistelee kuvioita, ei hae tietoa. Useimmiten kuviot ovat oikein. Joskus hän täyttää aukon jollakin, mikä vain kuulostaa oikealta, täsmälleen samalla varmuudella.

Tuo on LLM: erittäin lukenut ja sujuva kirjoittaja, jolla on epätäydellinen muisti eikä sisäänrakennettua faktantarkistajaa.

Miten LLM toimii, yksinkertaisesti

1. Koulutus. Malli näkee valtavan määrän tekstiä ja oppii säätämällä miljardeja sisäisiä lukujaan (sen parametreja) ennustamaan seuraavan tekstipalasen. Suurimman osan LLM:istä käyttämä rakenne on nimeltään transformer, jonka Googlen tutkijat esittelivät vuonna 2017.
2. Viritys. Raakamallia hiotaan seuraamaan ohjeita, käymään keskustelua ja välttämään haitallista tulosta, usein ihmispalautteen avulla.
3. Käyttö (inferenssi). Kun lähetät kehotteen, malli lukee sen ja tuottaa vastauksen yksi token kerrallaan, valiten joka kerta todennäköisen seuraavan tokenin kaiken aiemman perusteella.

Sillä ei ole sisäistä tietokantaa faktoista, eikä se opi jatkuvasti keskustelustasi. Kaikki, mitä se ”tietää” keskustelussa, on peräisin koulutuksesta tai siitä, mikä on sen edessä juuri nyt — sen kontekstiikkunasta.

Esimerkki: asiakastuen vastaus

Oletetaan, että pyörität verkkokasvikauppaa ja liität LLM:lle tämän:

Asiakas kirjoittaa: ”Tilaukseni #4412 saapui rikkinäisen ruukun kanssa. Mitä voitte tehdä?” Käytäntömme: vaihdamme vahingoittuneet tuotteet veloituksetta 14 päivän sisällä, jos asiakas lähettää kuvan. Kirjoita ystävällinen vastaus.

Tapahtuu seuraavaa:

• Teksti jaetaan tokeneiksi, ehkä sadaksi tai niin.
• Malli lukee koko tekstin: asiakkaan viestin, käytäntösi ja ohjeesi.
• Se tuottaa vastauksen token kerrallaan: ”Hei! Olen tosi pahoillani, että ruukku saapui rikki…” ja pyytää kuvaa mainiten veloituksettoman vaihdon.

Kokeile nyt samaa pyyntöä ilman käytäntöä. Malli kirjoittaa silti varman ja ystävällisen vastauksen — mutta se saattaa luvata hyvityksen tai 30 päivän palautusajan, koska ne ovat yleisiä kuvioita tukisähköposteissa, joita se on nähnyt. Tämä on hallusinaatio, ja se näyttää käytännöllisimmän opetuksen LLM:istä: ne ovat vain niin tarkkoja kuin tieto, jonka annat niille. Sovellukset, joiden pitää antaa luotettavia vastauksia, syöttävät mallille oikean lähdemateriaalin joka kerta — tekniikka on nimeltään RAG.

Keskeiset termit selitettynä

Yleisiä virheitä ja väärinkäsityksiä

• ”Se hakee asioita.” Tavallinen LLM ei hae. Jotkin sovellukset lisäävät verkkohaun tai dokumenttihaun, mutta itse malli tuottaa vastauksen kuvioiden perusteella.
• ”Jos se kuulostaa varmalta, se on oikein.” Varmuus ja tarkkuus eivät liity toisiinsa. Tarkista nimet, luvut, päivämäärät, hinnat ja kaikki laillinen tai lääketieteellinen sisältö.
• ”Se muistaa kaiken, mitä sanoin.” Vain se, mikä mahtuu kontekstiikkunaan. Hyvin pitkissä keskusteluissa varhaiset yksityiskohdat voivat pudota pois tai saada vähemmän huomiota. Toista, mikä on tärkeää.
• ”Se ajattelee kuin ihminen.” Se voi päätellä vaikuttavasti ongelmia, mutta sillä ei ole tavoitteita, uskomuksia tai ymmärrystä seurauksista. Käsittele sen tulosta luonnoksena, joka pitää tarkistaa.
• ”Isompi tai uudempi on aina parempi.” Yksinkertaiseen, suuren volyymin tehtävään pienempi, halvempi ja nopeampi malli on usein oikea valinta.
• Yksityisen datan lähettäminen tarkistamatta. Ennen kuin liität asiakasdataa mihin tahansa tekoälypalveluun tai rakennat sen sovellukseen, tarkista palveluntarjoajan data-käytön ja säilytysehdot.

Mitä pyytää tekoälyrakentajalta

Kun LLM rakentaa sovellustasi:

• ”Kerro ennen kuin muutat mitään, mitä ymmärsit ja mitä aiot tehdä.”
• ”Tässä on tarkka käytäntöteksti; käytä sitä sanasta sanaan äläkä keksi yksityiskohtia.”
• ”Älä arvaa faktoja, kuten hintoja tai päivämääriä. Jätä paikkamerkki ja listaa ne minulle.”

Kun haluat LLM:n sovellukseesi:

• ”Lisää [tiivistä]-painike, joka kutsuu [palveluntarjoajan] API:a palvelimelta. Pidä API-avain salaisuutena, ei koskaan selaimessa.”
• ”Laita käytäntömme kehotteeseen, jotta vastaukset pysyvät niissä, ja sano ’en tiedä’, kun olet epävarma.”
• ”Rajoita vastausten pituutta ja rajoita, kuinka monta pyyntöä yksi käyttäjä voi tehdä päivässä.”
• ”Kirjaa jokaisen pyynnön kustannus, jotta näen käytön.”

Vaiheittaisen ohjeen löydät kohdasta kuinka lisäät tekoälyominaisuuksia sovellukseesi.

LLM:t ja Mythex

Mythexin rakennusagentti toimii LLM:n varassa. Kaikilla on sama Standard-agentti — mallivalitsinta ei ole — ja rakentaminen käyttää Mythex-krediittejä. Sovelluksen sisällä olevat tekoälyominaisuudet ovat erillisiä: tuot oman API-avaimesi palveluntarjoajalta, kuten OpenAI tai Anthropic, tallennat sen projektin salaisuutena, ja palveluntarjoaja laskuttaa käytöstä suoraan. Dokumentaation resepti tekoälyn lisääminen sovellukseesi näyttää käytettävän kehotteen.

Kysymykset