Hva er en LLM? Store språkmodeller forklart enkelt

En LLM, eller stor språkmodell, er en type AI som er trent på enorme mengder tekst, slik at den kan forstå og generere språk. Når den får litt tekst, forutsier den hva som bør komme neste, én liten bit om gangen, og den enkle evnen viser seg å være nok til å svare på spørsmål, skrive, oppsummere, oversette og skrive kode. Modellene bak ChatGPT, Claude og Gemini er alle LLM-er.

Hvorfor det betyr noe når du bygger med AI

Hvis du bygger med en AI-app-bygger, jobber du med en LLM på to måter. For det første gjør en LLM selve byggingen: den leser forespørselen din, planlegger endringer og skriver koden. For det andre vil du kanskje ha en LLM inne i appen din — en chatbot, en oppsummeringsknapp, en skrivehjelper.

Å forstå det grunnleggende hjelper i begge tilfeller. Det forklarer hvorfor AI-en noen ganger misforstår en vag forespørsel, hvorfor den kan produsere noe feil med stor selvsikkerhet, hvorfor lange samtaler kan føre til at den mister tråden i tidligere detaljer, og hvorfor AI-funksjoner i appen din koster penger per bruk. Du trenger ikke matematikken — bare en sunn mental modell.

En hverdagslig sammenligning

Tenk deg noen som har lest et utrolig stort bibliotek — bøker, nettsteder, manualer, kode, fora — og har blitt eksepsjonelt god til å fortsette et stykke skrift på en måte som passer. Gi dem starten på en e-post, og de fullfører den i din tone. Still et spørsmål, og de skriver den typen svar som vanligvis følger et slikt spørsmål.

Men de har ingen notater å sjekke i, og biblioteket stengte på en bestemt dato. De henter frem mønstre, de slår ikke opp ting. Mesteparten av tiden stemmer mønstrene. Noen ganger fyller de et hull med noe som bare høres riktig ut, med nøyaktig samme selvsikkerhet.

Det er en LLM: en svært belest, svært flytende skribent med et ufullkomment minne og ingen innebygd faktasjekker.

Slik fungerer en LLM, med enkle ord

1. Trening. Modellen får se enorme mengder tekst og lærer, ved å justere milliarder av interne tall (sine parametere), å forutsi neste bit tekst. Designet de fleste LLM-er bruker kalles en transformer, og ble introdusert av forskere hos Google i 2017.
2. Finjustering. Den rå modellen forbedres deretter til å følge instruksjoner, holde en samtale og unngå skadelig innhold, ofte ved hjelp av menneskelig tilbakemelding.
3. Bruk (inferens). Når du sender en prompt, leser modellen den og genererer et svar ett token om gangen, og velger hver gang et sannsynlig neste token gitt alt som har kommet før.

Den har ingen faktadatabase inni seg, og den lærer ikke fortløpende av chatten din. Alt den «vet» i en samtale kommer enten fra treningen eller fra det som ligger foran den akkurat nå — kontekstvinduet sitt.

Et eksempel: et kundesvar

Anta at du driver en nettbutikk for planter og limer dette inn i en LLM:

En kunde skriver: «Bestilling #4412 kom med en knust potte. Hva kan dere gjøre?» Vår retningslinje: vi erstatter skadede varer gratis innen 14 dager hvis kunden sender et bilde. Skriv et vennlig svar.

Slik skjer det:

• Teksten deles opp i tokens, kanskje et hundretall.
• Modellen leser alt: kundens melding, retningslinjen din og instruksjonen din.
• Den genererer et svar token for token: «Hei! Så leit at potten kom knust…» og ber om et bilde, og nevner den gratis erstatningen.

Prøv nå den samme forespørselen uten retningslinjen. Modellen skriver fortsatt et selvsikkert, vennlig svar — men den kan love refusjon, eller en 30-dagers frist, fordi det er vanlige mønstre i kundeservice-e-poster den har sett. Det er en hallusinasjon, og den viser den mest praktiske lærdommen om LLM-er: de er bare så nøyaktige som informasjonen du gir dem. Apper som trenger pålitelige svar gir modellen riktig kildemateriale hver gang, en teknikk som kalles RAG.

Viktige begreper forklart

Vanlige feil og misforståelser

• «Den slår opp ting.» En vanlig LLM gjør ikke det. Noen apper legger til websøk eller dokumenthenting, men selve modellen genererer ut fra mønstre.
• «Hvis den høres sikker ut, har den rett.» Selvsikkerhet og nøyaktighet henger ikke sammen. Sjekk navn, tall, datoer, priser og alt juridisk eller medisinsk.
• «Den husker alt jeg har sagt.» Bare det som får plass i kontekstvinduet. I svært lange samtaler kan tidlige detaljer falle bort eller få mindre oppmerksomhet. Gjenta det som er viktig.
• «Den tenker som et menneske.» Den kan resonnere imponerende gjennom problemer, men den har ingen mål, overbevisninger eller bevissthet om konsekvenser. Behandle outputen som et utkast som må gjennomgås.
• «Større eller nyere er alltid bedre.» For en enkel oppgave med høyt volum er en mindre, billigere, raskere modell ofte det riktige valget.
• Å sende private data uten å sjekke. Før du limer inn kundedata i en AI-tjeneste eller bygger det inn i en app, sjekk leverandørens vilkår for bruk og lagring av data.

Hva du skal be AI-byggeren om

Når LLM-en bygger appen din:

• «Før du endrer noe, fortell meg hva du forstod og hva du kommer til å gjøre.»
• «Her er den nøyaktige retningslinjeteksten; bruk den ord for ord i stedet for å finne opp detaljer.»
• «Gjett ikke på fakta som priser eller datoer. Legg inn plassholdere og list dem opp for meg.»

Når du vil ha en LLM inne i appen din:

• «Legg til en [oppsummer]-knapp som kaller [leverandørens] API fra serveren. Behold API-nøkkelen i en hemmelighet, aldri i nettleseren.»
• «Legg retningslinjene våre i prompten slik at svarene holder seg til dem, og si «jeg vet ikke» når du er usikker.»
• «Begrens hvor lange svar kan være, og sett et tak på hvor mange forespørsler én bruker kan gjøre per dag.»
• «Logg hva hver forespørsel kostet, slik at jeg kan se bruken.»

For en steg-for-steg-gjennomgang, se hvordan du legger til AI-funksjoner i appen din.

LLM-er og Mythex

Mythex sin byggeagent kjører på en LLM. Alle får den samme Standard-agenten — det finnes ingen modellvelger — og bygging bruker Mythex-kreditter. AI-funksjoner inne i appen du bygger er separate: du tar med din egen API-nøkkel fra en leverandør som OpenAI eller Anthropic, lagrer den som en prosjekthemmelighet, og leverandøren fakturerer deg direkte for bruken. Dokumentasjonsoppskriften legg til AI i appen din viser prompten du bør bruke.

Spørsmål