Hvad er en LLM? Store sprogmodeller forklaret enkelt

En LLM, eller large language model, er en type AI, der er trænet på enorme mængder tekst, så den kan forstå og generere sprog. Givet noget tekst forudsiger den, hvad der skal komme næst, ét lille stykke ad gangen, og den evne viser sig at være nok til at besvare spørgsmål, skrive, opsummere, oversætte og skrive kode. Modellerne bag ChatGPT, Claude og Gemini er alle LLM'er.

Hvorfor det betyder noget, når du bygger med AI

Hvis du bygger med en AI-app-builder, arbejder du med en LLM på to måder. For det første er en LLM den, der bygger: den læser din forespørgsel, planlægger ændringer og skriver koden. For det andet vil du måske have en LLM inde i din app — en chatbot, en opsummeringsknap, en skriveassistent.

Forståelse af det grundlæggende hjælper i begge tilfælde. Det forklarer, hvorfor AI'en nogle gange misforstår en vag forespørgsel, hvorfor den kan producere noget forkert med selvsikkerhed, hvorfor lange samtaler kan få den til at miste overblikket over tidligere detaljer, og hvorfor AI-funktioner i din app koster penge pr. brug. Du behøver ikke matematikken — blot en sund mental model.

En hverdagsanalogi

Forestil dig en person, der har læst et uoverskueligt stort bibliotek — bøger, hjemmesider, manualer, kode, fora — og er blevet usædvanligt god til at fortsætte enhver tekst på en måde, der passer. Giv dem begyndelsen på en mail, og de afslutter den i din tone. Stil et spørgsmål, og de skriver den slags svar, der plejer at følge sådan et spørgsmål.

Men de har ingen noter at tjekke i, og biblioteket lukkede på en bestemt dato. De husker mønstre, de slår ikke noget op. Det meste af tiden er mønstrene rigtige. Nogle gange udfylder de et hul med noget, der blot lyder rigtigt, med præcis samme selvsikkerhed.

Det er en LLM: en meget belæst, meget flydende skribent med en ufuldkommen hukommelse og intet indbygget faktatjek.

Sådan virker en LLM, i enkle termer

1. Træning. Modellen får vist enorme mængder tekst og lærer, ved at justere milliarder af interne tal (dens parametre), at forudsige det næste stykke tekst. Designet de fleste LLM'er bruger, hedder en transformer, og blev introduceret af forskere hos Google i 2017.
2. Finjustering. Den rå model forfines derefter til at følge instruktioner, føre en samtale og undgå skadeligt output, ofte ved hjælp af menneskelig feedback.
3. Brug den (inferens). Når du sender en prompt, læser modellen den og genererer et svar ét token ad gangen og vælger hver gang et sandsynligt næste token ud fra alt, der er før.

Den har ikke en database med fakta indeni, og den lærer ikke løbende af din chat. Alt, den "ved" i en samtale, stammer enten fra træningen eller fra det, der ligger foran den lige nu — dens kontekstvindue.

Et eksempel: et svar til kundeservice

Antag, at du driver en online planteshop og indsætter dette i en LLM:

En kunde skriver: "Min ordre #4412 kom med en knækket potte. Hvad kan I gøre?" Vores politik: vi erstatter beskadigede varer gratis inden for 14 dage, hvis kunden sender et foto. Skriv et venligt svar.

Her er, hvad der sker:

• Teksten deles op i tokens, måske et hundrede eller deromkring.
• Modellen læser det hele: kundens besked, din politik og din instruktion.
• Den genererer et svar token for token: "Hej! Jeg er så ked af, at din potte kom knækket…" og beder om et foto, mens den nævner den gratis erstatning.

Prøv nu den samme forespørgsel uden politikken. Modellen skriver stadig et selvsikkert, venligt svar — men den kan love en refusion eller et 30-dages vindue, fordi det er almindelige mønstre i kundeservice-mails, den har set. Det er en hallucination, og det viser den mest praktiske lektie om LLM'er: de er kun så nøjagtige som de oplysninger, du giver dem. Apps, der har brug for pålidelige svar, giver modellen det rigtige kildemateriale hver gang, en teknik kaldet RAG.

Centrale begreber forklaret

Almindelige fejl og misforståelser

• "Den slår ting op." En almindelig LLM gør ikke det. Nogle apps tilføjer websøgning eller dokumenthentning, men selve modellen genererer ud fra mønstre.
• "Hvis den lyder sikker, har den ret." Selvsikkerhed og nøjagtighed hænger ikke sammen. Tjek navne, tal, datoer, priser og alt juridisk eller medicinsk.
• "Den husker alt, jeg har sagt." Kun det, der passer i kontekstvinduet. I meget lange samtaler kan tidlige detaljer falde ud eller få mindre opmærksomhed. Gentag det, der er vigtigt.
• "Den tænker som et menneske." Den kan ræsonnere imponerende godt gennem problemer, men den har ingen mål, overbevisninger eller bevidsthed om konsekvenser. Betragt dens output som et udkast, du skal gennemgå.
• "Større eller nyere er altid bedre." Til en simpel opgave med stort volumen er en mindre, billigere og hurtigere model ofte det rigtige valg.
• At sende private data uden at tjekke. Før du indsætter kundedata i en AI-tjeneste eller bygger den ind i en app, skal du tjekke udbyderens vilkår for databrug og opbevaring.

Hvad du skal bede din AI-builder om

Når LLM'en bygger din app:

• "Før du ændrer noget, så fortæl mig, hvad du har forstået, og hvad du vil gøre."
• "Her er den præcise politiktekst; brug den ordret i stedet for at opfinde detaljer."
• "Gæt ikke på fakta som priser eller datoer. Lad en pladsholder stå og list dem til mig."

Når du vil have en LLM ind i din app:

• "Tilføj en [opsummer]-knap, der kalder [udbyderens] API fra serveren. Behold API-nøglen i en hemmelighed, aldrig i browseren."
• "Læg vores politikker i prompten, så svarene holder sig til dem, og sig 'Jeg ved det ikke', når den er usikker."
• "Begræns, hvor lange svar kan være, og begræns, hvor mange forespørgsler én bruger kan lave pr. dag."
• "Log, hvad hver forespørgsel kostede, så jeg kan se forbruget."

For en trin-for-trin-gennemgang, se sådan tilføjer du AI-funktioner til din app.

LLM'er og Mythex

Mythex' byggeagent kører på en LLM. Alle får den samme Standard-agent — der er ingen modelvælger — og byggeri bruger Mythex-kreditter. AI-funktioner inde i den app, du bygger, er separate: du medbringer din egen API-nøgle fra en udbyder som OpenAI eller Anthropic, gemmer den som projekthemmelighed, og udbyderen fakturerer dig direkte for forbruget. Docs-opskriften tilføj AI til din app viser, hvilken prompt du skal bruge.

Spørgsmål