Vad är en LLM? Stora språkmodeller förklarade enkelt

En LLM, eller large language model (stor språkmodell), är en typ av AI som tränats på enorma mängder text så att den kan förstå och generera språk. Givet lite text förutsäger den vad som bör komma härnäst, en liten bit i taget, och den förmågan räcker för att besvara frågor, skriva, sammanfatta, översätta och skriva kod. Modellerna bakom ChatGPT, Claude och Gemini är alla LLM:er.

Varför det spelar roll när du bygger med AI

Om du bygger med en AI-appbyggare arbetar du med en LLM på två sätt. För det första gör en LLM själva bygget: den läser din begäran, planerar ändringar och skriver koden. För det andra kanske du vill ha en LLM inne i din app – en chatbot, en sammanfattningsknapp, en skrivassistent.

Att förstå grunderna hjälper i båda fallen. Det förklarar varför AI:n ibland missförstår en vag begäran, varför den kan producera något fel med stor säkerhet, varför långa konversationer kan göra att den tappar bort tidigare detaljer, och varför AI-funktioner i din app kostar pengar per användning. Du behöver inte matematiken – bara en sund mental modell.

En vardaglig jämförelse

Tänk dig någon som har läst ett overkligt stort bibliotek – böcker, webbplatser, manualer, kod, forum – och blivit extremt bra på att fortsätta på vilken text som helst på ett sätt som passar. Ge dem början på ett mejl så fortsätter de i din ton. Ställ en fråga så skriver de den sortens svar som brukar följa på en sådan fråga.

Men de har inga anteckningar att kontrollera, och biblioteket stängde vid ett visst datum. De återkallar mönster, inte slår upp saker. Oftast stämmer mönstren. Ibland fyller de en lucka med något som bara låter rätt, med exakt samma självsäkerhet.

Det är en LLM: en mycket beläst, mycket flytande skribent med ett ofullkomligt minne och ingen inbyggd faktagranskare.

Så fungerar en LLM, i enkla termer

1. Träning. Modellen matas med enorma mängder text och lär sig, genom att justera miljarder interna tal (dess parametrar), att förutsäga nästa textbit. Designen de flesta LLM:er använder kallas en transformer, som introducerades av forskare på Google 2017.
2. Finjustering. Den råa modellen förfinas sedan för att följa instruktioner, föra en konversation och undvika skadligt innehåll, ofta med hjälp av mänsklig återkoppling.
3. Användning (inferens). När du skickar en prompt läser modellen den och genererar ett svar en token i taget, och väljer varje gång en trolig nästa token utifrån allt som kommit före.

Den har ingen databas med fakta inuti sig, och den lär sig inte av din chatt. Allt den "vet" i en konversation kommer antingen från träningen eller från det som ligger framför den just nu – dess kontextfönster.

Ett praktiskt exempel: ett kundsvar

Säg att du driver en onlinebutik för växter och klistrar in detta i en LLM:

En kund skriver: "Min order #4412 kom med en trasig kruka. Vad kan ni göra?" Vår policy: vi ersätter skadade varor gratis inom 14 dagar om kunden skickar en bild. Skriv ett vänligt svar.

Så här går det till:

• Texten delas upp i tokens, kanske ett hundratal.
• Modellen läser allt: kundens meddelande, din policy och din instruktion.
• Den genererar ett svar token för token: "Hej! Jag är verkligen ledsen att din kruka kom sönder…" och ber om en bild och nämner den kostnadsfria ersättningen.

Prova nu samma förfrågan utan policyn. Modellen skriver fortfarande ett självsäkert, vänligt svar – men den kan lova en återbetalning, eller ett 30-dagarsfönster, eftersom det är vanliga mönster i supportmejl den sett. Det är en hallucination, och den visar den mest praktiska lärdomen om LLM:er: de är bara så korrekta som informationen du ger dem. Appar som behöver tillförlitliga svar matar modellen med rätt källmaterial varje gång, en teknik som kallas RAG.

Viktiga termer förklarade

Vanliga misstag och missuppfattningar

• "Den slår upp saker." En vanlig LLM gör inte det. Vissa appar lägger till webbsökning eller dokumenthämtning, men modellen självt genererar utifrån mönster.
• "Om den låter säker har den rätt." Självsäkerhet och korrekthet hänger inte ihop. Kontrollera namn, siffror, datum, priser och allt juridiskt eller medicinskt.
• "Den minns allt jag sa." Bara det som ryms i kontextfönstret. I mycket långa konversationer kan tidiga detaljer falla bort eller få mindre uppmärksamhet. Upprepa det som är viktigt.
• "Den tänker som en människa." Den kan resonera genom problem imponerande väl, men den har inga mål, övertygelser eller medvetenhet om konsekvenser. Behandla dess output som ett utkast att granska.
• "Större eller nyare är alltid bättre." För en enkel uppgift med hög volym är en mindre, billigare, snabbare modell ofta rätt val.
• Att skicka privat data utan kontroll. Innan du klistrar in kunddata i någon AI-tjänst eller bygger in den i en app, kontrollera leverantörens villkor för dataanvändning och lagring.

Vad du ska be om

När LLM:en bygger din app:

• "Innan du ändrar något, berätta vad du förstod och vad du tänker göra."
• "Här är den exakta policytexten; använd den ordagrant i stället för att hitta på detaljer."
• "Gissa inte på fakta som priser eller datum. Lämna en platshållare och lista dem för mig."

När du vill ha en LLM inne i din app:

• "Lägg till en [sammanfatta]-knapp som anropar [leverantörens] API från servern. Behåll API-nyckeln som en hemlighet, aldrig i webbläsaren."
• "Lägg in våra policyer i prompten så att svaren håller sig till dem, och säg 'jag vet inte' när den är osäker."
• "Begränsa hur långa svar kan vara, och begränsa hur många förfrågningar en användare kan göra per dag."
• "Logga vad varje förfrågan kostade så att jag kan se användningen."

För en steg-för-steg-guide, se hur du lägger till AI-funktioner i din app.

LLM:er och Mythex

Mythex byggagent kör på en LLM. Alla får samma Standard-agent – det finns ingen modellväljare – och bygget använder Mythex-krediter. AI-funktioner inne i appen du bygger är separata: du tar med din egen API-nyckel från en leverantör som OpenAI eller Anthropic, lagrar den som projekthemlighet, och leverantören fakturerar dig direkt för användningen. Docs-receptet lägg till AI i din app visar prompten att använda.

Frågor