Què és un LLM? Els models de llenguatge grans explicats fàcilment

Un LLM, o model de llenguatge gran (large language model), és un tipus d'IA entrenada amb quantitats enormes de text perquè pugui entendre i generar llenguatge. Donat un text, prediu quin hauria de ser el següent, un petit fragment cada vegada, i aquesta capacitat senzilla resulta ser suficient per respondre preguntes, escriure, resumir, traduir i escriure codi. Els models darrere de ChatGPT, Claude i Gemini són tots LLM.

Per què importa quan construeixes amb IA

Si construeixes amb un generador d'apps amb IA, estàs treballant amb un LLM de dues maneres. Primer, un LLM és qui fa la construcció: llegeix la teva petició, planifica els canvis i escriu el codi. Segon, potser vols un LLM dins de la teva app —un xatbot, un botó de resum, un assistent d'escriptura.

Entendre les bases t'ajuda en tots dos casos. Explica per què la IA de vegades malinterpreta una petició vaga, per què pot produir amb molta confiança alguna cosa errònia, per què les converses llargues poden fer que perdi el fil dels detalls anteriors, i per què afegir funcions d'IA a la teva app té un cost per ús. No cal que entenguis les matemàtiques; només un model mental sòlid.

Una analogia de la vida quotidiana

Imagina algú que ha llegit una biblioteca immensament gran —llibres, webs, manuals, codi, fòrums— i s'ha tornat extraordinàriament bo a continuar qualsevol text d'una manera que encaixa. Dona-li el començament d'un correu i l'acabarà amb el teu to. Fes-li una pregunta i escriurà el tipus de resposta que normalment segueix a aquesta pregunta.

Però no té apunts per comprovar, i la biblioteca va tancar en una data determinada. Recorda patrons, no busca coses. La majoria de vegades els patrons són correctes. De vegades omplen un buit amb alguna cosa que només sembla correcta, amb exactament la mateixa confiança.

Això és un LLM: un escriptor molt culte i molt fluid, amb una memòria imperfecta i sense un verificador de fets incorporat.

Com funciona un LLM, en termes senzills

Entrenament. El model veu quantitats enormes de text i aprèn, ajustant milers de milions de números interns (els seus paràmetres), a predir el següent fragment de text. El disseny que utilitzen la majoria de LLM es diu transformer, introduït per investigadors de Google el 2017.
Ajust. El model brut es refina després per seguir instruccions, mantenir una conversa i evitar respostes perjudicials, sovint utilitzant retroalimentació humana.
Utilitzar-lo (inferència). Quan envies un prompt, el model el llegeix i genera una resposta un token cada vegada, triant en cada moment el token probable següent, tenint en compte tot el que hi ha abans.

No té dins una base de dades de fets, i no continua aprenent del teu xat. Tot el que «sap» en una conversa prové de l'entrenament o del que té al davant ara mateix —la seva finestra de context.

Un exemple pràctic: una resposta d'atenció al client

Digues que tens una botiga de plantes en línia i enganxes això en un LLM:

Un client escriu: «La meva comanda #4412 ha arribat amb una test trencada. Què podeu fer?» La nostra política: substituïm els articles danyats gratuïtament dins dels 14 dies si el client envia una foto. Escriu una resposta amable.

Això és el que passa:

El text es divideix en tokens, potser unes cent-i-pico.
El model llegeix tot el text: el missatge del client, la teva política i la teva instrucció.
Genera una resposta token a token: «Hola! Lamento molt que la test hagi arribat trencada…» i demana una foto, esmentant la substitució gratuïta.

Ara prova la mateixa petició sense la política. El model igualment escriu una resposta amable i segura, però pot prometre un reemborsament, o una finestra de 30 dies, perquè són patrons habituals en els correus d'atenció al client que ha vist. Això és una al·lucinació, i mostra la lliçó més pràctica sobre els LLM: només són tan precisos com la informació que els dónes. Les apps que necessiten respostes fiables alimenten el model amb el material de referència correcte cada vegada, una tècnica anomenada RAG.

Termes clau explicats

Terme	Què vol dir
Token	Un fragment de text —sovint una paraula o part d'una. Els límits i els preus es compten en tokens.
Finestra de context	Quant text pot considerar el model alhora: el teu prompt, la conversa i qualsevol document.
Prompt	L'entrada que dones al model. Consulta què és el prompt engineering.
Paràmetres	Els números interns après durant l'entrenament. Més no vol dir automàticament millor.
Dades d'entrenament	El text del qual el model va aprendre.
Data de tall del coneixement	La data a partir de la qual el model no té dades d'entrenament, així que no coneix esdeveniments recents tret que se li digui.
Al·lucinació	Resposta fluida i segura de si mateixa, però falsa.
Temperatura	Un ajust de com de variada o predictible és la resposta.
Inferència	Executar el model per obtenir una resposta. És el que pagues per ús.
Multimodal	Models que també poden gestionar imatges, àudio o altres entrades, no només text.
API	La manera en què una app envia prompts a un LLM de forma programàtica. Consulta com utilitzar les API de LLM.

Errors habituals i idees equivocades

«Busca les coses.» Un LLM simple no ho fa. Algunes apps afegeixen cerca web o recuperació de documents, però el model en si genera a partir de patrons.
«Si sona segur, és correcte.» La confiança i la precisió no tenen res a veure. Comprova noms, números, dates, preus i qualsevol cosa legal o mèdica.
«Recorda tot el que he dit.» Només el que cap a la finestra de context. En converses molt llargues, els detalls antics poden caure o rebre menys atenció. Repeteix el que és important.
«Pensa com una persona.» Pot raonar pels problemes de manera impressionant, però no té objectius, creences ni consciència de les conseqüències. Tracta la seva sortida com un esborrany que cal revisar.
«El més gran o el més nou és sempre millor.» Per a una tasca simple i de molt volum, un model més petit, més barat i més ràpid sovint és l'elecció adequada.
Enviar dades privades sense comprovar-ho. Abans d'enganxar dades de clients en qualsevol servei d'IA o d'incorporar-les a una app, comprova les condicions d'ús i de retenció de dades del proveïdor.

Què demanar a la teva eina de construcció IA

Quan el LLM està construint la teva app:

«Abans de canviar res, digues-me què has entès i què faràs.»
«Aquí tens el text exacte de la política; utilitza'l paraula per paraula en lloc d'inventar detalls.»
«No endevinis fets com preus o dates. Deixa un marcador de posició i enumera'm quins són.»

Quan vols un LLM dins de la teva app:

«Afegeix un botó [resumir] que cridi l'API de [proveïdor] des del servidor. Guarda la clau d'API en un secret, mai al navegador.»
«Posa les nostres polítiques al prompt perquè les respostes s'ajustin a elles, i digues "no ho sé" quan no n'estigui segur.»
«Limita quant de llargues poden ser les respostes, i limita quantes sol·licituds pot fer un usuari al dia.»
«Registra quant ha costat cada sol·licitud perquè pugui veure l'ús.»

Per a una guia pas a pas, consulta com afegir funcions d'IA a la teva app.

LLM i Mythex

L'agent de construcció de Mythex funciona amb un LLM. Tothom obté el mateix agent Standard —no hi ha selector de model— i la construcció utilitza crèdits de Mythex. Les funcions d'IA dins de l'app que construeixes són una cosa separada: portes la teva pròpia clau d'API d'un proveïdor com OpenAI o Anthropic, la guardes com a secret del projecte, i el proveïdor et factura aquest ús directament. La recepta de la documentació afegir IA a la teva app mostra el prompt a utilitzar.

Preguntes

Què vol dir LLM?

LLM vol dir large language model (model de llenguatge gran): un model d'IA entrenat amb quantitats molt grans de text per entendre i generar llenguatge. Els models darrere de ChatGPT, Claude i Gemini són LLM.

ChatGPT és un LLM?

ChatGPT és una app de xat construïda sobre els LLM d'OpenAI. El LLM és el model subjacent que genera text; l'app afegeix la interfície de xat, les funcions de memòria, les eines i les capes de seguretat al voltant.

Per què els LLM s'inventen coses?

Un LLM genera les paraules següents més plausibles segons els patrons que ha après, no buscant fets en una base de dades. Quan no té la informació correcta, pot produir text fluid i segur de si mateix però erroni, cosa que s'anomena al·lucinació. Donar-li material de referència i comprovar les seves respostes en redueix el risc.

Els LLM aprenen de les meves converses?

Un model no canvia durant una conversa; només veu el que hi ha a la seva finestra de context. Que les teves converses s'utilitzin més tard per entrenar models futurs depèn de la política del proveïdor i de la teva configuració, així que revisa les condicions del servei que utilitzes.

Què és un token en un LLM?

Un token és un fragment de text que el model llegeix i escriu —sovint una paraula o part d'una paraula. Els límits de context i els preus de les API es mesuren en tokens, així que els prompts i les respostes més llargs costen més.