Què és RAG? La generació augmentada per recuperació explicada de manera senzilla

RAG (retrieval-augmented generation, generació augmentada per recuperació) és una manera de fer que un model d'IA respongui preguntes amb la teva pròpia informació. Quan algú fa una pregunta, la teva app primer busca als teus documents els fragments més rellevants i després passa aquests fragments al model juntament amb la pregunta. El model escriu la resposta a partir d'aquest text, en lloc de confiar només en el que va aprendre durant l'entrenament.

Per què importa RAG quan crees amb IA

Un gran model de llenguatge sap molt del món en general, però res del teu negoci: els teus preus, les teves polítiques, el manual del teu producte, els tiquets de suport de la setmana passada. A més, té una data de tall d'entrenament, així que no sap res de recent. Si li preguntes igualment, pot produir una resposta segura, plausible i equivocada.

Hi ha tres opcions generals per arreglar-ho:

Enfocament	Què fa	Ideal per a
Posar-ho tot al prompt	Enviar tots els documents amb cada pregunta	Poc text: unes quantes pàgines
RAG	Cercar als documents i enviar només les parts rellevants	Col·leccions grans o que canvien: centres d'ajuda, manuals, notes
Fine-tuning	Entrenar més el model amb exemples	To, format i tasques repetides, no fets que canvien

Els models moderns accepten prompts llargs, així que per a una FAQ curta el primer enfocament sovint funciona. RAG es justifica quan tens més text del que vols enviar cada vegada, perquè cada paraula que envies costa diners i temps (mira com es cobren les APIs de LLM).

Si estàs construint una funcionalitat de «xerra amb la nostra documentació», un assistent de suport o una eina de coneixement interna, gairebé segur que estàs construint alguna forma de RAG.

Una analogia del dia a dia

Imagina un examen amb llibre obert. Un estudiant que ha de contestar de memòria pot recordar malament o inventar-s'ho. Un estudiant que pot anar a les pàgines correctes primer, llegir-les i després contestar és molt més fiable, sempre que trobi les pàgines correctes.

L'estudiant és el model de llenguatge.
El llibre de text són els teus documents.
Anar a les pàgines correctes és la recuperació.
Escriure la resposta a partir d'aquestes pàgines és la generació.

RAG és la versió de llibre obert. I, com en l'examen, la qualitat de la resposta depèn molt de si s'han trobat les pàgines correctes.

Com funciona RAG, pas a pas

Una configuració típica de RAG té dues fases.

Preparar els documents (feta per endavant):

Recopila el material font: articles d'ajuda, PDFs, polítiques, dades de productes.
Fragmenta-ho: divideix els documents llargs en peces més petites, sovint d'uns quants paràgrafs, perquè la cerca pugui retornar només la part rellevant.
Fes els embeddings de cada fragment: envia'l a un model d'embeddings, que converteix el text en un embedding, una llista llarga de nombres que captura el seu significat. Els textos sobre coses similars acaben amb nombres similars.
Emmagatzema els fragments i els seus embeddings en una base de dades que pugui cercar per similitud (sovint anomenada base de dades vectorial o índex vectorial).

Respondre una pregunta (feta cada vegada):

Fes l'embedding de la pregunta amb el mateix model d'embeddings.
Recupera els fragments amb embeddings més propers als de la pregunta, per exemple els cinc primers.
Construeix el prompt: instruccions, els fragments recuperats i la pregunta.
Genera: el model de llenguatge escriu una resposta basada en aquests fragments, idealment citant quins ha usat.

Cercar pel significat és el que fa que això funcioni: una pregunta sobre «recuperar els meus diners» pot trobar un fragment titulat «Política de reemborsament», encara que no comparteixin cap paraula.

Un exemple resolt: l'assistent d'ajuda d'un gimnàs

Suposem que un gimnàs té 40 articles d'ajuda i vol un assistent de xat a la seva web. Un soci pregunta: «Puc pausar la meva subscripció mentre viatjo?»

L'app fa l'embedding de la pregunta i recupera els tres fragments més propers. Un d'ells diu:

Congelació de la subscripció: Els socis amb plans mensuals poden
congelar la subscripció fins a 2 mesos a l'any. Sol·licita-ho a
recepció o a l'app almenys 7 dies abans que comenci la congelació.

El prompt enviat al model es veu més o menys així:

Eres l'assistent d'ajuda de Northside Gym.
Respon només a partir de les fonts següents. Si la resposta no hi és,
digues que no ho saps i suggereix contactar amb recepció.
Indica quina font has usat.

[Font 1: Congelació de la subscripció] Els socis amb plans mensuals poden...
[Font 2: Cancel·lar la subscripció] ...
[Font 3: Pases per a convidats] ...

Pregunta: Puc pausar la meva subscripció mentre viatjo?

I el model respon: «Sí: amb un pla mensual pots congelar la subscripció fins a dos mesos a l'any. Sol·licita-ho a recepció o a l'app almenys 7 dies abans (font: Congelació de la subscripció).»

El gimnàs no ha reentrenat res. Quan canvia la política de congelació, actualitza l'article, l'app torna a fer l'embedding d'aquest fragment i la resposta següent ho reflecteix.

Termes clau

Terme	Significat
LLM	Gran model de llenguatge: la IA que escriu la resposta. Mira què és un LLM.
Embedding	Una llista de nombres que representa el significat d'un text.
Model d'embeddings	Un model que produeix embeddings. Normalment és diferent del model de xat i molt més barat.
Fragment (chunk)	Una peça d'un document, de mida adequada perquè es pugui recuperar sola.
Base de dades vectorial / cerca vectorial	Emmagatzematge que troba elements amb embeddings similars. Algunes bases de dades normals també ho ofereixen, com Postgres amb l'extensió pgvector.
Top-k	Quants fragments es recuperen per pregunta.
Cerca híbrida	Combinar la cerca per significat amb la cerca per paraules clau habitual, que ajuda amb termes exactes com els codis de producte.
Finestra de context	La quantitat màxima de text que un model pot rebre en una sola petició.
Fonamentació / cites	Lligar la resposta a fonts concretes recuperades i mostrar-les.

Idees equivocades habituals

«RAG entrena el model amb les meves dades». No. Res del model canvia; només llegeix text addicional en el moment de la pregunta.
«RAG vol dir que no hi ha més al·lucinacions». Vol dir menys. Si la recuperació no troba el fragment correcte, o la resposta no és als teus documents, el model pot seguir endevinant. Digues-li que respongui «no ho sé» i prova-ho amb preguntes de les quals coneixes la resposta.
«Necessito una base de dades vectorial especial». Sovint no. Per a quantitats modestes de dades, una extensió vectorial a la base de dades que ja tens, o fins i tot una cerca per paraules clau, pot ser suficient.
«Els fragments grans són millors». Si són massa grans, envies molt text irrellevant (més cost, més confusió); si són massa petits, el fragment perd el context que el feia significatiu. Cal ajustar-ho.
«Puja-ho tot». Els documents antics, duplicats o contradictoris donen respostes contradictòries. Netejar el material font sovint és la millora més gran que pots fer.
«Qualsevol pot veure qualsevol document». Només si ho construeixes així. Si alguns documents són privats per a certs usuaris, la cerca ha de filtrar segons qui pregunta; si no, l'assistent podria citar les dades d'un client davant d'un altre.

Quant costa

Una funcionalitat RAG té normalment tres costos recurrents: l'embedding dels documents (petit, i sobretot puntual), l'embedding de cada pregunta (minúscul) i la crida al model de llenguatge (el cost principal, que creix amb quants fragments envies). A més de l'emmagatzematge a la teva base de dades. El teu proveïdor d'IA factura aquests costos al teu compte, així que estableix-hi un límit de despesa.

Què demanar al teu creador d'apps amb IA

«Abans de construir RAG, comprova: el nostre contingut és prou petit per incloure'l directament al prompt?»
«Divideix els articles d'ajuda en fragments de pocs paràgrafs, conserva el títol i l'enllaç de font de cada fragment i emmagatzema els embeddings a la nostra base de dades.»
«Usa cerca híbrida —per significat i per paraules clau— perquè els codis de producte també coincideixin.»
«Diu al model que respongui només a partir de les fonts recuperades, que digui quan no ho sap i que mostri les fonts sota cada resposta.»
«Cerca només els documents que l'usuari connectat pot veure.»
«Torna a fer l'embedding d'un document automàticament cada cop que s'edita.»
«Guarda la clau del proveïdor d'IA al servidor, en un secret, mai al navegador.»
«Registra cada pregunta, els fragments recuperats i la resposta perquè pugui revisar les respostes dolentes.»

RAG a Mythex

Mythex no inclou un producte de base de coneixement o RAG ja fet. El que fa és escriure el codi d'un en la teva app: tu aportes els documents i la teva clau del proveïdor d'IA, guardada com a secret del projecte, i l'agent construeix les parts de recuperació i de xat, usant la base de dades Postgres del projecte per emmagatzemar-ho. L'ús del proveïdor es factura al compte del proveïdor, no en crèdits de Mythex. La documentació suggereix començar amb una funcionalitat d'IA senzilla i afegir RAG quan aquesta funcioni: mira crear una app d'IA, i les nostres guies sobre com crear una app de xatbot amb IA i afegir funcionalitats d'IA.

Preguntes

Què és RAG en termes senzills?

RAG (retrieval-augmented generation, generació augmentada per recuperació) és una manera de fer que un model d'IA respongui amb la teva pròpia informació. Abans que el model contesti, la teva app busca als teus documents els fragments més rellevants per a la pregunta i els inclou al prompt, de manera que la resposta es basa en aquest text i no només en el que el model va aprendre durant l'entrenament.

RAG entrena la IA amb les meves dades?

No. RAG no canvia el model en absolut. Busca el text rellevant en el moment en què es fa la pregunta i el passa al model juntament amb la pregunta. Si actualitzes un document, la resposta següent pot usar la nova versió de seguida.

RAG és el mateix que el fine-tuning?

No. El fine-tuning canvia el comportament d'un model entrenant-lo més amb exemples, cosa que és més lenta i millor per a l'estil o el format. RAG dona al model fets per llegir en el moment de la pregunta, cosa que va millor per a coneixement que canvia o que s'ha de citar amb exactitud.

RAG atura les al·lucinacions de la IA?

Les redueix, però no les elimina. Si la cerca troba els fragments equivocats, o la resposta no és als teus documents, el model encara pot endevinar. Les bones apps RAG diuen al model que digui quan no ho sap i mostren les fonts que han usat.