RAG дегеніміз не? Retrieval-Augmented Generation қарапайым түсіндірмесі
RAG (retrieval-augmented generation) — AI моделіне сұрақтарға өз ақпаратыңызды пайдаланып жауап беруге мүмкіндік беретін тәсіл. Біреу сұрақ қойғанда, қолданбаңыз алдымен құжаттарыңыздан ең тиісті үзінділерді іздейді, сосын сол үзінділерді сұрақпен бірге модельге береді. Модель жауапты тек оқу кезінде кездейсоқ үйренгеніне сүйенбей, осы мәтіннен жазады.
AI-мен құрғанда RAG неге маңызды
Үлкен тілдік модель дүниені жалпы біледі, бірақ сіздің бизнесіңізді білмейді: бағаларыңызды, саясаттарыңызды, өнім нұсқаулығын, өткен аптадағы қолдау сұраныстарын. Оның оқу шегі де бар, сондықтан соңғы жаңалықтарды білмейді. Соған қарамастан сұрасаңыз, ол сенімді, бірақ қате жауап беруі мүмкін.
Мұны шешудің үш негізгі жолы бар:
| Тәсіл | Ол не істейді | Қай жағдайға жақсы |
|---|---|---|
| Барлығын промптқа салу | Әр сұраққа барлық құжатты жіберу | Аз мәтін — бірнеше бет |
| RAG | Құжаттарыңыздан іздеп, тек тиісті бөліктерін жіберу | Үлкенірек немесе өзгеріп тұратын жинақтар: анықтама орталықтары, нұсқаулықтар, жазбалар |
| Fine-tuning | Модельді мысалдармен қосымша оқыту | Тон, формат және қайталанатын тапсырмалар — өзгеретін фактілер емес |
Заманауи модельдер ұзын промптты қабылдайды, сондықтан қысқа FAQ үшін бірінші тәсіл жиі жеткілікті. RAG өз орнын сонда табады, сіз әр жолы жібергіңіз келмейтін мәтін көп болғанда — себебі жіберген әр сөз ақша мен уақытқа шығады (қараңыз: LLM API қалай төлем алады).
Егер «құжаттарымызбен чат» мүмкіндігін, қолдау көмекшісін немесе ішкі білім құралын құрып жатсаңыз, сіз мейлі қалай болса да RAG-дың бір түрін жасап жатырсыз.
Күнделікті салыстыру
Ашық кітапты емтихан елестетіңіз. Жаттап жауап беретін студент қателесуі немесе болжауы мүмкін. Алдымен дұрыс беттерді ашып, оқып, сосын жауап беруге рұқсаты бар студент әлдеқайда сенімді — егер ол дұрыс беттерді тапса.
- Студент — тілдік модель.
- Оқулық — сіздің құжаттарыңыз.
- Дұрыс бетке парақтау — іздеу (retrieval).
- Сол беттерден жауап жазу — генерация.
RAG — ашық кітап нұсқасы. Және емтихандағыдай, жауаптың сапасы дұрыс беттердің табылғанына көп байланысты.
RAG қалай жұмыс істейді, қадамдап
Типті RAG орнатуында екі кезең бар.
Құжаттарды дайындау (алдын ала орындалады):
- Жинау — дереккөз материалдарын жина: көмек мақалалары, PDF файлдар, саясаттар, өнім деректері.
- Бөлшектеу (chunk) — ұзын құжаттарды кішірек бөліктерге бөл, әдетте бірнеше абзац, сонда іздеу тек қажет бөлігін қайтара алады.
- Эмбеддинг жасау — әр бөлікті эмбеддинг моделіне жібер, ол мәтінді эмбеддингке айналдырады — оның мағынасын сақтайтын сандар тізбегі. Ұқсас нәрселер туралы мәтіндердің сандары да ұқсас болады.
- Сақтау — бөліктерді және олардың эмбеддингтерін ұқсастық бойынша іздей алатын дерекқорда сақта (жиі векторлық дерекқор немесе векторлық индекс деп аталады).
Сұраққа жауап беру (әр жолы орындалады):
- Сұрақты эмбеддингке айналдыр — сол эмбеддинг моделімен.
- Іздеу — сұрақтың эмбеддингіне ең жақын бөліктерді тап, мысалы үздік бесеуін.
- Промпт құру — нұсқаулар, табылған бөліктер және сұрақ.
- Генерация — тілдік модель сол бөліктерге негіздеп жауап жазады, мүмкіндігінше қайсысын пайдаланғанын көрсетеді.
Мағына бойынша іздеу осыны жұмыс істетеді: «ақшамды қайтару» туралы сұрақ ортақ сөз болмаса да «Қайтару саясаты» деген бөлікті таба алады.
Жұмыс мысалы: спортзалдың анықтама көмекшісі
Спортзалда 40 анықтама мақаласы бар делік, және сайтына чат көмекші қойғысы келеді. Мүше сұрайды: «Сапарда жүргенде абонементімді тоқтата аламын ба?»
Қолданба сұрақты эмбеддингке айналдырып, ең жақын үш бөлікті алады. Олардың бірі былай деп жазылған:
Абонементті уақытша тоқтату: Айлық тарифтегі мүшелер жылына
2 айға дейін абонементін тоқтата алады. Оны бастамас бұрын
кем дегенде 7 күн алдын ала қабылдау үстелінде немесе
қолданбада сұраңыз.
Модельге жіберілген промпт мынадай болады:
Сен Northside Gym-нің анықтама көмекшісісің.
Тек төмендегі дереккөздерден жауап бер. Жауап онда болмаса,
білмейтініңді айтып, қабылдау үстеліне хабарласуды ұсын.
Пайдаланған дереккөзіңді көрсет.
[Дереккөз 1: Абонементті уақытша тоқтату] Айлық тарифтегі мүшелер тоқтатады...
[Дереккөз 2: Абонементті болдырмау] ...
[Дереккөз 3: Қонақ рұқсаттары] ...
Сұрақ: Сапарда жүргенде абонементімді тоқтата аламын ба?
Және модель жауап береді: «Иә — айлық тарифте абонементті жылына екі айға дейін тоқтатуға болады. Оны бастамас бұрын кем дегенде 7 күн бұрын қабылдау үстелінде немесе қолданбада сұраңыз (дереккөз: Абонементті уақытша тоқтату).»
Спортзал ешнәрсені қайта оқытпады. Тоқтату саясатын өзгерткенде, ол мақаланы жаңартады, қолданба сол бөлікті қайта эмбеддингтейді, ал келесі жауап соны көрсетеді.
Негізгі терминдер
| Термин | Мағынасы |
|---|---|
| LLM | Үлкен тілдік модель — жауапты жазатын AI. Қараңыз: LLM дегеніміз не. |
| Эмбеддинг | Мәтін бөлігінің мағынасын білдіретін сандар тізбегі. |
| Эмбеддинг моделі | Эмбеддингтер жасайтын модель. Әдетте чат моделінен бөлек және әлдеқайда арзан. |
| Бөлік (chunk) | Құжаттың жеке іздеуге жететіндей етіп кесілген бөлігі. |
| Векторлық дерекқор / векторлық іздеу | Ұқсас эмбеддингтері бар элементтерді табатын сақтау жүйесі. Кейбір кәдімгі дерекқорларда да бар — мысалы, Postgres pgvector кеңейтімі арқылы. |
| Top-k | Әр сұраққа қанша бөлік алынатыны. |
| Гибридті іздеу | Мағына бойынша іздеуді кәдімгі кілт сөздермен іздеумен біріктіру, бұл өнім кодтары сияқты дәл терминдерге көмектеседі. |
| Контекст терезесі | Модельдің бір сұраныста қабылдай алатын мәтін көлемінің шегі. |
| Негіздеу / дәйексөздер | Жауапты нақты табылған дереккөздермен байланыстырып, оларды көрсету. |
Жиі кездесетін түсініспеушіліктер
- «RAG модельді менің деректеріммен оқытады». Олай емес. Модель өзгермейді; ол сұрақ кезінде тек қосымша мәтінді оқиды.
- «RAG галлюцинацияны толық жояды». Ол азайтады. Іздеу дұрыс бөлікті таппаса, немесе жауап құжаттарыңызда болмаса, модель әлі болжауы мүмкін. Оған «білмеймін» деуді тапсыр және жауабын білетін сұрақтармен тексер.
- «Арнайы векторлық дерекқор керек». Көбіне керек емес. Шағын деректер көлемі үшін қазіргі дерекқорыңдағы векторлық кеңейтім не тіпті қарапайым кілт сөздермен іздеу жеткілікті болуы мүмкін.
- «Үлкен бөліктер жақсырақ». Тым үлкен болса, көп тиісіз мәтін жібересіз (шығын көбейеді, шатасу артады); тым кішкентай болса, бөлік өзін мәнді еткен контекстен айырылады. Реттеуге дайын болыңыз.
- «Барлығын жүктей сал». Ескірген, қайталанған немесе қарама-қайшы құжаттар қарама-қайшы жауап береді. Дереккөз материалды тазалау — көбіне ең маңызды жақсарту.
- «Кез келген адам кез келген құжатты көре алады». Олай болады, тек сіз солай жасасаңыз. Кейбір құжаттар белгілі пайдаланушыларға жабық болса, іздеу сұрап тұрған адамға қарай сүзуі керек — әйтпесе көмекші бір клиенттің деректерін екіншісіне келтіріп беруі мүмкін.
Қанша тұрады
RAG мүмкіндігінің әдетте үш жұмыс істейтін шығыны бар: құжаттарды эмбеддингтеу (шағын және негізінен бір реттік), әр сұрақты эмбеддингтеу (өте аз) және тілдік модель шақыруы (негізгі шығын, жіберілетін бөлік санына қарай өседі). Оған қоса дерекқорыңыздағы сақтау. AI провайдерлер мұны өз есептік жазбаңызға есептейді, сондықтан сол жерде шығын шегін қойыңыз.
AI құрастырғышыңыздан не сұрау керек
- «RAG жасамас бұрын тексер: біздің мазмұн промптқа тікелей қосылатындай аз ба?»
- «Көмек мақалаларын бірнеше абзацтан тұратын бөлікке бөл, әр бөліктің атауын және дереккөз сілтемесін сақта, эмбеддингтерді дерекқорда сақта.»
- «Гибридті іздеуді пайдалан — мағынаға және кілт сөзге негізделген, сонда өнім кодтары да табылады.»
- «Модельге тек табылған дереккөздерге сүйену, білмеген кезде соны айту және әр жауаптың астында дереккөздерді көрсету керектігін айт.»
- «Тек кіріп тұрған пайдаланушы көре алатын құжаттарды ғана іздесін.»
- «Құжат өңделген сайын оны автоматты түрде қайта эмбеддингте.»
- «AI провайдер кілтін серверде, құпия ретінде сақта, браузерде ешқашан.»
- «Әр сұрақты, табылған бөліктерді және жауапты жаз, сонда нашар жауаптарды қарай аламын.»
RAG Mythex-те
Mythex дайын білім базасы немесе RAG өнімін қоспайды. Ол сіздің қолданбаңызға соны өзі жазып береді: құжаттарыңызды және өз AI провайдер кілтіңізді жоба құпиясы ретінде сақтайсыз, агент іздеу және чат бөліктерін құрады, сақтау үшін жобаның Postgres дерекқорын пайдаланады. Провайдердің шығыны Mythex кредиттерінен емес, сіздің провайдер есептік жазбаңыздан алынады. Құжаттарда бір қарапайым AI мүмкіндігінен бастап, ол жұмыс істегеннен кейін RAG қосу ұсынылады — AI қолданба құру бетін қараңыз, сондай-ақ AI чатбот қолданбасын құру және қолданбаға AI мүмкіндіктерін қосу мақалаларымызды оқыңыз.
Сұрақтар
Қарапайым тілмен айтқанда, RAG дегеніміз не?
RAG (retrieval-augmented generation) — AI моделін өз ақпаратыңыздан жауап беретін етудің тәсілі. Модель жауап бермес бұрын, қолданбаңыз құжаттарыңыздан сұраққа ең тиісті үзінділерді іздеп, оларды промптқа қосады, сондықтан жауап тек модельдің оқу кезінде үйренгеніне емес, сол мәтінге негізделеді.
RAG AI-ды менің деректерімнен үйрете ме?
Жоқ. RAG модельдің өзін мүлде өзгертпейді. Ол сұрақ қойылған сәтте тиісті мәтінді іздеп, оны сұрақпен бірге модельге береді. Құжатты жаңартсаңыз, келесі жауап жаңа нұсқаны бірден пайдалана алады.
RAG мен fine-tuning бірдей ме?
Жоқ. Fine-tuning модельді мысалдарда қосымша оқыту арқылы оның мінез-құлқын өзгертеді, бұл баяу және стиль немесе формат үшін жақсырақ. RAG модельге сұрақ уақытында оқитын фактілер береді, бұл өзгеретін білім үшін немесе дәлме-дәл келтіру керек ақпарат үшін жақсырақ.
RAG AI-дың галлюцинацияларын тоқтата ала ма?
Ол оларды азайтады, бірақ толық жоймайды. Іздеу қате үзінділерді тапса немесе жауап құжаттарыңызда болмаса, модель әлі болжай алады. Жақсы RAG қолданбалары модельге білмеген кезде соны айтуды және пайдаланған дереккөздерді көрсетуді нұсқайды.