LLM дегеніміз не? Үлкен тілдік модельдер қарапайым түсіндіруде

LLM, яғни үлкен тілдік модель — тілді түсіну және генерациялау үшін өте көп мәтінмен оқытылған AI түрі. Оған мәтін берсеңіз, ол келесі бөлікті болжайды, бір-бір кесектен, және бұл қарапайым қабілет сұрақтарға жауап беруге, жазуға, қорытындылауға, аударуға және код жазуға жетеді. ChatGPT, Claude және Gemini-дің негізінде барлығы LLM-дер.

Неге ол AI-мен құрастырған кезде маңызды

AI құрастырушымен жұмыс істеген кезде екі жақтан LLM-мен жұмыс істейсіз. Біріншіден, қолданбаны құрастыруды LLM жасайды: ол сұранысыңызды оқиды, өзгерістерді жоспарлайды және кодты жазады. Екіншіден, қолданбаның ішінде LLM-ді қалауыңыз мүмкін — чатбот, қорытынды жасайтын батырма, жазу көмекшісі.

Негіздерін білу екі жағдайда да көмектеседі. Ол AI айқын емес сұранысты неге дұрыс түсінбейтінін, неге сенімді түрде дұрыс емес нәрсе жасайтынын, ұзақ сөйлесуде неге бұрынғы мәліметтерді ұмытатынын және қолданбаңызға AI мүмкіндіктерін қосқанда әр пайдалану үшін неге ақы төленетінін түсіндіреді. Математиканы білудің қажеті жоқ — жақсы ойлау моделі жеткілікті.

Күнделікті салыстыру

Әлемдегі ең көп кітап оқыған, интернеттен, нұсқаулықтардан, форумдардан және кодтан оқыған, кез келген мәтіннің жалғасын керемет дәл жазатын адамды елестетіңіз. Оған электрондық хаттың басын беріңіз — ол сіздің стиліңізде аяқтайды. Сұрақ қойыңыз — ол осындай сұрақтан кейін әдетте жазылатын жауапты жазады.

Бірақ оның тексеретін жазбалары жоқ, ал кітапхана белгілі бір күні жабылған. Ол фактілерді іздемейді, үлгілерді еске түсіреді. Көбінесе үлгілер дұрыс болады. Кейде ол олқылықты дәл сол сенімділікпен бірдеңемен толтырады, ол тек дұрыс естіледі.

Міне, LLM осындай: өте оқыған, өте шешен жазушы, ешқандай кіріктірілген фактілерді тексеру құралы жоқ, есте сақтауы кемшін.

LLM қалай жұмыс істейді, қарапайым тілмен

1. Оқыту. Модельге көп мәтін көрсетіледі, ол өзінің ішкі параметрлерін (миллиардтаған сандарды) реттеп, келесі мәтінді болжауды үйренеді. Көпшілік LLM қолданатын дизайн transformer деп аталады; оны Google зерттеушілері 2017 жылы ұсынған.
2. Баптау. Шикі модель содан кейін нұсқауларды орындауға, сұхбатты ұстап тұруға және зиянды шығарудан аулақ болуға үйретіледі, көбіне адам кері байланысы арқылы.
3. Пайдалану (инференс). Сіз промпт жібергенде, модель оны оқиды және жауапты бір токеннен генерациялайды, әр қадамда алдындағының барлығын ескере отырып ең ықтимал келесі токенді таңдайды.

Оның ішінде деректер қорындағы фактілер жоқ, және ол сіздің сұхбатыңыздан үйрене бермейді. Сөйлесуде ол «білетін» нәрсе не оқытудан, не қазір алдында тұрған нәрседен келеді — оның контекст терезесі.

Жұмыс мысалы: қолдау жауабы

Антикалық өсімдік дүкенің бар делік, сіз LLM-ге мынаны қоясыз:

Клиент жазады: «Тапсырыс #4412 сынған ыдыспен келді. Не істей аласыздар?» Біздің саясат: зақымдалған тауарды клиент фото жіберсе, 14 күн ішінде тегін ауыстырамыз. Достық жауап жазыңыз.

Мұнда мынадай нәрсе болады:

• Мәтін токендерге бөлінеді — шамамен жүзге жуық.
• Модель бүкіл мәтінді оқиды: клиенттің хабарын, сіздің саясатты және нұсқауыңызды.
• Ол жауапты токенмен генерациялайды: «Сәлем! Ыдыстың сынып келгеніне өте өкінішті…» және фото сұрайды, тегін ауыстыруды айтады.

Енді осы сұраныстың саясатсыз нұсқасын елестетіңіз. Модель әлі де сенімді, достық жауап жазады — бірақ ол ақшаны қайтаруды немесе 30 күндік мерзімді ұсынуы мүмкін, өйткені олар қолдау хаттарында жиі кездеседі. Бұл галлюцинация, және ол LLM туралы ең практикалық сабақты көрсетеді: олар тек өзіңіз берген ақпарат дәрежесінде ғана дәл болады. Нақты жауап беруі керек қолданбалар моделге әр жолы дұрыс дереккөз материалын береді — бұл RAG деп аталатын тәсіл.

Негізгі терминдер түсіндірмесі

Жиі кездесетін қателер мен қате түсініктер

• «Ол фактілерді іздеп көреді». Қарапайым LLM іздемейді. Кейбір қолданбалар веб-іздеу немесе құжат іздеу қосады, бірақ модельдің өзі үлгілерге сүйеніп генерациялайды.
• «Егер сенімді естілсе, демек дұрыс». Сенімділік пен дәлдік бір-біріне қатыстысыз. Есімдерді, сандарды, күндерді, бағаларды және заңды немесе медициналық нәрселерді тексеріңіз.
• «Ол айтқанымның барлығын есте сақтайды». Тек контекст терезесіне сыйғанын. Өте ұзақ сөйлесуде алғашқы мәліметтер жоғалуы немесе назардан тыс қалуы мүмкін. Маңыздысын қайталап айтыңыз.
• «Ол адам сияқты ойлайды». Ол мәселелерді таңқаларлықтай дәлел келтіріп шеше алады, бірақ оның мақсаттары, сенімдері немесе салдарларды түсінуі жоқ. Оның жауабын тексеруге жататын жоба ретінде қараңыз.
• «Үлкені немесе жаңасы әрқашан жақсы». Қарапайым, көп көлемді тапсырма үшін кішірек, арзанырақ және жылдамырақ модель көбіне дұрыс таңдау болады.
• Жеке деректерді тексермей жіберу. Клиент деректерін кез келген AI қызметіне қоймас бұрын немесе қолданбаға енгізбес бұрын, провайдердің деректерді пайдалану және сақтау шарттарын тексеріңіз.

AI құрастырушыңыздан не сұрау керек

LLM сіздің қолданбаңызды құрастырып жатқанда:

• «Ештеңені өзгертпес бұрын, не түсінгеніңізді және не істейтініңізді айтыңыз.»
• «Мына саясаттың дәл мәтіні бар; ойлап таппай, сөзбе-сөз пайдаланыңыз.»
• «Бағалар немесе күндер сияқты фактілерді ойлап таппаңыз. Орын толтырғыш қойып, маған тізіп беріңіз.»

LLM қолданбаңыздың ішінде болғанда:

• «[Қорытындылау] батырмасын қосып, серверден [провайдер] API-ін шақырыңыз. API кілтін құпияда сақтаңыз, браузерде емес.»
• «Саясатты промптқа салыңыз, сонда жауаптар соған сәйкес болады, және сенімсіз болғанда «білмеймін» деп айтсын.»
• «Жауаптардың ұзындығын шектеңіз және бір пайдаланушының күніне жасай алатын сұраныстар санын шектеңіз.»
• «Әр сұраныстың құнын журналға жазыңыз, сонда пайдалануды көре аламын.»

Қадам-қадам нұсқаулық үшін қолданбаға AI мүмкіндіктерін қалай қосу керек бөлімін қараңыз.

LLM және Mythex

Mythex-тің құрастыру агенті LLM негізінде жұмыс істейді. Барлығы бірдей Standard агентін пайдаланады — модель таңдау мүмкіндігі жоқ — ал құрастыру Mythex кредиттерін жұмсайды. Құрастырған қолданбаңыздың ішіндегі AI мүмкіндіктері бөлек: OpenAI немесе Anthropic сияқты провайдерден өз API кілтіңізді әкеліп, оны жоба құпиясы ретінде сақтайсыз, ал пайдалануды провайдер тікелей төлетеді. AI-ды қолданбаңызға қосу құжаттама рецепті қолданатын промптты көрсетеді.

Сұрақтар