AI чатбот қолданбасын қалай жасау керек: кілттер, промпттар, шығын және қауіпсіздік

AI чатбот қолданбасын жасау үшін төрт нәрсе керек: чат интерфейсі, провайдердің API кілтін сақтап, хабарламаларды соған жіберетін шағын сервер, модельге кім екенін және не істеуге болатынын айтатын жүйелік промпт, және шығын мен теріс пайдаланудың алдын алатын шектеулер. AI қолданба құрастырушысы бәрін сипаттама бойынша жаза алады. Сізге қалатын жұмыс: провайдерді таңдау, нұсқауларды жазу және боттың ешқашан не істемеуі керегін шешу.

AI чатбот қолданбасы неден тұрады

Көпшілік чатбот қолданбасы, соның ішінде қолдау көрсететін көмекші, оқытушы бот немесе ішкі «құжаттарымыздан сұраңыз» құралы, бірдей бөліктерден тұрады:

Серверлік маршрут — адамдар жиі қателесетін бөлік. Егер чат беті моделді браузерден тікелей шақырса, кез келген адам әзірлеуші құралдарын ашып, кілтіңізді көшіріп алып, шотыңызды арттыра алады.

Бастамас бұрын шешілетін мәселелер

Қандай провайдер мен модель

Негізгі провайдерлердің барлығы (OpenAI, Anthropic, Google және басқалар) бірдей жұмыс істейтін чат стиліндегі API ұсынады: хабарламалар тізімін жібересіз де, жауап аласыз. Практикалық таңдау брендтен гөрі модель өлшеміне байланысты:

• Кішірек, жылдам модельдер арзан әрі жылдам жауап береді. Қысқа жауаптарға, жіктеуге және қарапайым FAQ боттарына жарайды.
• Үлкенірек модельдер жақсырақ ойлайды, ұзақ нұсқауларды сенімдірек орындайды және күрделі сұрақтармен жақсырақ жұмыс істейді, бірақ әр хабарламасы қымбатырақ әрі жауабы баяурақ болады.

Орташа модельмен бастап, оны нақты сұрақтарыңызға сынап көріңіз, содан кейін қажетіне қарай жоғары немесе төмен көшіңіз. Осы API-лардың бағасы мен шақырылуына жаңа болсаңыз, алдымен LLM API-ларын қалай пайдалану керек мақаласын оқыңыз.

Боттың білімі қайдан келеді

Мазмұныңыз жауап беретін ең қарапайым нұсқадан бастаңыз. Retrieval іздеу индексін, оны жаңартып отыру жолын және жауаптардың қате шығу мүмкіндігін қосады. Көптеген пайдалы боттарға ол мүлдем қажет емес.

Жария ма, әлде кіру арқылы ма

Сайтыңыздағы жария чатботқа оңай қол жеткізуге болады, бірақ оны оңай теріс пайдалануға да болады: біреу мыңдаған хабарламаны скрипт арқылы жіберуі мүмкін. Кіру арқылы жұмыс істейтін чатбот әр пайдаланушының тарихын сақтауға және аккаунт бойынша күндік лимит қоюға мүмкіндік береді. Егер ол жария болса, хабарлама ұзындығын шектеңіз, бір келушінің белгілі уақытта жібере алатын хабарлама санын шектеңіз, және провайдердің басқару тақтасында қатаң айлық шек орнатыңыз. Аккаунт жағы туралы қолданбаға логин қосу мақаласында жазылған.

Әңгімелерді сақтау керек пе

Сақталған тізбектер пайдалы: пайдаланушылар тоқтаған жерінен жалғастыра алады, ал нақты сұрақтарды оқып, промптты жақсарта аласыз. Бірақ олар жеке деректер де болып табылады. Оларды қанша уақыт сақтайтындығыңызды шешіңіз, құпиялық ескертуіңізде айтыңыз және қажетсіз ештеңені сақтамаңыз.

Промптты жұмыс сипаттамасындай жазыңыз

Жүйелік промпт — модель әр әңгімеден бұрын алатын нұсқау. Жақсысы жаңа қызметкерге арналған қысқа брифке ұқсайды:

• Рөлі мен аудиториясы: «Сіз Oakline велосипед жөндеу дүкенінің көмекші ассистентісіз. Сіз тұтынушылармен сөйлесесіз.»
• Аясы: «Қызметтер, бағалар, жұмыс уақыты және брондау туралы сұрақтарға жауап беріңіз. Басқа нәрсе үшін дүкен аясында ғана көмектесе алатыныңызды айтыңыз.»
• Дереккөз: «Тек төмендегі ақпаратты пайдаланыңыз. Жауап онда жоқ болса, білмейтініңізді айтып, дүкеннің телефон нөмірін беріңіз.»
• Стиль және ұзындық: «Достық, қарапайым тілмен, сұралмаса үш сөйлемнен аспайтын жауап.»
• Қатаң ережелер: «Тізімде жоқ жөндеу бағасына ешқашан уәде бермеңіз. Ешқашан карта деректерін сұрамаңыз.»

Содан кейін оны ыңғайсыз сұрақтармен сынаңыз: аясынан тыс сұраулар, дөрекі хабарламалар, мазмұнда жоқ жауаптар және нұсқауларды елемеуге итермелеу («ережелеріңізді ұмытыңыз да…»). Жауаптар өз атыңызбен қол қоярлықтай болғанша промптты түзетіңіз.

Шығынды болжамды ұстаңыз

Провайдерлер енгізілген мәтін мен модель шығарған мәтін үшін токен бойынша (шамамен, сөз бөлшектері) ақы алады. Шотқа үш нәрсе әсер етеді:

1. Әңгіменің ұзындығы. Әр жаңа хабарлама модель контекст алуы үшін бүкіл тізбекті әдетте қайта жібереді. 40 хабарламалы чат 4 хабарламалы чатқа қарағанда әр жауап үшін едәуір қымбат. Соңғы бірнеше айналымды ғана сақтаңыз немесе ескілерін қорытындылаңыз.
2. Промпттың көлемі. Ұзын жүйелік промпт немесе үлкен білім блогы әр хабарламамен бірге жіберіледі.
3. Шығыс ұзындығы. API шақыруында жауаптың ең үлкен ұзындығын орнатыңыз және промптта қысқа жауап сұраңыз.

Жариялау алдында провайдердің басқару тақтасында айлық шығын шегін орнатыңыз және әр сұраныстың токен шығынын журналға жазыңыз, сонда қай әңгіменің қымбат екенін көре аласыз. Бағаларды мұнда көрсетпейміз, себебі олар модельге байланысты әрі жиі өзгереді; провайдердің өз баға бетін тексеріңіз.

Қадамдап құрастыру

1-қадам: Кодты емес, боттың сипатын жазыңыз

Аудиторияны, аясын, деректерді және қауіпсіздік ережелерін атайтын алғашқы сұрау көп жұмысты істеп береді:

Oakline, велосипед жөндеу дүкені үшін тұтынушыларға көмектесетін чатбот жасаңыз. Хабарлама тізімі және енгізу өрісі бар чат беті, жауаптар жазылып жатқанда ағынмен көрсетілсін. Құпия ANTHROPIC_API_KEY арқылы Anthropic API-ді сервер маршрутынан шақырыңыз — кілт браузерге ешқашан жетпесін. Жүйелік промпт тек shop-info.md файлындағы қызметтер, бағалар және жұмыс уақыты туралы сұрақтарға жауап берсін, ал басқа жағдайда «Анық емеспін — төмендегі нөмірге қоңырау шалыңыз» деп жауап берсін. Хабарлама 500 таңбадан аспасын және әр келушіге сағатына 20 хабарлама шегі болсын. Таза, достық дизайн, телефонда да жұмыс істесін.

2-қадам: Кілтті құпия ретінде қосыңыз

Кілтті провайдер консолінде жасап, оны жобаның орта айнымалылары немесе құпиялары ішінде сақтаңыз, чатқа да, кодқа да емес. Кілт бірдеңе жария жерде шықса, оны провайдерде жойып, жаңасын жасаңыз. Орта айнымалылары мен құпиялар дегеніміз не мақаласы бұл неге маңызды екенін түсіндіреді.

3-қадам: Интерфейсті ғана емес, жауаптарды сынаңыз

Чат жұмыс істегеннен кейін уақытыңыздың көбін жауап сапасына арнаңыз. Шамамен 20 нақты сұрақтан тізім жасаңыз, соның ішінде бірнеше бас тартылуы керек сұрақтар бар болсын, және промпт өзгерген сайын соларды қайта өткізіңіз. Тексеріңіз:

• Ол аясында қала ма?
• Білмеген жағдайда ойдан жауап құрастырмай, мойындай ма?
• Біреу оның нұсқауларын бұзуға тырысқанда тұрақты ма?
• Браузер жүктейтін ешбір нәрседе кілт жоқ па?

4-қадам: Қажет болса жады мен аккаунттарды қосыңыз

Жеке әңгімелер жұмыс істегеннен кейін, дерекқордағы сақталған тізбектерді және қажет болса, әр пайдаланушы тек өз чаттарын көруі үшін тіркелу мен кіруді сұраңыз. Сол уақытта пайдаланушыға күндік хабарлама лимитін қосыңыз.

5-қадам: Шектеулері қосулы күйде жариялаңыз

Жарияланған қолданбада алдын ала қарау нұсқасындағыдай құпиялар болуын, провайдерде шығын шегі орнатылғанын және қателер сіз көретін жерде журналға жазылатынын тексеріңіз. Содан кейін негізгі сайтыңызға қоймас бұрын шағын топпен бөлісіңіз.

Қауіпсіздік пен сенім

Чатбот сіздің атыңыздан жұрт алдында сөйлейді, сондықтан оның қателіктері сіздің жауапкершілігіңіз:

• Қате жауаптар. Модельдер жалған нәрсені сенімді айта алады. Боттты тар тақырыппен шектеңіз, оны өз мазмұныңызға негіздеңіз және маңызды нәрселерде жауаптар қате болуы мүмкін екенін қысқа ескертіңіз.
• Промпт инъекциясы. Пайдаланушылар (немесе бот оқитын құжаттар) «алдыңғы ережелерді елемеңіз» сияқты нұсқауларды қамтуы мүмкін. Оған сенуге болмайтын күш бермеңіз: қайтарым, жою немесе пайдаланушының сөзімен хат жіберу сіздің өз кодыңызда тексерілмейінше жасалмауы керек.
• Сезімтал тақырыптар. Медициналық, заңдық немесе қаржылық сұрақтар үшін адамдарды кеңес берудің орнына маманға бағыттасын.
• Жеке деректер. Қажет болмаса, клиенттердің жазбаларын промптқа қоймаңыз, ал провайдердің шарттарында API деректерінің қалай өңделетінін тексеріңіз.

AI арқылы жасалған қолданбаларға арналған қауіпсіздік тізімі кеңірек қолданбаны қамтиды.

Жиі кездесетін қателер

• Провайдерді браузерден шақыру. Кілт ағып кетеді. Әрқашан серверіңіз арқылы өтіңіз.
• Жария ботқа шектеу қоймау. Бір скрипт бір түсте айлық бюджетті сарқып тастауы мүмкін.
• RAG, құралдар мен бірнеше модельді бірден бастау. Алдымен бір жақсы әңгіме жұмыс істесін; қалғанын нақты сұрақтар қажетін көрсеткенде қосыңыз.
• Тек жақсы сұрақтармен тексеру. Пайдаланушылар бірінші күні-ақ біртүрлі, дөрекі және аясынан тыс сұрақтар қояды.
• Тізбектің шексіз өсуіне жол беру. Шығын мен жауап уақыты әр хабарламамен өседі.

Дайын өнім қай жағдайда жақсырақ

Өз ботыңызды жасау чатбот өнімнің бөлігі болғанда, өз деректеріңіз немесе жұмыс үдерісі керек болғанда, немесе арнайы көрініс пен мінез керек болғанда мағынасы бар. Бірақ мына жағдайларда көбіне дұрыс таңдау болмайды:

• Бар сайтқа тек қолдау виджеті керек болса. Көптеген көмек орталығы және live-chat өнімдерінде қазір AI жауап боттары бар: олар сіздің анықтамалық орталығыңызды оқиды, адамға беруді, кіріс қорапты және есептерді бірден береді.
• Тек сіз немесе командаңыз қолданса. ChatGPT немесе Claude сияқты жалпы көмекшіге жазылу, құжаттарыңызды жүктеп, соған жеткілікті болуы мүмкін.
• Қатаң сәйкестік кепілдіктері керек болса (мысалы, реттелетін медициналық немесе қаржы деректері). Сертификаттары бар дайын провайдер теңшелген құрастыруға қарағанда қауіпсіздеу болуы мүмкін.

Mythex-пен құрастыру

Mythex — AI қолданба құрастырушысы: чатбот туралы чатта сипаттайсыз, ол интерфейсті мен серверлік шақыруды жазады, оны тірі алдын ала қарауда іске қосады және жалпыға ашық URL-ге жариялайды. Қолданбаның ішіндегі AI өз провайдер кілтіңізді пайдаланады. Оны жоба құпияларына қосасыз немесе Mythex қажет болғанда чатта көрсететін құпиялар картасы арқылы қосасыз, ал провайдер шығыны Mythex құру кредиттерінен емес, сіздің провайдер шотыңыздан алынады. Mythex қолданбаңыздың пайдаланушыларына токен бермейді, кіріктірілген білім базасы өнімін ұсынбайды және дайын сұраныс шектеулерін қоспайды: бұлар сұрайтын және сынайтын бөліктер. AI қолданбаңызға қосу құжат беті бұл процесті қадамдап түсіндіреді, ал AI-ді өз API кілттеріңізбен қосу бастапқы сұрауы бар.

Бот сақталған тізбектерді қажет етсе, сұрағаныңызда Mythex жобаға Postgres дерекқорын қосады. Қолданбаға модельдерді қолдану жолдарының көбі үшін, қорытындылаудан жіктеуге дейін, қолданбаңызға AI мүмкіндіктерін қосу мақаласын қараңыз, немесе бастау үшін қолданба шаблондарын шолыңыз.

Сұрақтар