Қолданбаңызға AI мүмкіндіктерін қалай қосу керек

Қолданбаңызға AI мүмкіндіктерін қосу үшін серверіңізден үлкен тілдік модельдің (LLM) API-ын шақырыңыз: оған нақты нұсқаулар мен тиісті деректерді жіберіп, қайтқанын пайдаланыңыз. Көптеген пайдалы мүмкіндіктер төрт үлгінің бірі болады — қорытындылау, чат, құрылымдалған деректерді шығару және жіктеу — және әрқайсысы AI құрастырушысы жаза алатын бірнеше ондаған жолдық код. Мүмкіндіктің пайдалы-пайдасыздығын шешетін жұмыс — шақыруды айналасында: API кілтін серверде ұстау, пайдаланушыға шығынды бақылау және нәтижені сенбес бұрын тексеру.

Көбінесе AI мүмкіндіктерінің негізіндегі төрт үлгі

Шығару мен жіктеу көбіне ең құнды және ең аз көрінетіндер. Олар әр жазбада біреудің бірнеше минутын үнсіз үнемдейді, ал шығыс бекітілген пішінде болғандықтан оны автоматты түрде тексеруге болады. Чат ең көрінетіні, бірақ дұрыс жасау ең қиыны, оның өз нұсқаулығы бар: AI чатбот қолданбасын қалай жасау керек.

Ол қолданбаңызға қалай кіреді

Әр үлгінің пішіні бірдей:

1. Пайдаланушы әрекет етеді — «Қорытындылау» басады, файл жүктейді, хабар жібереді.
2. Фронтенд AI провайдерін емес, өз серверіңізді шақырады.
3. Сервер сұрауды құрастырады: жүйелік нұсқаулар, пайдаланушының енгізуі және модельге керек деректер қорынан алынған мәліметтер — тек осы пайдаланушы көре алатын деректер.
4. Сервер LLM API-ын шақырады, кілті орта айнымалысында сақталған.
5. Сервер жауапты тексереді — жарамды JSON, белгілі белгі, мағыналы ұзындық — содан кейін сақтайды немесе қайтарады.
6. Фронтенд көрсетеді, ұзын жауаптар үшін мәтінді келе жатқанда ағынды түрде.

Кілт 4-қадамда серверде қалады және ешқашан браузерге жетпейді. API ұғымы жаңа болса, API дегеніміз не қысқаша түсіндіріледі, ал LLM API-ларын қалай пайдалану керек токендер, модельдер және кілттер туралы терең түсіндіреді.

Провайдер мен модельді таңдау

Негізгі провайдерлердің — OpenAI, Anthropic, Google және басқалардың — барлығында ұқсас пішінді мәтіндік API-лар бар. Таңдағанда пайдалы сұрақтар:

• Тапсырмаңыздағы сапа. Қолданбаңыздан бірнеше нақты мысалды екі-үш модельде сынаңыз. Айырмашылық жалпы бенчмарктарда емес, сіздің деректеріңізде анығырақ көрінеді.
• Өлшем және баға. Провайдерлер үлкенірек, қуатты модельдер және кішірек, арзан, жылдам модельдер ұсынады. Жіктеу мен қарапайым шығару көбіне шағын модельде жақсы жұмыс істейді; ұзақ пайымдау немесе нәзік мәтін жазу үлкенірегін қажет етуі мүмкін.
• Құрылымдалған шығыс. Шығару мен жіктеу үшін сіз берген схемаға сәйкес JSON қайтаратын API мүмкіндігін қалаңыз, еркін мәтінді талдаудың орнына.
• Деректерді өңдеу. API кірістері сақтала ма немесе оқытуға пайдалана ма — провайдердің шарттарын оқыңыз, бұл пайдаланушылар беретін деректерге сай ма.
• Шектеулер. Жаңа аккаунттардың шектеулері әдетте төмен; іске қоспас бұрын оларды тексеріңіз.

Модель атаулары мен бағалар жиі өзгереді, сондықтан код модель атауын көптеген жерде қатты жазбай, конфигурациядан оқуы керек.

Мүмкіндікті қадамдап қосу

Нақты мысал: әр контактінде ұзын жазбалар тарихы бар шағын CRM.

1. Кілтті сақтаңыз. Провайдер панелінде кілт жасап, оны серверлік құпия ретінде сақтаңыз, мысалы OPENAI_API_KEY немесе ANTHROPIC_API_KEY.

2. Бір тар мүмкіндікті сұраңыз:

Контакт бетіне «Қорытындылау» түймесін қос. Серверде контактің соңғы 20 жазбасын [PROVIDER]-ге [ENV_NAME] құпиясын пайдаланып жібер, үш тармақ жазуға нұсқа бер: ағымдағы күйі, ашық сұрақтар, келесі қадам. Тек кірген пайдаланушы көре алатын жазбаларды қос. Жүктелу күйін көрсет, қорытындыны уақыт белгісімен сақта, сұрау сәтсіз болса «Қазір қорытындылай алмадық» деп көрсет. Кілт ешқашан браузерге жіберілмесін.

3. Теру жұмысын үнемдейтін жерде шығаруды қосыңыз:

Пайдаланушы «Жылдам қосу» өрісіне электрондық пошта қолтаңбасын қойғанда, [PROVIDER]-ді серверде шақырып, құрылымдалған шығыс мүмкіндігін пайдаланып, атаулы, компания, лауазым, электрондық пошта және телефон өрістері бар JSON қайтар. JSON-ды серверде тексеріп, жаңа контакт формасын толтыр және пайдаланушы сақтамас бұрын өңдей алсын. Болжамау үшін бос өрістерді бос қалдыр.

«Пайдаланушы сақтамас бұрын өңдей алсын» деген бөлік ең маңыздысы: модель ұсынады, шешімді адам қабылдайды.

4. Фонда жіктеңіз:

Жаңа қолдау тикеті келгенде, оны дәл бір категорияға жіктеңіз: төлем, қате, функция сұрауы, аккаунтқа кіру, басқа. Шағын, арзан модельді пайдаланыңыз. Жауап осы белгілердің бірі болмаса, «басқа» деп сақтаңыз. Белгіні өңдеуге болатын тег ретінде көрсетіңіз.

5. Нақты, шатаспалы деректермен сынаңыз — ұзын жазбалар, бос жазбалар, басқа тілдер, телефон нөмірі жоқ қолтаңба — және жөнелтер алдында жиырма нәтижені қатар қарап шығыңыз.

Жұмыс істейтін нұсқаулар жазу

Әр сұрауда жіберілетін нұсқаулар (жүйелік промпт деп те аталады) сапаның қайнар көзі.

• Бұл кім үшін және жақсы нәтиже қандай екенін айтыңыз. «Қорытындыны сатушы қоңыраудан бұрын 10 секундта оқиды» деген сөз модельге нысана береді.
• Пішімді бекітіңіз. Нақты тармақ саны, ұзындық шегі, өрістер, белгілер.
• Белгісіз болғанда не істеу керектігін айтыңыз. «Жазбаларда келесі қадам туралы айтылмаса, "Келесі қадам жазылмаған" деп жазыңыз». Бұл ойлап тапқан жауаптарды азайтады.
• Шығару мен жіктеу үшін жақсы кіріс пен шығыстың екі-үш мысалын беріңіз.
• Нұсқауларды пайдаланушы мазмұнынан бөлек ұстаңыз және пайдаланушы мазмұнын анық белгілеңіз, сонда модель оларды ажырата алады.

Промпттарды кодтың қалған бөлігі сияқты нұсқа бақылауымен, шолуға болатын файлдарда сақтаңыз.

Шығынды бақылау

LLM API-лар токендер үшін ақы алады — мәтіннің кішкентай бөліктері үшін — жібергенің мен қайтқан мәтін үшін. Шығын әр сұрауда контекст көлемі мен оның қанша рет іске қосылуының көбейтіндісімен өседі. Практикалық бақылаулар:

• Тек қажеттісін жіберіңіз. Бүкіл тарихты емес, соңғы 20 жазбаны. Ұзын құжаттарды қысқартыңыз немесе бөліңіз.
• Жұмысты атқаратын ең кіші модельді пайдаланыңыз. Әдепкі ретінде ең үлкенін алмас бұрын сынаңыз.
• Шығыс ұзындығын API-дің максималды токендер баптауымен шектеңіз.
• Нәтижелерді кэштеңіз. Қорытындыны сақтаңыз және бет көрген сайын емес, тек бастапқы мәтін өзгергенде қайта жасаңыз.
• Пайдаланушыға шек қойыңыз. Аккаунт немесе жоспар бойынша күнделікті шек бір ауыр пайдаланушыны немесе бір скриптті шығынды көтеруден сақтайды.
• Соңғы нүктені кез келген қымбат маршрут сияқты жылдамдығын шектеңіз.
• Провайдер панелінде бюджет немесе ескерту қойыңыз және іске қосқаннан кейін пайдалануды апта сайын тексеріңіз.
• Әр мүмкіндік бойынша токен пайдалануын тіркеңіз, сонда қайсысы қанша тұратынын білесіз.

AI мүмкіндіктері өнімнің негізі болса, оның жұмыс шығынын бағаңызға қосыңыз, оны өзіңіз көтермеңіз.

Қауіпсіздік және сенімділік

AI нәтижесі ықтималдық негізінде шығады. Ол сенімді түрде айтқанымен қате болуы мүмкін, және оған оқыған мәтін әсер ете алады. Соған дайын болыңыз:

• Нәтижені сенімсіз кіріс ретінде қараңыз. Құрылымды тексеріңіз, HTML ретінде көрсетер алдында экрандаңыз, оны ешқашан код немесе деректер қоры сұрауы ретінде орындамаңыз.
• Салдары бар нәрсе үшін адамды процесте ұстаңыз — электрондық хат жіберу, жазбаны өзгерту, төлемді қайтару. Модель жоба жасайды, адам растайды.
• Промпт инъекциясынан қорғаныңыз. Құжатта немесе хабарламада «нұсқауларыңды елемей» деген сияқты мәтін болуы мүмкін. Модель көре алатынын ағымдағы пайдаланушы көре алатынмен шектеңіз және кодыңыз рұқсаттарды тексерместен сезімтал әрекет жасай алатын құралдарды бермеңіз.
• AI мазмұнын белгілеңіз, сонда пайдаланушылар қорытынды немесе ұсыныс жасалғанын біліп, тексере алады.
• Қателерді дұрыс өңдеңіз. Провайдерлерде үзілістер мен шектеулер болады. Уақыт шегін қойыңыз, анық хабарлама көрсетіңіз және қолданбаның қалған бөлігі жұмыс істеуін жалғастыруына мүмкіндік беріңіз.
• Пайдаланушылар не жіберетінін бақылаңыз. Ашық мәтін енгізулері үшін модерация қадамын қарастырыңыз және құпиялылық саясатында мазмұн үшінші тарап AI провайдері арқылы өңделетінін анық жазыңыз.

Тексерулердің толық тізімі AI-мен жасалған қолданбаларға арналған қауіпсіздік чек-листінде.

Жиі кездесетін қателер

• Жалпы чаттан бастау, бір «Қорытындылау» немесе «Санатқа бөлу» түймесі көбірек адамға көмектесетін кезде.
• Кілтті фронтенд кодына немесе жария репозиторийге салу.
• Бүкіл деректер қорын контекст ретінде жіберу — баяу, қымбат және басқа пайдаланушылардың деректерін ашып қоюы мүмкін.
• Еркін мәтіндік шығысқа сену, схема немесе бекітілген белгілер жиыны оны тексерілетін ететін жерде.
• Пайдаланушы шегінің болмауы, алғашқы шот келгенде байқалады.

Mythex-те AI мүмкіндіктерін қосу

Mythex-те өз қолданбаңыздың ішіне AI-ды чатта сұрау арқылы қосасыз, өз провайдер кілтіңізді пайдаланып. Кілтті жоба құпиясы ретінде сақтаңыз — агенттің кілт қажет болғанда Mythex чатта құпия карточкасын көрсетеді, сондықтан кілтті сөйлесуге қоюдың қажеті жоқ — және агент серверлік маршрутты, промпттарды және интерфейсті жазады. Қолданбаңыздың AI пайдалануына провайдеріңіз ақы алады, ол құрастыру үшін жұмсайтын Mythex кредиттерінен бөлек. Құжаттарда бастапқы промпт бар: AI мүмкіндіктерін өз API кілттеріңізбен қосу.

Сұрақтар