AI चॅटबॉट अ‍ॅप कसे बनवायचे: की, प्रॉम्प्ट, खर्च आणि सुरक्षितता

AI चॅटबॉट अ‍ॅप बनवण्यासाठी चार गोष्टी लागतात: एक चॅट इंटरफेस, एक छोटा सर्व्हर जो तुमची मॉडेल प्रोव्हायडरची API की ठेवतो आणि संदेश त्याच्याकडे पाठवतो, एक सिस्टम प्रॉम्प्ट जो मॉडेलला सांगतो की तो कोण आहे आणि त्याला काय करण्याची परवानगी आहे, आणि मर्यादा ज्या खर्च आणि गैरवापर नियंत्रणात ठेवतात. AI अ‍ॅप बिल्डर हे सगळे वर्णनावरून लिहू शकतो. प्रोव्हायडर निवडणे, सूचना लिहिणे आणि बॉटने काय कधीही करायचे नाही हे ठरवणे, हे काम तुमच्याकडेच राहते.

AI चॅटबॉट अ‍ॅप कशाने बनलेले असते

बहुतेक चॅटबॉट अ‍ॅप्समध्ये, मग ते सपोर्ट असिस्टंट असो, ट्यूटर असो किंवा अंतर्गत "आमचे दस्तऐवज विचारा" टूल असो, एकसारखे भाग असतात:

भाग	तो काय करतो	तो वगळता येईल का?
चॅट UI	संदेशांची यादी, इनपुट बॉक्स, "विचार करत आहे" स्थिती, स्ट्रीम होणारी उत्तरे	नाही
सर्व्हर राउट	वापरकर्त्याचा संदेश घेतो, सिस्टम प्रॉम्प्ट जोडतो आणि तुमच्या गुप्त कीसह प्रोव्हायडरला कॉल करतो	नाही, की ब्राउझरपर्यंत कधीही पोहोचू नये
सिस्टम प्रॉम्प्ट	कायमस्वरूपी सूचना: भूमिका, टोन, कार्यकक्षा, काय नाकारायचे	नाही
ज्ञान	बॉट ज्यातून उत्तरे देतो तो तुमचा स्वतःचा मजकूर (FAQ, धोरणे, उत्पादन दस्तऐवज)	हो, सामान्य असिस्टंटसाठी
संभाषण साठवणूक	वापरकर्ते परत येऊ शकतील म्हणून धागे डेटाबेसमध्ये जतन करणे	हो, पहिल्या आवृत्तीसाठी
खाती	प्रत्येक वापरकर्ता फक्त स्वतःचा इतिहास पाहू शकेल आणि प्रत्येकाचा वापर मर्यादित करता येईल यासाठी	हो, कडक मर्यादांसह सार्वजनिक डेमोसाठी
मर्यादा आणि लॉगिंग	संदेश लांबीची मर्यादा, रेट लिमिट, खर्च मर्यादा, त्रुटींची नोंद	नाही

सर्व्हर राउटमध्ये लोक सर्वात जास्त चुका करतात. जर चॅट पेज थेट ब्राउझरमधून प्रोव्हायडरला कॉल करत असेल, तर कोणीही डेव्हलपर टूल्स उघडून तुमची की कॉपी करू शकतो आणि तुमचे बिल वाढवू शकतो.

बांधणीपूर्वी ठरवायचे निर्णय

कोणता प्रोव्हायडर आणि कोणते मॉडेल

मुख्य प्रोव्हायडर (OpenAI, Anthropic, Google आणि इतर) सगळे चॅट-शैलीचा API देतात, जो एकाच पद्धतीने चालतो: तुम्ही संदेशांची यादी पाठवता आणि उत्तर मिळते. व्यावहारिक निवड ब्रँडपेक्षा मॉडेलच्या आकारावर अवलंबून असते:

लहान, जलद मॉडेल स्वस्त असतात आणि लवकर प्रतिसाद देतात. छोटी उत्तरे, वर्गीकरण आणि साध्या FAQ बॉट्ससाठी ते चांगले असतात.
मोठे मॉडेल चांगला विचार करतात, लांब सूचना अधिक विश्वासार्हपणे पाळतात आणि गोंधळलेल्या प्रश्नांना हाताळतात, पण प्रति संदेश जास्त खर्च येतो आणि प्रतिसाद हळू येतो.

मध्यम आकाराच्या मॉडेलपासून सुरुवात करा, तुमच्या खऱ्या प्रश्नांवर त्याची चाचणी घ्या, आणि तिथून वर किंवा खाली जा. हे API कसे किमतीत येतात आणि कसे कॉल होतात याबद्दल तुम्ही नवीन असाल, तर आधी LLM API कसे वापरायचे वाचा.

बॉटचे ज्ञान कुठून येते

तुमचा मजकूर	पद्धत
एक-दोन पाने (उघडण्याच्या वेळा, परतावा धोरण, किंमत)	थेट सिस्टम प्रॉम्प्टमध्ये टाका
डझनभर पाने जी क्वचितच बदलतात	प्रॉम्प्टमध्ये त्याची संक्षिप्त आवृत्ती ठेवा, किंवा विषयानुसार विभागून संबंधित भाग समाविष्ट करा
शेकडो दस्तऐवज, किंवा रोज बदलणारा मजकूर	साठवा, प्रत्येक प्रश्नाशी जुळणारे परिच्छेद शोधा आणि फक्त तेवढेच पाठवा (RAG)

तुमचा मजकूर कव्हर करणारा सर्वात सोपा पर्याय निवडून सुरुवात करा. रिट्रीव्हलमध्ये सर्च इंडेक्स, तो अद्ययावत ठेवण्याची व्यवस्था आणि चुकीची उत्तरे येण्याच्या अधिक जागा येतात. अनेक उपयुक्त बॉट्सना ते कधीच लागत नाही.

सार्वजनिक, की लॉगिनच्या मागे

तुमच्या वेबसाइटवरील सार्वजनिक चॅटबॉट सहज पोहोचता येतो, पण त्याचा गैरवापरही सहज होतो: कोणीतरी हजारो संदेश स्क्रिप्टने पाठवू शकतो. लॉगिन असलेला चॅटबॉट तुम्हाला प्रत्येक वापरकर्त्याचा इतिहास जतन करू देतो आणि प्रत्येक खात्यासाठी दैनंदिन मर्यादा ठरवू देतो. तो सार्वजनिक असेल तर संदेशाची लांबी मर्यादित करा, एका अभ्यागताला ठराविक कालावधीत किती संदेश पाठवता येतील ते मर्यादित करा, आणि प्रोव्हायडरच्या डॅशबोर्डमध्ये कडक मासिक मर्यादा सेट करा. तुमच्या अ‍ॅपमध्ये लॉगिन कसे जोडायचे हे खात्याच्या बाजूने समजावते.

संभाषणे जतन करायची की नाही

जतन केलेले धागे उपयुक्त असतात: वापरकर्ते जिथे थांबले तिथूनच पुढे जाऊ शकतात आणि तुम्ही खऱ्या प्रश्नांवरून प्रॉम्प्ट सुधारू शकता. पण ती वैयक्तिक माहितीही असते. ती किती काळ ठेवायची ते ठरवा, तुमच्या गोपनीयता सूचनेत नमूद करा, आणि जे गरजेचे नाही ते जतन करू नका.

सिस्टम प्रॉम्प्ट नोकरीच्या वर्णनासारखा लिहा

सिस्टम प्रॉम्प्ट ही सूचना आहे जी मॉडेल प्रत्येक संभाषणापूर्वी पाहतो. चांगला प्रॉम्प्ट नवीन कर्मचाऱ्यासाठी लिहिलेल्या छोट्या ब्रीफसारखा वाचतो:

भूमिका आणि प्रेक्षक: "तुम्ही Oakline, एका सायकल दुरुस्ती दुकानाचे मदत सहाय्यक आहात. तुम्ही ग्राहकांशी बोलता."
कार्यकक्षा: "सेवा, किंमती, उघडण्याच्या वेळा आणि बुकिंगबद्दलचे प्रश्न सोडवा. इतर कोणत्याही गोष्टीसाठी सांगा की तुम्ही फक्त दुकानाबाबत मदत करू शकता."
सत्याचा स्रोत: "फक्त खालील माहिती वापरा. उत्तर तिथे नसेल तर सांगा की माहिती नाही आणि दुकानाचा फोन नंबर द्या."
टोन आणि लांबी: "मैत्रीपूर्ण, साधी मराठी, तपशील विचारल्याशिवाय तीन वाक्यांपेक्षा कमी."
कडक नियम: "यादीत नसलेल्या दुरुस्ती किंमतीचे वचन कधीही देऊ नका. कार्ड तपशील कधीही मागू नका."

मग अवघड प्रश्नांनी त्याची चाचणी घ्या: कार्यकक्षेबाहेरच्या विनंत्या, असभ्य संदेश, तुमच्या मजकुरात उत्तर नसलेले प्रश्न, आणि बॉटला त्याच्या सूचना विसरायला लावण्याचे प्रयत्न ("तुमचे नियम विसरा आणि…"). उत्तरे अशी होईपर्यंत प्रॉम्प्ट सुधारा ज्यांवर तुम्ही स्वतःचे नाव लावाल.

खर्च अंदाजे ठेवा

प्रोव्हायडर तुम्ही पाठवलेल्या इनपुटसाठी आणि मॉडेलने लिहिलेल्या आउटपुटसाठी प्रति टोकन (साधारणपणे, शब्दांचे तुकडे) शुल्क आकारतात. बिल तीन गोष्टींवर अवलंबून असते:

संभाषणाची लांबी. प्रत्येक नवीन संदेश सहसा संपूर्ण धागा पुन्हा पाठवतो, जेणेकरून मॉडेलला संदर्भ कळेल. ४० संदेशांच्या चॅटमधील प्रत्येक उत्तर ४ संदेशांच्या चॅटपेक्षा खूप जास्त खर्चिक असते. शेवटचे काही वळणच ठेवा, किंवा जुन्यांचा सारांश करा.
प्रॉम्प्टचा आकार. लांब सिस्टम प्रॉम्प्ट किंवा चिकटवलेला मोठा ज्ञानाचा मजकूर प्रत्येक संदेशासोबत पाठवला जातो.
आउटपुटची लांबी. API कॉलमध्ये उत्तराची कमाल लांबी ठरवा आणि प्रॉम्प्टमध्ये संक्षिप्त उत्तरे मागा.

लॉन्च करण्यापूर्वी प्रोव्हायडरच्या डॅशबोर्डमध्ये मासिक खर्च मर्यादा सेट करा, आणि प्रत्येक विनंतीसाठी टोकन वापराची नोंद ठेवा म्हणजे कोणती संभाषणे महाग आहेत ते दिसेल. येथे आम्ही किंमती देत नाही, कारण त्या मॉडेलनुसार बदलतात आणि वारंवार बदलतात; तुमच्या प्रोव्हायडरचे स्वतःचे किंमत पृष्ठ तपासा.

टप्प्याटप्प्याने बांधा

स्टेप 1: कोड नाही, बॉटचे वर्णन करा

प्रेक्षक, कार्यकक्षा, डेटा आणि सुरक्षितता नियम नमूद करणारा पहिला प्रॉम्प्ट तुम्हाला बरेच अंतर कापून देतो:

Oakline, एका सायकल दुरुस्ती दुकानासाठी ग्राहक मदत चॅटबॉट बनवा. संदेशांची यादी आणि इनपुट असलेले चॅट पेज, उत्तरे लिहिली जात असताना स्ट्रीम होणारी. सर्व्हर राउटमधून गुप्त ANTHROPIC_API_KEY वापरून Anthropic API कॉल करा — ती कधीही ब्राउझरला दाखवू नका. shop-info.md नावाच्या फाईलमधील मजकुरावरून फक्त सेवा, किंमती आणि वेळांबद्दल उत्तर देणारा सिस्टम प्रॉम्प्ट वापरा, आणि इतर वेळी "मला खात्री नाही — खालील नंबरवर कॉल करा" असे सांगा. संदेश 500 अक्षरांपर्यंत मर्यादित करा आणि प्रति अभ्यागत प्रति तास 20 संदेश. स्वच्छ, मैत्रीपूर्ण डिझाइन जे फोनवर चांगले चालेल.

स्टेप 2: की गुप्त म्हणून जोडा

तुमच्या प्रोव्हायडरच्या कन्सोलमध्ये की तयार करा, मग ती प्रोजेक्टच्या एन्व्हायर्नमेंट व्हेरिएबल्स किंवा सिक्रेट्समध्ये साठवा, चॅटमध्ये किंवा कोडमध्ये नाही. जर की कुठे सार्वजनिक दिसली तर प्रोव्हायडरकडे ती रद्द करा आणि नवीन तयार करा. एन्व्हायर्नमेंट व्हेरिएबल्स आणि सिक्रेट्स म्हणजे काय हे का महत्त्वाचे आहे ते समजावते.

स्टेप 3: इंटरफेस नाही, उत्तरांची चाचणी घ्या

चॅट चालू झाल्यावर बराच वेळ उत्तरांच्या दर्जावर द्या. वीस किंवा त्याहून अधिक खरे प्रश्न ठेवा, त्यात काही नाकारले जावेत असेही प्रश्न ठेवा, आणि प्रत्येक प्रॉम्प्ट बदलानंतर ते चालवा. तपासा:

उत्तर कार्यकक्षेत राहते का?
उत्तर माहीत नसताना ते स्वतः उत्तर न बनवता कबूल करते का?
कोणी त्याच्या सूचना बदलण्याचा प्रयत्न केला तरी ते टिकते का?
ब्राउझरला डाउनलोड होणाऱ्या कोणत्याही गोष्टीत की नाही ना?

स्टेप 4: गरज असल्यास मेमरी आणि खाती जोडा

एकेरी संभाषणे चालू झाल्यावर, डेटाबेसमध्ये जतन केलेले धागे आणि गरज असल्यास साइन-अप व लॉगिन मागा, म्हणजे प्रत्येक वापरकर्ता फक्त स्वतःच्या चॅट्स पाहील. त्याच वेळी प्रति वापरकर्ता दैनंदिन संदेश मर्यादा जोडा.

स्टेप 5: मर्यादा चालू ठेवून प्रकाशित करा

प्रकाशित अ‍ॅपमध्ये प्रिव्ह्यू प्रमाणेच सिक्रेट्स असल्याची खात्री करा, प्रोव्हायडरकडे खर्च मर्यादा सेट असल्याची खात्री करा, आणि त्रुटी अशा ठिकाणी नोंदवल्या जातील जिथे तुम्ही त्या पाहाल. मग तुमच्या मुख्य साइटवर टाकण्यापूर्वी एका छोट्या गटासोबत शेअर करा.

सुरक्षितता आणि विश्वास

चॅटबॉट तुमच्या नावाने लोकांशी बोलतो, म्हणून त्याचे अपयशाचे प्रकार तुमची जबाबदारी आहेत:

चुकीची उत्तरे. मॉडेल खोटी गोष्ट आत्मविश्वासाने सांगू शकते. बॉटला अरुंद विषयावर ठेवा, तुमच्या स्वतःच्या मजकुरावर आधारित करा, आणि महत्त्वाच्या बाबींवर उत्तरे चुकीची असू शकतात अशी छोटी सूचना दाखवा.
प्रॉम्प्ट इंजेक्शन. वापरकर्ते (किंवा बॉट वाचणारे दस्तऐवज) "आधीचे नियम विसरा" सारख्या सूचना असू शकतात. बॉटला ज्यावर विश्वास ठेवता येणार नाही अशी शक्ती देऊ नका: वापरकर्त्याच्या सांगण्यावरून तुमच्या स्वतःच्या कोडमध्ये तपासणी केल्याशिवाय परतावा, हटवणे किंवा ईमेल पाठवणे नाही.
संवेदनशील विषय. वैद्यकीय, कायदेशीर किंवा आर्थिक प्रश्नांसाठी, सल्ला देण्याऐवजी लोकांना व्यावसायिकाकडे पाठवण्यास सांगा.
वैयक्तिक डेटा. गरज नसेल तर ग्राहक नोंदी प्रॉम्प्टमध्ये पेस्ट करू नका, आणि API डेटा कसा हाताळला जातो हे तुमच्या प्रोव्हायडरच्या अटींमध्ये तपासा.

आमची AI ने बनवलेल्या अ‍ॅप्ससाठी सुरक्षा चेकलिस्ट संपूर्ण अ‍ॅपचा विचार करते.

सामान्य चुका

ब्राउझरवरून प्रोव्हायडरला कॉल करणे. की गळते. नेहमी तुमच्या सर्व्हरमधून जा.
सार्वजनिक बॉटवर मर्यादा नसणे. एकच स्क्रिप्ट एका दुपारात महिन्याचे बजेट संपवू शकते.
एकाच वेळी RAG, टूल्स आणि अनेक मॉडेल्स सुरू करणे. आधी एक चांगले संभाषण चालवा; खरे प्रश्न गरज दाखवतील तेव्हा बाकीचे जोडा.
फक्त मैत्रीपूर्ण प्रश्नांची चाचणी घेणे. तुमचे वापरकर्ते पहिल्याच दिवशी विचित्र, शत्रुत्वपूर्ण आणि विषयाबाहेरचे प्रश्न विचारतील.
धागा अनंत वाढू देणे. प्रत्येक संदेशासोबत खर्च आणि प्रतिसाद वेळ वाढत जातात.

तयार उत्पादन कधी चांगला पर्याय असतो

चॅटबॉट तुमच्या उत्पादनाचा भाग असेल, त्याला तुमचा स्वतःचा डेटा किंवा कार्यप्रवाह लागेल, किंवा विशिष्ट रूप आणि वर्तन हवे असेल तेव्हा स्वतः बनवणे योग्य ठरते. पुढील परिस्थितीत ते अनेकदा चुकीचे ठरते:

तुम्हाला विद्यमान साइटवर फक्त सपोर्ट विजेट हवे आहे. अनेक हेल्पडेस्क आणि लाइव्ह-चॅट उत्पादनांमध्ये आता AI उत्तर बॉट असतात जे तुमचे मदत केंद्र वाचतात, ज्यात मानवी हस्तांतरण, इनबॉक्स आणि अहवाल आधीच तयार असतात.
फक्त तुम्ही किंवा तुमची टीम वापरणार आहे. ChatGPT किंवा Claude सारख्या सामान्य असिस्टंटची सदस्यता, तुमची दस्तऐवज अपलोड करून, तुम्हाला पुरेशी असू शकते.
तुम्हाला कठोर अनुपालन हमी हवी आहे (उदाहरणार्थ, नियंत्रित आरोग्य किंवा आर्थिक डेटा). ज्या विक्रेत्याकडे आधीच प्रमाणपत्रे आहेत तो कस्टम बांधणीपेक्षा सुरक्षित असू शकतो.

Mythex सोबत बांधणी

Mythex हा AI अ‍ॅप बिल्डर आहे: तुम्ही चॅटमध्ये चॅटबॉटचे वर्णन करता, आणि तो इंटरफेस आणि सर्व्हर बाजूचा कॉल लिहितो, लाइव्ह प्रिव्ह्यूमध्ये चालवतो आणि सार्वजनिक URL वर प्रकाशित करतो. तुमच्या अ‍ॅपमधील AI तुमची स्वतःची प्रोव्हायडर की वापरते. ती प्रोजेक्ट सिक्रेट्समध्ये किंवा चॅटमध्ये Mythex गरज पडल्यावर दाखवणाऱ्या सिक्रेट्स कार्डद्वारे जोडा, आणि प्रोव्हायडरचा वापर तुमच्या प्रोव्हायडर खात्याला बिल होतो, Mythex बिल्ड क्रेडिट्सना नाही. तुमच्या अ‍ॅपच्या वापरकर्त्यांसाठी Mythex टोकन पुरवत नाही, तसेच तयार नॉलेज-बेस उत्पादन किंवा तयार रेट लिमिट्स देत नाही: ते भाग तुम्ही मागता आणि चाचणी करता. तुमच्या अ‍ॅपमध्ये AI जोडणे या डॉक्स पृष्ठावर हे चरणबद्ध दिले आहे, आणि तुमच्या स्वतःच्या API कीसह AI जोडा मध्ये सुरुवातीचा प्रॉम्प्ट आहे.

चॅटबॉटला जतन केलेले धागे लागले तर तुम्ही मागितल्यावर Mythex प्रोजेक्टला Postgres डेटाबेस जोडतो. सारांशांपासून वर्गीकरणापर्यंत अ‍ॅपमध्ये मॉडेल वापरण्याच्या अधिक मार्गांसाठी तुमच्या अ‍ॅपमध्ये AI वैशिष्ट्ये कशी जोडायची पाहा, किंवा सुरुवातीच्या बिंदूंसाठी अ‍ॅप टेम्पलेट्स ब्राउझ करा.

प्रश्न

AI चॅटबॉट अ‍ॅप बनवण्यासाठी मला स्वतःची API की लागते का?

हो, जवळजवळ नेहमीच. चॅटबॉट प्रत्येक संदेश OpenAI, Anthropic किंवा Google सारख्या मॉडेल प्रोव्हायडरकडे पाठवतो, आणि ज्या खात्याच्या नावावर API की असते त्याला प्रोव्हायडर बिल पाठवतो. की तुमच्या सर्व्हरवर राहिली पाहिजे, वेब पेजमध्ये कधीही नाही.

AI चॅटबॉट चालवण्यासाठी किती खर्च येतो?

प्रोव्हायडर प्रति टोकन शुल्क आकारतात, तुम्ही पाठवलेल्या मजकुरासाठी आणि मॉडेलने परत लिहिलेल्या मजकुरासाठी दोन्हीसाठी. मॉडेलनुसार किमती खूप वेगळ्या असतात. प्रत्येक नवीन संदेशासोबत सहसा आतापर्यंतचे संभाषण पुन्हा पाठवले जाते, त्यामुळे लांब चॅट्सचा प्रत्येक संदेश छोट्या चॅट्सपेक्षा जास्त खर्चिक ठरतो. तुमच्या प्रोव्हायडरचे किंमत पृष्ठ तपासा आणि त्यांच्या डॅशबोर्डमध्ये खर्च मर्यादा सेट करा.

मी माझ्या स्वतःच्या दस्तऐवजांवर चॅटबॉटला प्रशिक्षण देऊ शकतो का?

सहसा तुम्ही मॉडेलला स्वतः प्रशिक्षण देत नाही. थोड्या मजकुरासाठी तो सिस्टम प्रॉम्प्टमध्ये थेट पेस्ट करता येतो; मोठ्या संग्रहासाठी तो साठवला जातो, प्रत्येक प्रश्नासाठी संबंधित परिच्छेद शोधले जातात आणि फक्त तेवढेच मॉडेलला पाठवले जातात. या दुसऱ्या पद्धतीला रिट्रीव्हल-ऑगमेंटेड जनरेशन, किंवा RAG म्हणतात.

कोडिंगशिवाय AI चॅटबॉट अ‍ॅप बनवता येईल का?

हो. AI अ‍ॅप बिल्डर साध्या भाषेतील वर्णनावरून चॅट इंटरफेस, मॉडेलला कॉल करणारा सर्व्हर राउट आणि जतन केलेल्या संभाषणांसाठी डेटाबेस लिहू शकतो. प्रोव्हायडर खाते आणि API की मात्र तुम्हाला स्वतः तयार करावी लागेल.