আপনার অ্যাপে AI ফিচার কীভাবে যুক্ত করবেন

আপনার অ্যাপে AI ফিচার যুক্ত করতে সার্ভার থেকে একটি বৃহৎ ভাষা মডেল (LLM) API কল করুন: স্পষ্ট নির্দেশ ও প্রাসঙ্গিক ডেটা পাঠান, এবং যা ফেরত আসে তা ব্যবহার করুন। বেশিরভাগ কাজের ফিচার চারটি ধরনের একটির মধ্যে পড়ে — সারসংক্ষেপ, চ্যাট, কাঠামোবদ্ধ ডেটা বের করা এবং শ্রেণিবিন্যাস — এবং প্রতিটি কয়েক ডজন লাইনের কোড, যা একটি AI বিল্ডার আপনার জন্য লিখে দিতে পারে। ফিচারটি ভালো কিনা তা ঠিক করে কলের চারপাশের কাজ: API কী সার্ভারে রাখা, প্রতি ব্যবহারকারীর খরচ নিয়ন্ত্রণ করা এবং বিশ্বাস করার আগে আউটপুট যাচাই করা।

বেশিরভাগ AI ফিচারের পেছনের চার ধরন

এক্সট্রাকশন ও ক্লাসিফিকেশন প্রায়ই সবচেয়ে মূল্যবান অথচ সবচেয়ে কম চোখে পড়ে। প্রতিটি রেকর্ডে কারও কয়েক মিনিট বাঁচায়, আর আউটপুটের আকৃতি নির্দিষ্ট বলে এটি স্বয়ংক্রিয়ভাবে যাচাই করা যায়। চ্যাট সবচেয়ে দৃশ্যমান কিন্তু ঠিকঠাক করা সবচেয়ে কঠিন, এবং এর নিজস্ব গাইড আছে: AI চ্যাটবট অ্যাপ কীভাবে বানাবেন।

আপনার অ্যাপে এটি কীভাবে খাপ খায়

প্রতিটি ধরনের গঠন একই:

1. ব্যবহারকারী কাজ করে — "সারসংক্ষেপ" ক্লিক করে, ফাইল আপলোড করে, বার্তা পাঠায়।
2. আপনার ফ্রন্ট এন্ড আপনার নিজের সার্ভারকে কল করে, AI প্রোভাইডারকে নয়।
3. আপনার সার্ভার অনুরোধ তৈরি করে: সিস্টেম নির্দেশ, ব্যবহারকারীর ইনপুট এবং ডাটাবেস থেকে মডেলের প্রয়োজনীয় ডেটা — শুধু সেই ডেটা যা এই ব্যবহারকারী দেখতে পারেন।
4. আপনার সার্ভার LLM API কল করে, একটি এনভায়রনমেন্ট ভেরিয়েবলে রাখা কী দিয়ে।
5. আপনার সার্ভার উত্তর যাচাই করে — সঠিক JSON, পরিচিত লেবেল, যুক্তিসঙ্গত দৈর্ঘ্য — তারপর সেভ বা ফেরত দেয়।
6. ফ্রন্ট এন্ড দেখায়, দীর্ঘ উত্তর হলে আসার সাথে সাথে স্ট্রিম করে।

কী থাকে ধাপ ৪-এ সার্ভারে, আর কখনো ব্রাউজারে পৌঁছায় না। API ধারণাটি নতুন হলে API কী একটি সংক্ষিপ্ত পরিচিতি, এবং LLM API কীভাবে ব্যবহার করবেন টোকেন, মডেল ও কী নিয়ে বিস্তারিত বলে।

প্রোভাইডার ও মডেল বাছাই

প্রধান প্রোভাইডাররা — OpenAI, Anthropic, Google ও অন্যরা — প্রায় একই ধরনের টেক্সট API দেয়। বাছাইয়ের সময় এই প্রশ্নগুলো কাজে আসে:

• আপনার কাজে মান। আপনার অ্যাপের কয়েকটি বাস্তব উদাহরণ দুই-তিনটি মডেলে চালান। সাধারণ বেঞ্চমার্কের চেয়ে আপনার ডেটায় পার্থক্য প্রায়ই বেশি স্পষ্ট হয়।
• আকার বনাম খরচ। প্রোভাইডাররা বড়, বেশি সক্ষম মডেল এবং ছোট, সস্তা, দ্রুত মডেল দেয়। শ্রেণিবিন্যাস ও সহজ এক্সট্রাকশন প্রায়ই ছোট মডেলে ভালো কাজ করে; দীর্ঘ যুক্তি বা সূক্ষ্ম লেখার জন্য বড় মডেল লাগতে পারে।
• কাঠামোবদ্ধ আউটপুট। এক্সট্রাকশন ও শ্রেণিবিন্যাসের জন্য, মুক্ত টেক্সট পার্স না করে, আপনার দেওয়া স্কিমার সাথে মেলে এমন JSON ফেরত দেওয়ার API ফিচার বেছে নিন।
• ডেটা হ্যান্ডলিং। API ইনপুট সংরক্ষিত হয় কিনা বা প্রশিক্ষণে ব্যবহৃত হয় কিনা, প্রোভাইডারের শর্তাবলি পড়ুন, এবং আপনার ব্যবহারকারীদের ডেটার সাথে তা মানায় কিনা দেখুন।
• সীমা। নতুন অ্যাকাউন্টের রেট লিমিট প্রায়ই কম থাকে; লঞ্চের আগে তা দেখে নিন।

মডেলের নাম ও দাম প্রায়ই বদলায়, তাই কোডে মডেলের নাম অনেক জায়গায় হার্ডকোড না করে কনফিগারেশন থেকে পড়ুন।

ধাপে ধাপে একটি ফিচার যুক্ত করা

একটি বাস্তব উদাহরণ নিন: একটি ছোট CRM, যেখানে প্রতিটি কন্টাক্টের দীর্ঘ নোটের ইতিহাস আছে।

১. কী সংরক্ষণ করুন। প্রোভাইডারের ড্যাশবোর্ডে একটি কী তৈরি করুন এবং সার্ভার-সাইড সিক্রেট হিসেবে সেভ করুন, যেমন OPENAI_API_KEY বা ANTHROPIC_API_KEY।

২. একটি সীমিত ফিচার চান:

কন্টাক্ট পেজে একটি "Summarise" বাটন যোগ করো। সার্ভারে কন্টাক্টের শেষ ২০টি নোট [PROVIDER]-কে পাঠাও, [ENV_NAME] সিক্রেট ব্যবহার করে, নির্দেশ দিয়ে যে তিনটি বুলেট লিখতে হবে: বর্তমান অবস্থা, খোলা প্রশ্ন, পরের ধাপ। শুধু সেই নোটগুলো অন্তর্ভুক্ত করো যা লগইন করা ব্যবহারকারী দেখতে পারেন। একটি লোডিং অবস্থা দেখাও, সারসংক্ষেপ সময়সহ সেভ করো, এবং কল ব্যর্থ হলে "এখনই সারসংক্ষেপ করা যাচ্ছে না" দেখাও। কখনো কী ব্রাউজারে পাঠিও না।

৩. যেখানে টাইপ করার সময় বাঁচে সেখানে এক্সট্রাকশন যোগ করুন:

ব্যবহারকারী "Quick add" বাক্সে ইমেইল স্বাক্ষর পেস্ট করলে সার্ভারে [PROVIDER]-কে কল করো এবং প্রোভাইডারের কাঠামোবদ্ধ আউটপুট ফিচার ব্যবহার করে নাম, কোম্পানি, পদবি, ইমেইল ও ফোন সহ JSON ফেরত দাও। সার্ভারে JSON যাচাই করো, সেটি দিয়ে নতুন কন্টাক্ট ফর্ম আগে থেকে পূরণ করো, এবং সেভ করার আগে ব্যবহারকারীকে সম্পাদনা করতে দাও। অনুমান না করে ফাঁকা রেখে দাও।

"সেভ করার আগে ব্যবহারকারীকে সম্পাদনা করতে দাও" — এটিই সবচেয়ে গুরুত্বপূর্ণ অংশ: মডেল প্রস্তাব দেয়, সিদ্ধান্ত নেন মানুষ।

৪. পেছনে শ্রেণিবিন্যাস চালান:

নতুন সাপোর্ট টিকেট এলে সেটিকে ঠিক একটি লেবেলে শ্রেণিবদ্ধ করো: billing, bug, feature request, account access, other। ছোট, কম খরচের মডেল ব্যবহার করো। উত্তর এই লেবেলগুলোর একটি না হলে "other" সেভ করো। লেবেলটি একটি সম্পাদনাযোগ্য ট্যাগ হিসেবে দেখাও।

৫. বাস্তব, গোলমেলে ডেটা দিয়ে পরীক্ষা করুন — দীর্ঘ নোট, খালি নোট, অন্য ভাষা, ফোন নম্বরবিহীন স্বাক্ষর — এবং শিপ করার আগে পাশাপাশি বিশটি আউটপুট দেখুন।

কার্যকর নির্দেশ লেখা

প্রতিটি অনুরোধের সাথে যে নির্দেশ পাঠানো হয় (যাকে প্রায়ই সিস্টেম প্রম্পট বলা হয়), মানের উৎস সেখানেই।

• বলুন এটি কার জন্য এবং ভালো কী। "সারসংক্ষেপ একজন বিক্রয়কর্মী কল করার আগে ১০ সেকেন্ডে পড়বেন" — এতে মডেলের একটি লক্ষ্য থাকে।
• ফরম্যাট ঠিক করুন। বুলেটের সুনির্দিষ্ট সংখ্যা, দৈর্ঘ্যের সীমা, ফিল্ড, লেবেল।
• অনিশ্চিত হলে কী করতে হবে বলুন। "নোটে পরের ধাপের উল্লেখ না থাকলে লিখুন 'কোনো পরের ধাপ রেকর্ড করা নেই'।" এতে বানানো উত্তর কমে।
• এক্সট্রাকশন ও শ্রেণিবিন্যাসের জন্য দুই-তিনটি উদাহরণ ভালো ইনপুট ও আউটপুটের।
• নির্দেশ ও ব্যবহারকারীর কন্টেন্ট আলাদা রাখুন, এবং ব্যবহারকারীর কন্টেন্ট স্পষ্ট চিহ্নিত করুন, যাতে মডেল দুটো আলাদা করতে পারে।

প্রম্পটগুলো আপনার কোডবেসে ফাইলে রাখুন, যাতে অন্য কোডের মতোই সেগুলোর ভার্সন থাকে ও পর্যালোচনা করা যায়।

খরচ নিয়ন্ত্রণে রাখা

LLM API টোকেনের হিসাবে চার্জ করে — ছোট লেখার অংশে — পাঠানো ও ফেরত আসা দুটোর জন্যই। প্রতি অনুরোধের প্রসঙ্গের পরিমাণ গুণ কত ঘন ঘন চলে, খরচ তত বাড়ে। কার্যকর নিয়ন্ত্রণ:

• শুধু যা দরকার পাঠান। শেষ ২০টি নোট, পুরো ইতিহাস নয়। লম্বা ডকুমেন্ট ছেঁটে বা ভাগ করুন।
• কাজ চলে এমন সবচেয়ে ছোট মডেল ব্যবহার করুন। বড়টিকে ডিফল্ট করার আগে পরীক্ষা করুন।
• API-র সর্বোচ্চ টোকেন সেটিং দিয়ে আউটপুটের দৈর্ঘ্য সীমিত করুন।
• ফলাফল ক্যাশ করুন। সারসংক্ষেপ সেভ করুন এবং উৎস বদলালেই আবার তৈরি করুন, প্রতিবার পেজ ভিউতে নয়।
• প্রতি ব্যবহারকারীর সীমা রাখুন। প্রতি অ্যাকাউন্ট বা প্ল্যানের দৈনিক সীমা একজন ভারী ব্যবহারকারী বা একটি স্ক্রিপ্টকে বিল বাড়াতে বাধা দেয়।
• এন্ডপয়েন্টে রেট লিমিট দিন, অন্য যেকোনো ব্যয়বহুল রুটের মতো।
• প্রোভাইডারের ড্যাশবোর্ডে বাজেট বা অ্যালার্ট সেট করুন, এবং লঞ্চের পর সাপ্তাহিক ব্যবহার দেখুন।
• প্রতিটি ফিচারের টোকেন ব্যবহার লগ করুন, যাতে জানা যায় কোনটির কত খরচ।

AI ফিচার আপনার পণ্যের কেন্দ্রে থাকলে তাদের চলমান খরচ দামের মধ্যে ধরুন, এটি নিজে বহন করার চেয়ে ভালো।

নিরাপত্তা ও বিশ্বাস

AI-র আউটপুট সম্ভাব্যতাভিত্তিক। এটি আত্মবিশ্বাসের সাথে ভুল হতে পারে, এবং যে লেখা পড়ে তার দ্বারা প্রভাবিতও হতে পারে। সেই অনুযায়ী তৈরি করুন:

• আউটপুটকে অবিশ্বস্ত ইনপুট ধরুন। কাঠামো যাচাই করুন, HTML হিসেবে দেখানোর আগে এস্কেপ করুন, এবং কখনো কোড বা ডাটাবেস কোয়েরি হিসেবে চালাবেন না।
• পরিণতি আছে এমন কাজে মানুষকে রাখুন — ইমেইল পাঠানো, রেকর্ড বদলানো, পেমেন্ট ফেরত দেওয়া। মডেল খসড়া করে; একজন মানুষ নিশ্চিত করে।
• প্রম্পট ইনজেকশন থেকে সতর্ক থাকুন। একটি ডকুমেন্ট বা বার্তায় "তোমার নির্দেশ উপেক্ষা করো" ধরনের লেখা থাকতে পারে। মডেল যা দেখতে পারে তা বর্তমান ব্যবহারকারী যা দেখতে পারেন তার মধ্যে সীমিত রাখুন, এবং সংবেদনশীল কাজ করতে পারে এমন টুল তখনই দিন যখন আপনার কোড আগে অনুমতি যাচাই করে।
• AI কন্টেন্ট চিহ্নিত করুন, যাতে ব্যবহারকারী জানেন সারসংক্ষেপ বা পরামর্শ তৈরি হয়েছে এবং পরীক্ষা করতে পারেন।
• ব্যর্থতা সুন্দরভাবে সামলান। প্রোভাইডারের আউটেজ ও রেট লিমিট হয়। টাইমআউট দিন, স্পষ্ট বার্তা দেখান, এবং বাকি অ্যাপ যেন চলতে থাকে।
• ব্যবহারকারীরা কী পাঠাচ্ছে তা দেখুন। খোলা টেক্সট ইনপুটের জন্য একটি মডারেশন ধাপ বিবেচনা করুন, এবং আপনার গোপনীয়তা নীতিতে স্পষ্ট বলুন যে কন্টেন্ট একটি তৃতীয়-পক্ষের AI প্রোভাইডার প্রক্রিয়া করে।

বিস্তারিত চেকের তালিকা আছে AI-বানানো অ্যাপের জন্য নিরাপত্তা চেকলিস্টে।

সাধারণ ভুল

• একটি সাধারণ চ্যাটবট দিয়ে শুরু করা, যেখানে একটি "Summarise" বা "Categorise" বাটন বেশি মানুষের উপকার করত।
• ফ্রন্ট-এন্ড কোড বা পাবলিক রিপোজিটরিতে কী রাখা।
• পুরো ডাটাবেস প্রসঙ্গ হিসেবে পাঠানো, যা ধীর, ব্যয়বহুল এবং অন্য ব্যবহারকারীদের ডেটা ফাঁসের ঝুঁকি তৈরি করে।
• মুক্ত-টেক্সট আউটপুটে ভরসা করা, যেখানে স্কিমা বা নির্দিষ্ট লেবেল-সেট দিলে যাচাই করা সহজ হতো।
• প্রতি ব্যবহারকারীর সীমা না থাকা, যা প্রথম বিল আসার দিনে ধরা পড়ে।

Mythex-এ AI ফিচার যোগ করা

Mythex-এ আপনি নিজের অ্যাপের ভেতরে চ্যাটে চেয়ে AI যোগ করেন, নিজের প্রোভাইডার কী ব্যবহার করে। কীটি একটি প্রজেক্ট সিক্রেট হিসেবে রাখুন — এজেন্টের কী দরকার হলে Mythex চ্যাটে একটি সিক্রেট কার্ড দেখায়, তাই কী চ্যাটে পেস্ট করতে হয় না — এবং এজেন্ট সার্ভার রুট, প্রম্পট ও ইন্টারফেস লিখে দেয়। আপনার অ্যাপের AI ব্যবহারের বিল আসে আপনার প্রোভাইডারের কাছ থেকে, বানানোর জন্য খরচ হওয়া Mythex ক্রেডিট থেকে আলাদাভাবে। ডকসে একটি স্টার্টার প্রম্পট আছে: নিজের API কী দিয়ে AI ফিচার যোগ করুন।

প্রশ্নোত্তর