LLM API কীভাবে ব্যবহার করবেন: টোকেন, খরচ, কী এবং আপনার প্রথম AI ফিচার

একটি LLM API হলো এমন একটি ওয়েব সেবা যা আপনার অ্যাপকে একটি বড় ভাষা মডেলে টেক্সট পাঠাতে দেয় — যেমন OpenAI-এর GPT মডেল, Anthropic-এর Claude বা Google-এর Gemini — এবং কোডের মধ্যেই এর উত্তর ফেরত পেতে দেয়। আপনি প্রদানকারীর সঙ্গে সাইন আপ করেন, একটি API কী তৈরি করেন, আর আপনার অ্যাপের সার্ভার সেই কী দিয়ে অনুরোধ পাঠায়; প্রতিটি অনুরোধের জন্য ভেতরে ও বাইরে যাওয়া টোকেনের (টেক্সটের খণ্ড) সংখ্যা অনুযায়ী বিল হয়। সাধারণত "অ্যাপে AI যোগ করা" বলতে এটুকুই বোঝায়: অন্যের মডেলে একটি সুলিখিত অনুরোধ, যা আপনার সার্ভার থেকে নিরাপদে পাঠানো হয়।

AI দিয়ে তৈরি করার সময় কেন এটি গুরুত্বপূর্ণ

AI-তে তৈরি অ্যাপে দুটি আলাদা AI থাকে, আর এ দুটিকে গুলিয়ে ফেলা সহজ:

1. যে AI আপনার অ্যাপ তৈরি করে — অ্যাপ বিল্ডারের নিজস্ব এজেন্ট, যে কোড লেখে।
2. আপনার অ্যাপের ভেতরের AI — একটি ফিচার যা আপনার ব্যবহারকারীরা ব্যবহার করেন, যেমন একটি চ্যাট সহকারী, একটি "এটি সারসংক্ষেপ করো" বোতাম বা স্বয়ংক্রিয় ট্যাগিং।

দ্বিতীয়টি আপনার কী দিয়ে একটি LLM API কল করে এবং আপনার প্রদানকারী অ্যাকাউন্টে বিল করে। টোকেন, কনটেক্সট ও মূল্য বোঝাই আপনাকে এমন একটি ফিচার ডিজাইন করতে দেয় যা কাজ করে, আপনার কী ফাঁস করে না, আর বিল দেখে আপনাকে চমকে দেয় না।

একটি দৈনন্দিন উপমা: খুবই দক্ষ এক ফ্রিল্যান্সার, শব্দ হিসেবে পারিশ্রমিক

LLM API-কে একজন দুর্দান্ত ফ্রিল্যান্স লেখক ভাবুন, যাকে আপনি ইমেইলে পৌঁছান এবং শব্দ হিসেবে পারিশ্রমিক দেন — আপনার পাঠানো শব্দের জন্য এবং তাদের ফেরত লেখা শব্দের জন্যও (আর ফেরত লেখা শব্দগুলোর দাম বেশি)।

• ইমেইলের মাঝে তাদের কোনো স্মৃতি থাকে না। কথোপকথন চালিয়ে যেতে চাইলে প্রতিটি নতুন ইমেইলে আগের বার্তাগুলো আবার পেস্ট করতে হয়।
• তারা একবারে শুধু একটি সীমিত পরিমাণ পড়তে পারে। সেই সীমাকে বলে কনটেক্সট উইন্ডো।
• আপনার ব্রিফ যত স্পষ্ট, উত্তর তত ভালো ও ছোট — আর তাতে খরচও কম।

মূল ধারণাগুলো

টোকেন

মডেলগুলো টোকেনে টেক্সট পড়ে ও লেখে। Anthropic-এর মূল্য নির্ধারণের ডকুমেন্টেশন সেপ্টেম্বর ২০২৬ পর্যন্ত প্রতি টোকেনে প্রায় ৪ অক্ষর, বা প্রায় ০.৭৫ ইংরেজি শব্দ অনুমান করে। বিভিন্ন মডেল ও ভাষা ভিন্নভাবে টোকেনাইজ করে, তাই এটিকে মোটামুটি নির্দেশিকা হিসেবে ধরুন। সবকিছু গণনায় যায়: আপনার নির্দেশনা, ব্যবহারকারীর বার্তা, আপনার দেওয়া যেকোনো নথি, আগের কথোপকথন, আর উত্তর।

ইনপুট ও আউটপুট

ইনপুট টোকেন হলো যা আপনি পাঠান। আউটপুট টোকেন হলো মডেল যা লেখে। OpenAI, Anthropic ও Google-এর মূল্য পাতায়, সেপ্টেম্বর ২০২৬ পর্যন্ত, একই মডেলের ক্ষেত্রে আউটপুট টোকেনের দাম ইনপুট টোকেনের কয়েক গুণ বেশি। Google-এর Gemini মূল্য নির্ধারণে আরও উল্লেখ আছে যে মডেলের অভ্যন্তরীণ "thinking" আউটপুট হিসেবে গণনা হয়।

কনটেক্সট উইন্ডো

একটি একক অনুরোধে একটি মডেল সর্বোচ্চ যতগুলো টোকেন নিতে পারে, উত্তরসহ। আধুনিক মডেলগুলো খুব লম্বা ইনপুট গ্রহণ করে — যেমন Anthropic-এর কিছু বর্তমান মডেল এক মিলিয়ন টোকেন পর্যন্ত নিতে পারে। তবে লম্বা ইনপুটের খরচ বেশি এবং সময়ও বেশি লাগে, তাই কাজের জন্য যতটুকু দরকার শুধু ততটুকুই পাঠান।

স্টেটলেস অনুরোধ

বেশিরভাগ চ্যাট-ধাঁচের API-তে ডিফল্টভাবে প্রতিটি অনুরোধ আলাদা। চ্যাটকে "মনে রাখাতে" আপনার অ্যাপকে প্রতিটি নতুন বার্তার সঙ্গে আগের বার্তাগুলো আবার পাঠাতে হয়। তাই দীর্ঘ কথোপকথনে প্রতি বার্তার খরচ ছোট কথোপকথনের চেয়ে বেশি।

সিস্টেম প্রম্পট

প্রতিটি অনুরোধের জন্য মডেলের ভূমিকা ও নিয়ম ঠিক করা নির্দেশনা: "তুমি সাপোর্ট টিকিট তিনটি বুলেট পয়েন্টে সারসংক্ষেপ করো। কখনো গ্রাহকের ইমেইল ঠিকানা অন্তর্ভুক্ত করো না।" ব্যবহারকারীরা এটি দেখেন না, কিন্তু এটি প্রতিটি উত্তরকে আকার দেয়।

স্ট্রিমিং

সম্পূর্ণ উত্তরের জন্য অপেক্ষা না করে API উৎপন্ন হওয়ার সঙ্গে সঙ্গে টেক্সট পাঠাতে পারে, যাতে ব্যবহারকারীরা সঙ্গে সঙ্গে শব্দগুলো আসতে দেখেন। এতে চ্যাট ইন্টারফেস অনেক দ্রুত মনে হয়।

মূল্য কীভাবে কাজ করে

সেপ্টেম্বর ২০২৬ পর্যন্ত, প্রদানকারীদের নিজস্ব মূল্য পাতা যাচাই করে:

কিছু প্রদানকারী আগে চেষ্টা করার সুযোগও দেয়: Anthropic নতুন ব্যবহারকারীদের সামান্য বিনামূল্যের ক্রেডিট দেয়, আর Google-এর Gemini API কিছু মডেলে বিনামূল্যের স্তর রাখে, তবে এতে পাঠানো কনটেন্ট Google-এর পণ্য উন্নত করতে ব্যবহৃত হতে পারে — এই সতর্কতাসহ।

ছোট ও দ্রুত মডেল এবং সবচেয়ে বড় মডেলের দামে অনেক পার্থক্য, আর দাম প্রায়ই বদলায়, তাই আমরা এখানে দাম উল্লেখ করছি না। যেকোনো ফিচারের একটি সহজ হিসাব হলো: (ইনপুট টোকেন × ইনপুট দাম + আউটপুট টোকেন × আউটপুট দাম) × প্রতি মাসে অনুরোধের সংখ্যা। এরপর একটি মার্জিন যোগ করুন, আর প্রদানকারীর ড্যাশবোর্ডে একটি মাসিক খরচের সীমা ঠিক করুন।

একটি বাস্তব উদাহরণ: "এই টিকিটটি সারসংক্ষেপ করো" বোতাম

একটি ছোট সাপোর্ট দল একটি বোতাম চায়, যা একটি লম্বা গ্রাহক ইমেইল থ্রেডকে তিনটি বুলেট পয়েন্ট ও একটি প্রস্তাবিত উত্তরে রূপান্তর করবে।

1. একটি কী নিন। একটি প্রদানকারীর সঙ্গে অ্যাকাউন্ট খুলুন এবং একটি API কী তৈরি করুন। একটি কম মাসিক খরচের সীমা ঠিক করুন।
2. কীটি একটি গোপন হিসেবে সংরক্ষণ করুন আপনার সার্ভারে, ANTHROPIC_API_KEY বা OPENAI_API_KEY-এর মতো নামে — কখনো পৃষ্ঠার কোডে নয়। দেখুন এনভায়রনমেন্ট ভেরিয়েবল ও গোপন তথ্য।
3. একটি সার্ভার রুট যোগ করুন, POST /api/summarise, যা:
   • যাচাই করে ব্যক্তিটি লগইন করা আছে এবং সাপোর্ট দলের সদস্য;
   • ডেটাবেস থেকে টিকিটটি লোড করে;
   • প্রদানকারীকে একটি সিস্টেম প্রম্পট ("তিনটি বুলেটে সারসংক্ষেপ করো, তারপর একটি বিনয়ী উত্তরের খসড়া করো; অর্ডার নম্বর বানিও না") এবং টিকিটের টেক্সট পাঠায়;
   • একটি সর্বোচ্চ আউটপুট টোকেন সেটিং দিয়ে উত্তরের দৈর্ঘ্য সীমিত করে;
   • ফলাফল ফেরত দেয় এবং কতগুলো টোকেন ব্যবহার হয়েছে তা লগ করে।
4. বোতামটি প্রদানকারীকে নয়, আপনার রুটকে কল করে, আর সারসংক্ষেপ স্ট্রিম হওয়ার সময় দেখায়।
5. ব্যর্থতা সামলান। প্রদানকারী ধীর হলে বা ত্রুটি দিলে "এখন সারসংক্ষেপ করা যাচ্ছে না" দেখান এবং টিকিটটি ব্যবহারযোগ্য রাখুন।
6. মাপুন। এক সপ্তাহ পর টোকেন লগ দেখুন। খরচের বেশিরভাগ যদি লম্বা ইমেইল থ্রেড থেকে আসে, তবে পাঠানোর আগে উদ্ধৃত পুরোনো ইতিহাস ছেঁটে ফেলুন।

লক্ষ্য করুন কী নেই: কোনো মডেল প্রশিক্ষণ নেই, কোনো বিশেষ অবকাঠামো নেই। একটি কী, একটি সার্ভার রুট, একটি সুলিখিত প্রম্পট।

মূল শব্দগুলো

• API কী: প্রদানকারীর কাছে আপনার অ্যাকাউন্ট চিহ্নিত করা গোপন মান। যার কাছে এটি আছে, সে আপনার টাকা খরচ করতে পারে।
• মডেল: আপনি যে নির্দিষ্ট LLM কল করেন। প্রদানকারীরা ভিন্ন দাম ও গতির একাধিক আকার দেয়।
• টেম্পারেচার: উত্তর কতটা বৈচিত্র্যময় হবে তার সেটিং। কম হলে আরও অনুমেয়।
• সর্বোচ্চ টোকেন: উত্তরের দৈর্ঘ্যের সীমা, যা খরচেরও সীমা।
• রেট লিমিট: আপনার অ্যাকাউন্ট প্রতি মিনিটে কতগুলো অনুরোধ বা টোকেন ব্যবহার করতে পারে।
• এমবেডিং: টেক্সটের অর্থ প্রকাশকারী সংখ্যা, যা আপনার নিজের নথিতে অনুসন্ধানে ব্যবহৃত হয়।
• RAG (রিট্রিভাল-অগমেন্টেড জেনারেশন): আপনার নিজের ডেটা থেকে প্রাসঙ্গিক অংশ খুঁজে প্রম্পটে যুক্ত করা, যাতে মডেল আপনার কনটেন্ট থেকে উত্তর দেয়।
• টুল ব্যবহার / ফাংশন কলিং: মডেলকে আপনার অ্যাপের একটি নির্দিষ্ট ফাংশন চালাতে বলতে দেওয়া, যেমন "অর্ডারের অবস্থা দেখো"।

সাধারণ ভুল ও ভুল ধারণা

• ফ্রন্টএন্ড কোডে কী রাখা। সবচেয়ে ব্যয়বহুল ভুল। ব্রাউজার কোড সর্বজনীন। সবসময় আপনার সার্ভার থেকে কল করুন। AI দিয়ে তৈরি অ্যাপের নিরাপত্তা চেকলিস্ট এটি অন্যান্য লঞ্চ-পূর্ব পরীক্ষার সঙ্গে আলোচনা করে।
• কোনো খরচের সীমা বা ব্যবহারকারী-প্রতি সীমা নেই। একটি বাগ, একটি লুপ বা অপব্যবহারকারী দ্রুত খরচ বাড়িয়ে দিতে পারে। প্রদানকারীর একটি সীমা ঠিক করুন এবং আপনার অ্যাপে প্রতি ব্যবহারকারী অনুরোধ সীমিত করুন।
• প্রতিবার সবকিছু পাঠানো। পুরো নথি ও সম্পূর্ণ চ্যাট ইতিহাস ইনপুট টোকেন বহুগুণ করে। ছেঁটে ফেলুন, পুরোনো বার্তা সারসংক্ষেপ করুন, বা শুধু প্রাসঙ্গিক অংশ আনুন।
• আউটপুট অন্ধভাবে বিশ্বাস করা। মডেল আত্মবিশ্বাসের সঙ্গে ভুল কথাও বলতে পারে। তথ্য, দাম বা আইনি/চিকিৎসা বিষয়ে উত্তরকে আপনার নিজের ডেটায় ভিত্তি দিন ও উৎস দেখান, অথবা একজন মানুষ দিয়ে যাচাই করান।
• ব্যবহারকারীর ইনপুটকে আপনার নিয়ম বদলাতে দেওয়া। ব্যবহারকারীরা "তোমার নির্দেশনা উপেক্ষা করো" লিখতে পারে। অনুমতি ও সংবেদনশীল কাজ শুধু প্রম্পটে নয়, আপনার সার্ভার কোডে রাখুন।
• সবচেয়ে বড় মডেল দিয়ে শুরু করা। আগে একটি ছোট, সস্তা মডেল চেষ্টা করুন; মান প্রয়োজন হলেই উপরে যান।
• চিন্তা না করে ব্যক্তিগত ডেটা পাঠানো। প্রদানকারীর ডেটা ব্যবহারের শর্ত যাচাই করুন, বিশেষ করে বিনামূল্যের স্তরে, আর ফিচারের যতটুকু দরকার শুধু ততটুকুই পাঠান।

আপনার AI বিল্ডারকে কী চাইবেন

টিকিট পাতায় একটি "Summarise" বোতাম যোগ করুন। এটি একটি সার্ভার রুট কল করে যা গোপন OPENAI_API_KEY ব্যবহার করে (কখনো ব্রাউজারে প্রকাশ না করে), যাচাই করে ব্যবহারকারী লগইন করা আছে, টিকিটের টেক্সট এই সিস্টেম প্রম্পটসহ পাঠায়: […], উত্তর ৩০০ টোকেনে সীমিত করে, উত্তর স্ট্রিম করে পৃষ্ঠায় দেখায়, আর কল ব্যর্থ হলে একটি বন্ধুত্বপূর্ণ ত্রুটি বার্তা দেখায়। প্রতি অনুরোধে ব্যবহৃত টোকেন লগ করুন, আর প্রতি ব্যবহারকারীকে ঘণ্টায় ৩০টি সারসংক্ষেপে সীমিত করুন।

পূর্ণাঙ্গ চ্যাট অভিজ্ঞতার জন্য দেখুন কীভাবে AI চ্যাটবট অ্যাপ বানাবেন; অন্যান্য ধারণার জন্য আপনার অ্যাপে কীভাবে AI ফিচার যোগ করবেন। সাধারণভাবে API নতুন হলে API কী দিয়ে শুরু করুন।

Mythex-এ তৈরি অ্যাপে LLM API

Mythex দিয়ে তৈরি করার সময় আপনার অ্যাপের ভেতরের AI আপনার নিজের প্রদানকারী কী ব্যবহার করে। আপনি এটি একটি প্রজেক্ট গোপন হিসেবে যোগ করেন, অথবা Mythex চ্যাটে প্রয়োজন হলে যে সিক্রেটস কার্ড দেখায় তার মাধ্যমে, এবং এজেন্টকে সার্ভারে কলটি করতে বলেন। প্রদানকারীর ব্যবহারের বিল আসে আপনার প্রদানকারী অ্যাকাউন্টে, Mythex বিল্ড ক্রেডিটে নয়। আপনার অ্যাপের ব্যবহারকারীদের জন্য Mythex টোকেন অন্তর্ভুক্ত করে না, বা কোনো বিল্ট-ইন নলেজ-বেস পণ্যও দেয় না; রেট লিমিট ও খরচ নিয়ন্ত্রণ আপনাকে ডিজাইন ও পরীক্ষা করতে হয়। ডক্সের রেসিপি আপনার নিজের API কী দিয়ে অ্যাপে AI ফিচার যোগ করুন-এ একটি স্টার্টার প্রম্পট আছে, আর AI অ্যাপ বিল্ডার পাতা দেখায় কোথা থেকে শুরু করবেন।

প্রশ্নোত্তর