LLM APIs कसे वापरायचे: Tokens, खर्च, Keys आणि तुमचे पहिले AI फीचर

LLM API ही एक वेब सेवा आहे जी तुमच्या ॲपला मजकूर एखाद्या मोठ्या भाषा मॉडेलला — जसे OpenAI चे GPT मॉडेल्स, Anthropic चे Claude किंवा Google चे Gemini — पाठवू देते आणि त्याचे उत्तर कोडमध्ये परत मिळवू देते. तुम्ही प्रदात्याकडे साइन अप करता, API key तयार करता, आणि तुमच्या ॲपचा server त्या key सह विनंत्या पाठवतो; प्रत्येक विनंतीसाठी आत आणि बाहेर जाणाऱ्या tokens (मजकुराचे तुकडे) च्या संख्येनुसार तुम्हाला बिल येते. "ॲपमध्ये AI जोडणे" म्हणजे सहसा इतकेच असते: तुमच्या server वरून कोणाच्या तरी मॉडेलला चांगल्या प्रकारे लिहिलेली विनंती सुरक्षितपणे पाठवणे.

AI सोबत बनवताना हे का महत्त्वाचे आहे

AI ने बनवलेल्या ॲपमध्ये दोन वेगवेगळे AI असतात, आणि ते एकमेकांत गोंधळणे सोपे आहे:

1. तुमचे ॲप बनवणारा AI — ॲप बिल्डरचा स्वतःचा agent, जो कोड लिहितो.
2. तुमच्या ॲपमधील AI — एक फीचर जे तुमचे वापरकर्ते वापरतात, जसे chat assistant, "हे सारांशित करा" बटण किंवा स्वयंचलित tagging.

दुसरा AI तुमची key वापरून LLM API कॉल करतो आणि तुमच्या प्रदाता खात्याला बिल देतो. Tokens, context आणि किंमत समजून घेतल्याने तुम्ही असे फीचर डिझाइन करू शकता जे काम करते, तुमची key गळू देत नाही, आणि बिलाने आश्चर्य देत नाही.

रोजच्या आयुष्यातील उपमा: एक अत्यंत कुशल फ्रीलान्सर, शब्दांवर पैसे मिळणारा

LLM API ला एक हुशार फ्रीलान्स लेखक समजा, ज्याला तुम्ही ईमेलने संपर्क करता आणि प्रत्येक शब्दासाठी पैसे देता — तुम्ही पाठवलेल्या शब्दांसाठी आणि त्याने परत लिहिलेल्या शब्दांसाठी दोन्हीसाठी (आणि त्याने लिहिलेले शब्द जास्त महाग असतात).

• ईमेल्समध्ये त्याला कोणतीही स्मृती नसते. संभाषण पुढे चालवायचे असेल तर प्रत्येक नवीन ईमेलमध्ये मागील संदेश पुन्हा चिकटवावे लागतात.
• तो एका वेळी ठराविकच मजकूर वाचू शकतो. ती मर्यादा म्हणजे context window.
• तुमची सूचना जितकी स्पष्ट, तितके उत्तर चांगले आणि लहान — आणि त्यामुळे स्वस्तही.

मूलभूत संकल्पना

Tokens

मॉडेल मजकूर tokens मध्ये वाचते आणि लिहिते. Anthropic च्या किंमत दस्तऐवजांनुसार, सप्टेंबर 2026 पर्यंत, प्रति token साधारण 4 अक्षरे, किंवा सुमारे 0.75 इंग्रजी शब्द असा अंदाज दिला आहे. वेगवेगळी मॉडेल्स आणि भाषा वेगळ्या पद्धतीने tokenise करतात, म्हणून हा केवळ ढोबळ मार्गदर्शक समजा. सर्व काही मोजले जाते: तुमच्या सूचना, वापरकर्त्याचा संदेश, कोणतेही दस्तऐवज जे तुम्ही समाविष्ट करता, मागील संभाषण आणि उत्तर.

Input आणि output

Input tokens म्हणजे तुम्ही पाठवता. Output tokens म्हणजे मॉडेल लिहिते. OpenAI, Anthropic आणि Google च्या किंमत पानांवर, सप्टेंबर 2026 पर्यंत, एकाच मॉडेलसाठी output tokens ची किंमत input tokens पेक्षा कित्येक पट जास्त असते. Google च्या Gemini किंमत पानावर असेही नमूद आहे की मॉडेलचा अंतर्गत "thinking" हा output म्हणून मोजला जातो.

Context window

एका विनंतीत मॉडेल जास्तीत जास्त किती tokens घेऊ शकते, उत्तरासह. आजची मॉडेल्स खूप लांब input स्वीकारतात — उदाहरणार्थ Anthropic ची काही सध्याची मॉडेल्स दहा लाख tokens पर्यंत स्वीकारतात. पण लांब input जास्त खर्चिक आणि हळू असतो, म्हणून कामासाठी आवश्यक तेवढेच पाठवा.

Stateless विनंत्या

बहुतेक chat-शैलीच्या APIs मध्ये, डीफॉल्टने प्रत्येक विनंती स्वतंत्र असते. Chat "लक्षात ठेवावे" यासाठी तुमचे ॲप प्रत्येक नवीन संदेशासोबत आधीचे संदेश पुन्हा पाठवते. म्हणूनच लांब संभाषणातील प्रत्येक संदेश छोट्या संभाषणापेक्षा जास्त खर्चिक असतो.

System prompt

प्रत्येक विनंतीसाठी मॉडेलची भूमिका आणि नियम ठरवणाऱ्या सूचना: "तुम्ही support tickets तीन bullet points मध्ये सारांशित करता. ग्राहकाचे email पत्ते कधीही समाविष्ट करू नका." वापरकर्त्यांना ते दिसत नाही, पण प्रत्येक उत्तराला ते आकार देते.

Streaming

पूर्ण उत्तराची वाट पाहण्याऐवजी API मजकूर तयार होत असताना पाठवू शकते, त्यामुळे वापरकर्त्यांना शब्द लगेच दिसू लागतात. यामुळे chat इंटरफेस खूप जलद वाटतात.

किंमत कशी चालते

सप्टेंबर 2026 पर्यंत, प्रदात्यांच्या स्वतःच्या किंमत पानांवर तपासल्याप्रमाणे:

काही प्रदाते पैसे देण्यापूर्वी वापरून पाहण्याचीही संधी देतात: Anthropic नवीन वापरकर्त्यांना थोडे मोफत credit देते, आणि Google च्या Gemini API मध्ये काही मॉडेल्सवर मोफत tier आहे, पण त्यावर पाठवलेला मजकूर Google ची उत्पादने सुधारण्यासाठी वापरला जाऊ शकतो.

प्रदात्याच्या लहान, जलद मॉडेल्स आणि त्यांच्या सर्वात मोठ्या मॉडेल्समधील किंमती खूप वेगळ्या असतात, आणि त्या वारंवार बदलतात, म्हणून आम्ही त्या येथे देत नाही. कोणत्याही फीचरसाठी साधा अंदाज असा: (input tokens × input किंमत + output tokens × output किंमत) × महिन्यातील विनंत्यांची संख्या. मग त्यात मार्जिन जोडा, आणि प्रदात्याच्या dashboard मध्ये मासिक खर्च मर्यादा ठरवा.

एक उदाहरण: "हे ticket सारांशित करा" बटण

एका लहान support टीमला असे बटण हवे आहे जे ग्राहकांच्या लांब email थ्रेडचे तीन bullet points आणि सुचवलेले उत्तर तयार करते.

1. Key मिळवा. एका प्रदात्याकडे खाते तयार करा आणि API key तयार करा. कमी मासिक खर्च मर्यादा ठरवा.
2. Key गुपित म्हणून साठवा तुमच्या server वर, जसे ANTHROPIC_API_KEY किंवा OPENAI_API_KEY अशा नावाने — पेजच्या कोडमध्ये कधीही नाही. पहा environment variables आणि secrets.
3. Server route जोडा, POST /api/summarise, जो:
   • व्यक्ती लॉग इन आहे आणि support टीमची आहे हे तपासतो;
   • database मधून ticket लोड करतो;
   • प्रदात्याला system prompt ("तीन bullets मध्ये सारांश द्या, मग विनम्र उत्तराचा मसुदा लिहा; ऑर्डर क्रमांक बनवू नका") आणि ticket चा मजकूर पाठवतो;
   • maximum output tokens सेटिंगने उत्तराची लांबी मर्यादित करतो;
   • निकाल परत देतो आणि किती tokens वापरले ते नोंदवतो.
4. बटण provider ला नव्हे, तर तुमच्या route ला कॉल करते, आणि सारांश येताना दाखवते.
5. अपयश हाताळा. प्रदाता संथ असेल किंवा error देत असेल, तर "सध्या सारांश देता आला नाही" दाखवा आणि ticket वापरण्यायोग्य ठेवा.
6. मोजा. एका आठवड्यानंतर token नोंदी पाहा. बहुतेक खर्च लांब email थ्रेड्समुळे होत असेल, तर पाठवण्यापूर्वी उद्धृत केलेला जुना इतिहास कमी करा.

काय नाही ते लक्षात घ्या: मॉडेल प्रशिक्षण नाही, विशेष पायाभूत सुविधा नाहीत. एक key, एक server route, एक चांगला prompt.

महत्त्वाचे शब्द

• API key: तुमचे खाते प्रदात्याला ओळखणारे गुपित. ते ज्याच्याकडे आहे तो तुमचे पैसे खर्च करू शकतो.
• Model: तुम्ही कॉल करत असलेले विशिष्ट LLM. प्रदाते वेगवेगळ्या किंमती आणि वेगांचे अनेक आकार देतात.
• Temperature: उत्तरे किती वैविध्यपूर्ण असतील याची सेटिंग. कमी असल्यास अधिक अंदाजे.
• Max tokens: उत्तराच्या लांबीवर मर्यादा, जी खर्चालाही मर्यादा घालते.
• Rate limit: तुमचे खाते प्रति मिनिट किती विनंत्या किंवा tokens वापरू शकते.
• Embeddings: मजकुराचा अर्थ दर्शवणारे आकडे, जे तुमच्या स्वतःच्या दस्तऐवजांमध्ये शोधण्यासाठी वापरले जातात.
• RAG (retrieval-augmented generation): तुमच्या स्वतःच्या डेटामधील संबंधित उतारे शोधून prompt मध्ये समाविष्ट करणे, जेणेकरून मॉडेल तुमच्या मजकुरावरून उत्तर देईल.
• Tool use / function calling: मॉडेलला तुमच्या ॲपने एखादे विशिष्ट फंक्शन चालवावे अशी विनंती करू देणे, जसे "order ची स्थिती पाहा".

सामान्य चुका आणि गैरसमज

• Key frontend कोडमध्ये ठेवणे. सर्वात महागडी चूक. Browser कोड सार्वजनिक असतो. नेहमी तुमच्या server वरून कॉल करा. AI ने बनवलेल्या ॲप्ससाठी सुरक्षा चेकलिस्ट इतर लाँच तपासण्यांसोबत याचा समावेश करते.
• Provider मर्यादा किंवा प्रति-वापरकर्ता मर्यादा नसणे. एखादा bug, loop किंवा गैरवर्तन करणारा वापरकर्ता खर्च लवकर वाढवू शकतो. Provider वर मर्यादा ठेवा आणि तुमच्या ॲपमध्ये प्रति वापरकर्ता विनंत्या मर्यादित करा.
• प्रत्येक वेळी सर्व काही पाठवणे. संपूर्ण दस्तऐवज आणि पूर्ण chat इतिहास input tokens वाढवतात. कापा, जुने संदेश सारांशित करा, किंवा फक्त संबंधित भाग मिळवा.
• उत्तरावर आंधळा विश्वास. मॉडेल चुकीच्या गोष्टी आत्मविश्वासाने सांगू शकते. तथ्ये, किंमती किंवा कायदेशीर किंवा वैद्यकीय गोष्टींसाठी उत्तरे तुमच्या स्वतःच्या डेटावर आधारित ठेवा आणि स्रोत दाखवा, किंवा एखाद्या व्यक्तीने तपासा.
• वापरकर्त्याच्या इनपुटला तुमचे नियम उलटू देणे. वापरकर्ते "तुमच्या सूचना दुर्लक्षित करा" असे टाइप करू शकतात. परवानग्या आणि संवेदनशील कृती केवळ prompt मध्ये नव्हे, तर तुमच्या server कोडमध्ये ठेवा.
• सर्वात मोठ्या मॉडेलने सुरुवात करणे. आधी लहान, स्वस्त मॉडेल वापरून पाहा; दर्जा आवश्यक असेल तरच वर जा.
• वैयक्तिक डेटा विचार न करता पाठवणे. प्रदात्याच्या डेटा-वापर अटी तपासा, विशेषतः मोफत tiers वर, आणि फीचरला जे आवश्यक आहे तेवढेच पाठवा.

तुमच्या AI बिल्डरकडे काय मागायचे

ticket पेजवर "Summarise" बटण जोडा. ते एका server route ला कॉल करते जो OPENAI_API_KEY हे गुपित वापरतो (कधीही browser ला दिसत नाही), व्यक्ती लॉग इन आहे हे तपासतो, ticket चा मजकूर या system prompt सह पाठवतो: […], उत्तर 300 tokens पर्यंत मर्यादित करतो, उत्तर पेजवर streaming करतो, आणि कॉल अयशस्वी झाल्यास मैत्रीपूर्ण error दाखवतो. प्रति विनंती वापरलेले tokens नोंदवा, आणि प्रत्येक वापरकर्त्याला तासाला 30 सारांशांपर्यंत मर्यादित करा.

पूर्ण chat अनुभवासाठी, AI chatbot ॲप कसे बनवायचे पहा; इतर कल्पनांसाठी, तुमच्या ॲपमध्ये AI फीचर्स कसे जोडायचे पहा. API म्हणजे सामान्यपणे काय हे नवीन असेल तर API म्हणजे काय पासून सुरुवात करा.

Mythex सह बनवलेल्या ॲप्समधील LLM APIs

Mythex सह बनवताना, तुमच्या ॲपमधील AI तुमची स्वतःची प्रदाता key वापरतो. तुम्ही ती प्रोजेक्ट गुपित म्हणून जोडता, किंवा Mythex ला गरज असताना chat मध्ये दाखवणाऱ्या secrets कार्डद्वारे जोडता, आणि agent ला server वर कॉल करण्यास सांगता. प्रदात्याचा वापर तुमच्या प्रदाता खात्याला बिल होतो, Mythex build credits ला नव्हे. Mythex तुमच्या ॲपच्या वापरकर्त्यांसाठी tokens किंवा अंगभूत knowledge-base उत्पादन पुरवत नाही, आणि rate limits व खर्च नियंत्रणे तुम्हीच डिझाइन आणि तपासायची असतात. Docs मधील AI फीचर्स स्वतःच्या API keys सह जोडा या recipe मध्ये सुरुवातीचा starter prompt आहे, आणि AI ॲप बिल्डर पान कुठून सुरुवात करायची ते दाखवते.

प्रश्न