તમારી એપમાં AI ફીચર્સ કેવી રીતે ઉમેરવા

તમારી એપમાં AI ફીચર્સ ઉમેરવા માટે, તમારા સર્વર પરથી મોટા ભાષા મોડેલ (LLM) API ને કૉલ કરો: તેને સ્પષ્ટ સૂચનાઓ અને સંબંધિત ડેટા મોકલો, અને જે પાછું આવે તેનો ઉપયોગ કરો. મોટાભાગના ઉપયોગી ફીચર્સ ચાર પેટર્નમાંથી એક હોય છે — સારાંશ, ચેટ, સંરચિત ડેટા કાઢવો, અને વર્ગીકરણ — અને દરેક થોડા ડઝન લીટીનો કોડ છે જે AI બિલ્ડર તમારા માટે લખી શકે. ફીચર સારું છે કે નહીં તે નક્કી કરતું કામ કૉલની આસપાસનું છે: API કીને સર્વર પર રાખવી, દરેક વપરાશકર્તા દીઠ ખર્ચ નિયંત્રિત કરવો, અને તેના પર ભરોસો કરતા પહેલાં આઉટપુટ ચકાસવું.

મોટાભાગના AI ફીચર્સ પાછળની ચાર પેટર્ન

એક્સટ્રેક્શન અને વર્ગીકરણ ઘણીવાર સૌથી મૂલ્યવાન અને સૌથી ઓછા દેખાતા હોય છે. તે દરેક રેકોર્ડ પર કોઈના થોડા મિનિટ ચૂપચાપ બચાવે છે, અને આઉટપુટ નિશ્ચિત આકારનું હોવાથી તેને આપમેળે ચકાસી શકાય. ચેટ સૌથી વધુ દેખાય છે પણ સાચી બનાવવી સૌથી મુશ્કેલ છે, અને તેની પોતાની ગાઇડ છે: AI ચેટબોટ એપ કેવી રીતે બનાવવી.

તે તમારી એપમાં કેવી રીતે બેસે છે

દરેક પેટર્નનો આકાર એક જ છે:

1. વપરાશકર્તા ક્રિયા કરે — "સારાંશ" પર ક્લિક કરે, ફાઇલ અપલોડ કરે, સંદેશ મોકલે.
2. તમારું ફ્રન્ટ એન્ડ તમારા પોતાના સર્વરને કૉલ કરે, AI પ્રોવાઇડરને નહીં.
3. તમારો સર્વર રિક્વેસ્ટ બનાવે: સિસ્ટમ સૂચનાઓ, વપરાશકર્તાનું ઇનપુટ, અને તમારા ડેટાબેઝમાંથી મોડેલને જોઈતો કોઈ પણ ડેટા — ફક્ત તે જ ડેટા જે આ વપરાશકર્તા જોવાની પરવાનગી ધરાવે છે.
4. તમારો સર્વર LLM API ને કૉલ કરે, કી એન્વાયર્નમેન્ટ વેરિએબલમાં સાચવેલી હોય.
5. તમારો સર્વર પ્રતિસાદ ચકાસે — માન્ય JSON, જાણીતું લેબલ, વાજબી લંબાઈ — અને તેને સેવ કરે કે પાછું આપે.
6. ફ્રન્ટ એન્ડ તે બતાવે, લાંબા જવાબો માટે આવતા લખાણને સ્ટ્રીમ કરીને.

કી પગલું 4 માં સર્વર પર રહે છે અને ક્યારેય બ્રાઉઝર સુધી પહોંચતી નથી. જો API નો ખ્યાલ નવો હોય, તો API શું છે એક ટૂંકી પ્રાઈમર છે, અને LLM API કેવી રીતે વાપરવી ટોકન, મોડેલ અને કીને વધુ ઊંડાણથી આવરી લે છે.

પ્રોવાઇડર અને મોડેલ પસંદ કરવું

OpenAI, Anthropic, Google અને બીજા મુખ્ય પ્રોવાઇડર બધા લગભગ સમાન આકારના ટેક્સ્ટ API આપે છે. પસંદ કરતી વખતે ઉપયોગી પ્રશ્નો:

• તમારા કામ પર ગુણવત્તા. તમારી એપના થોડા વાસ્તવિક ઉદાહરણ બે-ત્રણ મોડેલ પર અજમાવો. તફાવત સામાન્ય બેન્ચમાર્કને બદલે તમારા ડેટા પર વધુ સ્પષ્ટ દેખાય છે.
• કદ વિરુદ્ધ ખર્ચ. પ્રોવાઇડર મોટા, વધુ સક્ષમ મોડેલ અને નાના, સસ્તા, ઝડપી મોડેલ આપે છે. વર્ગીકરણ અને સાદો એક્સટ્રેક્શન ઘણીવાર નાના મોડેલ પર સારી રીતે ચાલે છે; લાંબી તર્કશક્તિ કે સૂક્ષ્મ લેખન માટે મોટું મોડેલ જોઈએ.
• સંરચિત આઉટપુટ. એક્સટ્રેક્શન અને વર્ગીકરણ માટે, મુક્ત લખાણ પાર્સ કરવાને બદલે એવી API સુવિધા પસંદ કરો જે મોડેલને તમે આપેલી સ્કીમા સાથે મેળ ખાતું JSON પાછું આપવા દે.
• ડેટા હેન્ડલિંગ. પ્રોવાઇડરની શરતો વાંચો કે API ઇનપુટ સંગ્રહાય છે કે તાલીમ માટે વપરાય છે, અને તે તમારા વપરાશકર્તાઓ આપેલા ડેટા માટે યોગ્ય છે કે નહીં.
• મર્યાદાઓ. નવા એકાઉન્ટ પર ઘણીવાર ઓછી રેટ લિમિટ હોય છે; લૉન્ચ પહેલાં તે તપાસો.

મોડેલના નામ અને કિંમતો વારંવાર બદલાય છે, એટલે કોડ મોડેલનું નામ ઘણી જગ્યાએ હાર્ડ-કોડ કરવાને બદલે કન્ફિગરેશનમાંથી વાંચે તે વધુ સારું.

ફીચર ઉમેરવું, સ્ટેપ બાય સ્ટેપ

એક નક્કર ઉદાહરણ લો: એક નાનું CRM જ્યાં દરેક સંપર્કની નોંધોનો લાંબો ઇતિહાસ છે.

1. કી સાચવો. તમારા પ્રોવાઇડરના ડેશબોર્ડમાં કી બનાવો અને તેને સર્વર-સાઇડ સિક્રેટ તરીકે સાચવો, જેમ કે OPENAI_API_KEY અથવા ANTHROPIC_API_KEY.

2. એક સાંકડું ફીચર માગો:

સંપર્ક પેજમાં "Summarise" બટન ઉમેરો. સર્વર પર, સંપર્કની છેલ્લી 20 નોંધ સિક્રેટ [ENV_NAME] વાપરીને [PROVIDER] ને મોકલો, સૂચના સાથે કે ત્રણ બુલેટ પોઇન્ટ લખો: હાલની સ્થિતિ, ખુલ્લા પ્રશ્નો, આગલું પગલું. ફક્ત તે નોંધો શામેલ કરો જે લોગ ઇન વપરાશકર્તા જોઈ શકે. લોડિંગ સ્થિતિ બતાવો, સારાંશ ટાઇમસ્ટેમ્પ સાથે સેવ કરો, અને કૉલ નિષ્ફળ જાય તો "અત્યારે સારાંશ બનાવી શકાયો નથી" બતાવો. કીને ક્યારેય બ્રાઉઝરમાં મોકલશો નહીં.

3. જ્યાં ટાઇપિંગ બચે ત્યાં એક્સટ્રેક્શન ઉમેરો:

જ્યારે વપરાશકર્તા "Quick add" બોક્સમાં ઈમેલ સિગ્નેચર પેસ્ટ કરે, ત્યારે સર્વર પર [PROVIDER] ને કૉલ કરો અને પ્રોવાઇડરની સંરચિત આઉટપુટ સુવિધા વાપરીને નામ, કંપની, જોબ ટાઇટલ, ઈમેલ અને ફોન ધરાવતું JSON પાછું આપો. JSON સર્વર પર ચકાસો, નવા સંપર્ક ફોર્મને તેનાથી પ્રી-ફિલ કરો, અને સેવ કરતા પહેલાં વપરાશકર્તાને સુધારવા દો. અનુમાન કરવાને બદલે ફીલ્ડ ખાલી રાખો.

"સેવ કરતા પહેલાં વપરાશકર્તાને સુધારવા દો" એ મહત્ત્વનો ભાગ છે: મોડેલ સૂચવે છે, વ્યક્તિ નિર્ણય કરે છે.

4. પૃષ્ઠભૂમિમાં વર્ગીકરણ કરો:

જ્યારે નવી સપોર્ટ ટિકિટ આવે, ત્યારે તેને બરાબર આમાંથી એકમાં વર્ગીકૃત કરો: billing, bug, feature request, account access, other. નાનું, ઓછા ખર્ચવાળું મોડેલ વાપરો. જો જવાબ આ લેબલમાંથી એક ન હોય, તો "other" સેવ કરો. લેબલને સંપાદનયોગ્ય ટૅગ તરીકે બતાવો.

5. ગડબડિયા વાસ્તવિક ડેટા પર પરીક્ષણ કરો — લાંબી નોંધો, ખાલી નોંધો, બીજી ભાષાઓ, ફોન નંબર વગરની સિગ્નેચર — અને શિપ કરતા પહેલાં વીસ આઉટપુટ સાથે સાથે જુઓ.

કામ કરે તેવી સૂચનાઓ લખવી

દરેક રિક્વેસ્ટ સાથે મોકલાતી સૂચનાઓ (જેને ઘણીવાર સિસ્ટમ પ્રોમ્પ્ટ કહેવાય) માંથી ગુણવત્તા આવે છે.

• કહો કે તે કોના માટે છે અને સારું શું દેખાય. "સારાંશ કૉલ પહેલાં સેલ્સપર્સન 10 સેકન્ડમાં વાંચે છે" મોડેલને લક્ષ્ય આપે છે.
• ફોર્મેટ નક્કી કરો. બુલેટની ચોક્કસ સંખ્યા, લંબાઈની મર્યાદા, ફીલ્ડ, લેબલ.
• અનિશ્ચિત હોય ત્યારે શું કરવું તે કહો. "જો નોંધોમાં આગલું પગલું ન હોય, તો 'આગલું પગલું નોંધાયેલું નથી' લખો." આનાથી બનાવેલા જવાબો ઘટે છે.
• એક્સટ્રેક્શન અને વર્ગીકરણ માટે બે-ત્રણ ઉદાહરણ સારા ઇનપુટ અને આઉટપુટના આપો.
• સૂચનાઓને વપરાશકર્તાના કન્ટેન્ટથી અલગ રાખો, અને વપરાશકર્તાના કન્ટેન્ટને સ્પષ્ટ લેબલ કરો, જેથી મોડેલ બંનેને અલગ પારખી શકે.

પ્રોમ્પ્ટને તમારા કોડબેઝમાં ફાઇલોમાં રાખો, જેથી તે બીજા કોડની જેમ વર્ઝન્ડ અને સમીક્ષા યોગ્ય રહે.

ખર્ચ નિયંત્રણમાં રાખવો

LLM API ટોકન દ્વારા ચાર્જ કરે છે — નાના લખાણના ટુકડા — તમે મોકલો અને પાછું આવે બંને માટે. ખર્ચ દરેક રિક્વેસ્ટના સંદર્ભની માત્રા ગુણ્યા કેટલી વાર ચાલે છે તેની સાથે વધે છે. વ્યવહારુ નિયંત્રણો:

• ફક્ત જરૂરી મોકલો. છેલ્લી 20 નોંધો, આખો ઇતિહાસ નહીં. લાંબા દસ્તાવેજોને ટૂંકાવો અથવા વિભાજિત કરો.
• કામ કરે તેવું સૌથી નાનું મોડેલ વાપરો. સૌથી મોટું ડિફોલ્ટ કરતા પહેલાં ચકાસો.
• આઉટપુટની લંબાઈ મર્યાદિત કરો API ની મહત્તમ-ટોકન સેટિંગથી.
• પરિણામો કેશ કરો. સારાંશ સંગ્રહો અને સ્રોત બદલાય ત્યારે જ ફરી બનાવો, દરેક પેજ વ્યૂ પર નહીં.
• દરેક વપરાશકર્તા માટે મર્યાદા રાખો. એકાઉન્ટ કે પ્લાન દીઠ દૈનિક મર્યાદા એક ભારે વપરાશકર્તાને, અથવા એક સ્ક્રિપ્ટને, બિલ વધારતા રોકે છે.
• એન્ડપોઇન્ટ પર રેટ-લિમિટ લગાવો, બીજા કોઈ મોંઘા રૂટની જેમ.
• પ્રોવાઇડરના ડેશબોર્ડમાં બજેટ અથવા ચેતવણી સેટ કરો, અને લૉન્ચ પછી સાપ્તાહિક ઉપયોગ તપાસો.
• દરેક ફીચર દીઠ ટોકન ઉપયોગ લૉગ કરો, જેથી ખબર પડે કે કયું કેટલું ખર્ચે છે.

જો AI ફીચર્સ તમારા પ્રોડક્ટનો કેન્દ્રભાગ હોય, તો તેના ચાલુ ખર્ચને તમારી કિંમતમાં ગણો, તેને શોષી લેવાને બદલે.

સલામતી અને વિશ્વાસ

AI આઉટપુટ સંભાવનાત્મક છે. તે આત્મવિશ્વાસથી બોલતી વખતે પણ ખોટું હોઈ શકે છે, અને તે જે લખાણ વાંચે તેનાથી તેને દિશા મળી શકે છે. તે માટે બનાવો:

• આઉટપુટને અવિશ્વસનીય ઇનપુટ ગણો. સ્ટ્રક્ચર ચકાસો, HTML તરીકે રેન્ડર કરતા પહેલાં એસ્કેપ કરો, અને ક્યારેય તેને કોડ કે ડેટાબેઝ ક્વેરી તરીકે ચલાવશો નહીં.
• પરિણામો સાથેની કોઈ પણ વસ્તુ માટે માણસને લૂપમાં રાખો — ઈમેલ મોકલવો, રેકોર્ડ બદલવો, પેમેન્ટ રિફંડ કરવું. મોડેલ ડ્રાફ્ટ કરે; વ્યક્તિ પુષ્ટિ કરે.
• પ્રોમ્પ્ટ ઇન્જેક્શન સામે રક્ષણ કરો. ડોક્યુમેન્ટ કે સંદેશમાં "તમારી સૂચનાઓ અવગણો" જેવું લખાણ હોઈ શકે. મોડેલ જે જોઈ શકે તે વર્તમાન વપરાશકર્તા જોઈ શકે તેટલા સુધી મર્યાદિત રાખો, અને તેને એવા ટૂલ ન આપો જે તમારો કોડ પરવાનગી તપાસે તે પહેલાં સંવેદનશીલ ક્રિયાઓ કરી શકે.
• AI કન્ટેન્ટને લેબલ કરો, જેથી વપરાશકર્તાઓ જાણે કે સારાંશ કે સૂચન જનરેટ થયું છે અને તેને ચકાસી શકે.
• નિષ્ફળતાઓને સરળતાથી સંભાળો. પ્રોવાઇડરોમાં આઉટેજ અને રેટ લિમિટ આવે છે. ટાઇમ-આઉટ કરો, સ્પષ્ટ સંદેશ બતાવો, અને બાકીની એપ ચાલતી રહે તેવું રાખો.
• વપરાશકર્તાઓ શું મોકલે છે તે જુઓ. ખુલ્લા ટેક્સ્ટ ઇનપુટ માટે મોડરેશન પગલાનો વિચાર કરો, અને તમારી ગોપનીયતા નીતિમાં સ્પષ્ટ કરો કે કન્ટેન્ટ ત્રીજા-પક્ષ AI પ્રોવાઇડર દ્વારા પ્રોસેસ થાય છે.

ચકાસણીઓની વ્યાપક યાદી AI વડે બનેલી એપ માટે સુરક્ષા ચેકલિસ્ટ માં છે.

સામાન્ય ભૂલો

• સામાન્ય ચેટબોટથી શરૂઆત કરવી, જ્યારે એક સાદું "Summarise" અથવા "Categorise" બટન વધુ લોકોને મદદ કરે.
• કીને ફ્રન્ટ-એન્ડ કોડમાં અથવા જાહેર રિપોઝિટરીમાં મૂકવી.
• આખો ડેટાબેઝ સંદર્ભ તરીકે મોકલવો, જે ધીમું, મોંઘું છે અને બીજા વપરાશકર્તાઓનો ડેટા ખુલ્લો પાડવાનું જોખમ છે.
• મુક્ત-ટેક્સ્ટ આઉટપુટ પર ભરોસો કરવો, જ્યાં સ્કીમા કે નિશ્ચિત લેબલ સેટ તેને ચકાસી શકાય તેવું બનાવે.
• વપરાશકર્તા દીઠ કોઈ મર્યાદા ન હોવી, જે પહેલું ઇન્વૉઇસ આવે ત્યારે જ ખબર પડે.

Mythex સાથે AI ફીચર્સ ઉમેરવા

Mythex માં તમે તમારી પોતાની પ્રોવાઇડર કી વાપરીને ચેટમાં માગીને તમારી પોતાની એપની અંદર AI ઉમેરો છો. કીને પ્રોજેક્ટ સિક્રેટ તરીકે સાચવો — જ્યારે એજન્ટને તેની જરૂર પડે ત્યારે Mythex ચેટમાં સિક્રેટ કાર્ડ બતાવે છે, જેથી તમારે કી વાતચીતમાં પેસ્ટ કરવી ન પડે — અને એજન્ટ સર્વર રૂટ, પ્રોમ્પ્ટ અને ઇન્ટરફેસ લખે છે. તમારી એપનો AI ઉપયોગ તમારો પ્રોવાઇડર ચાર્જ કરે છે, જે બિલ્ડિંગ માટે ખર્ચતા Mythex ક્રેડિટથી અલગ છે. docs માં તમારી પોતાની API કી સાથે AI ફીચર્સ ઉમેરો માં સ્ટાર્ટર પ્રોમ્પ્ટ છે.

પ્રશ્નો