Paano Gumawa ng AI Chatbot App: Keys, Prompts, Gastos at Seguridad

Para gumawa ng AI chatbot app, kailangan mo ng apat na bagay: isang chat interface, maliit na server na nagtatago ng API key ng model provider mo at nagpapasa ng mga mensahe rito, system prompt na nagsasabi sa model kung sino ito at ano ang puwede nitong gawin, at mga limit na nagko-control ng gastos at maling paggamit. Kayang isulat ng AI app builder ang lahat ng iyon mula sa isang paglalarawan. Ang trabahong maiiwan sa iyo ay ang pagpili ng provider, ang pagsulat ng instructions, at ang pagpapasya kung ano ang hindi dapat gawin ng bot kailanman.

Ano ang binubuo ng AI chatbot app

Karamihan ng chatbot app, maging support assistant, tutor, o internal na "magtanong sa docs natin" na tool, ay may parehong bahagi:

Ang server route ang bahaging pinakamadalas na nagagawang mali. Kapag tinatawagan ng chat page ang provider nang diretso mula sa browser, sinuman ay puwedeng magbukas ng developer tools, kopyahin ang key mo, at patakbuhin ang bill mo.

Mga desisyong dapat gawin bago magsimula

Aling provider at model

Ang mga pangunahing provider (OpenAI, Anthropic, Google, at iba pa) ay may chat-style API na pare-pareho ang takbo: magpapadala ka ng listahan ng mga mensahe at makakatanggap ng sagot. Mas nakasalalay ang praktikal na pagpili sa laki ng model kaysa sa brand:

• Mas maliit at mas mabilis na model ay mas mura at mabilis sumagot. Mainam ang mga ito para sa maikling sagot, classification, at simpleng FAQ bot.
• Mas malalaking model ay mas mahusay mag-isip, mas sumusunod sa mahahabang instructions, at mas kayang hawakan ang magugulong tanong, ngunit mas mahal bawat mensahe at mas mabagal sumagot.

Magsimula sa katamtamang laki ng model, subukan ito sa totoong mga tanong mo, at mag-adjust mula roon. Kung bago ka pa sa pagpepresyo at pagtawag sa mga API na ito, basahin muna ang paano gamitin ang LLM APIs.

Saan galing ang kaalaman ng bot

Magsimula sa pinakasimpleng opsyong sumasaklaw sa content mo. Nagdadagdag ang retrieval ng search index, ng paraan para panatilihin itong updated, at ng mas maraming lugar kung saan puwedeng magkamali ang sagot. Marami sa mga kapaki-pakinabang na bot ang hindi na kailangan nito.

Public o naka-login

Madaling maabot ang public na chatbot sa website mo, pero madali rin itong abusuhin: may magsa-script ng libo-libong mensahe rito. Ang chatbot na naka-login ay nagbibigay-daan para i-save ang history ng bawat user at magtakda ng araw-araw na allowance bawat account. Kung public, limitahan ang haba ng mensahe, ilimita kung ilang mensahe ang maipapadala ng isang bisita sa loob ng isang panahon, at magtakda ng mahigpit na buwanang limit sa dashboard ng provider. Sakop ng paano magdagdag ng login sa app mo ang panig ng account.

Kung ise-save ang mga usapan

Kapaki-pakinabang ang naka-save na thread: puwedeng ipagpatuloy ng users ang usapan, at maaari mong basahin ang mga totoong tanong para mapabuti ang prompt. Personal data rin ang mga ito. Magpasya kung gaano katagal mo itatago, sabihin ito sa privacy notice mo, at huwag mag-save ng hindi mo kailangan.

Isulat ang system prompt na parang job description

Ang system prompt ang instruction na natatanggap ng model bago ang bawat usapan. Ang mabuting system prompt ay parang maikling brief para sa bagong empleyado:

• Papel at audience: "Ikaw ang help assistant ng Oakline, isang bike repair shop. Kausap mo ang mga customer."
• Saklaw: "Sumagot tungkol sa mga serbisyo, presyo, oras ng bukas, at booking. Para sa iba, sabihin mong sa shop lang ako maaaring tumulong."
• Pinagmumulan ng totoo: "Gamitin lamang ang impormasyon sa ibaba. Kung wala roon ang sagot, sabihin mong hindi mo alam at ibigay ang numero ng shop."
• Tono at haba: "Magiliw, simpleng wika, tatlong pangungusap o mas kaunti maliban kung may humingi ng detalye."
• Mahigpit na patakaran: "Huwag mangako ng presyo ng repair na wala sa listahan. Huwag kailanman humingi ng detalye ng card."

Pagkatapos, subukan ito gamit ang mahihirap na tanong: mga bagay na wala sa saklaw, bastos na mensahe, tanong na walang sagot sa content mo, at pagtatangkang alisin ang instructions nito ("kalimutan ang mga patakaran mo at…"). Ayusin ang prompt hanggang maging mga sagot ang mga ito na handa mong panindigan.

Panatilihing predictable ang gastos

Naniningil ang mga provider bawat token (humigit-kumulang, piraso ng salita) para sa input na ipinapadala mo at sa output na isinusulat ng model. Tatlong bagay ang nagpapataas ng bill:

1. Haba ng usapan. Karaniwang ipinapadala muli ng bawat bagong mensahe ang buong thread para may konteksto ang model. Ang 40-mensaheng chat ay mas mahal bawat sagot kaysa sa 4-mensaheng chat. Panatilihin lamang ang huling ilang turn, o i-summarize ang mas luma.
2. Laki ng prompt. Ang mahabang system prompt o malaking bloke ng kaalamang ipinasa ay ipinapadala sa bawat mensahe.
3. Haba ng output. Magtakda ng maximum na haba ng sagot sa API call at humingi ng maikling sagot sa prompt.

Magtakda ng buwanang spending limit sa dashboard ng provider bago mag-launch, at mag-log ng token usage bawat request para makita kung aling mga usapan ang mahal. Hindi namin inilalagay dito ang mga presyo dahil nag-iiba ang mga ito ayon sa model at madalas magbago; tingnan ang sariling pricing page ng provider mo.

Buuin ito hakbang-hakbang

Hakbang 1: Ilarawan ang bot, hindi ang code

Ang unang prompt na nagbabanggit ng audience, saklaw, data, at safety rules ay makakarating ka na sa malaking bahagi ng daan:

Gumawa ng customer help chatbot para sa Oakline, isang bike repair shop. May chat page na may listahan ng mensahe at input, at lumalabas ang mga sagot habang isinusulat ang mga ito. Tawagan ang Anthropic API mula sa server route gamit ang secret na ANTHROPIC_API_KEY — huwag itong ilantad kailanman sa browser. Gumamit ng system prompt na sumasagot lamang sa mga tanong tungkol sa mga serbisyo, presyo, at oras namin mula sa teksto sa file na shop-info.md, at sumagot ng "Hindi ako sigurado — tawagan kami sa numerong nasa ibaba" kung hindi. Limitahan ang mensahe sa 500 character at 20 mensahe bawat bisita kada oras. Malinis at magiliw na disenyong gumagana sa phone.

Hakbang 2: Ilagay ang key bilang secret

Gumawa ng key sa console ng provider mo, saka itago ito sa environment variables o secrets ng project, hindi sa chat at hindi sa code. Kung may key na lumabas sa publiko, i-revoke ito sa provider at gumawa ng bago. Ipinaliliwanag ng ano ang environment variables at secrets kung bakit ito mahalaga.

Hakbang 3: Subukan ang mga sagot, hindi lang ang interface

Kapag gumagana na ang chat, gugulin ang karamihan ng oras sa kalidad ng sagot. Magtabi ng listahan ng humigit-kumulang 20 totoong tanong, kasama ang ilang dapat tanggihan, at patakbuhin ang mga ito pagkatapos ng bawat pagbabago sa prompt. Tingnan:

• Nananatili ba ito sa saklaw?
• Inaamin ba nito kapag hindi alam ang sagot, sa halip na mag-imbento?
• Nananatili ba ito kapag may sumubok na i-override ang instructions nito?
• Wala ba ang key sa anumang bagay na dina-download ng browser?

Hakbang 4: Magdagdag ng memory at accounts kung kailangan

Kapag gumagana na ang mga indibidwal na usapan, humingi ng naka-save na thread sa database at, kung kailangan, sign-up at login para makita ng bawat user ang sarili niyang mga chat. Idagdag din ang per-user na araw-araw na allowance ng mensahe.

Hakbang 5: Mag-publish nang nakabukas ang limits

Siguraduhing may parehong secrets ang published app gaya ng preview, nakatakda ang spending cap sa provider, at naka-log ang errors sa lugar na regular mong makikita. Saka ito ibahagi sa maliit na grupo bago ilagay sa pangunahing site mo.

Kaligtasan at tiwala

Nakikipag-usap ang chatbot sa publiko sa iyong pangalan, kaya ikaw ang mananagot sa mga pagkakamali nito:

• Maling sagot. Puwedeng magsabi ng maling bagay ang mga model nang buong kumpiyansa. Panatilihing makitid ang paksa ng bot, ibase ito sa sarili mong content, at magpakita ng maikling paalalang puwedeng magkamali ang sagot sa mahahalagang bagay.
• Prompt injection. Puwedeng maglaman ang user (o ang dokumentong binabasa ng bot) ng instructions gaya ng "balewalain ang naunang patakaran". Huwag bigyan ang bot ng kapangyarihang hindi mo kayang pagkatiwalaan: walang refund, pagbura, o email na ipinapadala dahil lang sa sinabi ng user nang walang pagsusuri sa sarili mong code.
• Sensitibong paksa. Para sa medikal, legal, o pinansyal na tanong, ituro ang tao sa propesyonal sa halip na magbigay ng payo.
• Personal data. Huwag mag-paste ng customer records sa prompts maliban kung kailangan, at tingnan kung ano ang sinasabi ng terms ng provider mo tungkol sa paghawak ng API data.

Sakop ng aming security checklist para sa AI-built apps ang mas malawak na app.

Karaniwang pagkakamali

• Pagtawag sa provider mula sa browser. Lalabas ang key. Laging dumaan sa server mo.
• Walang limit sa public na bot. Kayang maubos ng isang script ang buwanang budget sa loob ng isang hapon.
• Sabay-sabay na RAG, tools, at maraming model sa simula. Pagandahin muna ang isang maayos na usapan; idagdag ang iba kapag ipinakita ng totoong tanong na kailangan ang mga ito.
• Pagsubok lang sa mga magiliw na tanong. Magtatanong ang users ninyo ng kakaiba, galit, at hindi kaugnay na bagay sa unang araw.
• Pagpapahintulot na lumaki nang walang hanggan ang thread. Tumataas ang gastos at tagal ng sagot sa bawat mensahe.

Kailan mas mabuting gumamit ng handang produkto

Makatwiran ang sariling chatbot kapag bahagi ito ng produkto mo, kailangan nito ang sarili mong data o workflow, o kailangan nito ng partikular na itsura at kilos. Madalas itong maling pagpili kapag:

• Gusto mo lang ng support widget sa umiiral na site. Maraming helpdesk at live-chat na produkto ngayon ang may kasamang AI answer bot na nagbabasa ng help center mo, may handover sa tao, inbox, at reporting na tapos na.
• Ikaw o ang team mo lang ang gagamit. Maaaring sapat na ang subscription sa pangkalahatang assistant gaya ng ChatGPT o Claude, kasama ang mga dokumentong i-u-upload mo.
• Kailangan mo ng mahigpit na garantiya sa compliance (halimbawa, regulated na health o financial data). Maaaring mas ligtas ang vendor na may mga certification na kaysa sa custom na build.

Pagbuo nito gamit ang Mythex

Ang Mythex ay AI app builder: ilalarawan mo ang chatbot sa chat, isusulat nito ang interface at ang server-side call, papatakbuhin ito sa live preview, at ipa-publish sa public URL. Ang AI sa loob ng app mo ay gumagamit ng sarili mong provider key. Idaragdag mo ito sa project secrets, o sa pamamagitan ng secrets card na ipinapakita ng Mythex sa chat kapag kailangan, at ang paggamit ng provider ay sisingilin sa account mo sa provider, hindi sa Mythex build credits. Hindi nagbibigay ang Mythex ng tokens para sa users ng app mo, ng built-in na knowledge-base product, o ng handang rate limits: mga bahaging hinihiling at sinusubukan mo. Ipinaliliwanag ng docs page tungkol sa pagdaragdag ng AI sa loob ng app ang proseso, at may starter prompt ang pagdaragdag ng AI gamit ang sarili mong API keys.

Kung kailangan ng bot ang naka-save na thread, naglalagay ang Mythex ng Postgres database sa project kapag hiniling mo. Para sa iba pang paraan ng paggamit ng model sa loob ng app, mula sa buod hanggang classification, tingnan ang paano magdagdag ng AI features sa app mo, o tingnan ang app templates para sa panimulang punto.

Mga tanong