AI chatbot app хэрхэн хийх вэ: түлхүүр, prompt, зардал, аюулгүй байдал

AI chatbot app хийхэд дөрвөн зүйл хэрэгтэй: чатын интерфейс, загварын үйлчилгээний API түлхүүрийг хадгалж, мессежийг түүн рүү дамжуулдаг жижиг сервер, загварт хэн болох, юу хийж болох, юу хийхгүй байхыг заасан system prompt, мөн зардал болон буруу хэрэглээг хянах хязгаарлалтууд. AI app builder нь эдгээрийг тайлбараас бүхэлд нь бичиж чадна. Харин таны хийх ажил бол үйлчилгээ сонгох, зааврыг бичих, боту хэзээ ч хийж болохгүй зүйлээ шийдэх явдал юм.

AI chatbot app юунаас бүтдэг вэ

Дэмжлэгийн туслах, багш, эсвэл дотоод «баримт бичгээсээ асуух» хэрэгсэл гэх мэт ихэнх chatbot app ижил хэсгүүдтэй байдаг:

Серверийн маршрут бол хамгийн их алдагддаг хэсэг. Хэрэв чатын хуудас загвартай шууд хөтчөөс холбогдвол хэн ч хөгжүүлэгчийн хэрэгслээр түлхүүрийг хуулж аваад таны төлбөрийг өсгөж чадна.

Бүтээхээсээ өмнө шийдэх зүйлс

Аль үйлчилгээ, аль загвар вэ

OpenAI, Anthropic, Google болон бусад томоохон үйлчилгээнүүд бүгд адилхан ажилладаг chat-маягийн API санал болгодог: мессежүүдийн жагсаалтыг илгээж, хариулт авдаг. Практик сонголт нь брэндээс илүү загварын хэмжээнээс хамаарна:

• Жижиг, хурдан загварууд хямд, хурдан хариулдаг. Богино хариулт, ангилал, энгийн FAQ ботод тохиромжтой.
• Том загварууд илүү сайн бодож, урт заавруудыг найдвартай дагаж, төвөгтэй асуултад илүү сайн хариулдаг, гэхдээ мессеж бүрт илүү үнэтэй, удаан хариулдаг.

Дунд зэргийн загвараас эхэлж, өөрийн жинхэнэ асуултууд дээр туршаад, тэндээс нь дээш эсвэл доош шилжинэ. Эдгээр API-г хэрхэн үнэлдэг, дуудаг талаар хараахан мэдэхгүй бол эхлээд LLM API-г хэрхэн ашиглах вэ гарыг уншаарай.

Ботын мэдлэг хаанаас ирэх вэ

Агуулгаа хангах хамгийн энгийн аргаар эхэл. Хайлт нэмбэл хайлтын индекс, түүнийг шинэчлэх арга, хариулт буруу гарах олон газар нэмэгдэнэ. Олон ашигтай бот огт хайлт шаардахгүй.

Олон нийтэд нээлттэй, эсвэл нэвтрэлттэй

Вэбсайтдаа нийтэд нээлттэй chatbot-д хүрэхэд хялбар боловч хүн скриптээр мянга мессеж илгээж урвуулан ашиглаж болно. Нэвтэрсэн chatbot нь хэрэглэгч бүрийн түүхийг хадгалж, хүн тус бүрд өдрийн хязгаар тавих боломжийг олгодог. Хэрэв нээлттэй бол мессежийн уртыг хязгаарлаж, нэг зочин тодорхой хугацаанд илгээх мессежийн тоог хязгаарлаж, үйлчилгээний хяналтын самбар дээр сарын дээд хэмжээ тавь. Бүртгэлийн талыг app-даа нэвтрэлт нэмэх гарын авлагаас харна уу.

Яриаг хадгалах эсэх

Хадгалагдсан яриа хэрэгтэй: хэрэглэгч үргэлжлүүлж чадна, та жинхэнэ асуултуудыг уншаад prompt-оо сайжруулж болно. Гэвч тэдгээр нь хувийн мэдээлэл юм. Хэр удаан хадгалахаа шийдэж, нууцлалын бодлогодоо бичиж, хэрэгцээгүй зүйлийг хадгалахгүй байх хэрэгтэй.

System prompt-ийг ажлын тодорхойлолт шиг бич

System prompt бол яриа бүрийн өмнө загварт өгдөг заавар юм. Сайн system prompt нь шинэ ажилтанд өгөх товч зааврын адил уншигддаг:

• Үүрэг ба хэрэглэгч: «Та Oakline дугуй засварын газрын тусламжийн туслах. Таны харилцагч бол үйлчлүүлэгч.»
• Хамрах хүрээ: «Үйлчилгээ, үнэ, ажлын цаг, цаг захиалгын талаарх асуултад хариул. Бусад асуултад зөвхөн дэлгүүрийн асуудлаар туслах боломжтойгоо хэл.»
• Үнэн мэдээллийн эх сурвалж: «Доорх мэдээллийг л ашигла. Хариулт байхгүй бол мэдэхгүй гэдгээ хэлж, дэлгүүрийн утсыг өг.»
• Өнгө аяс ба урт: «Найрсаг, энгийн хэлээр, асуугаагүй бол гурван өгүүлбэрээс ихгүй.»
• Хатуу дүрэм: «Жагсаалтад байхгүй засварын үнийг хэзээ ч амлахгүй. Картын мэдээллийг хэзээ ч асуухгүй.»

Дараа нь хүнд асуултуудаар туршаарай: хамааралгүй хүсэлт, бүдүүлэг мессеж, агуулганд байхгүй асуулт, мөн «дүрмээ мартаад…» гэх мэт зааврыг үл тоомсорлуулах оролдлого. Хариултууд нь таны нэрээр гарсан ч зөв гэж батлах хүртэл prompt-оо засаарай.

Зардлаа тогтмол байлгах

Үйлчилгээ токеноор (ойролцоогоор үгийн хэсгээр) тооцож, та илгээсэн оролт болон загварын гаргасан гаралтыг хоёуланг нь тооцдог. Зардлыг гурван зүйл хөдөлгөдөг:

1. Яриаг урт байдал. Шинэ мессеж бүр ихэвчлэн загварт контекст өгөхийн тулд бүх яриаг дахин илгээдэг. 40 мессежтэй чат нь 4 мессежтэй чатаас хариулт бүрдээ илүү их зардалтай. Сүүлийн хэдэн эргэлтийг л үлдээх, эсвэл хуучныг нь нэгтгэн хураангуйлах хэрэгтэй.
2. Prompt-ийн хэмжээ. Урт system prompt болон том хэмжээний мэдлэгийн текст мессеж бүрт дахин явдаг.
3. Гаралтын урт. API дуудлагад хариултын дээд уртыг тогтоож, prompt-д товч хариулахыг хүс.

Нийтэд нээхээсээ өмнө үйлчилгээний хяналтын самбар дээр сарын зарцуулалтын хязгаар тавь, мөн хүсэлт бүрийн токены хэрэглээг бүртгэ, ингэснээр аль яриа үнэтэйг харж болно. Үнийг энд тоолохгүй, учир нь загвар бүрээр ялгаатай бөгөөд байнга өөрчлөгддөг; үйлчилгээний өөрийн үнийн хуудсыг шалгаарай.

Алхам алхмаар бүтээх

Алхам 1: Кодыг бус ботыг тодорхойл

Хэнд зориулсан, ямар хамрах хүрээтэй, ямар мэдээлэлтэй, ямар аюулгүй байдлын дүрэмтэй болохыг дурдсан анхны prompt нь ихэнх зам мөрийг аль хэдийн дуусгана:

Oakline дугуй засварын газарт зориулсан үйлчлүүлэгчийн тусламжийн chatbot бүтээ. Мессежийн жагсаалт, оруулах талбартай чатын хуудас, хариултыг бичиж байх зуур урсгалаар гаргадаг байг. Сервер дээрх маршрутаас ANTHROPIC_API_KEY нууц түлхүүрээр Anthropic API-г дуудаа; түлхүүрийг хөтөчд хэзээ ч бүү ил гаргаарай. Системийн prompt нь shop-info.md файлд байгаа мэдээллээр л үйлчилгээ, үнэ, цагийн талаар хариулж, үгүй бол «Би мэдэхгүй байна, доорх дугаараар залгаарай» гэж хэлдэг байг. Мессежийг 500 тэмдэгтээр, зочин бүрт цагт 20 мессежээр хязгаарла. Цэвэр, найрсаг дизайн, утсан дээр сайн ажилладаг байг.

Алхам 2: Түлхүүрээ нууц болгон нэм

Үйлчилгээний консол дээрээ түлхүүрээ үүсгээд, төслийн орчны хувьсагч эсвэл нууцад хадгал, чатанд болон кодонд бүү бичээрэй. Хэрэв түлхүүр хаа нэгтээ олон нийтэд харагдвал үйлчилгээ дээр нь хүчингүй болгож, шинийг нь үүсгэ. Орчны хувьсагч ба нууц гэж юу вэ яагаад чухал болохыг тайлбарласан.

Алхам 3: Интерфэйсийг бус хариултыг туршаарай

Чат ажиллаж эхлэхэд цаг заваа хариултын чанарт зарцуул. Жинхэнэ 20 орчмын асуултын жагсаалт гаргаж, заримыг нь татгалзах ёстой гэж тэмдэглээд, prompt өөрчлөх бүрийн дараа ажиллуулаарай. Шалга:

• Хамрах хүрээнээсээ гадуурхи байхгүй юу?
• Мэдэхгүйгээ хэлж, таамаглан хариулахгүй байна уу?
• Зааврыг нь үл тоомсорлуулах оролдлогод тэсвэртэй юу?
• Түлхүүр хөтөчид татагдах аливаа файлд байхгүй юу?

Алхам 4: Шаардлагатай бол санах ой, бүртгэл нэм

Нэг яриа ажиллаж эхэлсний дараа хадгалагдсан яриаг өгөгдлийн санд хадгалуулах, шаардлагатай бол бүртгүүлэх, нэвтрэх боломжийг нэм, ингэснээр хүн бүр зөвхөн өөрийн чатаа харна. Мөн хэрэглэгч бүрт өдрийн мессежийн хязгаарыг зэрэг тавь.

Алхам 5: Хязгаарыг асаасан хэвээр нийтэлэх

Нийтэлсэн app нь урьдчилан харахтай адил нууцтай байгаа эсэхийг шалга, зарцуулалтын хязгаарыг үйлчилгээ дээр тогтоосон эсэхийг баталж, алдааг таны харах газар бүртгэдэг эсэхийг шалга. Дараа нь үндсэн сайтдаа тавихаасаа өмнө бага хэсэг хүмүүстэй туршаарай.

Аюулгүй байдал ба итгэлцэл

Chatbot нь олон нийттэй таны нэрээр ярьдаг тул түүний алдааг өөрийн асуудал гэж үз:

• Буруу хариулт. Загварууд худлаа зүйлийг итгэлтэйгээр хэлж чадна. Ботыг нарийн сэдэвт байлга, өөрийн агуулгад үндэслэ, чухал зүйлд хариулт буруу байж болзошгүйг товчхон харуул.
• Prompt injection. Хэрэглэгч (эсвэл бот уншдаг баримт) «өмнөх дүрмийг үл тоомсорло» гэх мэт зааварт агуулсан байж болно. Ботод найдах боломжгүй эрх бүү өг: хэрэглэгчийн хүсэлтээр буцаан олголт, устгал, имэйл илгээлт бүү хийлгэ, мөн таны өөрийн код шалгахгүйгээр бүү хий.
• Мэдрэмтгий сэдэв. Эрүүл мэнд, хууль, санхүүгийн асуултад зөвлөгөө өгөхийн оронд мэргэжилтэнд хандахыг хэл.
• Хувийн мэдээлэл. Шаардлагагүй бол үйлчлүүлэгчийн бүртгэлийг prompt-д бүү оруул, мөн үйлчилгээ API-ийн өгөгдлийг хэрхэн боловсруулдагийг өөрийн нөхцөлөөс шалга.

Энэ нь өргөн хүрээний аппыг хамарсан AI-аар бүтээсэн аппын аюулгүй байдлын шалгах жагсаалт-д байна.

Түгээмэл алдаанууд

• Үйлчилгээг хөтчөөс шууд дуудах. Түлхүүр алдагддаг. Үргэлж өөрийн серверээр дамжуул.
• Нийтэд нээлттэй ботод хязгаар байхгүй. Нэг скрипт нэг өдрийн дотор сарын төсвийг шатааж чадна.
• RAG, хэрэгслүүд, олон загварыг нэг дор эхлүүлэх. Эхлээд нэг сайн яриаг ажиллуул; жинхэнэ асуултууд шаардлагатайг харуулах үед л нэм.
• Зөвхөн таатай асуултуудыг туршиж байх. Хэрэглэгчид нэг дор эхний өдрөөс л хачин, дайсагнасан, сэдвээс гадуурх зүйл асууна.
• Яриаг хязгааргүй өсгөх. Мессеж бүрээр зардал болон хариулах хугацаа өсдөг.

Бэлэн бүтээгдэхүүн илүү сайн сонголт байх үе

Өөрөө бүтээх нь чатбот таны бүтээгдэхүүний нэг хэсэг, өөрийн өгөгдөл эсвэл ажлын урсгал хэрэгтэй, эсвэл тусгай дизайн, зан төлөв шаардлагатай үед утгатай. Дараах тохиолдолд өөрөө бүтээх нь зөв биш байж болно:

• Зөвхөн одоо байгаа вэбсайтдаа дэмжлэгийн widget хэрэгтэй. Олон helpdesk болон live-chat бүтээгдэхүүн одоо өөрийн тусламжийн төвийг уншдаг AI хариулах ботыг хүний шилжилт, харилцагчийн хайрцаг, тайлантай хамт аль хэдийн агуулдаг.
• Зөвхөн та эсвэл багийн хүмүүс ашиглана. ChatGPT эсвэл Claude зэрэг ерөнхий туслахын захиалга, баримт бичгээ байршуулсан байдлаар хангалттай байж болно.
• Хатуу хууль журмын баталгаа хэрэгтэй (жишээ нь зохицуулалттай эрүүл мэнд эсвэл санхүүгийн өгөгдөл). Гэрчилгээтэй борлуулагч өөрөө бүтээхээс найдвартай байж болно.

Mythex-ээр бүтээх нь

Mythex бол AI app builder: чатад ботоо тайлбарлахад тэр чатын интерфейс болон серверийн дуудлагыг бичиж, урьдчилан харах горимд ажиллуулж, олон нийтийн URL дээр нийтэлдэг. Таны app дотор ажиллах AI нь таны өөрийн үйлчилгээний түлхүүрийг ашигладаг. Та түлхүүрийг төслийн нууцад нэмнэ, эсвэл Mythex шаардлагатай үед чатад харуулах нууцын карт ашиглана, мөн үйлчилгээний зардлыг Mythex-ийн бүтээх кредитээр бус таны өөрийн үйлчилгээний дансанд бичнэ. Mythex нь таны app-ийн хэрэглэгчдэд токен, суурилуулсан мэдлэгийн сан, бэлэн хурдны хязгаар олгодоггүй: эдгээрийг та хүсэж, туршина. AI-г app-даа нэмэх гарын авлагаас эхэлж болох бөгөөд өөрийн API түлхүүрээр AI нэмэх хуудсанд эхлэх prompt байна.

Яриаг хадгалах шаардлагатай бол та асуухад Mythex төсөлд Postgres өгөгдлийн сан нэмнэ. Аппдаа загвар ашиглах өөр арга, нэгтгэн дүгнэхээс ангилалд хүртэл, AI-ийн функцийг app-д нэмэх нь гарын авлагад байна, эсвэл эхлэх цэгүүдийн app загваруудыг үзнэ үү.

Асуултууд