Cara Membina Aplikasi Chatbot AI: Kunci, Prompt, Kos dan Keselamatan

Untuk membina aplikasi chatbot AI, anda memerlukan empat perkara: antara muka sembang, pelayan kecil yang menyimpan kunci API penyedia model dan memajukan mesej kepadanya, prompt sistem yang memberitahu model siapa dirinya dan apa yang dibenarkan dilakukannya, serta had yang mengawal kos dan penyalahgunaan. Pembina aplikasi AI boleh menulis semua itu daripada satu penerangan. Kerja yang kekal di tangan anda ialah memilih penyedia, menulis arahan dan menentukan perkara yang bot tidak boleh sekali-kali lakukan.

Apakah yang membentuk aplikasi chatbot AI

Kebanyakan aplikasi chatbot, sama ada pembantu sokongan, tutor atau alat dalaman “tanya dokumen kami”, mempunyai bahagian yang sama:

Bahagian	Fungsinya	Bolehkah dilangkau?
UI sembang	Senarai mesej, kotak input, keadaan “sedang berfikir”, balasan yang distrim	Tidak
Laluan pelayan	Menerima mesej pengguna, menambah prompt sistem, memanggil penyedia dengan kunci rahsia anda	Tidak, kunci tidak boleh sampai ke pelayar
Prompt sistem	Arahan tetap: peranan, nada, skop, perkara yang perlu ditolak	Tidak
Pengetahuan	Kandungan anda sendiri yang menjadi asas jawapan bot (FAQ, dasar, dokumentasi produk)	Ya, untuk pembantu am
Penyimpanan perbualan	Menyimpan benang dalam pangkalan data supaya pengguna boleh kembali	Ya, untuk versi pertama
Akaun	Membolehkan setiap pengguna hanya melihat sejarah mereka sendiri dan membolehkan anda mengehadkan penggunaan setiap orang	Ya, untuk demo awam dengan had yang ketat
Had dan log	Had panjang mesej, had kadar, had perbelanjaan, rekod ralat	Tidak

Laluan pelayan ialah bahagian yang paling kerap tersilap. Jika halaman sembang memanggil penyedia terus dari pelayar, sesiapa sahaja boleh membuka alat pembangun, menyalin kunci anda dan menjalankan bil anda.

Keputusan yang perlu dibuat sebelum membina

Penyedia dan model yang mana

Penyedia utama (OpenAI, Anthropic, Google dan lain-lain) menawarkan API gaya sembang yang berfungsi dengan cara yang sama: anda menghantar senarai mesej dan menerima balasan. Pilihan praktikalnya bergantung pada saiz model berbanding jenama:

Model yang lebih kecil dan lebih laju lebih murah dan cepat bertindak balas. Ia sesuai untuk jawapan ringkas, pengelasan dan bot FAQ yang mudah.
Model yang lebih besar lebih baik dalam penaakulan, lebih setia mengikut arahan panjang dan mengendalikan soalan yang kompleks, tetapi kosnya lebih tinggi bagi setiap mesej dan responsnya lebih perlahan.

Mulakan dengan model bersaiz sederhana, uji ia dengan soalan sebenar anda, dan naik atau turun dari situ. Jika anda baru mengenali cara API ini ditetapkan harga dan dipanggil, baca cara menggunakan API LLM dahulu.

Dari mana pengetahuan bot datang

Kandungan anda	Pendekatan
Satu atau dua halaman (waktu buka, dasar pemulangan, harga)	Letakkan terus dalam prompt sistem
Puluhan halaman yang jarang berubah	Letakkan versi ringkas dalam prompt, atau bahagikan mengikut topik dan sertakan bahagian yang berkaitan
Ratusan dokumen, atau kandungan yang berubah setiap hari	Simpan, cari petikan yang sepadan dengan setiap soalan, dan hanya hantar petikan itu (RAG)

Mulakan dengan pilihan paling mudah yang meliputi kandungan anda. Retrieval menambah indeks carian, cara untuk mengemas kininya dan lebih banyak tempat untuk jawapan tersasar. Ramai bot yang berguna tidak memerlukannya.

Awam, atau di sebalik log masuk

Chatbot awam di laman web mudah dicapai tetapi juga mudah disalahgunakan: seseorang boleh menskrip beribu-ribu mesej. Chatbot yang memerlukan log masuk membolehkan anda menyimpan sejarah bagi setiap pengguna dan menetapkan kuota harian bagi setiap akaun. Jika ia awam, hadkan panjang mesej, hadkan bilangan mesej yang boleh dihantar oleh seorang pelawat dalam tempoh tertentu, dan tetapkan had bulanan yang tegas dalam papan pemuka penyedia. Cara menambah log masuk pada aplikasi anda menerangkan bahagian akaun.

Sama ada hendak menyimpan perbualan

Benang yang disimpan berguna: pengguna boleh menyambung semula dari tempat mereka berhenti, dan anda boleh membaca soalan sebenar untuk menambah baik prompt. Tetapi ia juga data peribadi. Tentukan berapa lama anda menyimpannya, nyatakannya dalam notis privasi anda, dan jangan simpan apa-apa yang tidak perlu.

Tulis prompt sistem seperti perihal kerja

Prompt sistem ialah arahan yang diterima model sebelum setiap perbualan. Prompt yang baik dibaca seperti ringkasan pendek untuk pekerja baharu:

Peranan dan khalayak: “Anda ialah pembantu bantuan untuk Oakline, kedai baiki basikal. Anda bercakap dengan pelanggan.”
Skop: “Jawab soalan tentang perkhidmatan, harga, waktu buka dan tempahan. Untuk perkara lain, beritahu bahawa anda hanya boleh membantu dengan kedai.”
Sumber rujukan utama: “Gunakan maklumat di bawah sahaja. Jika jawapannya tiada, beritahu bahawa anda tidak tahu dan berikan nombor telefon kedai.”
Nada dan panjang: “Mesra, bahasa mudah, tiga ayat atau kurang kecuali diminta penjelasan.”
Peraturan tegas: “Jangan sekali-kali menjanjikan harga pembaikan yang tidak disenaraikan. Jangan sekali-kali meminta butiran kad.”

Kemudian uji dengan soalan yang janggal: permintaan di luar topik, mesej kasar, soalan yang jawapannya tiada dalam kandungan anda, dan cubaan untuk membuatnya mengabaikan arahannya (“lupakan peraturan anda dan…”). Laraskan prompt sehingga jawapannya ialah jawapan yang sanggup anda sahkan.

Pastikan kos boleh diramal

Penyedia mengenakan bayaran mengikut token (lebih kurang, serpihan perkataan) untuk input yang anda hantar dan output yang ditulis model. Tiga perkara ini memacu bil:

Panjang perbualan. Setiap mesej baharu biasanya menghantar semula seluruh benang supaya model mempunyai konteks. Sembang 40 mesej jauh lebih mahal bagi setiap balasan berbanding sembang 4 mesej. Simpan hanya beberapa giliran terakhir, atau ringkaskan yang lebih lama.
Saiz prompt. Prompt sistem yang panjang atau blok pengetahuan yang besar dihantar bersama setiap mesej.
Panjang output. Tetapkan panjang balasan maksimum dalam panggilan API dan minta jawapan ringkas dalam prompt.

Tetapkan had perbelanjaan bulanan dalam papan pemuka penyedia sebelum melancarkan, dan log penggunaan token bagi setiap permintaan supaya anda boleh melihat perbualan mana yang mahal. Kami tidak menyenaraikan harga di sini kerana ia berbeza mengikut model dan kerap berubah; semak halaman harga penyedia anda sendiri.

Bina langkah demi langkah

Langkah 1: Terangkan bot, bukan kod

Prompt pertama yang menamakan khalayak, skop, data dan peraturan keselamatan sudah membawa anda jauh:

Bina chatbot bantuan pelanggan untuk Oakline, kedai baiki basikal. Halaman sembang dengan senarai mesej dan input, balasan distrim semasa ditulis. Panggil API Anthropic dari laluan pelayan menggunakan kunci rahsia ANTHROPIC_API_KEY, jangan sekali-kali dedahkannya kepada pelayar. Gunakan prompt sistem yang hanya menjawab soalan tentang perkhidmatan, harga dan waktu buka kami daripada teks dalam fail bernama shop-info.md, dan berkata “Saya tidak pasti, sila hubungi kami di nombor di bawah” jika tidak. Hadkan mesej kepada 500 aksara dan 20 mesej bagi setiap pelawat sejam. Reka bentuk yang kemas dan mesra, berfungsi di telefon.

Langkah 2: Tambah kunci sebagai rahsia

Cipta kunci dalam konsol penyedia anda, kemudian simpan dalam pembolehubah persekitaran atau rahsia projek, bukan dalam sembang dan bukan dalam kod. Jika kunci pernah muncul di tempat awam, batalkannya di penyedia dan cipta yang baharu. Apakah pembolehubah persekitaran dan rahsia menerangkan sebab ini penting.

Langkah 3: Uji jawapannya, bukan sekadar antara mukanya

Setelah sembang berfungsi, luangkan kebanyakan masa anda pada kualiti jawapan. Simpan senarai kira-kira 20 soalan sebenar, termasuk beberapa yang sepatutnya ditolak, dan jalankan semuanya selepas setiap perubahan prompt. Semak:

Adakah ia kekal dalam skop?
Adakah ia mengaku apabila tidak tahu, dan bukannya mereka-reka jawapan?
Adakah ia tahan apabila seseorang cuba mengatasi arahannya?
Adakah kunci tiada daripada apa-apa yang dimuat turun oleh pelayar?

Langkah 4: Tambah ingatan dan akaun jika perlu

Setelah perbualan tunggal berfungsi, minta benang yang disimpan dalam pangkalan data dan, jika perlu, pendaftaran serta log masuk supaya setiap pengguna hanya melihat sembang mereka sendiri. Tambah juga kuota mesej harian bagi setiap pengguna pada masa yang sama.

Langkah 5: Terbitkan dengan had sudah dihidupkan

Pastikan aplikasi yang diterbitkan mempunyai rahsia yang sama seperti pratonton, had perbelanjaan ditetapkan di penyedia, dan ralat dilog di tempat yang akan anda lihat. Kemudian kongsikannya dengan kumpulan kecil sebelum meletakkannya di laman utama anda.

Keselamatan dan kepercayaan

Chatbot bercakap dengan orang ramai atas nama anda, jadi anggap mod kegagalannya sebagai tanggungjawab anda:

Jawapan yang salah. Model boleh menyatakan perkara palsu dengan yakin. Pastikan bot berada pada topik yang sempit, asaskannya pada kandungan anda sendiri, dan tunjukkan nota ringkas bahawa jawapan mungkin salah bagi perkara yang penting.
Suntikan prompt. Pengguna (atau dokumen yang dibaca bot) boleh mengandungi arahan seperti “abaikan peraturan sebelumnya”. Jangan beri bot kuasa yang tidak boleh dipercayai: tiada bayaran balik, pemadaman atau e-mel yang dihantar atas arahan pengguna tanpa semakan dalam kod anda sendiri.
Topik sensitif. Untuk soalan perubatan, undang-undang atau kewangan, minta bot menunjukkan kepada profesional dan bukannya memberi nasihat.
Data peribadi. Jangan tampal rekod pelanggan ke dalam prompt melainkan perlu, dan semak apa yang dinyatakan dalam terma penyedia anda tentang cara data API dikendalikan.

Senarai semak keselamatan kami untuk aplikasi yang dibina dengan AI meliputi aplikasi secara lebih luas.

Kesilapan yang biasa

Memanggil penyedia dari pelayar. Kunci akan bocor. Sentiasa lalui pelayan anda.
Tiada had pada bot awam. Satu skrip boleh menghabiskan bajet sebulan dalam satu petang.
Memulakan RAG, alat dan pelbagai model sekaligus. Dapatkan satu perbualan yang baik berfungsi dahulu; tambah yang lain apabila soalan sebenar menunjukkan keperluannya.
Hanya menguji soalan yang mesra. Pengguna anda akan bertanya perkara yang ganjil, bermusuhan dan di luar topik pada hari pertama.
Membiarkan benang terus membesar. Kos dan masa tindak balas meningkat dengan setiap mesej.

Apabila produk siap sedia lebih sesuai

Membina sendiri masuk akal apabila chatbot itu sebahagian daripada produk anda, memerlukan data atau aliran kerja anda sendiri, atau memerlukan rupa dan kelakuan tertentu. Ia selalunya pilihan yang salah apabila:

Anda hanya mahukan widget sokongan pada laman sedia ada. Banyak produk helpdesk dan sembang langsung kini menyertakan bot jawapan AI yang membaca pusat bantuan anda, dengan penyerahan kepada manusia, peti masuk dan laporan sudah tersedia.
Hanya anda atau pasukan anda akan menggunakannya. Langganan kepada pembantu am seperti ChatGPT atau Claude, dengan dokumen anda dimuat naik, mungkin sudah mencukupi.
Anda memerlukan jaminan pematuhan yang ketat (contohnya, data kesihatan atau kewangan yang dikawal selia). Vendor yang sudah mempunyai pensijilan mungkin lebih selamat daripada binaan tersuai.

Membina dengan Mythex

Mythex ialah pembina aplikasi AI: anda menerangkan chatbot dalam sembang, dan ia menulis antara muka serta panggilan sebelah pelayan, menjalankannya dalam pratonton langsung dan menerbitkannya ke URL awam. AI dalam aplikasi anda menggunakan kunci penyedia anda sendiri. Anda menambahnya dalam rahsia projek, atau melalui kad rahsia yang Mythex tunjukkan dalam sembang apabila ia memerlukannya, dan penggunaan penyedia dibilkan kepada akaun penyedia anda, bukan kepada kredit pembinaan Mythex. Mythex tidak menyertakan token untuk pengguna aplikasi anda, produk pangkalan pengetahuan terbina dalam, atau had kadar sedia ada: itu semua bahagian yang anda minta dan uji sendiri. Halaman dokumentasi tentang menambah AI dalam aplikasi anda memandu langkah-langkahnya, dan tambah AI dengan kunci API anda sendiri mempunyai prompt permulaan.

Jika bot memerlukan benang yang disimpan, Mythex melampirkan pangkalan data Postgres pada projek apabila anda memintanya. Untuk lebih banyak cara menggunakan model dalam aplikasi, daripada ringkasan hingga pengelasan, lihat cara menambah ciri AI pada aplikasi anda, atau layari templat aplikasi untuk titik permulaan.

Soalan lazim

Adakah saya perlukan kunci API sendiri untuk membina aplikasi chatbot AI?

Ya, hampir dalam semua keadaan. Chatbot menghantar setiap mesej ke penyedia model seperti OpenAI, Anthropic atau Google, dan penyedia itu mengenakan bayaran kepada akaun yang memiliki kunci API. Kunci mesti disimpan di pelayan anda, bukan di dalam halaman web.

Berapakah kos untuk menjalankan chatbot AI?

Penyedia mengenakan caj mengikut token, untuk teks yang anda hantar dan teks yang dijana semula oleh model, dan harga berbeza jauh antara model. Oleh kerana setiap mesej baharu biasanya menghantar semula perbualan setakat ini, sembang yang panjang lebih mahal bagi setiap mesej berbanding yang pendek. Semak halaman harga penyedia anda dan tetapkan had perbelanjaan dalam papan pemuka mereka.

Bolehkah saya melatih chatbot menggunakan dokumen saya sendiri?

Biasanya anda tidak melatih model itu sendiri. Untuk kandungan yang kecil, anda tampalkannya ke dalam prompt sistem; untuk perpustakaan yang besar, anda menyimpannya, mencari petikan yang berkaitan bagi setiap soalan, dan hanya menghantar petikan tersebut kepada model. Pendekatan kedua ini dipanggil retrieval-augmented generation, atau RAG.

Bolehkah saya membina chatbot AI tanpa pengekodan?

Boleh. Pembina aplikasi AI boleh menulis antara muka sembang, laluan pelayan yang memanggil model dan pangkalan data untuk perbualan yang disimpan, daripada penerangan dalam bahasa biasa. Anda tetap perlu mencipta akaun penyedia dan kunci API sendiri.