วิธีสร้างแอปแชทบอท AI: คีย์ พรอมต์ ต้นทุน และความปลอดภัย
การสร้างแอปแชทบอท AI คุณต้องมีสี่อย่าง ได้แก่ หน้าแชท เซิร์ฟเวอร์เล็กๆ ที่เก็บ API key ของผู้ให้บริการโมเดลและส่งข้อความไปให้ system prompt ที่บอกโมเดลว่ามันเป็นใครและทำอะไรได้บ้าง และข้อจำกัดที่ช่วยควบคุมค่าใช้จ่ายและการใช้งานในทางที่ผิด เครื่องมือสร้างแอป AI เขียนทั้งหมดนี้ให้จากคำอธิบายได้ ส่วนที่คุณต้องทำเองคือการเลือกผู้ให้บริการ การเขียนคำสั่ง และการกำหนดว่าบอทต้องไม่ทำอะไรเลย
แอปแชทบอท AI ประกอบด้วยอะไรบ้าง
แอปแชทบอทส่วนใหญ่ ไม่ว่าจะเป็นผู้ช่วยฝ่ายซัพพอร์ต ติวเตอร์ หรือเครื่องมือภายในแบบ "ถามเอกสารของเรา" มีส่วนประกอบเดียวกัน:
| ส่วนประกอบ | หน้าที่ | ข้ามได้หรือไม่ |
|---|---|---|
| หน้าแชท (Chat UI) | รายการข้อความ ช่องพิมพ์ สถานะ "กำลังคิด" และคำตอบที่ทยอยแสดง | ไม่ได้ |
| Server route | รับข้อความของผู้ใช้ เพิ่ม system prompt และเรียกผู้ให้บริการด้วย secret key ของคุณ | ไม่ได้ คีย์ต้องไม่ไปถึงเบราว์เซอร์ |
| System prompt | คำสั่งประจำ: บทบาท น้ำเสียง ขอบเขต และสิ่งที่ต้องปฏิเสธ | ไม่ได้ |
| ความรู้ (Knowledge) | เนื้อหาของคุณที่บอทใช้ตอบ (FAQ นโยบาย เอกสารผลิตภัณฑ์) | ได้ สำหรับผู้ช่วยทั่วไป |
| การเก็บบทสนทนา | บันทึกการสนทนาลงฐานข้อมูลเพื่อให้ผู้ใช้กลับมาดูได้ | ได้ สำหรับเวอร์ชันแรก |
| บัญชีผู้ใช้ | ให้แต่ละคนเห็นเฉพาะประวัติของตัวเอง และจำกัดการใช้งานรายบุคคลได้ | ได้ สำหรับเดโมสาธารณะที่มีข้อจำกัดเข้มงวด |
| ข้อจำกัดและการบันทึก log | จำกัดความยาวข้อความ อัตราการส่ง วงเงินการใช้จ่าย และบันทึกข้อผิดพลาด | ไม่ได้ |
ส่วน server route คือจุดที่คนมักทำผิดบ่อยที่สุด ถ้าหน้าแชทเรียกผู้ให้บริการโดยตรงจากเบราว์เซอร์ ใครก็ตามเปิดเครื่องมือสำหรับนักพัฒนาก็คัดลอกคีย์ของคุณไปและใช้จนค่าใช้จ่ายพุ่ง
การตัดสินใจก่อนลงมือสร้าง
ผู้ให้บริการและโมเดลใดดี
ผู้ให้บริการหลัก (OpenAI, Anthropic, Google และอื่นๆ) ล้วนมี API แบบแชทที่ทำงานคล้ายกัน คุณส่งรายการข้อความแล้วได้คำตอบกลับ ทางเลือกในทางปฏิบัติขึ้นอยู่กับขนาดของโมเดลมากกว่าแบรนด์:
- โมเดลขนาดเล็กและเร็วกว่า ถูกกว่าและตอบเร็ว เหมาะกับคำตอบสั้น การจัดประเภท และบอท FAQ แบบง่าย
- โมเดลขนาดใหญ่ ให้เหตุผลได้ดีกว่า ทำตามคำสั่งยาวๆ ได้เสถียรกว่า และรับมือกับคำถามที่ซับซ้อนได้ดี แต่ค่าใช้จ่ายต่อข้อความสูงกว่า และตอบช้ากว่า
เริ่มจากโมเดลขนาดกลาง ทดสอบกับคำถามจริงของคุณ แล้วค่อยปรับขึ้นหรือลงจากตรงนั้น ถ้าคุณยังไม่คุ้นกับวิธีคิดราคาและการเรียก API ของโมเดลเหล่านี้ อ่าน วิธีใช้ LLM API ก่อน
ความรู้ของบอทมาจากไหน
| เนื้อหาของคุณ | แนวทาง |
|---|---|
| หนึ่งหรือสองหน้า (เวลาทำการ นโยบายการคืนสินค้า ราคา) | ใส่ลงใน system prompt โดยตรง |
| หลายสิบหน้าที่ไม่ค่อยเปลี่ยน | ใส่เวอร์ชันที่ย่อแล้วลงใน prompt หรือแบ่งตามหัวข้อแล้วใส่เฉพาะส่วนที่เกี่ยวข้อง |
| หลายร้อยเอกสาร หรือเนื้อหาที่เปลี่ยนทุกวัน | เก็บไว้ ค้นหาข้อความที่ตรงกับแต่ละคำถาม แล้วส่งเฉพาะส่วนนั้น (RAG) |
เริ่มจากตัวเลือกที่ง่ายที่สุดซึ่งครอบคลุมเนื้อหาของคุณได้ การใช้ retrieval ต้องมีดัชนีการค้นหา วิธีอัปเดตดัชนีนั้น และมีจุดที่คำตอบอาจผิดเพิ่มขึ้น แชทบอทที่มีประโยชน์หลายตัวไม่จำเป็นต้องใช้มันเลย
สาธารณะหรือต้องล็อกอิน
แชทบอทสาธารณะบนเว็บไซต์เข้าถึงได้ง่าย แต่ก็ถูกใช้ในทางที่ผิดได้ง่ายเช่นกัน มีคนสามารถเขียนสคริปต์ส่งข้อความหลายพันข้อความเข้าไปได้ ส่วนแชทบอทที่ต้องล็อกอินช่วยให้บันทึกประวัติรายผู้ใช้ และตั้งโควตาต่อวันต่อบัญชีได้ ถ้าเป็นแบบสาธารณะ ให้จำกัดความยาวข้อความ จำกัดจำนวนข้อความที่ผู้เยี่ยมชมหนึ่งคนส่งได้ในช่วงเวลาหนึ่ง และตั้งวงเงินรายเดือนสูงสุดในแดชบอร์ดของผู้ให้บริการ วิธีเพิ่มการล็อกอินให้แอปของคุณ อธิบายส่วนของบัญชีไว้
จะเก็บบทสนทนาหรือไม่
การเก็บบทสนทนาที่บันทึกไว้มีประโยชน์ ผู้ใช้กลับมาทำต่อจากจุดที่ค้างไว้ได้ และคุณอ่านคำถามจริงเพื่อปรับปรุง prompt ได้ แต่บทสนทนาเหล่านี้ก็เป็นข้อมูลส่วนบุคคล ตัดสินใจว่าจะเก็บนานแค่ไหน แจ้งไว้ในประกาศความเป็นส่วนตัวของคุณ และอย่าเก็บสิ่งที่ไม่จำเป็น
เขียน system prompt เหมือนเขียนคำบรรยายงาน
System prompt คือคำสั่งที่โมเดลได้รับก่อนทุกการสนทนา prompt ที่ดีอ่านเหมือนบรีฟสั้นๆ สำหรับพนักงานใหม่:
- บทบาทและผู้ฟัง: "คุณคือผู้ช่วยฝ่ายช่วยเหลือของ Oakline ร้านซ่อมจักรยาน คุณคุยกับลูกค้า"
- ขอบเขต: "ตอบคำถามเกี่ยวกับบริการ ราคา เวลาทำการ และการจอง สำหรับเรื่องอื่น ให้บอกว่าคุณช่วยได้เฉพาะเรื่องของร้าน"
- แหล่งข้อมูลอ้างอิง: "ใช้เฉพาะข้อมูลด้านล่างเท่านั้น ถ้าคำตอบไม่มีอยู่ ให้บอกว่าไม่ทราบและแนะนำเบอร์โทรของร้าน"
- น้ำเสียงและความยาว: "เป็นมิตร ใช้ภาษาที่เข้าใจง่าย ไม่เกินสามประโยค เว้นแต่จะถูกขอให้อธิบายละเอียด"
- กฎตายตัว: "ห้ามสัญญาราคาซ่อมที่ไม่ได้ระบุไว้ ห้ามขอข้อมูลบัตรเครดิต"
จากนั้นทดสอบด้วยคำถามที่ยากๆ: คำขอนอกเรื่อง ข้อความหยาบคาย คำถามที่ไม่มีคำตอบในเนื้อหาของคุณ และความพยายามให้มันเพิกเฉยต่อคำสั่ง ("ลืมกฎของคุณแล้ว…") ปรับ prompt จนกว่าคำตอบจะเป็นคำตอบที่คุณกล้ารับรองด้วยชื่อของคุณเอง
ควบคุมค่าใช้จ่ายให้คาดการณ์ได้
ผู้ให้บริการคิดค่าใช้จ่ายตามโทเคน (โดยประมาณคือชิ้นส่วนของคำ) สำหรับข้อมูลขาเข้าที่คุณส่งไปและผลลัพธ์ที่โมเดลเขียนกลับมา มีสามอย่างที่ทำให้บิลสูงขึ้น:
- ความยาวของบทสนทนา ข้อความใหม่แต่ละข้อความปกติจะส่งบทสนทนาทั้งหมดไปด้วยเพื่อให้โมเดลมีบริบท แชท 40 ข้อความมีค่าใช้จ่ายต่อการตอบสูงกว่าแชท 4 ข้อความมาก เก็บเฉพาะไม่กี่รอบล่าสุด หรือสรุปข้อความเก่าๆ
- ขนาดของ prompt system prompt ที่ยาวหรือความรู้ก้อนใหญ่ที่วางไว้จะถูกส่งไปทุกข้อความ
- ความยาวของผลลัพธ์ ตั้งความยาวสูงสุดของคำตอบในการเรียก API และขอให้ตอบกระชับใน prompt
ตั้งวงเงินการใช้จ่ายรายเดือนในแดชบอร์ดของผู้ให้บริการก่อนเปิดตัว และบันทึกการใช้โทเคนของแต่ละคำขอ เพื่อดูว่าการสนทนาไหนมีค่าใช้จ่ายสูง เราไม่ระบุราคาในที่นี้เพราะราคาต่างกันตามโมเดลและเปลี่ยนบ่อย ให้ตรวจสอบหน้าราคาของผู้ให้บริการโดยตรง
สร้างทีละขั้นตอน
ขั้นที่ 1: อธิบายบอท ไม่ใช่โค้ด
prompt แรกที่ระบุผู้ฟัง ขอบเขต ข้อมูล และกฎความปลอดภัย จะพาคุณไปได้เกือบทั้งหมด:
สร้างแชทบอทให้ฝ่ายช่วยเหลือลูกค้าของ Oakline ร้านซ่อมจักรยาน มีหน้าแชทที่มีรายการข้อความและช่องพิมพ์ คำตอบแสดงทยอยตามที่ถูกเขียน เรียก Anthropic API จาก server route โดยใช้ secret ชื่อ ANTHROPIC_API_KEY ห้ามเปิดเผยให้เบราว์เซอร์เห็นเด็ดขาด ใช้ system prompt ที่ตอบเฉพาะเรื่องบริการ ราคา และเวลาทำการของเรา จากข้อความในไฟล์ชื่อ shop-info.md และตอบว่า "ฉันไม่แน่ใจ โปรดโทรหาเราที่เบอร์ด้านล่าง" ในกรณีอื่น จำกัดข้อความไว้ที่ 500 ตัวอักษร และ 20 ข้อความต่อผู้เยี่ยมชมต่อชั่วโมง ดีไซน์สะอาด เป็นมิตร และใช้งานบนมือถือได้
ขั้นที่ 2: เก็บคีย์เป็น secret
สร้างคีย์ในคอนโซลของผู้ให้บริการ จากนั้นเก็บไว้ในตัวแปรสภาพแวดล้อมหรือ secret ของโปรเจกต์ อย่าใส่ในแชทและอย่าใส่ในโค้ด ถ้าคีย์เคยหลุดไปอยู่ในที่สาธารณะ ให้ยกเลิกที่ผู้ให้บริการแล้วสร้างคีย์ใหม่ ตัวแปรสภาพแวดล้อมและ secret คืออะไร อธิบายว่าทำไมเรื่องนี้จึงสำคัญ
ขั้นที่ 3: ทดสอบคำตอบ ไม่ใช่แค่หน้าตา
เมื่อแชทใช้งานได้แล้ว ให้ใช้เวลาส่วนใหญ่กับคุณภาพของคำตอบ เก็บรายการคำถามจริงประมาณ 20 ข้อ รวมถึงคำถามบางข้อที่ควรถูกปฏิเสธ และรันทดสอบทุกครั้งที่เปลี่ยน prompt ตรวจสอบว่า:
- บอทอยู่ในขอบเขตหรือไม่
- บอทยอมรับเมื่อไม่รู้คำตอบ แทนที่จะแต่งคำตอบขึ้นมาหรือไม่
- บอทยังคงทำงานถูกต้องเมื่อมีคนพยายามแทรกคำสั่งหรือไม่
- คีย์ไม่ปรากฏในสิ่งใดที่เบราว์เซอร์ดาวน์โหลดลงมาหรือไม่
ขั้นที่ 4: เพิ่มความจำและบัญชีถ้าจำเป็น
เมื่อการสนทนาเดี่ยวทำงานได้แล้ว ให้เพิ่มการเก็บประวัติการสนทนาลงฐานข้อมูล และถ้าจำเป็น ให้เพิ่มการสมัครสมาชิกและล็อกอิน เพื่อให้ผู้ใช้แต่ละคนเห็นเฉพาะแชทของตัวเอง พร้อมกันนั้นให้เพิ่มโควตาข้อความต่อวันต่อผู้ใช้ด้วย
ขั้นที่ 5: เผยแพร่พร้อมเปิดข้อจำกัด
ตรวจสอบว่าแอปที่เผยแพร่แล้วมี secret ชุดเดียวกับที่ใช้ในพรีวิว วงเงินการใช้จ่ายถูกตั้งไว้ที่ผู้ให้บริการแล้ว และข้อผิดพลาดถูกบันทึกไว้ในที่ที่คุณจะเห็น จากนั้นแชร์ให้กลุ่มเล็กๆ ได้ใช้ก่อนนำขึ้นเว็บไซต์หลักของคุณ
ความปลอดภัยและความไว้วางใจ
แชทบอทพูดกับสาธารณะในนามของคุณ ดังนั้นให้ถือว่าความล้มเหลวของมันเป็นปัญหาของคุณ:
- คำตอบที่ผิด โมเดลอาจพูดสิ่งที่ไม่จริงได้อย่างมั่นใจ ให้จำกัดบอทไว้กับหัวข้อที่แคบ ยึดกับเนื้อหาของคุณเอง และแสดงหมายเหตุสั้นๆ ว่าคำตอบอาจผิดได้ในเรื่องสำคัญ
- Prompt injection ผู้ใช้ (หรือเอกสารที่บอทอ่าน) อาจมีคำสั่งอย่างเช่น "ละเลยกฎก่อนหน้า" อย่าให้อำนาจกับบอทในสิ่งที่ไว้ใจไม่ได้: ไม่มีการคืนเงิน ลบข้อมูล หรือส่งอีเมลตามคำขอของผู้ใช้โดยไม่มีการตรวจสอบในโค้ดของคุณเอง
- หัวข้อที่อ่อนไหว สำหรับคำถามทางการแพทย์ กฎหมาย หรือการเงิน ให้บอทแนะนำผู้เชี่ยวชาญแทนการให้คำแนะนำ
- ข้อมูลส่วนบุคคล อย่าวางข้อมูลลูกค้าลงใน prompt เว้นแต่จำเป็น และตรวจสอบว่าข้อกำหนดของผู้ให้บริการระบุอย่างไรเกี่ยวกับการจัดการข้อมูลจาก API
เช็คลิสต์ความปลอดภัยสำหรับแอปที่สร้างด้วย AI ของเราครอบคลุมแอปโดยรวมอย่างกว้างขึ้น
ข้อผิดพลาดที่พบบ่อย
- เรียกผู้ให้บริการจากเบราว์เซอร์ คีย์จะรั่วไหล ให้ผ่าน server ของคุณเสมอ
- แชทบอทสาธารณะที่ไม่มีข้อจำกัด สคริปต์เพียงตัวเดียวสามารถใช้งบทั้งเดือนได้ในบ่ายเดียว
- เริ่มต้นด้วย RAG เครื่องมือ และหลายโมเดลพร้อมกัน ทำให้การสนทนาแรกใช้ได้ดีก่อน แล้วค่อยเพิ่มส่วนที่เหลือเมื่อคำถามจริงแสดงให้เห็นว่าจำเป็น
- ทดสอบเฉพาะคำถามที่เป็นมิตร ผู้ใช้ของคุณจะถามเรื่องแปลกๆ เชิงเป็นปฏิปักษ์ และนอกเรื่องตั้งแต่วันแรก
- ปล่อยให้เธรดยาวขึ้นเรื่อยๆ ต้นทุนและเวลาตอบจะเพิ่มขึ้นทุกข้อความ
เมื่อผลิตภัณฑ์สำเร็จรูปเป็นตัวเลือกที่ดีกว่า
การสร้างเองเหมาะเมื่อแชทบอทเป็นส่วนหนึ่งของผลิตภัณฑ์ของคุณ ต้องใช้ข้อมูลหรือขั้นตอนการทำงานของคุณเอง หรือต้องการหน้าตาและพฤติกรรมเฉพาะ แต่บ่อยครั้งเป็นทางเลือกที่ไม่ใช่เมื่อ:
- คุณต้องการเพียงวิดเจ็ตซัพพอร์ตบนเว็บไซต์ที่มีอยู่แล้ว ผลิตภัณฑ์ช่วยเหลือลูกค้าและแชทสดจำนวนมากตอนนี้มีบอทตอบคำถามด้วย AI ที่อ่านศูนย์ช่วยเหลือของคุณ พร้อมระบบส่งต่อให้คนจริง กล่องข้อความ และรายงานที่มีอยู่แล้ว
- มีแค่คุณหรือทีมของคุณที่จะใช้ การสมัครสมาชิกผู้ช่วยทั่วไปอย่าง ChatGPT หรือ Claude พร้อมอัปโหลดเอกสารของคุณ อาจเพียงพอแล้ว
- คุณต้องการการรับประกันด้านการปฏิบัติตามกฎระเบียบอย่างเข้มงวด (เช่น ข้อมูลสุขภาพหรือการเงินที่อยู่ภายใต้กฎหมาย) ผู้ขายที่มีใบรับรองอยู่แล้วอาจปลอดภัยกว่าการสร้างเอง
การสร้างด้วย Mythex
Mythex เป็นเครื่องมือสร้างแอป AI: คุณอธิบายแชทบอทในแชท แล้วระบบจะเขียนส่วนหน้าและการเรียกฝั่งเซิร์ฟเวอร์ รันในพรีวิวสด และเผยแพร่ไปยัง URL สาธารณะ AI ภายในแอปของคุณใช้ คีย์ของผู้ให้บริการของคุณเอง คุณเพิ่มคีย์ในความลับของโปรเจกต์ หรือผ่านการ์ดความลับที่ Mythex แสดงในแชทเมื่อจำเป็น และการใช้งานของผู้ให้บริการจะถูกเรียกเก็บกับบัญชีผู้ให้บริการของคุณ ไม่ใช่กับเครดิตการสร้างของ Mythex Mythex ไม่ได้รวมโทเคนให้ผู้ใช้แอปของคุณ ไม่มีผลิตภัณฑ์ฐานความรู้สำเร็จรูป และไม่มีข้อจำกัดอัตราการใช้งานที่ตั้งไว้ให้แล้ว สิ่งเหล่านี้เป็นส่วนที่คุณขอและทดสอบเอง หน้าเอกสารเรื่อง การเพิ่ม AI ในแอปของคุณ อธิบายขั้นตอนไว้ และ เพิ่ม AI ด้วย API key ของคุณเอง มีพรอมต์เริ่มต้นให้
ถ้าบอทต้องเก็บเธรดการสนทนา Mythex จะแนบฐานข้อมูล Postgres เข้ากับโปรเจกต์เมื่อคุณขอ สำหรับวิธีอื่นๆ ในการใช้โมเดลภายในแอป ตั้งแต่การสรุปไปจนถึงการจัดประเภท ดู วิธีเพิ่มฟีเจอร์ AI ให้แอปของคุณ หรือเลือกดู เทมเพลตแอป เพื่อเป็นจุดเริ่มต้น
คำถาม
ต้องมี API key ของตัวเองเพื่อสร้างแอปแชทบอท AI หรือไม่
ต้องมีเกือบทุกกรณี แชทบอทจะส่งข้อความแต่ละข้อความไปยังผู้ให้บริการโมเดล เช่น OpenAI, Anthropic หรือ Google และผู้ให้บริการจะคิดเงินกับบัญชีที่เป็นเจ้าของ API key คีย์นั้นต้องอยู่บนเซิร์ฟเวอร์ของคุณ ห้ามอยู่ในหน้าเว็บเด็ดขาด
การรันแชทบอท AI มีค่าใช้จ่ายเท่าไร
ผู้ให้บริการคิดค่าใช้จ่ายตามโทเคน ทั้งข้อความที่คุณส่งไปและข้อความที่โมเดลตอบกลับมา และราคาของแต่ละโมเดลต่างกันมาก เนื่องจากข้อความใหม่แต่ละข้อความมักส่งประวัติการสนทนาทั้งหมดไปด้วย แชทที่ยาวจึงมีค่าใช้จ่ายต่อข้อความสูงกว่าแชทสั้น ตรวจสอบหน้าราคาของผู้ให้บริการและตั้งวงเงินการใช้จ่ายในแดชบอร์ดของเขา
ฝึกแชทบอทด้วยเอกสารของฉันเองได้หรือไม่
ปกติคุณไม่ได้ฝึกตัวโมเดลเอง สำหรับเนื้อหาจำนวนน้อย คุณวางเนื้อหาลงใน system prompt ได้เลย แต่ถ้าเป็นคลังเอกสารขนาดใหญ่ ให้เก็บเอกสารไว้แล้วค้นหาเฉพาะข้อความที่เกี่ยวข้องกับคำถามแต่ละข้อ จากนั้นส่งเฉพาะส่วนนั้นให้โมเดล วิธีหลังเรียกว่า retrieval-augmented generation หรือ RAG
สร้างแชทบอท AI โดยไม่ต้องเขียนโค้ดได้หรือไม่
ได้ เครื่องมือสร้างแอป AI สามารถเขียนส่วนหน้าของแชท route ฝั่งเซิร์ฟเวอร์ที่เรียกโมเดล และฐานข้อมูลสำหรับเก็บบทสนทนา จากคำอธิบายภาษาธรรมดา อย่างไรก็ตาม คุณยังต้องสร้างบัญชีผู้ให้บริการและ API key ด้วยตัวเอง