ทำไม AI จึงสร้างข้อมูลที่ไม่มีจริง
แยกภาพหลอน ความรู้ล้าสมัย ความกำกวม และความผิดจากแหล่งข้อมูล เพื่อเลือกวิธีรับมือที่ถูก
เป้าหมาย: จำแนกภาพหลอนและเลือก Prompt, การค้นข้อมูล, การลดความสุ่ม หรือการประเมินให้เหมาะกับสาเหตุ · ใช้เวลาประมาณ 12 นาที
ก่อนแก้ ต้องแยกสาเหตุ
คำตอบผิดไม่ได้มีสาเหตุเดียว และไม่มีปุ่มเดียวที่แก้ได้ทุกกรณี
ไม่มีข้อมูล
โมเดลไม่ได้รับข้อมูลเฉพาะของร้าน บริษัท หรือเหตุการณ์ล่าสุด
คำถามกำกวม
ผู้ใช้ไม่ได้บอกสถานที่ วันที่ หน่วย หรือความหมายที่ต้องการ
สร้างต่ออย่างน่าเชื่อ
โมเดลเติมชื่อ ตัวเลข หรือเหตุผลให้ประโยคสมบูรณ์แม้ไม่มีหลักฐาน
แหล่งข้อมูลผิด
แม้ใช้การค้นหา หากหน้าเว็บหรือเอกสารเก่า คำตอบก็ยังผิดได้
การขอให้มั่นใจกับการออกแบบให้ตรวจได้
คำเตือนใน Prompt ไม่สามารถสร้างหลักฐานที่ไม่มีอยู่
สั่งไม่ให้ผิด
ตอบให้ถูกต้อง 100% ห้ามแต่งข้อมูล
ดูผลลัพธ์ตัวอย่าง
คำสั่งอาจทำให้น้ำเสียงระวังขึ้น แต่ไม่รับรองว่าโมเดลรู้ข้อมูลล่าสุด
กำหนดหลักฐานและทางออก
ตอบเฉพาะจากเอกสารที่ให้ ระบุเลขข้อ หากไม่มีข้อมูลให้ตอบว่าไม่พบ และส่งต่อเจ้าของนโยบาย
ดูผลลัพธ์ตัวอย่าง
ผู้ใช้เห็นขอบเขต แหล่งอ้างอิง และกรณีที่ต้องหยุด
เลือกวิธีรับมือตามงาน
ร่างสโลแกน
เสนอ 10 แนวคิดโดยไม่อ้างข้อเท็จจริง
งานสร้างสรรค์ยอมรับความหลากหลายได้ แต่ยังต้องตรวจความเหมาะสมและเครื่องหมายการค้า
ราคาและโปรโมชัน
ค้นจากระบบราคาล่าสุดและแสดงวันที่
ต้องใช้แหล่งข้อมูลที่เปลี่ยนตามเวลา ไม่ควรพึ่งความจำของโมเดล
ตอบจาก SOP
ใช้ RAG และระบุส่วนเอกสาร
ช่วยผูกคำตอบกับเอกสาร แต่ต้องตรวจคุณภาพการค้นหาและความใหม่ของ SOP
ระบบที่ใช้ซ้ำ
สร้างชุดคำถามทดสอบและตรวจอัตราความผิด
ต้องประเมินหลายกรณี ไม่ใช่ดูตัวอย่างที่สำเร็จเพียงครั้งเดียว
วิเคราะห์คำตอบเรื่องวันหยุด
AI บอกว่าร้านต้องจ่ายค่าจ้างวันหยุดในอัตราเฉพาะ พร้อมอ้างชื่อกฎหมาย แต่ทีมไม่ได้ให้เอกสารและไม่ได้ระบุประเภทลูกจ้าง
ระบุความเสี่ยง ข้อมูลที่ขาด และขั้นตอนต่อไป โดยไม่ให้คำแนะนำกฎหมาย
ดูคำตอบตัวอย่าง
เป็นข้อมูลกฎหมายและสิทธิ์ที่มีผลสูง ชื่อกฎหมายและอัตราอาจถูกสร้างหรือไม่ตรงกรณี ต้องหยุดการยืนยัน ระบุประเภทลูกจ้าง วันที่ และแหล่งทางการที่เกี่ยวข้อง แล้วให้ผู้รับผิดชอบด้าน HR หรือผู้เชี่ยวชาญตรวจข้อมูลปัจจุบัน
- ไม่ยืนยันกฎหมายจากคำตอบ AI
- ระบุข้อมูลที่ขาด
- ใช้แหล่งทางการปัจจุบัน
- ส่งต่อผู้รับผิดชอบ
เลือกวิธีลดความเสี่ยง
ระบบต้องตอบสถานะคำสั่งซื้อของลูกค้า วิธีใดแก้ปัญหาได้ตรงสาเหตุที่สุด
- ก. ลด Temperature แล้วให้โมเดลเดา
- ข. เชื่อมระบบคำสั่งซื้อด้วยสิทธิ์จำกัด แสดงข้อมูลที่ค้นพบ และหยุดเมื่อไม่พบ
- ค. เพิ่มคำว่า กรุณาตอบให้ถูกต้อง
ดูคำตอบและคำอธิบาย
ข. เชื่อมระบบคำสั่งซื้อด้วยสิทธิ์จำกัด แสดงข้อมูลที่ค้นพบ และหยุดเมื่อไม่พบ ข้อมูลเฉพาะลูกค้าไม่ได้อยู่ในความรู้ทั่วไป ต้องมาจากระบบที่รับผิดชอบ พร้อมสิทธิ์และเงื่อนไขหยุด
บันทึกช่วยจำ
- Temperature ต่ำลงอาจทำให้คำตอบสม่ำเสมอขึ้น แต่ไม่เปลี่ยนข้อมูลผิดให้เป็นจริง
- Prompt, RAG, การตั้งค่าการสุ่ม และการประเมินแก้คนละส่วนของปัญหา
- บทถัดไปจะสร้างขั้นตอนตรวจคำตอบตามระดับความเสี่ยง
สรุปบทเรียนนี้
- ภาพหลอนคือคำตอบที่ไม่มีหลักฐานรองรับ
- ต้องวิเคราะห์สาเหตุก่อนเลือกวิธีแก้
- งานที่มีผลสูงต้องใช้แหล่งปัจจุบัน การประเมิน และมนุษย์รับผิดชอบ