สรุป: ประสบการณ์ AI และความไว้วางใจที่พอดี
ทบทวน expectation, progress, source, uncertainty, reversibility, correction, feedback และ automation bias
เป้าหมาย: วิจารณ์ AI flow ว่าผู้ใช้เข้าใจและควบคุมได้หรือไม่ · ใช้เวลาประมาณ 14 นาที
ข้อ 1
onboarding ควรบอกอะไร
- AI ฉลาดมาก
- งานที่ทำได้ ข้อจำกัด และสิ่งที่คนต้องตรวจ
ดูคำตอบและคำอธิบาย
งานที่ทำได้ ข้อจำกัด และสิ่งที่คนต้องตรวจ ความคาดหวังเฉพาะงานช่วยลดทั้งการเชื่อเกินและการเลิกใช้
ข้อ 2
streaming เท่ากับ progress จริงหรือไม่
- เสมอ
- ไม่ ต้องแยกข้อความไหลจากสถานะขั้นตอน
ดูคำตอบและคำอธิบาย
ไม่ ต้องแยกข้อความไหลจากสถานะขั้นตอน streaming แสดง output บางส่วน แต่ไม่บอกว่างานหลายขั้นสำเร็จแค่ไหน
ข้อ 3
citation ที่ดีต้องทำอะไร
- มีลิงก์ใดก็ได้
- พาไปหลักฐานที่รองรับ claim
ดูคำตอบและคำอธิบาย
พาไปหลักฐานที่รองรับ claim แหล่งที่มาไม่ช่วยหากไม่สนับสนุนข้อความที่ผู้ใช้กำลังพิจารณา
ข้อ 4
ก่อน AI แก้ข้อมูลจำนวนมากควรมีอะไร
- auto publish
- preview diff approval และ rollback
ดูคำตอบและคำอธิบาย
preview diff approval และ rollback ผู้ใช้ต้องเห็นขอบเขตการเปลี่ยนและมีทางกู้คืน
ข้อ 5
feedback ที่ใช้แก้ระบบต้องมีอะไร
- downvote อย่างเดียว
- reason context correction outcome และ owner
ดูคำตอบและคำอธิบาย
reason context correction outcome และ owner ข้อมูลเหล่านี้ช่วยแยกสาเหตุและยืนยันการแก้
ข้อ 6
ป้องกัน automation bias อย่างไร
- ทำปุ่มอนุมัติใหญ่ขึ้น
- แสดง evidence/exception และให้งานตรวจที่มีความหมาย
ดูคำตอบและคำอธิบาย
แสดง evidence/exception และให้งานตรวจที่มีความหมาย การตรวจแบบ active ลดการกดผ่านและช่วย calibration
บันทึกช่วยจำ
- ทดสอบกับผู้ใช้หลายระดับทักษะ
- วัดทั้ง overtrust และ undertrust
สรุปบทเรียนนี้
- โปร่งใส
- ควบคุมและย้อนกลับได้
- feedback ต้องปิดวงจร