ป้องกัน Automation Bias และการกดอนุมัติแบบไม่อ่าน
ใช้ active review, evidence sampling, exception highlighting, accountability และ calibration training
เป้าหมาย: ลดทั้ง overtrust และ undertrust ด้วยข้อมูลพฤติกรรม · ใช้เวลาประมาณ 15 นาที
Orient → Explain → Control → Learn
ทุกสถานะต้องช่วยให้ผู้ใช้เข้าใจและทำขั้นตอนต่อไปได้
Orient
บอกขอบเขต สถานะ และสิ่งที่กำลังเกิด
Explain
แสดง source, change, uncertainty และผลกระทบ
Control
ให้แก้ ยกเลิก อนุมัติ undo หรือส่งต่อ
Learn
เก็บ feedback ที่วินิจฉัยได้และ retest
องค์ประกอบประสบการณ์
automation bias
ออกแบบ automation bias ให้ผู้ใช้เข้าใจและควบคุมผลลัพธ์
แสดงในจังหวะที่เกี่ยวข้อง ไม่ซ่อนในหน้าข้อกำหนดยาว
calibration
ออกแบบ calibration ให้ผู้ใช้เข้าใจและควบคุมผลลัพธ์
อย่าทำให้ผล AI ดูเป็นคำตอบสุดท้าย แสดง evidence และ exception ขอให้ผู้ตรวจทำงานที่มีความหมาย และวัดว่าคนแก้หรือกดผ่านอย่างไร
exception
ออกแบบ exception ให้ผู้ใช้เข้าใจและควบคุมผลลัพธ์
อย่าทำให้ผล AI ดูเป็นคำตอบสุดท้าย แสดง evidence และ exception ขอให้ผู้ตรวจทำงานที่มีความหมาย และวัดว่าคนแก้หรือกดผ่านอย่างไร
อนุมัติ
ออกแบบ อนุมัติ ให้ผู้ใช้เข้าใจและควบคุมผลลัพธ์
อย่าทำให้ผล AI ดูเป็นคำตอบสุดท้าย แสดง evidence และ exception ขอให้ผู้ตรวจทำงานที่มีความหมาย และวัดว่าคนแก้หรือกดผ่านอย่างไร
Dark pattern ของ AI
ใช้คำมั่นกว้าง
ผู้ใช้เชื่อเกินความสามารถ
บอก task-specific limitation
ซ่อน uncertainty
คำตอบดูแน่นอนเกิน evidence
แสดงสาเหตุและ next step
feedback ไม่มี owner
ผู้ใช้รายงานแต่ระบบไม่ดีขึ้น
route, fix และ retest
ออกแบบ interaction จากสถานการณ์
ผู้จัดการอนุมัติรายงาน AI ทุกวันโดยไม่เปิด source
กำหนด expectation, status, evidence, control, feedback และ escalation
ดูคำตอบตัวอย่าง
บอกขอบเขตก่อนเริ่ม แสดงสถานะจริงและเวลาคร่าว ๆ ผูกผลกับ source และ uncertainty ให้ preview/diff ก่อนอนุมัติ มี cancel, edit, undo หรือ rollback เก็บ feedback พร้อมเหตุผล และส่งต่อคนเมื่อผลกระทบสูง
- expectation
- status
- source/uncertainty
- control/undo
- feedback
- escalation
บันทึกช่วยจำ
- ทดสอบภาษาไทยกับผู้ใช้จริง ไม่ใช้คำเทคนิคแทนคำอธิบายผลกระทบ
- accessibility และ keyboard/focus ต้องทำงานในทุกสถานะ
สรุปบทเรียนนี้
- บอกขอบเขต
- แสดงหลักฐานและความไม่แน่ใจ
- ให้ควบคุมและเรียนรู้จาก feedback