กู้ความไว้วางใจหลัง AI ผิดครั้งแรก
เรียนรู้ กู้ความไว้วางใจหลัง AI ผิดครั้งแรก ด้วยหลักฐานและจริยธรรมสำหรับผู้ใช้ในประเทศไทย
เป้าหมาย: ใช้หลักจิตวิทยาเพื่อทำให้ AI เข้าใจ ควบคุม และประเมินได้โดยไม่ชักจูงเกินควร · ใช้เวลาประมาณ 17 นาที
Expectation → Experience → Control → Repair
ใช้จิตวิทยาเพื่อเพิ่มความเข้าใจและอำนาจของผู้ใช้ ไม่ใช่บังคับ
Expectation
algorithm aversion ทำให้ความผิดของ AI ถูกลงโทษหนักกว่าคน ระบบต้องยอมรับผลผิด แสดงขอบเขต ให้แก้หรือ override อธิบายการป้องกันซ้ำ และวัด calibration ไม่ขอให้เชื่อเฉย ๆ
Experience
ออกแบบข้อความ เวลา feedback และจังหวะให้ตรงกับงานและวัฒนธรรมภาษาไทย
Control
ให้ผู้ใช้เห็นข้อมูล แก้ override ยกเลิก และเลือกส่งต่อคน
Repair
ยอมรับความผิด ระบุผลกระทบ กู้คืน และแสดงหลักฐานการป้องกันซ้ำ
สิ่งที่ต้องสังเกตและวัด
algorithm aversion
ประเมิน algorithm aversion จากพฤติกรรมผู้ใช้ แยกประโยชน์ ความเสี่ยง และ guardrail
ใช้ interview, usability test และ event data ร่วมกัน ไม่เดาใจผู้ใช้
error recovery
ประเมิน error recovery จากพฤติกรรมผู้ใช้ แยกประโยชน์ ความเสี่ยง และ guardrail
ใช้ interview, usability test และ event data ร่วมกัน ไม่เดาใจผู้ใช้
override
ประเมิน override จากพฤติกรรมผู้ใช้ แยกประโยชน์ ความเสี่ยง และ guardrail
ใช้ interview, usability test และ event data ร่วมกัน ไม่เดาใจผู้ใช้
calibration
ประเมิน calibration จากพฤติกรรมผู้ใช้ แยกประโยชน์ ความเสี่ยง และ guardrail
ใช้ interview, usability test และ event data ร่วมกัน ไม่เดาใจผู้ใช้
Dark Psychology ที่ต้องห้าม
แสดงงานหรือความมั่นใจปลอม
ผู้ใช้เข้าใจระบบผิด
แสดง state/evidence ที่ตรวจได้
ใช้บุคลิกสร้างแรงกดดัน
เกิด dependency หรือยินยอมโดยไม่อิสระ
ใช้ภาษากลางและทางเลือกชัด
ซ่อนราคา failure หรือข้อจำกัด
ผู้ใช้คำนวณความเสี่ยงไม่ได้
เปิดเผยหน่วย limit variability และ recovery
ทำ Psychology Risk Review
AI จัดลำดับ lead ผิดหนึ่งรายแล้วทีมขายเลิกใช้ทั้งหมด
ระบุ user belief, emotional moment, desired behavior, manipulation risk, control, recovery และ metric
ดูคำตอบตัวอย่าง
สัมภาษณ์ว่าผู้ใช้คิดว่าระบบทำงานอย่างไร สังเกตช่วงรอ ผิด และจ่ายเงิน อธิบาย capability/data/uncertainty ด้วยภาษาไทย ให้ edit/override/cancel/human support ห้ามแสดง progress หรือความรู้สึกปลอม วัด completion, correction, override, trust calibration, complaint และ retention แยกตามกลุ่มผู้ใช้
- mental model
- peak/wait/error
- no deception
- user control
- repair/support
- behavior metrics
บันทึกช่วยจำ
- หลักจิตวิทยาเป็นสมมติฐานที่ต้องทดสอบกับผู้ใช้จริง ไม่ใช่กฎสากล
- กลุ่มเปราะบาง สุขภาพ การเงิน การศึกษา และความสัมพันธ์ต้องมีการคุ้มครองเพิ่ม
สรุปบทเรียนนี้
- ตั้งความคาดหวังตรงจริง
- ให้ผู้ใช้ควบคุม
- ซ่อมความผิดด้วยหลักฐาน