Context Window คือพื้นที่ทำงานของ Prompt
เข้าใจ Context Window คือพื้นที่ทำงานของ Prompt เพื่อทดสอบและเลือกใช้โมเดลในงานไทย
เป้าหมาย: อธิบายกลไก สังเกตผล และออกแบบการทดลองที่ไม่สรุปเกินหลักฐาน · ใช้เวลาประมาณ 16 นาที
กลไก → ผลที่สังเกต → การทดลอง → ขอบเขต
เข้าใจหลักการเท่าที่ใช้วินิจฉัยงานจริง
กลไก
Prompt, history, เอกสาร เครื่องมือ และคำตอบต้องแบ่งพื้นที่ context window เดียวกัน ข้อมูลที่ชัดและเกี่ยวข้องจึงมีผลมากกว่าการยัดทุกอย่างเข้าไป
ผลที่สังเกต
บันทึก input, model, setting, context, output และเวลา ไม่สรุปจาก demo เดียว
การทดลอง
เปลี่ยนทีละตัวแปรและใช้ชุดโจทย์เดิมเปรียบเทียบ
ขอบเขต
ให้คนตรวจข้อเท็จจริง ตัวเลข สิทธิ์ข้อมูล และผลกระทบสำคัญ
คำศัพท์ที่ใช้ตัดสินใจ
context window
อธิบาย context window ด้วยตัวอย่างภาษาไทยหนึ่งกรณี แล้วบอกสิ่งที่แนวคิดนี้ไม่รับประกัน
คำศัพท์มีประโยชน์เมื่อเชื่อมกับพฤติกรรมที่ทดสอบได้
attention
อธิบาย attention ด้วยตัวอย่างภาษาไทยหนึ่งกรณี แล้วบอกสิ่งที่แนวคิดนี้ไม่รับประกัน
คำศัพท์มีประโยชน์เมื่อเชื่อมกับพฤติกรรมที่ทดสอบได้
retrieval
อธิบาย retrieval ด้วยตัวอย่างภาษาไทยหนึ่งกรณี แล้วบอกสิ่งที่แนวคิดนี้ไม่รับประกัน
คำศัพท์มีประโยชน์เมื่อเชื่อมกับพฤติกรรมที่ทดสอบได้
context budget
อธิบาย context budget ด้วยตัวอย่างภาษาไทยหนึ่งกรณี แล้วบอกสิ่งที่แนวคิดนี้ไม่รับประกัน
คำศัพท์มีประโยชน์เมื่อเชื่อมกับพฤติกรรมที่ทดสอบได้
ข้อสรุปที่กลไกนี้ไม่รองรับ
โมเดลตอบคล่องจึงต้องรู้จริง
ความน่าจะเป็นของข้อความไม่ใช่หลักฐาน
ตรวจแหล่งข้อมูลและเจ้าของข้อมูล
เปลี่ยนหลาย setting พร้อมกัน
ไม่รู้สาเหตุของผลต่าง
ทำ controlled comparison
ใช้ค่าตั้งเดียวกับทุกงาน
ต้นทุน ความแปรผัน และความเสี่ยงไม่เหมาะ
กำหนดตาม use case และ eval
ทดลองกับงานภาษาไทย
ทีมขายใส่คู่มือ 200 หน้าและประวัติ chat ยาวก่อนขออีเมลสั้น
ตั้งสมมติฐาน สร้าง test cases เปลี่ยนตัวแปรเดียว บันทึกผล และกำหนด human review
ดูคำตอบตัวอย่าง
สมมติฐานอิงจาก Prompt, history, เอกสาร เครื่องมือ และคำตอบต้องแบ่งพื้นที่ context window เดียวกัน ข้อมูลที่ชัดและเกี่ยวข้องจึงมีผลมากกว่าการยัดทุกอย่างเข้าไป ใช้ข้อมูลจำลองภาษาไทยอย่างน้อยห้ากรณี ล็อก model และ Prompt เปลี่ยนเฉพาะตัวแปรที่ศึกษา วัดความถูกต้อง ความสม่ำเสมอ token/เวลา/ต้นทุน และบันทึกกรณีผิด ก่อนกำหนดว่าผลใดต้อง human review
- สมมติฐาน
- test set ภาษาไทย
- ตัวแปรเดียว
- บันทึก setting
- failure cases
- human review
บันทึกช่วยจำ
- พฤติกรรมต่างกันตามโมเดล รุ่น ผู้ให้บริการ และการตั้งค่า
- ตรวจเอกสารของผู้ให้บริการและทดสอบด้วยข้อมูลที่อนุญาต
สรุปบทเรียนนี้
- กลไกอธิบายแนวโน้ม ไม่รับประกันคำตอบ
- เปลี่ยนทีละตัวแปร
- วัดกับงานภาษาไทยจริง