Token และ Context Window สำคัญกับงานจริงอย่างไร
เข้าใจหน่วยข้อความ พื้นที่ทำงานชั่วคราว และเหตุผลที่เอกสารยาวหรือบทสนทนายาวอาจทำให้ข้อมูลสำคัญหลุด
เป้าหมาย: จัดข้อมูลให้พอดีกับ Context Window และตรวจว่าส่วนสำคัญถูกนำมาใช้จริง · ใช้เวลาประมาณ 11 นาที
จากข้อความเข้าสู่พื้นที่ทำงานของโมเดล
Context Window ไม่ใช่ความจำถาวร และจำนวนหน้าไม่เท่ากับจำนวน Token เสมอ
แบ่งเป็น Token
ข้อความถูกแบ่งเป็นคำ ส่วนของคำ ตัวเลข และเครื่องหมาย ภาษาไทยอาจแบ่งต่างจากภาษาอังกฤษ
รวมใน Context Window
คำสั่ง เอกสาร ประวัติสนทนา และคำตอบที่กำลังสร้างใช้พื้นที่เดียวกัน
ตรวจสิ่งที่ถูกใช้
แม้ข้อมูลอยู่ในขอบเขต โมเดลก็อาจให้น้ำหนักไม่เท่ากัน จึงต้องถามหาแหล่งหรือส่วนอ้างอิง
ผลกระทบในงานเอกสารไทย
สัญญาเช่า 60 หน้า
สรุปหน้าที่ผู้เช่าและค่าปรับ พร้อมเลขข้อ
ควรแบ่งตามหมวด เก็บเลขข้อ และตรวจกลับเอกสาร แทนการขอให้สรุปทุกอย่างในคำสั่งเดียว
แชตโครงการสามเดือน
สรุปข้อตกลงล่าสุดจากประวัติทั้งหมด
ข้อความเก่าอาจเบียดข้อมูลล่าสุดหรือมีข้อตกลงที่ถูกแก้ ต้องกำหนดช่วงเวลาและลำดับความใหม่
คู่มือพนักงานสองภาษา
ตอบจากนโยบายไทยและอังกฤษ โดยระบุฉบับที่ใช้
ภาษาและเวอร์ชันเพิ่มพื้นที่และความขัดแย้ง ควรกำหนดเอกสารหลักและวันที่
สามวิธีที่ทำให้ Context ใช้งานไม่ได้
วางทุกไฟล์เผื่อไว้ก่อน
ข้อมูลที่ไม่เกี่ยวข้องเพิ่มความสับสนและต้นทุน
เลือกเฉพาะส่วนที่สัมพันธ์กับคำถาม
สรุปหลายรอบโดยไม่เก็บหลักฐาน
รายละเอียดสำคัญอาจค่อย ๆ หายหรือเปลี่ยน
เก็บเลขหน้า ข้อ และข้อความต้นทางไว้ตรวจ
คิดว่าแชตเก่าคือความจำถาวร
ระบบอาจไม่ส่งประวัติทั้งหมดหรือสรุปประวัติใหม่
เก็บข้อเท็จจริงสำคัญในระบบข้อมูลที่ชัดเจน ไม่ฝากไว้กับบทสนทนา
ออกแบบวิธีอ่าน SOP ยาว
บริษัทท่องเที่ยวมี SOP 85 หน้า ครอบคลุมการจอง ยกเลิก เหตุฉุกเฉิน และข้อมูลหนังสือเดินทาง ทีมต้องตอบเฉพาะคำถามยกเลิกทัวร์
เลือกว่าจะส่งข้อมูลส่วนใดให้ AI และจะตรวจคำตอบอย่างไร
ดูคำตอบตัวอย่าง
ค้นเฉพาะหมวดการยกเลิกและข้อกำหนดที่อ้างถึง เลือกฉบับล่าสุด ตัดข้อมูลหนังสือเดินทางออก ขอให้คำตอบระบุเลขข้อและสิ่งที่เอกสารไม่ได้กล่าว แล้วให้พนักงานตรวจเงื่อนไขกับ SOP ต้นฉบับก่อนส่ง
- เลือกเอกสารตามคำถาม
- ใช้ฉบับล่าสุด
- ลดข้อมูลส่วนบุคคล
- เก็บตำแหน่งอ้างอิง
- ระบุข้อมูลที่ขาด
ตรวจความเข้าใจ
เมื่อต้องวิเคราะห์เอกสารหลายร้อยหน้า วิธีใดเหมาะสมที่สุด
- ก. วางทุกไฟล์ในแชตแล้วขอคำตอบสั้น ๆ
- ข. ค้นส่วนที่เกี่ยวข้อง แบ่งตามหัวข้อ เก็บตำแหน่งอ้างอิง และตรวจกลับต้นฉบับ
- ค. ขอให้ AI จำเอกสารไว้ตลอดไป
ดูคำตอบและคำอธิบาย
ข. ค้นส่วนที่เกี่ยวข้อง แบ่งตามหัวข้อ เก็บตำแหน่งอ้างอิง และตรวจกลับต้นฉบับ การคัดเลือกและรักษาหลักฐานช่วยลดข้อมูลรบกวน พร้อมทำให้ตรวจย้อนกลับได้
บันทึกช่วยจำ
- ขนาด Context Window แตกต่างกันตามโมเดลและอาจเปลี่ยนได้
- อย่าใช้จำนวนหน้าเป็นตัวแทน Token แบบตายตัว
- บทถัดไปจะอธิบายภาพหลอนซึ่งเกิดได้แม้ข้อมูลจะดูเพียงพอ
สรุปบทเรียนนี้
- Token คือหน่วยข้อความ ไม่เท่ากับคำหรือหน้าเสมอ
- Context Window เป็นพื้นที่ทำงานชั่วคราว
- เอกสารยาวต้องค้น แบ่ง เก็บอ้างอิง และตรวจกลับ