สรุป: Context, Session, Memory และ Cache
ทบทวนบทสนทนายาว compression, memory conflict, prompt layers และ cache invalidation
เป้าหมาย: วิเคราะห์ว่าแต่ละข้อมูลควรอยู่ที่ไหนและนานเท่าไร · ใช้เวลาประมาณ 14 นาที
ข้อ 1
Session รับรองว่าโมเดลเห็นทุกข้อความหรือไม่
- รับรอง
- ไม่ Context Window อาจตัดหรือสรุป
ดูคำตอบและคำอธิบาย
ไม่ Context Window อาจตัดหรือสรุป สถานะผลิตภัณฑ์และข้อมูลที่ส่งในแต่ละ call เป็นคนละชั้น
ข้อ 2
แชตยาวควรส่งทั้งหมดหรือไม่
- เสมอ
- ไม่ เลือก state และ evidence ที่เกี่ยว
ดูคำตอบและคำอธิบาย
ไม่ เลือก state และ evidence ที่เกี่ยว ลด Token และข้อมูลเก่าที่รบกวน
ข้อ 3
compression ต้องตรวจอะไร
- จำนวนคำ
- decision, exception, uncertainty และ citation
ดูคำตอบและคำอธิบาย
decision, exception, uncertainty และ citation ส่วนเหล่านี้มักหายและมีผลต่อการทำงาน
ข้อ 4
ควรจำทุกความชอบหรือไม่
- ควร
- ไม่ ต้องมี purpose consent และ expiry
ดูคำตอบและคำอธิบาย
ไม่ ต้องมี purpose consent และ expiry memory เพิ่มทั้งคุณค่าและความเสี่ยง
ข้อ 5
ข้อมูลใหม่ขัดของเก่าควรทำอย่างไร
- เก็บทั้งคู่โดยไม่บอก
- ใช้ source/time/scope และถามเมื่อจำเป็น
ดูคำตอบและคำอธิบาย
ใช้ source/time/scope และถามเมื่อจำเป็น ความขัดแย้งต้องมี resolution rule
ข้อ 6
cache ต้องมีอะไร
- เก็บถาวร
- version key และ invalidation
ดูคำตอบและคำอธิบาย
version key และ invalidation ข้อมูลคงที่เปลี่ยนได้และสิทธิ์อาจหมดอายุ
บันทึกช่วยจำ
- ทดสอบการลบและเปลี่ยน memory จริง
- อย่าเก็บ credential หรือข้อมูลอ่อนไหวใน prompt cache
สรุปบทเรียนนี้
- ประกอบ context
- จำอย่างมีวัตถุประสงค์
- จัดการ conflict และ expiry