context rot คืออะไร
Context rot คือคุณภาพคำตอบ AI ที่ตกลงเมื่อบทสนทนายาวขึ้น เกิดจากความสนใจของโมเดลกระจายไปยังโทเคนมากขึ้นจนคำสั่งช่วงแรกเสียอิทธิพล
Context rot ไม่เหมือนกับพื้นที่หมด มันเริ่มก่อนถึงขีดจำกัดจริงมาก เพราะโมเดลให้น้ำหนักโทเคนล่าสุดมากกว่าโทเคนที่ไกลออกไป คำสั่งที่คุณตั้งไว้ในข้อความแรกยังอยู่ในบริบทในทางเทคนิค แต่ถูกให้ความสำคัญต่ำ โมเดลอ่านแล้วแทบไม่สนใจ
อาการสังเกตได้ กฎรูปแบบที่ตั้งไว้ตอนต้นเงียบๆ เลิกถูกทำตาม ข้อจำกัดที่ตั้งไว้ถูกละเมิด หรือผู้ช่วยถามซ้ำเรื่องที่คุณตอบไปแล้ว Anthropic อธิบายผลนี้ในคำแนะนำของตัวเองเรื่องเซสชัน Claude Code ที่ยาว โดยระบุว่าประสิทธิภาพลดลงเมื่อบริบทโตขึ้น เพราะความสนใจกระจายไปยังโทเคนมากขึ้นและเนื้อหาเก่ากลายเป็นตัวรบกวนงานปัจจุบัน
วิธีรับมือเชิงปฏิบัติล้วนเป็นการตอกหมุดใหม่ พูดซ้ำคำสั่งหลักทุกสิบการโต้ตอบหรือประมาณนั้น วางข้อจำกัดสำคัญไว้ใกล้ท้ายข้อความที่มีน้ำหนักมากกว่า และแยกงานที่ไม่เกี่ยวกันจริงๆ ไปคนละบทสนทนา แทนที่จะซ้อนไว้ในเธรดเดียว
มันทำงานยังไงใน folk
การย่อช่วยทั้งเรื่อง rot และเรื่องความจุ เพราะการสรุปเทิร์นเก่าๆ ตัดสัญญาณรบกวนที่ทำให้ความสนใจเจือจางออกไป Folk ปกป้องเทิร์นล่าสุดและกรอบเริ่มต้น แล้วบีบส่วนที่อยู่ระหว่างกลาง
คำถามที่พบบ่อย
context rot เหมือนกับถึงขีดจำกัด context ไหม
ไม่ การถึงขีดจำกัดคือเส้นแบ่งแข็งที่เนื้อหาถูกทิ้ง Context rot คือคุณภาพที่ค่อยๆ ตกซึ่งเริ่มก่อนถึงขีดจำกัดนานมาก เกิดจากความสนใจที่บางลงทั่วบทสนทนาที่ใหญ่ขึ้น
แก้ยังไงเมื่อ AI เลิกทำตามคำสั่งของฉัน
ตอกหมุดใหม่ วางสรุปสามถึงห้าบรรทัดของการตัดสินใจและข้อจำกัดสำคัญไว้ต้นข้อความถัดไป และพูดซ้ำกฎรูปแบบที่ตั้งไว้ก่อนหน้า ถ้าหัวข้อเปลี่ยนไปจริงๆ ให้เริ่มบทสนทนาใหม่แทน
บทสนทนา AI หนึ่งอันยาวแค่ไหนถึงเกินไป
ไม่มีตัวเลขตายตัว แต่คุณภาพมักเริ่มลดหลังการโต้ตอบเนื้อหาหนักราวยี่สิบถึงสามสิบครั้ง กฎที่ดีกว่าคือดูตามหัวข้อ เมื่อเปลี่ยนไปงานใหม่จริงๆ ให้เริ่มเธรดใหม่