Apa itu context rot?
Context rot adalah penurunan kualitas respons AI saat percakapan makin panjang, karena perhatian model tersebar ke lebih banyak token sampai instruksi awal kehilangan pengaruhnya.
Context rot tidak sama dengan kehabisan ruang. Ini mulai terjadi jauh sebelum batas maksimal, karena model memberi bobot lebih besar ke token terbaru dibanding yang jauh di belakang. Instruksi yang kamu tulis di pesan pertama secara teknis masih ada di konteks, tapi dianggap kurang penting, jadi model membacanya tapi praktis mengabaikannya.
Gejalanya mudah dikenali: aturan format yang kamu tetapkan di awal diam-diam tidak diikuti lagi, batasan yang kamu buat dilanggar, atau asisten menanyakan ulang hal yang sudah kamu jawab. Anthropic menjelaskan efek ini dalam panduannya sendiri soal sesi Claude Code yang panjang, dengan catatan bahwa performa menurun saat konteks bertambah karena perhatian tersebar ke lebih banyak token dan konten lama mulai mengganggu tugas saat ini.
Cara mengatasinya secara praktis semuanya berupa penegasan ulang. Ulangi instruksi inti setiap sekitar sepuluh kali bertukar pesan, taruh batasan penting di dekat akhir pesan kamu karena di situ bobotnya lebih besar, dan pisahkan tugas yang benar-benar tidak berhubungan ke percakapan terpisah, jangan ditumpuk di satu thread.
cara kerjanya di folk
Pemadatan membantu mengatasi context rot sekaligus masalah kapasitas, karena merangkum giliran yang sudah basi menghilangkan gangguan yang mencairkan perhatian. Folk melindungi giliran terbaru dan kerangka awal, lalu memadatkan yang ada di antaranya.
sering ditanyain
Apakah context rot sama dengan mentok batas konteks?
Tidak. Mentok batas adalah batas keras di mana konten dibuang. Context rot adalah penurunan kualitas bertahap yang mulai jauh sebelum batas tercapai, karena perhatian menipis di percakapan yang makin besar.
Gimana cara benerin AI yang berhenti mengikuti instruksi aku?
Tegaskan ulang. Tempel rangkuman tiga sampai lima baris berisi keputusan dan batasan utama di awal pesan berikutnya, dan ulangi aturan format yang kamu buat sebelumnya. Kalau topiknya memang sudah berubah, mulai percakapan baru saja.
Seberapa panjang percakapan AI yang terlalu panjang?
Tidak ada angka pasti, tapi kualitas biasanya mulai turun setelah sekitar dua puluh sampai tiga puluh kali bertukar pesan yang substansial. Aturan yang lebih bagus berdasarkan topik: saat kamu pindah ke tugas yang benar-benar baru, mulai thread baru.