context rot क्या है?
context rot बातचीत लंबी होने के साथ AI के जवाबों की quality में गिरावट है। ये तब होता है जब model का attention ज़्यादा tokens पर फैल जाता है और पहले दिए instructions का असर कम हो जाता है।
context rot जगह खत्म होने जैसा नहीं है। ये hard limit से काफ़ी पहले शुरू हो जाता है, क्योंकि model हाल के tokens को दूर वालों से ज़्यादा अहमियत देता है। तुम्हारे पहले message के instructions technically अभी भी context में होते हैं, पर उन्हें कम अहमियत मिलती है, तो model उन्हें पढ़ता तो है पर असल में नज़रअंदाज़ कर देता है।
इसके लक्षण पहचाने जा सकते हैं: शुरू में तय किया format rule चुपचाप follow होना बंद हो जाता है, तुम्हारी लगाई कोई शर्त टूट जाती है, या assistant वही बात फिर से पूछता है जिसका तुम जवाब दे चुके हो। Anthropic लंबे Claude Code sessions पर अपनी guidance में इस असर का ज़िक्र करता है, कि context बढ़ने के साथ performance गिरती है क्योंकि attention ज़्यादा tokens पर फैल जाता है और पुरानी चीज़ें मौजूदा काम से ध्यान भटकाने लगती हैं।
असली उपाय सब किसी न किसी तरह फिर से टिकाने के हैं। हर दस-एक exchanges में मुख्य instructions दोबारा बोलो, ज़रूरी शर्तें अपने message के आख़िर में रखो जहाँ उनका वज़न ज़्यादा होता है, और सच में अलग tasks को एक thread में ढेर करने के बजाय अलग बातचीत में बाँटो।
folk में ये कैसे काम करता है
compaction सिर्फ़ जगह में नहीं, rot में भी मदद करता है, क्योंकि पुराने turns का summary बनाने से वो शोर हट जाता है जो attention को पतला कर रहा था। Folk सबसे नए turns और शुरुआती framing को बचाकर रखता है, फिर बीच की चीज़ों को compress करता है।
अक्सर पूछे जाने वाले सवाल
क्या context rot और context limit तक पहुँचना एक ही बात है?
नहीं। limit तक पहुँचना एक पक्की सीमा है जहाँ content हटा दिया जाता है। context rot quality में धीरे-धीरे गिरावट है जो limit से बहुत पहले शुरू होती है, क्योंकि बड़ी बातचीत में attention पतला पड़ जाता है।
जिस AI ने मेरे instructions मानना बंद कर दिया, उसे कैसे ठीक करूँ?
फिर से टिकाओ। अपने अगले message में सबसे ऊपर मुख्य फ़ैसलों और शर्तों का तीन से पाँच line का recap paste करो, और पहले तय किया कोई भी format rule दोबारा बोलो। अगर topic सच में बदल गया है, तो नई बातचीत शुरू करो।
एक AI बातचीत कितनी लंबी हो तो ज़्यादा है?
कोई तय number नहीं है, पर quality अक्सर बीस से तीस ठोस exchanges के बाद कहीं फिसलने लगती है। बेहतर rule topic के हिसाब से है: जब सच में नया task शुरू करो, नया thread शुरू करो।