Що таке context rot?
Context rot це спад якості відповідей ШІ, коли розмова стає довшою: увага моделі розповсюджується на більше токенів, поки попередні інструкції не втрачають вплив.
Context rot це не те саме, що закінчення місця. Він починається задовго до жорсткого ліміту, бо модель надає недавнім токенам більшої ваги, ніж віддаленим. Інструкції з твого першого повідомлення формально досі в контексті, але мають низьку помітність, тож модель їх читає і фактично ігнорує.
Симптоми впізнавані: формат, який ти задав на початку, тихо перестають дотримуватися, обмеження, яке ти поставив, порушується, або асистент перепитує те, на що ти вже відповів. Anthropic описує цей ефект у власних порадах щодо довгих сесій Claude Code, зазначаючи, що продуктивність падає, коли контекст росте, бо увага розподіляється на більше токенів, а старіший вміст починає відволікати від поточного завдання.
Практичні заходи це все різні форми повторного закріплення. Повторюй головні інструкції кожні десять обмінів чи близько того, став критичні обмеження ближче до кінця повідомлення, де вони важать більше, і розділяй справді непов'язані завдання на окремі розмови, а не складай їх в одну.
як це працює в folk
Стискання допомагає і проти гниття, і з місткістю, бо підсумок застарілих ходів прибирає шум, що розбавляв увагу. Folk береже найновіші ходи й початкову постановку, а решту між ними стискає.
часті питання
Context rot це те саме, що досягти ліміту контексту?
Ні. Досягнення ліміту це жорстка межа, на якій вміст відкидається. Context rot це поступове падіння якості, що починається задовго до ліміту через те, що увага розріджується по більшій розмові.
Як виправити ШІ, який перестав виконувати мої інструкції?
Закріпи знову. Встав короткий підсумок із трьох-п'яти рядків із ключовими рішеннями й обмеженнями на початку наступного повідомлення і повтори будь-яке правило формату, яке ти задавав раніше. Якщо тема справді змінилася, краще почни нову розмову.
Яка довжина однієї розмови з ШІ вже забагато?
Точного числа немає, але якість зазвичай починає сповзати десь після двадцяти-тридцяти змістовних обмінів. Краще правило за темою: коли переходиш до справді нового завдання, починай нову розмову.