Што е гниење на контекстот?
Context rot е опаѓање на квалитетот на одговорите на AI како што разговорот станува подолг, предизвикано од тоа што вниманието на моделот се шири низ повеќе токени додека претходните инструкции не го изгубат влијанието.
Гниењето на контекстот не е исто како да ти снема место. Се појавува многу пред тврдата граница, затоа што моделот им дава поголема тежина на скорешните токени отколку на далечните. Инструкциите што си ги поставил во првата порака технички сè уште се во контекст, но добиваат мала важност, па моделот ги чита и практично ги игнорира.
Симптомите се препознатливи: правило за формат што си го поставил рано тивко престанува да се следи, ограничување што си го поставил е прекршено, или асистентот повторно прашува нешто што веќе си одговорил. Anthropic го опишува ефектот во своите упатства за долги сесии на Claude Code, забележувајќи дека перформансите се влошуваат како што расте контекстот затоа што вниманието е распространето на повеќе токени и постарата содржина почнува да го одвлекува вниманието од тековната задача.
Практичните противмерки се сите форми на повторно вкотвување. Повтори ги главните инструкции на секои десетина размени, стави ги критичните ограничувања близу до крајот на пораката каде што имаат поголема тежина и раздели ги навистина неповрзаните задачи во одделни разговори наместо да ги натрупаш во една нишка.
како функционира ова во folk
Компакцијата помага и со гниењето и со капацитетот, бидејќи сумирањето на застарените делови го отстранува шумот што го разредуваше вниманието. Folk ги штити најновите делови и оригиналното поставување, потоа го компресира она што е помеѓу.
често поставувани
Дали context rot е исто како да го достигнеш лимитот на контекстот?
Не. Достигнувањето на лимитот е тврда граница каде содржината се отфрла. Контекстуалното гниење е постепен пад на квалитетот што започнува многу пред лимитот, предизвикан од разредување на вниманието низ поголем разговор.
Како да го поправам AI што престана да ги следи моите инструкции?
Повторно вкотви. Залепи резиме од три до пет реда за клучните одлуки и ограничувања на почетокот на твојата следна порака, и повтори го секое правило за формат што си го поставил претходно. Ако темата навистина се променила, започни нова разговора.
Колку е предолго за еден AI разговор?
Нема фиксен број, но квалитетот обично почнува да опаѓа некаде по дваесет до триесет суштински размени. Подобро правило е според темата: кога преминуваш на навистина нова задача, отвори нова нишка.