Што такое гніенне кантэксту?
Гніенне кантэксту азначае зніжэнне якасці адказаў ШІ, калі размова становіцца даўжэйшай. Гэта адбываецца таму, што ўвага мадэлі размяркоўваецца на большую колькасць токенаў, пакуль ранейшыя інструкцыі не страчваюць уплыў.
Гніенне кантэксту не тое самае, што сканчэнне месца. Яно пачынаецца задоўга да жорсткага ліміту, бо мадэль надае большую вагу нядаўнім токенам, чым далёкім. Інструкцыі, якія вы задалі ў першым паведамленні, тэхнічна ўсё яшчэ ў кантэксце, але ім прысвоена нізкая значнасць, таму мадэль чытае іх і фактычна ігнаруе.
Сімптомы пазнавальныя: правіла фарматавання, якое ты ўсталяваў напачатку, ціха перастае выконвацца, абмежаванне, якое ты задаў, парушаецца, або асістэнт перапытвае тое, на што ты ўжо адказаў. Anthropic апісвае гэты эфект у сваіх рэкамендацыях па доўгіх сесіях Claude Code, адзначаючы, што прадукцыйнасць падае з ростам кантэксту, бо ўвага размяркоўваецца па большай колькасці токенаў, і стары змест пачынае адцягваць ад бягучай задачы.
Практычныя процідзеянні гэта ўсе формы перазамацавання. Паўтарай асноўныя інструкцыі прыкладна кожныя дзесяць абменаў, змяшчай крытычныя абмежаванні бліжэй да канца паведамлення, дзе яны важнейшыя, і разбівай сапраўды незвязаныя задачы на асобныя размовы, а не складвай іх у адзін трэд.
як гэта працуе ў folk
Сцісканне дапамагае і з гніеннем, і з умяшчальнасцю, бо пераказ састарэлых рэплік прыбірае шум, які разбаўляў увагу. Folk абараняе самыя новыя рэплікі і першапачатковую рамку, а потым сціскае тое, што паміж імі.
частыя пытанні
Ці гніенне кантэксту тое ж самае, што дасягненне ліміту кантэксту?
Не. Дасягненне ліміту: гэта жорсткая мяжа, дзе кантэнт адкідаецца. Гніенне кантэксту: гэта паступовае зніжэнне якасці, якое пачынаецца задоўга да ліміту, выкліканае тым, што ўвага размываецца па большай размове.
Як выправіць AI, які перастаў выконваць мае інструкцыі?
Перазамацуй. Уставі кароткае рэзюмэ з трох-пяці радкоў пра ключавыя рашэнні і абмежаванні ў пачатак наступнага паведамлення і паўтары любое правіла фарматавання, якое ты ўсталяваў раней. Калі тэма сапраўды змянілася, лепш пачні новую размову.
Колькі часу лічыцца занадта доўгім для адной размовы з AI?
Няма фіксаванай лічбы, але якасць звычайна пачынае падаць дзесьці пасля дваццаці-трыццаці змястоўных абменаў паведамленнямі. Лепшае правіла па тэме: калі пераходзіш да сапраўды новай задачы, пачынай новы трэд.