Контекст шірігі деген не?
Контекст шіруі - әңгіме ұзарған сайын AI жауабының сапасының төмендеуі, себебі модельдің назары көбірек токендерге таралып, бұрынғы нұсқаулар әсерін жоғалтады.
Контекст шіруі орын таусылумен бірдей емес. Ол қатаң шектен әлдеқайда бұрын басталады, өйткені модель жақын токендерге алыстағыларға қарағанда көбірек салмақ береді. Бірінші хабарламада қойған нұсқауларың техникалық тұрғыдан әлі контексте, бірақ төмен маңыздылық берілген, сондықтан модель оларды оқып, тиімді түрде елемейді.
Симптомдары таныс: ертерек орнатқан формат ережең бірден сақталмай қояды, қойған шектеуің бұзылады немесе ассистент бұрын жауап берген нәрсеңді қайта сұрайды. Anthropic бұл әсерді ұзақ Claude Code сессиялары туралы өз нұсқаулығында сипаттайды: контекст өскен сайын өнімділік төмендейді, себебі зейін көбірек токенге бөлінеді және ескі мазмұн ағымдағы тапсырмадан алаңдата бастайды.
Практикалық қарсы шаралар, қайта бекітудің барлық түрлері. Негізгі нұсқауларды әр он шақты хабарлама сайын қайталап айт, маңызды шектеулерді хабарламаңның соңына қарай орналастыр, онда олар көбірек салмаққа ие болады, және шынымен байланысы жоқ тапсырмаларды бір ағынға жинаудың орнына бөлек әңгімелерге бөл.
бұл folk-та қалай жұмыс істейді
Компакция шіруге де, сыйымдылыққа да көмектеседі, өйткені ескірген бөліктерді қорытындылау назарды әлсірететін шуды жояды. Folk ең жаңа бөліктер мен бастапқы қалыптастыруды қорғайды, содан кейін арасындағыны қысады.
жиі қойылатын сұрақтар
Контекст шіруі контекст шегіне жетумен бірдей ме?
Жоқ. Лимитке жету дегеніміз мазмұн алынып тасталатын қатаң шекара. Context rot дегеніміз сапаның біртіндеп төмендеуі, ол лимитке жетпей тұрып-ақ басталады. Себебі әңгіме үлкейген сайын зейін әлсірейді.
Нұсқауларымды орындамай қойған AI-ды қалай түзетемін?
Қайта бекіт. Келесі хабарламаңның басына негізгі шешімдер мен шектеулерді үш-бес жолдық қорытынды етіп қой, әрі бұрын орнатқан формат ережеңді қайта айт. Егер тақырып шынымен өзгерген болса, жаңа әңгіме баста.
AI-мен бір әңгіме қанша ұзақ болса тым ұзақ?
Нақты сан жоқ, бірақ сапа әдетте жиырма-отыз маңызды сөйлесуден кейін төмендей бастайды. Жақсырақ ереже - тақырыптық: шынымен жаңа тапсырмаға ауысқанда, жаңа ағымды баста.