Kontekst çürüməsi nədir?
Kontekst çürüməsi söhbət uzandıqca AI cavab keyfiyyətinin aşağı düşməsidir, çünki modelin diqqəti daha çox tokenə yayılır və əvvəlki təlimatlar təsirini itirir.
Context rot yerin bitməsi ilə eyni şey deyil. O, sərt limitdən xeyli əvvəl başlayır, çünki model yaxın tokenlərə uzaq olanlardan daha çox çəki verir. İlk mesajında verdiyin təlimatlar texniki olaraq hələ də kontekstdədir, lakin aşağı əhəmiyyət verilir, buna görə model onları oxuyur və faktiki olaraq laqeyd edir.
Simptomlar tanınandır: əvvəldən qoyduğun format qaydası səssizcə pozulmağa başlayır, təyin etdiyin məhdudiyyət pozulur, ya da köməkçi artıq cavablandırdığın bir şeyi yenidən soruşur. Anthropic bu effekti Claude Code-un uzun sessiyaları ilə bağlı öz təlimatında təsvir edir və qeyd edir ki, kontekst böyüdükcə performans aşağı düşür, çünki diqqət daha çox tokenə yayılır və köhnə məzmun cari tapşırıqdan yayındırmağa başlayır.
Praktik əks tədbirlər yenidən ankraj formalarıdır. Əsas təlimatları hər on və ya daha çox mübadilədən sonra təkrarla, kritik məhdudiyyətləri mesajının sonuna yaxın yerləşdir ki, daha çox çəki daşısın və həqiqətən əlaqəsiz tapşırıqları bir mövzuda yığmaq əvəzinə ayrı söhbətlərə böl.
bu folk-da necə işləyir
Kompaksiya həm çürüməyə, həm də tutuma kömək edir, çünki köhnəlmiş növbələri yekunlaşdırmaq diqqəti seyrəldən səs-küyü aradan qaldırır. Folk ən yeni növbələri və orijinal çərçivəni qoruyur, sonra aradakıları sıxır.
tez-tez soruşulanlar
Kontekst çürüməsi kontekst limitinə çatmaqla eynidirmi?
Xeyr. Limitə çatmaq, məzmunun atıldığı sərt bir sərhəddir. Kontekst çürüməsi, limitdən çox əvvəl başlayan tədricən keyfiyyət düşməsidir, diqqətin daha böyük söhbətə yayılması səbəbindən.
Təlimatlarımı yerinə yetirməyi dayandıran AI-ı necə düzəldim?
Yenidən çıxış nöqtəsi yarat. Növbəti mesajının başına əsas qərarlar və məhdudiyyətlərdən ibarət üç-beş sətirlik xülasə yerləşdir və əvvəlcədən qoyduğun format qaydasını təkrar et. Əgər mövzu həqiqətən dəyişibsə, əvəzinə yeni söhbətə başla.
Bir AI söhbəti nə vaxt çox uzun olur?
Dəqiq bir rəqəm yoxdur, lakin keyfiyyət adətən iyirmi-otuz ciddi mübadilədən sonra düşməyə başlayır. Daha yaxşı qayda mövzuya əsaslanır: həqiqətən yeni bir tapşırığa keçəndə, yeni bir thread başlat.