Co je kontextový rozklad?
Context rot je pokles kvality odpovědí AI, jak konverzace roste, protože pozornost modelu se rozprostírá přes víc tokenů, až dřívější instrukce ztratí vliv.
Rozpad kontextu není to samé jako dojít místo. Přijde mnohem dřív, než narazíš na tvrdý limit, protože model přikládá nedávným tokenům větší váhu než těm vzdálenějším. Instrukce, které nastavíš v první zprávě, jsou technicky pořád v kontextu, ale mají nízkou důležitost, takže je model přečte a v podstatě ignoruje.
Příznaky jsou rozpoznatelné: formátovací pravidlo, které jsi zavedl na začátku, se tiše přestane dodržovat, omezení, které jsi nastavil, se poruší, nebo se asistent znovu zeptá na něco, co už jsi odpověděl. Anthropic popisuje tento efekt ve svém vlastním doporučení pro dlouhé Claude Code sessions, kde poznamenává, že výkon klesá, jak kontext roste, protože pozornost je rozptýlena mezi více tokenů a starší obsah začíná odvádět pozornost od aktuálního úkolu.
Praktická protiopatření jsou všechny formy opětovného ukotvení. Zopakuj hlavní instrukce zhruba každých deset výměn, kritická omezení dej blíž ke konci zprávy, kde mají větší váhu, a opravdu nesouvisející úkoly rozděl do samostatných konverzací, místo abys je vršil do jednoho vlákna.
jak to funguje ve folku
Kompaktace pomáhá jak s rozkladem, tak s kapacitou, protože shrnutí starých výměn odstraní šum, který ředil pozornost. Folk chrání nejnovější výměny a původní rámec a pak zkomprimuje to, co je mezi nimi.
časté dotazy
Je context rot to samé jako narazit na limit kontextu?
Ne. Narazit na limit je tvrdá hranice, kde se obsah zahazuje. Kontextová hniloba je postupný pokles kvality, který začíná dávno před limitem, způsobený tím, jak se pozornost ředí přes delší konverzaci.
Jak opravím AI, která přestala dodržovat moje instrukce?
Znovu se ukotvi. Vlož na začátek své další zprávy tří až pět řádkové shrnutí klíčových rozhodnutí a omezení a zopakuj jakékoli formátovací pravidlo, které jsi dříve nastavil. Pokud se téma skutečně změnilo, raději začni novou konverzaci.
Kdy je jedna AI konverzace už příliš dlouhá?
Neexistuje žádné pevné číslo, ale kvalita obvykle začne klesat někde po dvaceti až třiceti podstatných výměnách. Lepší pravidlo je tématické: když přejdeš na skutečně nový úkol, začni nové vlákno.