Czym jest context rot?
Context rot to spadek jakości odpowiedzi AI w miarę wydłużania się rozmowy, spowodowany rozpraszaniem uwagi modelu na coraz więcej tokenów, aż wcześniejsze instrukcje tracą wpływ.
Context rot to nie to samo co brak miejsca. Zaczyna się na długo przed twardym limitem, bo model waży świeższe tokeny mocniej niż odległe. Instrukcje z twojej pierwszej wiadomości technicznie nadal są w kontekście, ale mają niską wagę, więc model je czyta i w praktyce ignoruje.
Objawy są rozpoznawalne: reguła formatu, którą ustaliłeś na początku, po cichu przestaje być przestrzegana, ustawione ograniczenie zostaje złamane albo asystent pyta o coś, na co już odpowiedziałeś. Anthropic opisuje ten efekt we własnych wskazówkach dotyczących długich sesji Claude Code, zauważając, że wydajność spada wraz ze wzrostem kontekstu, bo uwaga rozkłada się na więcej tokenów, a starsza treść zaczyna rozpraszać od bieżącego zadania.
Praktyczne środki zaradcze to wszystkie formy ponownego zakotwiczenia. Powtarzaj kluczowe instrukcje mniej więcej co dziesięć wymian, umieszczaj krytyczne ograniczenia pod koniec wiadomości, gdzie mają większą wagę, i dziel naprawdę niepowiązane zadania na osobne rozmowy, zamiast upychać je w jednym wątku.
jak to działa w folk
Kompaktowanie pomaga zarówno przy rocie, jak i przy pojemności, bo streszczenie nieaktualnych tur usuwa szum, który rozcieńczał uwagę. Folk chroni najnowsze tury i pierwotne ramy, a to, co jest pomiędzy, kompresuje.
często zadawane pytania
Czy context rot to to samo co osiągnięcie limitu kontekstu?
Nie. Osiągnięcie limitu to twarda granica, przy której treść jest porzucana. Context rot to stopniowy spadek jakości, który zaczyna się na długo przed limitem, spowodowany rozrzedzaniem uwagi w większej rozmowie.
Jak naprawić AI, która przestała przestrzegać moich instrukcji?
Zakotwicz ponownie. Wklej trzy-pięciowierszowe podsumowanie kluczowych decyzji i ograniczeń na górze następnej wiadomości i powtórz każdą regułę formatu, którą ustawiłeś wcześniej. Jeśli temat naprawdę się zmienił, zacznij zamiast tego nową rozmowę.
Jak długo to za długo dla jednej rozmowy z AI?
Nie ma stałej liczby, ale jakość zwykle zaczyna spadać gdzieś po dwudziestu-trzydziestu poważnych wymianach. Lepsza reguła jest tematyczna: gdy przechodzisz do naprawdę nowego zadania, zacznij nowy wątek.