Co je kompaktace v AI chatu?
Komprese je, když AI systém shrne dřívější části konverzace a nahradí je tím shrnutím, čímž uvolní místo v kontextovém okně, aby vlákno mohlo pokračovat.
Místo aby konverzace umřela na limitu kontextu, kompaktace zhustí starší výměny do shrnutí a pokračuje odtud. Dokumentace API Anthropic popisuje mechanismus jasně: systém zjistí, když vstupní tokeny dosáhnou prahu, vygeneruje shrnutí a zahodí všechny obsahové bloky před ním. Claude Code nabízí stejnou myšlenku jako příkaz, který si můžeš spustit sám.
Spotřebitelské aplikace to řeší nekonzistentně, což je hlavní zdroj zmatku. Claude aplikuje automatickou správu kontextu u placených plánů, ale jen když je povoleno spouštění kódu. Aplikace Gemini aplikuje kompresi posuvného okna na straně serveru, aniž by ti to řekla. ChatGPT místo toho nabízí větvení, takže můžeš odbočit z dřívější zprávy do vlákna s čerstvým rozpočtem. Několik asistentů nedělá nic z toho a prostě se zastaví.
Komprese je ze své podstaty ztrátová. Co přežije, závisí zcela na kvalitě shrnutí, a shrnutí se generují v momentě, kdy má model nejméně prostoru přemýšlet. To je důvod, proč ručně psaná předávací poznámka často zachová více podstatného než automatická.
jak to funguje ve folku
Folk automaticky komprimuje pomocí strukturovaného souhrnu předání, který chrání nejnovější tahy a sleduje, co ještě není vyřešeno, takže dlouhé vlákno pokračuje, aniž bys si všiml švu.
časté dotazy
Zhušťuje ChatGPT automaticky konverzace?
Ne tak jako Claude Code. ChatGPT zastaví vlákno na jeho stropu a místo toho nabídne odbočku z dřívější zprávy, což začne novou konverzaci s historií až do toho bodu.
Je komprese ztrátová?
Ano. Detaily se záměrně zahazují a shrnutí vzniká ve chvíli, kdy má model nejméně dostupného kontextu. Když si před kompakcí zkopíruješ důležitá čísla a rozhodnutí doslova, ochráníš je.
Můžu spustit kompakci sám?
Ve vývojářských nástrojích, jako je Claude Code, ano, pomocí příkazu compact. Ve většině spotřebitelských chatovacích aplikací není žádný manuální spouštěč, takže workaround je požádat o shrnutí předání a vložit ho do nového chatu.