Čo je compaction v AI chate?
Kompakcia je, keď AI systém zhrnie skoršie časti konverzácie a nahradí ich týmto zhrnutím, čím uvoľní miesto v kontextovom okne, aby vlákno mohlo pokračovať.
Namiesto toho, aby rozhovor skončil na limite kontextu, compaction zhrnie staršie kolá do sumáru a pokračuje ďalej. Dokumentácia API od Anthropic opisuje mechanizmus jednoducho: systém zistí, keď vstupné tokeny dosiahnu prah, vytvorí sumár a zahodí všetky obsahové bloky pred ním. Claude Code ponúka to isté ako príkaz, ktorý si môžeš spustiť sám.
Spotrebiteľské aplikácie to riešia nekonzistentne, čo je hlavný zdroj zmätku. Claude aplikuje automatickú správu kontextu v platených plánoch, ale len keď je povolené spúšťanie kódu. Gemini aplikuje na strane servera kompresiu posuvného okna bez toho, aby ti to povedal. ChatGPT namiesto toho ponúka vetvenie, takže môžeš odbočiť z predchádzajúcej správy do vlákna s čerstvým rozpočtom. Niektorí asistenti nerobia nič z toho a jednoducho sa zastavia.
Kompaktácia je vo svojej podstate stratová. Čo prežije, závisí úplne od kvality zhrnutia a zhrnutia sa generujú v momente, keď má model najmenej priestoru na rozmýšľanie. Preto ručne napísaná odovzdávacia poznámka často zachová viac podstatného než automatická.
ako to funguje vo folku
Folk automaticky komprimuje pomocou štruktúrovaného zhrnutia odovzdania, ktoré chráni najnovšie kolá a sleduje, čo ešte nie je vyriešené, takže dlhé vlákno pokračuje bez toho, aby si si všimol šev.
časté otázky
Automaticky komprimuje ChatGPT konverzácie?
Nie tak ako Claude Code. ChatGPT zastaví vlákno na svojom maxime a namiesto toho ponúkne rozvetvenie z niektorej skoršej správy, čím začne nový rozhovor, ktorý si nesie históriu až po ten bod.
Je kompaktácia stratová?
Áno. Detaily sa zámerne zahadzujú a zhrnutie vzniká, keď má model k dispozícii najmenej kontextu. Ak si pred kompakciou doslovne skopíruješ dôležité čísla a rozhodnutia, ochrániš ich.
Môžem spustiť kompakciu sám?
V nástrojoch pre vývojárov, ako je Claude Code, áno, pomocou príkazu compact. Vo väčšine spotrebiteľských chatovacích aplikácií neexistuje manuálny spúšťač, takže obchádzka je požiadať o zhrnutie odovzdania a vložiť ho do nového chatu.