Kaj je kompakcija v AI klepetu?
Kompakcija je, ko AI sistem povzame prejšnje dele pogovora in jih nadomesti s tem povzetkom, s čimer sprosti prostor v kontekstnem oknu, da se nit lahko nadaljuje.
Namesto da bi pustili pogovor umreti ob omejitvi konteksta, kompakcija strne starejše izmenjave v povzetek in nadaljuje od tam. Anthropicova API dokumentacija opisuje mehanizem preprosto: sistem zazna, ko vhodni žetoni dosežejo prag, ustvari povzetek in izpusti vsak blok vsebine pred njim. Claude Code razkrije isto idejo kot ukaz, ki ga lahko zaženeš sam.
Potrošniške aplikacije to obravnavajo nedosledno, kar je glavni vir zmede. Claude uporablja samodejno upravljanje konteksta na plačljivih paketih, a samo ko je omogočeno izvajanje kode. Geminijeva aplikacija na strežniku uporablja kompresijo drsečega okna, ne da bi ti to povedala. ChatGPT namesto tega ponuja razvejanje, s katerim se odpreš od prejšnjega sporočila v novo nit s svežim proračunom. Nekateri pomočniki ne naredijo nič od tega in se preprosto ustavijo.
Stiskanje je po naravi izgubno. Kaj preživi, je popolnoma odvisno od kakovosti povzetka, povzetki pa nastanejo v trenutku, ko ima model najmanj prostora za razmislek. Zato ročno napisana opomba za predajo pogosto ohrani več pomembnega kot samodejna.
kako to deluje v folku
Folk samodejno strne pogovor s strukturiranim povzetkom predaje, ki zaščiti najnovejše izmenjave in spremlja, kaj še ni rešeno, tako da se dolga nit nadaljuje, ne da bi opazil šiv.
pogosta vprašanja
Ali ChatGPT samodejno strne pogovore?
Ne tako kot Claude Code. ChatGPT ustavi nit, ko doseže svojo zgornjo mejo, in namesto tega ponudi razvejanje od prejšnjega sporočila, ki začne nov pogovor z zgodovino do tiste točke.
Ali je stiskanje izgubno?
Ja. Podrobnosti se zavržejo po zasnovi, povzetek pa nastane, ko ima model najmanj razpoložljivega konteksta. Kopiranje pomembnih številk in odločitev dobesedno pred stiskanjem jih zaščiti.
Ali lahko kompakcijo sprožim sam?
V razvijalskih orodjih, kot je Claude Code, ja, z ukazom compact. V večini potrošniških klepetalnih aplikacij ni ročnega sprožilca, zato je rešitev, da prosiš za povzetek predaje in ga prilepiš v nov klepet.