Çfarë është kompaktësimi në bisedën AI?
Compaction është kur një sistem AI përmbledh pjesët e mëparshme të një bisede dhe i zëvendëson me atë përmbledhje, duke liruar hapësirë në dritaren e kontekstit në mënyrë që tema të vazhdojë.
Në vend që të lërë një bisedë të vdesë në kufirin e kontekstit, kompaktësimi i kondenson kthesat e vjetra në një përmbledhje dhe vazhdon prej andej. Dokumentacioni i API-t të Anthropic e përshkruan mekanizmin thjesht: sistemi zbulon kur tokenët e hyrjes arrijnë një prag, gjeneron një përmbledhje dhe hedh çdo bllok përmbajtjeje përpara saj. Claude Code ekspozon të njëjtën ide si një komandë që mund ta ekzekutosh vetë.
Aplikacionet e konsumatorit e trajtojnë këtë në mënyrë jo konsistente, që është burimi kryesor i konfuzionit. Claude zbaton menaxhim automatik të kontekstit në planet me pagesë, por vetëm kur ekzekutimi i kodit është i aktivizuar. Aplikacioni i Gemini zbaton kompresim me dritare rrëshqitëse në anën e serverit pa të njoftuar. ChatGPT ofron degëzim, duke të lejuar të krijosh një degë nga një mesazh i mëparshëm në një thread me një buxhet të ri. Disa asistentë nuk e bëjnë fare dhe thjesht ndalojnë.
Kompresimi është në thelb me humbje. Ajo që mbijeton varet tërësisht nga cilësia e përmbledhjes, dhe përmbledhjet krijohen në momentin kur modeli ka më pak hapësirë për të menduar. Kjo është arsyeja pse një shënim dorëzimi i shkruar me dorë shpesh ruan më shumë nga ajo që ka rëndësi sesa një i automatizuar.
si funksionon kjo në folk
Folk kompakton automatikisht duke përdorur një përmbledhje të strukturuar handoff që mbron turnet më të reja dhe gjurmon atë që është ende e pazgjidhur, kështu që një thread i gjatë vazhdon pa e vënë re bashkimin.
pyetjet e shpeshta
A i kompakton ChatGPT bisedat automatikisht?
Jo në mënyrën se si e bën Claude Code. ChatGPT e ndalon thread-in në tavanin e tij dhe ofron degëzim nga një mesazh i mëparshëm, i cili fillon një bisedë të re që mban historikun deri në atë pikë.
A është kompresimi me humbje?
Po. Detajet hidhen poshtë që në dizajn, dhe përmbledhja prodhohet kur modeli ka kontekstin më të vogël në dispozicion. Kopjimi i numrave dhe vendimeve të rëndësishme fjalë për fjalë para një kompaktimi i mbron ato.
A mund ta nis kompaktimin vetë?
Në mjetet e zhvilluesve si Claude Code, po, me një komandë kompakte. Në shumicën e aplikacioneve të bisedës për konsumatorë, nuk ka nxitës manual, kështu që zgjidhja është të kërkosh një përmbledhje të dorëzimit dhe ta ngjitësh në një bisedë të re.