Што такое сцісканне ў AI-чаце?
Compaction: гэта калі AI-сістэма абагульвае ранейшыя часткі размовы і замяняе іх гэтым абагульненнем, вызваляючы месца ў кантэкстным акне, каб тэма магла працягвацца.
Замест таго каб дазволіць размове памерці на мяжы кантэксту, сцісканне згортвае старыя рэплікі ў кароткі пераказ і працягвае адтуль. Дакументацыя API Anthropic апісвае механізм проста: сістэма заўважае, калі ўваходныя токены дасягаюць парога, стварае пераказ і адкідае ўсе блокі зместу да яго. Claude Code паказвае тую ж ідэю як каманду, якую ты можаш запусціць сам.
Спажывецкія дадаткі робяць гэта па-рознаму, і гэта галоўная крыніца блытаніны. Claude уключае аўтаматычнае кіраванне кантэкстам на платных планах, але толькі калі ўключана выкананне кода. Дадатак Gemini прымяняе сцісканне са слізгальным акном на серверы, не кажучы табе. ChatGPT замест гэтага прапануе разгалінаванне, дазваляючы адгалінавацца ад ранейшага паведамлення ў асобную галіну з новым бюджэтам. Некаторыя асістэнты не робяць нічога з гэтага і проста спыняюцца.
Кампрэсія па сваёй прыродзе губляе інфармацыю. Што застанецца, цалкам залежыць ад якасці рэзюмэ, а рэзюмэ ствараюцца ў момант, калі ў мадэлі найменш месца для роздуму. Вось чаму рукапісная нататка пра перадачу часта захоўвае больш важнага, чым аўтаматычная.
як гэта працуе ў folk
Folk аўтаматычна сціскае гісторыю, выкарыстоўваючы структураванае рэзюмэ перадачы, якое захоўвае самыя новыя рэплікі і адсочвае, што яшчэ не вырашана, таму доўгая размова працягваецца, а ты нават не заўважаеш шва.
частыя пытанні
Ці сціскае ChatGPT размовы аўтаматычна?
Не так, як гэта робіць Claude Code. ChatGPT спыняе размову на яе столі і замест гэтага прапануе адгалінаванне ад ранейшага паведамлення, што пачынае новую размову з гісторыяй да гэтага моманту.
Ці губляе кампрэсія інфармацыю?
Так. Дэталі адкідаюцца па задуме, і зводка ствараецца, калі мадэль мае найменшы даступны кантэкст. Капіраванне важных лікаў і рашэнняў даслоўна перад сцісканнем абараняе іх.
Ці магу я сам запускаць сцісканне?
У інструментах для распрацоўшчыкаў, як Claude Code, так, з дапамогай каманды compact. У большасці звычайных чатаў няма ручнога запуску, таму абыходны шлях: папрасіць кароткае рэзюмэ для перадачы і ўставіць яго ў новы чат.