AI 聊天里的压缩是什么?
压缩是指 AI 系统把对话的早期部分总结起来,用总结替换原文,在上下文窗口里腾出空间,让对话能继续下去。
压缩不会让对话在上下文上限处直接断掉,而是把较早的轮次浓缩成一份总结,再从那里继续。Anthropic 的 API 文档对这个机制说得很直白:系统检测到输入 token 达到某个阈值时,就生成一份总结,并丢掉它之前的所有内容块。Claude Code 把同样的思路做成了一个你可以自己运行的命令。
面向用户的 app 处理方式各不相同,这也是大家困惑的主要来源。Claude 在付费套餐上会自动管理上下文,但只在开启代码执行时才会。Gemini 的 app 在服务器端做滑动窗口压缩,而且不会告诉你。ChatGPT 则提供分支功能,让你从早先的某条消息分叉出一个额度全新的对话。还有几个助理什么都不做,直接停住。
压缩天生就有损失。能保留下来什么,完全取决于总结的质量,而总结恰恰是在模型最没有思考空间的时候生成的。这就是为什么一份手写的交接笔记,往往比自动总结保留更多重要的东西。
常见问题
ChatGPT 会自动压缩对话吗?
不像 Claude Code 那样。ChatGPT 会在达到上限时停住对话,转而提供从早先某条消息分支的功能,开一个新对话,带上到那一刻为止的历史。
压缩会丢信息吗?
会。细节本来就会被舍弃,而且总结是在模型可用上下文最少的时候生成的。在压缩之前把重要的数字和决定原样复制下来,就能保住它们。
我能自己触发压缩吗?
在 Claude Code 这类开发者工具里可以,用 compact 命令。大多数面向用户的聊天 app 没有手动触发的方式,变通的办法是让它写一份交接总结,再贴到新对话里。