什么是上下文腐化?
上下文腐化是指随着对话变长,AI 回复质量下降的现象,原因是模型的注意力分散到越来越多的 token 上,直到早先的指令失去影响力。
上下文腐化和空间用完不是一回事。它在远没到硬性上限时就开始了,因为模型对近期 token 的权重远高于久远的 token。你在第一条消息里设定的指令,技术上还在上下文里,但被赋予的重要性很低,模型读到了,实际上却忽略了。
症状很好认:你早先定下的格式规则悄悄不再被遵守,你设的限制被违反,或者助理又问了一遍你已经回答过的问题。Anthropic 在关于长时间 Claude Code 会话的官方指南里也描述过这种现象,指出随着上下文增长性能会下降,因为注意力分散到更多 token 上,旧内容开始干扰当前任务。
实用的应对方法都是某种形式的重新锚定。每十轮左右重申一次核心指令,把关键限制放在消息末尾,那里的分量更重,并且把真正不相关的任务分到不同的对话里,而不是全堆在一个对话里。
常见问题
上下文腐化和撞到上下文上限是一回事吗?
不是。撞到上限是一条硬边界,内容会被丢掉。上下文腐化则是质量的逐渐下降,在远没到上限时就开始了,原因是注意力在更长的对话里被摊薄。
AI 不再遵守我的指令了,怎么办?
重新锚定。在下一条消息开头贴上三到五行的回顾,写清关键决定和限制,并重申你之前定的格式规则。如果话题真的变了,就开一个新对话。
一个 AI 对话多长算太长?
没有固定数字,但质量通常在二三十轮有分量的来回之后开始下滑。更好的规则是按话题来:当你切换到一个真正的新任务时,就开一个新对话。