[AI书房] 第7章 模型计算的文本片段与工作记忆:一次能读多少
Claude Code完全掌握
Claude Code完全掌握
第7章 模型计算的文本片段与工作记忆:一次能读多少
金京镇
引子
把竞品分析交给Claude Code,来回修改了好几轮,对话越来越长。一开始,智能体做出的图表精确、PDF整洁;可不知从什么时候起,它开始拉来莫名其妙的数据。明明前面告诉过它品牌配色,它视而不见;已经回答过的问题,它又问了一遍。
目光移到屏幕底部,看见一行字:「23% of your context remaining」。智能体的记事本快写满了。要弄清这个现象,得先了解智能体是怎么阅读我们说的话的。
什么是模型计算的文本片段
人读文章,以词为单位。AI不一样。AI以一种叫文本片段(Token)的碎块为单位来阅读。
一个文本片段并不恰好等于一个单词。大约3到4个英文字母对应一个文本片段。一个逗号是一个文本片段,「in」这样的短介词也是一个文本片段。连空格都会被计入文本片段。看上去有规律可循,实际相当参差不齐。
给一个粗略的换算基准:英语中,一个文本片段大约相当于0.75个单词。
中文的情况有所不同。一个汉字经常被拆成好几个文本片段,所以表达相同意思的句子,中文往往比英文消耗更多文本片段。韩语也是类似的情况。
这为什么重要?因为文本片段就是钱。包括Claude Code在内,所有大语言模型都按文本片段计费。即使用的是订阅套餐,一定周期内可用的文本片段总量也有上限。浪费文本片段,额度就会提前耗尽。
[图7-1] 英语句子被拆解为文本片段的示例。「Hello, how are you?」被切分为[「Hello」, 「,」, 「 how」, 「 are」, 「 you」, 「?」]的可视化图解
上下文窗口的大小与极限
想象Claude手里有一本记事本。对话一开始,Claude就把用户说的话、自己的回复、系统提示词、MCP工具列表、项目文件内容,统统密密麻麻写进这本记事本。这本记事本就是上下文窗口(Context Window)。
这本记事本的容量有物理极限。当前Claude模型的标准上下文窗口约为200,000个文本片段。数字看着挺大,实际填得比想象中快。列举一下记事本里要装的东西就知道了。
项目规模越大、连接的MCP服务器越多,这些内容就越快吞噬记事本的空间。输入 /context 命令可以查看当前的文本片段使用情况。比如,某次会话中模型是Claude Opus 4.6,文本片段用了22,000/200,000,那就意味着已经消耗了总量的11%。
[图7-2] /context 命令执行结果示例。用柱状图分别展示系统提示词、系统工具、MCP工具、对话记录各占多少文本片段的截图
上下文衰变现象
记事本写到一半左右,微妙的变化就开始了。原本精准的智能体渐渐给出离谱的回答。已经提供过的信息它又来索要,甚至凭空捏造事实。这种现象叫作上下文腐化(Context Rot)。
根源在于大语言模型处理长上下文的方式。文本片段堆积得越多,模型的质量和准确度下降得越明显。对话开头和末尾的信息还能记得比较清楚,夹在中间的信息却容易被淹没。这被称为「中间丢失(Lost in the Middle)」现象。
画一张图的话,横轴是文本片段使用量,纵轴是回复质量。使用量超过50%后,质量曲线开始缓慢下滑;过了70%,便急剧坠落。这个现象不只出现在Claude身上,所有大语言模型都有。
[图7-3] 上下文使用量(横轴)与回复质量(纵轴)关系曲线图。在60%处画一条竖虚线,标注「警戒区间」
实际工作中碰到的症状是这样的:智能体突然编出虚假信息;之前保存的文件路径被记成了别的;同一个问题反复问。一旦出现这些信号,就该整理文本片段记事本了。
60%规则
运行完竞品分析工作流,检查结果,来回修改,屏幕底部的上下文剩余量不知不觉已跌到50%以下。「45% of your context remaining until auto-compact」,这行字你应该见过。
实务中有一条好用的基准:上下文填充到60%时就开始清理。我们称之为60%规则。
为什么偏偏是60%?因为过了这个节点,上下文腐化就开始产生实际可感的影响了。Claude Code内置了自动压缩(Auto-compact)功能,逼近极限时会自行压缩对话。可是自动压缩意味着智能体自己判断保留什么、丢弃什么。重要的决策事项有可能在压缩过程中丢失。
所以更稳妥的做法是主动出手,在60%的节点亲自动手清理。那具体怎么清理?有两个工具可用。
/compact:压缩对话,保留记忆
输入 /compact 命令后,Claude Code会把此前的对话记录压缩成一份摘要。冗长的对话变成只保留关键信息的精简版,文本片段使用量大幅下降。就像把一份长篇会议记录整理成核心决议清单。
压缩之后,智能体仍然大致记得之前做了什么。创建过的文件、调用过的工具、得出的结论,这些都留在摘要里,对话可以继续。
还能再进一步。在 /compact 命令后面直接指定你希望保留的信息。
/compact keep API decisions and schema
这样输入之后,智能体会在压缩过程中优先保留API相关决策和schema信息。如果不想丢掉品牌素材路径,可以写 /compact keep brand asset paths。等于由用户亲自告诉智能体,项目里哪些上下文是核心。
这就是选择性保留策略。与其对智能体说「全部记住」,不如说「这几样一定要记住」,效果好得多。
/clear:彻底归零
有时候需要的不是压缩,而是一张白纸。/clear 命令会整个删掉对话记录。智能体对之前的对话里做过什么完全没有记忆。
但有一件事很关键:执行 /clear 后,项目文件原封不动。claude.md文件、工作流文档、工具脚本、业务档案JSON,磁盘上保存的一切都不会被碰。智能体开启新对话时,会从头重新读取claude.md,重新探索需要的文件。就像一位新来的助理翻开工作手册从第一页读起。
适合使用 /clear 的时机如下。
/compact与/clear,什么时候用哪个
两条命令的差异整理如下。
[图7-4] /compact与/clear动作差异的左右对比示意图。左侧展示对话记录被压缩成摘要的过程,右侧展示对话记录消失、只剩claude.md的过程
实战模式
实务中运用这两个工具的节奏是这样的。
开始工作,和智能体来回对话多轮。屏幕底部的剩余量降到40%以下。这时执行 /compact keep brand assets and competitor list。文本片段腾出空间后继续干活。工作结束了,下一个任务是完全不同的主题。这时执行 /clear,从零开始。
这个节奏一旦成为习惯,你会明显感到智能体的质量不再随对话长度波动。文本片段和上下文窗口初看很技术化,归根到底就是一个习惯:记事本写到一半,就清理一下。
掌握了管理智能体记忆的方法,接下来该看看那本记事本的第一页了。智能体每次启动时最先读取的那份文件,该怎么写才好。
人工智能专家 金京镇律师
AI法律政策专家 · 前国会议员 · 著有多部作品
如果这本书曾在您身边停留片刻,请支持我们,让下一个故事得以问世。
(自愿赞助账户:农协 302-1096-0948-81 户名:金京镇)






