🧡 第十一章 心智模型与持续进化
📄 一句话概括

模型本身只会生成文本,动手的是外面那层壳——输入拼装、工具调用、结果回填,一圈圈转到它认为做完,所以上下文里的每一行都在计费。

📝 本节和前面几节的关系

前两节讲怎么搭、搭什么;这一节往回看一层——它凭什么是这样,也就明白了前面哪些规矩为什么成立。

一、一次请求的六个环节

你的输入被拼成一段文本;规则文件和系统提示一起塞进上下文。 模型生成:一个词一个词往外吐——它只会说【下一步该调用哪个工具】。 工具调用:壳去执行,把结果回填进上下文。 循环:直到它认为做完了,才停下给你一段总结。

二、模型只会【说】,壳才会【做】

它没有手——它只会输出一段文本,说【请读这个文件】【请改这一行】。 真正去读、去改、去跑命令的,是外面那层替你执行的壳。 所以它不是搜索引擎,也不是数据库。它是一个会说【下一步做什么】的文本模型,加一层壳。

三、上下文里到底装了什么

演示里那份占用表:读进来的文件占最大一块,约 63%。 这解释了第 10.2 节那笔账——钱主要花在把文件读进来这一步。 也解释了第 6.2 节那句话——上下文是工作台,不是仓库。 不是道理,是机制:每多塞一个文件,就多一份钱、少一份注意力。

四、这个原理还解释了什么

为什么它会自信地错:它在预测下一个词,流畅和正确是两件独立的事(第 10.1 节)。 为什么要给它规则文件:它每次都是从零开始读上下文,没有你的规矩它就是通用的。 为什么对话长了会变笨:历史对话挤占工作台,该留的空间被旧话占掉了(第 4.7 节)。

五、动手 Demo:一次请求,经过哪些环节

下面把一次请求的六个环节排开,各写一条你能亲眼看见的迹象。

TH([u"环节", u"它在干嘛", u"你能看见的迹象"], [16, 34, 32])
T([u"工具调用", u"它说【我要读某个文件】", u"界面上出现正在读取"],
  [16, 34, 32])
T([u"结果回填", u"读到的内容塞回上下文", u"它开始引用文件内容"],
  [16, 34, 32])

实跑输出:

--------------------------------------------------------------------
一次请求,经过哪些环节
--------------------------------------------------------------------

它为什么能【动手】,而不是只会说?看一遍链路就清楚了:

  环节         它在干嘛                     你能看见的迹象
  --------------------------------------------------------------
  你的输入     被拼成一段文本发出去         你敲下的那回车
  规则文件     和系统提示一起塞进上下文     /context 能看到占用
  模型生成     一个词一个词往外吐           字符一个个冒出来
  工具调用     它说【我要读某个文件】       界面上出现正在读取
  结果回填     读到的内容塞回上下文         它开始引用文件内容
  循环         直到它认为做完了为止         它停下给你一段总结

**模型本身只会生成文本**——它只会说【下一步该调用哪个工具】。
真正去读文件、去改代码、去跑命令的,是外面那层壳。

所以它不是搜索引擎,也不是数据库。它是:

    **一个会说【下一步做什么】的文本模型 + 一层替你执行的壳**

拿一次真实会话,按上面六个环节算一遍占用:

  上下文里装了什么     大致占比
  ------------------------------------
  系统提示             3000 行 / 9%
  规则文件             2500 行 / 8%
  工具定义             1200 行 / 4%
  读进来的文件         20000 行 / 63%
  历史对话             5000 行 / 16%

  合计 ≈ 31700 行,其中**读进来的文件占最大一块**。

这解释了第 10.2 节那笔账:**钱主要花在把文件读进来这一步**。
也解释了第 6.2 节那句话:**上下文是工作台,不是仓库**。

六个环节走完一圈,上下文就长大一次——所以每一行都在计费。 读进来的文件占约 63%——这就是【上下文是工作台】的机制层面解释。

30 秒实验

  1. 下次会话中途看一眼上下文占用,和你刚开场时的数字比一比。
  2. 让它回答一句【你现在看到了哪些文件】——看它的工作台上摆了些什么。

常见误区

  1. 以为它在【查数据库】。它在预测下一个词,只是被允许调用工具去拿真数据。
  2. 以为对话长一点无所谓。历史对话也占工作台,占满了它就真的看不见你要的东西了。
自测三问(点开对答案) 1. 模型的输出本质上是什么? —— 一段文本——它只会说【下一步该调用哪个工具】。 2. 谁真正去读文件、改代码、跑命令? —— 模型外面那层壳,也就是 harness。 3. 上下文里占比最大的是什么? —— 读进来的项目文件(演示里约 63%)。

相关笔记