这本书几乎一直在说 Harness 的好话:工具能配、环境能堆、闭环能建、上下文能组织。最后一章,该诚实地讲讲边界了——什么是 Harness 再厚也补不了的东西?
答案:个体演化能力。这也是我认为当前 AI 不能称为 AGI(通用人工智能——说人话就是「像人一样什么都能学、越干越强的智能」)的原因:它没有个体演化能力,也就是参数是不更新的。
「参数不更新」是什么意思
先翻译。模型的「参数」是它大脑里几十亿个旋钮的刻度,训练的时候调好,之后封存。你今天和它聊了一下午,它帮你改了十版方案,对你的项目了如指掌——然后呢?会话一关,这些全没了。明天它见到你,还是那个刚从工厂出来的它,你上次教它的东西,它一个字都没学会。
这和人的差距是根本性的。你入职第一天的你和第三年的你,大脑里的「参数」是真的变了——神经连接被三年的经验重写过。而 AI 的「经验」只是每次会话临时垫在桌上的资料(第三章的上下文),资料一撤,打回原形。
大白话:现在的 AI 像一个每天失忆的天才员工。你可以每天早上把员工手册重新递给他(这就是上下文工程),但他本人永远不会因为干了三年而变成老员工。
缺了演化,具体缺什么
「参数不更新」听着抽象,落到团队里是四样具体的东西,每一样都是老员工才有、天才实习生没有的:
- 品味。一个方案「感觉不对」——这种判断力是几百次成败刻进直觉的。模型有通用的好品味,但没有「我们团队」的品味:你们老板讨厌什么样的汇报、这个客户吃哪一套,它永远要从零学。
- 记忆。不是上下文窗口里那种便利贴式的记忆,是「三年前那个项目为什么失败」这种长在身上的记忆。便利贴会丢,长在身上的不会。
- 感知。老员工走进办公室,空气不对都能察觉——团队在焦虑、客户在犹豫。模型的感知范围只有每次递给它的那叠材料,材料之外的世界对它不存在。
- 独当一面的探索能力。给一个模糊的方向,老员工能自己开路、自己承担后果、在没人管的几个月里长出新本事。这正是第八章「员工级」的终极形态——而没有个体演化,它最多是一个「每天重置」的员工。
补上它需要算力和算法的双重突破
为什么不让模型「用着用着自己更新参数」呢?因为这比现在所有的 AI 工程都难。
一是算力:训练一次大模型要烧掉一个机房几周,而「个体演化」要求每个实例、每天、持续地更新自己——量级完全不同。二是算法:今天的训练方式适合「一次性从海量数据里学」,不适合「从自己昨天的一次失败里学」——从单一样本里稳健地学到东西、又不把已经会的忘掉(这有个名字叫「灾难性遗忘」),是未解决的研究问题。
这不是工程排期问题,是两个硬突破都还没发生。在此之前,「天才实习生 + 每天早上递员工手册」就是技术现实,而全书讲的 Harness——工具、上下文、环境、闭环——就是让这套现实运转到极限的全部办法。
回到开头那句话
还有个必须保持的清醒:别以为有了 AI,真问题就变简单了。真正的软件系统依然复杂度很高,但 AI 带来了大量助力。复杂度没有被消灭,只是你和它之间多了一个聪明的中间层。
所以回到第一章:模型决定你是人,Harness 决定你是什么人。现在可以给这句话加上最后一层意思——
AI 的智商曲线,你控制不了,交给实验室。个体演化的突破,你也控制不了,交给时间。但 Harness 是你的:你的工具、你的上下文、你的环境、你的闭环。它是你在「AI 每天失忆」的时代里,唯一能把经验沉淀下来的地方——模型学不会记住你,但你的 Harness 可以。
从这个意义上说,建设 Harness,就是建设你和 AI 之间那段「不会失忆的关系」。
这就是你的避雷针,也是你的护城河。开始动手吧。