Harness 决定你是什么人 书架

第 14 章 / 共 14 章

第十四章 · 为什么还不是 AGI

这本书几乎一直在说 Harness 的好话:工具能配、环境能堆、闭环能建、上下文能组织。最后一章,该诚实地讲讲边界了——什么是 Harness 再厚也补不了的东西?

答案:个体演化能力。这也是我认为当前 AI 不能称为 AGI(通用人工智能——说人话就是「像人一样什么都能学、越干越强的智能」)的原因:它没有个体演化能力,也就是参数是不更新的。

「参数不更新」是什么意思

先翻译。模型的「参数」是它大脑里几十亿个旋钮的刻度,训练的时候调好,之后封存。你今天和它聊了一下午,它帮你改了十版方案,对你的项目了如指掌——然后呢?会话一关,这些全没了。明天它见到你,还是那个刚从工厂出来的它,你上次教它的东西,它一个字都没学会。

这和人的差距是根本性的。你入职第一天的你和第三年的你,大脑里的「参数」是真的变了——神经连接被三年的经验重写过。而 AI 的「经验」只是每次会话临时垫在桌上的资料(第三章的上下文),资料一撤,打回原形。

大白话:现在的 AI 像一个每天失忆的天才员工。你可以每天早上把员工手册重新递给他(这就是上下文工程),但他本人永远不会因为干了三年而变成老员工。

缺了演化,具体缺什么

「参数不更新」听着抽象,落到团队里是四样具体的东西,每一样都是老员工才有、天才实习生没有的:

补上它需要算力和算法的双重突破

为什么不让模型「用着用着自己更新参数」呢?因为这比现在所有的 AI 工程都难。

一是算力:训练一次大模型要烧掉一个机房几周,而「个体演化」要求每个实例、每天、持续地更新自己——量级完全不同。二是算法:今天的训练方式适合「一次性从海量数据里学」,不适合「从自己昨天的一次失败里学」——从单一样本里稳健地学到东西、又不把已经会的忘掉(这有个名字叫「灾难性遗忘」),是未解决的研究问题。

这不是工程排期问题,是两个硬突破都还没发生。在此之前,「天才实习生 + 每天早上递员工手册」就是技术现实,而全书讲的 Harness——工具、上下文、环境、闭环——就是让这套现实运转到极限的全部办法。

回到开头那句话

还有个必须保持的清醒:别以为有了 AI,真问题就变简单了。真正的软件系统依然复杂度很高,但 AI 带来了大量助力。复杂度没有被消灭,只是你和它之间多了一个聪明的中间层。

所以回到第一章:模型决定你是人,Harness 决定你是什么人。现在可以给这句话加上最后一层意思——

AI 的智商曲线,你控制不了,交给实验室。个体演化的突破,你也控制不了,交给时间。但 Harness 是你的:你的工具、你的上下文、你的环境、你的闭环。它是你在「AI 每天失忆」的时代里,唯一能把经验沉淀下来的地方——模型学不会记住你,但你的 Harness 可以。

从这个意义上说,建设 Harness,就是建设你和 AI 之间那段「不会失忆的关系」。

这就是你的避雷针,也是你的护城河。开始动手吧。

Harness 决定你是什么人 · 竹小竹8167
费曼式写法 · 由多个 AI 代理撰写与互相审校