AI 咬走的那一刀 书架

第 12 章 / 共 15 章

第十二章 · 战场·开车与体力活:最后 5% 的悖论

这一章对准两件多数人眼里「没技术含量」的事:开车和一堆体力活。有个别扭的事实:机器先咬走的是写诗、下棋、读片这些引以为傲的脑力活;而叠衣服、通下水道、把老人扶上轮椅这些「三岁小孩都会」的活,机器至今笨手笨脚。这不是偶然,背后有条很硬的规律。

一个反直觉的老现象:越「本能」的事,机器越难

先给它一个名字:莫拉维克悖论(Moravec's paradox,讲的是一件怪事——人类觉得「高级、烧脑」的推理和下棋,对机器反而容易;人类觉得「简单、不用想」的看和动,对机器反而极难)。

让机器算积分、下棋、背下整部法典,早是小菜一碟。可让它像两岁孩子那样把散落一地的积木捡起来、躲开桌角放进盒子——这事到今天都战战兢兢。推理容易,感知和运动难。为什么?看和动,进化替我们打磨了几亿年;抽象推理,才玩了几万年。

你「不费吹灰之力」就能接住抛来的球、认出一张脸、闭着眼摸到口袋里的钥匙——这「不费吹灰之力」是个天大的错觉:背后是几亿年进化压进你神经和肌肉里的一套本事,只是跑得太自动,你感觉不到它在运转。而算术、下棋恰因为「新」、还没进化出专门硬件,才得吭哧吭哧地想、才觉得「烧脑」——可这种能一步步写清楚的东西,正是机器的主场。

把这悖论接回第四章那条线就通了:叠衣服、认路、扶人之所以难,正因为它们大量长在默会知识(你会做却说不清、写不进例子的那种本事)里——手上那把劲、脚底那点感觉,喂不进数据。觉得它「简单」,只因做得太顺,忘了有多难写下来。

开车:95% 很无聊,5% 要命

最典型的例子是开车。为什么写诗、翻译早被咬得七零八落,而让车自己在马路上跑,攻了这么多年还没封顶?

开车的绝大部分——姑且叫它 95%——相当无聊、重复:跟前车走、并线、看红灯停绿灯行、保持在车道中间。这些动作规规矩矩,能摊成海量「看到这个路况→该这么操作」的例子,正是第四章说的好食材。所以 demo 常惊艳——晴天、熟路,开得比不少人还稳。

问题全出在剩下那一小撮上。请出本章第二个主角:长尾(long tail,指那一大堆各自概率极小、几乎不会碰上,可品种多到加起来又常常发生的罕见情况)。它长什么样?

单拎任何一件,你这辈子可能都碰不上一次。可它们的种类无穷无尽——沙发之后是床垫,床垫之后是滚落的西瓜,永远有下一个。加起来,「碰上某种没见过的怪状况」经常发生。要命的是:恰恰这 5% 决定生死。前 95% 再顺,长尾里错一次,就是一条命。

为什么长尾这么难啃?第四章那条线就是答案:长尾里每一件都是「第一次遇到」,周围没有可供插值的邻居。模型学开车靠的是在海量见过的路况之间连线取中间。可「横在路中间的沙发」训练里几乎没有类似的点,只能硬着头皮外推——外推在生死关头,飘一点就是灾难。

再叠上第六章那条线——错了要人命,担责极重。写错一句诗没人受伤,认错一张脸大不了重来;可路上判断错一次,撞的是活人。两条线一叠,就明白那句想不通的话:

自动驾驶「最后 5% 比前 95% 还难」。demo 惊艳,是它把 95% 的重复动作学得很好;迟迟封不了顶,是那 5% 的长尾里全是「第一次」,每个「第一次」都可能要命。这不是工程师不努力,是这件事的形状本来如此:长尾越厚、每件越罕见、错了后果越重,封顶越慢。

关键区分:环境被人管着的,早就输了

别急着得出「体力活都难、都安全」的结论——那是另一个坑。真正决定难不难的不是「体力还是脑力」,而是环境可不可控

同样是「用手干活」,流水线上的活早被咬光,因为它结构化、长尾被削平;而通一根老房子的下水管难得要命,因为它开放、每根管子堵法都不一样。这条线不是「体力 vs 脑力」,是「环境越不可控、长尾越厚的体力活,越难被咬」。

诚实两面:别断言「永远」,也别低估「顽固」

第一面:机器人在实实在在地进步,别断言「永远做不到」。那些介于流水线和纯开放世界之间的封闭、半封闭场景会被相对快地吃下来:仓库搬货分拣、高速货运的干线段(路直、封闭、没有行人乱窜、长尾薄)、园区里跑固定路线的接驳车。共同点是——有人把环境收拾干净、长尾压薄了,它们会较早松动。

第二面:开放世界的「最后一公里」会比很多人预期的顽固得多。高速干线也许先通,但货送到老小区、爬上没电梯的六楼、敲开一扇门——这段路全是长尾,再叠上「错了要赔钱」的重担责,格外难啃。别被高速那段顺畅的 demo 骗了,以为整件事快成了。

还有个更狠、最反直觉的推论:取代的先后,跟薪水高低几乎没关系。照护失能老人、上门修疑难水电、做一件复杂的手工修复——这些常被归为「低薪体力活」的事,长尾极厚(每个老人、每处故障、每件旧物都不一样),又死死要求第七章那条线——真身在场(得有一双真手在现场应付图纸上没画的意外)。它们很可能比某些「高薪白领活」更晚被取代;反过来,坐在写字楼里、活儿高度可数据化的高薪岗位,可能先被咬走。谁先谁后,不看它挣多少、体不体面。

把这一刀钉死

这一章拿开车和体力活替全书钉死一个主张:别用「体力/脑力」「高级/低级」去判断一件事会不会被 AI 取代——那把尺子是坏的。

难不难被咬走,不看「高级还是低级」,看它落在那五条线的哪一侧:能不能被数据描述、有没有对错信号、错了谁担责、要不要真身在场、是解题还是重新出题。开车和体力活只是把它演到极致。

可这又逼出一个更让人发慌的问题:机器把活儿咬走之后,剩下的人是被替掉,还是被抬起来了?下一章讲「互补」——机器咬走一部分,怎么反而把人剩下的那部分变得更值钱,哪些是真、哪些是安慰。

AI 咬走的那一刀 · holly
面向对世界有好奇心的人 · 费曼式写法 · 由多个 AI 代理撰写与互相审校