假设你招了一个博士生。他读过人类有史以来几乎所有公开的文字,你问什么他都答得上来,写报告、写代码、写方案,速度快得离谱,而且不要工资、不闹情绪、随叫随到。听起来像做梦。但入职第一周你就发现了问题:他不靠谱。他会面不改色地编一个不存在的参考文献;你上午教过他的规矩,下午他就忘了;他在一个话题里聊得越久,说话越容易被前面聊过的内容带偏。
这个博士生就是 AI。这本书要回答的问题只有一个:面对一个又强又不靠谱的助手,你怎么用它,而不是被它坑?
两个极端,都是坑
面对这样的助手,人很容易滑向两个极端。一个极端是:「AI 不可信,我全自己干。」这就像买了一个电钻却坚持用手拧螺丝——这个时代最大的生产力红利,你一口没吃到。另一个极端是:「AI 太强了,我全信。」然后某天拿它生成的数字去做汇报,被当场打脸;或者更严重,拿它的判断去做真要命的决定。
举个书里最疼的例子:你采了个蘑菇,拍给 AI 问有没有毒,它说「没毒,可以吃」。你吃了,进了医院,AI 说「对不起,我错了」。它道歉的成本是零,你承担的成本是全部。记住这个例子,它会在后面「三大原则」里一再出现。
它的病根只有两个
这个博士生所有的不靠谱,拆到最后只有两个病根。
第一个叫 幻觉——说白了就是「一本正经地瞎编」。AI 生成文字的方式,决定了它追求的是「看起来像那么回事」,而不是「确实是真的」。所以它给的任何东西,默认都先当成「待验证的草稿」,而不是结论。
第二个病根是 上下文——就是你和它的这次对话里,它能「看见」的所有信息:你的问题、你给的资料、前面的对话记录。上下文对 AI 就像图纸对施工队:图纸给得全、给得对,活儿就好;图纸缺页、沾了油渍,它就照着错的干。麻烦在于上下文永远「不够」——它不知道你没说出口的背景,而且同一次对话聊久了,早先的话还会互相污染。
把这两个病根背下来:幻觉,让它给的东西不一定靠谱;上下文,决定它干活的图纸质量。这本书后面讲的每一个招式,都在治这两个病。
这本书的地图
对付这两个病根,靠的不是感觉,是一套流程加一套心法:
- 五大维度——一条流水线:定义问题、制定计划、过程保证质量、结果校验、真实环境反馈。幻觉主要靠前四个管,上下文主要靠管好计划与执行来治。
- 三大原则——谁说了算、谁背锅、AI 的产物算起点还是终点。这三条是心态,防止你被工具反过来拿捏。
- 四大象限——你懂或不懂、能验证或不能验证,四种处境下同一套流程的不同玩法。
但整条流水线的第一步,在碰 AI 之前就已经开始了:先搞清楚你要解决的到底是不是个真问题。下一章,从一个满市场找五分管的人讲起。