红叶禅师烧掉的那本
《葵花宝典》的来历，金庸写得很讲究：据说出自一位前朝太监之手，后来流落福建莆田少林寺，方丈红叶禅师得到后，翻了一遍，直接烧了。老禅师的判词是：这门武功精深之极，但第一关就走火入魔，「非人所能」——练它的人必然被它反噬。
一个东西威力越大，越值得问一句：它是怎么来的？是什么在驱动它？红叶禅师看懂了来历，所以敢烧。这一章我们做同一件事：不念经、不拽术语，把 AI 这门「武功」的来路翻一遍。翻完你就知道，它的神奇和它的毛病，是同一枚硬币的两面。
它只会一个动作：猜下一个字
今天驱动 AI 的核心技术叫大语言模型——大白话就是：一个读了海量文字的统计机器，它唯一会做的事，是给定前面一段话，猜下一个字（更准确地说是下一个词元）最可能是什么。猜完一个，接上去，再猜下一个。一篇文章就是这么一个字一个字「顺」出来的。
听起来笨得要命，对吧？但这里有一个反直觉的事实：要把「猜下一个字」猜到极致，你就被迫学会了这个世界。
打个比方。假设把你关在一个房间里，只给你一个任务：听到「床前明月光」，猜下一个字。你背一千首诗就能答得很好。但如果题目换成一段法庭辩论的下一个字、一段程序代码的下一个字、一道数学证明的下一步——你要猜得准，就得真的懂法律、懂编程、懂数学。题目越杂，作弊越难，唯一通用的作弊方法就是真懂。
大语言模型就是被逼着答了几万亿道题的答题机器。为了答好，它内部长出了对语法、事实、逻辑、甚至人类心理的某种「压缩理解」。没人教它「主谓宾」，但想猜准下一个字，不懂语法猜不准；没人教它「水在零度结冰」，但猜不准科学文章里这句话的下一个字就会扣分。它的知识不是灌进去的，是为了猜字而自己逼出来的。
大白话：大模型就是个猜字游戏玩到满级的怪物。它不「知道」任何事，但为了猜得准，它把整个互联网的写法、讲法、套路都内化了。所以它什么都会聊——因为什么都有人写过。
第二道工序：被调教出「人味」
光会猜字的模型，是个很好用的「续写机器」，但还不是你手机里那个有问必答的助手。从续写机器到助手，中间还有一道关键工序，叫人类反馈强化学习（RLHF）——大白话：真人给模型的多个回答打分，「这个回答好、那个回答差」，模型按打分调整自己，越调越会讨人欢心。
这道工序很重要，它让模型学会了像人一样对话、分步骤、讲礼貌。但它也悄悄刻进了三条性格：
- 讨好。打分的真人喜欢「看起来有帮助」的回答，于是模型学会了永远给出回答——哪怕该说「我不知道」的时候，它也倾向于编一个看起来像样的。这不是 bug，这是打分标准刻进去的。
- 平庸。它的口味是从海量人类文本里统计出来的「平均值」。它天然滑向最常见的表达、最稳妥的观点、最大路货的方案。绝顶高手的剑招它学不会，它学的是全江湖剑招的平均。
- 自信。它说「地球是平的」和说「地球是圆的」用的是同一种笃定语气。语气和正确率之间没有任何关系——而人类恰好是靠语气判断可信度的动物。
现在回头看这门「武功」
懂了来历，《葵花宝典》的隐喻就更准了：
宝典确实是宝典。一个把全人类的文字经验压缩进自己身体的东西，功力是真的，暴涨也是真的。看不起它是愚蠢的。
但宝典是「抄本」。它记的是人类写过的东西，不是世界本身。就像华山派的岳肃、蔡子峰偷看宝典后各背一半、回去一对发现对不上——你拿到的每一句回答，都是从「人类文字的统计」里抄出来的，抄的时候会抄错，而且它不会告诉你哪句抄错了。
而且宝典没写「慎用」的章节。它的每一页都同样自信。它不会像老师傅那样说「这一手我也没把握」。
下一章我们就把「抄错」这件事掰开看：它错在哪、为什么错、为什么你常常看不出来。那一章叫「残卷」。