岳肃和蔡子峰的对不上的拳谱
《笑傲江湖》里有个细思极恐的细节。华山派的岳肃、蔡子峰师兄弟到莆田少林寺偷看《葵花宝典》，时间不够，两人各背一半。回华山后一对——完全对不上，互相指责对方背错了，反目成仇，华山派从此分裂成剑宗、气宗，斗了几十年。
一本真秘籍，抄成两半，各自残缺，再各自脑补——江湖上后来的血雨腥风，源头是抄本。
你手里的 AI，就是这样一个抄本。而且它的「抄错」有个专门的名字，叫幻觉——大白话：模型一本正经地说出并不存在的事实，语气和你问它「今天星期几」时一样笃定。
为什么它一定会胡说
上一章说了，模型的全部本事是「猜下一个字」。现在把这个机制推到极致，你会看到幻觉不是 bug，是机制本身长出来的。
设想模型被问到：「某某年某某市长是谁？」这是一个真实但冷僻的事实，它的训练数据里可能只出现过一两次。猜字机器怎么办？它知道市长名字的「形状」——通常两三个字、常见姓氏开头——于是它按「最像正确答案的形状」拼了一个名字出来。它不是撒谎，它根本分不清「我记得」和「我拼的」。对它来说，回忆和编造是同一个动作：都是按概率猜下一个字。
加上上一章说的 RLHF 调教——它被训练成「永远给出像样回答」——你得到的就是一个这样的助手：知道的说，不知道的也照说，而且两者语气完全一样。
现实后果已经一堆：美国有律师用 AI 写诉状，里面引用了好几个判例，法官一查——判例全是编的，案号、当事人、裁决日期一应俱全，就是这个案子不存在。律师被罚了款。他犯的不是懒，是没搞懂自己拿的是抄本。
大白话：问它冷僻问题，等于让一个背书背得不太牢但自尊心极强的人上考场——他绝不交白卷，他会给你编一个最像答案的答案，笔迹工整，信心满满。
更隐蔽的一刀：它把「平均」当「好」
幻觉是硬伤，能看见血。残卷还有一处更隐蔽的毛病，不出血，但慢性——它给你的东西，天然是人类水平的平均值。
想它的来源：全人类的文字，统计出「最可能的下一个字」。什么是「最可能」？就是最多人那么写。你让它写一段广告词，它给你的是一万个广告文案的平均口味；你让它出个点子，它给你的是这个观点被表达过最多次的那个版本。统计学家管这种「结果往平均值靠拢」的现象叫回归平均——大白话：统计机器的默认值就是「最大路货」。
所以 AI 写的东西有一种独特的气质：通顺、完整、挑不出错，也记不住。像旅游景点纪念品商店里的工艺品——做工不错，但一千家店卖的是同一件。
这对真正想做出好东西的人是致命的：你以为你拿到了宝典的功力，其实你拿到的是全江湖剑招的平均值。练这种「平均剑法」练得再熟，遇到真正的高手——那些有自己风格、自己判断、自己怪异品味的人——还是会输。
残卷的正确用法
知道了是残卷，态度就清楚了：
- 凡是能查证的，必须查证。它给的每个具体事实、每个引用、每个数字，都可能是拼出来的。查证成本是你使用宝典的「过路费」，不交就会在某个重要场合翻车。
- 它擅长的是「平均以上、惊艳以下」的区间。润色、总结、翻译、搭架子——这些地方平均值就是好东西。要突破性、要独特风格、要没人写过的东西，平均值就是你最大的敌人。
- 它越自信的领域，你越要问自己懂不懂。它笃定地说的东西，只有你本来能分辨对错，那份笃定才对你有用。
最后一句话引出下一章。残卷为什么害人？不是因为它是残卷——剑谱残缺，高手照样能看出哪些招式是真传。害人的是你失去了辨别残卷的能力。而那种能力是怎么没的？是你在一次次「反正它也写得不错」里，自己一刀一刀割掉的。下一章，看第一刀：基本功。