第九章 · 它真的会思考吗

先回答那个大问题：它在思考吗

走到第九章，我们已经拆完了整台机器。现在可以正面回答那个所有人都关心的问题了：AI 到底会不会思考？

诚实的回答分两层。第一层，机制层面，它没有「想」这个动作。它不做计划、不设目标、不自我怀疑；它就是一层层算坐标、一个个猜词，每一步都是几十亿次乘加。你让它解数学题时它「思考」的样子，和你说「晚安」时它回「晚安好梦」的样子，在机制上是同一种操作，没有任何一个瞬间它「停下来认真想了想」。

但第二层，表现层面，它又确实能完成我们一向认为需要思考才能做的事：规划、推理、纠错、类比、在陌生领域里举一反三。为什么会这样？因为「猜下一个词」这场考试逼它把人类思考的痕迹全学了去——人类写出来的文本里，藏着人类解决问题的过程；把几十亿人的解题过程压缩进旋钮之后，机器手里就有了一个「思考套路」的仓库。它不是在思考，但它调用思考套路的样子，和思考很难区分。

对你日常使用而言，记住一句务实的话就够了：把它当作一个读完了人类所有文本、但没有亲历过任何一件事的博学者。它的强和弱，都能从这句话里推出来。

它最大的坑：一本正经地胡说八道

如果你只用 AI 做过一件事，请记住这一节。AI 有一个与生俱来的缺陷，叫幻觉——大白话：它会用百分之百自信的语气，编造百分之百错误的内容，而且编得滴水不漏。

为什么是「与生俱来」？回到它的本质就懂了。它的全部训练目标是「把话接得像话」，而不是「说真话」。在它的世界里，「《XX 研究》表明……」这个句式之所以高分，是因为真实文本里这句话后面通常跟着靠谱内容——它学的是「这句话应该长什么样」，而不是「这句话是不是真的」。让它推荐参考文献，它能给你编出格式完美、期刊像样、但从没存在过的论文——因为「格式完美的参考文献」正是它学了无数遍的文本模式。

几个特别容易踩坑的地方：

• 冷门、具体的事实：人名、日期、书号、小地方的法规——训练文本里出现次数少，它更容易「记不清就现编一个像的」。
• 最新的信息：模型的知识停在训练数据截止的那一天，之后发生的事它一概不知，但你问它，它未必会说「我不知道」。
• 精确计算：它不是计算器，是「预测下一个数字字符」的机器，长串乘除经常算错。

所以一条铁律：AI 说的重要事实，尤其是要拿去用的，必须自己核实。把它当一个记性极好但偶尔会脸不红心不跳编故事的超级实习生——它的初稿价值千金，它的定稿需要你把关。

它的另几个边界

除了幻觉，还有几条边界值得心里有数：

它没有「亲身经历」。它读过所有关于骑自行车的书，但从未摔过跤。这意味着它特别擅长「人们写下过的东西」，而对「写下来很少、全靠身体经验的东西」——比如此刻你家猫的脾气——一无所知。

它记不住你，除非系统帮它记。每次新对话，它都是一张白纸——模型本身不在聊天中「学习」，你和它聊一下午，关掉窗口它就全忘了。你感觉它「记得你」，那是外面的系统把历史记录每次重新塞给了它。

它的「记性」有容量。一次能装进脑子的文本长度（上下文窗口）是有限的，聊得太长，开头的话会被挤出窗外——表现为「聊着聊着忘了你前面说过什么」。

它有立场残留的偏见。它学的是人类文本，人类文本里的偏见——地域的、性别的、职业的——会或多或少渗进它的回答。它在重大问题上被调教得谨慎中立，但文本深处打捞起来的偏见不会完全消失。

那为什么还这么有用？

列了这么多局限，不是劝退，而是校准。一个工具的局限越清楚，它的能力越可用。这台机器的正确打开方式，是搞清楚它在哪些事上几乎不会失手：

• 语言活儿：总结、改写、翻译、润色、起名字、换语气——这是它的主场，幻觉风险极低。
• 结构化的脑力杂务：列提纲、做比较、拆任务、写初稿——把「从零到一」最痛苦的那一步外包给它。
• 解释与学习：让它把任何概念讲给你听、反复追问、换着角度问——它是有史以来最有耐心的老师，且「讲清楚一件事」恰恰是它最不容易编错的场景。
• 代码与文书：格式严、套路多的文本，它写得又快又好；但涉及具体事实、数字、引用的部分，照铁律，核实。

一句话：创意和初稿交给它，事实和定稿留给你。理解它的工作原理，最终是为了知道什么时候可以放手信它、什么时候必须上手查它。

最后一章，我们把视角再拉高一点：这台机器正在被装上「手脚」，从「会说」变成「会做」——以及普通人在这个时代最该养成什么习惯。