你已经决定要用 AI 帮你把这个工业产品做出来了。那在动手之前，得先搞清楚一件最要命的事：你手里这个 AI，到底是个什么东西？它擅长什么、会在哪儿翻车？搞不清这个，你会在错误的地方信任它，然后在最贵的地方摔跟头。
这一章不测评谁家模型更强。我们只干一件事：把 AI 的引擎盖掀开，看看里面那台机器到底怎么转的。看懂了这个，后面所有的「它为什么这么好用」和「它为什么突然发疯」，你都能自己解释。
先认清三样东西，别把它们搅在一起
你会打交道的 AI 其实是三个层次，越往上越「主动」，但底子是同一个。
第一样，大模型——就是 GPT、Claude 这类你打字问它、它打字答你的 AI。它读文字、写文字，本质是一张嘴加一颗脑子，但没有手，动不了你电脑里任何东西。
第二样，AI 编程助手——把大模型塞进代码编辑器里，你写代码时它在旁边补全、生成整段代码。它比裸的大模型多了一样东西：能看见你当前的代码文件，所以答得更贴你的活儿。但它还是「你踩油门它建议方向」，方向盘在你手上。
第三样，AI Agent——能自己拆步骤、自己动手执行任务的 AI。你说「把这个功能做出来」，它自己去读文件、写代码、跑一下、看报错、再改。它多了「手」，能实际操作你的电脑。这是你在这本书里真正要用来干重活的东西。
一个是会说话的脑子，一个是会说话且看得见你桌面的脑子，一个是会说话、看得见、还能自己伸手去做的脑子。手越多，能帮你干的活越多，但它出错时能捅的娄子也越大。
关键在于：这三样东西的内核是同一台机器。Agent 不是比大模型「更聪明」的新物种，它只是大模型外面套了一层「能循环行动」的壳。所以大模型有的毛病，Agent 一个不少，只是后果放大了。要理解全部三样，你只需要理解那台内核机器怎么转。
那台内核机器，只干一件事：猜下一个词
这是全章最重要的一句话，请慢读：大模型的全部工作，就是根据前面已经有的文字，预测下一个最可能出现的词，然后把它写下来，再拿这个新的、更长的文字去预测再下一个词。如此一个字一个字地滚下去。
就这么简单。它不是先想好一整个答案再打字给你，它是像挤牙膏一样，每次只挤出「统计上最顺的下一个词」。
打个比方。你手机输入法打「今天天气真」，它会灰字提示「好」。为什么是「好」不是「香蕉」？因为它把海量文字看下来，「今天天气真」后面接「好」的次数远远压过接「香蕉」。大模型就是这个输入法，只不过它读过的文字多到不可思议，能接的不只是一个词，而是能一路接出一整篇通顺的文章、一整段能跑的代码。
它不是一个「知道答案的人」，它是一个「极其擅长把话说圆的人」。它追求的是「像不像对的」，不是「是不是对的」。这两件事经常一致，所以它有用；但它俩不是一回事，所以它会骗你。
记住这个词：概率——就是「可能性大小」。它倾向于挑「可能性大」的下一个词，而不是「保证正确」的下一个词——而且挑的时候还留了一点随机（所以同一句话问两遍，答案可能不完全一样）。这是它的天性，改不掉。
为什么这机制让它无比有用
先说好的一面，别以为这是个缺陷产品。
正因为它在猜「最顺的下一句」，所以凡是「有海量范例、答案有套路」的活，它都干得漂亮。写一段读取传感器数据的常规代码、把你一段啰嗦的需求整理成条理清楚的文档、把英文报错翻成人话、照着一个成熟做法给你搭个架子——这些事在它读过的文字里出现过千万遍，它太知道「接下来该怎么写」了。
这就是这本书的底气：那些「有标准答案、纯体力、你不会但别人早写烂了」的代码活，正是它的主场。你不需要会写，你需要会把活儿描述清楚交给它。
换个角度看它的真实身份：它是一台概率性的「意图翻译器」——你用人话说出你想要什么，它翻译成代码、翻译成文档、翻译成方案。翻译，是它的本行。
为什么这机制又让它一本正经地胡说
现在说要命的一面。既然它只追求「最顺」，那当「最顺的话」恰好不等于「真的事」时，它会毫不犹豫地把假话写得无比顺畅。
这个现象有个专门的词：幻觉——指 AI 编造出根本不存在、或者压根是错的信息，但语气笃定、格式工整，看起来跟真的一模一样。
为什么会这样？因为它脑子里根本没有「我不知道」这个档位。你问它一个某型号 PLC 到底支不支持某个通信协议，如果它读过的文字里这事儿没定论，它不会停下来说「查不到」——那不是「顺」的回答。它会顺着你的问法，编一个听上去最合理的答案，连型号参数都给你编得有模有样。它不是在骗你，它是在「把话说圆」，而说圆的代价就是可能凭空造事实。
它像一个特别会聊天的实习生：什么都敢答，从不说「不知道」，答错了也一脸自信。你不能因为他语气笃定就信他——语气笃定恰恰是他的默认设置，跟对不对没关系。
这里有个反直觉的重点，你务必记牢：它答得越流畅、越自信，跟它答得对不对，一点关系都没有。流畅是它的出厂配置，正确要靠你去验。在写网站文案时，胡说一句无伤大雅；但在工业设备里，一句编造的接线定义、一个虚构的寄存器地址，可能就是一台报废的机器或一次安全事故。这就是第 14 章要专门教你「怎么识破它骗你」的原因。
那么，哪些判断该留给你自己
现在可以给你一个能一直用的心智模型了。把活分成两类：
- 「有标准答案的体力活」——放心丢给它。写常规代码、翻译报错、整理文档、生成样板、解释一段陌生代码在干嘛。这些交给它，你省下的是时间，风险很低。
- 「关乎对错、关乎后果的判断」——你自己扛。这个方案在你的产线上到底行不行、这个安全逻辑对不对、这个数据它是查到的还是编的、它给的做法适不适合你这台设备。这些是方向盘，不能松手。
一句话总结这台机器的本质，请刻进脑子：
它是概率性的「意图翻译器」，不是确定性的「正确性保证器」。它负责把你的意图快速变成东西，你负责判断这东西对不对。
你可能会问：那 Agent 能自己跑、自己改，它不就能自己保证对了吗？不能。Agent 只是把「猜下一个词」这件事套进了一个循环——它写一段、跑一下、看报错、再猜下一段怎么改。它确实能自己纠正很多低级错误（因为报错也是文字，它会顺着报错猜修法），但它纠正不了「它压根不知道自己在编」的那类错。循环放大了它的能干，也放大了它的自信满满地跑偏。你越是放手让它自动干，你就越要在关键节点设卡验收——这正是后面「让它跑住」和「验证迭代」那几章的活。
这一章，你要带走的
大模型、编程助手、Agent，是同一台「猜下一个词」的机器，手的多少不同而已。它靠概率把话说圆，所以它是个飞快的「意图翻译器」——把你不会写的体力活翻译成成品；也正因为它只求「顺」不求「真」，它会理直气壮地胡说。
所以你和它的分工从今天起就定死了：体力活丢给它，对错判断留给你。它跑得多快，取决于你把意图说得多清楚——那是下一章「怎么给它下精确指令」要解决的；它会不会骗到你，取决于你在哪儿设了验收关卡——那是第 14 章的事。这两件事，就是你这个不写代码的产品经理，真正要练的两门手艺。