AI 越强,底层越重要 书架

第 02 章 / 共 10 章

第二章 · 模型会想,软件会做

把 AI 想成一个很聪明的大脑,很容易。但这个比喻只说对了一半。大脑要改变世界,必须有手、眼睛、工具和工作台。模型再会判断,也不能凭空把文件存到你的硬盘,不能凭空给同事发日程,不能凭空让服务器扩容。它必须通过软件把想法变成动作。

模型,这里指能根据输入生成判断和输出的 AI 系统。软件,这里指那些能稳定执行任务的程序、接口、数据库、权限系统和工作流。前者擅长“想下一步做什么”,后者擅长“真的把这一步做完”。

大白话说:模型像会出主意的人,软件像能照规则干活的机器。主意再好,没有机器也落不了地;机器再稳,没有主意也只是空转。

过去的软件,大多数时候等人来点按钮。人决定要做什么,软件负责执行。AI 进来以后,顺序变了:模型可以先看上下文,判断用户真正想要什么,再选择哪个工具、传什么参数、怎么检查结果。于是软件从“人手的延伸”,变成了“模型手脚的一部分”。

为什么模型越强,软件越重要

直觉上,模型越强,软件好像越不重要。因为它似乎什么都会。但真实情况相反:模型越强,越会遇到更多真实任务;任务越真实,越离不开可靠软件。

写一段总结,只需要语言能力。订一张机票,就需要搜索航班、比较价格、校验身份、支付、出票、改签规则和通知。写一段代码,只需要生成文本。把代码合进生产系统,就需要测试、构建、权限、回滚、监控和审计。越往真实世界走,越多事情不是“想明白”就结束,而是要被系统稳稳接住。

这也是为什么办公软件、编程工具、数据平台、自动化系统会重新变得关键。它们不再只是给人用的界面,而是给模型调用的能力库。一个模型如果能接入高质量工具,它的能力会突然变大;如果只能困在聊天框里,它再聪明也像一个被绑住手的人。

软件质量决定 AI 的上限

模型调用软件时,最怕两件事:不确定和不可恢复。不确定是指接口说不清楚,输入输出含糊,错误信息像谜语。不可恢复是指一旦做错,没有日志、没有回滚、没有权限边界。人用软件时可以靠经验补洞,模型调用软件时,这些洞会被放大。

所以 AI 时代的软件不是随便包一层 API 就够了。它要更清楚地表达自己能做什么、不能做什么;要把状态暴露出来;要把错误讲人话;要允许模型先试探、再执行、再验证。这样的软件,对人也更好用,但对 AI 尤其关键。

这解释了一个表面奇怪的趋势:模型公司会越来越关心工具,软件公司会越来越关心模型。不是谁吃掉谁,而是两边正在合成一个新东西:会判断、会执行、能反馈的工作系统。

如果你只看模型,就会以为未来全靠提示词。如果你只看软件,就会以为 AI 只是一个新按钮。真正的变化在两者之间:模型把软件组织起来,软件把模型的判断落到现实里。基础知识的重要性,也正藏在这个交界处。你懂软件的底层结构,才知道模型的判断能落在哪里,不能落在哪里。

AI 越强,底层越重要 · 竹小竹8167
费曼式写法 · 由多个 AI 代理撰写与互相审校