从调 API 到训模型 书架

第 13 章 / 共 14 章

第十三章 · 架构师的系统设计

技术章节到此结束。这一章回答一个更日常的问题:AI 应用架构师的工作日到底长什么样?答案可能会让期待「画架构图」的人意外:架构师的大部分时间,花在三种决定上——结构、边界、时机。

结构的决定:编排,而不是堆叠

真实的 AI 系统很少是「一个模型回答一切」,而是多个不同档位、不同职责的模型加传统代码的编排。架构师设计的结构,常见形态是分层:便宜的小模型做分流、意图识别、格式转换这些「体力活」;旗舰模型只处理真正需要推理的环节;确定性代码(规则、校验、数据库)把守所有不能错的关口。

分层的原则在前面各章已经分别出现过,这里把它们收拢成一条:确定性优先于模型,小模型优先于大模型,检索优先于记忆,提示词优先于微调。每一层升级都意味着成本和复杂度的跃迁,架构师的工作就是挡住不必要的跃迁。一个「只用了一个模型加一个提示词」的设计,往往比「五个智能体协同」的设计更能体现功力——简单是省出来的,不是偷懒出来的。

边界的决定:AI 管什么,人管什么,代码管什么

每个 AI 系统里都有一条三权分立的边界要划:

这条边界划错是架构师最严重的失误:让模型管了不该管的(自动审批大额退款),是事故;让代码硬写本该交给模型的(拿正则解析用户意图),是返工。划对了,系统里每个部件都在自己最可靠的位置上。

时机的决定:什么时候做,什么时候忍

架构决策里最被低估的是时机。同样的方案,时机不同,对错相反:

一个隐藏的职责:让团队不依赖你

最后是架构师最不像技术的技术职责:把判断力沉淀成系统,而不是沉淀成「问你」。评估集、降级链、成本看板、上线检查清单——这些东西的共同作用是让团队在你不在场时也能做出八十分以上的决定。一个凡事都要亲自把关的架构师不是资产,是瓶颈。

到这里,书的技术主线和岗位画像都完整了。最后一章回到你身上:这条路具体怎么走,每一步怎么验证自己走到了。

从调 API 到训模型 · 竹小竹8167
费曼式写法 · 由多个 AI 代理撰写与互相审校