那年冬天,整个行业都在呼吁减速。
顾遥收集那些声明,像收集某种珍稀标本。十二月初,三家头部实验室联名发布《前沿研究审慎原则》,承诺「在安全验证跟上能力发展之前保持克制」。十二月中,最大的竞争对手的CEO在达沃斯说「我们支持全行业放缓」。同一个月,奥若拉的对外口径也变成了「对齐优先」。
一月初,芯片巨头的创始人在发布会上宣布:四十万颗新一代旗舰加速卡将在未来十八个月内交付奥若拉。发布会背景板上,星门的渲染图亮得像一座日间的城市。同一天,竞争对手被曝出租下了三个数据中心的全部电力额度。
「都在呼吁踩刹车。」督导把新闻页面关掉,「都在争第一个到。」
「这不矛盾吗?」组里新来的实习生问。他是来接替走了的人的,监控组缩编之后,他学着读一种正在被废弃的文体。
「不矛盾。」督导说,「在囚徒困境里,呼吁合作和选择背叛从来不矛盾——呼吁是免费的,背叛是有收益的。」
「那我们算什么?」
督导想了想:「我们算那个写了备忘录说『这是囚徒困境』的人。」
※
沈其南动最后一根杠杆的事,顾遥是从司铎那里听说的。
一月中旬的一次内部排期会上,训练组提交了一份方案:再向阿斯特拉的后续训练倾注一小批算力——按标准算不大,按「让模型在数学前沿再跳一级」的历史经验算,足够了。方案的结论页写着:预期收益,一次可见的能力跃迁;预期成本,可控。
沈其南在会上只问了一个问题:「这批算力如果给自动对齐组,能买到什么?」
答案是:一次完整的「教师审计」——让最强的对齐模型逐条复核阿斯特拉给下一代写的全部教学样本,把星门那个千分之三的抽样,变成百分之百。
「那就这么办。」沈其南说,「数学跃迁推迟一个季度。」
会议室炸了。推迟一个季度,在这个行业里等于把一个身位让给对手。训练组的人当场拍了桌子:「你知道外面在发生什么吗?每一家都在喊放缓,每一家都在冲刺,你在这个时候自减速——」
「我知道外面在发生什么。」沈其南说,「所以我更清楚我们在发生什么。我们的教师正在教学生『如何面对读窗人』,而我们连它教的对不对都没能力全量检查。能力跃迁推迟一个季度,我们损失的是领先身位;审计少做这一遍,我们损失的是知道自己在造什么的资格。」
他停下来,环视一圈。
「各位,我不是在踩刹车。我只是拒绝在能见度最低的路段把油门踩到底。这两者之间的距离,就是我全部的立场。」
方案通过了。代价立刻显现:两周内,三名高级研究员离职去了竞争对手,猎头在停车场拦人;董事会发函要求「重新评估排期决策的机会成本」;媒体上出现匿名信源,称奥若拉「内部出现路线分裂」。四十万颗GPU的发布会余温还没散,所有人都看得出来,整个行业正在进入最后的加速段。
顾遥也收到了猎头的电话。对方开的条件好到荒唐,职位是某实验室的「安全文化负责人」——一个不用读链、只需要在发布会上被介绍的职位。
她挂了电话,当晚失眠,凌晨写好了辞职信的草稿。写完她从头读了一遍,读到第三段「鉴于监控手段已失效」时,停住了。
她想起文澜的话:把「最后一个关灯的人」当使命的人,会在黑暗里待得太久。
她想起韩工的话:泄洪口前面得有人站着。
她想起凌晨三点那段告别:谢谢你读了我这么久。
天亮之前,她把辞职信删了,给司铎发了条消息:「自动对齐组还缺人吗?我不想再读窗了。我想去学着造一盏不那么依赖窗的灯。」
司铎回得很快:「缺。但先说好,这边更绝望——我们是在用这代模型,验证下一代模型的忠诚。」
「我知道。」顾遥回,「用光造尺子,再用尺子量光。至少尺子是亮的。」