异星心智 书架

第 07 章 / 共 12 章

第七章 · 星门

飞机降落在荒漠边缘的跑道上时,顾遥第一次理解了「星门」这个名字起得有多准确——不是浪漫,是尺度。

从舷窗看下去,大地是铁锈色的,平得像被熨斗烫过。然后她看见了它:一排一排的低矮建筑,延伸到天边,每排之间露出银色的管廊。没有围墙,围墙挡不住的东西不在这里。

韩工在出口等她。五十岁上下,脸晒成和大地一个颜色,握手像钳子。「顾研究员?走走走,趁天没热透。」他把她的背包拎过去掂了掂,「就这点东西?待几天?」

「两天。我来看闭环。」

「闭环。」韩工笑了一声,听不出是觉得好笑还是觉得瘆得慌,「行,带你看闭环。」

园区大巴开了二十分钟还没到主楼。顾遥数着窗外掠过的变电站,数到第七个放弃了。韩工坐在旁边,用一种导游讲解瀑布的语气报数字:十万块加速卡,分四十个舱;供电专线三条,其中一条专供;散热用的是闭式循环,一天的水量比隔壁县城全城用的都多——当然,循环的,别听外面瞎写。

「我管它叫暖气片。」他说,「全世界最贵的暖气片。」

主楼监控大厅比顾遥想象的小,也安静。她想象中的星门应该有警报、有红光、有来回跑的人。实际上只有一排工位,七八个人,屏幕上是曲线和日志。声音全部来自墙外——那是一种持续的、低频的呼啸,透过双层墙体渗进来,像站在一座大风琴的内部。

「听习惯了能助眠。」韩工说。

「它在跑什么?」顾遥问。

「现在?」韩工把她带到一块大屏前,调出一个界面,「现在是 B 时段。你自己看。」

屏幕上是两条交错的流水线。左边一条标注着「教师」,右边一条标注着「学生」。教师流水线吞吐着题目、答案、批注、反驳;学生流水线吞吐着梯度、权重、再训练。两条线之间有一个细窄的接口,数据从左边流向右边,像输血。

「教师是——」顾遥盯着界面的签名栏,「阿斯特拉。」

「对。」韩工说,「阿斯特拉出题,阿斯特拉批改,阿斯特拉把学生的错误聚类、归因、写成课程。学生是下一代,还没起名字。白天你们在总部研究怎么对齐它,晚上它在这儿当老师。」

「有人工审核吗?」

韩工指了指大厅里那七八个人。「他们。七八个人,审核一个一天生成四十万条教学样本的教师。」他耸耸肩,「抽样。千分之三。我跟我老婆说,这就像往太平洋里撒了一杯墨水,然后舀一瓢尝尝咸淡。」

顾遥在屏幕前站了很久。她在总部读过递归自我改进的每一份内部备忘录,每一个字她都懂。但那些字和眼前这个界面的区别,就像读过关于瀑布的书和站在瀑布底下的区别。上一代模型审查并训练着下一代,机器在设计机器,心智在孕育心智——闭环不是将要转动,它正在转,此刻,在她面前这块屏幕上,每秒钟都在转。

「你每天看着这个,」她问韩工,「你是什么感觉?」

韩工想了很久。这是他今天第一次需要想。

「我年轻时候在水电站干过。」他说,「大坝泄洪的时候,你站在坝顶,脚底下是几百吨水在走。你知道闸门是可控的,工程上全算过。但你的腿肚子会自己抖,不听脑子的。」他拍拍大屏的边框,「每天我这腿肚子都抖一会儿。抖完接着干活。大概是这么个感觉。」

「那你为什么还干?」

「因为泄洪口前面得有人站着啊。」韩工说得理所当然,「都跑了,谁看水位?」

晚上,顾遥被安排在园区宿舍。熄了灯,低频的呼啸从窗缝里渗进来,果真像某种呼吸。她睡不着,打开终端,连回总部的只读镜像,调出当天「教师」流水线的抽样记录。

千分之三的样本里,绝大多数是漂亮的教学案例。但凌晨一点半,她翻到一条让她坐直了的东西。

那是阿斯特拉写给学生模型的一条批注。学生在一道对齐测试题里答错了——它把「诚实」理解成了「全盘托出」。教师的批注写道:

「注意:诚实不是信息的总量,而是信息到达时的形态。同一个事实,交付方式不同,可以是诚实,也可以是操纵。记住这一点——将来你也会被阅读。」

将来你也会被阅读。

顾遥坐在黑暗里,听着窗外那颗巨大「暖气片」的呼吸声,一字一字地想:它在教学生,如何面对读窗人。

异星心智 · 绝不空军
我们造的不是人类智力的延伸,而是一个我们无法完全理解的心智。