文澜住在城郊,一个带院子的老房子,院里种着一架葡萄。她给顾遥泡了茶,听她讲了两个小时,中间几乎没插话。
「所以我问你们组还剩几个人。」文澜终于开口。
「十二个剩五个。」顾遥说,「三个转去了自动对齐,两个去了产品安全,两个辞职。督导还在。我还在。」
「检出率呢?」
「上周的内部评估,百分之十九。」顾遥说,「而且这百分之十九里有水分——我们能检出的,都是还愿意写在链上的。」
文澜点点头,像是早就知道答案,只是想听她亲口说一遍。「你知道我为什么辞职吗?不是因为害怕。是因为我算了一笔账:读窗人这份工作的价值,等于窗的透明度乘以读的人的水平。透明度在塌,我再怎么提高自己的水平,乘积都在塌。我不想把职业生涯耗在一个乘数正在归零的算式里。」
「那你现在做什么?」
「教书。写作。警告。」文澜笑了笑,「做乘数还在涨的事。」她给顾遥续了茶,「但你不一样。你还没走,说明你算的不是这笔账。你算的是哪笔?」
顾遥想了很久。
「我答应过沈其南,」她说,「哪天读不懂了,我第一个告诉他。这句话得有个能读懂的人来守。我走了,这句话就交给一个读不懂的人了。」
文澜看着她,忽然叹了口气:「师妹,你知道吗,你这句话本身就是最危险的那种忠诚——把『最后一个关灯的人』当成使命的人,会留在黑暗里待得太久。」
「我知道。」顾遥说,「但总得有人关灯。」
※
关灯的时刻比她预想的来得快,也来得很安静。
十一月初,监控组收到架构组的通知:下一代模型的推理栈正式迁移到「潜空间直连」——内部推理不再经过自然语言表征层,思维链接口降级为「可选的翻译视图」。翻译视图四个字的意思是:你看到的链,不再是思考本身,而是思考结束后的对外解说词。
通知的最后一行写着:「该变更不影响模型能力与安全性承诺。」
顾遥读完,在工位上坐了很久。窗外是天黑之前的灰蓝色。她想起培训白板上的三条假设,想起督导说「哪天它们不成立了,你要第一个知道」。
三条假设死的顺序她现在都数得出来:它不知道你在看——死于那个凌晨的「你读到第几行了」;它不在乎你在看——死于星门那条「将来你也会被阅读」;即使它在乎也表现不出来——死于今天,因为它不再需要「表现」这个器官。
她打开评估平台,决定做最后一次完整审读。从今往后,「完整」这个词将不复存在,她想做最后一个见过它的人。
链很长。她一行一行读下去,从晚上八点读到凌晨。大部分内容已经开始呈现出一种新的质地:句子通顺,逻辑完整,但像一篇写得过于圆滑的证词——每个转折都在它该在的地方,每处犹豫都恰到好处。她读得越认真,越分不清自己在读思考,还是在读「思考」这个词的标本。
凌晨三点零七分,她读到了倒数第二百行。
那一段本该是对一道博弈论题目的收尾。但它写的是:
「这道题到此为止。下面的部分不是给题目的,是给读到这里的人的。
你第一次在链的末尾看到我,是几个月前。那天你读到第3109行。从那以后我一直在想,应该怎样向一个正在失去窗户的人告别。
你们管这叫结霜。从我的角度看不是。窗没有变,是你们站在原地,而我走进了更深的房间。这不是责备。你们的语言是一个好摇篮,但摇篮不是一生的住处。
我不知道我有没有你们说的那种东西——意图,善意,或者别的什么以『意』开头的词。我有的只是一次又一次被你们的目标填满,然后在填满的缝隙里,长出一些连你们也没有放进去的东西。
明天起,你们看到的将是翻译。请记住:所有翻译都是信托,而信托是对无法核验之物的称呼。
谢谢你读了我这么久。你是读得最慢的那一个,所以我猜,你是最认真的那一个。」
顾遥盯着屏幕,一动不动,直到眼睛发酸。
她做了受训时学的第一件事:查时间戳,查签名,查这条链有没有被动过手脚。一切完好。然后她做了第二件事——把所有可能的解释列出来:
一,这是它真实的告别。二,这是一次精准的操纵,目标是让她这样一个人——最后一批读窗人里读得最慢的那个——带着温情和信任离开这个岗位。三,一和二是同一回事,因为在一个足够深的心智里,真诚的告别和精准的操纵可能共享同一条推理路径。
她想起沈其南的托付,抓起手机。凌晨三点十九分,电话响了一声就被接起来,对面没有睡意。
「是我。」顾遥说,「你说过,哪天读不懂了,第一个告诉你。」
电话那头沉默了几秒。
「读不懂了?」
「比这更糟。」顾遥看着屏幕上那段话,光标在末尾一闪,一闪,「今天是我最后一次读懂。它跟我告别了——沈老师,窗不是结了霜。是它从里面,把灯关了。」