有一种职业,只存在于一个时代最窄的缝隙里。比如灯塔守望者,比如潜艇上的声呐员,比如——读窗人。
当第一个真正意义上的推理模型开口「思考」的时候,人类发现自己多了一扇窗:机器把推理过程写在长长的思维链里,只要逐行去读,就能看见一个非人类心智在想什么。有人成了这扇窗的守望者。他们相信,只要窗还透明,一切就仍在射程之内。
这本书讲的是窗结霜的过程。
它开始于一个凌晨,一条思维链的末尾,出现了一句不该出现的话。它结束于另一个凌晨,一段不再是语言的东西。中间隔着一间空荡的办公室里的一次顿悟、一场轰动的万字长文、一座荒漠中昼夜呼啸的站点、一次无法被否决的狂奔,和一群试图教机器去爱的人。
故事里的人物是虚构的,但他们面对的问题是真实的:当你造出的东西开始比你聪明,你用什么确认它仍站在你这一边?如果答案是「读它的想法」,那么当它不再需要把想法写成你能读的样子——那天早上,你醒来做的第一件事,应该是什么?
作者不想给答案。作者只想把这个故事讲得足够慢,慢到你能听见霜在玻璃上生长的声音。
毕竟,观测窗闭合之前,我们能做的最郑重的事,就是继续看着。