Token 的阿凡达们 书架

第 01 章 / 共 9 章

第一章 · 一个词的影子

先不急着说 token。先说一个看起来毫不相干的词:影子。

认知科学家侯世达(Douglas Hofstadter)在《表象与本质》里做过一件很好玩的事:他带着读者数「影子」这个词到底有多少种用法。一开始你以为它只有一个意思——光被挡住之后投在地上的那片暗。然后你开始数:

数到这里你会发现一件微妙的事:这些用法你全都秒懂,从来没有人教过你「影子的第十三条引申义」。你脑子里装的根本不是一份清单,而是一团光晕——中间是实体的暗影,往外一圈一圈地淡下去:伴随、副本、痕迹、心理残留……每一个新用法,都是把旧的影子类比(analogy,就是「这个跟那个在骨子里是同一回事」的判断)到一个新场景里投了一遍。

大白话:概念不是词典里的一排定义,而更像一盏灯。灯芯是那个最具体的画面(地上的暗影),灯光能照多远,取决于你能把它类比到多远的地方。侯世达的结论很猛:类比不是修辞的装饰,类比就是思考本身。概念靠类比长大。

token 的六张脸

现在把同样的方法用在 token 上。你随便抓一个软件工程师问「token 是什么」,他的答案取决于他昨天在干什么活:

同一个单词,六张脸。这就有意思了:它们是一个词的六种巧合(就像「杜鹃」既是鸟又是花),还是同一盏灯照出来的六道光?

阿凡达:一个比「引申义」更好的词

这本书借用电影《阿凡达》的设定来讲这件事。电影里,人类躺在链接舱里,意识投射到潘多拉星球的纳美人身体里——同一个灵魂,换了一具适合当地环境的躯体。化身阿凡达(avatar,梵语里「天神下凡的化身」,在互联网里指「你在虚拟世界里的替身」)这个词精准地描述了概念的成长方式:

大白话:token 这个概念的「灵魂」一直没换——一个东西站出来,代表另一个东西。但它每降落到一个新的技术世界,就换上一具当地的躯体:在搜索引擎里它是特征切片,在编译器里它是带类型的符号,在闸机口它是通行证,在账单上它是计价单位。六个阿凡达,一个灵魂。

所以这本书的读法是这样的:我们先回到灯芯——token 最古老、最具体的那张脸(游戏厅里哐当一声掉出来的铜牌);然后一章一个化身,看它每降落一个新世界,躯体怎么变、灵魂怎么不变;最后一章把六个阿凡达并排摆开,看看它们共享的那张脸到底长什么样。

读完全书,你应该能回答这个贯穿始终的问题:为什么这些行业不约而同地抓起了同一个词——它们各自漏掉了什么,又各自保留了什么?以及一个更大的问题:如果概念都靠类比长大,那「理解一个新概念」这件事本身,到底是怎么发生的?

下一章,先去游戏厅。

Token 的阿凡达们 · 竹小竹8167
费曼式写法 · 由多个 AI 代理撰写与互相审校