前面两章,我们把 HBM 这种内存拆开看了个透:把十几层 DRAM 像叠罗汉一样竖着堆起来,用穿透芯片的微小铜柱(TSV)连成一根根竖直的电梯,再摆到一块叫 interposer 的"底板"上,紧挨着运算芯片。它带宽极高、极贵、极难做。但第 12 章末尾也留了个尾巴:这么牛的东西,在 2015 到 2021 年那几年,其实是个没什么人要的小众货——它主要用在几款高端显卡和少数超算上,出货量小得可怜,赚不到钱。海力士 2013 年领着 AMD 一起做出全球第一颗 HBM、又拿下 JEDEC 的第一个 HBM 标准,结果换来的是十年的"叫好不叫座"。
这一章要讲的,是这个尾巴怎么在两三年里,突然变成了整条产业最粗的那根命脉。以及一个更让人意外的事:那个我们跟了十二章、两次濒死、被政府逼婚、被债主接管、被 SK 集团捡漏的常年老三,怎么就在这根命脉上,第一次跑到了三星前面。
先讲一个反直觉的事:AI 拼的不是算力,是"喂饭速度"
大部分人以为,训练大模型比的是谁算得快。芯片算力越强,模型练得越快——听上去天经地义。但工程上真正卡脖子的地方,往往不在这儿。
我们要先认识一个词。
内存墙(memory wall)说的是这么个尴尬:这几十年里,处理器的运算速度涨得飞快,但"把数据从内存搬到处理器面前"的速度,涨得慢得多。结果处理器越来越快,快到大部分时间不是在算,而是在干等数据送上来——就像一个手脚麻利的大厨,站在灶台前空转,因为配菜的小工端菜太慢,他大半时间在等米下锅。这堵"运算快、搬运慢"之间的墙,就叫内存墙。
再认识一个词。
GPU(图形处理器)本来是给游戏画面做渲染的芯片,特点是能同时干成千上万个小算术,特别适合"大量简单运算并行做"。后来人们发现,训练神经网络恰恰就是这种活,于是 GPU 成了 AI 训练的主力。英伟达(Nvidia)就是做 AI GPU 的那家公司,A100、H100 是它这几年最出名的两款。
现在把这两件事叠起来看。一个大模型有几千亿个参数——也就是几千亿个数字。训练的时候,GPU 要把这些数字反复读进来、算一遍、再写回去,一轮又一轮,成百上千遍。GPU 的算术单元本身快得吓人,可每一轮都得等着这几千亿个数字从内存里搬过来。算力再强,管子太细,也只能干瞪眼。这时候,决定训练快慢的不是 GPU 能算多快,而是内存能多快地把数据喂进去——也就是带宽。
第 12 章讲过,HBM 的带宽是普通内存的一个数量级:普通内存像一条双向车道,HBM 像并排铺开的上千条车道。它天生就是为了砸穿内存墙而生的。于是英伟达做了一件很直接的事:把好几颗 HBM 芯片和 GPU 芯片,封装在同一块巴掌大的底板上,紧挨着,用最短的路径连起来。到了 H100 这代,一颗 GPU 边上贴着好几摞 HBM,缺了它,GPU 就是块算不动的废铁。
这就是整件事的引爆点:HBM 从一个"高端可选配件",变成了"没它 AI 芯片就跑不起来"的刚需。AI 竞赛表面上是算力军备竞赛,底层其实是一场"谁能把数据更快喂给算力"的竞赛,而 HBM 是这条命脉上最关键的一环。谁掌握了 HBM,谁就掐住了整个 AI 硬件的咽喉。
2022 年底那一声引爆
2022 年 11 月底,ChatGPT 上线。它像一根火柴,点着了整个行业对大模型的疯抢。所有科技巨头一夜之间都要囤 GPU、建算力集群,英伟达的 AI GPU 瞬间供不应求,价格一路飙。
而英伟达的每一颗 GPU,都要配上 HBM。GPU 卖得越疯,HBM 的缺口就越大。这时候市场猛地回头一看:能大批量、高质量供 HBM 的厂,居然没几家。那个曾经赚不到钱的冷门产线,一夜之间成了整条产业里最抢手、最赚钱的产能。
问题来了:为什么站在这个风口正中央的,是海力士,而不是那个体量大它一截、几乎在每条内存产线上都压着它的三星?
为什么是海力士,而不是三星
这不是一句"它运气好"能打发的。要讲清"为什么是它",得把三条线并起来看——每一条都能追溯到这本书前面讲过的海力士的性格。
一、它十年前押了注,然后咬着没松手
回到 2013 年。那时候还没有大模型,没人知道 HBM 有一天会值这么多钱。海力士领着 AMD 把全球第一颗 HBM 做了出来,还拿下了 JEDEC 的第一个 HBM 标准。接下来的将近十年,这条线一直不怎么赚钱——市场太小,客户太少。换一家更看短期回报的公司,早该把资源挪去别处了。
三星就动摇过。2019 年前后,三星判断 HBM 这个市场太小、不值得,把 HBM 相关团队做了收缩。这个决定在当时看,一点都不蠢——那会儿 HBM 确实是门冷门生意。可就是这一收一放之间,等 2023 年生成式 AI 突然爆发、大家满世界找能稳定量产 HBM3 的厂时,海力士几乎是唯一那个手里有货、队伍没散、产线没停的。它没做什么惊天动地的豪赌,它只是在一条冷门线上,十年没松手。
二、HBM 拼的,正好是它的拿手苦活
这一条最关键,也最能解释"为什么是它"。
HBM 难在哪?难就难在第 11、12 章讲的那些东西:要把十几层薄如纸的芯片零缺陷地叠起来、键合牢、TSV 一根都不能断、还得把中间那么密的芯片散出去的热压住。层数越堆越高,任何一层出一点点差错,整摞就废了。这是一种极其考验耐心和细活的"苦工程"——没有一招制胜的巧劲,全靠把良率一个百分点一个百分点地抠上去。
而这,恰恰是海力士几十年练出来的本事。这本书前面反复讲过它的性格:反周期扛过来的、靠抠良率活下来的、在别人松劲时不敢松的老二。这种"叠罗汉不出错"的功力,别人学不来,因为它是十年二十年攒的复利。
最能代表这份功力的,是它的一手独门工艺。
MR-MUF(读作"MR 马夫",全称 Mass Reflow-Molded Underfill)是海力士封 HBM 的看家绝活。想象你把十几片饼干叠成一摞,每两片之间都有缝,缝里得填东西——既要粘牢,又要能导热,还不能把饼干压歪。老办法(业界叫 TC-NCF)是一层一层地贴薄膜、一层层压,层数一多就容易翘、容易出坏点、良率往下掉。海力士的 MR-MUF 换了个思路:先把整摞芯片对好位,再一次性把一种液态封装料灌进所有缝隙,一灌到底、一起固化。这么做的好处是,摞子受的压力小、翘得少、良率稳,散热还比对手好上十摄氏度左右——对动辄发烫的 AI GPU 来说,这十度是能救命的。
正是靠 MR-MUF 这类工艺,海力士在最难堆的那几代 HBM 上,良率和散热都领先。堆得越高越难,它的优势就越明显。这不是运气,这是把第 11 章说的那种"慢半拍但抠得死"的良率功夫,用在了一个刚好最吃这门功夫的地方。
三、风口来时,它是那个唯一接得住的
前两条铺垫,到 2022 年底一起兑现。ChatGPT 引爆需求、英伟达 GPU 供不应求的那个当口,海力士是唯一能大批量、又保得住质量地供 HBM 的厂。它顺理成章成了英伟达最主要的 HBM 供应商——在 HBM3、以及更新的 HBM3E 上,它一度占到近乎独家、或者说最大的那块份额。
补一句名词:HBM3E是 HBM 的一个升级代次(HBM3 的加强版,E 是 Enhanced),速度更快、容量更大,正好赶上英伟达 H100 之后那批更猛的 AI 芯片。海力士在这一代上又是最早量产、最先供货的。
三星和另一家美光,则跟在后面追。这一次,海力士站在了前头——三星要反过来去过英伟达的验证关,要去证明自己的 HBM 也够格。攻守,第一次调了个个儿。
翻身的分量
把镜头拉远,你会看到一件在这本书里等了很久的事。
这家公司,第 4 章里被政府硬凑成了现代电子,第 8 章里两次濒死、债主接管、差点被卖掉拆掉,第 11 章里我们说它常年比三星慢半拍、只能靠抠良率咬着。它从来不是行业里最亮的那个。可就是这个老三,靠着几十年在"叠罗汉苦工程"上一点一点攒下的本事,在 AI 这一波里,第一次真真切切地站到了三星前面。利润暴涨,股价飞起,一度成了整个韩国最赚钱的公司之一。
怎么理解这场翻身?说它是运气,对了一半——它确实赌中了一条当年没人看好的冷门线,而这条线偏偏被 AI 引爆了。但只说运气就太浅了。真正的答案是:它赌赢的那条线,赢法恰恰是它几十年反周期、抠良率、不敢松懈攒下来的东西。风口是天上掉的,可接得住风口的那双手,是自己练了三十年练出来的。运气敲门的时候,只有早就把功夫备好的人,门后站着的才是它。
当然,站上高峰之后,故事没有就此圆满。把身家性命全押在一个客户、一种产品上,本身就藏着新的危险——那个把它捧上天的英伟达,会不会也是那个能一句话让它跌下来的人?这条命门,我们留到下一章讲。