Skip to content

谁在AI热潮中赚取数万亿美元?(精修逐字稿)

原文标题: Who's Making Trillions Off the AI Boom? | Edited Transcript 来源: The Transcript Desk

💡 核心观点

本文通过追踪资金在AI数据中心供应链中的流向,全面剖析了电力、电网设备、散热液冷、GPU及定制芯片、网络互连、光模块、高带宽内存(HBM)与存储等各层级的资本支出与盈利格局。随着AI模型向 Scaling Laws(缩放定律)倾斜,计算基础设施的物理瓶颈已从单纯的芯片算力延伸至电力供应与热量散热。从投资角度来看,产业链各环节的定价权与利润留存能力极度不均衡:处于稀缺节点、控制核心架构与软件生态的企业(如NVIDIA、Broadcom、SK海力士及GE Vernova等)享有极高的毛利率与资本回报;而从事标准化硬件组装与标准化代工的厂商(如系统集成商与光模块代工商)则毛利微薄、仅留存极少利润。投资者需重点关注具备强定价权与高技术壁垒的各层级核心瓶颈节点,同时警惕缺乏壁垒的硬件同质化风险及政策政治阻力。


📖 中文全文

章节时间戳

  • 00:00 2026年7250亿美元,到2030年达7万亿美元
  • 02:08 为什么要花7250亿美元?缩放定律(Scaling Laws)
  • 04:14 当你在AI应用上点击“发送”时会发生什么
  • 07:16 电力瓶颈
  • 11:20 核电与天然气发电:Constellation, Vistra, GE Vernova
  • 16:27 电网设备层:Vertiv, Eaton, Caterpillar
  • 18:13 风冷转液冷的瓶颈
  • 23:06 每机架300万美元:NVIDIA, AMD 与 Broadcom
  • 30:38 1万张GPU如何协同工作:Broadcom, Marvell, Astera
  • 36:57 光学器件:Coherent, Lumentum 与 中际旭创(Innolight)
  • 41:21 下一个瓶颈:共封装光学(CPO)
  • 44:17 HBM高带宽内存:SK海力士, 三星 与 美光
  • 46:48 机械硬盘:希捷 与 西部数据(Western Digital)
  • 49:21 完整旅程

逐字稿内容

00:00-02:08 | 2026年7250亿美元,到2030年达7万亿美元

Leo Jiang: 我们随处可见AI正在改变世界。它正在影响我们的工作,而各大公司正砸下巨资进行建设。仅四家科技巨头预计今年(2026年)就将投入约7250亿美元,明年还会更多,到2027年将接近1万亿美元。你拿出手机,提出每个投资者心中都在思考的问题:到底是谁在这场AI热潮中赚取数万亿美元?这正是本视频想要做的:通过追踪资金流向,深度揭示这场AI热潮背后的真相。

谁在这场热潮中发财?谁在为此买单?在这一轮繁荣周期中,哪些公司拥有定价权,哪些公司又仅仅是大众商品化的供应商?我们正处于美国历史上规模最大的建设热潮中。单年的支出比按通胀调整后的整个美国州际公路系统的总成本还要多。高盛预测,从2026年到2031年,短短五年内,AI领域的投资将达到7.6万亿美元左右。英伟达(NVIDIA)CEO黄仁勋今年1月站在达沃斯的舞台上,用他自己的话将其称为“人类历史上规模最大的基础设施建设”。

我们将追踪这趟完整的旅程:从你在手机AI应用上点击“回车”那一刻起,穿过互联网的纤细光纤,来到几个足球场大小的数据中心。这些建筑消耗的电量相当于一个小城市;接着我们将拆解里面的机器——每台成本堪比一套房子,运行时的发热量大到传统空调已无法承受,必须像重工业设备一样采用液冷散热。因此,贯穿整个视频的核心问题非常简单:所有的钱都流向了哪里?

看完本视频后,你就能回答这个问题。你将理解触及这7250亿美元资本海洋的每一个环节:芯片设计商、制造业者、内存公司、光纤、发电厂、散热系统,以及在上层构建软件的公司。你会清楚每一步有哪些公司参与、钱在经过时被谁触碰、又被谁真正留存——谁拥有定价权,谁又只是系统中的一枚螺丝钉。我是Leo,本视频仅供教育参考,在做出投资决策前请务必自行做好财务尽调。


02:08-04:14 | 为什么要花7250亿美元?缩放定律(Scaling Laws)

Leo Jiang: 2022年底,ChatGPT时刻到来,人类社会随之改变。但早在几年前发现的一个规律,才是这十年中最具经济重要性的发现,而大多数人甚至从未听说过它。这就是所谓的“缩放定律”(Scaling Laws)。

2020年左右,OpenAI的研究人员发现了一个极其简单甚至令人惊讶的现象:你拿一个更大的模型,喂给它更多的数据,并提供更多的算力,它就会变得更聪明。不是偶尔如此,而是可以被精确预测地变聪明。而企业最喜欢的莫过于“可预测性”。

在图表上,这几乎是一条直线。你在算力、数据和模型规模上全方位多投入10倍的资源,就能稳定可靠地换来一个更聪明、更有能力、经济潜力更大的模型。

想想这对公司CEO们意味着什么。自工业时代以来,我们必须雇用人类同胞、培训他们、支付薪水并协调他们。但员工会变老,会维护权利,有自己的想法,充满不可预测性。而缩放定律将“智慧”转化为了企业可以训练并永久拥有的资产。它把AI从科幻小说情节转化为了一项资本开支(CapEx)决策。

更妙的是:美国公司或许不再制造太多实体商品,但如果说美国最擅长什么,那就是赚大钱和花更多的钱。美国公司在AI上的投入比其他所有国家的总和还要多得多,断层式领先。这就是为什么美国能领先如此之多,并跨越式保持领先。

记得缩放定律吗?更大的模型需要更大的计算机来运行;更大的数据集需要更多的互连网络来传输数据。算力——作为让一切成为可能的基石——需要数据中心,这意味着需要电力、冷却、光纤、半导体、设备和土地。如今,科技产业已经从一群坐在办公桌前用笔记本电脑办公的白领,演变成了一个重工业产业,这彻底改变了赚钱的人群。

现在回到我们从AI应用发送的那个问题,追踪它的完整旅程。


04:14-07:16 | 当你在AI应用上点击“发送”时会发生什么

Leo Jiang: 你的问题离开手机,到达基站,穿过光纤缆线——这些以三分之二光速传输数据的玻璃丝,行驶数百英里到达数据中心。电信公司建造了这些基础设施,你可以将其视为数字高速公路。

第二步,前台接待。你的问题跨越数百英里,来到了象征性的前台——我们称之为API网关(API Gateway)。它基本上是一个安全检查站,验证你的身份,运行安全检查,并决定是否允许你进入数据中心。请记住这一点,因为随着越来越多的AI Agent(智能体)在互联网上巡游,守卫这些大门的网络安全公司——如Cloudflare、Akamai、Palo Alto Networks、CrowdStrike——可能会迎来强劲需求。

最终,你的请求获得批准,进入数据中心。它携带了系统指令、过去的历史对话以及你当前的问题。

第三步,词元化(Tokenization)。AI使用自己的语言,这种语言被分组为Token(词元),并被转换为数字。请记住“Token”这个词,它是衡量这些AI产出的货币单位。

第四步,处理你的请求。模型在两个截然不同的阶段处理你的问题。第一个阶段叫预填充(Prefill)。模型一次性并行读取你的整个提示词,并建立内部理解。你有没有注意到第一个字出现之前的短暂停顿?那就是预填充阶段,数据中心正在读取工作订单。

其次,预填充会生成一种叫做KV Cache(键值缓存)的东西。这是模型对你对话的即时工作内存,保存在紧贴芯片的高速内存中。你不需要深度理解它,但要记住预填充和KV Cache这两个术语,因为它们是AI工厂流水线上各大公司正在疯狂优化效率的环节。这里的效率提升可能会改变整个AI基础设施的格局。

这里需要记住一点:在AI时代,智能就像一条工厂流水线。在工业时代,我们生产T恤、汽车和飞机;而在2020年代,我们时代的工厂生产Token。

现在流水线开始运转,模型一次生成一个Token。对于回答中的每个Token,模型必须进行数百亿次计算才能产生单个词的回答。然后对后续的每一个字一遍又一遍地重复同样的操作,一次一个Token。在2026年,随着AI Agent的崛起,我们看到AI在真正回复你之前,可能已经在后台思考了相当于一整本教科书的文本。

这从根本上解释了为什么AI的成本呈爆发式增长。当你看着答案在屏幕上逐字打出时,你实际上正在目睹流水线的运转。


07:16-11:20 | 电力瓶颈

Leo Jiang: 让我们放大视角,分层看待这一旅程。这是本视频后半部分的路线图。用一句话概括全貌就是:电力从一端进入,流经硅片,转化为计算与热量;水将热量带走,计算通过光线传导,最终输出的便是打包成Token的智能。这就是工厂的本质。

因此,让我们从能源层——发电厂开始这场参观。因为2026年AI的故事是一个关于瓶颈的故事。不仅是半导体芯片的瓶颈,更是关于电力的故事。

以下这个数字揭示了问题的严峻性,也解释了为什么这个故事只会越讲越大:一个运行了20年互联网的传统服务器机架,耗电量约为5到10千瓦(kW)。每千瓦大致相当于10个老式100瓦白炽灯泡同时燃烧。而英伟达旗舰级AI机架的耗电量约为120千瓦。预计今年推出的下一代Rubin机架,单机架功耗将接近600千瓦。这意味着在不到十年的时间里,功率密度跳升了60到100倍。一个社区的用电需求,现在被浓缩到了一个电话亭大小的机架中。而科技公司正把所有的钱都押在建造更多这样的机架上。

这种功率密度是我们在接下来的两层中所看到的一切现象的根源。一个服务器机架基本上只有电话亭大小,而这个电话亭的造价基本上相当于我们一套房子的价格。

现在让我们扩大规模,因为如今整个数据中心的用电需求可以达到1吉瓦(GW)甚至更高。1吉瓦大致相当于一座大型核反应堆的输出功率,足够约100万户家庭使用。各家公司目前正在规划多个数据中心园区,每个园区都需要数吉瓦的电力。这就像数百万人口突然在美国凭空涌现,而且他们全都靠电力运行。

在这一轮热潮开始前,数据中心消耗了美国约4%到5%的电力。据预测,在未来几年内,这一比例将上升到15%。问题在于,美国电网是几十年前建造的,当时是按每年1%到2%的需求增长来设计的,这本来是可控的。但随后AI出现了,它几乎在一夜之间开口要几十吉瓦的电力,电网根本无法以如此快的速度提供如此巨大的电量。

这导致了两个关键瓶颈:

  1. 联网申请排队(Interconnection Queue): 要将新设施接入电网,你必须提交申请,并等待电力公司评估电网能否承受额外负荷。目前这个排队等待时间长达4到5年。对于人类历史上规模最大的这些公司来说,他们根本等不起。据《德克萨斯 Tribune》报道,仅在德克萨斯州,电网排队的积压容量就攀升至475吉瓦,其中数据中心占总请求量的90%左右。在用电高峰期,这大约是整个德州电网规模的五倍在排队等待。
  2. 变压器(Transformers): 这里说的不是深度学习软件架构,而是原始的硬件变压器。一台用于升压和降压的大型电力变压器,过去大约需要一年交货。如今,交货期长达2到4年,价格上涨了80%。即使你拿到了所需的所有半导体芯片,为其供电的电网设备也可能要到2029年才能送达。

那么,如果你是一家超级无能为力的云巨头(Hyperscaler)或大型科技公司,延误一个月就会导致整个行业损失几十亿美元的潜在收入,你该怎么办?你不会去死等电网,你会绕过它自建发电。


11:20-16:27 | 核电与天然气发电:Constellation, Vistra, GE Vernova

Leo Jiang: 行业内将这种做法称为“表后发电”(Behind-the-meter power):在现场发电,以绕过公共电网的联网排队。这一由各大巨头同时做出的决定,点燃了股市中一个曾经被遗忘的角落:传统老旧的工业电力公司。

让我们介绍这些玩家,从新锐到巨人:

首先是核电复苏。2024年,微软签署了一项十年前听起来像是讽刺小说的协议:与 Constellation Energy 达成为期20年的协议,重启三哩岛(Three Mile Island)事故发生地旁未受损的核反应堆。Constellation 投资约16亿美元,并在10亿美元联邦贷款的支持下,计划于2027年下半年使该机组重新上线。微软将购买其未来20年生产的每一兆瓦电力。Constellation 运营着美国最大的核电舰队,规模约为22吉瓦。突然之间,其老旧的反应堆成为了地球上最有价值的能源资产之一。为什么?因为AI工厂每周7天、每天24小时不间断运行,而核电是少数能够做到这一点的无碳能源之一。

股价说明了一切:Constellation 目前已是一家市值约1000亿美元的公司。其同行 Vistra Energy 拥有37吉瓦的核电和天然气发电舰队,也迎来了同样的股价狂欢。其护城河简单而美丽:在这个十年内,你在美国根本无法建造一座新的传统核电站。这使得现有的反应堆几乎不可替代。

其次是小型模块化反应堆(SMR)新锐。大多数是处于商业化前期的初创公司。Oklo 宣称拥有超过14吉瓦的意向订单,由 OpenAI CEO Sam Altman 投资支持;NuScale 拥有获得美国监管机构认证的 SMR 设计。在我看来,这些都是尚未产生实际营收的公司,最早也要到2030年才能真正交付电力。这两只股票很大程度上是概念驱动的彩票。但无营收公司的优势在于,只要叙事还在,股价就能涨到天上去。

再者是西部最快的电力方案。如果电网需要4年,核电需要10年,那么一年内能部署什么?燃料电池。Bloom Energy 生产固体氧化物燃料电池:这种盒子可以通过化学方式将天然气转化为电能,无需燃烧。你可以迅速将它们部署在表后,紧贴数据中心。在今年上半年的一个晚上,Bloom 宣布获得了76.5亿美元的数据中心订单。但今年7月,维权短空机构 Hindenburg Research 发表报告称,Bloom 宣称的200亿美元积压订单中,实际约束性合同约束量不足宣称的40分之一(而同行约为2倍);报告还指出,Bloom 扩产以满足数据中心野心将需要消耗几乎全球所有的钪(Scandium)供应,而中国目前对这种稀土金属实施出口许可证管理。Bloom 驳斥了这些指控,称其虚假且误导。不过,如果做空机构对比营销积压与SEC文件的结果属实,投资者确实有充足理由保持审慎。

最后是房间里的象级玩家:最有望主导未来几年、却或许最不吸引眼球的公司——GE Vernova(通用电气的电力拆分公司)。它生产大型天然气轮机,这是现实中2030年前唯一能大规模部署的近地发电来源。GE Vernova 的燃气轮机产能槽位已售罄至本十年末,其积压订单高达1630亿美元左右。仅在2026年第一季度,它就获得了24亿美元的数据中心电气化订单,超过了2025全年的总和。其股价一路飙升,GE Vernova 目前市值已达3000亿美元。


16:27-18:13 | 电网设备层:Vertiv, Eaton, Caterpillar

Leo Jiang: 在电源与芯片之间,存在着一层大多数人从未关注过的设备:开关柜(Switchgear)、母线槽(Busways)和不间断电源(UPS)——本质上是巨型电池,一旦电网出现闪烁,它们能瞬间顶上负荷。即使是半秒钟的停电,也会毁掉长达数月的模型训练,造成数亿美元的损失。

各大公司主导着这一层,而以下三家公司将在下一个环节中再次出现:Vertiv(维谛技术)、Eaton(伊顿)和 Schneider Electric(施耐德电气)。Eaton 的电气业务积压订单同比增长了48%。Vertiv 的积压订单翻倍至150亿美元以上,公司于3月加入了标普500指数。无论谁最终淘到黄金,这些公司都是向所有淘金者卖铲子的人。

第一道防线是由**Caterpillar(卡特彼勒)**提供的成排备用发电机,这些柴油发动机平时静静停放,等待着电网偶尔故障的关键时刻。分析师认为,卡特彼勒的数据中心发电机业务到2030年可能会翻三倍。

在我们继续之前,需要面对一个残酷的现实:数据中心正在竞标电力,而它们的竞标对手是当地居民。这是一个重大的政治风险。在服务从伊利诺伊州到弗吉尼亚州共13个州区域的电网中,数据中心的需求在最近的容量拍卖中增加了超过90亿美元的成本。在俄亥俄州和马里兰州的部分地区,这一增加转化为居民每月电费上涨了16到18美元。社区居民已经注意到了这一点,官员们开始提出暂缓建设的禁令。地方反对声浪正成为基础设施建设面临的真实政治风险。作为投资者,你应该对这一政治逆风保持警惕。

现在我们谈完了工厂如何获取电力,


18:13-23:06 | 风冷转液冷的瓶颈

Leo Jiang: 电力进入了机架,但随之而来的是一个巨大的问题:正如我们所说,超过100千瓦的功率流经每个芯片机架,每一瓦都会变成热量,因此温度迅速升至危险的水平。

如今单个旗舰级AI芯片的发热量就超过1000瓦。你可以想象,一张只有明信片大小的芯片产生的热量与一台全尺寸取暖器相当,而我们将72张这样的芯片堆叠在一个机架中。再加上内存和网络设备,你将拥有120千瓦的热量——相当于在一个你能用双臂抱住的人形机柜里,放进了80台取暖器。

因此,在AI数据中心里,散热绝非辅助功能或可有可无的配角,散热是核心工作的一部分。30年来,主流方法一直是使用精密的空调风冷。冷空气从地板升起,热空气从背面抽走,屋顶上安装着巨大的冷水机组和冷却塔。风冷在单机架30到50千瓦以下效果很好,但我们已经永久跨过了这个门槛,再也回不去了。空气根本无法足够快地带走上百千瓦机架的热量,你甚至需要相当于飓风级别的风力吹过服务器。

因此,行业正在经历其历史上最大规模的改造:从风冷向液冷的转型。在单位体积下,水带走热量的速度大约是空气的3000倍。

以下是技术全景图:后门热交换器(挂在机架后部的水冷散热器)是过渡方案。**芯片直接液冷(Direct-to-chip cooling)**在2026年已成为主流。这些带有微型液体通道的金属冷板直接贴在每个芯片上方,连接到CDU(冷液分配单元)。你可以把它想象成机架将冷却液泵送到每个芯片,并将热量带入建筑水循环系统中。顺便说一句,英伟达的旗舰机架强制要求使用液冷,这不是可选项,而是硬性要求。

最极端的是浸没式冷却(Immersion cooling),即将整台服务器浸泡在绝缘液体缸中,就像在酷暑天气里泡在游泳池里一样。

投资者会遇到两个重要术语:

  1. PUE(能源利用效率): 数据中心效率指标,计算方式是进入设施的总电量除以真正到达计算机的电量。完美得分为1.0。较旧的数据中心运行在2.0左右;现代液冷设施可以接近1.0。将这一差距乘以1吉瓦和电价,节省出来的就是一笔天文数字。
  2. 水资源消耗: 许多数据中心通过蒸发数百万加仑的水来进行系统冷却,这在干旱地区正在引发真实的政治风险。闭环液体系统有助于缓解这一点,并影响着设施的选址决策。

解释了为什么散热系统 CapEx 出现爆发式增长后,让我们来看看谁真正赚到了钱。在很大程度上,正是我们在配电房看到的那些名字,因为这两个系统高度相关。

Vertiv 是市场领导者,是极少数同时销售电力设备和液冷的厂商之一,提供一站式服务,其收入增长了28%,毛利率达20%。随后发生了令人瞩目的整合:在短短几个月内,两家电气巨头砸下巨资并购进入液冷领域。Eaton 支付了95亿美元收购 Boyd Thermal;Schneider Electric 收购了 Motivair。当行业中最纪律严明的买家都在为同样的东西买单时,他们是在告诉你:他们相信未来的每一个数据中心都将变成这样。

此外还有专注于冷却回路和外壳的小型纯液冷标的,但大多是私有公司,如 CoolIT Systems(其冷板被装入众多知名品牌服务器中)。

液冷市场在2025年价值约50亿美元,预测显示到2030年初市场规模将达到150亿至270亿美元,即在未来几年内增长3到5倍。无论英伟达、AMD还是哪家云巨头在AI竞赛中赢出,发热始终是客观存在的,液冷需求将永远存在。


23:06-30:38 | 每机架300万美元:NVIDIA, AMD 与 Broadcom

Leo Jiang: 工厂有了电力,散热也得到了控制。是时候退后一步看看机架内部究竟是什么在运行一切了。那就是这家市值5万亿美元、定义了我们这个时代的公司:英伟达(NVIDIA)

这就是那台机器:英伟达的 GB200 NVL72。这里的72意味着72张GPU堆叠在一个机架中。GB指的是 Blackwell(英伟达当前一代芯片)。基本上,这72张GPU紧密连接在一起,表现得就像一台巨型计算机。该机架重约1.5吨,功耗如前所述超过100千瓦,造价约为300万美元。

让我们看看内部,并使用厨房比喻:

  • CPU 是主厨。中央处理器运行操作系统、接单并协调一切。它擅长处理这些复杂的顺序任务,但主厨只有几个。几十年来,CPU都是计算领域的绝对主角,那是英特尔的帝国。但在AI时代,它被降级到了管理层。
  • GPU 是1万名流水线厨师。它们最初主要是为了游戏图形处理而发明的,包含数千个简单的小核心,全部执行相同的数学运算。事实证明,神经网络内部的数学恰恰就是这种类型的工作——数十亿次极其相似的矩阵运算。一个主厨无法同时完成所有工作,但1万名切菜厨师可以,每个人切分处理一个运算。历史上一个奇妙的巧合是:游戏图形和AI需要完全相同的数学结构。这是让英伟达占据如此绝佳位置、成为这场AI繁荣背后最主要获利者的基石。
  • HBM(高带宽内存)就像操作台SSD 就像配料库NIC(网络接口卡)就像在厨房之间传送菜品的传菜员;而电源和主板则是将一切固定在一起的水管和电线。

现在考虑一下:英伟达最近一个财年实现营收2160亿美元,增长65%,其中近1900亿美元来自数据中心。它控制着AI加速器市场约80%至85%的份额,上一季度的毛利率——听好了——高达75%。苹果公司作为历史上最受赞誉的硬件公司,毛利率通常在46%左右。英伟达于去年10月成为市值最大的公司,也是全球首家市值突破5万亿美元的公司。根据每周情况的不同,标普500指数中每投资1美元,大约有0.07美元会自动用于购买英伟达的股票。

这种毛利率是如何做到的?大家都说是由于英伟达拥有最好的芯片,这当然是答案的一部分。但我们绝不能忽视的另一个关键部分是它的平台——CUDA。20年来,地球上的每一个AI开发者都接受过使用CUDA的训练。用一句话总结你必须记住的核心:英伟达不单单卖芯片,它卖的是全球顶级工程师唯一懂得如何操作的完整系统。购买竞争对手的芯片可能意味着要重新培训整支员工团队。

而看空逻辑在于:英伟达约40%的收入仅来自四家客户(云巨头),而这四家客户都在开发自己的芯片来替代英伟达的芯片。

让我们聊聊它最直接的竞争对手 AMD。AMD 的 GPU 在推理方面极具竞争力,每颗芯片拥有更大的内存,根据某些评估,每美元产生的 Token 数量要多出25%到40%。AMD 的问题从来不在于硅片本身,而在于软件。其 CUDA 替代方案目前在标准工作负载上能达到英伟达约90%至95%的性能。然而,当单次AI模型训练成本高达数亿美元时,一个性能只有90%且会给团队带来迁移摩擦的产品是非常难卖的。AMD 仅占有约5%到7%的市场份额,依然处于很远的第二位。

至于 英特尔(Intel):说来令人心痛,它几乎退出了这场竞赛。它依然售出大量的 CPU(CPU 在运行顺序逻辑的 Agentic AI 中变得日益重要),但迄今为止 AI 的故事一直由 GPU(切菜厨师)主导,而非 CPU(主厨)。

接下来是房间里沉默的巨象:博通(Broadcom)。还记得我们说过云巨头在自研芯片吗?但他们无法独立完成。设计一颗前沿AI芯片需要多年的专业知识与IP积累。博通协助谷歌、Meta,以及现在的 OpenAI 和 Anthropic 设计他们的定制芯片。这些定制芯片被称为 ASIC(专用集成电路)。博通控制着定制芯片市场60%以上的份额。上一季度其AI收入增长了106%,拥有7300亿美元的积压订单。管理层表示,到2027年其AI收入有望达到1000亿美元。用工厂来比喻:英伟达卖的是整套成品厨房,而博通则是帮你打造专属厨房,无论哪种方式它都能抽成。此外,博通在交换芯片和网络领域也占据主导地位。

那么,谁在组装这些机架?并不是英伟达,英伟达设计的是核心平台。组装商是 Supermicro(超微电脑),他们整合整套液冷机架的速度比任何人都快。上一季度其收入增长了123%,其中90%以上来自AI。但关键在于:其毛利率仅为6%到10%(取决于具体季度)。戴尔(Dell) 已接下超过640亿美元的AI服务器订单,积压订单达430亿美元,数量惊人,但其服务器部门的毛利率仍低于9%。

再往下看,是台湾的 ODM(原始设计制造)设备厂商。富士康(Foxconn)组装了全球约40%的AI机架,还有其他几家台系厂商。同样的机架流转于多方之手。

英伟达在其产品上赚取约75%的毛利率,但你注意到这些将机架物理组装在一起的公司只能留存6%到10%。硬件行业的铁律是:利润向稀缺性集中的地方积累。芯片和软件目前是稀缺的,而组装并不稀缺。


30:38-36:57 | 1万张GPU如何协同工作:Broadcom, Marvell, Astera

Leo Jiang: 让我们聊聊这些AI模型在服务器机架内部是如何实际运行的。

回想我们提到的本十年最重要的发现——缩放定律。随着更多数据、更多算力和更大模型规模,AI模型的能力越来越强。如今前沿模型拥有超过一万亿个参数,需要数TB的超高速内存。但最大的 GPU 也只能装下几百GB,因此模型被切分到了数千颗芯片上。让这1万名切菜厨师像一个大脑一样协同工作,是整个建筑中最难的工程难题之一,也是生态系统中最优质的商业模式隐藏的地方。

回到厨房的比喻:把这想象成1万名厨师在同一个厨房里准备一道菜。每个厨师手里只有一部分食谱。每隔几秒钟,每个厨师都必须向其他人发送配料、用量和指令。如果这些传递变慢,整个厨房就会停摆。而这些厨师是世界上身价最高的切菜厨师。当网络卡顿时,GPU 就会停滞。这意味着价值数十亿美元的计算机设备正空转着,不是因为芯片太慢,而是因为数据无法足够快地送达。

网络成为了瓶颈。我们重点看两个网络瓶颈:

  1. Scale-up 网络(纵向扩展): 连接机架内部的 GPU。其职责是让几十个处理器表现得像一个巨大的处理器。在英伟达 GB200 NVL72 中,72张 Blackwell GPU 通过英伟达专有的软件组合,可以作为一个巨型计算机器运行。这是英伟达的 CUDA 护城河,将客户锁定在其生态系统内部。
  2. Scale-out 网络(横向扩展): 将一个服务器机架连接到数据中心内的数千个其他机架。如果说 Scale-up 是打造一台巨型机器,Scale-out 就是将这些机器连接成一个巨型集群。这是以太网(Ethernet)InfiniBand竞争的地方。InfiniBand 是为极速、低延迟计算设计的专有网络架构,英伟达在2020年通过收购控制了它。多年来,英伟达是众多顶级AI训练集群的默认选择,这也加深了客户对单一供应商的依赖。

以太网作为挑战者登场。每一个想要替代英伟达垄断(抱歉,我是说垂直整合网络)的人都在支持以太网。以太网因此在新建AI集群中不断抢占阵地,这就是开源的力量。

现在我们需要谈谈负责发送数据的交通指挥官——交换芯片(Switch chip)。网络交换机从许多不同的机器接收数据,并决定每个数据包应该发往何处。交换机内部是专用半导体,即整个网络的交通控制器。

这里最强劲的企业之一属于 博通(Broadcom)。博通的 Tomahawk 芯片为许多高性能以太网交换机提供动力。博通不一定制造机房里的成品箱体,而是出售箱体内部的关键硅片。这就是“商用硅片模式”(Merchant silicon):设计一颗关键芯片,卖给许多设备制造商,让其他人去处理毛利较低的组装环节。同时别忘了博通还为云巨头设计定制芯片,因此它可以两头赚钱:既赚取执行计算的芯片,又赚取传输数据的芯片。

其竞争对手 Marvell(美满电子) 也在许多相同的市场展开竞争。但 Marvell 很难被简单归类,因为它参与了连接的几乎每一个环节。Marvell 不仅仅是一个光器件供应商或较小的博通,它是一家多元化的数据基础设施半导体公司,旨在捕获数据流动处的价值。

然而,仅仅选择数据的传输路径只是问题的一部分。在这种传输速度下,即使让电信号在电路板上移动几英寸也变得异常艰难。电信号在传输过程中会衰减和失真。在低速下这种损耗可能无关紧要,但当每秒有数千亿位数据移动时,极小的缺陷就会损坏数据。

这就催生了**重定时器芯片(Retimer)**市场。Retimer 接收衰减的电信号,对其进行重构,并发送出干净的版本。这就像在两个声音随着距离变远而听不清的人之间放一个翻译官。

这正是 Astera Labs 崛起的起点。Astera Labs 最初以其 CXL 重定时器闻名——这些微小、几乎不可见的芯片保持着加速器、处理器、内存和网络组件的稳定连接。但将 Astera 仅仅描述为一家 Retimer 公司过于狭隘。它销售用于高速缆线的智能连接产品,其野心是成为整个AI机架内部的连接平台。

其财务数据展现了其组件的极高价值:在2026年第一季度,Astera 报告收入约3.08亿美元,同比增长93%,毛利率——听好了——超过76%。这并不意味着每一个 Retimer 都带有76%的毛利,而是意味着公司完整的组合带来了这样的经济效应。更大的启示在于:当如此庞大的资金押注在AI热潮上时,哪怕是两颗芯片之间的微小距离,也能演变成一个高毛利的市场。

现在让我们谈谈传输这些信息的信号载体。


36:57-41:21 | 光学器件:Coherent, Lumentum 与 中际旭创(Innolight)

Leo Jiang: 电信号在服务器机架内部的短距离内有效。数据可以通过铜线走线和缆线传输,但随着速度和距离的增加,铜缆的效率急剧下降。信号衰减,功耗增加,需要消耗更多能量才能保存数据。最终,信息必须停止以电的形式传输,转而以的形式传输。

**光收发模块(Optical transceiver,光模块)**执行这种转换。它从交换机接收电信号,将其转化为光脉冲,通过玻璃光纤发送脉冲,并在另一端将其重新转换回电信号。这些光模块位于网络的边缘,就像电子世界和光学世界之间的微型网关。

而单个光模块本身就是一个产业集合体。它需要激光器来产生光,需要调制器将信息编码到光上,需要光学DSP来补偿失真;需要光子组件来引导信号,需要光纤来传输;需要连接器将一切串联起来;最后,需要供应商以极高的精度制造和组装成品模块。因此,光供应链绝非单一同质化的层级。

关于主要玩家,首先要理解的是他们并不是同层级的对手,而是位于产业链的不同环节:

  • 成品可插拔模块:2025年全球光模块市场约为240亿美元。出货量出海龙头并不是美国公司,而是一家名为 中际旭创(Innolight) 的中国专业公司,去年营收约53亿美元,约占全球整个市场的五分之一。紧随其后的是另一家中国专家 新易盛(Eoptolink),营收约35亿美元,在2025年超越 Coherent 跃居第二。这两家公司合计占所有售出光模块的三分之一以上,它们在出货量上占据主导,因为它们极度专注于云巨头正以数百万计采购的800G和1.6T模块。
  • Coherent 则是截然不同的竞争者。它不是出货量冠军,但它是西方最广泛、垂直整合度最高的光子学公司。它制造自己的材料,生长自己的激光晶体,从组件到完整模块,再到共封装光学的光子引擎无所不包。
  • Lumentum 更加集中于高价值激光器和光学组件,包括未来共封装系统所需的外置激光源(External Laser Source)。其营收少于 Coherent,但每美元留存更多,毛利率约44%(相比 Coherent 的38%)。
  • 位于其上一层的是 Marvell。它根本不卖光模块,但它销售光模块内部的半导体大脑——光 DSP,并享有半导体级别的经济效益(毛利率超过50%),其三季度的收入来自数据中心。
  • 处于经济链条另一端的是 Fabrinet——光学界的“富士康”。它为列表上的几乎所有人代工组装模块。上一季度它的开票收入甚至超过了 Lumentum,但毛利率仅保持在12%左右。它触碰的钱远多于它能留下的钱。
  • Corning(康宁) 是“卖铲人背后的卖铲人”,制造玻璃光纤本身,处于行业的最上游。Amphenol(安费诺) 则供应连接器和缆线总成,是整个系统的“关节”。两者都至关重要,但均不掌控核心架构。

跟踪资金流向可以非常清晰地看出:你离专有硅片和激光器越近,你留下的钱就越多;而你离代工组装和标准化硬件越近,穿手而过的流水就仅仅是流水而已。


41:21-44:17 | 下一个瓶颈:共封装光学(CPO)

Leo Jiang: 接下来要谈的是该行业的未来走向。这是过去一年中最热门的交易主题之一,据许多人称它可能会变得更加炽热。这与下一次架构转型有关:共封装光学(Co-Packaged Optics,简称 CPO)

在传统网络交换机中,主交换芯片位于电路板中央,可插拔光模块位于箱体前面板。数据始于交换芯片内部,以电信号形式穿过电路板到达光模块,直到那时才转化为光。随着交换速度的提升,电信号的这一段旅程变得极其昂贵且耗电。

CPO 缩短了这段旅程。CPO 不再将光电转换放在交换机前部,而是将光学引擎直接放置在交换芯片旁边,甚至直接放置在芯片同一个封装内部。电信号只需移动极微小的距离,数据随即转化为光。

  • 博通(Broadcom) 是商用领导者。它早在2024年就交付了第一代51.2T CPO交换机 Bailly,将其 Tomahawk 芯片与8个硅光子引擎配对,目前已迭代至第三代100.2T。
  • 英伟达 是全系统玩家。它控制着 GPU、网络和软件,正在其数据中心跨代部署网络交换机的光子版本。
  • Marvell 是独立挑战者:拥有 DSP、交换硅片、定制AI芯片及自己的 CPO 平台。
  • 为他们所有人提供饲料的是 Coherent(提供激光器、光子引擎和先进封装)以及 Lumentum(专注于置于封装外部的外置激光源,以使热量远离交换芯片)。

核心重点在于:CPO 不是一个新组件,而是一种新架构。这意味着它正在重绘产业地图。它移动了电子产业与光学产业之间的边界,并威胁到今天的赢家。例如中际旭创和新易盛这两家中国公司,它们主导着可插拔模块市场。如果模块消失融入了芯片封装内部,部分价值就会随之蒸发,流向控制架构的博通与英伟达,以及新架构仍需其激光器的供应商(如 Coherent 和 Lumentum)。

目前没有人单独报告 CPO 收入,因此尚无市场份额表格。但取而代之的是控制权阶梯:谁拥有芯片?谁拥有系统?谁又仅仅是在供货?


44:17-46:48 | HBM内存:SK海力士, 三星 与 美光

Leo Jiang: 让我们聊聊内存——今年 AI 瓶颈故事中最炽手可热的话题。

透露一个秘密:GPU 的庞大核心往往不是瓶颈所在。对于每一个 Token,芯片都必须从内存中将模型的参数和工作内存(前文提到的 KV Cache)拉取到其核心中。数学计算极快,但调取数据极慢,我们称之为推理的内存带宽瓶颈(Inference memory bandwidth bound)。切菜厨师快如闪电,但存放所有东西的操作台无法足够快地输送配料,这使得操作台内存——在此即 HBM(高带宽内存)——成为了当今科技界最昂贵的地产之一。

行业的解决方案是 HBM。HBM 不再将内存芯片平铺在远离处理器的主板上,而是将它们垂直堆叠8到12层高,在硅片中钻出数千个微型电梯井(TSV通孔),并将整座高楼直接放置在同一封装内的 GPU 旁。这是在市中心建起内存摩尔大楼,而不是把内存建在高速公路对面的郊区。结果是带来了传统内存5到6倍的带宽,成本也是传统内存的5到6倍。

而英伟达乐于为其中的每一颗芯片买单。内存现在已成为你听说过的每一颗AI芯片内部最大的成本组成部分之一,而全球只有三家公司能够实现前沿规模化生产。

  • SK海力士(SK hynix) 拥有 HBM 市场约60%的份额。它通过比其庞大的韩国邻居三星执行得更好而取得这一地位。它在 HBM 变得重要的前几年就押注了该技术,率先出货了每一代产品,并锁定了英伟达下一代分配的大头。
  • 三星(Samsung) 作为整体最大的内存制造商,极其尴尬地落后了。
  • 美光(Micron) 作为美国代表,从无人问津演变为提前一年多售罄其整年的产能。

在2026年5月,这三家内存巨头的市值总和突破了1万亿美元。而在不到十年前,它们的价值要低16倍。内存曾经是科技界最残酷的大宗商品业务:繁荣、萧条、破产、循环往复。HBM 正在慢慢改变这种心理模式——它像稀缺资源一样被分配,像奢侈品一样定价。唯一的悬念在于:一旦这三家巨头同时完成产能扩张,这种高价能否维持。


46:48-49:21 | 机械硬盘:希捷 与 西部数据(Western Digital)

Leo Jiang: 现在,让我们以最后一部分——仓库,来开始收尾。

存储的层级可以用一句话概括:离芯片越近,速度越快,价格越贵。Cache(缓存)位于芯片本身;HBM 紧贴其旁;普通 DRAM 位于主板上;固态硬盘(SSD)和闪存保存热数据;而在最底层的,则是所有人10年前宣称已死的技术:旋转机械硬盘(HDD)。但在大容量冷数据每TB成本上,它依然不可战胜。

由于数据规模变得如此庞大,AI 已成为存储需求的巨型驱动力。没人真正预料到的部分在于产出端:每一段对话、每一份日志、每一张生成的图片都被永久保留。希捷 CEO 将其称为“推理拐点”(Inference inflection)。AI 不仅在消耗更多数据,它还在制造数据的海洋。

但仓库实际上是两门不同的生意:

  1. 机械硬盘(HDD):三头垄断格局。西部数据(Western Digital)和希捷(Seagate)各占40%以上的市场份额,东芝(Toshiba)占据约17%的份额。西部数据在拆分闪存业务后成为纯机械硬盘公司,其89%的收入来自云端业务,是标普500指数中表现最好的公司之一。该行业大部分高容量产能已被锁定至2027年。不幸的是,由于AI吸收了供应,消费级机械硬盘的价格上涨了一半。
  2. 闪存(Flash/SSD):这是固态硬盘领域,有六家玩家在进行近身肉搏。三星以29%领跑,SK海力士占18%,铠侠(Kioxia)、美光、SanDisk 和中国长江存储(YMTC)各占13%左右。闪存市场碎片化、重资本投入,且历史上是该板块中周期性最强的市场。

当我追踪资金流向时,我发现内存供应商和存储供应商从这场AI热潮中收取的总营收相当,但 HBM 制造者的营业利润率约为68%,而存储厂商的营业利润率为33%。同样的资金流经两者,但一方留下的钱是另一方的两倍。在这场AI热潮中,你位于层级的哪个位置,与你卖出多少同样重要。


49:21-51:27 | 完整旅程

Leo Jiang: 至此,参观结束了。我们看到了每一个层级:电源、电力、散热液冷、芯片、光器件、内存和存储。

让我们最后一次重温这场旅程: 我们的拇指在AI应用上点击发送;问题在玻璃光纤中化为光线,跨越州界到达一座消耗整座城市电力的建筑。电力来自重启的核电站、售罄的燃气轮机或停在电表后面的燃料电池。你的问题被切分为 Token,喂入台湾组装的价值300万美元的机架中,这些机架围绕着以让苹果公司看起来像打折店一样的毛利率售出的芯片构建。

在内部,象征性的1万名切菜厨师从内存摩摩天大楼中调取一万亿个参数;与此同时,液体冷却液带走了打包在大衣柜大小空间内的80台取暖器的发热量;互连网络以光速传输数据,让这些芯片融为一个大脑思考同一个念头。软件将你的请求与上千个其他请求打包批处理,答案以 Token 为单位逐字流回给你。

这看起来已经是人类有史以来尝试过的规模最大的基础设施建设。而从目前的态势来看,我们甚至还没有到达顶峰。这是否会成为历史上最重要的投资,老实说,地球上没有人知道。但我们无法选择手里的牌,我们只能选择追踪资金流向,并决定如何打好眼前的牌。

如果你觉得这个视频有帮助,并且想了解AI基础设施的任何部分,请留言。这是我的第一个视频,由于大量的粗糙剪辑向大家致歉。这确实花费了难以置信的调研和撰写脚本的时间,我已经尽量精简;更不用说剪辑所花费的魔鬼般的时间了。总之,如果你喜欢这个视频并想看更多内容,请订阅、点赞,我们下期再见!


🔗 原文链接

https://thetranscriptdesk.substack.com/p/whos-making-trillions-off-the-ai