内容监控

Appearance

拆解整个 AI 数据中心：从电力供给到 ChatGPT 的全栈图景 ​

原文标题: The Entire AI Data Center Explained — From Electricity to ChatGPT 来源: The Transcript Desk

💡 核心观点 ​

  1. AI 模型的演进已将其从单纯的代码问题转变为重度依赖电力、基础设施与固定资产投资的重工业，扩展定律（Scaling Laws）将人工智能从科研难题转化为资本开支竞争。
  2. 整个 AI 数据中心基础设施涵盖电力供应（核能/天然气/燃料电池）、液冷散热、高性能算力芯片、高带宽内存（HBM）、光互连网络及上层服务软件，各环节均孕育着巨大的投资机会与极高的高利润壁垒（如 NVIDIA 的 CUDA 生态与 Broadcom 的定制芯片）。
  3. 尽管四大科技巨头（Amazon、Microsoft、Google、Meta）仅在一年内就投入约 7,250 亿美元用于基础设施建设，但庞大的资本开支、快速的硬件折旧与相对滞后的终端用户付费循环，使得 AI 投资回报率（ROI）仍存在巨大的不确定性。

📖 中文全文 ​

如果你昨晚 7 点左右拿出手机，输入了一个问题：“用鸡肉和米饭能做什么晚饭？”大约两秒钟后，一台机器为你写出了答案。

仅仅两秒钟。

但这两秒钟里发生的事情值得我们放慢镜头：你的问题离开了手机，穿过比人类头发还细的光纤，跨越数百英里，到达了一座有几个足球场那么大、耗电量堪比一座小型城市的建筑。

在这座建筑内部，你的问题通过了一台价值相当于一套房产的机器，被翻译成纯粹的数学运算，并由运行温度极高、必须像赛车发动机一样使用液冷散热的芯片进行处理。接着，答案在你的拇指还没来得及放下之前，逐字逐句地返回到你的屏幕上。

而作为投资者，最应该引起你注意的部分是：为了让这两秒钟成为可能，仅在今年，全球最大的四家公司（亚马逊、微软、谷歌和 Meta）就在基础设施上投入了大约 7,250 亿美元。这比整个美国州际公路系统的通胀调整后总造价还要多。

高盛预计，2026 年至 2031 年间，全球 AI 基础设施建设的总投入将达到 7.6 万亿美元。英伟达（NVIDIA）首席执行官黄仁勋在达沃斯论坛上直言，这是“人类历史上规模最大的基础设施建设”。

那么，所有的钱究竟流向了哪里？

一、 为什么生成比搜索昂贵得多？ ​

互联网已经存在了 30 年，谷歌回答了数万亿个问题，为什么在此之前没有人需要每年花费数千亿美元？

答案在于“图书管理员”与“作家”的区别：

  • 谷歌是图书管理员：当你搜索食谱时，谷歌并不下厨。它只是走进一座早已整理好的巨型图书馆（抓取并索引好的网页），把已有的页面递给你。昂贵的工作早已提前完成，回答问题只是快速、廉价的查询。一次谷歌搜索的成本只有一美分的几分之一。
  • GPT 是作家：当你问它同一个问题时，货架上没有现成的答案。模型必须从零开始、逐字逐句地现场创作。即便今天有一百万人问同一个问题，它也不会去调取答案，而是重新生成。

一次 ChatGPT 查询所需的计算能力可能是谷歌搜索的 10 到 100 倍。乘以每周 9 亿的活跃用户，这就是整个基础设施繁荣的原因。搜索是调取，AI 是生成——而生成是一种制造过程。

如果把 AI 数据中心看作一座特殊的工厂：原料从一端进（电力），产品从另一端出（文字）。在评估这座工厂时，有三个核心术语：

  1. Token（文本块/标记）：工厂制造的产品。语言模型不读取单词，而是读取 Token（约四分之三个单词）。Token 是 AI 经济中的收入单位，OpenAI 和 Anthropic 均按每百万 Token 定价。
  2. FLOP（浮点运算次数）：工厂里的劳动单位。制造单个 Token 需要模型进行数千亿次浮点运算。
  3. 训练（Training）与推理（Inference）：训练是建造工厂（调整数千亿个参数，一次性投入数亿美元）；推理是运行工厂（模型为用户生成答案）。到了 2026 年，约三分之二的 AI 计算将用于推理。工厂建造昂贵，但持续运行更加昂贵。

2020 年左右发现的**扩展定律（Scaling Laws）**将 AI 从代码问题转化为了资本开支问题：只要模型更大、数据更多、算力更强，性能就会呈线性提升。科技巨头非常擅长资本开支竞争：用资金碾压对手。软件脱离了零边际成本的物理束缚，重新落脚于水泥、兆瓦与水流。

二、 提示词的六阶段旅程 ​

当你按下发送键，你的问题经历了一场无缝衔接的完整旅程：

  1. 传输（Trip）：问题转化为光脉冲，以三分之二光速在光纤中穿行数百英里到达数据中心（耗时百分之几秒）。
  2. 门禁（API Gateway）：网关进行身份验证、流量控制与安全检查，打包系统指令与历史对话。
  3. Token 化（Tokenization）：将输入文本切分为 Token 并转化为数字矩阵。
  4. 预填充（Prefill）：模型一次性并行读取整个提示词，进行数十亿次计算，生成键值缓存（KV Cache）——即模型的即时工作记忆。GPT 输出前短暂的停顿，就是工厂在读取生产订单。
  5. 解码（Decode）：流水线启动。模型结合提示词与已生成的文本，运行整个万亿参数网络，逐个 Token 地生成答案。屏幕上打印文字的过程，就是流水线在实时运转。
  6. 返程（Trip Home）：数据沿光纤返回，两秒内呈现答案。

在后台，工厂还会将你的请求与数百人的问题进行批处理（Batching），以实现芯片的高效利用。

三、 基础设施第一层：电力与能源 ​

2026 年的 AI 故事，本质上是关于电力的故事。

  • 传统服务器机架功耗为 5 至 10 千瓦（kW）。
  • 英伟达旗舰 AI 机架功耗达 120 千瓦；下一代 Rubin 机架预计逼近 600 千瓦。单机架功耗在不到十年内翻了 60 到 100 倍。

大型 AI 园区需要吉瓦（GW，即 1000 兆瓦）级别的供电能力，相当于一座大型核反应堆的输出量。2030 年，数据中心耗电量预计将占美国总电力的 9% 至 17%。

但美国电网面临两大物理瓶颈：

  1. 电网接入排队（Interconnection Queue）：新建大型设施并网申请排队需 4 至 5 年。
  2. 变压器短缺：大型变压器交货周期从 1 年延长至 2.5 到 4 年，价格上涨近 80%。

为了避免等待，企业开始采用表外发电（Behind-the-meter Power）：在数据中心旁就地发电。这一需求激活了传统能源板块：

  • 核能复兴：微软与 Constellation Energy 签订了为期 20 年的协议，重启三哩岛核电站 835 兆瓦的机组。Constellation（市值约 900 亿美元）和 Vistra 拥有零碳且 24 小时稳定运行的核电资产。对于小型模块化反应堆（SMR，如 Oklo、NuScale），目前仍处于商业化前夜，风险较高。
  • 天然气与燃料电池：Bloom Energy 提供固体氧化物燃料电池，可快速部署；GE Vernova（通用电气拆分出的电力公司）的天然气轮机订单已排至 2030 年，积压订单达 1,630 亿美元，单季度数据中心电气化订单达 24 亿美元。
  • 电气与配电设备：Vertiv（维谛技术）、Eaton（伊顿）和 Schneider Electric（施耐德电气）垄断了开关设备、母线槽和不间断电源（UPS）。Caterpillar 与 Cummins 则提供柴油后备发电机。

与此同时，数据中心竞标电力导致部分地区居民电费上涨（如 Ohio 与 Maryland 地区每月上涨 16-18 美元），已开始引发政治与监管风险。

四、 基础设施第二层：散热与液冷 ​

物理学定律决定了：几乎所有输入的电能都会转化为热量。单块旗舰 AI 芯片发热量超过 1,000 瓦，单个机架产生 120 千瓦的热量，相当于 80 台空间加热器挤在一个柜子里。

当机架功耗突破 30-50 千瓦后，传统风冷彻底失效。产业正在经历有史以来最大的管道革命——从风冷转向液冷（水的热容约为空气的 3,000 倍）：

  • 直接芯片液冷（Direct-to-chip Cooling）：金属冷板直接贴附在芯片上方，通过液体循环泵（CDU）带走热量。英伟达 GB200 机架强制要求使用液冷。
  • 浸没式液冷（Immersion Cooling）：将服务器直接浸入不导电的氟化液或合成油中。

** Vertiv（维谛）** 是该领域的市场龙头，提供电力与液冷一体化方案，营收年增 28%。伊顿（以 95 亿美元收购 Boyd Thermal）与施耐德（收购 Motivair）也纷纷通过巨额并购押注液冷。液冷市场预计将从 2025 年的 50 亿美元增长至 2030 年代初期的 150 亿至 270 亿美元。

五、 基础设施第三层：算力芯片与硬件生态 ​

英伟达的 GB200 NVL72 机柜重达 1.5 吨，售价约 300 万美元，集成 72 块 GPU：

  • CPU（中央处理器）：如主厨，负责统筹与复杂顺序任务。在 AI 服务器中已退居管理角色。
  • GPU（图形处理器）：如 10,000 名流水线厨师，包含成千上万个小核心，极其擅长并行矩阵乘法运算。
  • NVIDIA：上一财年营收 2,159 亿美元（数据中心占 1,940 亿），毛利率高达 75%。其核心护城河并非仅仅是硬件，而是积累了 20 年的 CUDA 软件生态。
  • 挑战者与定制芯片：AMD（Instinct 系列及 ROCm 软件）；Broadcom（博通）控制着 60% 以上的定制 AI 芯片（ASIC）市场，协助谷歌（TPU）、Meta 及 OpenAI 开发芯片，AI 业务高速增长；服务器集成商包括 Supermicro、戴尔（Dell）、HPE 以及台湾 ODM 巨头（鸿海/富士康、广达、英业达、纬创）。

硬件利润高度集中于具备稀缺性的环节：英伟达在芯片上赚取约 75% 的毛利，而负责组装机柜的公司仅能保留 6% 至 10% 的毛利。

六、 基础设施第四层：高速网络与连接 ​

要让 72 块甚至上万块 GPU 协同工作，网络延迟是关键。如果网络慢 10%，价值数十亿美元的芯片就会处于闲置等待状态。网络开支占 GPU 投入的 40% 到 60%。

网络连接分为两类：

  1. Scale-up（机柜内扩展）：英伟达专有的 NVLink 架构。
  2. Scale-out（机柜间扩展）：专用低延迟技术 InfiniBand 与开放标准 以太网（Ethernet） 之间的竞争。到 2026 年初，约三分之二的新 AI 集群采用以太网。

主要玩家：

  • 博通（Broadcom）：Tomahawk 交换芯片占据以太网交换机核心。
  • Arista Networks：高规格 AI 交换机龙头，毛利率达 65%。
  • Astera Labs：生产重信号清除的重定时器芯片（Retimer），毛利率高达 76%。
  • 光模块（Optical Transceivers）：铜线传输距离极短，机架间的数据传输全部转化为光信号。关键供应商包括 Coherent、Lumentum、中际旭创（Innolight）、Fabrinet、康宁（Corning）及 Amphenol。

七、 基础设施第五层：内存与存储（HBM 崛起） ​

现代 AI 推理是**受限于内存带宽（Memory-Bandwidth-Bound）**的。在解码阶段，算力本身不是瓶颈，从内存中拉取万亿参数和 KV 缓存的速度才是 bottleneck。

解决方案是 高带宽内存（HBM）：将 DRAM 芯片垂直堆叠 8 到 12 层，通过 TSV（硅通孔）穿透，直接与 GPU 封装在一起。

  • HBM 带宽与价格均为传统内存的 5 至 6 倍。
  • SK 海力士（SK Hynix） 占据 HBM 约 60% 的市场份额；美光（Micron）与三星（Samsung）跟进。2026 年 5 月，三大内存巨头总市值突破 4 万亿美元。

在存储层，AI 训练集、检查点（Checkpoints）及生成的海量日志与数据，重新激活了固态硬盘（SSD）与大容量机械硬盘（HDD）市场，Seagate（希捷）与 Western Digital（西部数据）迎来“推理拐点”带来的强劲需求。

八、 基础设施第六层：软件与服务层 ​

硬件之上是使计算成为可能且经济可行的软件层：

  • 基础支撑：Linux 操作系统与 Kubernetes 容器调度。
  • CUDA 护城河：开发者对 CUDA 的肌肉记忆使得迁移到其他芯片成本极高（需承担重写代码与百万元训练失败的风险）。
  • 推理服务引擎（vLLM、TensorRT）：通过批处理（Batching）、KV 缓存复用及量化（Quantization，降低精度）等手段，将推理成本降低 3 到 10 倍。
  • 企业级 RAG（检索增强生成）：将大模型与企业私有向量数据库（如 Pinecone、Databricks、Snowflake）结合。

九、 资本循环与 ROI 难题 ​

将所有环节汇总，整个 AI 基础设施的资金流向如下：

[终端用户 / 企业 API] 
       │ ($700亿+ 年化收入)
       ▼
[AI 实验室 / 云厂商 (Microsoft, AWS, Google, Meta)] ──($7250亿年开支)──► [芯片/网络/电力厂商 (NVIDIA, Broadcom, Vertiv)]
       ▲                                                                      │
       └───────────────────────────── (资本循环/交叉投资) ───────────────────────┘

根据 Bernstein 评估，建设 1 吉瓦（GW）的 AI 数据中心约需 350 亿美元，其中约 39% 用于购买芯片。然而，硬件折旧周期仅为 4 至 6 年。

目前，NVIDIA 巨额投资 CoreWeave、Nebius 及 OpenAI；超大规模云厂商（Hyperscalers）向新云厂商下订单；AI 实验室与云厂商互相持股并签署算力协议。整个闭环中真正的外部新鲜资金来源——即终端用户和企业付费——目前仅为 700 多亿美元年化规模，相比于每年 7,250 亿美元的资本开支，规模依然悬殊。

这场耗资数万亿美元的基础设施建设，究竟是人类历史上最伟大的前瞻性投资，还是史上最昂贵的资本泡沫，答案仍有待时间检验。

🔗 原文链接 ​

https://thetranscriptdesk.substack.com/p/the-entire-ai-data-center-explained

Copyright © 2026