Appearance
黄仁勋:英伟达的护城河能否持续?
原文标题: Jensen Huang – Will Nvidia’s moat persist? 来源: The Transcript Desk
💡 核心观点
英伟达的护城河并非仅仅来自供应链锁定(例如长期采购承诺),更核心的是其CUDA生态系统的可编程性、广泛安装基础及每代架构的颠覆性创新(如Blackwell较Hopper 50倍提升)。黄仁勋认为,即使大客户(如超大规模云)有能力自研替换方案,英伟达通过持续优化TCO(每总拥有成本性能)和深度合作,仍能维持高利润率。同时,他指出对华芯片出口管制可能适得其反——会迫使中国加速自研并形成独立生态,危及美国技术栈的全球主导地位。投资启示:需关注英伟达在架构迭代和生态粘性上的长期壁垒,而非仅看短期供应链优势。
📖 中文全文
以下内容为黄仁勋与 Dwarkesh Patel 对话的专业抄录编辑版。为提升可读性进行了编辑和轻度排版,同时保留了讨论的全部实质内容和结构。由 Transcript Desk Chrome 扩展程序生成。完整视频:https://www.youtube.com/watch?v=Hrbq66XqtCo
本次对话中,黄仁勋讨论了英伟达的供应链地位、为什么他认为加速计算比人们想象的更难商品化、为什么他仍然认为可编程性和生态深度是 CUDA 背后真正的护城河、为什么英伟达选择不成为超大规模云提供商,以及为什么他认为美国对华芯片政策有风险——可能拱手让出开发者、标准和长期堆栈杠杆。
章节指南 0:00 英伟达最大的护城河是它对稀缺供应链的控制吗? 16:25 TPU 会打破英伟达对 AI 计算的垄断吗? 41:06 英伟达为什么不做超大规模云? 57:36 我们该不该卖 AI 芯片给中国? 1:35:06 英伟达为什么不做多种不同的芯片架构?
转录
00:00-00:32 Dwarkesh Patel:我们看到很多软件公司的估值暴跌,因为人们预期 AI 会商品化软件。有一种可能很幼稚的思考方式:看,英伟达向台积电发送 GDS2 文件。台积电制造逻辑芯片和开关,然后与 SK 海力士、美光和三星制造的 HBM 封装在一起。接着送到台湾的 ODM 那里组装成机架。英伟达本质上是在做软件,而由别人制造。如果软件被商品化,英伟达也会被商品化吗?
00:32-00:59 黄仁勋:最终,必须有人将电子转化为令牌。电子到令牌的转化——并让这些令牌随时间变得更值钱——很难完全商品化。
00:59-01:38 黄仁勋:电子到令牌的转化是一段不可思议的旅程。制造那个令牌,就像让一个分子比另一个分子更有价值。让那个令牌变得有价值所涉及的艺术、工程、科学和发明——我们显然正在实时目睹这一切。这种转化、制造以及所有相关科学远未被深入理解,旅程也远未结束。
01:38-02:16 黄仁勋:我怀疑它会发生。我们当然会让它更高效。你提问的方式就是我对我们公司的心理模型。输入是电子,输出是令牌,中间是英伟达。我们的工作就是做必要的事,尽可能少做,以让这种转化以惊人的能力完成。我所说的"尽可能少做"的意思是,任何我不需要做的事,我就找合作伙伴,让它成为我生态系统的一部分。
02:16-02:46 黄仁勋:如果你看看今天的英伟达,我们可能拥有最大的合作伙伴生态系统,包括上游和下游供应链——所有计算机公司、应用开发商和模型制造商。AI 就像一个五层蛋糕。我们在所有五层都有生态系统。我们试图尽可能少做,但最终我们必须做的那部分,事实证明,极其困难。
02:46-03:22 黄仁勋:我不认为那部分会被商品化。事实上,我也认为企业软件公司或工具制造商也不会。今天大多数软件公司都是工具制造商。有些不是;有些是工作流编码系统。但对很多公司来说,它们是工具制造商。例如,Excel 是工具,PowerPoint 是工具,Cadence 制作工具,Synopsys 制作工具。我实际上看到了与大多数人相反的景象。
03:22-04:14 黄仁勋:我认为智能体的数量将呈指数级增长,工具用户的数量也将呈指数级增长。所有这些工具的实例数量很可能会飙升。Synopsys Design Compiler 的实例数量很可能会飙升,同时使用 floor planner、布局工具和设计规则检查器的智能体数量也会飙升。今天我们受限于工程师数量。明天,那些工程师将由一群智能体支持。我们将以前所未有的方式探索设计空间,我们将使用我们今天使用的工具。我认为工具的使用将导致软件公司爆发式增长。
04:14-04:26 黄仁勋:它还没有发生的原因,是因为智能体使用工具的能力还不够好。要么这些公司自己构建智能体,要么智能体变得足够好,能够使用那些工具。我认为这将是两者结合。
04:26-05:01 Dwarkesh Patel:我看到你们最新的文件中有近 1000 亿美元的采购承诺,涉及晶圆厂、内存和封装。SemiAnalysis 报道说你们将有 2500 亿美元的这类采购承诺。一种解读是,英伟达的护城河其实是你已经锁定了这些稀缺零部件很多年的供应。别人可能有加速器,但他们能拿到内存来制造吗?他们能拿到逻辑芯片来制造吗?这真的是英伟达未来几年的主要护城河吗?
05:01-05:33 黄仁勋:这是我们可以做而别人难以做到的事情之一。我们在上游做出了巨大承诺。有些是明确的,比如你提到的这些承诺。有些是隐性的。例如,很多上游投资是由我们的供应链完成的,因为我对那些 CEO 们说:"让我告诉你这个行业将有多大,让我解释为什么,让我和你一起推理,让我向你们展示我所看到的。"
05:33-06:11 黄仁勋:通过这个告知、启发并与上游不同行业的 CEO 们对齐的过程,他们愿意进行投资。为什么他们愿意为我投资而不是为别人?原因是他们知道我有能力购买他们的供应,并通过我的下游销售出去。事实是,英伟达的下游供应链和下游需求如此之大,他们愿意在上游进行投资。
06:11-06:48 黄仁勋:如果你看看 GTC,人们会惊叹于它的规模和参会人数。这是一个完整的 360 度全景——整个 AI 宇宙汇聚一堂。他们齐聚一堂是因为他们需要看到彼此。我把他们聚集在一起,让下游能看到上游,上游能看到下游,所有人都能看到 AI 的进步。
06:48-07:22 黄仁勋:非常重要的一点是,他们都能见到 AI 原生公司——所有正在建立的 AI 初创公司——并亲眼看到所有正在发生的惊人事情,这样他们就能亲眼验证我告诉他们的东西。我花了很多时间,直接或间接地,向我们的供应链、合作伙伴和生态系统告知我们面前的机会。有些人总是说:"黄仁勋,在大多数主题演讲中,是一个接一个的公告。" 在我们的主题演讲中,总有一部分有点折磨人,因为它几乎像是教育。
07:22-07:47 黄仁勋:事实上,这正是我所想的。我需要确保整个供应链,上游和下游,都理解即将到来的事情是什么,为什么它会发生,什么时候发生,以及它会有多大。我希望他们能够像我一样系统地推理它。
07:47-08:32 黄仁勋:关于你描述的护城河,我们能够为未来构建。如果我们未来几年是万亿美元的规模,我们有供应链来实现它。没有我们的影响力和业务速度……就像有现金流一样,也有供应链流和周转。如果业务周转率低,没有人会为一个架构建立供应链。我们能够维持规模,仅仅是因为我们的下游需求如此巨大。他们看到了,他们听说了,他们看到一切正在到来。这让我们能够以我们现在的规模做我们能做的事情。
08:32-09:09 Dwarkesh Patel:我确实想更具体地了解上游能否跟上。很多年来,你们一直年复一年地实现收入翻番。你们为世界提供的算力(flops)年复一年地增加了三倍多。在现在这个规模上翻番真是不可思议。但再看逻辑芯片。你是台积电 N3 节点的最大客户,也是 N2 的最大客户之一。整个 AI 今年将占 N3 的 60%。根据 SemiAnalysis,明年将达到 86%。如果你已经是大多数,你怎么还能翻番?而且你怎么能年复一年地做到?
09:09-09:25 Dwarkesh Patel:我们现在是否处于这样一个阶段:AI 计算增长率必须因为上游而放缓?你看到绕过这个问题的办法了吗?我们最终如何年复一年地建造两倍多的晶圆厂?
09:25-09:52 黄仁勋:在某种程度上,瞬时需求大于世界上上游和下游的总供应。在任何瞬间,我们可能受到水管工数量的限制——这确实会发生。
09:52-10:05 Dwarkesh Patel:水管工应该被邀请参加明年的 GTC。顺便说一句,这是个好主意。
10:05-10:30 黄仁勋:但这是一个好的状态。你想要一个行业,其中瞬时需求大于总供应。相反的情况显然不太好。如果我们相差太远——如果某个特定组件太远——行业就会蜂拥而上。例如,注意人们不再怎么谈论 CoWoS 了。原因是两年来我们全力以赴地攻克它。我们翻番,再翻番,又翻番。现在我认为我们的状况相当不错。
10:30-11:01 黄仁勋:台积电现在知道 CoWoS 的供应必须跟上逻辑和内存需求的其余部分。他们正在以与扩大逻辑相同的规模扩大 CoWoS 和未来的封装技术。这太棒了,因为很长一段时间,CoWoS 和 HBM 内存都是相当专业的东西。但它们不再是专有技术了。人们现在意识到它们是主流计算技术。当然,我们现在能够更大程度地影响我们供应链的更大范围。
11:01-11:56 黄仁勋:在 AI 革命开始时,我现在说的所有这些话,五年前我也在说。有些人相信并投资了——例如,Sanjay 和美光团队。我仍然清楚地记得那次会议,我清楚地阐述了将要发生的事情、原因以及今天的预测。他们真的加倍投入了。我们在 LPDDR 和 HBM 内存上与他们合作,他们确实投资了。显然这对公司来说非常棒。有些人来得晚一些,但现在他们都来了。
11:56-12:36 黄仁勋:这些瓶颈中的每一个都得到了大量关注。现在我们提前几年预取瓶颈。例如,过去几年我们与 Lumentum、Coherent 以及硅光子学生态系统所做的投资,真正重塑了供应链。我们在台积电周围建立了一整套供应链。我们与他们合作开发了 COUPE,发明了一大堆技术,并将这些专利授权给供应链,使其保持良好和开放。
12:36-13:00 黄仁勋:我们通过发明新技术、新工作流程和新测试设备(如双面探测)、投资公司并帮助他们扩大产能,来准备供应链。你可以看到我们正在努力塑造生态系统,以便供应链准备好支持大规模。
13:00-13:04 Dwarkesh Patel:似乎有些瓶颈比其它更容易。扩大 CoWoS 与扩大——
13:04-13:14 黄仁勋:顺便说一句,我去了最难的那个。
13:14-13:26 Dwarkesh Patel:哪个?
13:26-13:43 黄仁勋:水管工和电工。这是我对末日论者描述工作终结和岗位消亡的担忧之一。如果我们劝阻人们成为软件工程师,我们就会用完软件工程师。同样的预测十年前就发生过。一些末日论者告诉人们:"无论你做什么,都不要成为放射科医生。"
13:43-13:58 黄仁勋:你可能在网上还能看到一些视频,说放射学将是第一个消失的职业,世界不再需要更多的放射科医生。猜猜我们缺少什么?放射科医生。
13:58-14:17 Dwarkesh Patel:回到关于有些东西可以规模化而有些不能的观点……你实际上如何每年制造两倍数量的逻辑芯片?归根结底,内存和逻辑受限于 EUV。你如何年复一年地获得两倍多的 EUV 机器?
14:17-14:36 黄仁勋:所有这些都不是不可能快速规模化的。所有这些都是可以在两三年内轻松完成的。你只需要一个需求信号。一旦你能建造一个,你就能建造十个;一旦你能建造十个,你就能建造一百万个。这些东西不难复制。
14:36-14:46 Dwarkesh Patel:你在供应链中往下走多远?你会去找 ASML 说:"嘿,如果我看三年后,为了让英伟达每年产生两万亿美元的收入,我们需要多得多的 EUV 机器"吗?
14:46-15:04 黄仁勋:有些我需要直接谈,有些间接谈。如果我能说服台积电,ASML 就会被说服。我们必须考虑关键的瓶颈点。但如果台积电被说服,几年内你就会有足够的 EUV 机器。
15:04-15:36 黄仁勋:我的观点是,没有任何瓶颈会持续超过几年——最多两三年。与此同时,我们正在将计算效率提高 10 倍或 20 倍,在 Hopper 到 Blackwell 的情况下,是 30 倍到 50 倍。我们正在提出新算法,因为 CUDA 非常灵活。我们正在开发各种新技术,以便在增加容量的同时提高效率。这些事情我一点也不担心。
15:36-16:13 黄仁勋:让我们担心的是我们下游的东西。能源政策阻止能源……没有能源你无法创造产业。没有能源你无法创造一个全新的制造业。我们想再工业化美国。我们想带回芯片制造、计算机制造和封装。我们想建造新东西,比如电动汽车和机器人。我们想建造 AI 工厂。没有能源你无法建造这些东西,而这些东西需要很长时间。更多芯片产能?那是一个 2-3 年的问题。更多 CoWoS 产能?2-3 年的问题。
16:13-16:23 Dwarkesh Patel:有意思。我觉得有时嘉宾告诉我完全相反的事情。在这种情况下,我只是没有技术知识来判断。
16:23-16:32 黄仁勋:美好的事情是,你在和专家说话。
16:32-16:47 Dwarkesh Patel:没错。我想问问你的竞争对手。如果你看 TPU,可以说世界上排名前三的模型中有两个,Claude 和 Gemini,是在 TPU 上训练的。这对英伟达的未来意味着什么?
16:47-17:22 黄仁勋:我们构建了一个非常不同的东西。英伟达构建的是加速计算,而不仅仅是张量处理单元。加速计算用于各种事情:分子动力学、量子色动力学、数据处理、数据帧、结构化数据和非结构化数据。它也用于流体动力学和粒子物理学。此外,我们用它来做 AI。加速计算要多样化得多。
17:22-17:53 黄仁勋:尽管 AI 是今天的讨论焦点,显然非常重要且有影响力,但计算远不止于此。英伟达已经重塑了计算方式,从通用计算转向加速计算。我们的市场覆盖范围比任何 TPU 或 ASIC 都可能拥有的要大得多。如果你看我们的位置,我们是唯一一家加速各种应用的公司。我们有一个巨大的生态系统,所以各种框架和算法都在英伟达上运行。
17:53-18:31 黄仁勋:因为我们的计算机设计为可由他人操作,任何操作员都可以购买我们的系统。对于大多数自建系统,你必须成为自己的操作员,因为它们从未被设计得足够灵活以供他人操作。因为任何人都可以操作我们的系统,我们在每一个云中,包括谷歌、亚马逊、Azure 和 OCI。如果你想操作它来出租,你最好有一个来自许多行业的大客户生态系统作为承购者。
18:31-19:21 黄仁勋:如果你想为自己操作它,我们显然有能力帮助你做到这一点,就像我们为 Elon 和 xAI 所做的那样。而且因为我们可以使任何公司和任何行业的操作员都能使用,你可以用它为 Eli Lilly 的科学研究发现药物构建超级计算机。我们可以帮助他们操作自己的超级计算机,并将其用于我们加速的整个药物发现和生物科学领域。有一大堆应用是我们能处理而你们用 TPU 做不到的。
19:21-19:48 黄仁勋:英伟达构建的 CUDA 也是一个很棒的张量处理单元,但它还处理数据处理、计算、AI 等每一个生命周期。我们的市场机会要大得多,我们的覆盖范围也要大得多。因为我们现在支持世界上每一个应用,你可以在任何地方构建英伟达系统,并且知道会有客户。这是非常不同的事情。
19:48-20:19 Dwarkesh Patel:这将是一个很长的问题。你有惊人的收入,你不是从制药和量子计算中每季度赚 600 亿美元。你赚到钱是因为 AI 是一项前所未有的技术,正以前所未有的速度增长。那么问题就是,对 AI 本身来说什么是最好的。我不了解细节,但我和我 AI 研究员朋友聊天,他们说:"看,当我用 TPU 时,它是一个巨大的脉动阵列,非常适合做矩阵乘法,而 GPU 非常灵活。当你有大量分支或不规则内存访问时,它很棒。"
20:19-21:01 Dwarkesh Patel:但 AI 是什么?它只是这些可预测的矩阵乘法,一遍又一遍。你不需要为 warp 调度器或线程与内存库之间的切换放弃任何芯片面积。而且 TPU 确实为目前正在上线的这一大部分收入增长和计算用例进行了优化。我想知道你怎么回应。
21:01-21:38 黄仁勋:矩阵乘法是 AI 的重要组成部分,但它们不是全部。如果你想提出一种新的注意力机制,以不同的方式分解,或者发明一种全新的架构类型——比如混合 SSM——你需要一个通用可编程的架构。如果你想创建一个融合扩散和自回归技术的模型,你需要一个刚好是通用可编程的架构。
21:38-22:04 黄仁勋:我们运行你能想象的一切。这就是优势。它允许更容易地发明新算法,因为它是一个可编程系统。发明新算法的能力正是让 AI 进步如此之快的原因。TPU 和其他任何东西一样,都受到摩尔定律的影响,我们知道摩尔定律每年大约提升 25%。
22:04-22:53 黄仁勋:真正实现 10 倍或 100 倍飞跃的唯一方法是每年从根本上改变算法及其计算方式。这就是英伟达的基本优势。我们能让 Blackwell 比 Hopper 好 50 倍的唯一原因……当我第一次宣布 Blackwell 将比 Hopper 节能 35 倍时,没人相信。然后 Dylan 写了一篇文章说我保留实力,实际上是 50 倍。仅靠摩尔定律你无法合理地做到这一点。
22:53-23:36 黄仁勋:我们解决这个问题的方法是使用新模型,比如 MoE,它们被并行化、分解并分布在一个计算系统中。如果没有真正深入研究并用 CUDA 提出新内核的能力,这真的很难做到。这是我们架构的可编程性与英伟达是一家极端协同设计公司这一事实的结合。我们甚至可以将一些计算卸载到网络本身,比如 NVLink,或者卸载到带有 Spectrum-X 的网络中。
23:36-23:54 黄仁勋:我们可以同时影响处理器、系统、网络、库和算法的变化。没有 CUDA 来做这件事,我甚至不知道从何开始。
23:54-24:09 Dwarkesh Patel:我的赞助商 Crusoe 是最早提供英伟达 Blackwell 和 Blackwell Ultra 平台的云服务商之一。他们刚刚宣布计划在今年晚些时候部署英伟达 Vera Rubin。但获得最先进的硬件只是故事的一部分。例如,大多数推理引擎已经为单个用户的前向传递做 KV 缓存。
24:09-24:27 Dwarkesh Patel:但 Crusoe 是跨用户和 GPU 做的。所以如果一千个智能体运行在同一个系统提示上,Crusoe 只需要计算一次 KV 缓存,集群中的每个 GPU 都可以使用它。随着系统变得更加智能体化,需要更长的前缀来使用工具和访问文件,这一点尤其重要。
24:27-24:50 Dwarkesh Patel:在最近的基准测试中,Crusoe 能够实现比 vLLM 快 10 倍的首次令牌生成时间和快 5 倍的吞吐量。这只是你应该将推理工作负载放在 Crusoe 上的众多原因之一。如果你需要 GPU 进行训练,你不需要切换云——Crusoe 也能满足你。访问 crusoe.ai/dwarkesh 了解更多。
24:50-25:15 Dwarkesh Patel:这引出了一个关于英伟达客户的有趣问题。你 60% 的收入来自这五大超大规模云提供商。在一个不同的时代,面对不同的客户——比如运行实验的教授——他们需要 CUDA。他们不能用其他加速器。他们只需要使用 CUDA 运行 PyTorch,一切优化好。但这些超大规模云提供商有资源编写自己的内核。
25:15-25:38 Dwarkesh Patel:事实上,他们必须这样做,才能为他们特定的架构获得最后的 5% 性能。Anthropic 和谷歌主要运行他们自己的加速器或运行 TPU 和 Trainium。即使 OpenAI 使用 GPU,他们也有 Triton,因为他们需要自己的内核。
25:38-26:04 Dwarkesh Patel:一直到 CUDA C++,而不是使用 cuBLAS 和 NCCL,他们有自己编译到其他加速器的堆栈。如果你的大部分客户能够并且确实制造了 CUDA 的替代品,那么 CUDA 在多大程度上真的是让前沿 AI 发生在英伟达上的东西?
26:04-26:23 黄仁勋:CUDA 是一个丰富的生态系统。如果你想首先在任何计算机上构建,首先在 CUDA 上构建是非常聪明的。因为生态系统如此丰富,我们支持每一个框架。如果你想创建自定义内核……例如,我们为 Triton 做出了巨大贡献。
26:23-26:56 黄仁勋:所以 Triton 的后端有大量的英伟达技术。我们很高兴帮助每一个框架变得尽可能好。有很多很多框架。有 Triton、vLLM、SGLang 等等。现在有一大堆新的强化学习框架出现,比如 verl 和 NeMo RL。随着后训练和强化学习,整个领域正在爆发。
26:56-27:24 黄仁勋:所以如果你想要在一个架构上构建,在 CUDA 上构建最有意义,因为你知道生态系统很好。你知道如果发生什么事,更可能是在你的代码中,而不是在底下大量的代码中。别忘了你在构建这些系统时要处理的代码量。当某件事不工作时,是你还是计算机的问题?
27:24-27:52 黄仁勋:你希望总是自己,并且能够信任计算机。显然,我们自己仍然有很多 bug,但我们的系统经过如此彻底的调试,你至少可以在基础上构建。这是第一点:生态系统的丰富性、可编程性和能力。第二点是,如果你是任何类型的开发者,你最想要的是一个安装基础。
27:52-28:21 黄仁勋:你希望你写的软件能在很多其他计算机上运行。你不是仅仅为自己构建软件。你是为你的集群或每个人的集群构建,因为你是一个框架构建者。英伟达的 CUDA 生态系统最终是它的巨大财富。我们现在有几亿个 GPU 在外。每个云都有。从 A10、A100、H100、H200,到 L 系列、P 系列,有一大堆。
28:21-28:46 黄仁勋:它们有各种尺寸和形状。如果你是一家机器人公司,你想要那个 CUDA 堆栈实际在机器人本身中运行。我们无处不在。安装基础意味着一旦你开发了软件或模型,它将在任何地方都有用。这真是极其有价值。最后,我们在每一个云中,这让我们真正独特。
28:46-29:17 黄仁勋:如果你是一家 AI 公司或开发者,你不完全确定你会与哪个云服务提供商合作或你想在哪里运行它。我们在任何地方运行,包括如果你愿意的话在本地。生态系统丰富性、安装基础的广泛性以及我们所在位置的多样性的结合,使 CUDA 无价。
29:17-29:59 Dwarkesh Patel:这很有道理。我好奇的是,这些优势对你的主要客户来说是否非常重要。对很多人来说它们可能重要。但那种能自己构建软件堆栈的人占了你大部分收入。特别是如果你进入一个 AI 特别擅长那些有紧密验证循环、可以对其做强化学习的事情的世界。如何编写一个内核来在扩展系统中最高效地做注意力或 MLP?这是一个非常可验证的反馈循环。所有超大规模云提供商能为自己编写这些自定义内核吗?英伟达仍然有很好的性价比,所以他们可能仍然更愿意用英伟达。但问题是,这会不会变成一个谁提供最好规格的问题?
30:09-30:21 Dwarkesh Patel:历史上,英伟达在 AI 硬件和软件中保持了最高的利润率——超过 70%——因为 CUDA 护城河。
30:21-30:35 黄仁勋:问题是:如果你的大部分客户实际上能负担得起构建自己的解决方案而不是依赖 CUDA 护城河,你能维持这些利润率吗?我们分配给这些 AI 实验室的工程师数量是疯狂的;我们直接与他们合作优化他们的堆栈。
30:35-30:54 黄仁勋:原因很简单:没人比我们更了解我们的架构。这些架构不像 CPU 那样通用。CPU 就像凯迪拉克——一辆不错的巡航车。它从不会开得太快,每个人都能很好地驾驶它。它有巡航控制,一切都很容易。
31:03-31:18 黄仁勋:在很多方面,英伟达的 GPU 和加速器就像 F1 赛车。我想每个人都能以每小时 100 英里的速度开一辆,但需要大量的专业知识才能推到极限。
31:24-31:34 黄仁勋:我们使用大量的 AI 来创建我们的内核。我确信在相当长一段时间内我们仍会被需要。我们的专业知识经常帮助我们 AI 实验室的合作伙伴轻松地从他们的堆栈中获得另一个 2 倍的性能提升。
31:44-32:01 黄仁勋:当我们完成优化他们的堆栈或某个内核后,模型加速 2 倍、3 倍甚至 50% 并不罕见。这是一个巨大的数字,特别是考虑到他们拥有的安装基础——所有的 Hopper 和 Blackwell。
32:09-32:24 黄仁勋:当你将性能提高两倍时,你实际上使收入翻倍。这直接转化为利润。英伟达的计算堆栈提供了世界上最好的每总拥有成本性能,毫无疑问。
32:24-32:38 黄仁勋:没有人能向我证明今天世界上有任何单一平台有更好的性能与 TCO 比。没有任何一家公司。事实上,看看现有的基准测试。Dylan 的 InferenceMAX 对每个人开放,然而……
32:46-33:04 黄仁勋:TPU 不会出现。Trainium 不会出现。我鼓励他们用 InferenceMAX 来展示他们"令人难以置信"的推理成本。这真的很难,没有人想出现。以 MLPerf 为例——我欢迎 Trainium 来展示他们一直声称的 40% 优势。
33:04-33:18 黄仁勋:我很想看到他们展示 TPU 的成本优势。对我来说这毫无意义。从第一原理来看,它毫无意义。我相信我们如此成功的唯一原因就是我们的 TCO 如此出色。
33:27-33:36 黄仁勋:其次,你提到 60% 的客户是前五大,但大部分业务是外部的。例如,英伟达在 AWS 中的大部分存在是为了外部客户,而不是内部使用。
33:46-33:54 黄仁勋:Azure 和 OCI 也是如此——我们在那里的客户是外部的。他们青睐我们是因为我们的覆盖面如此广泛。我们可以把世界上所有好的客户带给他们,因为那些客户已经构建在英伟达之上。
34:01-34:16 黄仁勋:所有这些公司都构建在英伟达之上的原因,是我们的多样性和覆盖面。飞轮实际上是安装基础、我们架构的可编程性、生态系统的丰富性以及现在成千上万的 AI 公司的数量。
34:26-34:32 黄仁勋:如果你是一家 AI 初创公司,你会选择哪种架构?你会选择最丰富、安装基础最大、生态系统最丰富的那个。那就是我们。
34:41-34:49 黄仁勋:这就是飞轮。在我们的每美元性能——他们因此获得最低的每令牌成本——以及我们的每瓦性能之间,我们是世界上最高的。
34:54-35:07 黄仁勋:如果我们的一个合作伙伴建造了一个一吉瓦的数据中心,那个中心需要提供最大数量的收入和令牌。你想产生尽可能多的令牌来最大化那个设施的收入。
35:13-35:20 黄仁勋:我们拥有世界上最高的每瓦令牌数的架构。最后,如果你的目标是出租基础设施,我们在世界上拥有最多的客户。这就是飞轮工作的原因。
35:24-35:38 Dwarkesh Patel:有意思。我想问题归结为实际市场结构。即使有成千上万的 AI 公司,我们可能有一个世界,它们有大致相等的计算份额。
35:43-35:51 Dwarkesh Patel:但通过这些五个超大规模云提供商,实际使用计算的人是 Anthropic、OpenAI 和大型基础实验室。他们有能力和资源让不同的加速器工作。
35:58-36:08 黄仁勋:不,我认为你的前提是错的。但让我问你一个稍微不同的问题——实际上,回来再让我纠正你的前提。这对 AI、科学和产业的未来太重要了。
36:16-36:29 Dwarkesh Patel:让我先问完问题,然后我们一起解决。如果你说的关于价格、性能和每瓦性能都是真的,为什么 Anthropic 刚刚宣布与 Broadcom 和谷歌达成一个多吉瓦规模的 TPU 交易?
36:47-36:57 Dwarkesh Patel:对谷歌来说,TPU 是他们计算的大部分。如果我看看这些大型 AI 公司,似乎曾经有一个点全是英伟达,而现在不是了。你如何将你的说法与他们选择其他加速器的事实协调起来?
37:01-37:09 黄仁勋:Anthropic 是一个独特的例子,不是趋势。没有 Anthropic,为什么会有任何 TPU 的增长?100% 是因为 Anthropic。同样的情况也适用于 Trainium。
37:17-37:27 黄仁勋:我认为这已经被很好地理解了。并不是有很多 ASIC 机会;只有一个 Anthropic。
37:33-37:45 Dwarkesh Patel:但 OpenAI 与 AMD 有交易,并且他们正在构建自己的"Titan"加速器。黄仁勋:是的,但我认为我们都承认他们仍然极大地基于英伟达。我们将继续一起做很多工作。
37:45-37:55 黄仁勋:别人尝试其他东西我不会生气。如果他们不尝试其他选择,他们怎么知道我们的有多好?有时你需要一个提醒。
38:02-38:09 黄仁勋:我们必须不断赢得我们的地位。总是有大的宣称。看看有多少 ASIC 被取消了。仅仅因为你正在构建 ASIC 并不意味着它比英伟达好。
38:13-38:26 黄仁勋:构建比英伟达更好的东西并不容易。因为我们的规模和速度,我们是世界上唯一一家每年都推出巨大飞跃的公司。
38:34-38:44 Dwarkesh Patel:我猜他们的逻辑是:"它不需要更好;它只需要不比 70% 更差",因为他们付给你 70% 的利润率。黄仁勋:别忘了,即使在 ASIC 中,利润率也相当高。
38:44-38:51 黄仁勋:如果英伟达的利润率是 70%,而 ASIC 的利润率是 65%,你真正节省了什么?你必须付钱给别人。据我所知,ASIC 的利润率极高,那些公司对此相当自豪。
39:06-39:20 黄仁勋:你问为什么这会发生。很久以前,我们根本没有能力做需要做的事。当时,我没有深刻理解建立像 OpenAI 或 Anthropic 这样的基础 AI 实验室会有多难。
39:29-39:37 黄仁勋:我没有意识到他们需要来自供应商本身的大量投资。我们当时没有能力向 Anthropic 投资数十亿美元,让他们使用我们的计算。
39:47-39:56 黄仁勋:但谷歌和 AWS 有。他们在早期投下了巨额投资,作为回报,Anthropic 使用他们的计算。我们当时就是没有能力这样做。
40:05-40:13 黄仁勋:我的错误是没有意识到他们没有其他选择。一个 VC 永远不会只抱着成为 Anthropic 的希望而向一个 AI 实验室投入 50 到 100 亿美元。
40:20-40:33 黄仁勋:那是我的失误。但即使我当时理解了,我也不认为我们当时能做到。我不会再犯同样的错误。我很高兴投资 OpenAI 并帮助他们扩大规模;我相信这是必要的。
40:47-40:54 黄仁勋:当 Anthropic 后来找到我们时,我很高兴成为投资者并帮助他们扩大规模。我们只是最初没能做到。如果我能重来——如果英伟达当时像现在这样大——我会很乐意做。
41:06-41:22 Dwarkesh Patel:这很有意思。多年来,英伟达一直是 AI 中最赚钱的公司。现在你在投资它。有报道称你已经向 OpenAI 和 Anthropic 投入了大量资金。
41:28-41:39 Dwarkesh Patel:它们的估值已经增加,并且可能会继续增加。如果你在几年前它们只值现在十分之一的时候就提供计算,你当时就有现金来做这些交易得更早。
41:47-41:53 Dwarkesh Patel:存在一个世界,英伟达要么自己成为基础实验室,要么更早地做这些交易。你为什么没有更早做?
42:00-42:12 黄仁勋:我们尽快做了。如果我能,我会更早做。当 Anthropic 需要我们时,我们就是没有能力做。这不在我们的意识中。
42:23-42:36 Dwarkesh Patel:是现金问题吗?黄仁勋:是的,投资水平。我们当时在公司外部投资很少。我们没意识到我们需要。我一直以为他们可以像其他公司一样从 VC 那里融资。
42:42-42:56 黄仁勋:但 OpenAI 和 Anthropic 想做的事情通过 VC 是无法完成的。我现在认识到这一点,但我当时不知道。那是他们的天才——他们意识到他们必须用不同的方式构建事情。
43:07-43:17 黄仁勋:尽管我们最初错过了 Anthropic,但我很高兴他们存在。他们的存在对世界很好。
43:17-43:34 Dwarkesh Patel:你仍然一个季度接一个季度地赚很多钱。所以问题是:现在你有了所有这些资本,英伟达应该用它做什么?
43:39-43:53 Dwarkesh Patel:有一个中间商生态系统正在出现,将资本支出转换为运营支出给这些实验室,这样他们就可以租用计算。芯片很贵,但随着模型的改进,它们会在生命周期内产生价值。
44:03-44:13 Dwarkesh Patel:英伟达有资本支出的钱。据报道你以数十亿美元支持 CoreWeave。英伟达为什么不直接成为云提供商或超大规模云提供商,自己出租这些计算?
44:13-44:24 黄仁勋:这是公司的核心理念:我们应该做需要做的事,但尽可能少做。
44:31-44:45 黄仁勋:如果我们不构建我们的计算平台,我真心相信它不会被完成。如果我们没有构建 NVLink、完整堆栈和生态系统——如果我们没有在 CUDA 上投入 20 年并亏损——没有人会做。
44:52-45:09 黄仁勋:十五年前,我们推动领域特定库,因为我们意识到如果我们不创建它们——用于光线追踪、图像生成或数据处理——没有人会。我对此很确定。
45:19-45:35 黄仁勋:我们为计算光刻创建了 cuLitho。如果我们没有,没有人会。加速计算就不会以这种方式前进。所以我们应该全心全意地致力于此。
45:46-45:58 黄仁勋:然而,世界上已经有了很多云。如果我不建云,别人会建。遵循"尽可能少做"的理念,在别人可以介入的地方,我们选择不成为云提供商。
46:04-46:19 黄仁勋:对于像 CoreWeave、Nscale 或 Nebius 这样的"新云"——如果我们不支持它们,它们就不会存在。现在它们做得非常好。
46:25-46:41 黄仁勋:我们投资于我们的生态系统,因为我希望它繁荣。我希望我们的架构和 AI 与尽可能多的行业和国家连接,这样地球就可以建立在美国技术堆栈之上。
46:56-47:08 黄仁勋:有很多很棒的基础模型公司,我们尝试投资所有它们。我们不挑选赢家;我们支持所有人。这对我们的业务是必要的,但我们也不遗余力地保持中立。
47:25-47:35 Dwarkesh Patel:你为什么不遗余力地不挑选赢家?黄仁勋:首先,这不是我们的工作。其次,当英伟达开始时,有 60 家 3D 图形公司。我们是唯一活下来的。
47:42-47:53 黄仁勋:如果你当时看那个名单,英伟达会在"最可能失败"列表的顶部。我们的图形架构完全错误——不只是有一点错误,而是开发者不可能支持。
48:07-48:22 黄仁勋:我们从第一原理推理,但最终得到了错误的解决方案。每个人都会把我们排除在外,但我们在这里。我有足够的谦逊来认识到这一点。不要挑选赢家——要么让他们自己照顾自己,要么照顾他们所有人。
48:31-48:45 Dwarkesh Patel:我困惑了。你说你并不优先考虑新云只是为扶持它们,但然后你说没有英伟达它们就不会存在。这两者怎么兼容?
48:57-49:08 黄仁勋:首先它们必须想要存在。它们带着商业计划、专业知识和热情来找我们。它们需要自己的能力。但如果它们需要投资起步,我们会在那里。
49:19-49:30 黄仁勋:关于你的融资业务的问题:答案是不。有些人的工作是融资,我们宁愿和他们合作,而不是自己成为金融家。
49:37-49:48 黄仁勋:我们的目标是保持我们商业模式的简单性并支持生态系统。当像 OpenAI 这样的公司在其 IPO 前需要 300 亿美元投资,而我们相信它们时,我们会介入。
49:58-50:14 黄仁勋:它们是一家非凡的公司,世界需要它们存在。我们会做那些投资,因为它们需要我们,但我们不试图做尽可能多——我们试图做尽可能少。
51:13-51:25 Dwarkesh Patel:多年来,我们一直生活在 GPU 短缺中,随着模型的改进,短缺在增加。英伟达以分配稀缺资源而闻名。
51:31-51:41 Dwarkesh Patel:你不只是把芯片给出价最高的人;你确保这些新云像 CoreWeave 或 Lambda 得到它们的份额。这对英伟达有什么好处?你同意那种"碎片化"市场的描述吗?
51:49-52:07 黄仁勋:不,那个前提是错的。我们非常注意这些事情。首先,如果你不下采购订单,世界上所有的谈话都不重要。
52:12-52:30 黄仁勋:我们与每个人努力进行预测,因为数据中心需要很长时间来建造。我们通过这个过程对齐需求和供应。但最终,你还是得下单。
52:37-52:49 黄仁勋:如果你不下单,我能做什么?通常是先到先得。除此之外,如果你的数据中心还没准备好或者你缺少组件来搭建,我们可能会先服务另一个客户。
53:04-53:16 黄仁勋:那只是最大化我们自己的工厂吞吐量。除了那些调整,就是先到先得。你必须下 PO。
53:27-53:44 黄仁勋:关于这个有一些故事——比如有文章说 Larry Ellison 和 Elon Musk 在晚餐时求我给他们 GPU。那从未发生过。我们吃了一顿很棒的晚餐,但他们没有求。他们只是下了个订单。
53:55-54:09 Dwarkesh Patel:所以是基于 PO 和数据中心准备情况的队列。但这听起来仍然不是出价最高的人就能插队。为什么不直接卖给出价最高的人?
54:17-54:31 黄仁勋:因为那是糟糕的商业实践。你定好价格,人们决定是否购买。我知道芯片行业其他人在需求激增时改变价格,但我们不。
54:39-54:57 黄仁勋:这从来不是我们的做法。我更喜欢可靠——成为行业的基础。如果我给你报一个价,那就是价格。如果需求暴涨,那就这样吧。
55:05-55:14 Dwarkesh Patel:这就是你和台积电有如此良好的合作关系的原因吗?黄仁勋:是的,我们和他们做了近 30 年的生意。我们甚至没有正式的法律合同。
55:23-55:37 黄仁勋:总有一些"粗略的正义"——有时我得到更好的交易,有时他们得到。但关系建立在完全的信任和可靠性上。
55:37-55:57 黄仁勋:你可以信赖英伟达。今年,Blackwell 很了不起。明年,Blackwell Ultra。后年,Feynman。每年,我们都交付。你找不到另一个 ASIC 团队,让你可以把整个业务押注在它每年都会在你身边。
56:08-56:20 黄仁勋:我们确保你的令牌成本每年下降一个数量级。你可以像钟表一样信赖它。我对台积电也可以这么说。
56:35-56:49 黄仁勋:无论你想购买 10 亿美元的计算、1000 万美元,还是仅仅一个图形卡,都没问题。如果你想为一个人工智能工厂订购 1000 亿美元,我们是今天唯一能处理的公司。
57:12-57:29 黄仁勋:成为世界 AI 产业的基础,需要几十年的承诺和奉献。我们公司的稳定性和一致性至关重要。
57:38-57:58 Dwarkesh Patel:我想问关于中国的问题。我还没有决定出售芯片是否好,但我将扮演魔鬼代言人。当 Dario Amodei 来时,他支持出口管制,所以我问他为什么我们不能在两个国家都有天才。
57:58-58:13 Dwarkesh Patel:既然你站在另一边,我就问相反的问题。Anthropic 最近提到一个模型,"Mythos",他们不会公开发布,因为它的网络攻击能力。它发现了主要操作系统中的数千个高严重性漏洞。
58:32-58:44 Dwarkesh Patel:如果中国政府有芯片来训练和运行这样的模型,这难道不对美国国家安全构成威胁吗?
58:44-59:01 黄仁勋:首先,Mythos 是由一家非凡的公司在相当普通的算力上训练的。那种级别的算力在中国很充足。
59:08-59:23 黄仁勋:中国已经有了芯片;他们制造了世界上超过 60% 的主流芯片。他们也有一些世界上最伟大的计算机科学家。
59:28-59:39 黄仁勋:西方实验室的大多数 AI 研究员是中国人;他们占世界 AI 研究人才的一半。
59:39-59:55 黄仁勋:考虑到他们有能源、芯片和研究人员,问题是:创造安全世界的最好方法是什么?是通过迫害他们,把他们变成敌人吗?
01:00:08-01:00:16 黄仁勋:很可能不是最好的答案。他们是竞争对手。我们希望美国赢。
01:00:16-01:00:23 黄仁勋:但我认为进行对话——特别是研究对话——可能是最安全的事情。
01:00:23-01:00:35 黄仁勋:这是一个由于我们当前对中国的敌对态度而明显缺失的领域。至关重要的是,我们的 AI 研究员和他们的 AI 研究员实际上应该在交流。
01:00:35-01:00:49 黄仁勋:至关重要的是,我们试图就 AI 不该被用于什么达成一致。关于在软件中查找漏洞,当然,这正是 AI 应该做的。
01:00:49-01:01:03 黄仁勋:它会不会在很多软件中发现漏洞?当然。有很多很多漏洞。AI 软件本身也有很多漏洞。
01:01:03-01:01:20 黄仁勋:这正是 AI 被设计来做的,我很高兴 AI 已经达到了一个可以帮助我们如此高效的水平。有一件事被低估了,那就是网络安全生态系统的丰富性。
01:01:20-01:01:34 黄仁勋:有一整个专注于 AI 安全、隐私和安全的 AI 初创公司生态系统。他们试图为我们创造一个未来,让你有一个不可思议的 AI 智能体,被成千上万其他 AI 智能体保护着,确保它的安全。
01:01:34-01:02:02 黄仁勋:那个未来肯定会发生。认为你会有一个 AI 智能体到处跑而没人看管,这有点疯狂。我们非常清楚这个生态系统需要繁荣。
01:02:02-01:02:11 黄仁勋:事实证明,这个生态系统需要开源。它需要开放模型和开放堆栈,以便所有这些 AI 研究员和计算机科学家能够构建足够强大的 AI 系统来保持 AI 安全。
01:02:11-01:02:22 黄仁勋:所以,我们需要确保的一件事是保持开源生态系统的活力。这不能被忽视。很多这种创新来自中国。
01:02:22-01:02:37 黄仁勋:我们不应该扼杀它。关于中国,当然我们希望美国拥有尽可能多的计算能力。
01:02:37-01:03:00 黄仁勋:我们受限于能源,但我们有很多人在解决这个问题。我们不能让能源成为我们国家的瓶颈。
01:03:00-01:03:14 黄仁勋:但我们也想要确保世界上所有 AI 开发者都在美国技术堆栈上开发,并使他们的贡献和进步——尤其是开源的——对美国生态系统可用。
01:03:14-01:03:28 黄仁勋:如果创建两个独立的生态系统,那将极其愚蠢:一个只在外围技术堆栈上运行的开源生态系统,和一个在美国技术堆栈上运行的封闭生态系统。
01:03:28-01:03:38 黄仁勋:我认为那对美国来说将是一个可怕的结果。
01:03:38-01:03:44 Dwarkesh Patel:因为有很多点,让我先分类回应。
01:03:44-01:03:55 Dwarkesh Patel:我认为担忧,回到黑客的"flops"差异,是他们虽然有算力,但一些估计表明,由于他们被困在 7nm——并且由于出口管制没有 EUV 机器——他们实际能生产的 flops 数量大约是美国的十分之一。
01:03:55-01:04:07 Dwarkesh Patel:那么,他们最终能训练出一个像 Mythos 这样的模型吗?是的。但因为我们有更多的 flops,美国实验室能够首先达到这些能力水平。
01:04:07-01:04:22 Dwarkesh Patel:因为 Anthropic 先达到了,他们可以说,"好的,我们将保留这个一个月,同时美国公司有机会修补他们的漏洞,然后我们再发布。"
01:04:22-01:04:31 Dwarkesh Patel:此外,即使他们训练了这样的模型,大规模部署的能力也很重要。一个网络黑客如果有百万个智能体而不是一千个,就会危险得多。
01:04:31-01:04:39 Dwarkesh Patel:所以,推理算力真的很重要。他们拥有这么多有才华的 AI 研究员这一事实,实际上正是它可怕的原因,因为是什么让那些研究员更高效?是算力。
01:04:39-01:04:48 Dwarkesh Patel:如果你和任何美国 AI 实验室谈话,他们会说主要的瓶颈是算力。
01:04:48-01:04:54 Dwarkesh Patel:DeepSeek 创始人和 Qwen 领导层也有同样的说法:他们受限于算力。
01:04:54-01:05:07 Dwarkesh Patel:所以,美国公司因为有更多算力,首先达到 Mythos 级别的能力,并在中国达到之前让我们的社会做好准备,这难道不是更好吗?
01:05:07-01:05:17 黄仁勋:我们应该永远第一,我们应该永远拥有更多。但为了使你描述的结果成立,你必须把它推向极端。他们必须完全没有算力。
01:05:17-01:05:26 黄仁勋:如果他们有一些算力,问题是:需要多少?他们在中国的算力已经是巨大的。
01:05:26-01:05:34 黄仁勋:你谈论的是世界第二大计算市场。如果他们想聚合他们的算力,他们有很多可以用的。
01:05:34-01:05:44 Dwarkesh Patel:但这是真的吗?人们做这些估计,说 SMIC 实际上在工艺节点上落后了。
01:05:44-01:05:52 黄仁勋:我正要告诉你。他们的能源量是惊人的。对吧?
01:05:52-01:05:58 黄仁勋:AI 是一个并行计算问题。为什么他们不能因为能源对他们来说基本上是免费的,而放四倍或十倍数量的芯片在一起?
01:05:58-01:06:11 黄仁勋:他们有这么多能源。他们有完全空置但完全通电的数据中心。你知道他们有"鬼城"——嗯,他们也有"鬼数据中心"。
01:06:11-01:06:20 黄仁勋:他们有巨大的基础设施容量。如果他们愿意,他们可以聚集更多的芯片,即使它们是 7nm。他们制造芯片的能力是世界上最大的之一。
01:06:20-01:06:30 黄仁勋:半导体行业知道他们垄断了主流芯片。他们有超额产能。
01:06:30-01:06:37 黄仁勋:所以认为中国将无法拥有 AI 芯片的想法完全是胡说八道。
01:06:37-01:06:45 黄仁勋:当然,如果你问我,如果整个世界完全没有算力,美国是否会领先——当然。
01:06:45-01:06:51 黄仁勋:但那不是一个现实的场景。他们已经有很多算力了。
01:06:51-01:06:59 黄仁勋:他们需要的用于你所担忧的阈值——他们已经达到了,甚至超过了。
01:06:59-01:07:10 黄仁勋:我认为你可能误解了 AI 就像一个五层蛋糕,最底层是能源。当你拥有丰富的能源时,它可以弥补缺乏尖端芯片的不足。
01:07:10-01:07:17 黄仁勋:相反,如果你有丰富的芯片,它可以弥补能源的不足。例如,美国缺乏能源。
01:07:17-01:07:28 黄仁勋:这就是为什么英伟达必须不断推进我们的架构,做这种极端的协同设计。因为能源有限,我们的每瓦吞吐量必须非常高。
01:07:28-01:07:41 黄仁勋:但如果你的能源供应丰富且免费,你为什么要在乎每瓦性能?你只用更多。你可以用更旧的芯片来完成工作。
01:07:41-01:07:51 黄仁勋:7nm 芯片基本上就是 Hopper 一代。我必须告诉你,今天的模型很大程度上是在 Hopper 一代上训练的。
01:07:51-01:08:01 黄仁勋:所以 7nm 芯片就足够了。他们丰富的能源是他们的优势。
01:08:01-01:08:12 Dwarkesh Patel:但还有他们是否真的能制造足够多的那些芯片的问题。
01:08:12-01:08:18 黄仁勋:但他们确实能。证据是什么?华为刚刚度过了其公司历史上最大的一年。
01:08:18-01:08:27 Dwarkesh Patel:他们出货了多少芯片?
01:08:27-01:08:35 黄仁勋:很多。数百万。数百万芯片比 Anthropic 拥有的多得多。
01:08:35-01:08:42 Dwarkesh Patel:还有一个问题是 SMIC 能出货多少逻辑芯片,以及内存的问题。
01:08:42-01:08:51 黄仁勋:我告诉你:他们有足够的逻辑芯片和 HBM2 内存。
01:08:51-01:09:02 Dwarkesh Patel:对,但如你所知,训练和推理的瓶颈通常是带宽。如果你用 HBM2 对比最新标准,内存带宽可能有一个数量级的差异,这很大。
01:09:02-01:09:02 黄仁勋:华为是一家网络公司。
01:09:02-01:09:10 Dwarkesh Patel:但这不改变你需要 EUV 来制造最先进 HBM 的事实。
01:09:10-01:09:19 黄仁勋:不是真的。完全不是。你可以把它们聚集在一起,就像我们用 NVL72 做的那样。他们已经展示了硅光子学,将所有计算连接成一个巨型超级计算机。
01:09:19-01:09:26 黄仁勋:你的前提就是错的。事实是,他们的 AI 发展进行得很好。
01:09:26-01:09:33 黄仁勋:世界上最好的 AI 研究员,因为他们受限于算力,会想出极其聪明的算法。
01:09:33-01:09:39 黄仁勋:记住,我说过摩尔定律每年进步约 25%。
01:09:39-01:09:45 黄仁勋:然而,通过伟大的计算机科学,我们仍然可以将算法性能提高 10 倍。
01:09:45-01:09:52 黄仁勋:我说的是,伟大的计算机科学才是真正的杠杆。
01:09:52-01:09:58 黄仁勋:毫无疑问,混合专家(MoE)是一项伟大的发明。毫无疑问,先进的注意力机制减少了所需的算力。
01:09:58-01:10:13 黄仁勋:我们必须承认,AI 的大部分进步来自算法突破,而不仅仅是原始硬件。
01:10:13-01:10:19 黄仁勋:现在,如果大部分进步来自算法和编程,告诉我他们那支 AI 研究员大军不是一个基本优势。
01:10:19-01:10:31 黄仁勋:我们看到了。DeepSeek 不是一项无关紧要的进步。DeepSeek 首先在华为硬件上出现——那对我们国家来说是一个可怕的结果。
01:10:31-01:10:40 Dwarkesh Patel:为什么?目前,像 DeepSeek 这样的模型如果是开源的,可以在任何加速器上运行。为什么未来会改变?
01:10:40-01:10:48 黄仁勋:假设它不会。假设它专门针对华为的架构进行了优化。那将使我们的处于劣势。
01:10:48-01:10:58 黄仁勋:你描述了一个我认为是好消息的情况:一家公司开发了一个在美国技术堆栈上运行最佳的 AI 模型。我认为那是一个胜利。
01:10:58-01:11:06 黄仁勋:你把它说成是坏消息。我告诉你真正的坏消息:当世界各地的 AI 模型被开发为在非美国硬件上运行最佳时。
01:11:06-01:11:15 黄仁勋:那对我们来说是坏消息。
01:11:15-01:11:27 Dwarkesh Patel:我想我只是看不到阻止你切换加速器的证据。美国实验室正在跨所有云和不同加速器运行他们的模型。
01:11:27-01:11:33 黄仁勋:我就是证据。把一个为英伟达优化的模型,尝试在其他东西上运行。
01:11:33-01:11:41 Dwarkesh Patel:但美国实验室确实这么做。
01:11:41-01:11:51 黄仁勋:而且它们运行得不好。英伟达的成功就是完美的证据。AI 模型在我们的堆栈上创建,并在我们的堆栈上运行最佳——这很难理解吗?
01:11:51-01:11:58 Dwarkesh Patel:Anthropic 的模型运行在 GPU、Trainium 和 TPU 上。为了实现这一点,做了很多工作。
01:11:58-01:12:07 黄仁勋:但看看全球南方或中东。如果开箱即用,所有 AI 模型都在别人的技术堆栈上运行最佳,你得出一个荒谬的说法说那对美国好。
01:12:07-01:12:18 Dwarkesh Patel:我想我不明白这个论点。假设中国公司首先达到下一个"Mythos"。他们首先发现美国软件中的所有安全漏洞。
01:12:18-01:12:24 Dwarkesh Patel:但他们是在英伟达硬件上做的,并运到全球南方。那怎么是好事?
01:12:24-01:12:33 黄仁勋:那不好。所以让我们不要让它发生。你为什么认为它是完全可以替代的——如果你不给他们运送算力,它会被华为完全替代?
01:12:33-01:12:42 Dwarkesh Patel:他们落后,对吧?他们有比你更差的芯片。
01:12:42-01:12:49 黄仁勋:现在就有证据。他们的芯片产业是巨大的。
01:12:49-01:12:56 Dwarkesh Patel:你可以看看 H200 和华为 910C 之间的 flops 或带宽对比。大概是一半到三分之一。
01:12:56-01:13:05 黄仁勋:所以他们用两倍的数量。
01:13:05-01:13:14 Dwarkesh Patel:你的论点似乎是,他们有所有这些能源准备好,需要芯片来填充。他们擅长制造,并且最终可能超过所有人。但有几个关键的年份。
01:13:14-01:13:14 黄仁勋:你在说什么关键年份?
01:13:14-01:13:22 Dwarkesh Patel:未来几年。我们有即将到来的模型能够进行重大网络攻击。
01:13:22-01:13:32 黄仁勋:那样的话,如果未来几年很关键,我们必须确保在此期间世界上所有 AI 模型都建立在美国技术堆栈上。
01:13:32-01:13:44 Dwarkesh Patel:如果他们建立在美国技术堆栈上,如果他们有先进能力,这如何阻止他们发动等同于 Mythos 的网络攻击?不管怎样都没有保证。
01:13:44-01:13:54 黄仁勋:但如果你早点拥有它,我们可以做准备。听着,你为什么让 AI 产业的一个层次失去整个市场,只为了让另一个层次受益?
01:13:54-01:14:05 黄仁勋:有五层,每一层都必须成功。最需要成功的一层实际上是 AI 应用。
01:14:05-01:14:15 黄仁勋:你为什么如此执着于那一个 AI 模型或那一家公司?
01:14:15-01:14:23 Dwarkesh Patel:因为那些模型实现了令人难以置信的攻击能力,你需要算力来运行它们。能源、芯片和研究人员的生态系统使其成为可能。
01:14:23-01:14:31 Dwarkesh Patel:几个月前,Jane Street 花了大约 20000 GPU 小时将后门植入三个不同的语言模型。他们挑战我的观众找到触发短语。
01:14:31-01:14:41 Dwarkesh Patel:我刚刚与设计谜题的 Ricson 讨论了答案。他指出,如果你有一个基础模型和一个后门模型,你可以线性插值权重来调整后门的强度。
01:14:41-01:14:49 Dwarkesh Patel:你甚至可以外推它使后门更强。在某些情况下,如果你让它足够强,模型会直接吐露它应该隐藏的回应短语。
01:14:49-01:14:57 Dwarkesh Patel:如果你不断放大基础版本和后门版本之间的差异,它最终应该会吐出触发短语。
01:14:57-01:15:05 Dwarkesh Patel:但这种技术只对三个模型中的两个有效。连 Ricson 也不确定为什么在第三个上失败。验证一个模型只做你认为它做的事情,是 AI 安全中的一个重大未解决问题。
01:15:05-01:15:15 Dwarkesh Patel:如果这种问题让你兴奋,Jane Street 正在招聘研究员和工程师。访问 janestreet.com/dwarkesh 了解更多。
01:15:15-01:15:24 Dwarkesh Patel:好的,退一步:中国能够建立足够的 7nm 产能。但他们被困在那里,而你转向 3nm、2nm,然后 1.6nm 的 Feynman。
01:15:24-01:15:34 Dwarkesh Patel:所以当你在 1.6nm 时,他们仍然在 7nm,他们必须生产足够来弥补差距。
01:15:34-01:15:43 Dwarkesh Patel:他们有这么多能源,你给他们的芯片越多,他们拥有的算力就越多。最终,他们得到更多的算力,这是训练和推理的输入。
01:15:43-01:15:53 黄仁勋:听着,我认为你在说绝对的话。我同意美国应该领先。美国的算力是其他任何地方的 100 倍。
01:15:53-01:16:00 黄仁勋:美国是领先的。英伟达构建了最先进的技术。我们确保美国实验室最先听说,并有第一个机会购买。
01:16:00-01:16:09 黄仁勋:如果他们钱不够,我们甚至投资他们。我们想尽我们所能确保美国保持领先。你同意这一点吗?
01:16:09-01:16:17 Dwarkesh Patel:我们正在尽一切努力。但如果他们受限于算力,向中国运送芯片如何让美国保持领先?
01:16:17-01:16:26 黄仁勋:不,不。我们有 Vera Rubin 给美国。
01:16:26-01:16:33 黄仁勋:现在,我在美国吗?你认为我是美国的一部分吗?
01:16:33-01:16:40 Dwarkesh Patel:是的,英伟达是美国公司。
01:16:40-01:16:48 黄仁勋:好的。那我们为什么不想出一个更平衡的法规,让英伟达能在全世界获胜,而不是放弃全球市场?
01:16:48-01:16:56 黄仁勋:你为什么想让美国放弃世界?芯片产业是美国生态系统和技术领导力的一部分。
01:16:56-01:17:08 黄仁勋:它是 AI 领导力的一部分。为什么你的哲学导致美国放弃世界市场的很大一部分?
01:17:08-01:17:16 Dwarkesh Patel:我想这里的宣称是——Dario [Amodei] 有句话,他说这就像波音公司吹嘘他们卖给朝鲜核武器,但没关系,因为导弹外壳是波音制造的。
01:17:16-01:17:24 Dwarkesh Patel:想法是,你从根本上给了他们这种能力。
01:17:24-01:17:34 黄仁勋:把 AI 与你刚才提到的任何东西相比,是疯狂的。
01:17:34-01:17:41 Dwarkesh Patel:但 AI 类似于浓缩铀,对吧?它有正面用途和负面用途。我们仍然不想把浓缩铀送到其他国家。
01:17:41-01:17:48 黄仁勋:谁在送浓缩——?
01:17:48-01:17:59 Dwarkesh Patel:类比是,浓缩铀就像算力。
01:17:59-01:18:08 黄仁勋:这是一个糟糕的、不合逻辑的类比。如果那个算力能运行一个模型,对美国软件进行零日利用,那怎么不是武器?
01:18:08-01:18:16 黄仁勋:首先,解决这个问题的方法是与中国和其他国家的研究员进行对话,确保人们不那样使用技术。那个对话必须发生。
01:18:16-01:18:24 黄仁勋:第二,我们需要确保美国领先——Blackwell 和 Vera Rubin 在这里充足供应。
01:18:24-01:18:31 黄仁勋:我们的结果显示了这一点:我们有大量的算力和了不起的研究员。我们应该保持领先。
01:18:31-01:18:45 黄仁勋:然而,我们也必须认识到 AI 是一个五层蛋糕。产业在每一层都很重要,我们希望美国在每一层都获胜,包括芯片层。
01:18:45-01:18:54 黄仁勋:放弃整个市场不会让美国在计算堆栈的长期技术竞赛中获胜。这就是事实。
01:18:54-01:19:04 Dwarkesh Patel:我想关键点是:现在卖给他们芯片如何帮助我们在长期获胜?
01:19:04-01:19:13 黄仁勋:特斯拉很长时间向中国销售高质量的电动汽车。iPhone 也在那里销售。那并没有导致我们被"锁定";中国仍然制造了他们自己的版本,现在他们在主导。
01:19:13-01:19:23 黄仁勋:当我们今天开始时,你承认英伟达的地位是不同的。你用了"护城河"这样的词。
01:19:23-01:19:30 黄仁勋:对我们公司来说,最重要的一件事是我们生态系统的丰富性,这关乎开发者。50% 的 AI 开发者在 中国。美国不应该放弃这个。
01:19:30-01:19:40 Dwarkesh Patel:但我们在美国有大量的英伟达开发者,这并不阻止美国实验室使用其他加速器。他们已经在做了,这没问题。
01:19:40-01:19:53 Dwarkesh Patel:我不明白为什么在中国会不同。如果你卖给他们英伟达芯片,他们仍然可以使用 TPU 或其他东西,就像谷歌做的那样。
01:19:53-01:20:03 黄仁勋:我们必须不断创新。如你所知,我们的市场份额在增长,而不是缩小。你认为即使我们竞争也会失去那个市场的前提……
01:20:03-01:20:12 黄仁勋:你不是在和一个醒来就是输家的人说话。那种"失败者态度"对我来说毫无意义。
01:20:12-01:20:20 黄仁勋:我们不是汽车。你可以今天买一个汽车品牌,明天轻易换另一个。计算不是那样的。
01:20:20-01:20:26 黄仁勋:x86 交易存在是有原因的。ARM 如此有粘性是有原因的。这些生态系统很难被替代。
01:20:26-01:20:33 黄仁勋:它需要大量的时间和精力,大多数人不想做。
01:20:33-01:20:42 黄仁勋:所以我们的工作是培育那个生态系统并推进技术,这样我们就能竞争。根据你的前提放弃一个市场毫无意义,因为我不认为美国是输家。
01:20:42-01:20:49 黄仁勋:我们的行业不是输家。那种心态对我来说很陌生。
01:20:49-01:20:59 Dwarkesh Patel:好的,我继续。我只想确保——
01:20:59-01:21:04 黄仁勋:你不需要继续。我很享受这个。
01:21:04-01:21:10 Dwarkesh Patel:好的,很好。我很感激。我想关键点——谢谢你陪我绕圈子,这有助于澄清——是你的论点从一个极端开始。
01:21:10-01:21:21 Dwarkesh Patel:想法是,如果我们在这一狭窄时刻给他们任何算力,我们就失去一切。
01:21:21-01:21:30 黄仁勋:那些极端是幼稚的。
01:21:30-01:21:37 Dwarkesh Patel:让我提出我自己的论点。想法不是有一个神奇的算力阈值。而是任何边际算力都是有帮助的。
01:21:37-01:21:46 Dwarkesh Patel:如果你有更多算力,你可以训练更好的模型。我希望你承认,虽然边际销售对美国科技行业有好处——
01:21:46-01:21:52 黄仁勋:我实际上不——
01:21:52-01:22:00 Dwarkesh Patel:如果运行在这些芯片上的 AI 模型具有进攻性网络能力,它不是核武器,但它实现了某种武器。
01:22:00-01:22:09 黄仁勋:按照那个逻辑,你不如对微处理器、DRAM,甚至电也这么说。
01:22:09-01:22:17 Dwarkesh Patel:但我们确实对制造先进 DRAM 和其他芯片制造设备的相关技术有出口管制。
01:22:17-01:22:26 Dwarkesh Patel:我们卖很多 DRAM 和 CPU 给中国,我认为那是正确的。但 AI 不同吗?
01:22:26-01:22:35 Dwarkesh Patel:如果他们能在软件中发现零日漏洞,我们难道不想最小化中国首先达到并广泛部署的能力吗?
01:22:35-01:22:42 黄仁勋:我们希望美国领先。我们可以控制那个。
01:22:42-01:22:50 Dwarkesh Patel:如果芯片已经在那里用于训练那些模型,我们如何控制?
01:22:50-01:22:59 黄仁勋:我们有大量的算力和研究员。我们在尽可能快地竞赛。再一次,我们拥有的核武器比任何人都多,但我们不把浓缩铀送到别处。
01:22:59-01:23:08 黄仁勋
01:30:07-01:31:34 黄仁勋:Mythos 很重要,当然。那很棒。但几年后,我做一个预测:当我们希望美国技术堆栈和美国技术扩散到世界各地——印度、中东、非洲和东南亚——我们的国家会想要出口。我们会想要出口我们的技术和我们的标准。在那一天,我希望你和我再次进行同样的对话。黄仁勋:我会提醒你今天的对话,以及你的政策和你想象的东西如何毫无道理地导致美国放弃了世界第二大市场。我们不应该放弃它。如果我们失去它,我们失去它,但为什么要放弃?现在,没有人提倡"全有或全无"的方法,意思是我们随时向中国运送一切。没人建议那样。我们应该总是首先在这里拥有最好的技术,但我们也应该尝试在世界范围内竞争和获胜。这两件事可以同时发生。它需要一定程度的细微差别和成熟,而不是用绝对术语思考。世界就不是由绝对组成的。
01:31:34-01:32:17 采访者:好的,论点取决于这一点:他们已经为最好的芯片构建了特定模型,这些芯片是他们能制造的。几年后,这些芯片出口到世界各地,并制定标准。由于 EUV 出口管制,正如我们所讨论的,你将转向 1.6nm,而他们即使几年后仍然在 7nm。对他们来说,国内这样说可能有道理:"嘿,我们有这么多能源,我们可以大规模制造,所以我们会继续用 7nm。"但关于出口,他们的 7nm 芯片必须与你的 1.6nm 芯片竞争。他们的模型必须如此高度优化于 7nm,以至于在 7nm 上运行比在你的 1.6nm 硬件上更好。
01:32:17-01:33:58 黄仁勋:我们能不能看看事实?Blackwell 的光刻技术比 Hopper 先进 50 倍吗?是 50 倍吗?远非如此。我已经说了很多遍了:摩尔定律死了。在 Hopper 和 Blackwell 之间,晶体管本身在三年内可能改进了 75%。然而,Blackwell 比 Hopper 强大 50 倍。我的观点是,架构很重要。计算机科学很重要。半导体物理学也很重要,但计算机科学是关键。黄仁勋:AI 的影响很大程度上来自计算堆栈,这就是为什么 CUDA 如此有效,如此受欢迎。它是一个生态系统和计算架构,允许巨大的灵活性。如果你想完全改变架构——创建像混合专家(MoE)、扩散模型或分解的东西——你可以轻松做到。事实是,AI 既关乎上层的堆栈,也关乎下层的架构。就我们拥有针对我们生态系统优化的软件堆栈而言,这显然是一个优势。我们今天开始时就在谈论英伟达的生态系统有多丰富。人们总是更喜欢首先为 CUDA 编程——包括中国的研究员。
01:33:58-01:35:06 黄仁勋:但如果我们被迫离开中国,那是一个政策错误。显然,它有一个反弹,对美国结果不好。它促成并加速了他们的内部芯片行业。它迫使他们的整个 AI 生态系统专注于内部架构。还不算太晚,但它已经发生了。未来,你会看到他们没有困在 7nm;他们擅长制造,会继续进步。现在,5nm 和 7nm 之间有 10 倍差异吗?答案是 没有。架构很重要。网络很重要——这就是为什么英伟达收购了 Mellanox。能源很重要。所有这些都很重要。这不像你试图让它变得那么简单。
01:35:06-01:35:41 采访者:我们可以从中国移开,但这提出了一个有趣的问题。我们之前在讨论台积电和内存供应的瓶颈。如果我们处于一个你已经控制了大部分 N3 产能——并最终 N2 产能——的世界,你看到回到 N7 以使用旧工艺节点闲置产能的场景吗?你能不能说:"对 AI 的需求如此巨大,而领先产能无法满足,所以我们将利用我们对现代数值和描述的那些改进的一切知识,制造一个 Hopper 或 Ampere 芯片"?你看到这在 2030 年之前发生吗?
01:35:41-01:36:42 黄仁勋:没有必要。原因是,每一代架构不仅仅是晶体管缩放。你在封装、堆叠、数值格式和系统架构上做了大量工程。当产能耗尽时,试图回到旧节点需要没有人能负担得起的研发水平。我们可以负担得起向前倾斜;我认为我们负担不起向后。现在,如果世界简单地说——让我们做思想实验——"听着,我们永远不会有更多产能了,"我是否会回头用 7nm?毫不犹豫。我当然会。
01:36:42-01:37:04 采访者:我与之交谈过一个人有一个问题:为什么英伟达不同时进行多个具有完全不同架构的芯片项目?你可以做像 Cerebras 那样的晶圆级芯片,像 Dojo 那样的大封装,或者甚至一个没有 CUDA 的。你有资源和人才来并行做这些。鉴于 AI 和架构的未来可能不可预测,为什么把所有鸡蛋放在一个篮子里?
01:37:04-01:38:00 黄仁勋:哦,我们可以。只是我们没有更好的想法。我们可以做所有这些事情,但它们不好。我们在模拟器中模拟了所有,它们被证明更差,所以我们不会做。我们正在做的正是我们想做的项目。如果工作负载发生戏剧性变化——我不是说算法,我说的是实际工作负载,它取决于市场形态——我们可能会决定添加其他加速器。例如,我们最近添加了 Groq,我们将把它整合到我们的 CUDA 生态系统中。
01:38:00-01:39:21 黄仁勋:我们现在这样做是因为令牌的价值已经变得如此之高,以至于你可以有不同的定价层级。几年前,令牌要么免费,要么非常便宜。但现在,客户想要不同类型的答案。因为客户——比如我们的软件工程师——可以从它们那里赚很多钱,我愿意为更响应的令牌付费,以使他们更加高效。那个市场只是最近才出现。我们现在有能力根据响应时间对同一个模型进行分段。这就是为什么我们决定扩展帕累托边界,创建一个响应时间更快、吞吐量较低的推理细分市场。直到现在,更高的吞吐量一直被认为更好。我们认为可能存在一个世界,其中非常高价值的令牌使得溢价价格弥补了较低的工厂吞吐量。这就是我们这样做的原因。否则,从架构角度来看,如果我有更多钱,我会只是更多地投入到英伟达当前的架构上。
01:39:21-01:39:55 采访者:关于极高价值令牌和推理市场细分的想法非常有趣。好的,最后一个问题:假设深度学习革命没有发生。英伟达会做什么?显然是游戏,但考虑到你的轨迹——
01:39:55-01:41:57 黄仁勋:加速计算——和我们一直在做的一样。我们公司的前提是,虽然通用计算对很多事好,但它不理想于很多重型计算。我们将 GPU 架构和 CUDA 与 CPU 结合起来加速那些工作负载。不同的内核代码或算法可以卸载到我们的 GPU,将应用加速 100 倍或 200 倍。你可以用在工程、科学、物理、数据处理、计算机图形学和图像生成上。黄仁勋:即使 AI 今天不存在,英伟达也会非常非常大。原因是根本性的:通用计算继续缩放的能力基本上已经到头了。前进的道路是通过领域特定加速。我们从计算机图形学开始,但还有许多其他领域——粒子物理、流体、结构化数据处理——都受益于 CUDA。我们的使命是将加速计算带给世界,并推进通用 CPU 无法处理的应用,帮助在各个科学领域取得突破。早期应用包括分子动力学、用于能源发现的地震处理,以及图像处理。如果没有 AI,我会很难过,但我们在计算上的进步使得深度学习民主化。我们使任何地方的研究员、科学家或学生都能访问一台 PC 或 GeForce 卡,做出惊人的科学。这个根本承诺一点也没变。
01:41:57-01:43:00 黄仁勋:如果你看 GTC 的开场,里面几乎没有 AI。我们展示计算光刻、量子化学和数据处理——所有这些都与 AI 无关,但仍然非常重要。我知道 AI 很令人兴奋,但有很多人做与 AI 无关的重要工作,张量不是唯一的计算方式。我们想帮助所有人。
01:43:00-01:43:05 采访者:黄仁勋,非常感谢你。
01:43:05-01:43:07 黄仁勋:不客气。我很享受。
01:43:07-01:43:08 采访者:我也是。由 Transcript Desk Chrome 扩展程序生成。
🔗 原文链接
https://thetranscriptdesk.substack.com/p/jensen-huang-will-nvidias-moat-persist