Appearance
Daniela Amodei，Anthropic联合创始人兼总裁：以正确的方式构建AI | 编辑版文字记录
原文标题: Daniela Amodei, Co-Founder and President of Anthropic: Building AI the Right Way | Edited Transcript 来源: The Transcript Desk
💡 核心观点
- AI泡沫风险聚焦资本支出与算力投入：Daniela Amodei认为行业最大的泡沫风险在于高资本支出模式，特别是提前大量采购昂贵算力的“赌注”。若未来收入预期改变，将对像Anthropic和OpenAI这样的公司构成重大财务风险，投资者需密切关注其算力成本的回报率和现金流可持续性。
- AI安全是商业护城河而非负担：她明确指出，在企业客户层面，模型的安全性和可靠性是核心商业需求。安全优先的路线与收入目标是高度一致的，因为大企业普遍厌恶风险。因此，投资那些将安全实践作为差异化竞争力和品牌核心的公司，可能比追求速度的公司更具长期价值。
- 未来就业方向是“增强”而非“取代”：投资者应关注AI作为“能力增强器”带来的新市场。Daniela指出，AI将更多赋能工人（如软件开发中的沟通协作部分），而非消灭岗位。这预示着未来对“人机协作”模式和培养软技能（如沟通、共情）的教育市场将迎来重大机遇。
📖 中文全文
这是一份经过专业编辑的Daniela Amodei（Anthropic联合创始人兼总裁）演讲《以正确的方式构建AI》的文字记录。为提升可读性，进行了轻微格式调整，同时保留了讨论内容的实质。
节目指南 00:00:00 引言 00:00:37 从文学学位到硅谷 00:05:00 学习AI的语言 00:06:52 创立Anthropic 00:08:56 选择你可以与之争论的联合创始人 00:11:31 AI安全的真正含义 00:16:40 AI世界中的未来工作 00:19:15 让社会为AI转型做好准备 00:21:23 硅谷之外的AI应用 00:24:00 与AI共存的未来 00:27:50 哪些技能最重要 00:30:00 最喜欢的AI用例 00:33:00 给下一代建设者的建议 00:35:35 Q&A：我们处在AI泡沫中吗？ 00:38:27 Q&A：政府监管与创新 00:40:35 Q&A：隐私与个人数据 00:43:40 快速问答 00:46:47 她收到过的最好建议
由以下软件生成：Transcript Desk Chrome扩展程序 完整视频：在这次《巅峰视角》访谈中，2026届MBA学生Gintare Zukauskaite与Anthropic联合创始人兼总裁Daniela Amodei进行了对话。
文字记录
00:07 采访者： Daniela，欢迎来到斯坦福和《巅峰视角》。 Daniela Amodei： 非常感谢邀请我。我今天非常兴奋能来到这里。 采访者： 如你所见，我们座无虚席。我想先问问观众：使用过Claude（云服务）的人请举手。【许多人举手并欢呼】 采访者： 哇，好的！现在，如果Sam Altman在这里，问你们是否用过ChatGPT，你们所有人都会举手吗？我们诚实点。【观众笑】 采访者： 不过，你在这里仍然有非常支持的观众。你和你兄弟帮助建立了世界上最重要的AI公司之一，但你们俩都不是从小就计划好的。你的背景是文科——你学的是英国文学——而且你早期的职业生涯是在政界。能多分享一些你最初的职业规划吗？ Daniela Amodei： 哦，天哪，首先，谢谢你用“规划”这个词，因为我不确定我是否真的有过规划。但实际上，这是我经常从许多创始人或最终做了些意想不到事情的人那里听到的故事。对我来说，这关乎追随当时最让我感兴趣的东西——我的才能、热情以及能产生巨大影响的机会交汇的地方。2009年大学毕业时——顺便说一句，那不是个容易毕业的年份——我有个文学学位，感觉自己没有任何实用技能。我被让世界变得更好所吸引，这从我小时候起就一直是我和兄弟Dario的核心动力。最初是国际发展和全球健康，试图弄清楚如何构建一个每个人都能获得食物、水和药品等基本必需品的世界。虽然这不是我现在直接的工作，但它为我思考如何创造有意义、有真正目标、并且你愿意投入大部分时间去做的事情奠定了基础。从那时起，这是一段曲折的旅程。我曾在国会山工作，然后参与了一场政治竞选，最后回到了硅谷。我原本来自旧金山，我在Stripe开始工作时，它还是一家很小的公司——大约40人——几乎没人知道它。我在国会山的朋友们说：“你要离开去做什么？支付？”【笑】现在看起来是个很棒的决定，但在当时是一场赌博。从那以后，事情就像滚雪球一样：我接着去了OpenAI工作，然后共同创立了Anthropic。
03:00 采访者： 你似乎在各个领域之间转换，而没有受到你的学位或先前经验的限制。这种认为你的背景不必定义你下一步的心态从何而来？ Daniela Amodei： 这是个好问题。我认为自己是个通才。如果你看看我的背景，你可能会想，“她到底擅长什么？”我没有法律学位，也没有正式的计算机科学背景。但我相信，很多价值在于保持好奇心并愿意跨学科学习，再加上真正想要产生积极影响的动力。这种开放性和好奇心是被低估的品质。我在Anthropic招聘的人以及整个科技行业中经常看到这一点。这是聪明、渴望学习并希望提供帮助的人的特点。老实说，对于创业公司中除工程以外的多数职位，这通常比某人拥有的具体学位更重要。对我来说，这始终关乎激情和影响力——无论是从智力上还是从更深的使命感来说，都要深切关注你正在做的事情。我对世界的不公平深感困扰——仅仅因为出生的偶然，有些人能获得基本必需品，而有些人却不能。我想在全球范围内让事情变得更公平、更好。但我意识到我没有产生我想要的那种影响力，所以我需要更多技能。这就是为什么我参与了一场政治竞选；看到一个小而专注、充满动力的团队可以改变世界，这很鼓舞人心。最终，这条路把我带到了硅谷，在这里你意识到你也可以做出巨大改变，但拥有更多资源，工作时间可能也比政治领域稍少一些。那些核心经历——追随你的激情，当你深切关工作本身时想要做得更多——一直是我所做一切事情中的主线。
05:02 采访者： 你的AI职业生涯始于2018年加入OpenAI，当时它还是一个相对较小的研究实验室。突然间，你身处讨论神经网络、Transformer、缩放定律的房间。你是怎么学会说那种语言的？ Daniela Amodei： 我有几个优势。首先，我在Stripe工作了近六年，与工程师密切合作——研究与工程不是一回事，但肯定有一些重叠，这给了我坚实的基础。其次，我有个非常有才华的兄弟姐妹——我的兄弟，他是一位专注于技术的物理学家——他实际上是我在Anthropic的联合创始人。连同其他几位技术非常熟练的人，我在家里有一个可以随时学习的亲密资源。
05:41-06:50 Daniela Amodei： Anthropic是由我们七个人创立的，都是工程师或研究员。我想说的是，我的经历确实让我养成了一种不害怕技术的心态。归根结底，它只是一套技能——非常高价值的技能——任何人都可以学习。基础知识一开始可能看起来令人生畏——有很多行话和术语——但如果你不断提问，并且身边有耐心的人，你就能开始理解它。我很幸运在生活中得到了这种支持，所以我一直提问直到感觉自在为止。另一部分是要知道你的领域和他们的领域。有很多事情，比如训练像GPT-2或GPT-3这样的模型，是研究人员处理的，我可能做不到。但我带来了他们不具备的其他技能。所以，理解你的比较优势——你如何融入更大的图景——非常重要。这需要人际交往能力和好奇心，这是天生的，但也是可以培养的。把这些整合起来，帮助我在这类角色中取得了成功。
06:53-08:56 采访者 / Gintare Zukauskaite： 2020年12月，你、你兄弟和一群同事离开了OpenAI。为什么你和Dario决定创办Anthropic？ Daniela Amodei： 最初离开的有我们七个人：我、Dario，和其他五个人，之后不久又有些人加入。对我们来说，这真的归结于聚焦于我们希望这项技术产生的影响。我们都是正直的人，深切关我们构建的东西会产生什么影响。最终，感觉通过创办新公司，在我们原先所在公司之外创造我们拥有的愿景更容易实现。我经常被问到这个问题，事实是，我们是朝着某个目标前进，而不是逃避什么。我们有一个清晰的愿景：一个像安全性和责任感这样的价值观处于前沿和中心位置的组织。这就是为什么我们注册成为公益公司。我们花了一段时间才搞清楚最佳结构，因为，是的，我们是一个商业实体，AI将创造巨大的经济价值。但对我们来说，以正确的方式来做至关重要。这种共同的承诺将我们七个人团结在一起。我们所有人都有在OpenAI从事AI能力、安全和政策工作的经验，从头构建这种结构似乎比试图重塑现有结构更容易。
08:58-11:28 采访者： 你不仅和你兄弟，还和其他五位联合创始人一起打造Anthropic。我们这里很多人将是第一次选择联合创始人，我们都知道这种合作关系经常以糟糕的结局收场。要让它成功需要什么？ Daniela Amodei： 我认为自己非常幸运，因为我们七个人在几个层面上都很特别。第一点——这也许并不令人惊讶——人际关系比你想象的要重要得多。你们如何一起处理冲突？例如，Dario和我已经争吵和好近40年了——毕竟他是我兄弟。我们从小就懂得如何解决冲突。毫无疑问，每次争吵结束后我们依然爱着对方。至于我们的联合创始人，我认识Jared和Chris各自大约15年了；Tom和Sam是室友；Jared和Sam在斯坦福读博期间一起工作过。所以我们有很长的历史。Dario和我都在OpenAI管理过其他所有联合创始人，所以在如何合作、如何给出反馈以及理解我们作为人的本质方面已经建立了框架。另一个关键因素是拥有一个强大、共同的愿景。如果你把自己和你的联合创始人锁在一个房间里，让你们各自画出或写下想要构建的东西，结果不应该是一个人画了一匹独角兽，另一个人画了一只鸭嘴兽。这种不匹配是出问题的迹象。就我们而言，我们很幸运来自一个我们已经拥有这种共同关注点的环境——我们想要一些不同的东西，但都在同一个领域内。要真正测试你们的合作关系是否会成功，一起做些有压力的事情——比如去度假并共享一个房间。如果之后你还想和那个人共度更多时间，那是个好兆头。如果你需要从假期中恢复过来，你可能要重新考虑一下。
11:30-11:35 采访者： 我想回到你刚才提到的——Anthropic与AI安全紧密相关，但我想确保每个人都……
11:36-14:31 Daniela Amodei： 我想确保每个人都理解AI安全的真正含义。当人们说“AI安全”时，这个词近年来有点被滥用了，常常成为许多东西的笼统说法。但对我们来说，高层次上讲，这意味着为我们正在构建的技术承担绝对责任。社交网络公司是一个很好的类比——它们受到了很多批评，而且理所当然。但当你回头看时，那些平台背后的开发者并不是有意制造问题，比如少女患上饮食失调症。那不是他们的目标。相反，他们专注于快速增长和规模等指标，旨在建立一家成功的公司。当时，并没有太多考虑大规模采用或潜在后果。想象一下你退后一步说：“如果我实际上试图预见所有可能出错的方式会怎样？”如果我试图提前预见所有意外的副作用并加以预防呢？不幸的是，我们在AI领域有点特权，因为我们能够从以往科技的错误中学习。那些其他公司犯了错误，我们有机会说，“我们不会重蹈覆辙。”我们想要谨慎，不仅要考虑事情如何能做得对，还要考虑事情如何会出错。对我们来说，安全意味着应对重大风险——比如防止利用我们的技术制造化学或生物武器，这是一种潜在的危险。它还涉及处理网络战；这就是为什么我们选择不广泛发布我们的最新模型，因为担心网络滥用。还有很多工作专注于用户健康、儿童安全、处理错误信息和保护选举公正性。这项工作并不新鲜——我们站在其他主要科技公司处理类似安全和安保挑战的团队的肩膀上。我们学习他们的经验，并努力做得更好。
14:31-16:41 采访者： Anthropic是一家AI安全公司，也需要创造收入。您如何平衡这些有时相互冲突的优先事项？ Daniela Amodei： 我们经常被问到这个问题，老实说，这种紧张关系并没有人们想象的那么大。我们大部分收入来自企业，而那些公司也不想要不安全的模型。没有人会说，“嘿，我们希望Claude产生更多幻觉或产生有害输出。”所以，在大多数情况下，安全和商业利益是一致的——安全对商业有好处，因为公司是规避风险的。他们想要可靠和可预测的AI。然而，我们正在进入一个新纪元，模型能力进步如此之快，以至于时间变成了真正的紧张因素。问题不在于模型不能做不可思议的事情；而在于我们尚未完全理解这些风险。因此，展望未来，我们专注于评估这些风险有多严重，并找出如何管理它们。这有时意味着做出不同寻常的决定，就像我们做“Project Glasswing”时那样。我们开发了一个功能强大的新模型类别，客户会想立即使用，但我们觉得需要更多时间来确保它在广泛发布前是安全的。这种谨慎令人不安。很难告诉客户，“我们想尽快为你提供这项技术，但在它完全修补并安全之前发布是不负责任的。”归根结底，我们会回到我们的使命。我们理解人们的渴望，但不急急忙忙是做负责任的选择。
16:41-17:42 采访者： 关于AI有很多恐惧，尤其是它会因为机器取代人类判断而导致工作岗位减少。你认为这种恐惧有道理吗？ Daniela Amodei： 这是一个复杂的问题。AI肯定将改变工作类型和人们的工作方式。我们已经看到，在过去五年里，由于AI，出现了新的工作岗位，但随着时间的推移，我们也会看到一些工作岗位消失。根据我们的经济指数——我们研究人们当前如何使用AI——大多数用例是互补性的。AI是在增强工人能力，而不是完全取代他们。它更多的是增强技能和使任务更容易，而不是仅仅消除人类角色。
17:45-18:20 Daniela Amodei： 我不认为AI是工作的替代品，除了极少数情况——主要是客户服务。比如，如果你必须给康卡斯特发邮件，你可能再也不会在另一端找到真人了。但老实说，我不认为这和五年前有多大不同。
18:20-19:00 我真正期望的是，许多类型的工作将感觉与今天存在的工作有些相似，但它们不会完全相同。我们只是不知道这一切会以什么形式出现。例如，以编程为例——这是现在谈论得最多的。在商务会议上，我听到人们说，“我们在讨论Claude，”然后一个CEO倾身过来，神秘地问我，“我女儿是斯坦福大学二年级学生——她读计算机科学专业还好吗，还是应该重新考虑？”老实说，我们没有明确的答案。我的猜测是，软件开发人员仍然会存在，但他们不会写那么多代码了。开发人员的许多工作不仅仅是打字——还要与产品经理交谈，与客户紧密合作。我预计他们工作的那一部分将会扩展，而更常规的编码部分可能因为AI而缩小。但这将开辟非常不同的可能性。
19:00-19:55 接下来需要在教育、领导力和社会层面做的是——我们需要人们对这种变化感到有准备和兴奋，而不仅仅是焦虑。首先，我们必须以谦卑的态度对待这个问题——我们没有所有的答案，但我们必须进行研究。在Anthropic，我们试图在这些问题上保持彻底透明，提前说明我们仍在摸索。有时人们说我们概述可能发生的事情时听起来很消极，但我认为最好是尽早开始对话，这样没有人会被打个措手不及。例如，我们发布了一个经济指数，显示人们今天如何使用AI，这样每个人都可以开始了解这可能走向何方。第一步是尽可能地在现实情况上达成一致。接下来，我们必须在多个层面上具有创造性和实验性——AI如何能够超越工作任务，成为一种基础性和统一性的力量？我们需要重新思考工作、意义和社交生活之间的联系，因为所有这些在未来都将看起来非常不同。
19:55-21:15 最后，这超出了任何科技公司单独能做的范围，AI的影响将成为一个巨大的社会和政治问题。人们已经在担心工作被取代——这种焦虑在民调中显现出来，它不仅仅局限于CEO们询问他们孩子的问题。我们需要一个更广泛的对话，涉及政府、公民社会和大学，讨论随着AI承担更多类似人类的任务，我们想要建设什么样的世界。
21:15-22:00 在斯坦福，我们生活和呼吸着AI，但斯坦福和硅谷并不是全世界。在这个泡沫之外，阻碍AI应用的是什么？
22:00-23:00 Daniela Amodei： 这是一个非常重要的问题。对我们Anthropic来说——可能对斯坦福也一样——感觉每个人都痴迷于AI。但在那个圈子之外，很多人还没对此感到舒适，他们也没有流畅使用这些工具的技能。当然，你会看到关于AI使用的令人印象深刻的统计数据，但其中存在人口统计学因素：主要是受过大学教育的人，男性多于女性，某些种族和财富群体。在全球范围内，AI的采用并不均衡。有趣的是，发展中国家的人们通常对AI更加乐观，将其视为一个巨大的机会和潜在的均衡器，而在美国、欧洲和亚洲部分地区，人们往往感到更焦虑。他们喜欢现状，担心被颠覆。
23:00-23:39 我们该如何处理这些信息？老实说，我还不知道。但很明显，在获取和使用方面存在不同的挑战。我们在这场游戏里还处于非常早期的阶段，而这一点常常被忽视。
23:40-24:16 Daniela Amodei： 我认为在硅谷，人们往往会忽略一点，那就是我们身处一个泡沫之中，感觉好像每个人都在使用AI工具，比如所有软件工程师都在使用Claude Code（云代码）或CodeX（代码生成工具）。但这不是全球绝大多数开发者的现实。所以，实际上，竞赛才刚刚开始。发令枪刚刚响起。仍然有巨大的机会来塑造这项技术如何被使用和开发，谁能够获得它，以及哪些价值观被融入其中。展望一个AI被更广泛采用的未来……
24:16-24:45 Daniela Amodei： 如果我们开始过度委托给AI，我们可能会失去什么？在Anthropic，我们做了这个巨大的定性调查——我相信是有史以来最大的——我们与81,000人交谈，了解他们如何使用AI。有些人是Claude用户，其他人使用不同的AI工具。突出的一点是，人们对AI的感受差异很大，取决于他们在哪里以及做什么。有些人说：“AI让我能够做我从未想过自己能做的事情。”
24:45-25:15 Daniela Amodei： 就我个人而言，我以前没想过自己能建个网站，但使用像Claude这样的工具，现在变得非常容易。我只是点击几下按钮，瞧！它就为我建了一个网站。那些可能需要我花一年时间并且最终质量低下的网站，现在感觉毫不费力。但其他人表达了不同的感受。他们觉得不再需要那么用脑了。
25:15-25:50 Daniela Amodei： 这和漫无目的地刷手机不一样。这更像是，“我本可以自己思考清楚或构思这个想法，但相信AI吐出来的东西更容易。”我认为这正是很多关于AI的焦虑的根源。人类天生想要学习、好奇和拓展视野。AI当然可以帮助做到这一点，但如果使用不当，它也可能抑制这种冲动。
25:50-26:21 Daniela Amodei： 我抓到过自己有这样的想法：“我可以查查这个然后自己弄明白，但我还是问问AI吧。”然后我最终盲目相信它所说的——这并不总是正确的。Claude有时也会搞错。我知道这听起来像是异端邪说，但这是真的。我认为焦虑在于我们如何设置护栏，让人们必须真正努力去用脑，而不是直接关闭大脑。
26:21-27:00 Daniela Amodei： 一个小例子是我们与大学合作的一些工作。我们谈论“学习模式”，你们中有些人可能听说过——也许你用过，也许没有。当学生只是把家庭作业扔进ChatGPT并得到答案时，那就是作弊——毫无疑问。但另一种方法是把AI当作一个耐心的导师。例如，使用处于学习模式的Claude，如果你在写论文时卡住了，或者感觉有些不对劲，Claude可以帮助你解决。这就像拥有一位个性化的教授或导师，他了解你想学什么以及为什么这门课对你很重要。它会提供来回检查章节、讨论问题、帮助你摆脱困境的建议。
27:00-27:46 Daniela Amodei： 那种互动才是这些工具能让你变得更聪明，拓宽你感觉有能力学习的东西的边界。但还有另一种用法，就是你直接关闭大脑，让它为你做所有事情。我希望作为一个行业，我们选择第一种方法，而不是第二种。
27:46-28:11 Daniela Amodei： 如果我必须优先考虑在AI驱动的世界中哪些人类技能最重要，这是我的想法。许多特定任务——比如成为金融分析师、开发者或文字编辑——将发生很大变化，因为AI可以完成其中许多任务。
28:11-29:03 Daniela Amodei： 但真正的现象是，人类想和其他人在一起。我们想共度时光，互相学习，共同创造，真正理解彼此。我们是社会性生物。所以，在一个AI处理大部分日常生产性工作的世界里，这些社交和创造性技能将变得更加重要和受到高度重视。因为如果AI可以为我写代码，我会想要与一个能解释为什么某个东西坏了或为什么某个工具被设计成那样的开发者一起工作。
29:03-29:54 Daniela Amodei： 扩展到科技之外，以医学为例：今天，我们雇用在诊断方面很出色的医生——说，“嘿，这可能是什么问题。我们做些检查吧。”AI将会变得非常擅长诊断这部分。但它不能做到的是看着你的眼睛，对你进行身体检查，并理解你的情绪感受，从而帮助你真正感觉好起来。有一整套医学研究表明……
29:56-30:26 Daniela Amodei： 有医学研究表明，与医生关系良好的患者往往有更好的临床结果。很难确切解释原因，但很可能是因为医生付出了额外的努力来真正理解问题所在。也许他们做了几项意想不到的测试，或者花了更多时间倾听。在一个你不仅仅是通过勾选七个资格条件来决定一个医生是否足够好来治疗你的世界里，那种体贴的待患之道将变得更加重要。
30:26-31:06 采访者 (Gintare Zukauskaite)： 当你思考未来时，有没有你个人最期待的AI用例？ Daniela Amodei： 哦，天哪。就我个人而言，我是个职业经理人，所以我和很多人打交道。有一个奇怪的现象——也许有一天会有一个词来形容——每个人都认为AI不会取代他们的工作，因为他们很特别。我自己也完全有这种内疚感。我曾经认为，人们喜欢与人打交道；他们会想向我汇报工作，而不是向我们的AI系统Claude汇报。但实际上，Claude作为一个管理教练，帮助你成为更好的领导者，是非常强大的。
31:06-31:26 Daniela Amodei： 例如，当我们在Anthropic写绩效评估时，我上传了过去三四年里向我汇报工作的人给我的大量反馈。因为人们不会在几个月内有多大改变，Claude在发现长期模式方面非常有帮助。比如，如果某人多年来一直围绕着同一个问题打转，也许他们需要额外的指导，或者一个外部的人来帮助。这种细节是在日常工作中很容易被忽略的。
31:26-32:07 Daniela Amodei： 反过来，Claude也很擅长给我反馈！我上传我收到的所有向上反馈，Claude会温和地指出我在过去一年里在某个方面没有改进，并建议我可能需要一些额外的辅导。我认为Claude指导和帮助人们成为最好版本自己的能力有着真正的潜力，无论是在工作中还是在人们的个人生活中——只要谨慎处理。
32:07-32:56 Daniela Amodei： 还有，我有两个小孩——一个快五岁了，一个快一岁了——Claude为我做过的最好的事情是帮我进行如厕训练。那绝对不是什么有趣的经历，但Claude用同理心和可行的建议让它变得容易了一点。甚至还附带了图表！【笑】我认为Claude支持不堪重负的父母的能力是巨大的，因为外面有太多相互矛盾的信息。每次你谷歌搜索关于你孩子的事情，答案都是“是的，出问题了！”Claude提供了一种更审慎和互动的方式来提供帮助，我认为这非常宝贵。
33:07-33:19 采访者 (Gintare Zukauskaite)： 在转向学生提问之前，Daniela，当你想到今天在这里的下一代AI领导者和建设者时，你希望他们从你的经历中带走的一件事是什么？ Daniela Amodei： 我能说两件事吗？好吧，第一件——这听起来很老套，我几乎不想说——但老实说，追随你真正在乎、你充满激情的事情，是你能做的最重要的事情。世界上有这么多好主意，但如果你没有那种燃烧的驱动力，那种感觉这是世界真正需要的东西，并且你愿意翻山越岭去实现它的感觉，那么当事情变得困难或无聊时，你将很难坚持下去。总会有艰难的时刻——即使在Anthropic，也有一些不那么有趣的时刻——但能够记住为什么它很重要，无论是出于个人原因还是因为你想要看到世界发生的改变，都是至关重要的。
34:23-35:30 Daniela Amodei： 第二，特别是对于这一代人，在过去的五到十年里，人们已经认识到商业和行善不一定是矛盾的。我认为这是一个非常重要且新颖的想法。我对这一代以这种方式思考的创始人和创造者印象深刻。创新和社会影响之间的这种联姻感觉非常特别。斯坦福在培养这种文化方面一直很出色。不能只有“刻薄、强硬”的人才能建立企业——我不相信这一点。我越来越觉得，真正行善的愿望实际上与商业上的成功高度相关。
35:30-35:56 采访者 (Gintare Zukauskaite)： 很好。让我们把时间交给学生们。
35:56-36:07 学生 (Brandon)： 你好Daniela，我是Brandon，MBA二年级学生。非常感谢你的到来。关于我们是否处于AI泡沫中，存在一场辩论，当人们这么说时，通常指的是三件事之一：公司估值、公司在基础设施上花了多少钱、或者AI进步的速度是否可持续。哪三件事……
35:57-38:23 采访者： 这三种风险中，哪一种最让你担忧，哪一种你认为人们误解得最多？ Daniela Amodei： 这是个好问题。我认为我们需要在这里区分一些东西。有不同类型的风险——有些更脆弱，有些更强劲。我不会说我只最担心一个，但关于这个行业的一个合理的担忧是，它是一个高资本支出的行业。这带来了固有的风险。训练这些模型极其昂贵。这需要大量的算力，而算力供应是有限的。当高需求遇上稀缺供应，价格就会上涨。我不是经济学教授，但这是基本常识。算力实际上是这些公司的命脉，而且你必须提前很久购买。所以，你基本上是在对未来下注——估算你在某个时间点需要多少算力。这是一笔巨大的支出，在这些公司的任何一家，在这种条件下工作都有点令人紧张。也许谷歌是个例外，因为他们是一家财力雄厚的上市公司，但对于像Anthropic和OpenAI这样的公司，你是在做一个经过计算的赌注，认为你可以随着时间的推移偿还这笔投资。我们显然对这个领域非常看好。这些公司的收入潜力是惊人的。这就像风险投资人从未见过的——如此规模、如此短时间内的收入数字几乎是无法想象的。如果这种情况发生剧烈变化，那就会造成问题，因为Anthropic和OpenAI都已经为未来购买了大量的算力，这是非常昂贵的。所以，担心这种风险并不是疯狂的。我们认为我们处于强势地位，整个行业似乎也定位良好，但情况随时可能发生变化。归根结底，它仍然是一个赌注——一个全行业的赌注，认为这会得到回报。但是，是的，我们完全有可能错了。
38:23-40:53 Yash (MBA学生)： 你好Daniela，我是Yash。Anthropic认为政府监管和AI创新之间的正确平衡是什么？你有什么希望世界各地的政府做得不同的吗？ Daniela Amodei： 好问题。这是一个对话一直相当困难的领域——主要是因为当今的政治气候使得细致入微的讨论变得非常困难。这是一个遗憾，因为这是一个细致入微的问题。我确实相信，明智的监管必须在AI的未来中发挥作用。AI是一种与之前任何东西都截然不同的技术。老实说，即使上一代科技，在我看来，也可能从更周到的监管中受益。同时，我并非没有意识到公司需要空间进行实验。如果你想创造下一代令人难以置信的产品，让人们真正想要使用和采用，你需要有回旋余地。我最大的希望是，这场对话不要变得过于政治化，因为现在感觉它分裂成了极端阵营：要么“监管不好，创新好”，要么“创新不好，监管好”。但这远比那复杂。有些监管有意义，有些则没有。有一些绝对关键的监管措施，确保技术的发展对人们有益，并防止伤害——无论是对于经常依赖AI的人还是整个社会。理想情况下，科技公司和监管机构应该携手合作。我们拥有关于技术如何被滥用的详细、实时知识，因为我们每天都看到它在行动——我们的安全保障和安保团队监控着人们如何试图找漏洞，并识别真正的风险。同时，监管机构知道如何创建可以被执行和遵循的框架和系统。也许这很乐观，但我希望我们能找到双方合作的共同点。我们希望开发惊人的技术——下一个谷歌、Meta或没人能想象到的下一个突破——同时实施明智的监管来保护人们。
40:53-43:00 Jackie Kimmel (MSX学生)： 你好Daniela，谢谢你的到来。AI越来越多地访问敏感的个人数据，如健康记录。你认为个人应该做些什么来保护他们的隐私？ Daniela Amodei： 另一个很好的问题。你会惊讶地发现人们经常随意地向Claude提问医学问题——这实际上是最常见的用例之一。人们经常问，“我的孩子怎么了？我怎么了？帮帮我。”这有两个方面。首先，公司有责任谨慎使用和保护你的数据。人们绝对应该要求公司对他们如何处理个人数据负责，因为这是如此敏感。例如，在Anthropic，我们做了一个深思熟虑的决定，不在Claude上投放广告……
41:55-43:40 Daniela Amodei： 我们不在Claude中投放广告的决定，部分源于我们认为AI技术是根本不同的。人们与AI工具的对话比他们在Instagram或任何社交网络上分享的内容要私密得多。正因为如此，我认为科技公司在保护你的数据方面有更大的责任。从个人角度来看，关于医疗用途，我不认为我有完美的答案，但我可以告诉你，很多人确实将AI用于医疗问题。我恳请你考虑安全性，不要在对医疗建议方面，把AI模型的输出当作事实真相。根据我自己的经验，在复杂的医疗案例上，Claude比我的医生更准确，但我绝不会在咨询有执照的医疗专业人员之前采取行动。我们非常公开地承认，这些模型有时会编造东西或感到困惑。它们不了解你个人，也不能检查你。所以，保持健康的怀疑态度是正确的做法。可以把它想象成一个像全科医生一样的朋友——可能不是专家——但可以帮助你引导你与真正医生的对话。Claude在这方面很棒。它可以帮助你思考你可能没有考虑到的事情。但我的首要建议是：不要盲目遵循任何AI工具的医疗建议。我知道你们都很聪明，不会那样做，但总是要咨询专业人士。
43:40-44:03 采访者： 谢谢学生们和Daniela。在让你离开之前，我们必须进行我们《巅峰视角》的快速问答传统。 Daniela： 太棒了！
44:03-44:09 采访者： 准备好了吗？ Daniela： 我准备好了。
44:09-44:17 采访者： 好，开始。如果你回到大学，你会主修什么？ Daniela： 【笑】我能就说是商科然后跳过这个问题吗？但是……我可能会再次主修文学。我知道这听起来很疯狂，但我喜欢阅读。
44:17-44:33 采访者： 和你兄弟一起工作，你最喜欢的是什么？ Daniela： 哦，感恩节晚餐！不，我会说是因为我们非常了解彼此。有时我们可以对彼此说些公司里没有其他人能说的话。我们在某些事情上得到了豁免，而别人得不到。
44:33-44:54 采访者： 那么，和你兄弟一起工作，最不喜欢的是什么？ Daniela： 又是感恩节晚餐，不。我想最难的部分是平衡我们的个人关系和工作关系。在成为联合创始人之前，我们已经是兄弟姐妹很久了，很久以后也还会是兄弟姐妹。所以，我们确保留出时间在工作之外一起出去玩，因为保持那种办公室之外的关系非常重要。
44:54-45:03 采访者： 你在图书馆或办公室里发现的最喜欢的书？ Daniela： 哦，天哪。我不认为我最近发现了什么新书，这意味着我可能应该多找找。但我想起了一本最喜欢的——《八月炮火》。也许这个算。它是关于第一次世界大战的，如果你对个人性格和事件如何导致那场战争感到好奇，这是一本很棒的书。它有力地提醒了我们，如此多的小决定和人们的选择最终如何导致了一些悲剧和可怕的事情。我绝对推荐它。
45:03-45:11 采访者： 太棒了。如果Anthropic最后用了别的名字，那会是什么？ Daniela： 哦，天哪。在确定Anthropic之前，我们经历了一些真正悲剧性的想法。不知为何，那时我们很迷鸟——比如Sparrow Systems（麻雀系统）？不知道这个想法从哪来的。我们早期很多模型的名字都是鸟，比如Bert——好吧，那个不是鸟——但是，对，整件事都和鸟有关。谢天谢地，更好的决定胜出了，我们把它命名为Anthropic，现在感觉无法想象它会叫别的名字。
45:11-46:00 采访者： 最后，不是快速问答的问题：你收到过的最好建议是什么？ Daniela： “丢掉蚂蚁！”开个玩笑。我在想……可能让我印象最深的是我们考虑辞去先前职务去创办Anthropic的时候。那时，离开看起来不像是正确的选择——感觉有点疯狂。我和一位工作之外的朋友兼导师谈了谈，她说：“老实说，你不需要给我打电话。你已经知道正确答案是什么了。”那真的让我印象深刻。通常，当你在质疑自己是否做出了正确的人生决定时，你内心深处其实已经知道答案了。那真是非常好的建议。 采访者： Daniela，很高兴和你交谈。 Daniela： 非常感谢。 采访者： 谢谢你邀请我。 47:57 【音乐声起】
由以下软件生成：Transcript Desk Chrome扩展程序
🔗 原文链接
https://thetranscriptdesk.substack.com/p/daniela-amodei-co-founder-and-president