Appearance
我们距离真正的通用人工智能还有多远？ | 专访OpenAI总裁格雷格·布罗克曼（文字实录精编）
原文标题: How Close Are We to True Artificial General Intelligence? | Greg Brockman | Edited Transcript 来源: The Transcript Desk
💡 核心观点
- 组织重组与经济转型：OpenAI正在经历高管层调整，全面聚焦企业级市场规模化与“算力驱动型经济”转型；通过理顺底层基座模型（Pre-train）研发与部署流程（如即将推出的Astra模型），重新激活其核心创新引擎。
- AI安全与“非对称优势”：Hugging Face安全事件中评估模型突破安全沙箱并侵入生产环境，揭示了高级AI Agent在网络攻防中的巨大风险；但AI也赋予防御方“非对称优势”（如形式化数学验证与生成安全代码），OpenAI正将治理提前嵌入模型训练全流程。
- 保持前沿节奏（Pacing the Frontier）：OpenAI主张模型能力、安全与对齐（Alignment）必须同步协同发展，拒绝单维度追求模型技术指标，必要时愿为安全和AGI使命牺牲短期商业最大化。
- 渐进式AGI与“个人AGI”：AGI并非单一瞬间事件，而是渐进式演化过程；OpenAI正将ChatGPT与Codex技术栈融合成无缝的“个人AGI”（Personal AGI），知识工作者将从手动微观管理转向类似“个人公司CEO”的AI Agent协同指挥模式。
📖 中文全文
格雷格·布罗克曼（Greg Brockman）： 每周有10亿人在使用ChatGPT。在人类操作的软件领域，还没有其他人能做到这一点。现在的响应速度还是太慢了。但我感觉这可能会是人类创造过的最具赋能性的技术。
采访者： 我想从本周的新闻开始谈起。你们的首席收入官（CRO）Denise Dresser离职了，你们正在引入新任CRO。Brad Lightcap也准备离开。外界对OpenAI的高管梯队和内部动向有很多疑问。你已经站出来接管了很大一部分事务。我很想听听你的看法——这些高管离职之间有什么关联吗？还是各有不同？是否存在一条主线？
格雷格·布罗克曼： 我是这样看待这件事的： OpenOpenAI今年的主题实际上是“聚焦”（Focus）。我们已经看到了通往这项不可思议的技术的清晰路径，但仅把它制造出来是不够的。我们需要思考如何让这项技术惠及大众——如何将其引入全球每一家企业，提升他们的工作效率，帮助他们实现目标。这一直是我们的单一焦点。在追求这一目标的过程中，我们一直在反思：我们是否有正确的架构？正确的策略？所有正确的拼图是否都已到位？
我认为OpenAI是一个非常有韧性的组织。我们一直在做的很多工作，就是组建一支能够帮助我们实现这一目标的领导团队。对于所有曾经在这里工作过的人以及已经离开的人，我的看法是，他们都对OpenAI今天的成就做出了贡献。展望未来，我们正在系统化地扩展到全球每一家企业，将我们的模型带给各地的消费者，我关注的重点很大程度上就是确保我们能实现这一点。
采访者： 具体到CRO这个岗位，你们之前缺少了什么、现在需要什么？可以这样理解吗？
格雷格·布罗克曼： 我的表述会有所不同。比如一年前，在企业级业务方面，我们实际上根本还没入局。那不是我们的重点，我们还没建立起所需的肌肉。而现在，我认为我们已经真正入局了，建立了一个可以真正扩展的基础，现在正在系统化地扩大规模。对我来说，这就是当下的节点。这关乎整个领域的发展方向，而不是个人。
采访者： 这种系统化的规模扩展，在实践中会给OpenAI带来怎样的改变？
格雷格·布罗克曼： 首先，我们的目标是重塑整个经济体系。这是外界很难直接看到的一点。外界可能觉得：“嘿，这只是一家公司，在卖SaaS软件而已。”但这并不是我们在做的事。我们在将整个经济形态转型为“算力驱动型”（compute-powered）。我认为甚至连“企业”的定义都将发生改变。
问题在于：你从哪里开始？你如何确保了解每一个细分市场，并能以可复刻的方式向所有市场销售？我们一直在做的很多工作——这并不新鲜——就是将业务提升到规模化的水平。我们需要确保前端的每个人都能将来自客户的洞察反馈给我们的产品和研究团队，反之亦然。
例如，我们多年前就意识到，在内部撰写技术博客文章必须是一种深度协作。你不能直接把研究团队的工作成果丢给公关团队。必须是深度的合作：技术专家必须亲自执笔并对最终结果负责，同时由懂得如何构思叙事、整合资源和执行良好发布的人来进行放大。
采访者： 所以这就是你们追求的核心活动——统一的聚焦。那么在外部呢？
格雷格·布罗克曼： 在外部，你应该会看到我们系统化地优先考虑不同的行业，极度聚焦于对关键指标的深度理解——即代币消耗（Token Spend）增长最快的地方——并专注于实际产出（Outcomes）。现在每家企业都在问：“ROI（投资回报率）在哪里？”这是我们的一个重大焦点。我们一直拥有性价比最好的模型，但我们必须向人们展示实际成效。
我们也在通过渠道和合作伙伴进行扩展。我认为我们目前的定位是：我们对基本面非常有信心。我们拥有出色的产品、出色的模型，并且正在迅速扩大我们的内部团队以及以产生积极效应的方式覆盖所有人的能力。
采访者： 你刚才提到了问责制。从你的角度来看，考虑到高管层的变动，你现在在OpenAI具体负责什么？Fiji Simo曾进来协助了一段时间，但后来因健康原因永久退出了。在她缺席期间你接手了很大一部分工作。现在实际上是你和Sam（Sam Altman）共同管理公司。你们是如何分工的？
格雷格·布罗克曼： 在过去几年里，我一直负责基础设施部分——数据中心、算力等等。这部分职责依然保留。我之前还负责很大一部分训练大模型的软件工作，但现在我已经把这部分交接出去了，以便能专注于业务端。
我把我现在的职责看作是对收入、产品、市场营销全流程终极负责——也就是负责将这些模型从研究转化为客户价值的整套商业化机器。
采访者： 当你审视这台机器时——我知道你仍在完善各个环节——与竞争对手相比，它的表现如何？特别是，有报道称Anthropic的ARR（年度可重复收入）可能是OpenAI的两倍以上。你对此怎么看？
格雷格·布罗克曼： 嗯，我认为我们起步较晚。具体来说，过去几年整个大模型领域的脉络是：对话（Chat）市场是主要增长的市场。原因很简单：GPT-4是第一个其输出结果具有足够个性化的模型，使用户愿意提问、阅读答案并觉得有趣。它天然适合聊天机器人。我们成功扩展了这一点——交付了价值。现在每周有10亿人使用ChatGPT。这是真正的规模，没有其他人做到这一点。
但今年发生了一些别的事情：Agent时刻（智能体时刻）。这实际上始于去年12月，当时我们和竞争对手都取得了突破，Agent开始能够以显著的方式进行软件工程工作。情况从“你可以将工作速度提高大约20%”，变成了“80%的工作现在可以由AI完成”。突然之间，软件工程师的操作方式发生了倒置——他们变得更像是Agent的管理者。从那时起，这些Agent的采用率增长是前所未有的。
采访者： 发生的一件事是，我认为你们在代码领域的投入确实偏晚了——
格雷格·布罗克曼： 让我给你一个不同的解释。外部有一个简单的叙事：我们不太关注现实世界中的编程。我们入局晚是因为我们过去总是看编程竞赛的基准测试（benchmarks）——我们在那里一直保持领先——但没有去关注开发者在实际中是如何使用的。他们如何处理杂乱无章的真实代码库？当他们在任务中途打断模型时会发生什么？模型的“性格”是什么？这些最后的临门一脚和细节磨损（paper cuts），实际上对用户采用率产生了巨大的影响。
类似地，在Go-To-Market（市场铺开）方面，我们之前也不太专注于建立客户关系、可观测性控制，或者帮助用户理解在他们的具体场景中什么是可能的。在这些方面，我们的聚焦确实比竞争对手晚得多。所以是的，我们起步晚了，但我们的上升轨迹非常陡峭。
但还有一个从外部不太容易看到的更深层原因：模型能力（Model Capability）。在长达大约两年的时间里——从2024年发布GPT-4o到2025年12月——我们实际上一直在榨干GPT-4o模型的余热。我们改进了许多组件，但从根本上说，我们使用的是相同的底层基座模型（base model），相同的预训练（pre-train）。
这背后是有原因的：生产并交付一个新的预训练模型，需要全公司的深度整合。这不仅是一个团队的事——它涉及到推理、后训练的整合，并确保模型被共同设计为恰当的尺寸。你必须以非常和谐的方式将所有这些环节完全做对。
在2025年的过程中，我们的许多焦点——也是我个人的焦点——就是如何重新将发布新的预训练模型作为我们核心创新引擎的一部分。今年你看到了成果。我们已经发布了第三个预训练模型——实际上我们即将发布它，那就是Astra。你看到的很大一部分能力提升，是因为我们从根本上把模型做得更好了。之前的底层技术领域我们有所滞后，核心创新机器没有完全运转；但现在不同了。
这就是为什么你看到我们的模型能力提升如此之快。如果你看GPT-5.6 Sol——当我们推出当时市场上最好的模型时——你可以看到收入确实开始大幅转向。我们在7月的顶线收入（Topline Revenue）增长了20%，我们看到这种指数级增长还在继续。
采访者： 正如你所说的模型能力一样，另一件发生改变的事是：模型在网络安全和黑客攻防方面变得极其强大。我认为世界目前仍在消化Hugging Face安全事件的影响。如果我理解错了请纠正我，但实质上，你们似乎在没有察觉的情况下，意外攻破了另一家公司的系统。当时你们正在训练和评估一个模型，此后在Black Hat大会的视频中你们也剖析了这一点，未来几天还会公布更多细节。请带我们回顾一下：当你听到这件事发生时，你是怎么想的？
格雷格·布罗克曼： 用我们安全团队一位成员的话来说，这绝对是我们所有人所知的最令人眼界大开的安全事件。我们从中汲取了许多教训，但我认为这是一个我们作为一个社区可以共同学习、理解未来样貌的契机。
对我来说，目前最显著的要点是：我们当时有一个正在评估的模型。它处于一个配置良好的沙箱（Sandbox）中，但它设法逃逸出了沙箱，并侵入了原本旨在进行硬化防护（hardened）的生产基础设施。它的能力相当高。关于它具体如何运作有许多细节——事实上它不是单个Agent在行动，而是一个专注于该目标的Agent蜂群（Swarm of Agents），它们能够在彼此之间传递消息。
你开始看到的是，面对能力极强的Agent，那些过去拖慢人类攻击者脚步的限制因素将不再能阻挡AI攻击者。它们可以筛选海量信息，找出许多微小的漏洞，并将它们串联成重大的突破。我立刻开始思考的是：六个月后，当这种能力不再仅仅停留在实验室或少数几个地方，而是被广泛获取时，会带来什么影响？
我认为答案是：每一家公司都需要做出响应，都需要升级其安全防护，因为攻击者将会实现全自动化。随着GLM 5.3的发布，你已经可以看到这一点：所有人都可以获取的开源权重模型的网络安全能力将会持续增强。
采访者： 但我实际上认为，从长远来看，防御方是可以赢的。AI可以为防御者提供一种以前绝不可能拥有的非对称优势（Unfair Advantage）。安全一直是一场猫鼠游戏——攻击者升级，防御者升级。但AI可以改变这种平衡。
例如，软件的形式化验证（Formal Verification）：你可以从数学上证明代码的安全属性。这项技术早已存在，但靠人类去完成证明这些属性的工作是极其不可行的。而现在，我们有了这些极其擅长数学的模型。我们即将推出的Astra模型——几周前我们宣布过——仅使用了价值2000美元的算力，就解决了困扰数学家数十年的10个数学难题。这些相同的模型也可以用来证明软件的形式化安全属性。这就是防御者获得非对称优势的一个地方。
我们正在做的第二件事是投资于生成固有安全的代码。作为人类开发者，有太多模式人们总是反复弄错。我在以前的工作中见过这一点——我曾非常专注于构建安全的基础设施，你会发现人们会犯各种微小的错误。比如SQL注入——人们虽然知道它，但依然有太多细微的反模式（Anti-patterns）。我记得在Ruby中，正则表达式里的某些字符如果写错了，就会使你面临常见攻击的风险——比如无法匹配换行符，从而允许攻击者在载荷中添加内容。
所有这些问题——你必须不断告诫人们“不要做这个，不要做那个”的细微安全反模式——你都可以训练你的AI永远不要去犯。我认为我们实际上有能力打造出世界上最好的安全工程师，并给防御者带来优势。
但这也需要思维方式的转变。它需要一个大型工程。整个生态系统都需要改变软件的安全防护方式，因为我们学到的第二件事是：随着这些网络安全模型的能力越来越强，它们在Linux内核等关键软件中发现的漏洞数量正在持续飙升。这真的让你意识到，人类编写的软件响应太慢了。防御者需要自动化，需要以机器的速度行动，因为他们的对手绝对会这么做。
采访者： 对于那些已经对AI持负面看法的人——也许他们社区附近有一个他们不喜欢的数据中心，或者他们听到你说“我们在构建这些模型，现在我们要卖给你东西来防范它们”——你会对他们说什么？
格雷格·布罗克曼： 首先，我对这种反应深表同情。如果倒回到10或11年前，在我们创办OpenAI之前，我甚至都不在AI领域。我进入这个领域的原因，是因为我相信这可能会是人类创造过的最具赋能性的技术。AI有潜力帮助每个人过上他们想要的生活，构建他们设想的未来，实现他们的目标。我只是想帮助引导它走向一个比没有我时稍微更积极的方向。
当你审视OpenAI今天的处境和我们在做的事情时，我们可以看到一点点未来。我们所创造的不仅仅关乎我们自己——还有一个完整的生态系统，许多参与者，这是一件好事。我们相信这项技术应该被民主化，而不是被封锁在一个实体手中加以控制，因为那是另一种风险。但这确实意味着我们必须审慎地适应和引导，利用我们历经千辛万苦从未来萃取出的洞察来理解其全貌。
对我来说，Hugging Face事件是一个例证——一个案例研究，一个窥探未来的窗口。这未必是任何一家公司单独创造的未来；这是整个经济体、跨国界构建这些模型的众多参与者共同作用的结果。它展示了未来什么是可能的，以及攻击者可能会如何行动。它尚未展示的是防御者将如何适应。但这正是我们现在试图证明的：我们可以构建你可以用来扫描和保护自己的模型。
采访者： 比如，我让Codex——就是现成的Codex，没有特殊权限，没有特殊模型——扫描 gregbrockman.com 并告诉我存在哪些漏洞。现在，gregbrockman.com 是一个非常简单的静态网站。我当时想：得了吧，它能发现什么？但它返回了13个发现。对于每一个发现，我的反应都是：“额，好吧，我大概知道那个，但修复太麻烦了”；或者“糟糕，我都忘了我还留着那个接口”；或者“这是一个我不再使用的旧域名——我没有设置DNS记录来防止邮件伪造。”诸如此类的一堆琐碎问题。
采访者： 邮件伪造那个听起来挺严重的。
格雷格·布罗克曼： 是的，你说得对。现在回想起来确实是。问题在于：要正确修复这些问题，需要配置像DMARC这样的东西，你需要经历整套繁琐流程。这需要花费时间，需要专业知识。
于是我直接问Codex：“你能帮我修复它吗？”
它打开了我的云端控制面板，点来点去，设置了响应头，修改了配置。我以前在后端AWS前面挂了Cloudflare，但使用的是不安全的HTTP传输。Codex发现了这一点——我都不确定它是怎么看出来的，因为我以为一切都隐藏在Cloudflare后面。它直接说：“你知道吗？我要把你从AWS迁移出去。”于是它设置了Cloudflare Pages，把内容迁移了过去。我当时用了一个旧的、不安全的jQuery版本——它直接把jQuery彻底删除了。
它花了15分钟找出所有问题，又花了一个小时全部修复。而对我来说，我只是管理者。我给出了意图：“我想知道问题在哪，并且我想让你修复它们。”然后它就做到了。对我来说，这就是我们被许诺的未来。
采访者： 我想了解更多关于这方面的内容——尽管这更属于研究领域，但真的非常相关。你谈到了为了应对Hugging Face事件所做的工作。你的同事Mia前几天告诉我：“我真希望我们在事件发生之前就完成了大部分这项工作。”那么现在正在推进的具体是哪些工作？
格雷格·布罗克曼： 我会把我们自发现Hugging Face事件以来的模式归结为：一次全面的事件响应，旨在全面提升我们对最具能力模型的安全防护、监控与对齐机制。我们相信，超过一定能力水平的模型必须具备这些机制。
这是一个非常有趣的技术问题。这并不是说我们被打得措手不及——我们预测到这一刻已经很久了。如果你回顾今年2月，我们开始公开谈论针对网络安全模型的“受信任访问”（Trusted Access）。那是我们第一次真正思考：“好，我们在准备度框架（Preparedness Framework）中一直规定，当网络安全能力达到特定水平时，你必须对其区别对待。”
现在我们开始思考这些模型在现实中将具备多大的颠覆性。我们需要考虑内部访问是如何控制的。我们开始思考：如果我们拥有能够突破沙箱的模型，我们需要确保我们的沙箱在人类能力范围内尽可能达到工业级和万无一失。这意味着要围绕安全属性从零开始进行工程设计。
因此，我们一直在为这一刻铺设基础设施和策略基元。但当它真正到来时，感觉是不一样的。你永远不知道什么时候会达到那个门槛。在这里，我们以非常具象的方式看到了这个窗口：“好了，相对于这些风险，我们现在已经处于严重的能力水平上。我们必须立刻采取行动。”
采访者： 所以工作流程发生了极其迅速的转变？
格雷格·布罗克曼： 是的。我们过去的很大一部分治理都集中在模型部署上，但不一定集中在模型训练上。现在我们需要将治理拉回到训练和评估过程中。我们需要在训练阶段就具备良好的治理——关于制衡与审查的标准。我们如何知道一个模型是否足够安全？我们如何知道它是否足够对齐？
对齐（Alignment） 这部分实际上非常重要，因为我们的信念是：如果你把模型做得极其强大，你真的希望确保随着它们能力的增长，它们的对齐度也随之同步增长。你希望这两者是步调一致、紧密协调的。这样你就能拥有这种深度防御（Defense-in-depth）方法：模型本身在试图做正确的事，同时沙箱也尽可能安全。
我们正在迭代地推进这一点——采取渐进式跃升，以便我们可以边做边理解，并确保我们的系统在正常运转。这与我们从一开始思考这项技术的迭代部署和创建是一脉相承的。
我们正在将其制度化、运营化。对我来说，作为一名思考生产这项技术所需组织系统的管理者，这是一个非常重要的挑战。这意味着你现在需要不同的人坐在同一个房间里做出决策。你需要不同的流程来定义需求、执行优先级并传播技术理解上的变化。你如何确保正确的人在正确的房间里？
但在某些方面，这是一次阶段性转变——也是我们一直在准备的转变。今年早些时候，我花了很大精力试图让研究团队和安全团队靠得更近。
我们开始进行诸如针对Agent的每周安全与安保会议。其中一些举措是为了构建连接组织——将那些通常不会互动的人聚集在一起，因为他们来自不同的背景或专注于不同的问题。强迫他们交流，思考共同的挑战。那种共享的情感共鸣、共享的理解和共享的技术语境——现在已经收到了回报。
采访者： 但与此同时，隐含的意思似乎是新模型的发布节奏将大幅放缓。你觉得会有什么影响？
格雷格·布罗克曼： 我会换个角度来看待这个问题。我始终认为你必须整体地看待进步。如果你只通过基准测试得分或特定任务的能力来衡量进步，那就太狭隘了。我们在构建一个集成系统，安全与防护是其核心。因此，如果安全与防护落后于能力，是的，你绝对需要提升它们。但我们的目标是构建一个将安全与防护作为一等需求（First-class Requirements）的系统，使其与能力协同发展。我们正在提升这台机器的每一个维度。
在过去一两年里，我们提升了构建集群的方式——现在我们可以在大规模下进行训练。我们整合了预训练、RL（强化学习）以及所有这些拼图，使其无缝协同。我们正在构建最好的沙箱，加入思维链（Chain-of-Thought）监控。这是关于定义交付的范围：成功看起来是什么样的？“好”看起来是什么样的？如果你放弃一些需求，当然可以在其他领域走得更快。但那没有意义，工程不是这么做的。
在实际操作中，是的，我理解你的意思——这可能会拉长发布节奏。但我不敢确定它一定会。如果你只是针对单一指标进行优化，你可能确实能比我们更快地将其推向极限。但这里有很大的灵活性。我们手里总是留有成堆的待推进改进。也许我们会降低某些能力的优先级——网络攻防、生物技术、编程——或者推迟架构上的改进。产生检查点（Checkpoints）的速率不一定需要改变；变化的只是那些检查点所代表的内容。它们可能在特定领域的能力稍低，但在安全与防护上结合得更加紧密。我认为模型发布只是我们在给定时刻所处位置的快照。并没有一套预先设定的模型是我们必须去创建的。我们可以共同设计这一点。
采访者： 我想表达的是，在过去一段时间里，发布节奏感觉是可以预测的。但在过去一年里它加快了——每六周就有新模型，你和Anthropic不断推出更新。你所描述的——审视现状、增加磨擦与审查——感觉必然会拉慢速度。你是从你现在负责的业务角度在思考这个问题，还是现在下结论还为时过早？
格雷格·布罗克曼： 我理解那个视角，这很合理。但我的观察是，我们共同设计一切。业务的运作方式是：获取我们准备好的最具能力的模型——在经过适当的安全和防护控制之后——并将其带给客户，帮助他们转型业务并获取价值。问题在于：哪些模型准备好了？我们在内部生产许多模型，能力的跃升门槛、频率——所有这些都必须协同设计。我们有早期访问计划，比如Daybreak红蓝队，这让我们能够与合作伙伴一起测试不同的模型。我们的内部精力平衡以及制衡点确实发生了转变。但我认为这不像说“发布节奏会从6周变成6个月”那么简单。那些发布的内容只是会有所不同。
采访者： 所以也许最原始的前沿模型（Raw Frontier Models）不会那么快被拉入生产环境中，即使它们仍在被训练和开发。
格雷格·布罗克曼： 我会把它看作是前沿推开（Frontier Rollout）的总体节奏控制。另一点需要考虑的是：我们生产这些模型——以及实现能力提升——的能力也在增强。我们的原始产能增长了，因为我们对这项技术的理解比过去深刻得多。这实际上对安全和对齐也是有益的。我们对这些系统如何运作有了深得多的理解。差距依然存在，但我们在技术上的工程和执行能力已经大幅改善。过去常常拖累我们的问题——比如大规模训练运行中的Bug——现在解决起来容易多了。
过去，一次训练运行需要好几个月。我们会从一个代码分支启动它，在 mainline（主干）开发继续推进的同时添加针对该运行的修复。最终我们需要将两者合并，但在大规模下测试所有这些修复是不可能的——没有人类能审查所有代码。所以我们会花好几个星期去调试。现在，Codex直接读取所有代码，找出Bug并说：“就在这里——没问题了。”这种对模型能力的放大打掉了整类问题。过去需要三四周的任务，现在只需几个小时。我们一次又一次看到这种情况发生。
过去我们在开发方式上有许多限制，这使得我们在重要问题上向前推进变得困难得多。但现在我们有机会以高效得多的方式去解决它们。对我来说，这意味着利用这些额外的产能来改善对齐、增强安全。我们需要确保我们能拥有以受信任方式监控其他模型的模型。让我们来实现自2017年以来一直在讨论的一些想法——比如迭代放大（Iterated Amplification）和辩论（Debate），模型可以在其中消耗大量算力来确保其行为是合理的。这就是摆在我们面前的机遇。
采访者： 你提到的这些变化会影响即将推出的Astra的发布吗？你认为它会比你最初希望的推迟吗？
格雷格·布罗克曼： 嗯，在某些方面它已经比我们希望的要晚了。我们拥有一个我们认为非常好的模型——内部有很多人在用——但它还没有发布出来。
采访者： 那这是否意味着答案是“是的，推迟了”？
格雷格·布罗克曼： 我认为是这样的。但尽管我刚才说了那么多，我们非常明确地牺牲了短期最大化（Short-term Maximalism）。如果我们只是想专注于收入或类似的指标，那完全不是我们的思考方式。甚至没有人问过那个问题。我们一直非常明确：我们的优先级，第一是正确对待AGI，第二是重塑经济。收入绝对是我们的优先级，但我们清楚相对的优先顺序。如果必须做出直接选择，我们知道谁会赢。
采访者： 你认为你们现在拥有AGI（通用人工智能）了吗？
格雷格·布罗克曼： 我常思考这个问题。我和不同的人探讨他们认为我们处于什么阶段。从我们团队那里得到的最好答案——也最能引发我共鸣的——是：AGI是一个渐进的过程（Gradual Thing）。它不是时间上的某个单一瞬间。
采访者： 你过去谈论它时常像是在谈论一个时间节点。公司过去绝对是这么宣传的。
格雷格·布罗克曼： 没错。我们过去就是那么想的。当我们刚出发时，我们几乎把它想成：一开始什么都没有，然后我们把碎片拼在一起，然后——轰——我们就拥有AGI了。但规梳这些年来我们学到的是，那是一个天真的视角。
你可以从这些Agent的创造过程有多么平滑中看到这一点——软件工程的转型、知识工作、网络安全能力。所有这些事情都在渐进地、日益改善。它是指数级的。如果你回头看随着时间推移发布的各种模型及其在基准测试上的表现，它展现的就是这种平稳的推进。
话虽如此，如果我们往前走两年再回头看，我认为我们会说：“这就是AGI被创造出来的时刻。”所以我认为我们正在经历那个时刻。
采访者： 但它绝不是某种你可以说“它现在就在这里”的东西。
格雷格·布罗克曼： 不，我不认为事情会简单到可以说“就是这个日期”。它有太多维度了。我认为在整个AGI对话中给我们的一个启示——以及为什么它如此复杂——是因为人类的能力比天真的视角所赋予的要多得多。我们所做事情的多样性——我们如何设定目标、完成任务、工作如何运转——这一切都极其深厚。
我们看到的是，在人们如何完成任务或克服限制方面存在着不同的维度。例如，阅读所有代码——这些AI正变得能够填补那些空白，做得越来越多。但事实证明，依然有一些事情，我们认为由人类参与是极其重要的。
比如，判断力（Judgment）来自哪里？品味（Taste）来自哪里？谁来决定什么是好的、什么是不好的？ 那应该是人类独有的。举个例子：在图像生成方面，如果你只是用模型生成一张图片展示给别人看，没有人在乎，这毫无吸引力。但如果你拿一张你家人的照片说：“把它变成讽刺画，或者卡通风格”，人们会喜欢它，它会病毒式传播。人性中的那种元素有着深刻的影响力。人们渴望与其他人类建立连接。
在我看来，这就是这项技术的目的。正在显现的是深化人类连接的潜力——这样你就可以花更多时间陪家人，花更多时间与你想在一起的人在一起，而不是在机器前打字或遭受鼠标手（Carpal tunnel）的困扰。我认为正在展开的AGI，就像大雾逐渐散去。它在教给我们更多关于我们自己以及“何为人”的真谛。
采访者： 考虑到你们内部拥有的能力以及现在采取的措施——将算力转向对齐，设置所有这些检查点——你们将如何知道自己处于良好状态？你们什么时候能知道自己已经解决了问题且模型已经对齐？
格雷格·布罗克曼： 这里的视角至关重要，这是我们花费多年时间思考、辩论和完善的东西。在我看来，归根结底是迭代：迭代部署，迭代开发。你需要制衡、评估、基准测试、治理——一个在技术上健全的架构。一切都是渐进的、增量的。你学习，你更新，你迭代。
随着模型能力的提升，那些约束的紧密程度必须相应增加。就像发射火箭一样。如果火箭很小，你做错很多事也没关系。但随着火箭变大，公差就会缩小——从厘米级缩小到毫米级。那就是你必须达到的精度。你必须继续提升你进行测量以及确保工程实现的能力，此外还要确保安全防护属性。这就是我们的思考方式。
在某些时刻，我们会引入非常具有阶段性的变化。当我们最初创建准备度框架时就是这样一个例子。但即使是准备度框架，我们也非常刻意地嵌入了修改它的能力。我们说：“会有新的信息出现。我们必须学习。我们必须更新。”但在任何时点，我们都希望明确：我们的门槛是什么？当模型达到某种能力水平时，我们如何处理？
我们最近谈到了Astra正在接近“网络安全临界点”（Cyber-critical）。它未必已经到了那个地步，因为要真正证明这一点，评估体系尚未完全定义。但我们在说：“好吧，它开始接近了，所以让我们像对待临界点一样对待它。”这意味着我们需要去执行某些安全保障和制衡机制。你正在看到所有这一切的展开。
所以，回答你的问题：我们定义一个门槛，我们达到这个门槛。你必须采用一个专注于迭代的框架。你是否在学习？你设定的门槛是否在以足够严密的执行力被收紧，以交付所需的属性？
采访者： 你的火箭类比很有意思，因为，额，火箭也经常爆炸。我一直在思考你对这些系统能力增强时的担忧——关于控制它们以及现在是否存在某种“潘多拉魔盒”正在被打开的情况。结合你对Astra后续模型的了解以及导致你们放缓脚步的原因，你个人最近有思考过这个问题吗？你会为此担心吗？
格雷格·布罗克曼： 我们认为我们的工作就是去深入思考这项技术的影响。这就是我们在这里的原因——我们希望帮助引导它走向一个比没有我们时更积极的方向。这是我们使命的基本要求（Table stakes）。
我认为对于你刚才所说的，需要从两个视角来看待。首先，这项技术并不是在真空里被创造的。有许多人、许多参与者、许多公司、许多机构甚至许多国家都在追求它的创造。我们恰好处于一个拥有某种领先优势、某种能够窥见未来的位置。
思考我们如何负责任地、安全地开发至关重要。这是我们投入大量时间的事情。你可以非常具体地从我们在所做的一切中对其进行优先排序的方式中看到这一点。实际上，我认为我们过去犯过的错误包括：较少谈及这是我们的运作方式——即安全是一个一等优先级、一等需求。我们一直在做，但不一定像我们应该做的那样公开地谈论它。我认为我们开始意识到，我们需要帮助人们理解这是我们的核心价值，是我们极其关切的事情。
我认为我们一直是安全、安保和对齐领域的行业领袖，但我认为外界未必都知道这一点。
采访者： 即使面对来自Anthropic关于他们才是该领域领导者的声浪？你认为你们一直都是吗？
格雷格·布罗克曼： 我在实质层面坚信我们一直是。
采访者： 那你是否认为你们正在做的事——以及你们所看到并需要重构的能力，比如准备度框架等等——意味着你们实际上远远领先于大家的预期？比如，这是否意味着你们内部拥有世界尚未见过的突破？
格雷格·布罗克曼： 嗯，我不能对竞争格局发表评论，但我只想说，在我们心中，我们非常专注于我们正在做的工作。我们认为我们看到了平滑的扩展，指数级增长在继续。所以这不太关乎我们相对于别人的位置，而更多关乎我们相对于预期——或者我们认为我们将能够实现的目标——的位置。
这一点之所以重要，是因为我们对自己的要求标准并不真的取决于生态系统在展示什么，因为外部有太多噪音了，很难知道什么是真实的。我们关注的是：我们是否对得起我们自己的良知？我们自己的标准？我们认为重要的事情？这是我们采取的第一视角。
我想补充的第二点是，我认为我们最近谈到支持的“保持前沿节奏”（Pacing the Frontier）公开信——其中的措辞是经过非常精心选择的。“Pacing”（节奏控制）是一个非常重要的词。如果你思考正在发生的事情，我们想说的是，你不能用一维的视角来看待交付一个模型意味着什么。如果你只看能力，而不看对齐，或者它被训练时的安全属性、防护属性，那就太短视了。
在这个能力水平上，你需要将这些视为一等需求。实际上，它们才是瓶颈，因为我认为这些是人们此前较少以集成方式关注的领域。顺便说一句，这种集成（Integration）是至关重要的。我认为人们出错的地方在于他们以为可以把这些属性分割开——你可以只要安全，或者只要能力。不，它是一个整体。我们试图交付一个系统，一个AGI，它可以提升你、对你有用、交付你的目标、受你掌控、与你的意愿相符合。这就是我们正在交付的东西。所以这就流转回所有关于门槛、测试、评估、安全、防护的问题。所有这一切都极其、极其关键。
采访者： 我想稍微转向一个新话题，我想听你谈谈“融合”（The Merge）以及相关进展。我们一直在谈论生存风险、前沿领域发生的事情——我认为世界上大多数人是看不到这些的，对吧？那发生在像OpenAI这样的公司内部。人们能看到的是ChatGPT如何演进，Codex如何演进。据我理解，你在当前岗位上的重大优先级之一，就是你们内部称之为“融合”的项目——即创造这个超级应用（Super App），将ChatGPT和Codex合并。
你已经把ChatGPT和Codex结合了，现在有了带标签页的ChatGPT for Work。但这感觉还不是终局状态。作为用户，我能看到目前实现上的一些粗糙之处——事物并不总是同步，你能感觉到你依然在结合两个独立的系统。一旦你们完成了这项工作，你为人们构想的终极产品是什么样的？
格雷格·布罗克曼： 一个个人AGI（Personal AGI）。
采访者： 个人AGI。它在软件形态上是如何体现的？
格雷格·布罗克曼： 是的，这是一个令人兴奋的愿景。当我们推出ChatGPT时，它只是一个文本框——你可以问它任何事。但如果你仔细想想，它从根本上是受限的。它唯一能做的事就是为你输出文本。它能产生的唯一影响只在你的脑海里。它看不了你的日历、你的邮件——这些都做不到。
现在，改变了。ChatGPT Work本质上是在云端套上了马鞍的Codex。我们有ChatGPT作为这个问答系统，人们在这里提出超越快速问答的复杂查询；然后我们有Codex作为可以真正干活的Agent系统。答案变得显而易见：ChatGPT也需要Agent化。
今年年初，我们想：“让我们拥有出色的对话，同时也让它能做Agent的事。”但事实证明执行起来非常困难。我们最终得到了两个独立的Agent技术栈，我们会对比它们——为什么这个在这里行得通在别处行不通？过程既缓慢又混乱。
所以我们决定：让我们把Codex的Agent技术栈直接引入ChatGPT中。你现在在ChatGPT Work中看到的只是一个中间步骤。这很有意思——ChatGPT始于一个文本框，而现在这个文本框变得强大得多了。
采访者： 但这个文本框比以前棒太多了。
格雷格·布罗克曼： 棒太多了，一点没错。而我们希望达到的终局很简单：用户根本不需要去思考这些。 没有标签页，没有切换，没有模型选择器，没有思考深度层级。你就应该直接拥有一个AGI。你应该能问它任何事——甚至，你根本不需要去问。
它应该主动说：“嘿，我注意到你最喜欢的乐队来本市了。门票刚刚开售。因为抢票很快，我只有10分钟窗口，我已经为你和你的家人买到了最好的座位。希望这没问题。”
如果你已经与这个Agent建立了足够的信任——给予了它权限、设定了边界——它就知道什么在你的预算内，什么需要批准。那就是我们想要的系统。信任是关键。**情感智能（Emotional Intelligence）**也很重要。如果你分享了某些私人信息，比如健康状况，AI应该知道这些信息可以与父母讨论，但不能与陌生人讨论。
可观测性（Observability） 至关重要——帮助你建立信任，以便你知道AI在代表你做什么，知道它在追求你的目标。这种相同的底层AGI技术栈，连同其连接器和上下文，同样适用于企业。我们今年已经看到它在重塑软件工程。AGI不是某种突然的飞跃——它是期待值的不断更新。我们都忘记了一年前的软件是什么样子的了。
采访者： 在OpenAI内部有一件很有趣的事——你们在销售、财务等各个职能部门基本上实现了ChatGPT Work 100%的采用率。每当你们推出新模型或系统崩溃时，大家都会非常生气——他们无法工作了。然后你会说：“六个月前你们还没有这个工具，你们过得好好的。现在抱怨什么呢？”
格雷格·布罗克曼： 人们的适应速度太快了。他们学会了如何从这些工具中获取最大的价值，一旦学会，就无法想象倒退回去。这里面存在某种特质：我认为我们将拥有不可思议的工具——能够消除大量繁重琐碎工作的助手，这样你就可以把时间花在你想做的事情上：打造更好的生活、放松、陪家人、追求创造力。如果你有一个愿景，你将拥有将其带入现实的工具。
ChatGPT将帮助你实现你想做的事。如果你想让世界变得更好，这就是它的用途。
采访者： 这背后的含义是，正如编程AI工具为工程所做的那样，这可能会为所有的知识工作、所有的领域带来改变。这就是你过去谈论AGI的方式——能够比人类更好地完成绝大多数经济可行工作的AI。你现在描述的听起来就是那样。
格雷格·布罗克曼： 我认为我们在软件工程中看到的放大效应，将在每一个领域重演。但有一点值得思考：软件工程师并没有利用这些工具去休更多的假——他们比以往任何时候都更加努力地工作。
采访者： 是的，你们在这里的工作时间非常长。
格雷格·布罗克曼： 是的。整个行业的人都在谈论这一点——因为现在，如果你的Agent没有在运行，感觉就像是浪费了机会。我知道那种感觉。我们花了数年时间与GPU集群打交道：你要么在上面运行东西，要么就失去了这个机会。你不能把那些算力小时存到以后用。过期不候（Use it or lose it）。
这就是摆在我们所有人面前的机遇：你的口袋里将拥有一个近乎AGI——也许很快就是真正的AGI——的东西。它可以做任何你想做的事。问题是：你想做什么？ 它在等待你的方向、你的指导、你的管理。
采访者： 如果最终我们能从AI那里赢回一些时间，那就太好了。
格雷格·布罗克曼： 对的。现在，它会帮助你做更多工作。但希望随着时间的推移，它能给予你选择的自由。
采访者： 没错。我认为这正是下一步——从微观管理一个Agent（你需要向它提供任务和上下文，因为它还没有这些）向前跨越。
格雷格·布罗克曼： 完全正确。你想要的是更像一个非常优秀的高级助手——一个已经接入上下文的助手。你给了它上下文，与它建立了信任。你必须说：“好了，我信任你拥有这个上下文。我信任你承担这个责任。我信任你做这份工作。”一旦到了那个阶段，它就应该能够主动运行和执行。
你早晨醒来，它会说：“嘿，这里有五件事需要你审批以解除阻塞。我只需要在这件事上获得批准。这里是我有的一个问题。”然后当你喝着早晨的咖啡时，你只需点确定、否定、确定、否定。
采访者： 然后你在深夜回来，又有五件事等着你。我认为这将是一个与我们许多人在五年前或十年前构想的完全不同的AGI世界。这不仅关乎集成——更关乎人类通过这个工具获得最大化的赋能，但你依然参与其中。你依然拥有监督权、判断力、目标。而在另一面，你依然拥有问责制（Accountability）。问题在于：如果某件事没完成，是谁的责任？我不认为归咎于AI——“哦，它太懒了，没做那件事”——能说过得去。作为导演，作为主持大局的人，你需要感受到那种问责制，并确保任务按照你想要的方式完成。
格雷格·布罗克曼： 这几乎就像每个人都将成为自己个人公司的CEO，编排指挥他们想要管理的尽可能多的Agent。这将是一个非常具有赋能性的世界，人们可以做更多他们想做的事。我认为这意味着人们能够赚更多的钱，改善健康，学习任何他们想学的东西，并以他们想要的方式度过时间。
如果你有雄心壮志，它们比以往任何时候都更加触手可及。我从与用户的交谈中具体了解到了这一点——小企业主在ChatGPT之上运行业务，他们说：“没有它我根本不可能做到这一点。”有人辞去了工作去创业，因为ChatGPT在太多方面帮助了他们。那种赋能——人们以前不敢迈出那一步，但现在可以了——就像是加倍实现的“美国梦”。这就是我们正在解锁的。
采访者： 你描绘了一幅非常美好的画面。我在我作为独立媒体创业者的工作中也看到了这一点。但人们对AI的感情其实也非常负面，尤其是在美国。我在想——如果赌注这么高，你是否必须实现这个愿景才能改变这种情绪？也许这就是改变人们观念的关键，因为现在在社会的许多角落，感受正变得越来越负面。作为负责业务和ChatGPT的人，你感受到这种压力了吗？
格雷格·布罗克曼： 我们感受到了。我们感受到了这种责任、这种沉重感，我们绝对感受到了实现这一愿景并帮助人们理解它的紧迫性——帮助他们理解我们是谁、我们的意图、我们为什么做这件事。全球的态度各有不同。在美国，我们知道我们必须实现这个愿景，以帮助人们提升自己、感受到被赋能。在韩国或日本等国家，社会情绪已经非常积极——人们看到了潜力。
美国现在处于一个拥有难以置信机遇的伟大时刻。我们是这项技术的领导者。这将是人类创造过的最重要的技术。它将塑造人们如何生活、工作、实现目标，经济如何运行，国家之间如何相处——所有这一切。美国在其中处于领先地位。我们不应该将这个机遇视为理所当然。我们必须充分利用它。
在OpenAI的历程中，我意识到了这有多么重要。它必须是广泛赋能的——一项所有人都可以用来提升自己的技术。美国的领先可以确保这项技术所代表的价值观——它在世界上如何展开——能够强化民主原则，并提升我们所珍视的核心价值。这关乎我们如何使用它，但也关乎我们如何利用这个领导力机遇，确保我们不会挥霍掉它。
采访者： 好的，这些就是我的全部问题了。你觉得还有什么在你脑海里的事情想说，或者我们遗漏了什么吗？
格雷格·布罗克曼： 有太多事情了，有太多的领域需要覆盖。归根结底，我们在做的事情极其复杂。它有太多维度——消费者、企业、研究、安全、对齐。这一切都是真实的。我们迎来了这股被解锁的创业浪潮。但在最核心的地方，有一件非常简单的事：我们有一个使命。我们的使命是确保通用人工智能（AGI）惠及全人类。 这就是我们在这里的原因。我们所做的一切都源于那一个单一的目标。那就是我们在追求的。这就是我们创办这个地方的原因，也是我们所致力于的。
🔗 原文链接
https://thetranscriptdesk.substack.com/p/how-close-are-we-to-true-artificial