Appearance
AI 超级预测者已经到来：FutureSearch 首席执行官 Dan Schwarz 访谈实录
原文标题: AI Superforecasters Are Here: FutureSearch CEO Dan Schwarz | Edited Transcript 来源: The Transcript Desk
💡 核心观点
- 在过去六个月中，AI 预测系统迎来了关键技术拐点，在多项基准测试及预测市场中，其预测准确率已跨越人类“超级预测者（Superforecaster）”及专家团队的水平。
- 预测能力并不等同于交易盈利，因为金融市场的绝大部分超额收益源于做市、套利或消息速度而非单纯的预测未来；但对于投资和战略决策而言，条件预测（Conditional Forecasting）提供了极其重要的决策支持。
- 前沿 AI 实验室（如 OpenAI、Anthropic）不仅利用预测模型进行复杂决策，更将“预测未来”视为唯一源源不断、不可作弊（通过等待未来发生获取绝对真理）的终极 AI 评估基准（Eval）。
- FutureSearch 正致力于将相互关联的预测任务链接为一致的因果世界模型（World Model）；面对 2029-2031 年可能到来的超级智能，建立高质量的认识论与风险干预机制是应对爆发式发展的关键。
📖 中文全文
章节时间线
- 00:00 AI 战胜人类超级预测者，预测在共享世界模型中实现复合，预测市场的局限性
- 01:53 为什么“AI 超级预测者”门槛会在过去六个月内突破
- 05:43 回溯预测（Pastcasting）与 Bench to the Future：在结果揭晓前评估预测能力
- 08:30 为什么预测技能并不自动转化为交易利润
- 10:35 前沿实验室动态、OpenAI 收入实时预测（Nowcasting）以及预测创造价值的场景
- 12:43 分布内推理 vs 分布外推理
- 17:00 AI 系统 vs 单个预测者、专家团队与预测市场群体
- 19:46 模拟市场、对冲基金以及真正的预测优势为何难以被察觉
- 23:47 FutureSearch 如何研究当下、拆解问题并聚合预测
- 28:35 消费者预测与能真正改变个人结果的决策
- 32:02 预测既是前沿模型的核心能力，也是不可作弊的评估测试
- 35:23 不可削减的不确定性、直觉物理学与隐藏推理
- 42:32 Dan 对 2029 年的展望以及预测 AI 爆发式飞跃（Takeoff）的难度
- 45:44 预测成本、测试时计算（Test-time Compute）以及更多 Token 是否能持续提升准确率
- 51:34 共享世界模型、因果图（Causal Graphs）与相关性失败的风险
- 56:44 为什么预测市场没能带来更明智的政治，以及放缓 AI 发展的合理性
- 1:01:15 结语
访谈正文
00:00 - 01:52
开场剪辑：对话对话精彩片段 preview 了后续深入展开的三个主题：AI 系统超越人类超级预测者、预测在共享世界模型中相互促进与完善，以及预测市场作为政治智慧来源的局限性。
01:53 - 06:50
Nathan Labenz：我们这次对话的契机是 Scott Alexander 刚刚发的那篇文章。我知道你们之前有些合作，但那篇文章真的很吸睛，因为 Scott 绝对算不上无脑推崇 AI 的炒作者，可他的文章标题却是《AI 超级预测者已经到来》（The AI Superforecasters Are Here）。能跟我们聊聊这件事吗？
Dan Schwarz：Scott 实际上是最早看到第一代 AI 预测者的人之一——当然，这取决于你如何定义“预测者”。在 AI 和机器学习领域，时间序列预测已经存在了几十年，一切取决于你的定义。FutureSearch 成立于 2023 年——在 GPT-4 Turbo 还没发布的时候，我们就开始使用 Claude 2 构建预测器了。当时还非常早期，Scott 试用过我们的产品，那时他并没有觉得特别惊艳，实际上当时谁也没觉得惊艳。但 FutureSearch 成立的基石假设就是：我们终将达到超越人类的水平。而现在我们宣布，这一时刻已经到来。这一切发生得非常突然——我们公司运营了大约三年，但真正开始让我们对其能力感到震撼乃至敬畏的，就在过去这六个月。
关于预测，最重要的一点是：它是一项极其关键却长期被忽视的能力。人们说它被过度炒作，但整个预测科学领域其实只有大约十五年的历史。在 Tetlock（菲利普·泰特洛克，《超级预测》作者）之前，甚至没人去研究预测准确率——没有人在记录预测结果后进行系统打分，连最基本的科学依据都没有。在 Tetlock 之前，很多人为预测市场感到兴奋，但那完全是一种人类技术。预测市场现在非常火爆——比如我在谷歌构建并运行的那个，我认为这很好，但它本质上是一种增强和协调人类智慧的方式。而我们现在更关注人工智能，这需要一些时间。像 Midjourney 在图像生成方面早已表现优异——我不知道你该如何横向比较图像生成、语音生成、文章写作、编程、数学等各种常规能力，或者确切指出它们何时达到了人类或超人类水平。预测能力如果说有什么特点的话，那就是它在这个赛道里有点“后发”。但现在它一旦到来，将彻底改变预测本身的定义。
Prakash：你提到在过去六个月里，你看到了相比以往的质变或跨越。能详细展开讲讲吗？
Dan Schwarz：Scott 文章里很大一部分内容是在梳理证据链，因为相关证据分散在各处。长期阻碍预测学发展的主要瓶颈（这也同样适用于人类预测）是：你通常必须静静等待未来发生，才能验证自己是对是错。人类在年度的预测竞赛中也是如此：比赛结束时，你才知道一年前谁是最好的预测者。但人类在一年里的进步幅度有限，所以一年前的成绩能代表今天的水平。这套逻辑在 AI 身上行不通——如果你等上一整年才去评估一年前的 AI，你得到的是一份严重过时的视图。Scott 提到的一点是，我们使用最好的预测模型来预测股票收益——我们在 2025 年 8 月发布了一份股票排名，基于对某些基本面的预测并进行推演，建立了一个简单的模型。我们把它挂在网上，设定了部分付费墙，然后静观其变。现在过去了十个月，那个投资组合的表现极其亮眼——但这说明了什么？它只说明我们十个月前的预测方法论很出色，而大多数人并不关心十个月前的模型。
因此，我们依赖几种不同形式的证据。有些是短期证据——比如每几周或几个月运行一次的实时比赛。在 FutureSearch，我们主要依赖“回溯预测”（Pastcasting）：截取几个月前互联网的数据快照，利用模型的训练截止日期“欺骗”它们，使其在没有后见之明偏见（Hindsight Bias）的情况下进行预测。这非常有用，因为我们可以立即进行评估。例如当 Claude Fable 刚发布时，我们能在 24 小时内完成评估，发现它是我们排行榜上最强的单 Agent 预测者——而其他人必须等待数周甚至数月才能知道 Claude Fable 到底有多强。在内部，通过我们称之为 Bench to the Future 的基准测试，我们实时看到了这种能力演进；而外界看到的往往滞后几个月。如果你读过 Scott 的文章就会发现，在过去十二个月里证据链不断完善，而在过去六个月中，来自实时预测比赛和预测市场真实表现的数据表明：AI 至少已经具备了与人类甚至人类专家团队抗衡的实力。至于是否已经超越人类，则需要综合分析大量分散的证据。如果你对此好奇，或者生活中有预测需求，你完全应该亲自试试看——直接去 FutureSearch，你会得到 20 美元的免费额度来体验前沿预测，亲自判断它的水平到底如何。
06:51 - 10:34
Nathan Labenz：那么你们作为一家商业公司，打算用这个能力做什么？在我看来，如果你能跑赢市场，这本身就是极佳的商业模式——尽管我不知道在这种赛道里壁垒能维持多久。拥有一位超级预测者，一种路径是直接参与市场交易。相比于向散户卖 20 美元的预测服务，或者卖给企业客户，你们在多大程度上会直接进行市场交易？你认为预测的价值在哪里能被最大化地释放？
Dan Schwarz：问得好，Nathan。FutureSearch 创立近三年了，但我们依然在探索多条路径。从交易的角度来看，事情非常微妙，如果你去研究 Scott 的文章和相关证据就会明白这一点。在金融市场、二级交易和预测市场中，绝大多数赚到钱的人并不是靠“预测优势（Forecasting Edge）”——而是靠各种其他策略。比如目前在 Polymarket 上赚钱的 AI，绝大多数是在做做市（Market-making）、套利（Arbitrage）或抢跑新闻（Front-running news）；它们并没有试图更好地预测未来，而是利用了市场的某些微观结构特征。广义上的金融也是如此——巴菲特学派认为更好的预测未来现金流就能赚钱，不少投资者认同这点，但绝大多数投资者压根不试图预测未来，他们靠捕获其他模式获利。所以你可以反问：如果成为超级预测者盈利能力这么强，那么在 AI 出现之前，这笔钱都被谁赚走了？答案很复杂——许多对冲基金确实雇佣过超级预测者并建立了交易团队，有一些成功证据，但并没有明确事实证明超级预测者能持续击败市场，或者明确知道该怎么做。预测能力与金融赚钱之间的逻辑链条其实并没有那么直接。联系当然存在，我们在 markets.futuresearch.ai 上展示了一些证据。
或许更有价值的问题是：作为一种 AI 能力，预测扮演着怎样的角色？这里最关键的是关注前沿实验室（Frontier Labs）在做什么。这些年来我写过很多文章试图推演前沿实验室的动作。在 2024 年，FutureSearch 应该是首家准确拆解 OpenAI 收入结构的公司——当时主流报道完全是错的，而我们精确推算出了他们的收入在消费者、企业和 API 之间的分布。这其实更接近于“实时预测/现时测算（Nowcasting）”——本质上是对不确定性具备极高的处理能力。2024 年没人知道 OpenAI 的收入究竟来自哪里，没有任何官方报告可读，你必须从数十个分散的数据点、泄密信息和传闻中拼凑出真相。这就是预测者的任务。在某种程度上，预测 AI 的未来是使用预测器能做的最有价值的事——我们甚至还没等到 AI 超级预测者问世就用人类团队开始了，随后是“人类+AI”混合团队，现在则越来越多地依赖 AI 本身。
归根结底，未来属于前沿实验室——OpenAI 和 Google 的所作所为在很大程度上决定了 AI 对人类命运的塑造。因此核心问题在于：前沿实验室如何看待预测？他们是否在用预测来训练模型？预测是一项重要的评估基准（Eval）吗？他们关心自己的模型出厂时预测未来的能力有多强吗？我就先讲到这里，但你大概能猜到预测真正的重金潜伏在何处。
10:35 - 13:43
Nathan Labenz：别就此打住啊。你如何评价这些前沿公司在预测领域的相对位置或战略取向？
Dan Schwarz：我确实不能透露太多——我和几家前沿实验室签署了保密协议（NDA），随着时间推移大家会了解更多。最简单的理解视角是：预测是一项极其重要、但相比图像生成等领域长期未被给予足够重视的 AI 能力。我认为前沿实验室现在正在对其投入大量关注，这与其日常运营息息相关。你可以把人类预测看作“决策支持”：如果你身边随时坐着一位人类超级预测者，你可以就任何问题向他请教，你会怎么做？你可能会从中获益，尽管具体方式因人而异。但现在想象一下，有一个预测能力远超顶尖人类的系统——它极其擅长“条件预测（Conditional Forecasting）”，比如‘如果我请这位嘉宾上播，能拿多少播放量？如果请另一位呢？’如果这种超人类的能力在指尖触手可及，你对预测的认知将与过去十五年的传统模式完全不同——过去你需要雇佣一个人研究几天，或者在预测市场发个问题静等几百人来打分。那种方式太慢了，而且无法做到私密定制。你可以想象在前沿实验室的密室里，他们在做战略决策时正在发生什么。这里有一个公开数据点：OpenAI 当初雇佣了超级预测者来评估 GPT-4 的发布风险，后来 DeepMind 也雇佣了超级预测者来评估 Gemini。甚至在 AI 超级预测者出现之前，面对如何发布模型、制定何种安全策略等决策，前沿实验室就觉得有必要引入超级预测者。而现在你需要思考的是——他们还会继续聘请人类超级预测者，还是直接使用内部的 AI，或者像 FutureSearch 这样的系统来做决策？
Prakash：我想问个问题。有些人依然坚持认为大语言模型（LLM）只是“随机鹦鹉（Stochastic Parrots）”——Gary Marcus 等人大概会这么说。另一方面，人们将现代语言模型视为“推理引擎”，能够提供源自历史语料库的“分布内（In-distribution）”解答，或是通过真正推理得出的“分布外（Out-of-distribution）”解答。模型在预测时，你在多大程度上看到了这两者的体现？它们是在多大程度上依赖过去发生过的历史语料，又在多大程度上对从未发生过、甚至可能永远不会发生的事情进行逻辑推理？
13:44 - 17:38
Dan Schwarz：这是一个极好的问题，Prakash。因为很多人对 AI 超级预测的核心担忧，就是它太过于依赖“分布内”数据了。我实际上从一位我极度尊重的顶尖人类预测者那里听过同样的观点。他相信像 FutureSearch 这样的系统在近期的、分布内的竞赛中能正面击败他。但在后 AGI 时代、在通用人工智能或变革性 AI 降临的世界里，他认为自己相比 AI 仍拥有巨大优势，原因恰恰如你所说——AI 是基于已经发生过的历史数据训练的，而当世界进入奇异、未知的领地时，你需要的是创造性的、横向发散的思考能力（Lateral Thinking）。
但我认为 AI 的进化速度是如此惊人，以至于哪怕是那种横向思考——去构想一个完全不同的未来场景——最终也会被 AI 攻克。可惜的是，这很难直接测试。随着 AI 继续对世界带来各种离奇的影响，我们每天醒来在新闻里看到怪事，这些怪事变成了 Metaculus 和 ForecastBench 上的预测题目，而像我们这样的团队试图更好地预测它们——我们得到的证据就会越来越多。但如果世界的本质发生了真正的阶跃式剧变——某种 AGI 或变革性 AI 世界，比如“数据中心里的天才”，或者像“AI 2027”那样的设想——我认为那将是一片混乱的新大陆。不得不说，人类在构想变革性 AI 方面的表现其实也算不上优秀，所以 AI 要超越的门槛其实比想象中要低。
当你真正去体验这些 AI 预测器时，你会发现它们的推理结构非常符合人类逻辑——这绝非偶然，因为它们原本就是在人类逻辑结构的训练数据上培养出来的。人类预测者最喜欢说：‘过去十次发生类似情况时发生了什么？结果如何？’——并据此构建概率分布。至于 AI 这样做是因为它独立得出了相同的逻辑结论，还是因为训练数据教会了它这么做，亦或是它的思考方式本来就趋同于人类，我认为目前尚无定论。超人类级别的推理是很困难被量化的——即使它摆在你面前，你真的能分辨出来吗？Prakash 和我在开播前讨论过频繁使用 Claude Fable 的体验——我发现 Fable 解释事物的方式与 Opus 或 GPT-5.5 相比有些许“异质感（Alien）”。它非常简练，句式更短且充斥着专业术语，仿佛在单句中压缩了远超人类常规密度的信息。在我看来，这就是掩码背后的“修格斯（Shoggoth）”开始露角的迹象——这种异质智慧比一个月前变得更加明显了，预测随着后训练（Post-training）越来越专业化、模型规模越来越大，我们将看到更多这种现象。
从超级预测的角度来看，这会如何显现？或许超级预测正是观察这一现象的最佳窗口。如果你看一段优秀的的代码，你可能会说，这代码写得真棒，John Carmack 也能写出来——它很赞，但顶尖人类也能做到。但如果你看到一份推理极其精妙的战略分析——‘如果政府采取动作 A，将会引发如下连锁反应’——你可能会开始看到某种与任何人类分析都截然不同的、带有异质色彩的东西，而这可能正是 AI 开始全面超越人类的标志。
Nathan Labenz：关于超越人类，你能帮我校准一下标准吗？世界上有单体的人类预测者，甚至单体人类超级预测者；同时也有群体聚合指标——比如 Metaculus 社区预测，或者市场出清价格（Market-clearing Price）——有时候这些市场价格会被操纵或受内部信息影响，但这反而可能让它更准确。当我们说现在拥有了 AI 超级预测者时，是指它达到了单个顶尖人类的水平？还是说它已经逼近了人类群体的聚合水平？
17:39 - 21:41
Dan Schwarz：这非常有意思——它的进化速度太快了，似乎在所有人意识到之前，就直接冲破了单个人类的水平，并达到了人类专家团队的层次。我对此不敢抱百分百的确定，因为我们还没有最完善的对照实验，但目前最容易获取的两个数据源是：
第一，预测研究研究所（Forecast Research Institute）推出的 ForecastBench。在他们的排行榜上有一个“超级预测者中位数（Superforecaster Median）”，而就在过去几个月中，包括 FutureSearch 在内的多个 AI 系统已经超越了这个中位数。
第二，Metaculus 运行了近两年的“机器人 vs 人类”系列竞赛——AI 系统的表现正在节节高升。Metaculus 还举办同时向 AI 和人类开放的正面交锋赛，将 AI 的预测与 Metaculus 所谓的“社区预测（Community Prediction）”（一种更复杂的加权中位数）进行对比——结果同样显示，多个 AI 系统已经跑赢了社区预测。
预测市场是另一个奇特的证据来源，因为如果你能完成哪怕一次盈利的交易，理论上你就击败了整个市场。FutureSearch 已经完成了数百次真实交易——相关记录全挂在我们的官网上。虽然在小样本下我们的盈利曲线波动剧烈，很难下定论，但如果你看到一个 AI 并不是在做市或套利，而是做 FutureSearch 在做的事——每周去 Polymarket 和 Kalshi 挑选交易量最大、最具地缘政治色彩的市场，找出买卖价差最大的标的下单——如果它能对市场价格产生微调甚至推动，这本身就已经构成了“AI 系统超越了群体人类协同定价”的强力主张。
再次强调：这三种评估手段单独拿出来看都不算绝对完美——它们都存在大幅波动和方法论瑕疵。所以我们无法给出一个死板的结论，但至少从表象上看，市场上已经出现了盈利的 AI 交易者，且 AI 系统在人们最信任的两大预测基准上击败了人类群体。
Prakash：我问一个可能有点傻的问题，但我实在忍不住。关于 DeepSeek 的传闻是，他们最初想模拟消费者的行为——构建系统来提问并模拟市场反应，这对于对冲基金业务非常有用。这或许是个都市传说，但我必须问：肯定经常有金融机构找到你们——是否有人成功利用模型去模拟市场参与者，从而推演事情的发展？
Dan Schwarz：我只听说过有人尝试模拟整个市场。偶尔会有创业者拿着计划书找我，说要建立一个“AI 预测市场”，让所有 AI 参加者相互下注博弈。我通常会告诉他们，这是生成最佳预测极其低效的方式。这种机制对人类有效，是因为人类需要激励——如果你要去研究并下注，你必须认为预期收益是正的。但 AI 不需要财务激励；你只要命令它去分析，无论背后有没有钱，它都会尽力去完成。
我认为更深层的谜团在于：对冲基金这段时间到底在干什么？我们知道他们雇佣了超级预测者，知道他们都读过 Tetlock 的书，那么他们究竟做出了什么成果？赚钱了吗？我毫无头绪。在 FutureSearch 的这三年里，我和几家对冲基金聊过，稍微窥见了一点他们的操作，我能说的就是：极其深奥复杂。每一家对冲基金的做法都截然不同，而且他们极其保守秘密，所以外界根本无法从中汲取经验。如果真有人通过这种方式赚了大钱，我认为我们永远不可能在公开渠道听到风声。
21:42 - 28:34
Nathan Labenz：完全不会留下痕迹。这是一个有趣的思维实验——如果真有人拥有一个具备绝对差异化优势的超级预测者，我们怎么才能察觉？听起来你的预期是：个别对冲基金可能一直在闷声大发财，而外界没有任何显性指标可以监测到。是这样吗？
Dan Schwarz：我给你举个例子，说明这种优势在基础指标中会有多隐蔽。几年前我和一家对冲基金聊过（保持匿名）——他们的预测策略是抓取突发新闻，比如无人机袭击或石油禁运，并在新闻爆发后的前 300 秒内去交易比特币的波动率（Volatility）。他们的理论是：每当风险事件发生时，比特币波动率就会飙升。如果你能比市场上所有人更快地分辨出，一条突发新闻究竟是会带来实质性破坏，还是仅仅是又一个无惊无险的普通日子，你就可以在新闻发酵的 5 分钟内做多或做空波动率并快速获利结清。如果有人在这么做，你通过观察比特币波动率指标能看出来吗？我觉得完全看不出来。
你甚至可以问一个更基础的问题：大语言模型（LLM）在金融领域的实际应用效果究竟如何？我们对此有任何确切的概念吗？我们都默认它们在被疯狂使用，但我们有证据吗？赚钱了吗？有人发表相关论文吗？我认为金融界是观察新技术如何向行业渗透最糟糕的窗口，因为保密带来的利益诱惑太巨大了。相反，在代码 Agent 领域我们能看到铺天盖地的证据，因为那里赚钱的方式是把产品大规模分发给用户。所以我们必须去有公开证据的地方寻找答案，这也是为什么 FutureSearch 被做成了一个人人皆可体验的公开产品。
Nathan Labenz：能跟我们透露一下你们是如何构建预测 Agent 的吗？在代码领域，我们看到不同模型之间互相 Code Review 和批评——普遍共识是来自不同厂商的模型拥有不同的失效模式（Failure Modes），相互交叉检查能捕捉错误，采用多模型血统互审会带来回报。另外也有共识认为 spending more tokens（消耗更多 Token/测试时计算）能带来更好的效果。你们在预测领域是在顺应代码 Agent 的这些通用趋势，还是发现了某些颠覆认知、让人意想不到的独特规律？
Dan Schwarz：我们总体上是在顺应这些大趋势，但我不认为这些趋势目前被外界彻底理解了，所以我尝试以一种包含信息量的方式来回答。
在 2023 年底我们用 GPT-4 和后来的 GPT-4 Turbo 构建预测器时，发现的第一件事就是：导致糟糕预测的最主要原因，是对当下的事实掌握有误。当时我们把大量的 Token 倾泻在网络搜索研究上，试图搞清楚乌克兰局势或 COVID 的真实近况，结果往往卡在第一步。当时的搜索 Agent 甚至算不上真正的 Agent——它们只是简单的 for 循环，或者人们常说的 Prompt 链。你可以在 2023 年尝试微调模型，但任何人类专家预测者一眼看到输出就会说：‘你连地面的基本事实都搞错了，怎么可能给出精准的预测？’
于是我们开始深入研究后来被称为“深度研究（Deep Research）”的技术，并创建了 Deep Research Bench——因为在能够对未来做出准确预测之前，你必须先具备精准评估“对当下的深度研究”的能力。在过去十二个月里发生的大变化之一，就是获取地面事实正日益商品化（Commoditized）——尽管还没有完全商品化；任何在自己专业领域使用过深度研究的人都会发现，准确抓取核心事实依然在模型能力的前沿边缘。可以说，预测工作中 80% 以上的精力，仅仅是在对当下可验证的事实进行高质量的研究与逻辑推理。
一旦你搞定了事实研究，接下来就有多种技术来生成优秀的预测。FutureSearch 是一家种子轮创业公司，我们不可能花 5000 万美元去预训练大模型——我们拥有微调、强化学习、Agent 协作与多 Agent 架构（Multi-agent Scaffolding），这些都是前沿实验室下游玩家通用的技术栈。在这方面最有趣的一些论文来自 Lightning Rod Labs 的 Foresight LLM 项目——他们一直在尝试强化学习；Scott 文章的评论区里也有链接指向另一个做类似工作的团队。我们开始逐渐摸清这些技术的门路，业内也在陆续发布成果。
FutureSearch 在 4 月发表了一篇关于“前沿预测模型中战略推理失效”的论文——我们拿自己最强的预测模型（属于商业机密，不公开内部细节）与极其优秀的 Opus 4.6 研究 Agent 进行对比，分析了风格差异以及 Opus 4.6 究竟错在哪里。简而言之：前沿大模型在理解和建模“人类动态（Human Dynamics）”方面，依然落后于顶尖人类或拥有更佳架构支持的预测器。
例如，当被问及某项法案能否通过时，人类预测者会指出：‘这是该总统当前最重要的政治优先级，如果不通过他就无法出席某场国际会议，他需要这个法案来挽回颜面’——而大模型会完全遗漏这一点，它无法理解政治家背后更深层的动机与人性博弈。很大一部分预测是地缘政治预测，而地缘政治预测的本质，是厘清一场复杂博弈论游戏中所有玩家面临的真实激励机制。这展现了研究端的前沿现状——如果你无法理解当下的这些微妙动态，预测就会陷入停滞。
至于如何把关于当下的最佳信息转化为对未来的精准预测，这很大程度上是 FutureSearch 的核心壁垒，所以我们保持保密。但大家能看到所有人的研究能力都在提升——你只需去 Gemini、ChatGPT 或 Claude 的免费层，就能体验到远超一年前的研究水平；每月支付 20 美元，你就能获得接近（虽然仍有差距）人类专家水平的经济与技术趋势研究能力。
28:35 - 32:01
Prakash：假设 AI 预测变得极其强大——普通消费者如何在日常生活中使用它？如何真正发挥它的价值？像“伊朗是否会爆发战争”这样的地缘政治问题，普通消费者其实用不上。那么在 C 端产品中，它会以什么形式呈现？
Dan Schwarz：这是一个极佳的问题，也是自 Tetlock 开始研究预测、或者至少自 2011 年我在 LessWrong 论坛关注预测市场以来，整个领域面临的核心悖论。
从隐式角度来看，我们做的每一件事都基于条件预测（Conditional Forecasting）——我们做出的每一个决策，都暗含着对“基于我们采取特定行动后所产生的因果结果”的预测。经济学论文里的每一种决策理论都包含这样一个假设：人类构建世界的模型，且心智地图与真实世界之间存在映射。预测这些结果本质上就是“智慧”的含义——然而，如果你直接递给人们一个“神谕（Oracle）”，他们反而不知道该拿它干嘛。
你该如何解释这种现象？在 2023 年底，我们做出了一个准确率相对粗糙的 AI 预测器，我把它摆在几十个人面前——包括聪明的消费者，以及各类企业的中高层管理者——让我震惊的是，尽管他们整天都在做各种决策（这些决策暗含着对团队或行动结果的预测），他们却完全缺乏想象力，不知道自己到底该去预测什么。这证实了我的直觉：预测是一项被严重忽视的能力，人们根本不知道如何使用它。
对比一下 Midjourney：‘我有了这个 AI，能生成惊艳的图像，我该怎么用？’人们虽然也会犹豫，但门槛低得多——你立刻就能想到五到十个生活或工作中的应用场景，无论是为了娱乐还是赚钱。而预测依然需要极强的抽象想象力——它需要你对自己当下究竟在做哪些决策进行深刻的反思。
作为一家种子期初创公司的 CEO，我自己极大地受益于进行预测训练——让 AI 审视我的商业决策，并推理如果我做 A 或做 B 分别会导致什么结果。但即使是我这样一个研究了多年预测的人，每天也必须花心思去梳理：我今天到底在做哪些决策？我在追踪哪些结果？最基础的卡点之一在于人们甚至不知道如何量化结果——预测通常需要你设定可衡量的指标。你到底是在优化资金、用户数还是留存率？你怎么知道某种做法是否真的改善了你与某人的关系？
32:02 - 35:22
Nathan Labenz：回到前沿 AI 公司如何看待预测这个话题——我知道你不能透露他们的真实想法，但能否谈谈你认为他们应该如何看待它？这复杂吗？朴素的观点是：如果模型擅长预测那肯定有好处，所以实验室应该努力提高模型的预测准确率。在这背后，是否有更深层的微妙之处需要 AI 公司予以重视？从你的视角看，他们应该怎么做？
Dan Schwarz：这里其实有两个维度：实验室应该如何将预测作为一种产品能力（Capability）？以及如何将其作为一种评估基准（Eval）？
作为能力，这更多是商业决策——OpenAI 在乎 ChatGPT 是不是一个好的预测器吗？这取决于他们的 C 端用户在不在乎。如果你是 Anthropic，你可能更关心企业级场景——当人们用 Claude 进行白领工作时，他们在乎它在 Excel 表格里做财务预测的准度吗？这是商业选择，我不便过多干预。随着时间推移，人们会逐渐发现预测贯穿于一切事物之中，但这将是一个漫长的觉察过程。
但从**评估基准（Eval）**的角度来看，逻辑就彻底变了。预测拥有一个绝妙的物理特性：只要等待，你就能获得绝对的“地面真理（Ground Truth）”。
如果我问一个关于未来的极难问题——由于混沌理论的存在，这是一个连 AGI、神谕甚至神明都无法提前精准回答的问题，比如预测三周后某立方米空间内的确切天气——你永远无法提前给出完美答案，但只要时间一到，天气究竟如何就会无争议地揭晓。
因此，你拥有了一套源源不断、难度极高、本质上无法提前作弊的题库，且随着时间推移能自动获得百分之百确凿的正确答案——没有任何其他 AI 评估基准具备这种属性。
如果你想优化一个代码 Harness，你需要越来越多未出现在训练集里的难题，并且你能确信‘这绝对是正确答案’以便进行训练——而这极其困难。试图为前沿实验室构建评估基准的人类专家（医生、律师、工程师、金融家等）发现，他们自己的智力已经不再高于正在被训练的模型了。如果你能人工设计出一道有标准答案的题目，模型大概率早就掌握了；你需要的是模型解不出来、但又确实存在标准答案的题目。
我认为，预测是满足这一条件的唯一可再生资源。这与埃隆·马斯克风格的断言——“预测是衡量智能的终极标准”——形成了呼应。宏观来看，我基本认同这个观点。我不会说预测是唯一的终极智能（代码智能、AI 研发智能、人际交往智能同样无比重要），但它在很大程度上是终极的评估基准（Ultimate Eval），我认为前沿实验室必须对其给予最高级别的重视。
35:23 - 39:00
Nathan Labenz：对于“不可削减的混沌（Irreducible Chaos）”，你有直观的概念吗？在超智能的极限下，我们对未来究竟能拥有多大的能见度？
Dan Schwarz：问得好。David Manheim 最近发了一张推图推测这个曲线，我一直想深入研究一下，因为我不知道他那些数据线是怎么画出来的。
在缺乏严谨证据的情况下，我的直觉非常接近 Eliezer Yudkowsky——我认为现实世界中包含着大量远超人类大脑理解极限的微观细节，随着智能水平的提升，你将开始捕捉到多得多的隐藏模式。在三周前预测出像素级（Voxel-perfect）的天气确实比人们想象的要遥远，但提升的空间依然巨大。
人类超级预测者往往不同意我这个观点——他们认为自己的预测已经接近最优解，任何相比他们做出的精度提升都是微乎其微且难以理解的。但我认为这只是因为我们习惯了用人类智能的尺度去丈量。如果从信息论或柯尔莫哥洛夫复杂度（Kolmogorov Complexity）的视角宏观来看——把世界建模为字节流——AI 最终会发现大量人类完全无法察觉的规律。
这虽然无法被证明，但我的直觉是，在接下来的一年里我们将开始亲眼见证这一点：AI 的预测准确率将以人类无法理解的方式全面碾压人类。你看一段预测的推导逻辑——五段密密麻麻的精炼推理，附带一个出人意料的结论——你读起来可能觉得莫名其妙，但事实证明它就是极其精准。随着时间推移，我们将越来越难以理解其背后的逻辑。
Prakash：嗯哼。
Nathan Labenz：这让我想到了其他模态。这也是我过去两年来一直痴迷的事情——模型似乎有能力在许多不同领域学习某种“直觉物理学（Intuitive Physics）”，从蛋白质折叠到材料科学（比如某种半导体配方的带隙会是多少）。在这些远离人类感官直觉的领域里，存在着一种奇特的“异质性（Alien Nature）”，而直接在原始数据（或很多情况下的模拟数据）上训练的模型似乎轻松攻克了它们。
我在想你是否认为预测也是类似的现象——模型把现实的真空抽得如此之紧，以至于它们自然而然地“理解”了未来，甚至这种理解都不再需要以语言为中介；还是说你认为“思维链（Chain of Thought）”依然是核心所在？当你提到看见五段推理文字然后得出一个令人吃惊的结论时，这让我开始怀疑：思维链究竟是真正的推理核心，还是仅仅是一层表面伪装——某种对深层、非语言化理解的浅层投影？如果是后者，这对前沿公司的安全防御计划将产生巨大的冲击，因为目前绝大多数安全方案都建立在“监控思维链”的基础上。这个问题有点发散，但希望你能明白我想表达的核心。
39:01 - 43:03
Dan Schwarz：在某种显而易见的层面上，事实绝对如此——如果你要求一个人类超级预测者完全解释他的推理过程，他其实根本无法做到百分之百的显性化。人类大脑中存在一层类似于深度学习的“直觉判断”：他们查看一堆证据，就像国际象棋大师观察棋盘阵型一样，瞬间就能“看到”最佳走法，但他无法言传——想法就这么凭空蹦出来了，就像大师的手指自然而然把马移动到了正确的格子。这种事在人类身上一直在发生，在当今的 AI 超级预测系统里也同样存在。因此，我们没有任何先验理由认为推理必须始终是完全可解释的——在大型语言模型内部，必然存在某种形式的“直觉判断”。
Nathan，你问题的核心在于：这种不可解释性究竟是占一小部分，还是占据了主导地位？——如果我去阅读 AI 的推理痕迹、推导逻辑和它搜集的研究，它在很大程度上是接近人类的思考路径、让我能看出门道？还是说它完全不可思议，如同在现实中发现了某种没人见过的全新规律——就像阿西莫夫《基地》里的“心理史学（Psychohistory）”，某种国际政治背后潜藏的博弈论结构被 AI 从预测训练中挖掘了出来，但它无法用人类语言表述？
即使在后一种情况下，AI 大概率也能写一段程序说：‘政治遵循这本冷门教科书中描述的博弈论属性，如果你应用这个公式，预测准确率就能暴涨’——而我们看完后可能会感叹：原来如此，完全逻辑通顺。真正的挑战在于：当它在黑暗森林般的深层推理中走得太远，以至于我们彻底无法追踪时，那个极限边界在哪里？从定义上讲，我们无法提前预知那会是什么样子。
我认为最好的证据将来自其他领域。如果“AI 2027”设想的场景开始上演——即 AI 在自我研发（AI R&D）上变得越来越强——这种过程是可解释的吗？公司里的顶尖 AI 研究员看完 AI 的方案后是会感叹：‘天哪，这个点子太棒了，我怎么没想到’（显然很有帮助且聪明，但属于顶尖人类在状态极佳时也能做出的成果）？还是说 AI 直接写出了一堆充斥着怪异浮点数的程序，人类彻底看不懂，然后它就独自飞升了？
我们应该密切观察所有正在发生此类突破的领域。一个极其显著的例子是临床试验预测（Clinical Trial Prediction）——随着 AI 生成越来越多的候选药物、我们能合成越来越多的化合物，整个医药行业的瓶颈在于如何安全地让几十万人参与临床试验并测量疗效。如果你能把药物临床试验结果的预测准确率哪怕只提升一点点，其价值就高达数百亿美元。
那么，预测药物临床试验到底是什么样子？是一个人类超级预测者阅读相关论文然后凭感觉给出一个概率或数值区间？还是构建一个极其复杂的软件模型？亦或是进行量子化学级别的、海量的蛋白质折叠模拟？它真实的形态究竟是什么？如果它看起来像人类的版本，那很好；但也许一个专门为此训练的模型会发现一种完全不同的临床试验预测路径，而全世界所有的生物学家和药企高管对此完全一无所知。
Prakash：既然我们已经耽误了你不少时间，也许我问最后一个问题——你如何看待 2029 年的发展？在经历了过去六个月的“跨越红海”之后，请给我们一个不加对冲的预测：展望未来两半到三年，你认为预测领域在 2029 年会演变成什么格局？
43:04 - 46:59
Dan Schwarz：FutureSearch 为《AI 2027》报告贡献了一些预测数据，我们在一年多前基于当时可用的证据非常严肃地研究过这个问题。在《AI 2027》的核心设定下，我们构建了一个 R&D 飞跃速度的模型：事情走向疯狂的主要路径，是 AI 被越来越多地用于 AI 本身的研发——首先跨越“超人类程序员”里程碑，随后跨越“超人类 AI 研究员”里程碑。
我很遗憾地报告，我认为那个故事的大方向基本是正确的。我不敢保证时间线完全精确，但我基于那个推演做出的预测——即在 2031 年左右出现类似于超级智能（Superintelligence）的事物——目前保持基本稳定。
自《AI 2027》发布这一年来的发展，有力地验证了一个核心理论：最关键的变量，在于 AI 能在多大程度上提升前沿实验室内部 AI 研究员的生产力。我曾公开预测 Anthropic 将在这场竞赛中脱颖而出，因为他们拥有顶尖人才在内部深度使用自家 AI 的最佳反馈闭环（Feedback Loop）——虽然这只是单样本观察（N=1），但我认为事实已经充分印证了这一点。
因此问题在于：预测在其中扮演了什么角色？你可以想象 Dario Amodei 和 Tom Brown 前往白宫试图劝说取消对 Claude Fable 的禁令时发生了什么——在与美国政府打交道时，他们手头有哪些筹码？即使你极度悲观，假设政府只是想捞取政治资本，那些资本是什么？Anthropic 有哪些牌可以打？
这背后是一整套复杂的多方政府间博弈。作为一家致力于开发 AI 的公司，Anthropic 在多大程度上能够利用 AI 本身，来与政治家谈判出更好的结果？在我看来，这完全是一个条件预测问题——‘如果我写这封信，如果我提出这项出口管制建议，如果我软化模型的态度，对方在接下来三天内让步的概率是多少？’
我们没有任何公开证据表明这正在发生——甚至可能永远不会有证据——但在 2029 年的模型推演中，AI 预测是否在帮助前沿实验室更高效地做出更明智的战略决策，其重要性丝毫不亚于“提升代码能力帮助他们更快开发 AI 系统”。这是我将密切关注的指标。
Nathan Labenz：我敢打赌，他们在决策过程中至少经常和 Claude 进行对话。
Dan Schwarz：我超级好奇——Anthropic 的高管们，如果您正在观看本节目，并且愿意评论 Claude Fable 在那次危机事件中到底发挥了多大作用，我洗耳恭听。
Nathan Labenz：他们当时可能根本没被允许使用它。Prakash，我还有一个问题，但如果你有的话你先请。我有两个更偏实操的问题——第一，如果我作为消费者去运行一次预测，成本是多少？第二，如果我有几百万美元想用来打造一项公共物品（Public Good），你会如何看待利用预测能力构建公共物品？比如有人会说，做一份惊艳的中期选举选民指南——这个人上台或那个人上台，分别会带来什么后果，让公众看得一清二楚。通过让公众看清选票背后的因果代价，我们或许能帮助社会做出更好的决策。不过这可能还是太局限了——我很想听听你对于更远期的预测类“公共物品”有什么设想？
47:00 - 51:33
Dan Schwarz：很高兴你问这个，Nathan。
Nathan Labenz：请讲。其实我还有一个问题——算了，今天时间够长了，剩下的我私下问你。
Dan Schwarz：运行一次前沿预测的成本大约在 1 到 2 美元 左右——这个数字可能会大幅上下波动，但这是一个很好的锚定基准。如果你看 LLM 的输入和输出 Token 单价，就能对模型所做的研究工作量有一个大致的概念。
FutureSearch 攻克的核心问题之一——正如我之前提到的，在很长一段时间里，我们的瓶颈仅仅是做好当下的事实研究，直到我们足够擅长这一点并用它来提升预测精度——那就是：你是否可以通过向一个问题倾泻更多的 Token（测试时计算），来换取更准确的答案？
这甚至不局限于预测问题——如果我问你某种临床试验的最新进展，并想要最精准的解答，我是不是只需消耗更多 Token 就能得到更好的答案？人们曾将其作为“深度研究”进行探索——生成包含 700 个引用的 15 页长篇报告。这确实给了你更长的回答，但它是更好的回答吗？此前并不明朗，这也是我们深入研究的原因。
而预测为我们提供了一个进行**世界建模（World-modeling）**的绝佳契机。FutureSearch 两周前在 Manifest 大会上讨论过这一点，这个新功能应该就在今天正式在产品中上线。
这个核心设想是：一旦你拥有一套预测数据库，每一次新增的边缘预测，都可以调用此前预测中蕴含的隐式世界模型（Implicit World Model），从而给出更精准的解答。
FutureSearch 联合创始人 Lawrence Phillips 几个月前在 LessWrong 上写过这篇文章，当时有点被大家忽视了——他提出：如果你生成大量相互关联、保持逻辑自洽的预测问题，你可以作为一个公共物品，极大地加深对这个世界的理解。
最大的障碍仅仅在于：当你向世界模型注入更多 Token 时，它是变得越来越好，还是变得越来越糟？他的重大洞察在于：大约在今年 1 月或 2 月（即 Opus 4.6 或 GPT-5.4 发布前后），历史性地首次实现了向宏大研究任务注入更多 Token 时，能获得真正更优的解答，而不是沦为“垃圾进、垃圾出（Garbage-in, garbage-out）”的胡言乱语。
FutureSearch 正将这一逻辑植入产品中，这也是我们坚持保留 C 端产品的原因之一——越多人进行预测，预测给他们带来的反馈就越精准；从理论上讲，随着我们构建出更深层的隐式世界模型，这对所有人都是一种赋能。
许多公司和研究实验室都有过构建“世界模型”的想法——不过我这里使用的“世界模型”可能和某些人的定义不同；很多人指的是空间地理推理，比如训练机械臂抓取物品，那也是一种预测物理结果的基础世界模型。
预测的不同之处在于，一个优秀预测背后的逻辑支撑是一份高度压缩、极其精妙的五段式总结——对于一个极难的预测问题，最具备因果相关性的因素，就是你所能梳理出的最优质的信息摘要，因为里面的每一个考虑因素都会将最终的日期、数字或概率推向不同的方向。
当你开始记录数以千计、数以万计的核心难题中最关键的五段式考量，并对其进行规模化扩展，然后穿透它们去发问——这里的潜变量是什么？隐式主张是什么？我们为什么认为会这样？它们之间逻辑自洽吗——你将开始以一种全新的方式去理解世界。这与直接在整个维基百科上进行预训练有着本质不同，后者充斥着大量随机、毫无相关性的孤立事实。通过预测研究数据库，你能够洞察到通过单次提问、单次回答永远无法窥见的底层世界规律。
从更广阔的视角来看，核心问题在于：你是否能向任何类型的研究倾泻更多 Token 并获得更优质的研究产出——AI 研究、代码编写，无论什么？当你耗尽了当天的 Fable Token 额度，充值后让它继续“烹饪”——随着 Token 投入的增加，它会烹饪得越来越好，还是会卡住？
从预测的角度来看：我们能否达到这样一个临界点——每一次新增的预测都能提升其他所有预测的准确率，直到最终构建出一个逻辑高度自洽的世界模型？ 这正是 FutureSearch 目前正在全力以赴的目标。我们已经取得了一些初步成果证明这完全可行，并且正在向所有用户推送这一能力。
51:34 - 56:43
Nathan Labenz：这种结构最终会以什么形式实例化——我们谈论的是一个**图数据库（Graph Database）**吗？我可以想象这类设想在预测场景中非常契合，但我也能想象它可能引入某些非常怪异的失效模式。
关于我有一个冷知识：十五多年前，我其实是 DARPA（还是 IARPA 资助的来着）预测竞赛中 Good Judgment 团队的一员。我表现还行，但没达到顶尖超级预测者的水平。大约在同一时期，我还在一家金融服务咨询公司短暂工作过，该公司曾为房利美（Fannie Mae）做过大量的金融风险模型——我想我不必多说那个故事最终是如何收场的了。
当时有大量专家预测被实例化在极其依赖 Excel 表格、因果图（Causal Graph）的形式中——你在 Excel 里点击可视化按钮，就能看到彩色的箭头从一个单元格延伸到另一个单元格——但归根结底，整个模型彻底偏离了现实。
因此我在想，当你们构建这些世界模型时，如何看待相关性失败（Correlated Failures）？是否存在某种纠错机制——能够捕捉到像“全国房价绝不可能下跌”这种潜伏在世界模型底层的错误假设？
显然人类也有这个问题，金融危机证明了这一点；但你可以想象下一次危机可能会更糟糕，因为我们是如此依赖一小撮 AI 大脑从上千个方向去解题，而这些 AI 在深入推演时，很可能共享着某种完全一致的逻辑漏洞。我们有办法防范这种风险吗？
Dan Schwarz：绝对有——我尝试从理论和切身经历两个层面来回答。
在 Fable 被禁时，我试图对整个事件进行世界建模，一部分是因为我个人想这么做，另一部分是因为这是一个优秀的预测问题，且 Polymarket 上有真金白银在交易。结果，我犯下了和你刚才描述的一模一样的错误，Nathan。
我运行了一堆 FutureSearch 预测并手动梳理——设计了几个场景、一些条件预测，总结出大约 33 个核心支撑子预测。起点甚至从“究竟发生了什么”开始：政府为什么要实施这项出口管制？是简单的误会？政治筹码？真正的国家安全威胁？还是黑客攻击风险？我们当时一无所知，所以我把所有因素组合在一起。
当我审视所有的预测输出时——我和 Claude Code 讨论了很久——得出了一个核心结论：基本上每一个场景下的预测都假设，美国用户会首先恢复访问权限，而外国用户稍后才能恢复。
这个假设彻底错了——上周恢复时，它是对全球所有用户同时开放的。所以很明显，我的某个场景里掺杂了极其致命的错误假设——一个贯穿始终的相关性失败。到现在我都还没完全想通我的逻辑究竟卡在哪个环节；当然也有可能我只是单纯运气不好，落入了极小概率的平行宇宙中。在样本量 N=1 的情况下，你永远无法确切知道某次单独的预测究竟是好是坏——这是预测学最残酷的地方之一。但我确实因为在多个场景中引入了相关性的逻辑漏洞，导致系统性地预测偏了。这种事绝对会发生。
Metaculus 针对这一点开发过一套系统——在我卸任 CTO 后的几年里，他们构建了一个真正的因果图平台与产品；你可以去 Metaculus 网站点击运行体验。我认为整个领域依然普遍相信这种方法终将奏效，只是目前还没有人做出真正完美的版本。
在 Fable 危机期间，我花了大约 12 到 16 个小时竭尽全力去建模——我认为我构建了一个非常优秀的模型，无限逼近精准预测，但终究差了临门一脚。我并不认为 Metaculus 官网上目前的模型称得上神作，但我从根本上信仰这种路径。
正如你所说，Nathan，人类尝试这种方法已经很久了——当我是 Metaculus 的 CTO 时，说实话，因果图就是我们的终极梦想和圣杯：我们能否把所有这些预测通过某种因果图缝合在一起？
我可以肯定的是，AI 让这项工作变得具备了可行性（Tractable）。当年让一堆人类经济学家看着房地美或房利美的数据去画因果图，是绝对不可能成功的——我完全理解为什么那种方法在当年溃败了。AI 能否在当下把它彻底做成尚无定论，但 AI 最终必将攻克它几乎是确定无疑的，而且我认为 FutureSearch 绝非目前唯一在攻坚这一方向的机构。
56:44 - 1:01:14
Nathan Labenz：你真的太慷慨了，抽出了这么多时间——我们原本只约了半小时，现在已经聊了快一个小时了。
Dan Schwarz：我得看眼——在我身后，随着对话进行，天色变得越来越暗了。你们——
Nathan Labenz：——注意到了吗？我需要——我的采光一直是大家调侃的快乐源泉，所以你现在处于极佳的氛围中。
也许在结束前——请再帮我们勾勒一下你所希望看到的未来图景。不一定是最可能发生的剧本，因为最可能发生的是人们表现愚蠢、未能充分利用预测的红利。但如果我们真的做得很棒——我们追求真理，让 AI 发挥出你所期待的最大潜力——人类的生活感觉会有什么不同？
Dan Schwarz：我必须先举一个我自己预测打脸的例子——我想每一个认真做预测的人都觉得自己在预测上很烂，因为你总是亲眼看着自己犯错。
我在五到十年前做过一个非常坚定的预测，现在被彻底打脸了：我曾强预测，如果我们拥有高度显性、具备极高流动性的预测市场，覆盖所有重大的技术、政治和经济事件，人类社会将会变得更加明智，政府决策者会做出更好的选择。
结果我们今天看到了什么——我们拥有了 Polymarket 和 Kalshi，但我没有看到这些平台上疯狂的赌博行为给社会带来任何智慧或更好的决策。
因此，在思考 AI 的未来时，对我而言，一部分是要更好地理解当下——为什么拥有繁荣的预测市场没能重塑新闻业、没能改变人们获取信息的方式、也没能改变人们规划未来的方式？
一个简单的解释是：影响确实在发生，只是需要时间——预测市场走向大众视野、登上头条新闻才大约一年时间，也许人类改变习惯就是需要更长的时间。而 AI 如果接入进来，随着预测精度的提升，进化速度将比人类快得多。
归根结底——正如你所说，Nathan——我们追求的是认识论（Epistemics）。这不仅仅是预测一个结果，我们想要的是逻辑合理（Reasonable）的模型。
预测作为一种人类实践，最美妙的地方在于它能提升你的认知美德（Epistemic Virtue）：你越是尝试去预测、记录错误并做复盘，你就越会被残酷的事实所折服，从而变得更加开放包容——从“刺猬”变成真正的“狐狸”，成为一个更理性的人。
预测市场本该让每个人都变得更理性——可惜我认为大家并没有在预测市场上面真正做“预测”，他们是在做“交易和赌博”，这与预测有关，但不是预测。
如果 AI 在预测上变得越来越强，并拥有了更高的认知美德，我们可能会迎来这样一个世界：仅仅是通过与 Chatbot 对话，你就能获得远比人类深刻、理性、扎实的智慧。它会对自身的不确定性保持绝对诚实，并善于引导你反思自身的认知盲区。这可能会带来翻天覆地的巨变。
但如果戴回我冷酷的预测帽，我认为 AGI 的技术飞跃将比这种文化层面上的认知转变来得更快。
所以我坚定地站在 AI 安全阵营（AI Safety Camp）——我真的认为我们应该放慢脚步，给自己争取更多的时间，资助更多的 AI 安全研究，并开展更多的政策制定。
因为在终极关键决策到来之前，我们需要时间让这些“异质智慧（Alien Intelligences）”的远见真正帮助我们做出更明智的抉择——21 世纪即将面临一系列重大决策，回看这些决策，就像我们今天回顾 20 世纪关于共产主义、第二次世界大战、原子弹的抉择一样。
那些决定正在逼近，有些甚至可能已经被做出了，而目前我认为它们并没有得到极其精准的 AI 预测的良好辅助。但再给这个领域几年时间，我们或许会进入这样一个世界：每个人都拥有顶级智囊的辅助——拥有基辛格般的洞察力，但完全出于善意，致力于为全人类争取更好的结局。这能护送我们安全度过这段疯狂的爆发期，避免“纸夹炸弹（Paperclip）”式的灾难发生。
因此，我感到自己是在争分夺秒地让 AI 预测变得真正实用且有益——这是广义认识论与 AI 安全工程的核心组成部分，否则技术的发展将彻底脱缰，我们现在所做的大多数工作都将失去意义。
1:01:15 - 1:02:00
Nathan Labenz：太棒了——就像我老爸常说的：祝你好运，我们大家都指望你了。
Dan Schwarz：谢谢你，Nathan。非常感谢二位邀请我，真的非常感激。
Prakash：谢谢你，Dan。
Nathan Labenz：感谢 FutureSearch 首席执行官 Dan Schwarz 拜访《AI in the AM》。
🔗 原文链接
https://thetranscriptdesk.substack.com/p/ai-superforecasters-are-here-futuresearch