Grant Sanderson (@3blue1brown) - AI 与数学的未来

Source: Dwarkesh Patel

URL: https://www.youtube.com/watch?v=TfyPshgMbug

目录

• IMO、通用人工智能 与下一个数学基准 [00:00:00 - 00:13:44]
• 伽罗瓦、群论与数学中的概念发明 [00:13:44 - 00:25:16]
• 广告：Gemini 3.5 Live Translate [00:25:16 - 00:27:21]
• 黎曼猜想、abc 猜想与 AI 生成新数学 [00:27:21 - 00:38:40]
• 数据、并行探索与 AI 的数学研究优势 [00:38:40 - 00:52:57]
• 广告：Bilibili 工作流与 Scribe [00:52:57 - 00:56:59]
• Lean、自动研究与数学验证 [00:56:59 - 01:08:42]
• 写作、解释与心智模型 [01:08:42 - 01:15:00]
• Jane Street、学习路径与学生建议 [01:15:00 - 01:28:31]
• 数学进步是否有用，以及应用瓶颈 [01:28:31 - 01:33:39]

IMO、通用人工智能 与下一个数学基准

Dwarkesh Patel：今天，我正在与 3Blue1Brown 的运营者 Grant Sanderson 聊天，他现在正在开发一个新项目，记录人工智能在数学方面取得的进展。我想和你们讨论这个问题是因为人工智能在数学领域取得的进步是其他领域中最快的。无论这里发生什么，无论我们以何种方式看到人工智能进步发生或不发生，都将告诉我们随着人工智能变得越来越好，世界其他地方将会发生什么。我想从三年前第一次采访你时问你的这个问题开始。我问你，一旦我们有了能够在国际数学奥林匹克竞赛中获得金牌的AI，那不就是通用人工智能了吗？考虑到这些问题有多困难，这难道不能做任何人类能做的事情吗？你有一个答案，事后看来是非常明智和正确的。你说这将是另一个基准，就像人工智能正在通过的所有其他基准一样。显然，从那时起，人工智能在总体上已经变得更好，但当这种情况发生时，不会有一些“顿悟”时刻。首先，我很想知道你的启发，为什么这是真的。其次，我很好奇你认为这种狭隘性还能持续多久。到人工智能已经解决了千禧年奖问题时，您是否认为仍然有可能人类正在做的许多任务人工智能仍然无法在经济中实现自动化？这是一个有趣的问题，因为如果不提前知道解决方案是什么样子，就很难回答。 [00:00:00]

Grant Sanderson：如果我们以国际数学奥林匹克（IMO）为例，你三年前提出问题的实质是研究这些问题的某些解决方案似乎确实需要创造力。这些问题的设计者试图想出一些你无法轻易训练的东西。 IMO 的一个隐秘事实是你真的可以为很多人进行训练。正如您所指出的，整个人工智能和数学项目正在进行中，它有趣的原因之一是人工智能有一个尖峰前沿，而数学就在其中一个尖峰中。但这种尖峰具有分形性质，因为当你放大数学的具体进展时，你会发现有些事情比其他事情容易得多。如果我们只考虑国际数学奥林匹克（IMO），这在这一点上已经是旧闻了。两年过去了，他们确实表现得很好。如果不是因为以下原因，他们本可以在 2024 年获得金牌。他们非常好。他们基本上只是冷解几何。 IMO 有四类问题：几何、数论、代数和组合学。几何，自 2024 年以来，它只用了 19 秒就解决了它，因为它是一个强力求解器。隐秘事实是，对于学生来说，还有一种暴力的方法可以实现。组合学是一个变数：更有趣、更像谜题一样的问题。那年的考试中有两道组合数学题，但并非总是如此。有四个类别和六个不同的问题，所以哪一个有两个问题是一个难以抉择的问题。如果是更多的几何问题，他们那一年就会获得金牌。但它在那些组合数学上却很困难。那些试图为人类保留数学最后坚持的火炬的人可能会说，这些是需要更多创造力的。即便如此，你的问题的精神——如果他们正在解决千年奖问题，这是否也为很多白领工作服务？——表明，无论我们现在所处的位置与现在的位置之间的速率限制器是什么，都与使白领工作变得更好的速率限制器相同。我们可以用几种不同的方式来绘制。如果我们关注黎曼猜想，那么解决这个问题会是什么样子？这些东西非常擅长某个特定的知识领域，了解得很深，然后了解另一个领域，再了解另一个领域。你已经指出了这一点。奇怪的是，拥有如此超人的广度，对所有领域都了如指掌，但却找不到连接它们的闪电。我认为我们开始看到它实际上在它所擅长的事物之间寻找联系的火花。我确信我们会讨论它。如果黎曼猜想的解的本质是这样的，那么我觉得这与擅长白领工作所必需的东西非常不同。我们有理由相信这可能就是解决方案的本质。我不知道你是否知道休·蒙哥马利和弗里曼·戴森在 IAS 的故事。这是一个旁切线，但这是一个有趣的故事。我不知道是在午餐时间还是类似的事情，但这位数论学家只是试图理解黎曼 zeta 函数的零对之间的统计相关性。黎曼猜想是关于所有这些零是否位于一条直线上。他发现了你可以问的这个定量问题，并写下了一个公式。它看起来像正弦平方一或类似的东西。物理学家弗里曼·戴森说，“我知道这个表达式。这个表达式出现在研究随机埃尔米特矩阵的特征值中”，这是在研究原子核的能级时出现的。 [00:01:16]

Grant Sanderson：这两个看似不同的事物的统计数据是相同的这一想法促使人们探索随机矩阵理论中是否存在可能与黎曼 zeta 函数相关的方面。我认为那里是否有成果是一个悬而未决的问题。但是，如果事实证明黎曼猜想的解决方案正在进一步探索类似的想法，那么将两个不同领域结合在一起就具有您期望LLM擅长数学的特征。他们是量子物理学专家。他们是解析数论专家。他们应该能够以一种不需要蒙哥马利和戴森共进午餐并碰巧谈论它的方式看到这种相似性。这与白领工作完全不同。在某种程度上，你很难使用人工智能作为编辑器，这并不是因为他们知道一切，而你只是需要他们找到中间的闪电。另一种可能性是……正确的类比是什么？也许如果我们想到费马大定理，在费马提出问题的那一刻和解决方案本身的样子之间，解决方案最终涉及数学中如此重型的机器。这个问题的美妙之处在于你可以如此简单地表达它。您询问 xⁿ + yⁿ = zⁿ。当 n 大于 3 时，你有整数解吗？你可能期望有一种基本的数论方法来解决这个问题，但据我们所知，根本没有。而实际的解决方案，也许有更简单的东西，但这可能就是它必须的。有一套非常复杂的想法，它们建立在几个世纪以来以椭圆曲线为中心的工作基础上。然后还有另一堆围绕这些东西的想法，称为模块化形式。这两座山都必须先建成，然后才能提出连接它们的正确问题。如果黎曼猜想的解决方案涉及建造一座新山，那么这就是一种技能——提出正确的新想法的能力——感觉与他们现在的智能特征有很大不同。这并不是您所需要的视频编辑器本身的功能。但如果它能够建造一座大山，这是正确的新理论，它明确了我们应该如何思考一个主题，那么它的智能水平就很高，如果它除了数学本身的建造山之外没有渗透到经济的其他方面，那才是令人惊讶的。或者至少，即使它不能真正做到白领人类能做的每一件事情，它也会产生变革性的影响，就像在国际数学奥林匹克中获得金牌并没有对世界产生变革性的影响一样。 [00:04:47]

Dwarkesh Patel：首先，我确实想指出，我完全在这里移动了球门柱。两三年前，当我采访达里奥时，我问了这个问题，为什么他们无法利用丰富的知识将想法联系在一起并以这种方式提出新的发现。这似乎是这样的事情，即使是一个中等智力的人，如果他们知道这么多信息，也能够从这种药物导致偏头痛的事实中得出医学诊断，而另一种药物会导致偏头痛，也许这是同一种药物可以治愈这两种情况。从外行人的角度来看，数学显然就像一个领域，寻找单位距离问题猜想的反例就是这种事情的一个例子。所以这是完全的球门柱移动。但我们可以问，下一个基准是什么？既然人工智能可以做到我们应该认为它们能够做到的事情，那么接下来令人印象深刻的事情是什么？这里有几个候选想法。一个可能首先提出有趣的问题，另一个则提出创建或统一领域的新类型的对象或概念化。关于第一个问题，现在我们遇到了这些千年奖问题，因为数学家已经注意到了它们。黎曼提出了黎曼 zeta 函数的想法，因为他认为该函数的零点与素数的密度有某种联系。首先弄清楚为什么我们认为这是一件值得研究的有趣的事情，为什么我们要构建这个对象并试图回答有关它的问题 - 并回答有关它的这个特定问题 - 似乎将成为下一个基准。您在那里强调了两个非常好的例子。 [00:07:24]

Grant Sanderson：对于任何对单位距离猜想感到好奇的人，可以观看由名为 Polylog 的数学频道制作的非常精彩的视频，他们在视频中讨论了单位距离猜想。所有这些讨论都会引起人们对数学计算过程的反思。他们会说，“哦，这个东西可以做令人印象深刻的事情。这对我们意味着什么？”该视频中的一个人强调了这句话：“优秀的数学家证明定理，伟大的数学家提出猜想，最伟大的数学家提出定义。”这或多或少正是你在这里的框架。我们需要猜想生成器，然后是定义生成器。那是顶级数学家。我不明白你到底如何将其作为基准。通常，当我想到基准这个词时，我想到的是球门柱。球是否穿过球门。你可以明确地说：“是的，完成了。”部分原因是为了能够做 RLVR 之类的事情，部分原因是为了知道你在回答问题时没有移动目标。 OpenAI 可以以反驳单位距离猜想为标题，因为这是一个清晰、独特的事情。它做到了。想象一下，尝试在 GPT-5.4 上获得标题，并提出一个非常好的猜想。 “我们保证，大家都认为这是一个很好的猜想。”它只是不以同样的方式着陆。但这也许并不能否认这样一个事实：思考这个问题是正确的。如果它采取看起来像基准的形式，我会感到惊讶，我们有一个分数表明它已经通过，因为我们可以量化一个猜想的好坏。它所需要的本质可能是，在与数学家谈论它的有用方式的对话中，您可能会感觉到语气的转变。你提到的这个系列还没有制作出来，而且可能几个月后才会制作出来，它采用的是我们采访很多数学家的形式。有趣的是，我们在一年前就开始这样做，很有趣的是，从 2025 年中期到 2026 年，他们谈论人工智能的方式发生了一些转变。在现实世界中，这是一个非常短的时间。在人工智能世界里，那是亿万年的事。我们能够看到这种基调在漫长岁月中的转变。我认为，基于语气的转变，衡量猜想生成能力的方式将更加主观。数学家们会说，他们不仅仅是用它来解决问题，而且当他们退一步决定他们的研究领域应该是什么时，与这样那样的模型的对话确实对此有帮助。我认为您不太可能会以标题的形式看到它，说这是又一个被推翻的基准。这很有趣。你无法制定基准的事物也是你无法轻松训练的事物，至少在当前的范式中是这样。基准测试和训练环境之间确实没有根本区别。很容易提出一些二分法， [00:09:03]

Dwarkesh Patel：“这是人工智能不能做某件事的深层原因”，然后事实证明你只是以错误的方式思考它，实际上它很快就能做到。但我会想出——无论如何你都会想出几个。事实可能是，我们可以通过一些方法来训练人工智能在相对近期内完成这些事情。但它似乎必须与当前的 RLVR 训练有所不同。我很好奇的事情——在我看来推动了数学和科学领域的巨大进步——是提出一种思考问题的新方法，或者一种理解世界的新方法，它可以统一不同的领域，催生全新的领域，并解决我们一开始就没有试图解决的问题。爱因斯坦思考广义相对论的原因并不是因为他想解释为什么光会弯曲或为什么黑洞存在。这些现象他一开始就不需要解释。在数学中，作为一个完全不知道自己在说什么的门外汉，似乎经常有一些方法可以证明一个特定的问题，可以激发新的概念化——它会产生一个全新的领域，一种全新的思维方式，这是非常富有成效的——而另一些方法则不然。我很想听你谈论伽罗瓦提出群论，区分他对没有根公式的五次方程的解决方案，以及阿贝尔几年前提出的不同证明，但没有提出群论。如果你想对群论是否是一个有趣的概念进行验证循环——这里做了一些有用的事情，或者为什么这个证明更好？——验证循环可能长达一百年。它涉及密码学的出现和物理学的进步，以及群论中与理解物理学对称性相关的思想。对于为什么这是一个富有成效的概念，有一个一百年的循环验证。 [00:11:50]

伽罗瓦、群论与数学中的概念发明

Grant Sanderson：你触动了我的神经，因为我本来打算在 2022 年做一个关于伽罗瓦的项目，但我把它搁置了，但我花了一年的时间思考他所做的事情。我可能会不小心在具体细节上讲得太长，你可以阻止我。对于您的案例来说，这是一个完美的例子，因为描述为什么它是一个有价值的见解并不来自于直接的效用。当然，如果您正在考虑 RLVR 环境，这将很难做到。但有趣的是，即使当时有人类验证者，也花了很长时间才认识到它的有用性。有了爱因斯坦和广义相对论，人们立刻就觉得这是一个很好的理论。伽罗瓦理论之所以成为如此有趣的例子，是因为你确实拥有一个想法的百年片段，它在许多不同的人的头脑中流动，然后才最终成为数学界认可的好东西。稍微备份一下……您想了解问题的背景吗？我们在学校都学过二次公式。我以为你会说我们在学校都学过群论，但我错过了那节课。我们都学习群论……不，是二次公式。这是众所周知的。从某种意义上说，希腊人可以解决二次方程，但他们并没有真正用代数来写东西。实际上是阿拉伯人写下了这个公式。有一个关于意大利数学家决斗的令人愉快的故事（不是真正的决斗，只是智力挑战），他们秘密找到了三次多项式的公式，然后不久就找到了四次多项式的公式。因此，对于数学家来说，一个自然的开放问题是，你能找到一个解决五次方程的公式吗？四阶公式是一个怪物。如果把它写下来，那就太疯狂了。你通常不会完整地写下来。你把它分解为一个程序性的事情。您可能认为这些事物的复杂性呈指数级增长。所以数百年来，没有人真正回答这个问题。通常，我们说阿贝尔是第一个证明这一点的人。他就是这位年轻、早熟的挪威数学家。他证明这根本不可能。这并不是说你能找到五次公式。他一开始以为自己找到了一个，但他证明这是不可能的。我认为真正的功劳是你必须退一步谈论拉格朗日。他找到了合适的问题来问这个问题。我会给它一个非常高的水平。他正在研究这个问题，并认识到能够解决这些多项式与理解某些代数表达式的对称方式非常相关。如果我写下 a + b + c + d，只需添加四个变量，然后对它们进行排列，它不会改变表达式的值。然而，如果我写 a + b * c + d，有些排列不会改变它，但有些排列会改变它。他对如何找到具有四个自由变量的表达式有一个非常好的见解，但所有排列都采用三个不同的值，这与能够将四级减少到三级有这种意想不到的关系。他开始思考我们是否可以找到五次多项式的问题，想知道他是否可以扩展该方法。要扩展该方法，您必须有一个包含五个自由变量的表达式，这样当您在所有五个阶乘排列中对它们进行排列时，它只采用四个或更少的值。你可以把它放在一本拼图书中。你可以把它放在一个十二岁孩子可以参与的脑筋急转弯中。不难发现自己感觉这是一项不可能完成的任务。拉格朗日坐在那里说：“这是解决寻找五次多项式问题的策略。 [00:13:44]

Grant Sanderson：但那是历史上人们第一次本能地认为某种有关对称性的问题是研究这些多项式的正确方法。在他看来，这只是一种方法。尚未发现实际上存在更紧密的联系。也许我们不应该寻找公式，而应该问相反的问题：你能证明这是不可能的吗？他种下了那颗种子。大约五十年后，阿贝尔肯定读到了我们知道伽罗瓦在爱上数学时就喜欢拉格朗日。很难想象这两个年轻的天才在这个问题上提出的见解并非来自拉格朗日，但对于你是否能够验证这是一个好主意的问题，拉格朗日并没有得出任何结果，所以这并不是一个知道这是一个正确的问题的情况。他只是提出了一些本质上有趣的事情。当时，大多数人对数学的应用更感兴趣，这几乎是一个业余的、业余爱好者的事情，但后来他被建议花更多的精力来研究椭圆函数，所以他在二十六岁时因肺结核去世了。他在监狱里写下了这篇非常好的作品。我们可以谈论他的人生故事。这是相当狂野的。但他是个青少年，他在监狱里，他试图提交数学论文，但被拒绝了。所以，再一次，考虑到可验证的奖励，当时学院的验证者功能正在拒绝他写的内容。坦率地说，这不是很连贯。这不是一个完整的证据。他并没有清楚地思考这个理论到底是什么。他只是一位初出茅庐的年轻数学家。经过验证的奖励是“不好”。但他有一种直觉，认为那里有东西。因此，他正在写这篇关于数学本质的谩骂，数学的本质是随着时间的推移而经历这些转变的东西。他谈到了代数本身的出现，以及从仅仅用数字来思考，到对纯代数表达式有一定的流利程度，而你不需要解释这些表达式。他有这样的直觉：我们似乎应该做另一层抽象，我们不是考虑公式本身，而是考虑这些公式背后的对称性。但这仍然是一个相当不明确的理论。如果你想说，经过验证的奖励是他解决了其他人没有解决的问题，那么，阿贝尔已经证明了五次方程是无法解决的。那么伽罗瓦在做什么呢？原则上，伽罗瓦理论允许您采用特定的多项式，并且它为您提供规则来说明该特定多项式是否具有可以写下来的根。例如，对于 x⁵ - 1，您知道解为 1。或者 x⁵ - 2，您可以写出 2 的五次方根。所以并不是说你不能写出每个五次多项式的解，而是你能找到一个特定的多项式来证明你不能用根式写出解吗？他甚至还没有准确地解决这个问题。他没有举出他做不到的具体例子。即使描述他解决了什么问题也是非常棘手的。然后他就死了。这是他进行这场决斗的非常浪漫的故事。 [00:17:13]

Grant Sanderson：关于他如何在决斗前一天晚上写下他所有的想法有很多神话，但实际上，他在之前五次试图将它们发表。研究五次方程似乎对你的健康没有好处。这很糟糕。如果你是一个年轻的天才，就不要研究五次方程。他要求他的兄弟和密友把他的笔记交给高斯，将这些笔记送给当时重要的数学家，因为他认为那里有东西。即使那样，也没有真正采取。他的兄弟和他的朋友试图把它们拿出来，但又过了二十年，刘维尔才看到这些笔记，发现其中可能有什么东西，并试图清理它们并理解伽罗瓦的意思。即便如此，又过了二十年左右，乔丹才真正将群论的现代处理方法组合起来，他们将其归因于伽罗瓦。你可以很容易地想象历史会发生不同的转变，这些想法来自数学的其他观点，如果伽罗瓦是一个不那么华丽的人物，他可能会被历史遗忘。但在拉格朗日暗示根的对称性也许是正确的道路之间，到一切看起来像现代群论的时候，你已经有了这么长的跨度。很多时候，它甚至没有通过人类评审员的验证奖励。它落在某人的桌子上，他们说：“我真的不知道这里是否有任何东西。”你必须让这个人认识到这一点。即便如此，它并没有真正解决当时的实际问题。你指出了密码学和物理学之类的东西。你必须进入二十世纪，才能让盖尔曼认为理解某些基团如何分解的本质可能与粒子的构成有关。他基于一个纯粹的群论问题来预测夸克。这是群论更有趣的应用之一：甚至预测夸克的存在也是一个群论问题。在拉格朗日之后很久才出现这样的事情。所以你必须问，衡量进展的方法是什么，不是基于解决问题，而是以某种方式捕捉伽罗瓦头脑中的本能，当他说“我认为这里有一些东西”时？当拉格朗日说“我认为这是正确的思考方式”时，他内心的本能是什么？当刘维尔说“这个死去已久的年轻人的这些零散笔记可能有什么用处”时，他内心的本能是什么？很难指出这一点。我现在正在制作的一系列不同的视频是关于整个“压缩就是智能”的想法。尽管这并不是我真正采取的角度，但更小的表达更具预测性让人感觉更聪明。因此，我想知道你可以在多大程度上给予某种可验证的奖励，不仅围绕你是否解决了它或它正在解决什么问题，而且还围绕着实现它所需的概念的微小性。回到黎曼猜想的解决方案，如果人工智能解决它会是什么样子？我认为第三种可能发生的方式是直接更加努力地工作。同样，你也许可以得到费马大定理的基本证明，但它只是在数千页上被阐明，而且是不连贯的。但更清晰的观察方式是使用椭圆曲线等。也许黎曼猜想有几千页的证据，没有人真正从中得到任何东西，而你真正想要的是这些想法的简洁、压缩版本，然后它们将有助于人类理解。也许你在尝试量化优雅的含义时加入了柯尔莫哥洛夫的复杂性。 [00:20:41]

Grant Sanderson：我认为这并不容易，但我确实认为这是你必须做的事情，以便奖励伽罗瓦式的本能，而不仅仅是奖励你是否解决了问题。想出科学的启发法是非常困难的。但很明显，人类一直在以某种方式这样做，而且显然，人工智能在某个时候也会这样做。它不仅与经过验证的奖励相关，而且可能最终目标是理解，人类的理解。即使你确实有一些数学知识或一些伟大的新物理理论的数千页证明，目标也是理解。也许如果目标是预测性，你可以让自动化工程师去建造火箭飞船，我们不知道它们是如何工作的，但我们可以在恒星之间移动。但还是会有很多人想要了解。你仍然需要任何简洁的函数，将这种复杂的思维方式提炼成正确的思维方式，就像牛顿的万有引力定律一样。你仍然希望训练人工智能能够做到这一点并找到压缩表示。 [00:24:13]

广告：Gemini 3.5 Live Translate

Dwarkesh Patel：我在印度长大直到八岁，所以除了英语之外，我还会说古吉拉特语。由于 Google 刚刚发布了 Gemini 3.5 Live Translate，我认为在这个mid-roll 广告中对其进行测试会很有趣。 （古吉拉特语）Gemini 3.5 Live Translate 可自动检测 70 多种不同的语言，并几乎实时翻译成目标语言。说话时以你原来的语速和格式进行实时翻译。就像现在所做的那样。我早在 2024 年就访问过中国，我记得当时我想，如果我能够实时翻译我与研究人员和我在街上遇到的随机人的对话，这次旅行将会更加富有成效。现在我们拥有了这项技术。因此，如果您正在构建需要实时翻译的应用，您应该 100% 查看 Gemini 3.5 Live Translate。现在可通过 Gemini Live API 和 AI Studio 获取。前往 ai.studio/live 开始。人们对数学有这样的担忧，尤其是担心人工智能会证明黎曼猜想，而我们对数学的理解不会因此而有所改善。我对此有几个问题。第一个是这是否是你应该期待的事情。当我们解决一个大问题时，人类会想出一般的、自然的对象和子目标，这难道不是在你试图解决一个复杂的、重要的问题时才有用吗？从理论上讲，这是否是解决黎曼猜想的一种更简单的方法，而不是仅仅提出与思考问题相关的自然抽象？然后第二个问题，从经验上看，这就是我们今天在人工智能在问题上取得进展时所观察到的情况吗？当AI提出单位距离猜想的反例时，你可以读懂它的思路。这对我来说是无法理解的，因为我对数学一无所知，但对其他数学家来说似乎是可以理解的。它利用了已知的数学概念并证明了它们之间的关系，所有这些都以自然语言进行。结果，它加速了我们对这个物体和这个猜想之间联系的理解。 [00:25:16]

黎曼猜想、abc 猜想与 AI 生成新数学

Grant Sanderson：根据经验，这是我们应该担心的事情吗？我认为这取决于性质……如果我们分解解决黎曼猜想的三种可能方法……今年的另一个大问题是编号为 1196 的某个 Erdős 问题，关于这些称为原始集合的东西。它具有从看似不同的领域带来想法的特点。一旦你向数学家提出基本思想......你会说，“如果我们尝试马尔可夫链过程，我们证明这个东西是自下而上的概率而不是自上而下的，并使用冯·曼戈尔特函数呢？”如果你对知情者这么说，他们就会知道如何应对。你有一个非常小的想法，它具有一个领域的专业知识和另一个领域的专业知识的形式，在它们之间画出一个小小的闪电。这些将非常容易被人类解析，因为您所要做的就是显示这些连接的起点和终点。如果它的特点是造山，你就必须花更多的时间去理解那座新造的山，因为它是一条新的线索，而不仅仅是它们之间的一道闪电。如果进步的本质只是原始的喧嚣——没有新理论的超长推理链——那么你就会对整个消化过程感到担忧。所以我认为没有一个明确的答案。这取决于解决方案是什么样的。在造山方面，这实际上非常有趣。我们看待伟大数学家的新理论的方式默认是非常容易被人类理解的吗？或者它是一座陌生的、不同类型的山正在建造，我们必须重新处理我们所涉及的抽象类型？这里最接近的例子是尝试解决 abc 猜想。我们也许不应该讨论这个问题，但这可能不是一个正确的解决方案。基本上，这是这位日本著名数学家提出的全新思维方式。数学家花了很长时间才解析他所说的内容，但它给人一种陌生的数学感觉，那就是理论构建，而不仅仅是一长串推理。他称之为宇宙间几何。最担心的是人工智能会做到这一点，然后就像 abc 猜想一样，人们工作多年才能上山，他们会说，“该死。这就是不对的。”如果事实证明是错的，但看起来确实是对的。即使这是正确的，要爬上一座新山也需要付出很大的努力。如果我们最终陷入这种情况， [00:27:22]

Dwarkesh Patel：大卫·贝西斯（David Bessis）有一篇非常棒的博客文章，名为“定理经济的衰落”。他正在谈论历史上，正如你所说，数学是如何提出这些定义和问题的，并且是关于证明它们的定理。定理证明的东西才是所有的功劳，但它实际上是提出定义的东西的寄生虫。从历史上看，这在信用分配方面并不是一个问题，因为如果你提出一个定义，你可能会成为提出定理的人。但现在我们面临的情况是，如果有价值的工作提出了洞察力，而人工智能将后一部分自动化……想象一个场景，人工智能对世界上的一系列重要猜想提出类似阿贝尔式的直接论证，然后我们就得到了这些证明。现在需要由人类或未来的人工智能来进行整合。再说一遍，无论如何对这个论点没有对象级的理解，我相信如果你能够访问它，它会让你更容易思考正在发生的事情。是否有一些更深入的方法可以让我们理解为什么这个证明有效，从而更容易提出群论背后的想法？ [00:29:55]

Grant Sanderson：我认为这会有很大帮助。很多试图发现新数学的尝试大多都是错误的。你试图解决一个问题，但感觉并不像是不断地采取正确的步骤上山。大多数情况下，这感觉就像是一次随意的醉酒散步，你正在做一件事，然后你就错了，并且不断发现它。如果至少你知道尝试消化你所拥有的东西最终会带来正确的解决方案，那就感觉像是进步，仅仅因为知道它会带来解决方案的感觉。在最近的数学史上，有很多例子让人感觉超出了掌握范围，事情在被理解之前就已经被证明了。我最喜欢的一篇论文开场白——它甚至不是一篇研究论文，它更像是一篇说明性论文——来自一位名叫周天成的数学家，他试图理解一个叫做“强迫”的概念。有一个称为连续统假设的问题，或多或少会问：自然数的大小为无穷大，实数的大小为无穷大。中间有什么东西吗？答案既是肯定的，也是否定的。这取决于你的公理。它超出了我们通常的公理系统的范围，这是一个有趣的答案。但描述它的方法确实很难理解。这就是所谓的强迫。他在本文的开头写道，每个人都知道未解决的研究问题的想法。我想提出一个未解决的说明性问题的想法。当然，我们已经证明了这一点，但我们并不真正知道为什么它是真的。然后他提出了该说明性问题的部分解决方案。你可以想象我为什么喜欢这个框架，因为这就是我的一生。我不做研究数学。这完全是关于理解这一点的最清晰的方法是什么，即使它已经被证明了。证明和解释之间是有区别的，我想你已经明白了这种区别的重要性。 [00:31:11]

Dwarkesh Patel：是的。这将是主要的激励因素。或者，激励措施必须改变，不仅在数学方面，而且在其他科学领域，从证明世界的事物到将证据整合到问题或更高层次的见解中。早些时候，我们在午餐时讨论了您最近关于设计以及它如何帮助我们理解事物的演讲。在极限情况下，一个想法的概念化和想法本身真的有区别吗？如果您考虑狭义相对论和时空图以及闵可夫斯基时空，这就是我们说明为什么存在长度收缩和时间膨胀的一种方式。但这就是现实……所以，这里的阐述似乎确实是某种意义上的解释。这里有一些有趣的事情。 [00:33:04]

Grant Sanderson：其中之一是，提出真正新颖见解的人和实际上非常清楚地传达见解的人之间似乎存在很强的相关性。你可能会想象相反的情况，因为大学生的经历往往是教授他们的专家不一定是该主题的最佳解释者，因为他们被自己的专业知识宠坏了。但至少在某些情况下，情况似乎是，那些真正提出了一些非常新颖的东西的人——比如爱因斯坦或克劳德香农或其他人——你读了他们的论文，他们真的很清醒。感觉这不只是专家的专利，你必须用砍刀砍它。他们是非常好的解经家。费曼也有这个特点，他是一位非常好的阐释者。也许大脑中在研究层面上提出正确的新思维方式的同一部分也有很好的解释能力。我认为这与人工智能有关。我曾经认为人工智能将成为这些自动定理证明者，但数学家的角色将转向我的工作，解释这些事情。现在我怀疑实际上他们也会非常擅长这样做，可能比大多数人更擅长解释和提炼。因此，根据这些事情发生的本质，消化和解释正在发生的事情实际上可能不是数学家所能做的。我们可以讨论可能不是这样的方式，但可能提出解决某些新问题的真正好的新想法的同样的事情也只是善于解释它。这就是我的信念发生改变的方式。你认为你要做的最后一件事是什么？你和人类数学界将要做的事情。我可能会一直做现在这样的事情，直到我死为止。如果厄运者是对的，也许也会出于同样的原因。是的。你给一个人生一堆火，他就能暖一晚上。但让一个人着火，他的余生都会温暖。这就是我对人工智能的看法。解释者或老师的部分功能是让某人好奇的事情变得更加清晰。这是一回事。但其中一些更具相关性，提供动力和管理感。我听说过的关于数学家最终会成为什么样子的一个有趣的观点是，它实际上比其他任何东西都更类似于艺术博物馆馆长。人工智能解决了问题，所以艺术就存在了。他们甚至知道如何很好地解释它。但你仍然希望有人帮助你探索这个近乎无限的空间，了解哪些想法值得参与。即使人工智能在某种程度上在这方面做得更好，我认为我们仍然会更喜欢与我们有关系的人类，因为我们被激励对事物感兴趣的方式是一种社会现象。如果您正在尝试构建某些特定技术，情况可能会有所不同。但收听此播客的人们首先相信您对有趣主题的策划。他们来到这里并不是因为无论你的下一个主题是什么，这都是他们事先想要理解的。他们信任你作为策展人。因此，我的角色，可以说是其他数学家的角色，实际上可能会巧妙地转变为值得追求的想法的策划方向。这就是我现在的很多工作。我认为人们认为视频的大部分时间都花在了视觉效果上。当然，确实如此。这不是立竿见影的。但实际上很多事情只是首先决定什么值得说，什么值得放在那里。我想参与其中，而且我认为我对某些人有信任，他们很好奇我会选择提出什么，即使人工智能比这更好。这与人类音乐家总是扮演一个角色的原因是一样的：他们背后的故事的社会功能，即使来自某些模型的 MP3 文件的客观质量更好。这就是我所看到的在我的工作中发生的情况。 [00:34:00]

Dwarkesh Patel：我想回到之前的一个问题。正如人工智能已经跨越了这个门槛，这个重要的基准能够连接现有的想法来提出新的发现或证明或反驳某些东西，我们就像，“好吧，但下一步是什么？” [00:38:08]

Grant Sanderson：顺便说一句，在这方面还有很多事情要做。仅仅因为有几个闪电被抛出……我认为在接下来的几年里，真正的联系将会有一个繁荣的未来。正确的。因此，在极限范围内，你甚至可以说——我不知道这是否准确，但有可能——许多最大的突破在某种程度上看起来都是这样的。 [00:38:27]

数据、并行探索与 AI 的数学研究优势

Dwarkesh Patel：通过广义相对论，您只需将黎曼几何和狭义相对论连接在一起。因此，随着人工智能在连接方面变得越来越好，也许很多重大突破并不是真正具有不同的质性。 [00:38:46]

Grant Sanderson：我不知道你是否对此有看法。很多谈话都集中在解决问题和数学的本质上，勾画出埃尔德的问题或其他什么。但我想说的是，甚至没有大多数数学家会把他们的工作描述为真正针对下一个需要解决的问题。您熟悉朗兰兹计划吗？不，与其说它是一个数学领域，不如说它是一种研究精神。费马大定理就是这一点的一个暗示。你有这两个看似不同的东西，它们之间的联系导致了一个解决方案。朗兰兹是一位数学家。他在这封著名的信中基本上阐明了如何可能存在更多类似的联系。他甚至对联系的性质有了更具体的了解，这样你就可以想象这张大地图，你可以看到这里有这个山谷，这里有这座山，那里有这组平原。有很多数学家将他们的工作描述为试图理解这张地图上的线索的一部分。那里的进展甚至不是“这是我们知道将通过这种联系解决的一个具体问题”。更是一次又一次的，通过寻找联系就解决了大问题的情况，以至于几乎是先发制人地寻找联系。这其实很有趣。每当你遇到数学家时，请询问他们的工作性质是否更类似于朗兰兹纲领或针对某个特定问题。你会在那里得到一定的分叉。人工智能成为增压连接器的可能性让人感觉它可能是这一追求的放大工具。但这很难衡量。这切入了我们之前所说的：如何分配分数来表示“是的，你已经完成了”？如果它解决了一个问题，你可以明确地说：“是的，你已经做到了。”你可以写标题。作为人工智能公司，你可以采取公关行动说：“我们做到了。”然而，如果你觉得这是正确的联系，你可以围绕它写出定理。这就是该领域论文的本质。但我认为这需要更多的“人参与”来回答“我们想要建立什么样的联系？”这是我对这些模型在未来五年内取得的大部分有用进展的猜测。如果您是多个领域的专家，它确实可以填补您可以绘制的联系图景。正如您所指出的，我们还没有做到这一点有点令人惊讶。我很想知道在技术层面上是什么导致了解锁。一方面，你可以在脑海中解释为什么你可以成为所有这些事情的专家，而不是绘制这些联系。当推理方法是这种自回归思维链现象时……如果你仔细想想，自回归实际上是一种非常奇怪的生产方式。你是一个聪明人。想象一下，我把你锁在一个盒子里，你与世界互动的唯一方式就是你收到一张纸条，有人说：“你能预测接下来会发生什么吗？”你预测接下来会发生什么，然后你的记忆就被抹去了。你会得到另一张纸条。想象一下，这已经完成了很多次，然后另一端会出现什么结果。他们说：“看看你写的这篇文章。”你可能会看着它并说：“这太糟糕了。那不是我会写的文章。”反复预测某件事的过程与你作为作家撰写和思考它的方式有很大不同。特别是，可能会发生的情况是，你是你所处环境的奴隶。 [00:39:02]

Grant Sanderson：您可能正在回答有关特定领域的一些问题，因此您会利用围绕该领域的所有上下文。但从本质上来说，所有物质的来源是一种非常不可能的联系。你可以做所有你想要尝试以某种方式变得更好的强化学习，但是当绝大多数连接都不是可预测的下一个代币时，什么是特别增强和激励建立这些不太可能的连接的呢？因此，可能的情况是，你只是将这种智能锁在那个盒子里，但这是一种与它交互的奇怪方式。我很好奇的是：质疑代币如何生成的前提是否有收获？我认为这不会像操纵温度那么简单，但是有什么事情可以做，既可以利用现有的智力水平，又可以找到正确的方法来激发这些联系，从而解锁我们所看到的这类事物？或者您是否只需要更多一点的智能，以便在预测层面上，它预测它应该将闪电击向另一个领域？ [00:42:46]

Dwarkesh Patel：我认为对数据进行推理比架构甚至损失函数更有成效。我们有处理文本的扩散模型，它们产生的事物类型并没有完全不同的特征。只是人们对它们的探索还不够多。我认为更相关的是：无论您拥有什么架构或损失函数，都可以激励您生产哪些数据？看来他们的情况确实有所好转。忘记数学吧。我们确实有一些这样的例子，但如果你看看为什么他们在成为自主代理方面做得越来越好……他们所处的环境是自回归地产生这样的步骤：“让我们退后一步，对整个代码库进行搜索”，然后“让我们退后一步，评估我的错误”，这才是有效的。我认为在科学或数学进步的情况下发生的事情是你遇到了类似数学的前沿问题。数学家专门设计了它们，因为它们需要将两个不同的领域连接在一起。我猜想有各种各样聪明的、部分合成的方法来解决越来越难的问题，比如需要这些类型的连接——例如，通过消除假设并仍然要求人工智能得到答案——然后损失函数是什么并不重要。这实际上是关于，你能想出一个激励这种能力的环境吗？感觉你应该可以。 [00:43:55]

Grant Sanderson：我当然无法说出解锁这一切的正确方法，但这确实令人惊讶。如果在接下来的三年里没有更多的闪电，你不觉得会感到惊讶吗？我认为这是一个值得思考的重要问题。我们经常思考单个系统有多智能。我们并不认为人工智能的优势更多是由其他事实造成的。因此，在这种情况下，关于它们的关键事实是我们可以并行化并任意扩展它们。 [00:45:32]

Dwarkesh Patel：无论他们的能力水平如何，数学史上并不是只有一位特殊的天才会产生一些联系，然后在决斗中死去。它普遍地将这条水线应用于在该能力水平上可以解决的所有问题。这是数字思维固有的众多优势之一，但我们没有充分考虑。另一个是他们可以将所有知识合并在一起 - 或者至少会有技术允许这种情况发生 - 并且你可以生成具有相同知识水平的副本。这种并行化是一个非常重要的属性。我对你的预测很好奇。即使他们不像人类数学家那么聪明，但出于公关原因，人工智能公司只是在这方面投入了数十亿美元，这一事实意味着数量本身就有质量。这似乎是正确的方向。 [00:46:04]

Grant Sanderson：如果我们以蒙哥马利和戴森在 IAS 的对话为例，对话表明黎曼猜想（或黎曼 zeta 函数零点）与随机矩阵之间存在某种联系，那么感觉就像是您可以尝试自动化的事情。您拥有代表所有这些领域专业知识的代理。我们都知道，机构比个人更聪明。让人们都在同一地理位置的原因是您希望发生这些偶然的对话。在代理之间设计这些内容是什么样的？这很有趣，因为你指出你可以汇集所有知识，但我真的想知道其中一个优点是否是你可以做相反的事情。有时候，人工智能失败的原因是它陷入了一个糟糕的思维链条，而且很难摆脱。所以你说：“我会重新开始。”对待人类也是如此。有时你开始以某种方式思考它，所需要的只是备份。有这样的故事：人们花了很长时间试图证明某件事，然后在某个时刻他们说：“等一下。如果我试图证明这是不可能的，或者证明相反的事情怎么办？”放松你自己的背景并以新的思维来看待它……你可以想象将其系统化，或者让多个不同的代理故意给出不同的背景，并尝试在那里进行比较和对比。我们对自己的环境没有同样程度的操纵。在这个人工智能和数学系列中，我们要做的第一集将讲述他们何时解决了 IMO。我想重点关注他们未能解决的一个特定的 IMO 问题，这是许多非常聪明的学生未能解决的问题。陶渊明在这方面也失败了。人们对这个问题非常生气，因为他们称其为巨魔问题。我几乎不想破坏它，因为我想围绕引导某人来构建这一集，而不让他们知道事实证明有一个简单的解决方案。你可以真正体会到作为一名学生解决这个问题的感受。基本上，有一种非常优雅的方法可以根据国际数学奥林匹克问题的背景来确定您真正想要的解决方案。该解决方案的特点确实很诱人，但很难证明它是最好的。原因是事实并非如此。这个几乎是脑死亡的解决方案是最好的。这与整个人工智能故事的相关性在于，对于人类来说，回答这个问题需要逃离你的背景。逃离 IMO 的环境。摆脱你所接受的解决这些竞赛数学问题的训练方式的背景。如果你只是像我向街上的某个人扔一个脑筋急转弯一样对待它，他们可能会回答得很好。有时你希望在其他环境中进行人类研究也能得到同样的结果，只是能够刷新你的思维并以完全不同的方式进行研究。在数字思维拥有的所有优势中，这实际上可能是其中之一：一种更系统的方法来刷新你的思维。派出两名特工，一名试图证明它，一名试图反驳它，一名尝试这种方式，一名尝试另一种。他们故意有不同的背景。我很想知道，如果三年后我们进行这样的对话，有多少成为头条新闻的重要结果具有基本上消除先前背景的特征，尝试一堆不同的事情，而不是合并一堆不同代理的结果。这非常有趣，因为人们对人工智能的一个共同担忧是这种熵崩溃，他们都以相同的方式思考，因为他们以相似的方式进行训练。这就是他们写不好的原因。 [00:47:00]

Dwarkesh Patel：他们走同样的道路，有相似的说话方式等等。但也许人工智能的关键优势在于，你可以系统地……听起来单位距离问题猜想花了这么长时间才被证明的原因之一是人们认为这个猜想实际上是正确的，所以他们大多试图找出证明它的方法。也许人工智能的关键优势之一是通过系统地尝试否定并试图证明任何给定陈述的积极性来增加熵，或者能够系统地给予不同的代理不同的偏见。人类科学史上的一件重要事情似乎是，爱因斯坦确实受到了这种偏见的激励，即事物在不同的参考系中应该看起来相同。他还有多种类似的偏见，但其中一个对他的思想产生了很大的影响。 [00:50:35]

Grant Sanderson：您可以系统地调查一系列启发式方法，看看哪些启发式方法对特定问题有效。因此，即使在自回归水平上不可避免地发生崩溃，您也会建议在即时水平上系统地增加熵？爱因斯坦将是一个有趣的例子，因为他对事物的相对性有偏见。他还对“上帝不应该掷骰子”抱有偏见。你要确保你不会意外地让所有LLM都是爱因斯坦，因为你可能会停止量子力学的进展。这表明科学没有正确的启发法。您只需要多个具有自己的启发式的独立研究项目。这感觉就像老式软件。只要你能够以某种方式描述它。你有老式的软件来放大熵。如果你能够为你想要促进的不同思维方式建立一个清晰的本体论，你就可以探索这个完整的本体论，然后每个单独的本体论就开始做它本来的事情。存在一个特定的设计问题，即如何准确地描述不同的方法。最简单的一个问题是：你是想证明它还是反驳它？更难的是，你可以采取哪些策略来证明这一点，并确保你应用足够的广度来探索它们。我认为当你为这些模型配备像 Cursor 这样的优质安全带时，人们不会欣赏这些模型可以为你处理的事情。 [00:51:30]

广告：Bilibili 工作流与 Scribe

Dwarkesh Patel：例如，我开始在 Bilibili 上为不断增长的中国观众发布我的剧集，但我在那里上传的所有内容都需要删除赞助片段。通常，这意味着要求我的编辑回顾所有旧剧集，剪掉广告，然后重新导出所有内容。但在我向他们发送 Slack 消息所需的时间里，我可以告诉 Cursor 这样做，这样就可以省去他们的时间。对于播客研究，我有一个完整的存储库，其中放置了与准备最近的剧集相关的每一本书和论文。我能够将所有内容都放入其中，因为 Cursor 线束非常擅长帮助模型准确地找出要提取的内容（无论是从我的存储库还是从网络）来回答我在研究时遇到的问题。因此，无论您现在正在做什么，只需尝试将光标指向它即可。请访问cursor.com/dwarkesh 开始。显然，人工智能在数学领域的进步比其他领域快得多，人们指出该领域的可验证性是发生这种情况的关键原因。我认为这是两个重要原因之一，但人们确实忽视了另一个原因。我在实验室外面，所以我不知道到底发生了什么。这是一个完全天真的理论。关于人工智能为何在数学方面取得如此巨大进步的一个切题问题是：为什么它在计算机使用方面如此缓慢？计算机是非常可验证的。我的 Etsy 包裹会来吗？我的活动已预订吗？这些都是非常值得调查验证的事情。计算机使用所缺乏的是可磨性。因为网站有机器人检测器，并且需要大量的计算来运行并行推出，所以很难在亚马逊上运行相同结帐流程的一千个并行推出。你会被安迪·贾西关闭。他个人。他按下了 Dwarkesh 按钮上的红色 X。确切地。您可以尝试构建每个网站的克隆，但这非常耗费人力并且会减慢您的速度。您当前需要进行如此多的并行部署来学习深度学习技能的原因是我们尚未解决样本效率问题。正如卡帕蒂所说，通过吸管吸取监督？确切地。当然，人们正在研究许多不同的技术，但从根本上来说，我们训练人工智能的方式存在很大的限制。通过代码，您可以在存储库中容器化给定级别的进度，然后启动数百个并行容器并说“尝试实现此功能”，这完全是确定性的。因为它是确定性的，所以您可以解决信用分配问题，因为您知道无论是什么导致这次部署成功而​​这次失败，差异都是有效的。如果你遇到的情况是从不同的起点开始的，那么这个学分分配问题就会变得更难解决。现实世界中的大多数事物都很难以同样的方式进行容器化。编码和数学是这条规则的例外。但如果你想弄清楚如何建立一个成功的新业务，或者如何在市场上进行一天的交易并赚钱，那么你必须与现实世界互动并且事情日复一日地变化，这一事实意味着你不能继续重玩、磨练和耕作模拟器。当然，数学是例外，我觉得这是该领域以及编码领域进步的重要驱动力。这不仅仅是可验证性；它必须是可研磨的。人们指出人工智能快速进步的第三个原因是他们非常关注Lean和形式化。再说一次，我真的不知道实验室里发生了什么。我觉得Lean对于当前人工智能的进步水平来说并没有那么重要。为什么AI能够反驳单位距离问题的猜想？他们释放了思想链，或者至少重写了思想链。它里面没有任何Lean。我认为Lean提供的基于流程的监督（你知道每个步骤都是正确的）似乎不如仅仅获得可验证的可磨削结果那么重要。 [00:52:57]

Lean、自动研究与数学验证

Grant Sanderson：有趣的是，可磨性更重要。你可能天真地认为Lean为数学提供了一些独特的东西，因为你能够看到它是否可以证明这一点。你有老式的软件可以告诉你是或否，你可以用它作为你的虚拟现实。最初的尝试可以证实你的观点。我再次回到 IMO。最初，DeepMind 基本上就是这样做的。一切都采用Lean，然后明年一切都采用自然语言。所以就你的观点而言，这是没有必要的。我确实认为该形式化领域还有一个尚未探索的好处，那就是目前您仍然需要一个人来审查单位距离猜想的反例，然后说“看起来不错”。这为事物的可探索性提供了一定的界限。如果你考虑 AlphaGo 或 AlphaZero 风格的系统，它们会在自己的宇宙中玩一堆围棋并探索自己，可能会偏离任何人类需要查看的轨道，但它们仍然拥有这种自动可验证的奖励。这不仅仅是你可以在这方面进行强化学习。而且你基本上不需要签入，你可以将计算倾注在他们身上，探索 Go 的宇宙。有趣的是——也许这不会成功，但陪审团仍然应该决定它是否会产生任何结果——使用 Lean，你可以想象有一个基本上无限运行的程序，它不断地尝试扩展 Mathlib。 Mathlib 是一个 GitHub 存储库，基本上所有数学内容都是用代码编写的。这与数学的全部相距甚远，但他们希望它是数学的全部。它是用代码编写的，您可以在其中询问“这个证明正确吗？”写这些证明是非常费力的。围绕它有一个完整的子社区。但你可以想象有一个人工智能，你可以说：“简单地尝试扩展 Mathlib”。也许它是它的一个分叉，这样里面就没有垃圾，因为人们对他们想要的东西有一定的品味。所以你有了纯 AI Mathlib 的分支，它会一直运行并且不会停止。它不需要任何人来检查它。它可以继续下去。它可能会提出自己的猜想。它可能会提出自己的理论和不同的定义。也许其中很多都是无用的，但它只是有这棵无限的树可以生长出来。这是数学所拥有的一个非常独特的东西，其他任何东西都没有，你可以按下“Go”键，然后对它进行计算，把目光移开十年，然后回过头来说，“你有什么？”将会有一些事情。那么问题来了：到底有用还是没用呢？你怎么解决这个问题？这是一件很有趣的事情。如果这没有从中产生某种有趣的数学见解，那将是非常令人惊讶的。Lean在这个故事中的重要性有两种不同的体现。第一个是如何放手，甚至不签入，就会取得进展。你可以用 Go 做到这一点。我不认为你可以用自然语言数学来做到这一点。这很有趣。你看到Karpathy的汽车研究想法了吗？他编写了这个进行基本 LLM 训练的 Python 文件，然后创建了一个存储库，其中 LLM 代理将尝试对文件进行修改，如果它加快了运行速度，则修改会保留。 [00:56:59]

Dwarkesh Patel：Eric Jang 来解释 AlphaGo 的工作原理，当他试图构建一个非常强大的围棋机器人时，他也做了类似的事情。他有有趣的观察。它确实擅长进行实验并沿着这条路走下去，但它不擅长在死胡同中停下来并做极其并行的事情。无论如何，这种情况将来可能会改变。想想在极限下它是什么样子是很有趣的。从根本上来说，这就是人类数学研究机构的本质。它是一个以有趣且有用的方式扩展的库。这样你就没有任何基于结果的监督。你没有试图激励任何结果，但你有一个过程。你知道这些步骤是正确的，只是不知道它是否朝着有趣的方向发展。 [01:00:18]

Grant Sanderson：如果你这样做，你不想完全偏离轨道并在逻辑空间中随机行走。您可能需要一些主管模型来尝试提供关于它是否有用的启发式方法。你知道人们正在为此努力。这是“五年后”的事情之一，我很想让我们未来的版本谈论它。也许这毫无意义，但陶哲轩正在谈论一个试图彻底搜索可能代数空间的研究项目。您可以想象应用于代数系统的不同公理。当我们提出群论时，有一个公理系统看起来像是任意规则，除非你知道其动机。如果你尝试了所有这些会怎样？它们中的任何一个都会产生有用的东西吗？他们中的绝大多数在某种程度上只是垃圾。这一切都崩溃了，没有有趣的结果。但时不时地，会有一个完全不同类型的公理系统的小岛，至少在可以得出的定理数量方面看起来很丰富。这就是你想象的自动化证明者的面包和黄油，探索这个空间并看看其中哪一个是有用的。也许其中一个岛屿实际上是你可以追溯地给予动力的东西，说这就是它试图达到的那种结构。就像你可以想象查看一个群的公理，不知道它与对称性有关，但你回想起来意识到这与研究对称性非常相关。你可以想象那种风格的结果，但它不仅仅是探索可能的代数系统，而是探索任何类型公理的所有可能的逻辑后果。关于是否可以在没有Lean的情况下提供基于流程的监督， [01:01:04]

Dwarkesh Patel：DeepSeek 有他们的 DeepSeek 数学模型。他们发布了一篇关于如何训练它的论文，非常有趣。自然语言证明的问题是你不知道它是否正确。他们有一个验证者，验证者由元验证者进行训练，确保对于他们训练该模型在解决问题的艺术中解决的所有问题，验证者都能提供良好的反馈。有用。有趣的是，迄今为止，通过某种元验证进行的自然语言验证似乎在已发表的文献中有效。它似乎也适用于我们正在使用的已发布产品。如果你看看编码代理，他们在编写干净的代码和重构代码方面做得越来越好。我确信有基于流程的“LLM作为法官”系统提供品味并说，“这是编写此函数的干净方法吗？是否存在相同类型模块化形式的重复项？”这也应该适用于数学，对吗？ [01:02:44]

Grant Sanderson：对于数学来说，即使你只使用自然语言，你也可以信任验证者，这似乎比其他任何事情都更合理。你和我之前讨论过为什么他们不擅长写作。他们似乎是很好的法官。如果我给他们两篇学生写的论文，他们就能说哪一篇更准确、更有洞察力。那么为什么不能让验证者说：“这是一篇好文章吗？”也许最终的失败是，即使他们擅长区分 B 论文和 A 论文，他们实际上并不擅长区分 A 论文和你真正想读的东西，那些在 Substack 上可以跟踪和有洞察力的东西。他们实际上最终更喜欢没有洞察力的作品。在数学方面，简单地知道证明是否正确的步骤适合自动验证器，即使是在自然语言中也是如此。你可能仍然可以取得很大的进步。我仍然喜欢Lean的逻辑树，只是因为你真的可以偏离轨道。以前的措辞方式没有任何限制。每个人都在谈论 AlphaGo 的第 37 步。什么东西可以超越先前的启发法？在这种探索中与世界其他地方脱节似乎是富有成效的，作为自然语言数学前沿的补充研究追求。Lean的另一个相关性是，假设您拥有纯自然语言 RL 环境和一组纯自然语言证明。人们说，“继续吧，人工智能数学家”，他们每天会生成十篇论文。如果有任何错误率的话……亚历克斯·康托罗维奇（Alex Kontorovich）已经谈到了这一点。作为一名数学家，这变得难以忍受。每次你看到其中一个，你都不知道它是否值得你花时间。即使 100 个中的 99 个是正确的，我也不知道这是否值得我花时间，因为找出错误是什么确实需要大量的劳动。把所有的时间都花在一篇垃圾论文上真是令人沮丧。拥有一些能够给你绿色复选标记的东西，上面写着：“即使这会很复杂，难以理解，即使会很痛苦，但你至少知道它是正确的，”其他所有领域都会为此而奋斗。数学有这个。如果模型也能够获取自然语言证明并将其形式化，那么这似乎是巨大的。每个领域都希望有这样的东西。所以我认为你是对的，Lean作为 VR 环境对数学进步的重要性可能被高估了。但我绝对不会把它从故事中写出来。 [01:03:46]

Dwarkesh Patel：我也喜欢 Mathlib 的这个扩展，它是我们文明即将发生的事情的隐喻。几千年来，人类已经建立了这个知识和理解的语料库，我们拥有的一切现在都被提炼到这些模型中。在某些时候，模型将任意扩展它。顺便说一句，在写作方面，我有一个理论来解释为什么写作比其他领域取得的进展更差。一个原因就是你所说的，他们不仅不善于判断A和B，而且还被B*完全脱轨，这是一篇糟糕的文章，它满足了A应该满足的所有花哨的要求。奖励黑客的事情就脱离了轨道。但另一件重要的事情是，写作不像代码和数学那样模块化。您可以用多种不同的方式编写函数，但它们都做同样的事情。当然，您希望它是干净的，但归根结底，如果它有效，它就有效。与数学中的引理相同。您可能会得到一些与生产方式不同的最终产品。代码是产生最终产品的东西，而您需要一个功能性的最终产品。而在书面形式中，最终产品直接是人工智能正在生产的东西。每个段落、句子和单词都很重要，因为它们就是实质内容。它不是从写作中产生的一些单独的东西。 [01:06:44]

Grant Sanderson：它不能像代码可以马虎一样马虎，但仍然会产生您想要的结果。但您只是指出我们实际上如何在代理编写方面做得更好，不仅编写功能代码，而且编写干净的代码。为什么同样的进步可以让你从纯粹的功能性转变为干净且可合并的 PR，同时也能带来更清晰的写作呢？这是一个很好的观点。还有，不是吗？我同意他们在很多方面都是糟糕的作家。但对于我消耗的大量写作来说， [01:08:18]

写作、解释与心智模型

Dwarkesh Patel：我发现最好将其复制粘贴到LLM中并说“向我解释一下”。解释会比人类产生的东西更好。有趣的是，我们说这些都是如此糟糕的作家，但我透露的偏好是让LLM来解释它。即使当我在电话中与人类专家交谈时，如果这是只有他们拥有的知识，并且没有编码在分发中，我希望他们向我解释。但如果为了理解这一点，我需要理解一个更基本的概念，我更愿意在社会上可以接受的情况下说：“让我们在这里暂停一下。我只是想问一个LLM这是如何运作的，然后我们可以回到你的特殊知识。”这就是蒸馏，一种解释。如果我考虑到你作为论文作者的素质——如果我给你一本书让你读，并且我想要一份读书报告——我可能会相信LLM会给我一份更好的读书报告。但当人们说写作不好时，他们真正想说的是，什么是写作？这不仅仅是现有想法的升华。这不仅仅是你如何解释清楚的问题，因为他们是很好的解释者。这是关于洞察力是什么。 [01:08:50]

Grant Sanderson：这就是自回归是一种非常奇怪的生成方式的地方。当你写作时，你知道为了让它变得好，你必须有不可预测的元素。这不仅仅是提高你头脑中的温度。当你想要做出不可预测的举动时，准确地知道正确的点，这将是更有洞察力的。即使它能更好地解释预先存在的事物，是什么产生了你最初想要提炼的那本书？它不是LLM产生的，而你只是需要它。正是某些作者通过对世界上各种想法的大量探索，决定了哪些方面是有趣的，以及以何种方式呈现它，从而形成了一个连贯的、动机良好的叙述。他们以某种方式将所有这些组合在一起。如果他们是一位优秀的作者，你可能会错误地阅读他们的书而不是精炼。不过，是什么让它值得一开始就探索并想要上传呢？当人们说LLM不擅长写作时，他们所引用的就是这一面。这就是不可预测性的因素，是故意选择一些与事物通常的生产方式直接矛盾的新颖事物。这是一个很好的观点。我认为他们也不擅长建立良好的人们心理模型，这是写作中非常重要的技能。 [01:10:01]

Dwarkesh Patel：安迪·马图沙克（Andy Matuschak）和另一位合作者（我现在忘记了他的名字）做了一份有趣的报告，他们试图教LLM写出良好的间隔重复提示。我真的很喜欢这个，因为尽管它看起来像是一种完全随机的技能……就像人们在谈论一年内递归的自我完善，而我们无法让这些东西写出好的抽认卡。那里发生了什么事？他们尝试了多种不同的技术，而且他们都是老练的人。他们尝试强化学习开源模型。他们尝试了各种各样的事情，包括他们向最好的闭源模型发送的思想链和大提示。在我看来，关键的限制是写一张好卡片就是在三个月内投射出某人的想法。他们会以什么方式关联这个问题？那一刻他们会想到什么样的答案呢？启发是否激发了你真正想从你试图制作卡片的段落中获取的细节？我认为写作与此类似。如果你正在写一些东西，那么它是一个如此令人疲惫的过程，需要如此长时间的原因是，对于每个单词或每个句子，你必须思考：我的读者的脑海里现在正在发生什么？即使我翻转措辞，使结束短语转到开头，这也是您在阅读句子其余部分之前想到的第一个图像……也许自回归在这方面做得不好。这可能是一种更像扩散的属性，考虑整体而不是逐句考虑。但我也认为这需要大量的心理化，而这些模型在这方面却很奇怪。这是一个有趣的问题。他们为此挣扎很奇怪吗？我可能会屠宰这个。你知道你如何引用你曾经读过的研究，但也许这项研究并不真实吗？ [01:11:21]

Grant Sanderson：有一个非常令人难忘的。假设你想测试人们的情商。你向某人展示一张面部表情抽认卡，然后某人试图描述这种情绪。网上有非常好的测试，有一张脸，然后有四种可能的情绪。准确地描述正确的情绪是非常困难的，但你也会感觉到确实有一个正确的答案。如果你在生活中的人身上尝试一下这个方法，你会发现那些善于社交的人在这方面做得非常好，而那些左脑多一点的人则不然。这是你可以做的一种测试。我依稀记得有一个这样的实验，他们对刚注射肉毒杆菌的人进行了预测试和后测试。测试后，他们在解读人们的表情方面表现得更差了。这感觉很奇怪。等等，他们有肉毒杆菌吗？接受测试的人。你做了测试，然后你去注射肉毒杆菌，你的脸都冻僵了，现在你更不能够理解你所看到的情绪。我们的想法是，理解你所看到的情绪的一部分就是你自己去做。在面部层面，您正在移动面部肌肉。你看到了，你模仿了，你会在潜意识层面上说，“哦，是的，这就是焦虑”。所以从这个意义上说，如果模型的心理理论很差，那么他们当然知道一切，因为他们读过每个人写的东西。但实际上能够设身处地为你着想，就像我的面部肌肉模仿你的面部肌肉一样——这有助于我理解你的感受——这一点也不奇怪。他们没有面部肌肉。他们的大脑工作方式完全不同。这就像一个外星人试图同情。它怎么可能有心灵理论呢？这将是一件非常紧急的事情。而我们可以将其插入我们自己的脑海中。我们已经准备好了现成的硬件，只需将其放入即可。 [01:13:06]

Jane Street、学习路径与学生建议

Dwarkesh Patel：从这个角度来看，这并不奇怪。好吧，格兰特，我们都是Jane Street的合伙人。我确信这些年来你已经与很多简·斯特里特人交往过——你发现他们或者他们的文化有什么独特之处吗？我今年对他们进行了这次采访，这部分很有趣，因为他们通常没有任何面向外的东西。 [01:15:00]

Grant Sanderson：我的意思是，在这个行业，他们以拥有相当高的保留率而闻名——人们只是呆在那里——了解内部情况。我记得在他们的一条评论中有人说：即使人们有职位头衔——研究员、交易员或工程师——他们常常不知道同事的实际角色是什么，因为每个人都在做一些其他的事情。就像即使你是正式的交易员，你也会做大量的研究；即使您是正式的研究人员，您也会进行大量编码。我怀疑这就是他们拥有如此疯狂的保留率的部分原因。因为任何想要成长的人都有机会做很多不同的事情。 [01:15:17]

Dwarkesh Patel：好吧，格兰特，这次我会为你做插头。如果您想观看格兰特对那里的一些人进行的完整采访，请访问 3b1b.co/janestreet。好吧，格兰特——让我们更多地谈谈人工智能和数学。对于使用LLM学习，您有什么建议？正如我所描述的，对于许多众所周知的概念，我发现它们非常有帮助。但通常情况下，只要再往下看几条消息，我就试图理解一些东西，而他们自己却很困惑，以至于让我感到困惑。他们没有以正确的方式解释它。我知道与合适的人交谈可以在三分钟内消除我的困惑。我们越来越想要利用这些东西来学习。人们谈论了很多关于教育和代表性的事情。您是否注意到更有效地使用它们来理解概念的方法？ [01:15:49]

Grant Sanderson：我很想听听你对此的看法。我给我的。即使是LLM 出现之前，我也觉得学习的相关见解是认识到谁比什么更重要。我对任何大学生在选择选修课程时的建议是：少关心一下你之前存在的兴趣，因为它们现在有点武断，多关心一下教授它的人是否是一个好的教育家，是否是一个能让你产生共鸣的人。在选择读什么书时，作者是谁可能比是否优先感兴趣更重要。如果您以前喜欢过一本书，请阅读该作者所写的其他内容，而不是阅读有关该主题的其他内容。我也正在用 LLM 处理这个问题。如果是哲学主题，尝试从维基百科页面学习某些东西与通过斯坦福哲学百科全书学习的感觉是不同的。或者，如果这是一个数学主题，你可以去普林斯顿数学伴侣。不同之处在于，这些文章是由一个人故意撰写的，他试图围绕其实际制定一个动机。而在维基百科上，正是达到了每个句子都必须正确的局部最小值。在一次好的阐述中，你不太关心途中的正确性。您可以故意制作一些稍有错误的内容，并在此过程中进行纠正，这些内容会在众包环境中被编辑掉。目前，LLM 的解释对我来说很像维基百科，也就是说，令人惊叹。想象一下维基百科出现之前的世界，需要多长时间才能找到并查明所有内容。但无论如何，维基百科页面最有用的部分是什么？通常只是底部的参考文献。你查看关键参考文献，然后找到它们，然后阅读它们。有时这可以提供更好的概览。我经常想问LLM：“我应该读谁的书？”也许我甚至可以提供一些关于我想要学习的方式的具体细节。当我试图学习半导体或其他东西时，我实际上被这个点燃了。我觉得这是一个非常视觉化的主题，但所有资源都是文本。我问：“有没有一个清晰的视频来解释你所理解的概念？”克劳德说，“是的，这是一对，”最上面的一个就像是，“这是 3Blue1Brown 的一个”。我想，“我可以保证没有。”这是一个真实的视频，一个真实的链接，但它只是错误地归因于别人的。很好。我有更好的体验，点击并观看它来学习，而不是试图在那里继续提出问题。从这个意义上说，我基本上就像使用一个非常强大的谷歌版本一样使用它，以将正确的人类编写的资源归零。你呢？你经常参与这些活动。使用它们的最佳方法是什么？我想你已经把手指放在上面了。我所经历过的最富有成效的学习课程是当人类制作出一些工件（无论是一篇文章、一本书还是一个视频）以正确的方式组织相关概念时。它为为什么下一个想法与解决你遇到的下一个问题、下一个想法和下一个想法相关提供了动力。然后，您使用LLM围绕本书确定的这个分支进行一些修剪。我实际上正在阅读——我想你可能会推荐它——史蒂文·斯特罗加茨（Steven Strogatz）的教科书……关于混乱的教科书？非线性动力学和混沌？我喜欢那本书。 [01:16:45]

Dwarkesh Patel：是的，我正在经历它，这是幸福的。就像你的书籍形式的视频一样。非常有趣。按照我学习的方式，我会在屏幕的三分之一上看到他的大学讲座，在另外三分之一上看到教科书的那部分，在最后三分之一上看到LLM。我实际上在想，如果我回到大学并现场观看这场讲座，我会完全无法理解。这些孩子一定非常聪明，因为我会暂停，阅读教科书，与LLM交谈，然后再次重新开始。但是，随着他策划正确的顺序来理解概念和正确的问题来激发理解它们……LLM真正不擅长的另一件事。一个真正优秀的人可以做的事情，当你问一个问题时，一个人可以说，“实际上，你并没有真正以正确的方式思考这个话题。你想问的问题，组织这些概念的正确方式，是X。” [01:20:11]

Grant Sanderson：LLM 确实无法做到这一点。有点太安抚了。这最终是一种阿谀奉承的行为，“哦，这是一个多么有洞察力的问题。”你想把它去掉。这是一个很好的观点，我认为这有点切入了心理理论，认识到提出某种类型的问题表明学生的心理结构与解释者的不同。有时人们这样做是错误的。假设你有一个非常好的老师，你有一个中学数学教室。如果学生提出的问题表明他们正在以不同的方式思考这个问题，那么实际上很难立即认真对待这个问题并问：“等等，你能用这个得出正确的答案吗？”在你说“与其那样，不如这样做”之前。真正优秀的老师能够以学生思考的创造性方式进行柔术并将其带入。LLM不会这样做。他们没有重新组织你的问题。相反，他们有点逃跑。至少，感觉这里有三个层次。LLM是一回事，优秀的解释者是另一回事，但 A+ 解释者是能够柔术你的思维方式并说“这就是有用的地方”的人。也许有一个循环，从现在起五年后，LLM将会这样做，但会以更好的方式。 [01:21:06]

Dwarkesh Patel：对于那些我确信总是通过电子邮件向您发送这个问题的学生，您有什么建议：“我对数学很好奇。我对这个学科非常感兴趣，但看到人工智能所取得的所有进步，我不知道我将其作为职业是否有意义。”这不仅与数学领域的人相关，而且与任何注意到他们的领域正在从人工智能中获得生产力提升的人相关。 [01:22:31]

Grant Sanderson：编码与此非常接近。您对人们有什么建议？我不会相信我给出的任何建议。我就是这样处理的。但即使是在人工智能出现之前，对于你要从事的任何工作来说，真正理解它都非常重要……如果我们谈论的是一份工作——而不是成为一名从事数学世界的绅士科学家之类的——你应该了解钱从哪里来，你实际增加了什么价值，以及这两者之间的联系。令人惊讶的是，对此的思考很少，尤其是学生。他们在这种环境下可能想学习数学，因为他们一直擅长数学。他们因正确地完成下一环而获得了生活的奖励。当他们认为自己想成为一名数学家时，是因为他们认为这是继续从事数学家工作的一种方式。他们想：“人们从哪里可以做到这一点？”而不是思考“我为其他人增加了什么价值，以及工资在多大程度上流向我的方向？”其实在不同的情况下是有很大不同的。在某些情况下，这是一位非常有声望的数学家，他们在大学的存在赋予了一定的品牌价值，这就是大学想要他们的原因。在某些情况下，国家科学基金会的拨款是因为公众对基础科学的良好信念。你有一个围绕这一点的机构，还有一个完整的官僚机构，充当我们认为公共利益的代理人，并围绕如何让他们正确预测你的进展将本着该资金的精神进行一整套歌舞。有时只是直接教学。人们喜欢把孩子送到有专家授课的机构。作为专家，您可以提供品牌价值；作为教师，您可以提供直接价值。无论人工智能是否证明定理，无论我们谈论的是 2016 年还是 2026 年，这些都没有足够的学生考虑“我想成为一名数学家”。我认为值得思考。对我来说，我不一定会考虑这个问题，我偶然发现了一条可以将数学探索作为娱乐来货币化的职业道路。我偶然发现了这一点，我很感激我做到了，但这是一个意外。这不是故意的。如果我认真思考的话，我本可以避免依赖偶然性，并通过设计多做一点。对于你的问题——如果我们有几乎自动化的定理证明，假设它们也是很好的解释者，这样你甚至可以得到人类的理解——我认为数学家所扮演的许多社会角色实际上并没有改变那么多。作为公众，我们仍然认为基础科学是有价值的，我们相信数学家的判断来决定他们的时间最好花在哪里。声望来自该社区内部。其他成员说这个结果真的很好，比资助作者真正理解代数数论更能理解这是一个很好的结果。将会有一种构成有价值贡献的内部文化。也许它从定理证明转向良好的定义编写。也许这就是博物馆馆长的想法。但只要整个社会仍然重视基础科学的前提，你就会拥有同样的社区。如果我们处于人工智能带来的丰富世界中，从某种意义上说，这个方向可能会有更多资金。就讲师所在机构的声望而言，我实际上认为教学是 通用人工智能 后最稳定的工作之一，因为它是如此相关。如果父母拥​​有丰富的财富，他们就会想把钱花在良好的教学和教育上。它远远超出了解释。 [01:22:59]

Grant Sanderson：即使LLM是很好的解释者，教师所做的事情也是社交、辅导、导师类型的事情，这可能是未来五十年中最稳定的职业之一。由于许多数学家的角色与此重叠，作为未来的学生，你可以倾向于这一点。事实上，我认为更多的学生应该思考并相信作为一名数学教育者的想法以及可以为下一代服务的价值。我会再次表示，我不认为我是那个会说“未来的年轻数学家，这就是你应该如何思考未来”的人，因为我是一名 YouTuber。我不在他们想要进入的机构中，所以我是作为一个局外人来发言的。但这感觉总体上是好的、普遍的建议：知道钱从哪里来，知道你把钱投入到哪里。如果你只是问这些问题，那么你实际上已经领先于所有其他初出茅庐的未来数学家了。事实上，想想这个疯狂的世界，在五年或十年内，人工智能不仅会提出千禧年奖问题的解决方案，而且首先要解决全新的问题，新颖的数学领域、物体和东西。 [01:26:49]

Dwarkesh Patel：首先，在那个世界里，有大量的丰富。第二，人工智能思维走得最远、看到的东西超出我们的视野最远的地方，将是数学。将会有很多这样的需求：“人工智能看到了什么？你能给我们解释一下吗？”在那个世界里，如果有任何工作，肯定会提炼出什么 [01:28:09]

数学进步是否有用，以及应用瓶颈

Grant Sanderson：人工智能已经学会了将成为其中之一。而且，这很有趣，因为所有这些都假设它是无用的。我们不是在谈论正在做的数学的实际应用。就它有任何经济效用而言，你会想象那些理解它并能够决定它应该指向何处的人实际上拥有更多的经济价值，因为他们能够作为策展人做出判断，并将这个新数学庞然大物指向一个有用的方向。突然之间，这是一个比以前更有杠杆的举动。我可以问你这个吗？显然，数学人工智能的一个问题不仅是它能做到这一点，而且它有什么好处吗？或者说它对什么都有好处？ [01:28:34]

Dwarkesh Patel：您描述了通过群论，我们试图找出有关不同类型函数的根的随机事实的所有方法，现在所有这些不同的应用程序在许多不同的领域都是实用的。你是否知道，如果我们完全达到了人类数学领域加速 10 倍或 100 倍的程度，并且发生了一些疯狂的事情，或者我们是否会受到其他领域的瓶颈？我认为有些领域可能会。 [01:29:20]

Grant Sanderson：这非常不均匀。随着代数数论的进步，似乎不太可能解锁某些东西。但我记得和一位数学家交谈过，他从事更多动力学和偏微分方程求解类型的工作。他指的是他的团队有一些想法。让我看看我总结得是否正确。这就像波音制造飞机的方式一样，他们制造飞机，进行一系列测试，然后必须根据这些测试将其拆卸并重新组装。他的团队基本上对如何在模拟中做更多事情有一些见解，这样您就不必解构和重建它。它为波音公司节省了数十亿美元之类的费用，然后他们就开始为该组织提供资金。这更明显与应用程序相关，因为偏微分方程就是这样。您可以想象，该领域的进展实际上确实解锁了一些东西。我不知道是否是这些步骤的变化，但也许更多的是让发动机设计变得更加流畅，或者提出正确的机翼形状，而不是运行一大堆复杂的 CFD。也许您能够加快 CFD 模拟的速度，因为某些纯数学见解可以提高模拟的效率。我敢打赌您会在那里看到很多巨大的渐进式改进。数学上的巨大突破似​​乎不太可能立即转化为巨大的经济突破，就像解决纳维-斯托克斯问题一样，然后释放模拟更多事物的能力。但你可能会在这些边缘看到一些有意义的纯数学见解渗漏到其他事物中。有很多人从事人工智能工程、物理工程和材料科学等领域的工作。你必须想象他们能够很好地研究人工智能的数学见解并决定它们是否在某种程度上相关。这是另一件事，我不会坐在这里，在沙子上插上一面旗帜，预测会有这样的事情发生。但如果在未来五年内没有做出与人工智能在数学方面的进步直接相关的具有经济价值的改进，那就有点令人失望和有点令人惊讶了。如果它只是解决了埃尔德的一堆问题，而没有人做任何真正直接涉及物理世界的数学，那就太令人失望了。就你的观点而言，数学史中有多少是关于建立这些概念和联系的。有时这些堆会相互连接，或者您在其他地方发现了应用程序。至少，你只是建立了这一大堆。然后，随着社会在奇点期间发生更广泛的进步，当我们到达奇点的工业部分时，你就会拥有所有这些不同的想法，希望这些想法对世界其他地方有用。正如我所说，正在发生的事情的一个有趣的事情是它让人们退后一步问：“数学是什么？”也许令人尴尬的结论之一会表明它已经变得完全无用了。所提出的问题已经与物理上适用的问题如此脱节，这是数学家必须接受的事情之一。每个人都会看着并说，“等一下，你们不是应该……如果那里有 10 倍的进展，为什么我们在这里看不到呢？”然后数学家们就会说，“呃。”每次我们写下这些拨款提案并说：“相信我们，椭圆曲线的进展将有助于密码学的发展”，这都揭示了一个事实，即它可能不会。所以这是一种可能性。格兰特，这太有趣了。非常感谢你这么做。绝对地。我的荣幸。 [01:29:55]