目录
- AI数学突破与创造力 [00:00:00 - 00:10:00]
- 从基准到加罗瓦理论 [00:10:00 - 00:20:00]
- 抽象对象与阐述性问题 [00:20:00 - 00:30:00]
- 证明解释与自主智能体 [00:30:00 - 00:40:00]
- 可验证结果与AI探索 [00:40:00 - 00:50:00]
- Lean过程监督与写作局限 [00:50:00 - 01:00:00]
- AI写作学习与理解体验 [01:00:00 - 01:10:00]
- 数学职业与经济影响 [01:10:00 - 01:20:00]
- 纯数学洞见的外溢 [01:20:00 - 01:21:52]
AI数学突破与创造力
一凯（节目导入）：欢迎收听跨国串门儿计划，这是一档专注于让中文听众无障碍欣赏全球优质外语播客的节目。通过先进的AI声音克隆技术，我们不仅将内容翻译成中文，还完美保留了原主持人和嘉宾的独特声音，为您呈现全球顶尖的AI财经，健康与科技领域精品内容。我是主播一凯，一位热衷于AI领域的产品经理，很荣幸能为您搭建这座跨越语言障碍的桥梁。接下来让我为您简单介绍，本期我们克隆的这档节目，本期我们克隆的是知名播客DwarkeshPodcast，在2026年的一期深度对谈，主持人DwarkeshPatel与嘉宾GrantSanderson，展开了一场关于数学未来的精彩讨论，GrantSanderson是广受欢迎的数学科普频道，SanBlueEbron的创始人，他正在制作一个记录人工智能，在数学领域进展的新项目，这期节目他们主要探讨了，人工智能在数学前沿的突破速度，以及这些进展对我们理解创造力，科学发现和未来工作意味着什么，那我们就一起来听听这期的完整对话。 [00:00:00]
Dwarkesh Patel：今天和我聊天的是GrantSanderson，他运营着SunBlueEbron，现在正在做一个新项目，记录AI在数学领域的进展，我想跟你聊这个，是因为AI在数学上的进步速度，比任何其他领域都快，所以这里正在发生的事，以及我们看到的AI进展或瓶颈，会告诉我们，随着AI越来越强，世界其他地方会发生什么，我想先从一个问题开始，三年前我第一次采访你时就问过你，我当时问，一旦我们有了能在国际数学奥林匹克竞赛里，拿金牌的AI，那不就是通用人工智能了吗，考虑到这些题目的难度，它岂不是就能做任何人类能做的事了，你当时的回答，现在回头看非常明智，而且是对的，你说那会变成另一个基准测试，就像我们正在通过的，所有其他基准测试一样，显然从那时起，AI在通用能力上变强了，但这件事发生时，不会有什么顿悟时刻，首先，我很好奇，你为什么能遇见到这一点，其次，我好奇你觉得这种局限性，还能持续多久。 [00:01:10]
Grant Sanderson：到AI解决了千禧年大奖难题的时候，你觉得还有可能，有很多人类在做的工作，是AI仍然无法在经济中自动化的吗，这个问题很有意思，因为如果不知道解决方案长什么样，就很难提前回答，拿IMO来说，我觉得你三年前那个问题的核心在于，看这些题目的解法时，他们似乎真的需要创造力，出题人也会尽量设计一些，你没法轻易训练出来的东西，我觉得IMO的一个不能说的秘密是，很多题目其实是可以训练的，所以就像你指出的，整个AI与数学项目之所以有意思，原因之一就是AI有一个尖峰前沿，数学正好就在其中一个尖峰上，但这种尖锋性本身又有点分形的味道，因为当你放大看数学内部的具体进展时，有些事儿比其他事儿容易得多，我们就看IMO这在现在已经算旧文了，对吧，大概两年前他们就做得相当好了，要不是下面这个原因，他们2024年就能拿金牌了，他们非常强，基本上几何题是直接秒杀的，IMO有四类题目，几何数论代数和组合，几何题在2024年大概19秒就解出来了，因为它用的是一种，类似暴力求解的方法，而对学生来说，不能说的秘密是，也有一种类似暴力的方法去解，组合题则是个变数，题目往往更俏皮，更像谜题，那一年的考试有两道组合题，不总是这样，一共四个类别，六道题，所以哪一类会出两道题，有点碰运气，要是几何题再多些，他们那年就金牌了，但他在组合题上很挣扎，那些想守住人类数学最后阵地的人，可能会说，你看那些才是更需要创造力的题目，但即便如此，我觉得你问题的核心是，如果他们解决了千禧年大奖难题，是不是也意味着，能胜任很多白领工作，这暗示着，从现在到那个节点之间的，速率限制因素，和让AI更擅长白领工作的，速率限制因素是一样的，我们也许可以描绘几种不同的路径，比如如果我们聚焦在，黎曼猜想上，解决它会是什么样子，一种可能性是，这些东西在某个特定知识领域，极其擅长，理解得非常深，然后也擅长另一个领域，再一个领域，你也指出过这一点，一个拥有超人类知识广度，对所有领域都了如指掌的东西，却没有发现那些连接，它们的闪电式连接，这本身就很奇怪，我觉得我们开始看到一些火花了，它确实开始在自己擅长的领域之间，找到联系了，我相信我们待会会聊到，如果黎曼猜想的解法，本质上是那样的，那在我看来，这和做好白领工作所需的能力，是很不一样的，而且其实有理由相信，那可能就是解法的本质，不知道你听没听过，Hugh Montgomery和Freeman Dyson，在普林斯顿高等研究院的故事，稍微岔开一下，但这故事挺有意思的，大概是在午餐还是什么场合，有一位数论学家，他当时在试图理解，黎曼ζ函数零点对之间的统计相关性，黎曼猜想的核心就是，这些零点是不是全都在一条直线上，他当时在研究一个可以提出的定量问题，然后写出了一个公式，看起来像是1除以正弦平方之类的，物理学家Freeman Dyson一看就说，我认识这个表达式，这个表达式在研究随机厄米矩阵的特征值时会出现，而这东西又是在研究原子核能级时用到的，这两件看似毫不相干的事儿，统计规律居然一样，这就引出了一个探索方向，随机矩阵理论里，是不是有些东西跟黎曼ζ函数有关，我觉得这到底能不能解除果实，目前还没有定论，但这种把两个不同领域，连接起来的方式，如果黎曼猜想的最终解法，恰好就是把这种思路，再往前推一步，那就很符合你对大语言模型，擅长数学的那种期待，他们既是量子物理的专家，又是解析数论的专家，应该能看出那种相似性，不需要像蒙哥马利和戴森那样，非得凑巧一起吃午饭，碰巧聊到那个话题才行，但这跟白领工作完全是两码事，对吧，你可能会觉得很难用AI来当编辑，原因并不在于他什么都懂，只差你帮他找到那个闪电式的连接点，另一种可能性是，该怎么类比呢，也许可以想想费马大定理，从费马提出这个问题，到最终解法呈现出来的样子，这中间的过程，最终的解法用到了数学里极其庞大的理论工具，这个问题的美妙之处就在于，它的表述可以非常简单，你问的是X的N次方加Y的N次方，等于Z的N次方，当n大于30有没有整数解，你可能会觉得应该有一种，初等数论的方法来解决它，但就我们目前所知，就是没有，而实际的解法，也许存在更简单的，但这可能就是它必须有的样子，那是一套极其复杂的思想体系，建立在围绕椭圆曲线，长达几个世纪的研究之上，然后还有另一座思想的大山，围绕着这些叫模形式的东西，你得先把这两座大山都建起来，才能提出那个，能把它们连接起来的正确问题，所以如果黎曼猜想的解法，需要建起一座新的大山，那这种能力，也就是提出正确新想法的能力，跟他们现在所展现的那种智能特质，感觉是完全不同的，这跟你雇一个视频剪辑师，所需要的能力，并不是一回事，但是如果他真的有能力，去构建理论的大山，也就是那种能结晶出，我们该如何思考一个学科的，正确新理论，那这种智能水平就太高了，到那时候，如果这种能力没有渗透到，数学理论构建之外的，其他经济领域，反而会让人觉得奇怪了。 [00:02:15]
Dwarkesh Patel：或者至少说，就算他不能真的做到白领，能做的每一件事，他也会带来变革性的影响，就像在IMO拿金牌，并没有给世界带来变革性影响一样，首先我得承认，我完全是在移动球门，因为两三年前，我采访Dario的时候，我问过这个问题，为什么他们不能用海量的知识，把不同想法连接起来，从而做出新发现，这种事看起来就是，哪怕一个智力中等的人，知道这么多信息，也能做到比如从某种药，会导致偏头痛，另一种东西有什么作用，推断出也许同一种药，能同时治这两种病，从而做出医学诊断，是啊，我也说不好，从外行的角度看，数学显然是一个，能找到这种例子的领域，比如找到单位距离问题，猜想的反例，就是这类事情，所以这完全是移动球门，但我们可以接着问，好，下一个基准是什么，既然AI已经能做到这件，我们早该想到他们能做到的事，那下一件会让人非常印象深刻的事是什么，这里有几个候选方向，一个是能首先提出有趣的问题，另一个是能提出新的对象或概念化方式，从而创建或统一某个领域，关于第一个方向，我们现在训练这些模型的方式是，我们有这些千禧年大奖难题，因为数学家们注意到，比如黎曼提出了黎曼ζ函数这个概念，因为他认为他跟素数的密度有某种联系，或者说这个函数的零点跟素数有某种联系，那么我们一开始为什么会认为这是个值得研究的东西，我们为什么要构建这个对象，试图回答关于它的问题，尤其是回答这个特定的问题，这看起来像是会成为下一个基准的那种事情，你举的这两个例子都挺好的，对单位距离猜想感兴趣的人。 [00:07:50]
Grant Sanderson：有一个叫Polylog的数学频道，做了一个很不错的视频，讲这个，这些讨论会让人们，反思做数学的过程，对吧，大家会想，这个东西能做这么厉害的事，这对我们意味着什么，他引用了这么一句话，好的数学家，证明定理，伟大的数学家，提出猜想，而最伟大的数学家，创造定义，这基本上就是你刚才说的，那两层，我们需要猜想生成器。 [00:09:33]
从基准到加罗瓦理论
Grant Sanderson：然后是定义生成器，那是最高级别的数学家，我不太明白，你怎么把它做成一个基准，因为通常我想到，基准这个词的时候，想的是那种，有明确球门的东西，球要么进了，要么没进，你可以清楚地说，对这事做成了，这一方面是为了能做，RLVR这类事情，另一方面是为了能知道，自己在回答问题时，没有移动球门，OpenAI可以拿证伪单位，距离猜想当标题，因为这是一个，清晰明确的结果，就是做到了，对吧，但想象一下，你要拿什么当标题，对，GPT5.4提出了一个非常好的猜想，对吧，我们保证大家都觉得这是个好猜想，但听起来就是不一样，不过这也许并不否定，这确实是我们应该思考的方向，所以如果它真的以基准的形式出现，并且我们有一个分数说，它通过了这个基准，因为我们可以量化一个猜想有多好，我会很惊讶，但更可能的情况是，你会感觉到数学家们在讨论，跟它协作有多大用处时，语气发生了变化，你提到那个系列，目前还没做出来，可能还要几个月，它的形式是我们采访很多数学家，有意思的是，我们一年多前就开始做这件事了，看到他们在2025年年中，到现在2026年之间，谈论AI的语气，发生了一点变化，挺有意思的，在现实世界里，这是很短的时间，在AI世界里，这就像过了好几个纪元，对吧，在这些纪元里，我们能看到这种语气的变化，我觉得衡量猜想，生成能力的方式会更主观，就体现在这种语气变化上，数学家们会说，他们不只是用它来解决问题，而是在退一步决定自己的研究方向，应该是什么的时候，跟某个模型的对话。 [00:10:01]
Dwarkesh Patel：确实对他们有帮助，我不太觉得你会看到那种形式的标题，说又一个基准被攻克了，对所以这很有意思，那些你没法做成基准测试的东西，至少在现有范式下，也是你很难直接训练的东西，对吧，因为基准测试和训练环境之间，其实没有本质区别，我觉得很容易就会陷入一种二分法，说你看，AI做不了这件事，深层原因是这个，然后过不了多久就发现，只是你想的方式不对，其实很快就能做到了，我接下来就要试着提几个，你反正还是会提几个的，我觉得这件事，很可能在相对线性的时间尺度上，我们也能找到训练AI，去做这类事情的方法，但看起来它肯定跟现在的，ROVR训练不一样，我很好奇的一点，也是在我看来，推动数学乃至整个科学，取得重大进展的核心驱动力，是提出一种思考问题的新方式，或者一种理解世界的新方式，然后它能统一不同领域，催生全新的领域，解决那些我们一开始，甚至没意识到需要解决的问题，比如爱因斯坦研究广义相对论，不是因为他想解释光，为什么会弯曲，或者黑洞为什么会存在，这些现象他一开始，甚至都不知道需要被解释，但在数学里，从我这个完全外行的角度看，我连自己在说什么的细节，都不太清楚，从外面看，似乎经常有这种情况，证明一个具体问题，有的能催生新的概念化方式，进而产生一个全新的领域，一套全新的思维方式，极其高产，有的则不能，我很好奇想听你聊聊，比如加罗瓦搞出了群论，他证明五次多项式，没有根式解的方式，跟阿贝尔早几年，给出的另一个证明就不一样，阿贝尔那个证明，并没有引出群论，但如果你要对群论，是不是个有趣的概念，做一个验证循环，就是问这里做成了什么有用的事吗，为什么这个证明更好，这个验证循环可能要100年，它涉及后来密码学的出现，物理学的进展，群论的思想在其中发挥作用，理解物理学中的对称性等等，这本身就是一个长达100年的验证循环，去验证这个概念到底为什么有生产力。 [00:11:44]
Grant Sanderson：哇恩你戳到我的点了，因为我2022年本来打算做一个关于加罗瓦的项目，后来搁置了，但我花了大概一年的时间，大量思考他做的东西，所以我有可能一不小心，在细节上讲太久，你得拉住我，这确实是个完美的例子，因为要描述为什么，那是一个有价值的洞见，并不来自及时效用，所以如果你在考虑RLVR环境，那肯定就是好吧，这真的很难做，但有意思的是，即使是当时的人类验证者，也花了非常长的时间，才认识到它的价值，我觉得爱因斯坦的广义相对论，人们多少能感觉到，你能感觉到，这理论一出来就让人觉得是个好理论，而让加罗瓦理论成为如此有趣的例子的地方在于，你确实有着整整一百年的时间，一个想法流经许多不同人的头脑，最后才沉淀成数学界公认的好东西，所以稍微往回退一点，你需要我讲一下这个问题的背景吗，我们在学校都学过二次方程求根公式，我还以为你要说我们在学校都学过群论，我们都学过群论二次方程求根公式，这个公式在某种意义上，很早就知道了，比如古希腊人，就能解二次方程，但他们不太用代数来写，所以真正写下那个公式的，其实是阿拉伯人，还有一个很有趣的故事，关于几个意大利数学家，互相决斗，不是真的决斗，就是那种智力挑战，他们有人偷偷找到了，三次方程的求根公式，然后没过多久，又找到了四次多项式的公式，所以对当时的数学家来说，一个自然的开放问题就是，你能找到解五次方程的公式吗，那个四次的公式已经非常庞大了，写出来会很夸张，通常你不会完整写出来，而是拆成一个过程性的步骤，所以你可能会觉得，这些东西的复杂度是指数级增长的，于是好几百年里，没有人真正回答这个问题，通常我们说阿贝尔是第一个证明他的人，他是个年轻的早会的挪威数学家，他证明了这根本不可能，不是说你能找到一个五次公式，他一度以为自己找到了，但他证明了这是不可能的，不过我觉得真正的功劳，你得往回退一点，谈谈拉格朗日，拉格朗日找到了关于这个问题的正确提问方式，我可以展开讲细节，但先给一个非常高层的概括，他在研究这个问题时认识到，能不能解这些多项式，其实跟理解某些代数表达式的对称性非常相关，就是对称性多还是少的问题，比如我写下A加B加C加D，只是四个变量相加，如果我把它们重新排列，表达式的值不会变，但如果写A加B乘以C加D，有些排列不会改变它，但有些会，它有一个非常非常棒的洞察，如果你能找到像这样的表达式，有四个自由变量，但所有排列只产生三个不同的值，这跟把四次方程降次到三次方程之间，有一种意想不到的关系，于是他开始研究，我们能不能找到五次多项式的公式，这个问题，他的思路是，我想知道我能不能把这个方法推广，要推广这个方法，你就得找到一个，有五个自由变量的表达式，使得当你用所有五的阶层种排列，去变换它时，它只取四个或更少的值，这简直可以放进谜题书里，可以变成一个12岁孩子，都能玩的脑筋急转弯，而且你很容易就会觉得，这好像是个不可能完成的任务，所以拉格朗日就在那儿琢磨，这是我尝试解决，这个问题的一个策略，我能找到五次多项式的公式吗，这个策略行不通，至少从这个策略来看，似乎是不可能的，但那是历史上第一次，人们凭直觉感到，某种关于对称性的问题，是研究这些多项式的正确方向，在他当时看来，这只是一个方法，人们还没发现，其实两者之间有更紧密的联系，而且，也许我们不该去寻找公式，而是应该问一个相反的问题，你能证明它是不可能的吗，所以他算是拨下了这颗种子，大概50年后，阿贝尔肯定读过拉格朗日的著作，并受到了影响，加罗瓦，我们知道他爱上数学的时候，就非常喜欢拉格朗日，所以很难想象，这两位年轻的天才，他们俩都围绕那个问题，得出了非常相似的洞见，这并非完全凭空出自拉格朗日，但回到你的问题，关于我们能否验证，这是个好想法，拉格朗日并没有得出什么具体结果，他从来没有解决那个问题，所以我们也就无从知道，那是不是一个正确的问题，他只是提出了问题，这里面有一些内在的趣味，这在当时对数学来说，也不是很重要，大多数人对物理应用更感兴趣，这几乎算是一个旁支，近乎一种娱乐性质的爱好，比如阿贝尔，他开始研究五次方程的东西，但后来有人建议他，把更多精力放在研究椭圆函数上，所以他更多的成果，是在那方面之后，他就英年早逝了，他26岁死于肺结核，然后是加罗瓦，他把这两方面的想法，都朝着正确的方向推进了，他真正理解了抽象的本质，他在监狱里，写了一篇非常精彩的文章，我们可以好好聊聊，他的人生故事，相当疯狂，但他当时就是个青少年，在监狱里，他之前试着提交数学论文，但被拒了，所以这又回到了，可验证奖励的问题，当时作为验证器的学术界，拒绝了他写的东西，因为坦率地说，那篇文章写的不怎么连贯，它不是一个完整的证明，它并没有清晰地阐述，它的理论到底是什么，它只是一个，予以未封的年轻数学家，还在摸索阶段，所以当时的可验证奖励就是，不行，但他有一种直觉，觉得这里没有东西，于是他写了一篇，慷慨激昂的长文，论述数学的本质，会随着时间经历变迁，他谈到了代数本身的出现，以及人们从仅仅思考数字，到能够纯熟地处理，纯粹的代数表达式，而不必拘泥于，解释这些表达式的转变，他有一种直觉，认为我们应该进入，另一个抽象层次，不是去思考公式本身，而是去思考这些公式背后潜藏的对称性，但这仍然是一个非常不明确的理论，所以如果你想问，他得到的可验证奖励，是不是解决了别人没解决的问题，情况是阿贝尔证明了五次方程无解，那你会问，加罗瓦做了什么，原则上加罗瓦理论能让你做的是。 [00:13:50]
抽象对象与阐述性问题
Grant Sanderson：给定一个具体的多项式，它会给你一套规则，来判断这个特定的多项式，是否有你能写出来的根，比如X的五次方解一，你知道一个解是一，或者X的五次方减二，你可以写出二的五次方根，所以并不是每个五次多项式，你都写不出解，但你能不能找到一个具体的多项式，并证明你无法用根式写出它的解，他连这个也没有确切解决，他做的东西要抽象的多，他没有给出一个具体的例子，来证明他做不到，所以甚至要描述他解决了什么问题，都非常棘手，然后他就去世了，这是一个非常浪漫的故事，他有一场决斗，我们可以深入聊聊，有很多传说，比如据说他在决斗前一晚，写下了所有想法，实际上他是之前一直在试图发表他们，研究五次方程，似乎对健康不利，对身体非常不好，对对对，如果你是个年轻天才，千万别碰五次多项试，后来他拜托他弟弟和一位密友，说把这些笔记交给高斯，交给当时最重要的数学家们，因为我觉得这里面有东西，但即便如此，这些想法当时也没真正传开，他弟弟和那位朋友确实努力去传播了，但过了差不多20年，刘威尔才看到这些笔迹，觉得里面可能有点东西，然后试着去整理，去理解加罗瓦到底想说什么，再之后又过了大概20年，若尔当才真正整理出一套，接近现代群论的体系，并归功于加罗瓦，你完全可以想象历史走向另一种可能，这些想法其实也在，数学的其他分支里慢慢浮现，如果加罗瓦这个人没那么戏剧性，他可能就被历史遗忘了，但从拉格朗日隐约，觉得根的对称性可能是正确方向，到最终形成现代群论的样子，这中间跨度太长了，很多时候这些想法，甚至通不过人类评审那种可验证，奖励对吧因为稿子，送到某人桌上对方说我不太确定，这里面有没有东西再送到另一个人，桌上还是没反应，必须得有一个人能识别出它的价值，而且即便到了那一步，当时也还解决不了什么实际问题，你可能会提到密码学物理学之类的，应用那得等到20世纪，盖尔曼才会去想，也许理解某些群如何分解，跟粒子有什么构成之间，存在某种关系，它纯粹基于群论问题，就预言了夸克的存在，群论最有趣的应用之一，就是连预言夸克存在这件事，本身都是一个群论问题，这离拉格朗日那会儿，已经过去太久了，才出现这样的东西，所以你必须问，如果不以解决问题为标准，衡量进步的方式是什么，这得能捕捉到加罗瓦，脑子里那种直觉，他说我觉得这里面有东西，识那是什么直觉，拉格朗日说，我觉得这才是正确的思考方式识，那是什么直觉，刘威尔看到这个死去多年的年轻人，留下的零散笔记觉得恩，这些可能有点东西识，那又是什么直觉，这太难说清楚了，不过我最近在做另一系列视频，讲的是压缩剂智能这个想法，虽然我切入的角度不太一样，但确实有道理，表达越简洁，预测力越强，就越让人觉得智能，所以我在想，能不能设计某种可验证奖励，不只看你有没有解出来，或者解出来有什么用，而是看你做到这件事所需的概念，有多简洁，回到黎曼猜想的解法，如果AI解出来了，会是什么样，我觉得第三种可能的方式，就是它纯粹靠更努力的硬算，就像费马大定理，也许可以有一个初等证明，但得写几千页，根本没法读，而更优雅的方式，是用椭圆曲线那套理论，也许黎曼猜想，也会有一个几千页的证明，但没人能从中真正学到什么，你真正想要的是那些想法的简洁压缩版本，能让人理解，我不知道，也许用科尔摩格洛夫复杂度，把它放进你量化优雅的尝试里，但我觉得这不容易，不过我也觉得你必须这么做，才能奖励那种加罗瓦式的直觉，而不是只奖励你有没有解出问题，要给科学找一个启发式标准，确实非常难，但很明显，人类一直在以某种方式做这件事，而且显然AI迟早也会做到，这不仅跟可验证奖励有关，还因为最终目标大概是理解，是人类的理解，所以就算你真的有了一个，几千页的数学证明，或者一套宏大的新物理理论，目标还是理解，如果目标只是预测能力，那你大可以让自动化工程师，去造火箭飞船什么的，我们完全不知道这些东西怎么工作，但能心计旅行就行，但会有很多人想要理解，你仍然需要某种简洁性函数，能把复杂的思考方式，蒸馏成正确的那一个，就像牛顿的万有引力定律那样，你仍然会想训练AI去做这件事。 [00:20:01]
Dwarkesh Patel：去找到压缩后的表达，所以大家特别担心数学这个领域，怕AI证明了黎曼猜想，但我们对数学的理解一点没加深，我有几个问题，第一，这种事真的该担心吗，人类在攻克大问题时，之所以会提出通用的自然对象，子目标之类的东西，不就是因为这些东西，在处理复杂重要的问题时，确实有用吗，所以从理论上想，直接提出与问题相关的自然抽象，来解黎曼猜想，难道不比绕开这些更简单，第二，从经验上看，现在AI在问题上取得进展时，我们观察到的是这样吗，AI找到单位距离猜想，那个反例的时候，你可以直接读它的chainofthought，我看不懂，因为我不懂数学，但在其他数学家看来，它是可理解的，他用的是已知的数学概念，用自然语言证明了他们之间的关系，结果反而加速了，我们对这个对象和猜想之间，联系的理解，所以从经验上看，这事真的值得担心吗，我觉得要看情况，对，再回到解黎曼猜想的三种可能方式。 [00:24:39]
Grant Sanderson：第一种，还有今年另一个大的，是某个编号1196的埃尔德什问题，但这是个很小的想法，形式是某个领域的专长，加另一个领域的专长，在两者之间画一道闪电式连接，这种人类很容易理解，对吧，因为你只需要展示这些连接的起点和终点就行了，如果进展的性质是理论体系构建，那你就得花更多时间去理解那座新建起来的大山，因为它是一条新线索，不只是两点之间的闪电式连接，而如果进展的性质只是纯粹的蛮力，就是那种超长的东西，没有新理论，只是一条很长很长的推理链，那就会出现那种情况，就是好吧，需要一整个消化过程，所以我不觉得有一个明确的答案，我觉得要看解出来是什么样子，在理论体系构建这边，我其实很想知道，它默认会是非常人类可理解的，就像我们看到伟大数学家提出新理论那样，还是会像一座异类的大山，我们甚至需要重新处理我们惯用的那套抽象，最接近的例子大概是ABC猜想，那个常识性证明，我们也许不该深入这个，它很可能不是一个正确的证明，但基本上它是一套全新的思维方式，由日本那位，本来生育很好的数学家，提出来的，数学家们花了非常长的时间，才勉强弄懂他在说什么，但他给人的感觉，就是一块异类的数学，是理论构建，不只是一条长推理念，他管它叫什么，宇宙记记和之类的，所以你会担心的是，对会不会就是那样，最大的恐惧是，他搞出那种东西，然后就像ABC猜想一样，大家花好几年爬那座山，最后说，这根本不对，对吧，如果他最后是错的，但看起来又特别像对的，就算他是对的，爬一座新山也要费很大力气，如果我们真的走到那一步。 [00:25:47]
Dwarkesh Patel：DavidBassett写过一篇很棒的播客，叫定理经济的衰落，他在里面谈到，历史上就像你说的，数学是提出定义和问题，然后去证明关于他们的定理，而定理证明这部分，其实拿走了所有的功劳，但它本质上寄生在提出定义这件事上，历史上这在功劳分配上不是问题，因为如果你提出了定义，你大概率也会是那个证明定理的人，但现在的情况是，如果有价值的工作是提出洞见，然后AI只是自动化了后半部分，那么想象一个场景，IA对世界上很多重要猜想，给出了类似阿巴式的直接论证，然后我们就有了这些证明，接下来就轮到人类或者未来的AI去整合它们，我确信再次强调，我对这些论证本身没有任何实质理解，但我确信如果你能接触到它，会让你更容易去思考这里到底发生了什么，有没有更深层的方式去理解这个证明为什么成立，从而更容易提出群论背后的那些想法，对我觉得这会有巨大的帮助。 [00:27:32]
Grant Sanderson：因为你看探索新数学的很大一部分工作，就是大部分时候都在犯错，你在尝试解决一个问题，这个过程感觉不像是持续的往山上迈出正确的一步，更多时候感觉像是一次随机的醉汉漫步，你在做一件事，然后发现哦错了，然后不断的发现错误，所以如果你至少知道，你正在努力消化的东西，最终通向一个正确的解，那感觉就像是在进步，仅仅因为它提供了一种，知道这条路能通向答案的感觉，在近代数学史上，有很多这样的例子，感觉像是我们的触及范围，超过了我们的理解能力，有些东西在被理解之前，很久就已经被证明了，我最喜欢的一篇论文开头之一，它甚至不是一篇研究论文，更像是一篇阐述性的文章，来自一位叫TimothyChow的数学家，他当时试图理解一个叫forcing的概念，有一个叫连续筒架设的问题，他大致是在问，自然数有一个无穷大的尺寸，实数也有一个无穷大的尺寸，那中间有没有别的尺寸，答案是既是也不是，这取决于你的公理体系，它有点超出了我们常用公理系统的范围，这是个有趣的答案，但用来描述它的方法真的非常非常难懂，就是这个叫forcing的东西，在这篇论文的开头，他写道，我想每个人都知道，未解决的研究问题这个概念，但我想提出一个，未解决的阐述性问题，就是说没错，我们证明了它。 [00:28:38]
证明解释与自主智能体
Grant Sanderson：但我们并不真正知道，它为什么是对的，然后他提出了那个，阐述性问题的一个部分解，你可以想象，我为什么爱死这个提法了，因为这就是我生活的全部，我不做数学研究，我的工作完完全全就是关于，即使一个东西已经被证明了，什么才是理解它最清晰的方式，证明和解释之间，是有区别的，所以在这一点上，我觉得你基本上触及了，这个区别的重要性，而这会成为主要的激励，或者说激励方式必须改变，不仅在数学领域。 [00:30:00]
Dwarkesh Patel：在其他科学领域也一样，从证明关于世界的事情，转变为把证明整合成问题，或更高层次的洞见，当我们之前吃午饭时，聊到你最近做的一个，关于设计的演讲，以及设计如何帮助我们理解事物，那么推到极限，一个想法的概念化，和这个想法本身，真的有区别吗，比如想想狭义相对论和时空图，这就像是一种，我们用来阐释长度收缩，和时间膨胀，为什么会发生的方式，但这是否就是现实本身。
Grant Sanderson：所以阐述在某种意义上，似乎就是解释本身，这里面有几个有意思的点，一个是那些能提出，真正新颖动见的人，往往在表达上也特别清晰，这两者之间有很强的关联，你可能会觉得，大学生的经历往往是，教他们的专家，未必是那个话题最好的讲解者，因为他们被自己的专业知识，给惯坏了，但至少在某些情况下，真正搞出全新东西的人，比如爱因斯坦，或者克劳德香农，你去读他们的论文，会发现写得非常清晰，不会让人觉得，这只是写给专家看的，你得拿把砍刀才能劈开，他们都是非常优秀的阐释者，费曼也有这个特点，非常优秀的阐释者，所以也许大脑里负责在研究层面，想出正确新思路的那个部分，同时也擅长做好解释，我觉得这和AI也有关，我们习惯性的认为，AI会成为自动定理证明器，而数学家的角色会转向我这种工作，去解释这些东西，但我有点怀疑，实际上AI也会很擅长做这个，而且很可能在解释和提炼这方面，做得比大多数人都好，这其实并不是留给数学家的事，去消化和解释发生了什么，很可能事情的发展方向就是这样，我能想象，我们也可以聊聊这为什么可能不对，但很可能，那个能想出解决新问题的，绝妙新点子的东西，同样也擅长解释它，对这是我最近想法的一个转变，你觉得你最后会做什么，或者说你还有整个数学界，人类数学界会做什么，我大概会一直做我现在做的事，直到死哪怕，如果末日论者是对的，那可能也一样，没错，因为原因是一样的，对，你知道，有句话是，给人一堆火，它能暖和一夜，把人点着了，它这辈子都暖和，我对AI的看法就是这样，开玩笑的，因为解释者，或老师的一部分功能，是给人们好奇的东西，增加清晰度，这是一方面，但另一部分，更多是关系性的，更多是提供动力，提供一种策展感，我听过一个，很有意思的说法，就是数学家，最终会变得更像是，美术馆的策展人，AI解决了问题，所以艺术品已经存在了，对吧，他们甚至知道，怎么解释的特别好，就在那里，但你仍然需要有人帮你，在这个近乎无限的空间里导航，告诉你哪些想法值得投入，有人来做这件事，而这一点，即使AI在某种意义上做得更好，我觉得我们永远会更喜欢一个，和我们有关系的人，因为我们被激发兴趣的方式，是一种社会现象，如果你是想开发某种特定的技术，那可能不一样，你需要知道那个，但我觉得听这个播客的人，他们信任你对什么是有趣话题的策展，他们来这里并不是因为你的下一个话题，是他们本来就想去了解的，他们信任你作为策展人，所以我的角色，甚至可以说其他数学家的角色，可能真的会微妙的转向那个策展方向，去判断哪些想法值得展示，这其实已经是我现在工作的很大一部分了，我觉得人们常常以为，做视频的大部分时间花在视觉上，当然是花了一点，但不是立刻就能做好的，但实际上很大一部分时间，是在决定什么，值得说什么，值得放进去，因为这就是我想投入的事，而且我觉得，我和某些人建立了信任，他们好奇，我会选择把什么推出来，即使AI做得更好，就像人类音乐家，永远会有一席之地，因为他们背后，有那种社会功能的故事，即使从模型出来的，MP3文件的客观质量更好，我大概就是这么看，我的工作前景的，我想回到之前那个问题。 [00:31:09]
Dwarkesh Patel：我们之前聊到，AI刚刚跨过了一个门槛，一个重要的基准，就是能把现有的想法连接起来，做出新发现或者证明，证为某个东西。 [00:34:39]
Grant Sanderson：就在他刚跨过这个门槛的时候，我们就在问，好吧，那下一步是什么，我想，顺便说一句，那个门槛还有很多事要做，不是说打了几道闪电就完了，我仍然觉得。
Dwarkesh Patel：未来几年会有一个，真正把东西连接起来的繁荣未来，所以推到极致，你甚至可以说，我不确定这么说准不准确，但可能很多最重大的突破，在某种程度上都是这样，就像广义相对论，不就是把黎曼几何，和狭义相对论连接起来吗，对吧，所以随着AI在这类连接能力上，越来越强，也许很多重大突破，在本质上并没有那么不同，不知道你怎么看，我们之前聊的很多。 [00:35:03]
Grant Sanderson：都集中在解题和数学的那一面，比如功课爱尔德什问题之类的，要我说可能连大部分数学家，都不会把自己的工作，描述成瞄准下一个要攻克的难题，你了解朗兰兹纲领吗，嗯，好，它甚至不太像一个数学分支，更像一种研究精神，费马大定理就是其中一个苗头，你有两个看起来毫不相关的东西，找到它们之间的联系，就导向了解决方案，朗兰兹是位数学家，他有一封现在很有名的信，基本上就是在阐述，似乎很可能还有更多这样的联系，他甚至把联系的性质，说得更具体了一些，让你可以想象一张大地图，这边有个山谷，那边有座山，那边有一片平原，很多数学家会把自己的工作描述成，试图理解这张地图上的脉络，这方面的进展，甚至不是这里有个具体问题，我们知道通过那个联系就能解决，而是因为历史上一次又一次，重大难题都是靠找到联系才攻克的，所以大家几乎是抢先去找这些联系，所以这其实很有意思，你以后碰到数学家，可以问问他们，自己工作的性质是更像朗兰兹纲领，还是更像瞄准某一个具体问题，你会得到一种很明显的两派分化，但AI成为超级连接器的可能性，感觉会是这方面探索的一个放大工具，不过这很难衡量，对吧，这又回到我们之前说的，你怎么打分说，对你做到了，如果是功课一个难题，你有明确的方式说，做到了，你可以写头条，AI公司可以发公关稿，说我们做到了，但如果只是感觉这个联系找对了，你可以围绕它写定理，这也是那个领域论文的样子，但我觉得这需要更多人类参与其中，来判断这到底是不是我们想要的那种联系，不过我猜未来五年这些模型最有用的进展，大部分会是这种真正填满那种，只有跨领域专家才能画出的联系版图，就像你指出的，我们居然还没做到这一点，这本身就有点意外，我很好奇从技术层面看，到底是什么导致了这种解锁，因为一方面你可以在脑子里解释，为什么一个人可以是所有这些领域的专家，却画不出那些联系，那就是当推理的方式，是这种自回归的chainofthought现象时，自回归其实是一种非常非常奇怪的铲除方式，你仔细想想的话，你是个聪明人，想象我把你锁在一个盒子里，你与外界互动的唯一方式，就是收到一张纸条，然后有人说，你能预测接下来会出现什么吗，你预测了接下来会出现什么，然后你的记忆被清空，然后你又收到另一张纸条，想象这个过程重复很多很多次，最后出来东西，别人说看看你写的这篇文章，你可能会看着他说，这太糟糕了，这不是我会写出的文章，因为反复预测下一个东西的过程，跟你作为写作者，去构思去推敲的方式是完全不同的，尤其是你很可能会被你的上下文所奴役，你可能在回答某个特定领域的问题，于是你调用了周围所有的上下文，一路往下走，而真正有实质内容的那个连接，本质上恰恰是一个非常不可能出现的连接，你可以做各种强化学习，想方设法去提升，但到底是什么在专门加权激励模型，去建立那些不太可能出现的联系，毕竟绝大多数这类联系，都不是那种可预测的下一个token，所以情况可能是，你确实有智能，但它被锁在那个盒子里，只是交互方式很别扭，我好奇的是，能不能偶尔去质疑一下token生成的前提，从中找到一些突破，我觉得这不会像调温度参数那么简单，但有没有什么办法，能利用现有的智能水平，找到合适的方式去激发那些联系，从而解锁我们看到的这些东西，还是说你只需要再多一点点智能，让它在预测层面就能预判出，应该建立那种闪电式的跨领域连接。
Dwarkesh Patel：我觉得与其从架构，甚至损失函数的角度去推理，不如从数据的角度去想，我们有扩散模型也能生成文本，他们产出的东西在性质上并没有本质不同，只是大家探索的还不够，我觉得更相关的问题是，不管用什么架构，什么损失函数，你喂给他什么样的数据，就会激励他产出什么样的结果，而且看起来他们确实在进步，先不说数学，我们确实有过几个这方面的例子，但如果你只看，为什么他们在自主agent的方面，做得越来越好，我觉得就是他们所处的环境里，自回归的生成，我们先退一步，在整个代码库里搜索一下，这种步骤，然后再退一步。 [00:39:20]
可验证结果与AI探索
Dwarkesh Patel：评估一下我的错误，这就是有效的方法，我猜在科学，或数学进步的例子中，情况是，你有前沿数学难题，这些题是数学家专门设计的，需要把两个不同领域，连接起来才能解，而且我猜有各种巧妙的，部分合成的方法，可以造出越来越难，需要建立这种联系的题目，比如去掉一些假设，但仍然要求AI得出答案，这样一来，损失函数是什么，其实就不重要了，关键在于，你能不能设计出一个环境，来激励这种能力，对，感觉应该是能做到的，我当然说不上来。 [00:40:00]
Grant Sanderson：具体怎么做才能解锁这一切，但如果未来三年没有出现，更多这种闪电式的连接，你不觉得会挺让人意外的吗，我觉得这是一个很重要的思考点，我们常常只关注单个系统有多聪明，却忽略了AI还有其他方面的优势。
Dwarkesh Patel：在这个语境下，他们的关键优势是，我们可以并行化，可以任意扩展他们，这样一来，不管他们的能力处于什么水平，都不再只是数学史上，某个特立独行的天才，建立几个联系，然后在决斗中死去，而是可以普遍的，像水漫过堤坝一样，覆盖所有在能力水平上，可以解决的问题，我觉得这是数字心智，天生具备的众多优势之一，我们对此思考的还不够，其他优势还包括，他们可以融合所有知识，至少未来会有技术实现这一点，你还可以复制出知识水平完全相同的副本，但没错，我觉得这种并行化是一个非常重要的特性，我很好奇，你的预测，即使他们不如数学家聪明，但考虑到AI公司出于公关原因，正在往里砸几十上百亿美元，数量本身就会带来质变。
Grant Sanderson：这个方向感觉是对的，要我说就拿蒙哥马利和戴森，在普林斯顿高等研究院的那次对话来说，那次对话暗示了黎曼猜想，或者说黎曼ζ函数的零点，和随机矩阵之间存在某种联系，这种事感觉就是，你可以尝试去自动化的，你可以让代表各个领域专业知识的agent，基本上就是，我们都知道一个研究院比个人更聪明，把大家聚在同一个地方，就是为了促成那种偶然的对话，那么在agent之间去设计这种偶然对话，会是什么样子，这很有意思，因为你指出了可以汇集所有知识，我其实在想，其中一个优势会不会恰恰相反，就是你可以反着来，有时候一个AI失败，是因为它陷入了一条糟糕的chainofthought，而且很难把它拉出来，对吧，所以我就会干脆重新开始，人也一样，对吧，有时候你开始用某种方式思考一个问题，实际上需要做的只是退一步，也许有时候，这种形式就是，你听过一些故事，有人花很长时间试图证明什么，然后某个时刻他们说等等，如果我试着证明它不可能，或者证明它的反面呢，这种解开你自己的上下文，用全新的思路去处理的方式，你可以想象把这件事系统化，或者故意给多个不同的agent，不同的上下文片段，然后试着去比较和对比，我们没法像那样操控自己的上下文，在这个AI与数学的系列里，我们要做的第一集，会讲他们解决IMO题目的事，我想重点讲一道，他们没做出来的IMO题，这道题很多非常聪明的学生也没做出来，陶哲轩也没做出来，这道题的性质基本上是，大家对这个题非常恼火，管它叫钓鱼题，我几乎不想剧透，因为我想围绕这个来构建这一集，引导观众进入那种，在不知道它其实有个简单解法的情况下的状态，这样就能真正体会到，一个学生解这道题时是什么感觉，基本上基于国际数学奥林匹克竞赛这个背景，有一条非常优雅的路径，让你真的觉得那会是解法，这道题被放在那个位置，解法的特征真的非常诱人，但很难证明它是最优的，原因是它根本就不是，有一个几乎不用动脑的解法，才是最优的，所以这和整个AI故事的关联在于，对人类来说，回答这个问题，需要的是跳出你的上下文，跳出你身处IMO的上下文，跳出你被训练来解决，这类竞赛数学题的上下文，如果你只是把它当成一个脑筋急转弯，随便从街上拉个人来问，他们大概都能答得很好，有时候你在其他领域做人类研究时，也会想要同样的东西，有时候就是需要能够说刷新你的思维，用一个完全不同的方式来切入，所以在数字心智拥有的所有优势中，这也许真的是其中之一，就是更系统化一点，刷新你的思维会是什么样子，试着回答两个分开的问题，分出两个agent，一个试着证明，一个试着证伪，一个用这种方式试，一个用那种方式试，而且他们故意拥有不同的上下文，我很好奇，如果三年后，我们再来聊这个话题，那些登上头条的重要成果里，有多少会带有这种特征，基本上就是，擦除之前的上下文，尝试一堆不同的东西，而不是把一堆不同东西的结果，合并起来。 [00:41:44]
Dwarkesh Patel：我觉得这非常有意思，因为人们对AI的一个普遍担忧，就是上探索，意思是他们思考方式都一样，因为训练方式相似，这就是为什么他们不擅长写作，他们有点像是，总走同一条路，说话模式也类似等等，但是也许AI真正的关键优势在于，你可以系统性的听起来单位距离猜想，花了那么久才被证伪，原因之一就是人们先入为主的，认为这个猜想是真的，所以他们大多是在试图找出证明它的方法，那么也许AI的一个关键优势，恰恰就是通过系统性的尝试否定，和证明任何给定陈述的正面来增加伤，或者说能够系统性的给不同的agent，不同的偏见，说得好，在人类科学史上，有件事似乎很重要，就是爱因斯坦深受这种偏见的驱动，认为事物在不同参考系中，应该看起来一样，他还有很多其他类似的偏见，但这在他的思考中非常关键，而你可以系统性的去考察一堆启发式方法，看看哪些在解决特定问题时是有效的，对，所以你的建议基本上就是，在prompt层面系统性的增加商。 [00:44:59]
Grant Sanderson：尽管在自回归层面，会有这种不可避免的坍缩，对，我觉得爱因斯坦会是个很有意思的例子，因为它既有事物应该是真实的，这种偏好，也有上帝不知骰子这种偏好，对吧，你几乎得确保，别一不小心让你所有的LM，都成了爱因斯坦，因为你可能会在量子力学这里卡住，对，这其实正好说明，对科学来说，不存在唯一正确的启发式方法，你实际上需要的是，多个独立的研究项目，各自带着自己的启发式方法，对，这感觉就像传统的软件，对吧，只要你能以某种方式描述它，你就有传统软件，来以某种方式放大这种伤，如果你能为你想要prompt的，不同思维方式，建立一个清晰的本体论，你去探索整个本体论，然后每一个独立的思维方式，就自己跑去做它该做的事，但我觉得这里有个设计问题，就是你到底该怎么描述这些不同的方法，简单的做法是，你是在试图证明它还是证伪它，更难的做法是，去定义你能用来证明它的所有策略，并确保你在探索时有足够的广度。 [00:46:13]
Dwarkesh Patel：我觉得人们没有意识到，当你给这些模型配备一个好用的工具，比如Cursor，它们能帮你处理多少事情，显然IA在数学上的进展，比其他领域快得多，人们把领域的可验证性当作关键原因，我认为这是两个重要原因之一，但我觉得人们真的忽略了另一个，我在实验室外面，不知道里面到底在发生什么，所以这只是一个非常天真的理论，好吧，问一个跟AI在数学上，进展神速相关的题外话，为什么它在计算机使用方面，进展这么慢，计算机使用其实是非常可验证的，比如我的asset包裹发货了吗，或者我的活动预定好了吗，等等，这些都是极其可验证的事情，计算机使用所缺乏的，是可反复尝试性，因为网站有机器人检测，而且运行并行rollout，需要巨大的算力，你很难在亚马逊的，同一个结账流程上，同时跑1000个并行rollout，因为你会被AndyJassy关掉，对吧，然后他就可以亲自按下，多cash的红色关闭按钮，所以你可以尝试去复刻，每一个网站，这非常耗费人力，会拖慢你的速度，顺便说一句，目前用深度学习，来学习一项技能，之所以需要做这么多，并行rollout，是因为我们还没有解决样本效率的问题，就像JeffBezos说的，用吸管吸取监督信号，当然人们在研究很多不同的技术，但从根本上说这是一个大问题，现实世界中的大多数事情，都很难用同样的方式封装起来，编程和数学是这个规则的例外，但如果你只是想弄清楚，我怎样才能建立一个成功的新业务，我怎样才能在市场上交易，一天并赚到钱，你做不到，因为你必须与现实世界互动，而且事情每天都在变化，这意味着你无法在模拟器里不断重放，反复尝试和训练，但数学当然是例外，我觉得这实际上是推动该领域，以及编程领域进步的一个重要驱动力，它不仅仅是可验证性，还必须是可反复尝试的，人们指出的AI进展迅速的第三个原因，是他们非常关注Lean和形式化，再说一次，我对实验室里在发生什么一无所知，我感觉Lean对于AI目前的进步水平来说，并没有那么重要，或者说为什么AI能够解决单位距离问题，他们抱歉，是通过单位距离问题，证伪了那个猜想，他们发布了ChainofThought，或者至少是ChainofThought的重写版本，里面没有任何Lean的内容，我认为Lean提供的那种，基于过程的监督，也就是你知道每一步都是正确的，似乎不如拥有一个可验证，可反复尝试的结果来得重要，这个观点很有意思。 [00:47:20]
Grant Sanderson：就是说可反复尝试性比形式化更重要。 [00:49:58]
Lean过程监督与写作局限
Grant Sanderson：关于Lean的作用，我试着说说看，表面上看，你可能会觉得，Lean给数学提供了，某种独特的东西，因为它能判断证明，是否正确，有那种老派的软件，可以直接告诉你，对还是错，你把它当成，验证奖励来用，但反过来，支持你观点的是，这样一个事实，早期的尝试，我还是拿IMO来举例，一开始DeepMind，基本上就是，全用Lean来做，但到了第二年，就全换成自然语言了，所以按你的说法，Lean确实不是必须的，不过我觉得形式化这个领域，还有一个尚未被充分探索的好处，那就是目前你仍然需要人来最终审核，比如单位距离猜想的那个反例，还是得有人看过说没问题，这就给无线探索这件事设了个上限，你想想AlphaGoAlphaZero那种模式，他们完全在自己的世界里，不停的自我对弈自我探索，完全可能偏离人类需要关注的任何轨道，但他们始终有那个自动化的可验证的奖励，这不仅仅是说你可以拿它来做强化学习，更关键的是，你基本上永远不用去检查，只管往里砸算力，让他们去探索围棋的宇宙，有意思的地方在于，也许这条路走不通，但我觉得现在还不能下定论，有了Lean，你可以想象一个基本上可以无限运行的程序，它不断地尝试去扩展mathlib，mathlib是一个GitHub仓库，目标是把所有的数学都用代码写出来，当然它离所有数学还差得很远，但他们的愿景就是那样，用代码写成的数学，你可以直接问这个证明，对吗，写这些证明非常费时费力，围绕它已经形成了一个不小的社区，但你可以想象，如果有一个AI，你给它一个简单的指令，去扩展Mathlib，也许你可以从Mathlib分叉一个版本出来，这样就不会有乱七八糟的东西混进去，因为人们对主仓库里该放什么，有自己的品位，你就维护一个纯AI的Mathlib分叉，然后让它跑起来，别停，它不需要任何人去检查，对吧，它可以一直跑下去，它可能会自己提出猜想，自己发展出新的理论和不同的定义，也许其中很多都是没用的，但它就是能长出一棵无限的树，这是数学独有的，其他领域都没有的特性，你可以按下启动键，然后只管往里砸算力，十年后再回来看，问它你有什么成果，它肯定能拿出点东西来，对吧，然后问题就变成了，这些东西有用吗，你怎么筛选出有用的部分，光是能做到这件事本身就很有意思，如果这样都产生不了什么有趣的数学洞见，那才叫奇怪，所以我觉得这才是Lean真正重要的地方，关于Lean在这个故事里的重要性，其实有两个不同的层面，这是第一个层面，基本上就是说你可以像夏维奇一样，完全不用人工检查就能取得进展，维奇可以做到这一点，但我不认为自然语言数学也能做到。 [00:50:00]
Dwarkesh Patel：这非常有意思，你看过Carpathy那个autoresearch的想法吗，他基本上就写了一个Python文件，用来做最基础的LM训练，然后建了个代码仓库，让ILMagent去尝试修改那个文件，如果某个修改能加快训练速度，就保留下来，还有EricZhang，他之前来节目解释过AlphaGo的原理，他在尝试构建一个超强围棋AI的时候，也做过类似的事，他有一些很有意思的观察，比如这种系统特别擅长沿着一条路跑实验，一路走到黑，但他不擅长在死胡同前及时停下，也不擅长做极度并行的探索，不过这些以后可能都会改变，想想这件事发展到极致会是什么样子，真的很有意思，说到底，这不就是人类数学研究这个机制在做的事吗，就像是一个在不断往有趣，有用的方向扩展的图书馆，而且这种方式下，你没有任何基于结果的监督，你没有一个具体的结果目标去激励它，但你有一个过程，你知道每一步都是正确的，你只是不知道。 [00:52:47]
Grant Sanderson：它是不是在朝着一个有趣的方向前进，但话说回来，如果你真这么做，你肯定不想完全跑偏，在逻辑空间里随机游走，你大概会想要一个监督模型，来提供一些启发式的判断，看某个方向有没有用，大概就是这种思路，你知道已经有人在研究这个了，这属于那种，五年后我会很好奇，想找未来的我们来聊聊，看这条路是不是完全走不通，不过陶哲轩提到过一个研究项目，基本上就是穷举搜索所有可能的代数系统，你可以想象给代数系统设定不同的公理，比如我们提出群论的时候，有一套特定的公理体系，看起来像是些随意的规则，除非你了解背后的动机，但本质上如果你把所有可能的公理都试一遍，会不会有哪个能产生有用的东西，绝大多数结果都是垃圾，要么完全坍缩，要么没有任何有趣的结论，但偶尔会出现一座小岛，一套完全不同的公理体系，至少从能推导出的定理数量来看，内容非常丰富，这简直就是自动定理证明器最擅长的事，去探索那个空间，看哪个能结出果实，也许其中一座小岛，事后你能给它赋予动机，说这套结构想刻画的就是这种东西，就像你看到群的公理，一开始不知道它跟对称有关，但事后才意识到，哇这对研究对称太重要了，你可以想象类似的结果，但不只是探索代数系统，而是任何公理的所有可能的逻辑推论，说到能不能在没有Lean的情况下提供过程监督。 [00:53:52]
Dwarkesh Patel：DeepSeek之前推出了他们的DeepSeek数学模型，还发了一篇论文讲怎么训练的，挺有意思的，他们面临的问题是，自然语言证明你没法判断对错，所以他们搞了一个验证器，然后用一个原验证器来训练这个验证器，确保在AOPS这类题目上，验证器给出的反馈是靠谱的，结果它确实有效，这就很有意思了，自然语言验证加上某种原验证，至少在已发表的文献里，看起来是可行的，而且在我们用的产品里，似乎也行得通，比如你看编程agent，他们在写干净代码，重构代码这些方面越来越强，我敢肯定背后有基于过程的，LM当裁判这类机制，在尝试提供品位判断，说嘿，这个函数写的干不干净，有没有重复的模块化形式之类的东西，我觉得这套方法对数学应该也适用，对吧。 [00:55:24]
Grant Sanderson：看起来没什么理由不行，数学比其他任何领域都更有可能，哪怕只用自然语言，你也能信任一个验证器，我们之前聊过，为什么他们在写作上不行，我当时问，为什么不能让他们当裁判，比如给两篇学生写的文章，他们能判断哪篇更准确，更有洞见，那为什么不能用一个验证器来判断，这篇文章写的好不好，也许最终的失败在于，即使他们能区分B级和A级文章，他们其实分不清A级文章，和那种你真正想读的东西，那种在substack上能追下去，有洞见，各方面都好的文章，他们反而会偏好那些毫无洞见的文字，所以回到数学上，问题就在于，单纯判断一个证明对不对这一步，本身就适合用自动验证器来做，哪怕是用自然语言，你大概还是能取得很大进展，但我还是喜欢Land那条逻辑数路线，因为你可以真正的跑偏，不受任何约束，不像以前那样被既有的表述方式限制，就像所有人都在聊AlphaGo的，第37首什么东西，能让你跳出先前的启发式判断，我觉得在探索过程中，刻意与外界保持一定距离，作为自然语言数学研究的一种补充，可能会很有成效，零的另一个意义在于，假设你有一个纯自然语言的，强化学习环境，还有一套纯自然语言的证明，人们说去吧，AI数学家，然后他们每天生成十篇论文，铲除大量东西，但如果错误率，哪怕只有一丁点错误率，AlexKontrovich也谈过这个问题，那对数学家来说就变得无法忍受了，因为你基本上会想，每次我看到这些东西，我都不确定值不值得花时间，即使100篇里有99篇是对的，我甚至不确定值不值得去通读一遍，因为找出那个错误非常费劲，而且如果最后发现，你花的所有时间都耗在一篇垃圾论文上，那真的非常令人沮丧，所以如果有任何东西，能给你一个绿色的对勾，告诉你即使这个东西理解起来很复杂，即使读起来很痛苦，但你至少知道它是正确的，其他任何领域都会求之不得，对吧，而数学就有这个，如果模型也能把他们的自然语言证明给形式化，那就更好了，所以Ling作为推动数学整体进步的验证环境，它的重要性可能被高估了，但我绝对不会把它从故事里完全抹掉。 [00:56:14]
Dwarkesh Patel：对，我也很喜欢把MathLove这个项目延伸成一个隐喻，用来形容我们文明很快就要面临的事情，哦当然，对吧，几千年来，人类一直在构建这个知识体系，积累理解和一切，现在都浓缩到了这些模型里，而在某个时刻，模型会任意的扩展它，顺便说一句，在写作这方面，我其实有个理论，解释为什么写作的进展，比其他领域慢，我觉得其中一个原因，就是你刚才说的，他们不擅长评判，不只是A和B的比较，而是会被B型号完全带偏，B型号就是那种烂文章，但它触发了所有A类文章，该有的表面特征，然后奖励破解就完全失控了，但我认为另一个重要原因是，写作不像代码和数学那样，是模块化的，你可以用很多不同的方式，写一个函数，它们基本上做同样的事，当然你希望它非常干净，但归根结底能用就行，数学里的引力也是一样，然后你可以有一个最终产品，它和产出它的方式是不同的，代码是产出最终产品的东西，你要的是一个能用的最终产品，而写作呢，最终产品就是AI直接产出的那个东西，每个段落，句子，词语都很重要，因为那就是实质内容本身，它不像写作之外，独立产出的某个东西，所以它不能是垃圾。 [00:58:34]
Grant Sanderson：代码可以是垃圾，但仍然能产出你想要的结果，但写作不行，但你刚才也指出。 [00:59:54]
AI写作学习与理解体验
Grant Sanderson：我们其实在让agent的写出，不仅能用，而且干净的代码方面进步很大，为什么这种从能用进步到干净。 [01:00:00]
Dwarkesh Patel：到可以合并的PR的能力，没有同样带来更清晰的写作呢，对这点问得好，不过话说回来，真的没有吗，我同意他们在很多方面是很糟糕的作者，但对于我阅读的很多内容，我发现直接复制粘贴到一个LM里，然后说给我解释一下，效果更好，解释会比人类写出来的东西更好，所以这很有趣，我们一边说他们是糟糕的作者，一边我的实际偏好又是，能不能直接让ILM解释给我听，即使我在跟一个人类专家，实时通话，如果那是只有他知道，没有编码在训练数据分布里的知识，我希望他解释给我听，但如果为了理解那个，我需要先理解一个更基础的概念，我宁愿如果社交上允许的话，直接说我们先停一下，我去问一下ILM这是怎么回事，然后我们再回到你独有的那部分知识上，这听起来不就是征流吗。
Grant Sanderson：解释本身就是一种征流，所以如果我在衡量你作为随笔作者的水平，比如给你一本书读，然后让你写一份读书报告，那我可能会觉得，好吧，LM给我的读书报告也许更好，但我觉得，当人们说他写作不行的时候，他们真正想说的是，写作到底是什么，他不只是对已有想法的争流，也不只是如何清晰的解释，因为他们其实很擅长解释，写作的关键在于洞察力是什么，而这正是问题所在，自回归这种生成方式非常奇怪，因为当你写作时，你隐约知道，要写出好东西，就必须包含某种不可预测的元素，这不像是在脑子里调高温度参数那么简单，而是你要确切的知道，在哪个正确的节点，做出一个不可预测的举动，那才是更有洞察力的地方，所以即使他更擅长解释已有的东西，但最初产生那本，你想要蒸馏的书的东西又是什么呢，那本书不是LM生成的，然后你只需要它，那是某个作者，通过对世界上各种想法的广泛探索，然后决定哪些方面是有趣的，以及哪种呈现方式能构成连贯，动机清晰的叙事，他们以某种方式把这一切组合起来，而且如果他们是好作者，你很可能宁愿去读他们的原著，而不是蒸馏版，所以究竟是什么让探索本身变得有价值，让你愿意把内容上传上去，我觉得当人们说他们写作不行时，指的正是这一面，就是那种不可预测性，那种刻意选择新颖。 [01:01:00]
Dwarkesh Patel：与常规生产方式，直接矛盾的东西的能力，对说得好，我觉得他们在构建，关于人的真正好的，心智模型方面也特别差，而这在写作中，是一项非常重要的技能，AnnieMatusha和另一位合作者，我一时想不起名字了，他们做了一份很有意思的报告，尝试教LM，写出好的间隔重复提示卡，我特别喜欢这个例子，因为虽然这看起来，像是一项完全随机的技能，但人们都在谈论，一年内实现地规自我改进，而我们却连让这些东西，写出好的记忆卡都做不到，这到底是怎么回事，他们尝试了很多不同的技术，而且他们都是很厉害的人，他们试了强化学习，开源模型，试了各种方法，包括chainofthought，还有他们发给最好的，闭源模型的那个巨型prompt等等，在我看来，关键的制约因素在于，写一张好的卡片，是要去投射一个人，三个月后的心智状态，去想他们会以什么方式，把问题关联起来，那一刻他们脑子里，会想到什么样的答案，以及这种激发是否能引出，你真正想从那段文字里，提取的细节，我觉得写作也类似，当你写东西的时候，这个过程之所以如此耗费心力，如此漫长，是因为你没写一个词，或者没写一句话，都应该在想，我的读者此刻脑子里在想什么，对，即使我把错词调换一下，把结尾的短语放到开头，让这个画面成为你读完整句话之前，最先浮现在脑海里的东西，这种能力，也许自回归模型就是不擅长，这更像是一种扩散模型的特性，需要从整体考虑，而不是逐句推进，但我也觉得，这需要大量的新制化能力，而这些模型在这方面，却奇怪的很吃力。 [01:02:30]
Grant Sanderson：这是个有趣的问题，他们在这方面吃力，这奇怪吗，我可能会讲的不太准确，你知道当你引用那些，你曾经读过的研究时，有时候那个研究可能并不是真的，有一个非常令人难忘的实验，假设你想测试人们的情商，你给他们看一张某人面部表情的闪卡，让他们描述那是什么情绪，网上其实有些很好的测试，会放一张脸，然后给出四个可能的情绪选项，你会发现要准确描述出正确的情绪，出奇的难，但你又能感觉到确实存在一个正确答案，如果你让你生活中的人试试，你会发现那些社交能力很强的人，做得非常好，而那些偏重左脑思维的人，就做得不太好，好，这是一种可以做的测试，我依稀记得有一个类似的实验，他们找了一些，刚打了肉毒杆菌的人，然后给他们做了前测和后测，结果在后测中，他们解读别人表情的能力，就差了很多，这感觉有点奇怪，等等，他们打了肉毒杆菌，是参加测试的人，你先做测试，然后你去打肉毒杆菌，你的脸就全冻住了，然后你现在理解，你所看到的表情的能力，就变差了，背后的想法是，理解你所看到的这种情绪，有一部分是通过你自己，也做出同样的表情来实现的，这太疯狂了，从面部层面来说，你会动自己的面部肌肉，看到对方的表情，你会下意识地模仿，然后心里就明白了，哦那是焦虑，在某种非常潜意识的层面是这样，所以从这个角度看，如果模型的心智理论能力，确实很差，那也不奇怪，他们当然什么都知道，因为他们读遍了，所有人写的东西，但要说真正能设身处地，为你着想，就像我的面部肌肉，在模仿你的面部肌肉那样，这才是我能理解你感受的原因，模型没有面部肌肉，它们的大脑运作方式完全不同，就像一个外星人在尝试共情，它怎么可能有心智理论呢，心智理论对它来说，会是一种非常凸显的东西，而我们人类可以直接把它，接入自己的思维里，我们有现成的硬件可以直接用，所以。 [01:04:14]
Dwarkesh Patel：这个很有意思，从这个角度看，这并不那么令人惊讶，好Grant，我们都是JaneStreet的合作伙伴，我猜这些年，你应该接触过不少JC的人，你觉得他们或者他们的文化，有什么独特之处。 [01:06:13]
Grant Sanderson：我今年给他们做了一个采访，挺有意思的，部分原因是他们，平时几乎没有任何对外宣传，在业界他们以极高的员工留存率著称，大家进去了就不走，那次采访算是窥见了其中的内情，我记得有人评论说，虽然大家都有职位头衔，比如研究员交易员或者工程师，但他们常常不知道，同事的实际角色是什么，因为每个人都在做各种不同的事，就算你名义上是交易员，你也在做大量研究，就算你名义上是研究员，你也在写很多代码，我猜这可能是他们留存率高的，离谱的部分原因，因为任何想要成长的人，都有机会去做很多不同种类的事情，好Grant，这次我来帮你宣传，如果你想看Grant和JaneStreet。
Dwarkesh Patel：一些员工做的完整访谈，可以访问3B1B.CO-JaneStreet，好Grant，我们接着聊AI和数学，关于用LM来学习，你有什么建议，对我来说，很多众所周知的概念，我发现它们很有帮助，但经常是多聊几句之后，我想搞懂某个东西，结果他们自己就糊涂了，或者把我也搞糊涂了，解释的方式不对，然后我就觉得，找个对的人聊三分钟，就能解开我的困惑，我不知道，然后我觉得我们会越来越想，用这些东西来学习，你作为经常谈论教育，知识呈现这些话题的人，肯定有想法。 [01:07:08]
Grant Sanderson：所以你有没有发现，什么更高效的利用他们，来理解概念的方法，我很好奇你的看法，我先说说我的，即使在LM出现之前，我觉得学习方面，一个很重要的洞见就是，要认识到跟谁学比，学什么更重要，比如给任何大学生的建议，选课的时候，少在意一点，你预先存在的兴趣，因为那些兴趣，现在多少有些随意，多在意一点，教这门课的人，是不是个好老师，是不是能和你产生共鸣，我觉得在选择，读什么书的时候，作者是谁，可能比那是不是你之前就感兴趣的领域更重要，如果你之前喜欢某本书，就去读那个作者写的其他书，而不是去读同一主题下的另一本书，我快要说到LM了，这里的区别在于，文章是由某个人刻意写出来的，他会尝试去精心构建一个动机，而维基百科，它达到的是一种局部最优解，基本上每句话都必须正确，我觉得一个好的阐述，在过程中可以少在意一点正确性，你可以刻意安排一些稍微有误，但随后会纠正的内容，而这种东西在重包环境里，是会被编辑掉的，所以LMI的解释，目前给我的感觉，很像维基百科，这当然很了不起，想象一下，没有维基百科之前的世界，要花多长时间，才能找到并甄别信息，但尽管如此，维基百科页面，最有用的部分是什么，往往是底部的参考文献，你看看那些关键文献，然后点进去读，实际上，有时候那样，能给你一个更好的全局视角，所以我经常喜欢直接问LM，我应该去读谁的东西，甚至我还可以具体说明，我想要的学习方式，我有一次就被他忽悠了，我记得当时想学半导体之类的，我觉得这东西很视觉化，但看到的全是文字，我就问，有没有什么做得特别好的，可视化很棒的数学视频，哦不是数学，抱歉，就是那种能很好解释，你正在讲的概念的可视化视频，然后Cloud就说，有啊这里有几个，排在最上面的那个，他说这是3Blue1Brown的一个视频，我当时就想，我可以保证绝对没有，不错，那确实是个真实视频，真实链接，只是把作者标错了，视频本身很好，我当时就觉得，点过去看那个视频来学东西，体验比继续跟模型来回问答要好得多。
数学职业与经济影响
Grant Sanderson：所以从这个意义上说，我基本是把它当成一个超级加强版Google在用，用来精准定位到对的人类写的东西，你呢，你经常跟这些打交道。 [01:10:00]
Dwarkesh Patel：你觉得最好的方式是什么，我觉得你说到点子上了，我最有收获的学习经历，都是先有一个人做出来的东西，不管是一篇文章，一本书，还是一个视频，他把相关概念，按正确的方式组织起来，并且一步步铺垫动机，告诉你为什么下一个概念，对解决你接下来会遇到的问题很重要，再下一个，再下一个，然后用LM在这本书，已经搭好的枝干上做一些修剪，我最近就在读，我记得好像是你推荐过的，StevenStrogatz那本教材，《混沌》那本，《混沌与非线性动力学》，我超爱那本书，对，我就在读那本，读起来简直是一种享受，就像你的视频变成了书一样，他真的太厉害了，读起来特别有意思，我当时的学习方式是，屏幕三分之一放，他在大学里的讲课录像，三分之一放教材，对应部分，另外三分之一开着LM，我其实在想，如果我还在上大学，现场听这堂课，肯定完全跟不上，那些学生一定特别聪明，因为我的不停暂停，翻翻教材，跟LM聊聊，然后再继续放，但有了他来规划理解概念的正确顺序，用什么问题来激发理解一个概念的动力，哦，还有一件事，LM特别不擅长，就是真正厉害的人能做到的，你问一个问题，他会说，其实你对这个话题的思考方式不太对，你真正该问的问题是另一个，这些概念的正确组织方式是X，LLM基本做不到这一点，对。
Grant Sanderson：他太顺着你了，说到底，他们特别像那种讨好型人格，总是这个问题问得真深刻那种感觉，你需要把这一层剥掉，这个观察很好，我觉得这跟心智理论有点关系，就是能意识到，你问出某类问题，其实暴露了你脑子里的结构，跟讲解者不一样，当然有时候人也会做过头，我觉得真正好的老师，比如一个初中数学课堂，如果有学生问了一个问题，表明他的思考方式跟标准不一样，其实很难在当时认真对待，先别急着说我们换个思路，而是想等等，用他那个思路能不能也得出正确答案，真正厉害的老师能像柔道一样，顺着学生那个有创意的思路借力打力，把它融进来，LM现在做不到这一点，他们不会重新框定你的问题，而是直接跑偏了，但至少可以说这大概有三个层次，LM在第一层，好的讲解者在第二层，而那种A加级别的讲解者，是能顺着你的思路借力打力，然后说你这个想法，在那个地方其实很有用，所以也许再过五年，LM也能做到这一点，而且做得更好。 [01:11:41]
Dwarkesh Patel：绕一圈又回来了，你对学生有什么建议，我相信肯定有很多学生，给你发邮件问这个问题，我本来对数学很感兴趣，对这个学科很有热情，但看到AI进步这么快，我不知道把它作为职业来追求，还有没有意义，这不只是数学领域的问题，我相信任何看到自己领域，越来越多被AI提升生产力的人，都会有这个疑问，编程跟这个就很接近，你会给他们什么建议，我给出的建议，我自己都不太信，大概得先这么打个底。 [01:12:47]
Grant Sanderson：不过就算在AI出现之前，我觉得对任何，你想从事的工作来说，搞清楚钱从哪来，你实际在创造什么价值，以及这两者之间的联系，都非常重要，我觉得大家在这方面的思考，少得惊人，尤其是学生，他们所处的环境是，想学数学往往是因为，一直擅长这个，生活中也一直因为能正确完成下一步，跳过下一个关卡而获得奖励，当他们想当数学家时，其实是想要继续做这件事，想着哪里能让人继续干这个，而不是去思考，我在给别人创造什么价值，以及这在多大程度上，是薪水流向你的原因，因为不同情况差别很大，有些情况是非常有声望的数学家，他们在大学的存在，本身就带来了品牌价值，所以大学想要他们，有些情况是，NSF给你拨款，是因为大家有一种公共利益的信念，认为基础科学有价值，并且围绕这个有一套制度，还有一整套官僚体系，试图作为我们心中公共利益的代理，然后围绕如何正确的让他们预判，你的进展符合那笔资金的初衷，有一整套繁文辞节，有时候就纯粹是教学，对吧，人们喜欢把孩子送到有专家授课的机构，这就是你在做的事，你通过作为专家提供品牌价值，然后通过当老师提供直接价值，所以不管AI能不能证明定理，不管我们是在2016年还是2026年讨论这个问题，那些想着我要当数学家的学生，对这件事想的都太少了，但我觉得这值得思考，对我来说，我当时也没怎么想过，基本上是误打误撞走上了这条职业道路，发现数学探索可以作为一种娱乐来变现，我很庆幸自己走对了，但这纯属意外，不是可以规划的，我觉得如果我当时，能批判性的思考一下，本可以不用靠运气，而是更有规划的，做到这一点，所以回到你的问题，假设定理证明，几乎完全自动化了，再假设他们还特别擅长解释，甚至能促进人类理解，我觉得数学家，所扮演的很多社会角色，其实变化不大，对吧，公众仍然会觉得，基础科学有价值，我们依然信任数学家的判断，来决定他们的时间最好花在哪里，声望来自那个圈子内部，是其他同行说这个成果很棒，而不是那个真正懂代数数论，能理解这是个好成果的，博款申请写作者说了算，所以关于什么构成有价值的贡献，会形成一种内部文化，也许重心会从证明定理，转向写出好的定义，也许是那种博物馆策展人的思路，但你仍然会有那个圈子，只要整个社会仍然认可，基础科学这个前提，而且如果我们处在AI带来的富足世界里，某种程度上，那个方向的资金可能会更多，至于机构因为讲师是谁而获得的声望，我其实觉得教学是后通用人工智能时代最稳定的工作之一，因为它太依赖人与人的关系了，如果人们财富充裕，家长就愿意把钱花在好的教学和教育上，这远远超出了讲解本身，即使ILM是很好的讲解者，老师所做的是一种非常社会化的，教练式的导师式的事情，这可能是未来50年里，最稳定的职业之一，所以就很多数学家的角色，与教学重叠这一点来说，你作为想进入这个领域的学生，可以朝这个方向靠拢，实际上我觉得应该有，更多学生认真思考，并重视成为一名数学教育者的想法，以及这能为下一代创造的价值，所以我还是那句话，我不觉得自己有资格告诉一个，有志成为数学家的年轻人，该如何看待未来，因为我只是个YouTuber，不在他们想进入的那个体制内，我是以局外人的视角在说，但这感觉像是普世的好建议，搞清楚钱从哪来，搞清楚你在其中的位置，如果你能问出这些问题，其实就已经比其他所有刚起步，想当数学家的人领先好几步了，而且说实话。 [01:13:14]
Dwarkesh Patel：我觉得在一个比较疯狂的世界里，就是五到十年内，AI不仅能解除千禧年大奖难题，还能自己提出全新的问题，开创全新的数学，领域和数学对象，在那个世界里，首先物质会极度丰富，其次AI心智走得最远，视野最超越我们人类认知的领域，恰恰就是数学，到时候会有巨大的需求，AI到底看到了什么，你能解释给我们听吗，而且这有点好笑。 [01:17:09]
Grant Sanderson：因为所有这些讨论，其实都默认了这些东西，没有实际用处，对吧，我们都没在谈这些数学成果的实际应用，所以只要它有任何一点经济效用，你可以想象那些能理解它，能决定它该往哪个方向用的人，他们作为策展人，去判断并指挥这个能产生海生量心数学的庞然大物，把它指向一个有用的方向，这种决策的杠杆效应会突然变得比以前大的多，经济价值也会高得多。
Dwarkesh Patel：我能接着这个问一下吗，显然关于AI做数学，问题不只是它能不能做，而是它做得好不好，对，或者说它做出来的东西到底有没有用，你刚才描述了群论的发展，我们当初只是想解五次多项式，想搞清楚不同函数根的一些随机性质，结果现在它在很多不同领域都有了实际应用，你能不能设想一下，如果我们真的到了一个数学被AI加速10倍，甚至100倍的世界，是会有什么了不得的事情发生，还是说我们其实会被其他领域的发展给卡住脖子，我觉得有些领域可能会。 [01:18:03]
Grant Sanderson：我是说这非常不均衡，对吧，比如代数数论上的进展，感觉不太可能直接解锁什么东西，但我也说不准，我记得跟一位数学家聊过，他更多是做动力学和偏微分方程求解那块的，他提到他们团队有一些想法，我看我能不能总结对，大概就是波音以前造飞机的方式是，先造出来，然后做一堆测试，再根据测试结果拆开重装，而他们团队基本上搞出了一些洞见，能在仿真里做更多事情，这样就不用真的去拆了重建，这给波音省了大概几十亿美元，然后波音就开始资助那个团队了，所以这个例子显然更靠近应用，因为偏微分方程本身就是那种东西，所以在那个领域的进展，你确实能想象会解锁一些东西，我不知道这算不算节约式的变化，但可能更多是像，引擎设计会变得更流畅一点，或者设计记忆形状时，不用跑一大堆复杂的计算流体力学仿真，又或者因为某些纯数学的洞见，能让你的流体仿真跑得更快更高效，我猜你会看到很多很棒的渐进式改进，但数学上的巨大突破，似乎不太可能立刻转化为巨大的经济突破，比如你解开了纳维-斯托克斯方程之类的难题，然后解锁了模拟更多东西的能力，但你很可能会在那些边缘地带。
纯数学洞见的外溢
Grant Sanderson：看到一些有意义的，从纯数学洞见向外渗透到其他领域的成果，而且话说回来，有大量的人在搞AI工程，物理工程，材料科学之类的东西，你不得不设想，他们应该能很好的审视AI的数学洞见，判断他们是否在某种程度上，跟自己相关，所以这又是一件，我不会在这里斩钉截铁做预测的事，但如果未来五年，没有出现任何能直接归功于，AI在数学上进展的，有经济价值的改进，那会有点令人失望，也有点令人惊讶，如果只是解决了一堆，凭空想出来的问题。 [01:20:00]
Dwarkesh Patel：却没有一个真正触及物理世界，那确实挺让人失望的，说到你刚才那个观点，数学史上的很多工作，就是不断堆叠概念和联系，之类的东西，对，有时候这些堆叠的东西，会互相连接起来，或者你在别的地方，发现了它的应用，至少你建起了一个，巨大的知识堆，然后随着社会在起点中，取得更广泛的进步，当我们进入起点的，工业化阶段时。
Grant Sanderson：你手里就有了，所有这些不同的想法，希望它们能在世界的，其他地方派上用场，对就像我说的，现在发生的事，有一个有意思的地方，就是它会让人退一步，问数学到底是什么，也许其中一个，让人尴尬的结论会是，天哪，过去这些年来，数学已经变得完全没用了，大家问的那些问题，已经跟物理上能应用的东西，脱节的太厉害，这可能是数学家们，不得不面对的一件事，到时候所有人都会看着说，等一下你们不是应该，如果那边进展快了十倍，为什么我们在这边看不到，然后每次我们写基金申请书，说相信我，椭圆曲线的进展，会帮助密码学的时候，这件事就会照出一束光，让人看清，也许他其实帮不上，这是一种可能性。 [01:21:02]
Dwarkesh Patel：Grant这次聊得特别开心，非常感谢你来。
Grant Sanderson：绝对的我的荣幸。