目录
- 数学的六大核心要素 [00:00:00 - 00:10:00]
- 从几何到微积分：数学如何服务现实 [00:10:00 - 00:20:00]
- 无限、概率与数学的探索 [00:20:00 - 00:30:00]
- 纯数学与科学发现的关系 [00:30:00 - 00:40:00]
- 从高维堆积到压缩感知 [00:40:00 - 00:50:00]
- 科学方法与 AI 的介入 [00:50:00 - 01:00:00]
- AI 擅长广度，人类守住深度 [01:00:00 - 01:10:00]
- AI 在数学研究中的现状与局限 [01:10:00 - 01:16:31]
数学的六大核心要素
# #712.陶哲轩：AI 擅长广度，人类守住深度
数学的六大核心要素
陶哲轩：我是陶哲轩。我是加利福尼亚大学洛杉矶分校的数学教授。我有一本即将出版的新书《Six Math Essentials》。今天在《Big Think》,也就是《Big Think》知识播客上,我将谈谈数学的六大核心支柱,历史上数学如何与科学相互作用,数学如何预见许多重大的科学进展,以及AI的最新发展未来将如何影响数学和科学。
Big Think编辑：感谢观看Big Think 如果你想支持我们的工作，欢迎加入我们的会员社区，作为会员，你会收到我们的纸质寄刊，里面精美地汇集了，最重要的思想和访谈 Big Think面向的是，那些充满好奇心，渴望深入探索，宏大思想的人，想要支持，你想在这个世界上，看到的媒体，请访问 bigthink.com 写杠membership 现在让我们回到访谈，第一章，数学的六大核心要素 [00:00:24]
陶哲轩：我决定围绕六个，极其基础的概念来构思这本书，它们起源于几千年前或几个世纪前，在最初阶段大多数人都非常熟悉，但随着时间的推移，数学家们把它们发展得极其深奥复杂，第一个概念是数，然后是代数几何概率分析和动力系统，这些都是非常基础的概念，但它们已经演化成了极其深奥的数学，但如果你剥离所有技术上的复杂性，它们本质上就是极其直观的概念，而我们发展出来的数学，只是一种精确的语言，能极其仔细地去描述它，让你能够非常清晰地思考这些概念，数是人类最古老的数学发明之一，而且说实话，它至今依然是最有用的，我们发现过一些古课记录，它们比字母表或其他文字还要古老，而且数是由多个文明各自独立发明过的如果我们没有数，在试图描述任何情况时，我们就总是得用诗意的方式去讲，而且总会有点不够精确，下一个人转述你的话时，理解上就会出现一点偏差，它带来了精确性，数是数量，尺寸和量级等概念的站位符，把它们变成非常便于传递的东西，让你能传达给其他可能，根本没接触过那些事物的人，而一旦你要去描述一个，包含很多运转环节的极其复杂的场景，你就需要数，以及建立在数之上的一切东西，人类天生其实并不擅长用数字来思考，如果你没有定量思考的能力，去权衡一项行动的收益和成本哪个更大，你就可能会做出一些日后会后悔的人生选择，比如付出了大量资源，却只换来极少的回报对这些事情进行更多定量思考的第一步，就是理解数，然后理解建立在数之上的更高级的数学主题，比如概率和代数，像农业或贸易这样最基础的事情，如果不能用数来计量大量的粮食，是根本无法实现的，征税也是如此，不幸的是没有税收就没有文明，而这需要数学和数，当然并不是所有事情都是定量的，如果你要去约会，你不应该去权衡未来伴侣的成本和收益，有些事情依然应该是非常主观，非常个人化的，但在当今这个现代世界，有越来越多的决策，比如在金融或医学领域，做一些定量思考是非常有帮助的数学奇妙的地方在于它们会有自己的生命力,因为一旦你有了数的概念,你就可以抽象地研究数,脱离它们的实际应用,你会发现规律,而且往往会发现很自然地就会去扩展已有的数系,创造出一些你原本想不到能用在最初语境里的新数,但它们却能非常非常契合地融入到数系中。如果你在数羊，有时候你想把羊加在一起，有时候想减掉羊，所以很快你就会发展出，加法和减法的概念，但你会意识到，如果你只数数0 1 或者其实连0都没有 1 2 3 4 你会发现这些数总是可以相加，但并不总能相减，如果你用3减去4 这根本就讲不通，你不能从三只羊里拿走四只羊，但数本身的规律是如此规整以至于如果你只是机械的套用算术法则，就会觉得好像应该能从4里拿走3 从而得到一个新数，这也花了一段时间，但人们最终意识到可以发明出这些负数，你可以把负1负2负3加到你的数系里，还有0 人们花了很长时间才真正意识到 0对数系是一个很好的补充，而且算术中那些优美的法则依然成立，比如如果你拿一个数A减去B 然后再加回B 你就会变回A 那是算术法则之一，即便有了负数，它也依然成立，类似地，我们学会了一个数除以另一个数，创造出了分数，而分数也非常契合地融入了这个数系，然后就出现了一个震撼的发现，我们发现在所有这些有理数，所有这些分数之间，不知怎么的居然存在一些像根号二这样的数，它们根本无法表示成任何比例，这确实是一个巨大的震撼居然存在这种，我是说这些数字面上就叫无理数，在拉丁语里就是疯癫的意思，而不是不讲理的数，但它们确实存在，而且非常有用，在一张有限的纸上，你永远也写不完，它们的所有小数位，手头有所有，这些额外存在的数，是非常非常有用的，后来我们又尝试对复数开平方，这在原本的常规数系里是做不到的，于是我们发明了复数，事实证明，它在电磁学和量子力学中，极其有用，令人惊叹的是，这些最初往往只是为了，更好的解方程，解决实际问题，而发明的数系，最终却成了描述现实世界中，极其复杂的现象，最自然的语言，比如量子力学，代数是建立在数之上的第二层抽象，在数的层面，我们具体的东西，比如一群羊一定量的水之类的，换成了数，然后你就可以对它们做各种运算，加法减法除法等等，代数则更进一步，试图不再盯着像7或17这样的具体数字，首先用更通用的站位符来代替数，我们给它们起名叫X和Y 同时还要去研究运算本身，加号乘号，以及所有这些其他运算，去探究运算具有什么性质，而不只是数本身，于是我们发现，这些在算术中如此有用的运算，本身就具有许多迷人的性质，加法就具有一种叫做交换率的性质 A加B和B加A是一样的，事实证明，这个性质在帮你解决涉及加法的问题时，极其有用，乘法也一样，所有其他基本的算术运算，都遵循这些非常简单的定律，后来我们发现，这些定律对其他运算同样适用，比方说如果我拿一个物体来旋转，我可以先转30度，然后再转60度，但如果反过来转，先转60度再转30度，最终得到的朝向，跟我最开始是一样的，这两种旋转就是可交换的，尽管这种运算，跟传统意义上的数毫无关系，并不是传统意义上的加法或乘法，但它具有完全相同的代数结构，反过来，有些东西并不服从交换率，比如我先穿袜子再穿鞋，和我先穿鞋再穿袜子，得到的结果是完全不同的，这两个动作就是不可交换的，某些运算遵循像交换率这样优美的定律，而某些运算则不遵循，有时候你会看到一种对应摆在眼前的定律，跟我们已经理解的定律非常相似，比如数的定律，正因为这样，我们就可以把关于数的直觉，想法，证明，和理论迁移到一个完全不同的场景中，比方说矩阵是一个比数复杂得多的概念，它不单单是一个数，而是一整张正方形的数字阵列，但事实证明，矩阵所遵循的代数定律跟数非常像，如果你很擅长处理数，你就可以用同样的方法去处理矩阵，我们许多现代技术，比如大约模型，底层的依托就是能够，非常非常高效地处理矩阵，一旦你抽象到了数，接着抽象到了代数，你处理的就是包含X和Y 这类变量的方程了 X当初可能有某种物理意义，有某个具体的数值，但往往不关注这些数的具体值，或者它们代表什么，纯粹靠代数，靠挪动符号来摆弄这些方程，反而能让你的思路更清晰，刚学这个的时候，会觉得它跟实际经验非常脱节但它其实是一种非常强大的工具，代数的一个早期应用是开普勒的故事，他是一位天文学家和科学家，有一天他走在家乡的街上，看到了葡萄酒市场，卖酒的商贩正在一桶一桶地卖酒，有些桶大，有些桶小，但他们能算出每个桶里，有多少酒，好把酒钱付给酒商，如果有一个桶，你想算里面有多少酒，你可以把它倒进杯子之类的地方去量，但这非常麻烦，但让开普勒着迷的是，市场的负责人，有一种非常非常高效的办法，来测量酒桶的容积，他手头只有一根，刻着各种刻度的棍子，桶中间有个注酒孔，他就把棍子穿过注酒孔，插到桶底的角落，看看棍子插进去了多深，来读数，光凭那个刻度，他就能说，这是30加仑或者多少酒，然后他们就能据此定价，这让开普勒大为吃惊你怎么能光凭这么一条，对角线长度的单次测量，就算出形状，对应的容积，因为有些桶可能又高又细，有些可能又矮又胖，不知怎么的，就靠这一项测量居然就能算出容积，他算了算数学题，这对他来说是个谜，于是他回到家，写下了几个方程，假设酒桶的半径是R [00:09:37]
从几何到微积分：数学如何服务现实
# #712.陶哲轩：AI 擅长广度，人类守住深度
从几何到微积分：数学如何服务现实
陶哲轩：假设酒桶的半径是R 高度是H 换做今天用现代代数来看，这道题完全可以留给高中生做，这几乎就是我们最喜欢，给学生出的那种应用题，你能算出容积，也能算出这个长度，他发现，仅仅这个长度，并不能完全决定容积，但酒商总想尽可能多卖酒，在给定的斜长下，你总想把容积尽量做大，理由是所有这些商人，都在追求利润最大化，虽然他一开始，并不能直接解出这些方程，但加上这种利润动机之后，他做了一些非常粗浅的，我们今天称之为，微积分的运算，结果算出来的形状，跟市场上实际卖的酒桶，几乎完全吻合，他的公式也以极高的精度，吻合了人们实际使用的规格，也就是说，市场上这些，凭经验慢慢摸索出来的规则，被他用理论解释清楚了，他找到了一个非常令人满意的解释，我觉得这也是几个世纪后，牛顿和莱布尼茨，发展微积分理论的，部分灵感来源，几何在希腊语里的字面意思，就是丈量土地，自古以来知道从一个地方到另一个地方，要走多少英里，以及如何在海上或野外靠星星，辨别方向都是非常重要的，我们需要明白怎么利用观察到的东西，比如角度和距离，去解决非常实际的交通运输等问题，就像数有各种规律一样，比如A加B等于B加A 一旦你开始测量不同点之间的距离和角度，所有这些测量结果之间，同样存在着大量的关系，所以几何就像属遵循规律一样，也遵循着各种定律，比如其中一条定律就是相似性，一旦你知道两个图形相似，它们的各个角度完全一样，那么它们的所有边长就都成比例，一旦你知道大三角形的一条边，比方说是小三角形对应边的两倍你就会知道大三角形的所有其他边长，也都是小三角形的五倍，它们的比例是相等的，这之所以这么有用，是因为它能让你预测那些，你直接够不着，无法直接测量的距离或尺度，你可以看着远处的山，你可能真能估算出它有多远，因为你知道一些，关于它有多高的信息，而仰角式，你可以利用相似三角形来测算的，这样你就能做一个，按比例缩小的模型，比如现在你就能导航了，你可以看明白，怎么去到一个遥远的地方，哪怕你从自己的帆船上，或者别的地方，根本直接看不到它，甚至在古希腊时期，它们就能测出到月球和太阳的距离，这些距离它们绝不可能直接去测，但仅仅通过几何定律，也就是它们当时就已经研究透的，相似三角形之类的原理，在没有任何卫星或先进技术的情况下它们其实就能得到相当不错的结果，一旦你掌握了几何学，你的感官就能真正延伸到，远超你亲手触碰和直接测量的范围之外，第四个数学要素是概率，这是数学家试图，概括现实世界基本特征之一，也就是不确定性的标准方式，在小学或高中的课堂上，教数学的时候，我们经常会给出一些，经过高度进化，结果完全可预测的应用题，比如按你有30个苹果，它分了一半给詹姆斯，詹姆斯有多少个之类的，里面的一切都很精确，你掌握着全部信息，但在现实世界中，存在着不确定性，也存在着不可预测性，所以当你抛硬币时，可能是正面，也可能是反面，如果你确切知道，自己对硬币用了多大的力，知道所有这些测量数据，你或许能做足够精细的模拟来确切预测硬币，最终究竟哪一面朝上，但这极其困难，而且你往往没有那些数据，人们最终意识到的是，与其试图时时刻刻，为每一个可能的结果，计算精确答案，有时你只能接受，某次测量，会有一定范围的可能结果，但真正重要的是，哪些结果出现的频率更高，哪些结果出现的频率更低，最先意识到这很重要的人是赌徒，因为赌徒会就某些特定事件下注，比如压住制骰子的总点数，会是某个数之类的，如果他们能正确算出胜率，他们就能赚钱，而如果算不对胜率，长期来看他们就会赔钱，概率数学最早源于几位赌徒，写给数学家朋友的几封信，心理请求帮忙优化他们的下注策略，概率论的发展，已经远远超出了它最初的赌博渊源，只要一个系统太复杂无法完全从第一性原理去建模，就会存在某种随机性，我们就需要一个概率模型，所以不管是股市走势，还是某种药物是否会成功，我们现在都经常会求助于概率论，有时候我们并不知道概率是多少，所以概率论在处理反复发生的事件时，效果最好，对,有成千上万次实验,我们就能开始对概率有一个很好的把握。如果是百年一遇的事件,概率论可能就不太对路。我们现在还在努力研究针对极端罕见事件的数学方法,希望能更好地取代概率论,而且其中有一些奇迹让它变得非常有效。你可能会觉得每次做一个不同的实验,比如不做医学实验,而是去研究制骰子的结果,或者演化过程中会产生什么遗传特征之类的。你可能会认为在每种不同情况下，你会得到完全不同的各种分布有些分布是重伪的，有些会很狭窄等等，但概率论里有一些很奇妙的定律，叫做普遍性定律，哪怕是非常广泛的各类随机系统，也会呈现出几种常见的形状，其中最著名的就是高斯分布，或者说中心曲线，很多分布，比如你统计男性的身高或女性的身高，它们几乎都构成一条完美的中心曲线，我们现在其实已经有很好的解释了，我们对概率论已经理解得足够透彻，能用数学解释相当一部分这类普遍性定律，尽管还有一些仍然充满谜团，数学分析是数学用来处理两件事的方法，其一是我们测量中的不准确性，有时候这算不上是随机性，纯粹就是不精确，数学分析算是关于误差棒的数学，在这个领域里我们意识到，有时候我们不仅需要了解，各种物理量的数值是多少还要弄明白我们有多大的不确定性，它们周围的正负误差棒到底是多少，但这些都是你甚至无法，仅凭字面去讨论的概念，我是说如果仅仅用，大和小这种定性的语言，它能起的作用是非常有限的，我们可能测量某个物体的长度，大约是2米，但可能其实是2米正负10厘米，这里有一个近似值，也有一个误差，理想情况下你希望误差是0 但在现实世界中，我们不可能总把误差做到完全为0 但有时候如果我们能让误差越来越小，如果我们不断进行越来越精确的测量，我们就能让误差缩小到0 但这可能需要无限高的精度，或者无限长的时间，才能把误差一路缩小到0 数学分析研究的也是，我们如何取极限，以及如何处理无穷大，在代数中，只要你只进行有限次运算代数定律就会非常管用，如果你只是拿五个数字，把它们加在一起，没有任何问题，你可以按任意顺序重新排列它们，但一旦你开始尝试处理无限次运算，就会出现一些奇怪的悖论，有时候你重新排列无限个物体，最终得到的总和，会和重新排列前不一样，这在有限求合里是不会发生的，比如如果你总是在压住轮盘赌，对吧，压红或黑，你有50%的几率赢 50%的几率输，有一个定理证明，只要你只有有限的资金，就不存在任何能让你一直赢，能保证你在长期内必赢的策略，基本上没有任何下注策略，能战胜庄家，有一种策略是输了就加倍下注，赌注越下越大，只要你哪怕只赢一次，就能拿回你那一美元，所以确实有办法能一直战胜庄家，但问题在于他假设你有无限的资金，这种策略的实质，是把输钱的所有风险，都压缩到，一直输这个极其微小的事件里，到某个时候，你下注几百万美元，然后某一个时刻，你就破产了，数学分析能帮你，准确理解这些尾部风险，究竟是什么，以及如何用一种，避开所有这些悖论的方式，去思考无穷大，对，在数学分析出现之前，曾经有大量非常不严谨的数学，当时大家总在说，哎呀只要我做无限次，就能摆脱所有这些问题，人们花了一段时间才意识到，如果你没有受过妥善处理它的训练，无穷大其实是一头非常危险的猛兽，但在现实世界里，我们无时无刻不再跟无穷大打交道，强也许不是真正的无穷大，但我们得处理非常大的数字，无穷大是一个很好的近似，能帮我们理解如何处理大数但用的时候必须小心谨慎，要展示无穷大有多反直觉，一个著名的例子就是，所谓的无限猴子定理，常见的说法是，如果你在一个房间里放无数只猴子，或者就一只猴子，在打字机前永远打下去，纯粹胡乱敲键盘，通常猴子敲出来的，都是毫无意义的乱码，但隔三差五，猴子就会敲出一个单词，比如的或者it 有时还会敲出一句话，但无限猴子定理是说，如果你等得足够久，或者猴子足够多，几乎能肯定保证猴子最终，能敲出任何你想要的内容，比如莎士比亚拳击，哈姆雷特，维基百科，或者任何东西，在数学上你能证明这一点，只要猴子至少敲出一次的概率是正数，不管有多小，只要是正的，你等得足够久，最终敲出这个特定模式的概率，就会趋近于一，这就像玩俄罗斯轮盘赌左轮手枪里只有一颗子弹，你一直开枪，不管枪膛有多少个，最终它总会射出来击中你 [00:19:52]
无限、概率与数学的探索
# #712.陶哲轩：AI 擅长广度，人类守住深度
无限、概率与数学的探索
陶哲轩：最终它总会射出来击中你，对于任何给定的单词，句子或段落之类的，你的猴子最终都会敲出这段文字，但花费的时间，会随文本长度成指数级增长，如果只是一个，四个字母的单词，猴子大概敲上一个小时左右就能打出来，但要是比如七个字母的词，比如Shakespeare这个词，可能就已经要花上好几年了，一句话可能要花上几千年，要打出哪怕一小部分，哈姆雷特，我觉得哪怕只是一页，花的时间都要远超宇宙的年龄，你才能真正看到它，无穷大实际上只是一个数字的站位符，用来代表任何可能远大于你能想出的，任何固定数字的东西，尽管现实世界里你没有无数只猴子，也没有无限的预算，但我们往往会先把无穷大作为一种理想化情境来推导，看看什么是可能的然后从这里转向更量化的问题，看看在有限资源下到底能做些什么，但首先你得明白在拥有无限资源时该怎么做，我小时候经常玩电脑游戏，在很多电脑游戏里，你可以输入一些秘籍，你可以给自己无限生命，或者无限弹药，有时候先开着这些秘籍玩游戏，很有帮助，你不用操心管理生命药水，或弹药之类的，只去看看怎么通关，然后你就可以换到更难的模式，去琢磨怎么更高效的通关，数学里的很多问题，其实就是这么解决的，数学有别于其他学科的一点是，我们有失败的自由，因为在数学里，失败的代价非常小，如果你在经营一家企业，做了一个糟糕的商业决策，公司破产了，那就是个可怕的错误，如果你是外科医生，切错了地方，那就是个可怕的错误，但如果你尝试解一道数学题，做了一个错误的假设之类的，行不通，其实不算什么大不了的错误再试一次就是了，当你尝试解一道数学题时，先做一个理想化假设，其实是个好招，假设你有无限的能量，或者零摩擦力，或者其他某种不切实际的假设，先把问题解出来，然后再尝试从无限世界回到有限世界，这正是数学分析发挥作用的地方，仔细看看无穷数学的哪些特征，在有限世界里依然适用，哪些会失效，动力系统是研究变化，研究时间的数学，研究的是渐进变化的规则，一个状态如何从一个时刻演变到下一个时刻，涌现出各种意想不到的有趣行为，从最初的规则里你可能根本料想不到，我们发现，即便非常简单的规则，经过长时间迭代，也能产生极其复杂的涌现行为，生物学里的进化，就是一个很好的例子，有一群生物，它们繁衍后代适应性更强的，比更弱的更容易存活下来，生物具有某些，可以传给后代的性状，这些都是非常简单的规则，结果却能产生，极其丰富的物种多样性，捕食者与猎物的关系，以及极其复杂的动态变化，如果你在高速公路上路上有这么多车，每辆车都只是根据前面的车尽量开快，前面车太多你就会减速，车不多你就加速，每辆单独的车都没做特别特别复杂的事，它只是在尽量优化自己的行车流速，但当你把所有车放在一起，观察它对整个路网的影响时，就会出现令人惊叹的涌现现象，比如交通波会出现这种能压缩又能展开的波，有点像弹簧玩具，如果你玩过弹簧玩具，它会有压缩波和膨胀波，这会导致你最初料想不到的现象比如发生交通拥堵冲击，像出了车祸，然后车辆排成长龙，哪怕事故现场已经清理干净，路上没有任何阻碍，按交通规律，如果你迭代这种动态过程，真去算一下，就会发现压缩波需要一段时间才能消散，我住在洛杉矶，这种现象我经常遇到，有时候路况突然慢下来，前面却根本没出事故，也没什么直接原因，那其实是因为，好几个小时前，有些状况导致了减速，但按照动力学规律，这个波动要消散，是需要一定时间的，只要把动力学彻底搞清楚，你就可以建模和仿真，然后就能做预测，比如在这条高速上，多加一条车道，路况会不会变好，事实上有时候并不会，这里面存在悖论，有时候把某些车道封掉，反而能让整体的车流，走得更快，有些动力学系统是可以预测的，有时候系统会有平衡态也就是状态一直保持不变，而且有时候这些平衡态是稳定的，你稍微偏离那个状态一点，它还会回到原来的状态，比如一个垂直自然下垂的中摆，这就是一个稳定平衡态，你稍微推它一下，给点扰动，它会动一动，然后又回到稳定平衡态，但如果你把中摆倒过来，让它在尖端上立着，它也可能是一个平衡态，严格来说，它确实能永远保持那个姿态，但任何微小的扰动，随着时间推移，都会让它彻底偏离这个平衡态，所以分清哪些平衡态是稳定的，哪些不是非常关键，我们现在面临气候变化的世界，在过去一千年，一万年里，我们生活的地球气候，一直非常接近平衡态，有些年份热一点或冷一点，但最终都会弹回平衡态，而现在我们其实面临着，脱离这个平衡态的危险，可能会滑向一个，极其不稳定的动力学状态，这很吓人但它需要被建模，我们也可能得想办法去适应，去改变我们的农业，以及其他所有生活生产方式，搞清楚动力学规律，弄明白哪些系统稳定，哪些不稳定，哪些是混沌的，哪些可预测，其实极其重要，这里面有些非常接地气的事，比如天气预报，我们现在觉得，未来七天有准确的天气预报，是理所当然的，但这其实是，大气科学家们一向了不起的成就，他们收集了海量的数据，同时也解决了很多动力系统问题，多年下来，把误差率降到了一个水平，让我们能可靠地预测天气，比如提前一周预报，它依然做不到100%绝对准确，但比瞎猜要准得多了，包含大量人类行为的系统，依然非常难以预测，比如股市的走势，或者政治局势，这远远超出了，目前动力系统理论的建模能力，但自然系统，以及像交通这种部分由人类构成的系统，我们其实是可以建模的，所以这是数学里相当高深的一个领域，我们经常需要大量的计算机仿真，需要解非常高深的微分方程，但它能带来极其宝贵的洞见，动力系统的一大发现，就是绝大多数系统都会表现出所谓的混沌现象，这在17世纪是一件出人意料的事，牛顿当年提出万有引力定律时，这套理论最伟大的成功之一，就是解释了月球绕地球转，地球绕太阳转的运动，它能回头把开普勒那些奇奇怪怪的定律，全都解释通，比如为什么行星会按椭圆轨道运行等等，这样它就解决了我们现在说的二体问题，如果有两个像太阳和地球这样的大质量物体，它们在空间中运动，受同一条运动定律，也就是牛顿平方，反比万有引力定律支配它就能用自己新推导出的微积分理论，解出这些方程，给出完美的轨道公式，而且它们是完美的椭圆，精准证实了开普勒的理论，这是一项了不起的成就，在他解出二题问题之后，很自然的牛顿的许多后继者，包括我想牛顿自己，都试图去解三题问题，我想牛顿曾经说过，这是唯一一个让他头疼的问题，因为无论他怎么尝试，都没法得到精确解，当时顶尖的科学学会设立了中奖，悬赏任何能写出解法的人，这被认为是数学界最重大的，未决难题之一，我们至今依然没有这些方程的精确解，现在的看法是，根本不存在一个，能写成漂亮简洁公式的精确解，但当你真正去看数值模拟时，你会发现，它并不是某种规整的周期性规律，它通常会在很长一段时间里，保持周期性但接着就会突然变一下，变得稍微有点不同，随后又会再变一次，我们现在怀疑，我们太阳系目前大概有8颗行星，在过去其实系统里还有别的行星，它们大体上像开普勒说的那样，沿着椭圆轨道运行，但木星对火星施加的引力等微小相互作用，时不时会把这些行星稍微拽离平时的轨道，偶尔它们就会彻底偏离出去，有时两颗行星会相撞，或者有一颗会被甩出太阳系，比如有一条小行星带，我们认为就是几百万年前某次碰撞留下的残骸，即使是像太阳系这样看起来，几千年都没变过的极稳定系统，系统内部其实也存在长期的不稳定性，一旦你跳出最简单的系统，就会有大量细微的，不可预测或极难预测的偏差，它们偶尔会叠加起来，就像偶尔一群猴子，也能写出莎士比亚的作品一样，偶尔引力扰动能让一整颗行星偏离轨道，所以在当今最前沿的动力学里，哪怕你一开始面对的是一个，完全确定性，没有任何不可预测成分的系统，我们发现最好的建模方式，其实是用概率去逼近它，直接假设系统会存在一些，来回的随机波动，最终你的预测只会越来越模糊，而这似乎就是很多系统，所具有的混沌的根本特征，这六大核心思想，并没有描绘数学的全貌，但它们确实涵盖了，数学试图囊括的六个宏大主题，而且这样描述要精准得多，这只是让大家领略一下，如今前沿的冰山一角，第二章，数学如何解决科学问题，我把STEM视作一个完整的生态系统，最底层是基础研究，比如数学和其他一些基础科学，我们在其中探索，主要是出于好奇心的驱动，我们看到某种现象它迫切需要一个解释，或者需要进一步的研究，它可能不是一个为了应付眼前问题，而急需马上解决的现象，但看起来它应该有一个很有意思的答案 [00:29:50]
纯数学与科学发现的关系
# #712.陶哲轩：AI 擅长广度，人类守住深度
纯数学与科学发现的关系
陶哲轩：但看起来它应该有一个很有意思的答案，数学差不多完全就是这样，有好奇心驱动的，数字里有些规律，形状里有些规律，只是大家在试图做别的事时，顺便观察到的，而我们想更好地理解它，到某个节点，其他科学家能把那个规律，和自己正在研究的东西联系起来，某种数学上的数字规律，可能会出现在昆虫集群的行为里，或者出现在股市里等等，然后有时候一旦你理解了它，你真能把它转化成某种有用的技术，或者能开一家公司，靠着利用这种现象，提供某种相关服务来赚到钱，我们往往看不到，我们看不到那一步，我是说那已经是流程里非常靠后的环节了，你真正需要的是，做基础科学的人得和做应用科学的人交流，而应用科学的人得和做工程的人交流工程人员又得和产业界的人交流，如果你缺了其中一个群体，你就不会有这种从好奇心驱动的问题，一路走到实际商业成果的链条，比如以几乎零成本在全球范围内通信的能力，这就是尤金维格纳所说的，数学在物理科学中，不可思议的有效性的一部分，他观察到，数学家常常发现像，负数或弯曲空间之类的概念，仅仅是因为这似乎是，他们已经在研究的，数学对象的自然延伸，然后过了十年，二十年，五十年，某些科学家发现，这些纯粹出于好玩，或游戏心态被引入的概念，事实上正好就是，或者说几乎正好就是，理解某种新科学所需要的东西，所以这是一个非常不可思议的现象，而且我们其实仍然没有一个很好的解释，来说明它为什么真能起作用，好奇心驱动的数学如何带来极其深刻的科学突破，历史上有一个例子，就是平行公社的故事，欧几里德大概在公元前三世纪，引入了证明的概念，也就是能够从更简单的公理出发，去解释几何学里复杂的结果，比如三角形的内角和总是等于180度，他能够用更简单的公理来解释这一点，他提出了五条几何公理，他认为自己把所知道的，关于点角线的，所有其他事实，都归结成了这五句话，其中四条非常显而易见，比如如果我给你两个点，你总能在它们之间画一条线，诸如此类，这些都是非常直接，毫无争议的公理，但有这么一条公理，叫做平行公设，让他头疼不已，事实上，它最初的版本非常非常复杂，后来被简化了，但即便是简化版，也很有争议，简化版是说如果你有一条直线和一个点，而这个点不在直线上，那么穿过这个点，你能且只能画出一条，与第一条线平行的直线，所谓平行，我是说它永远不会与第一条线相交，公理的内容就是这样，你总能穿过任意另一个点，画一条平行线，而且只有一条，你画不出两条平行线，一旦有了这条公理，你就能做各种各样的事了，你就能推导出我刚才说的那句话，三角形，内角和，等于180度，以及欧几里德几何的，所有其他经典结果，但比起另外四条，真正优雅的公理，它是一条非常丑陋的公理，最终他们意识到，自己其实是发现，在欧几里德几何之外，其实存在着多种几何学，有一种叫球面几何，在里面根本就没有平行线，所以在球面几何里，代替直线的其实是大圆，比如赤道或金线而球面上这些大圆，总是会相交，你绝不可能做出两个平行的大圆，所以根本不存在平行线，然后还有一种更奇怪，更难直观想象的集合，叫双曲集合，在里面直线其实会彼此分散开，有些线一开始看起来平行，但它们会越离越远，而且事实上从一个点出发，现在你其实能画出，多条与给定直线平行的线，而这两种集合内部，是完全自洽的，最终大家也就接受了，世上的几何学不仅限于欧几里得几何，这就是最早被发现的两种非欧几何，球面几何和双曲几何，但一旦我们差不多摆脱了只有一种几何的观念，这就打开了所有闸门，人们开始研究各种各样的其他几何，也就是各种各样的弯曲空间，形状像甜甜圈或带扭曲的空间，存在这样一些几何如果你是右撇子，你可以出发去探索宇宙再回来，如果你出发时是右撇子，回来时就会变成左撇子，存在这样一些几何，你只要走上一圈，就能改变自己的朝向，这非常反直觉，或者你回来时，会比刚出发时，变得更小或更大，人们发展出了，所有这些几何，而且发展出了，一套非常漂亮的语言，来描述所有这些几何，它以波恩哈德利曼的，名字命名，叫黎曼几何，但这只是，出于好奇心的产物，我是说，存在着这些，抽象的弯曲空间，但我们生活的宇宙，看起来完全是平的，但后来爱因斯坦在试图理解引力时，他最终得出了结论，引力所起的作用，其实是以某种方式弯曲了空间和时间，他需要一种语言来描述时空如何弯曲，以至于光线不再走直线，有时还会相撞或发散，他问他的数学家朋友，有没有现成的数学工具，来描述这个对方说，有啊，有个叫波恩哈德黎曼的聪明家伙，搞出过这套理论，而他几乎恰恰就是描述，爱因斯坦场方程的绝佳语言，在黎曼几何里有曲率的概念，有些空间可以是正曲率，也可以是负曲率，结果用这种语言，表述爱因斯坦场方程，变得极其简单，基本上就是，质量和能量造就了曲率，时空的曲率和你系统里，拥有的质量和能量成正比，这就是爱因斯坦场方程的基本内容，不过，求解它们又是另一码事了，要给它们建模极其困难，就连如何给两个，黑洞相撞建模这个问题，用现代超级计算机，我们都很难做到，但一旦有了这种语言，写出这些方程，其实极其自然，数学上的好奇心，在几个世纪后，引向极其切实的，实际应用的另一个例子，就是球体堆积的故事当时有个英国水手，纯粹是好奇，他们船舱里，有一批炮弹得堆放起来，这些炮弹是圆的，不是方的，所以堆起来的时候，就会浪费一定的空间，他很好奇怎么堆炮弹才是最省空间的，才能在有限的空间里塞进最多的炮弹，于是他去问了一位数学家朋友，正好就是开普勒，开普勒最终提出，效率最高的堆法应该和如今超市里堆橙子的方式一样，也就是所谓的六方密堆机，你一层一层的堆，每一层差不多都是由炮弹或橙子排成了三角形网格，然后你在上面再堆一层三角形网格，稍微错开一点，然后再叠上去，它有一个规律的模式，这是最自然的模式，效率大约在76% 开普勒认为，这就是能做到的最好了，不可能有更巧妙的办法，再挤出空间来，但他其实证明不了这一点，所以这就成了著名的开普勒猜想，而且几个世纪以来，一直是几何学中，最著名的未解难题之一，在二维情况下，我想大概是在 1900年前后解决的，如果在平面上排圆盘，那是更简单的问题，那个问题里，有一种类似的三角形点阵，而且相对容易证明，这就是最优解，但三维的话，可能性就实在太多了，根本没办法，其实，直到现在，我们依然没有一个漂亮，简单，能有人类，完全靠自己理解的，开普勒猜想证明，这个猜想最终被解决了，我想大概是在1998年，正式发表的，但它需要计算机，它是最早的计算机，辅助证明之一，当时有一个审稿人团队，我记得他们说，自己无法核验所有的计算，但他们至少相信整体思路是正确的，但疑虑依然挥之不去，直到最近得多的时候，我记得是2014年这个证明才终于被转换成了，所谓的证明助手语言，也就是专门用来100% 确保无误核验证明的计算机语言，所以开普勒猜想，现在已经完成了形式化验证，我们现在100%确定它是真的，但数学家并没有止步于此，止步于这个三维问题，他们还想知道，如果是在四维五维或者六维里，情况会怎么样，那到了这里，当然就没有实际的，我是说，根本没有四维的橙子，或者炮弹让你去堆，但人们还是提出了这个问题，人们还会问，如果不是连续空间，而是一个离散空间，又会怎么样，特别是计算机科学家，一旦计算机科学发展起来，我们意识到，除了XYZ坐标，有实数给出的，常规空间的几何之外，我们还有兴趣，去研究比特川的几何，这听起来已经和，最初的球体堆积问题，向去甚远了，一方面是因为，现在的维度非常非常多成千上万个维度，另一方面空间，现在是离散的，而不是连续的，但它依然是几何学，而且很多用来理解，球体堆积的技术，在这种场景下依然管用，后来大家发现在这个，由比特川构成的，庞大超立方体力，尽可能高效地堆积，球体这个问题的设定，事实证明，极其具有实用价值，当手机变成数字化之后，你发送的每一个信号，比如图片文字或者随便什么，都被编码成了某种比特串，然后再通过无线网络发送出去，但其他人也在发信号，你不希望自己的信号被干扰破坏，被误认成别人的信号，所以你想把发出的每一个不同信号，在这个比特串空间里彼此尽量隔开，而在数学上，要把所有这些信号隔开，让它们绝不可能混淆，这个问题几乎就等同于球体堆积问题，只不过它是高维的而且是离散的，用来理解球体堆积的全部数学，好吧，就算不是全部，其中很大一部分数学，都可以用来设计极高效的球体堆积码 [00:39:50]
从高维堆积到压缩感知
# #712.陶哲轩：AI 擅长广度，人类守住深度
从高维堆积到压缩感知
陶哲轩：都可以用来设计极高效的球体堆积码，而且不仅是用来设计编码，还能告诉工程师通信的理论极限在哪里，比如在特定的无线频谱里，你到底最高有望每秒传输多少个比特，这为衡量你的协议有多高效提供了极好的基准，你就能给一段特定的频谱，无线电频谱定出该花几十亿美元来买，因为你现在确切知道，能通过它传输多少数据了，可以说整个无线通信行业的基础，就是怎么在极高维度里堆积橙子，我自己参与过的数学应用里，最让我自豪的一个，就是压缩感知的故事，有一次我在洛杉矶这边，一个数学研究所参加跨学科项目，碰到了我的一位朋友，他是统计学家，当时正和一个电气工程师合作，试图改进成像技术，医学成像，特别是MRI扫描，在那个时候MRI扫描相当慢，你得在那台扫描机里，躺上差不多三分钟，好从所有不同角度，采集足够的数据，让扫描能重建出高质量的身体图像，辨别出肿瘤，囊肿，或者任何医学上有必要查明的情况，但如果你只在机器里躺很短的时间，比如半分钟，拿到的数据就不够，要是你用当时的标准技术，也就是所谓的最小二乘逼近，试图用现有的所有数据，按标准重建算法来还原图像，得到的图像就会模糊，分辨率极低，根本看不出对诊断有用的东西，所以大家只能在机器里一躺，就是好几分钟，如果是小孩子，有时还得打镇静剂，因为小孩子到了差不多第二分钟，就会乱动，不听指挥了，于是他们尝试了一种新技术，不是最小二乘法，而是叫做全变分最小化的东西他们凭直觉觉得这种方法可能表现好一点，就在一些测试数据上试了试，他们原本只指望比最小二成，逼近稍微清晰一点，结果却得到了完美的分辨率，还原出的图像几乎完全准确，尽管他们只采集了很少的测量数据，这就像给人一份只填了10%字母的填字游戏，对方突然不用看任何提示，就能把剩下的所有字母全填出来，他们解释不了这个现象，就拿给我看，我的第一反应是，你们搞错了，你们不可能做出你们所说的那种结果，事实上我打算向你们证明，你们采集的数据里，根本没有足够的信息，来让这种测量成为可能，那天晚上我就回了家，我试图写出一个证明，证明根本不可能，只凭他们测到的那一点点数据，就准确猜出正确的图像，但在写证明的时候我发现我的其中一步行不通，事实上它证明了恰恰相反的结论，只要某个测量矩阵具备某种性质，它们做的事情实际上就能成真，接着我去核对了它们的测量矩阵，发现确实好像符合这个性质，这样我就真的搞懂了，这个方法是怎么起作用的，第二天我去找它们解释了这事，它们非常兴奋，随后我们写了几篇论文，引得其他所有人也都兴奋起来，它们偶然发现的这种方法，并不是全新的，曾经有地震学家也发现过，类似的方法，他们当时面临的是，另一个不同的问题，想根据少量的地震数据，来搞清楚断层线，定位地壳的断层线在哪里，天文学家也有类似的问题，想靠极少量的观测数据，来测量恒星之类天体的位置，另外还有两三个学科，也都遇到过这种，想从极少量信号中提取出高质量图像的，类似问题，在每种情况里，他们都找到了一些权宜之计，能从手头的数据里，多榨出一些获得更好的分辨率，但他们没法从数学上解释为什么管用，地震学家觉得这只是个窍门，而且只适用于地震图，天文学家也有个窍门，但也只适用于天文学，但当我们找到数学解释之后，我们发现这是一种通用的技术，也就是我们现在所说的压缩感知，它对MRI有用，对无线宽带也有用，对某些类型的传感器网络同样有用，一旦弄清了背后的数学原理，我们就能看到所有其他适用的场景，如今教科书里讲压缩感知，都是把它和最小二乘法并排放在一起讲的，有时候最小二乘法是正确的做法，有时候压缩感知才是正确的做法，有时候两者都不是它现在已经是一门发展得非常完善的理论了，我很庆幸能从最一开始就参与其中，这是数学和科学之间一次极其精彩的相互交融，这就体现了数学不可思议的有效性，数学上的发现往往最终成了，阐释物理现象的最佳方式，哲学家和历史学家一直都在争论，为什么会这样，我的一种理论是，无论我们学习什么，不管是数学科学还是其他任何学科，我们最初做出的理论或解释，往往都不是最好的，我们不知道什么才是最利落的表达方式，在你对某件事完全理解之前，你对它为什么成立所做的解释，可能过于繁琐，但真正的解释往往比我们，最初尝试描述这种现象时，更加优雅，更简短，更朴素，可要找到简短的解释，是需要时间的，因为你必须在某种程度上，抛弃那些你可能有过后来被证明并不正确的预设，比如爱因斯坦的相对论，在爱因斯坦之前，人们的核心预设之一，就是时间是绝对统一的，每个人对时间的理解都一样，对我而言的一小时，和你的一小时是一回事，那种思维定势，会切实阻碍你找到正确的方式来解释引力，尤其是引力，但只要你接受了每个人都有自己相对的时间观念，你就能找到正确的语言把事情解释清楚，数学家也同样试图把最初用非常低效的语言，去理解的现象提炼出来，试图找到对某种数学现象最简洁，最优雅的解释，我觉得只是因为简洁表达事物的方式就那么几种，刚好用来简洁描述某种数学现象的方式，也常常是简洁描述某种物理现象的方式，这就是我的理论，遗憾的是，我们只有一条科学时间线我们只有一部科学发展史，大概有100个科学转折点，数据就这么一点，能总结出一些理论，我很希望未来，在遥远的未来，也许我们会遇到其他文明，能看到他们的科学史，看看他们是不是也有他们那一版的，开普勒，爱因斯坦和牛顿，看看他们走的是相似的轨道，还是完全不同的轨道，我不知道，做数学很有意思的一点是，大家总有一种刻板印象，觉得我们都是天才卡在某个问题上，然后突然灵光一现，脑子里灯泡一亮，不知从哪就冒出个天才想法，其实我也很希望，这种事能发生在我身上，对我来说这很少发生，我做题时的实际情况是，我试了一种方法，行不通，好，那我再试别的，好像有点用，但到了某一点又卡住了，但现在我至少差不多知道，有一个障碍在那，我需要找个工具来帮我解决这个障碍也许我现在会找一个子问题，难度类型一样，但更简单，我先试着把那个解出来，如果那个能解，我就试着放回原来的问题上去，我就这么来来回回，很多时候你其实是在探索问题的副空间，也就是所有行不通的做法，到最后只要副空间摸得够多，前面的路几乎靠排除法就变清晰了，差不多只剩一种可能行得通的办法，有时什么方法都行不通，那你就放弃这个问题了，但会有这种反复的，你可能会称之为失败的过程，不过这其实只是去摸清不同方法的局限在哪，这样过了几周或几个月之后，答案就清晰了，但到了那个时候，那些难点你已经吃得太透了，你反而不觉得有什么神奇的了，你会觉得很自然，就好像你当然得这么做，因为前面有个难点，你必须绕过这个坑，你必须先走这一步因为你知道再过五行，你就需要这个假设来解题，你对这个问题摸得太透了，以至于一切都显得顺理成章，对，或者有时候你始终没解出来，因为你一直没摸透，最后就放弃了，我的感觉从来不是什么恍然大悟，而总是，哎呀我之前怎么没看出来呢，我太笨了，但往往正是不断的尝试和失败，让你真正做好准备，去找到去接纳正确的解法，我们对结果的要求，和我们对过程的要求之间，存在着巨大的反差，在结果上，数学出了名地，对正确性要求极高，对于一个给定的问题，正确答案，只有一个，错误答案有一大堆，我们给学生批改数学作业时，要是符号写错了之类，导致答案错了，就会被扣很多分，如果你最终答案里有数学错误，就会IP结果之一就是，很多学过比如高中数学的学生，在尝试做数学题时，会变得非常害怕犯任何错误，矛盾的是，得出答案的过程几乎完全相反，你几乎必须一错再错，必须先去试那些蠢办法，才能体会为什么聪明的办法行得通，物理学家尼尔斯·波尔说过一句话，专家就是在极窄的领域里，把能犯的错都犯过一遍的人，你不会把这些错误发表出来，你是在过程中去犯这些错，好找出正确答案，但前提是一定要先摸索过，大量错误的答案，我觉得把过程中的失败常态化非常重要，要去讲清楚每个成功的解法背后，都有几十次错误的尝试，这并不是因为尝试解题的人笨，而往往只是学习过程的一部分，第三章 AI如何永远改变数学与科学几个世纪以来，科学和数学发生了很大变化，传统上科学的两大范式是，理论和实验，比如你会建立一个理论 [00:49:49]
科学方法与 AI 的介入
# #712.陶哲轩：AI 擅长广度，人类守住深度
科学方法与 AI 的介入
陶哲轩：比如你会建立一个理论，像开普勒可能会提出，行星如何运动的理论，或者牛顿可能会提出引力理论，然后会有实验数据，你去做实验看会发生什么，再试着看理论和实验能不能吻合，数学稍微有点不同，它几乎完全是理论，纯数学里能做的实验非常非常少，倒是有过几个，比如高斯算出了前十万个素数，这很有名，那就是它用来做预测的一个数据集，它预测出了我们现在所说的素数定理，但理论和实验曾是科学的两大主要形式，后来出现了模拟，你就不必去做庞大又昂贵的实验了，有时候你只要在超级计算机里模拟一下，比如模拟一场飓风，而不用在现实中做，再后来又有了大数据，你不用只做少量实验，去证实或证伪某个特定理论，而是能拿几兆甚至几个pb的数据，去寻找规律尝试单从海量数据，集中提炼出定律，这是一种新兴的科学类型，但现在所有这些，做科学的模式都在被改变，因为我们现在也有了AI来帮忙，过去做科学的这每一种方式，都必须由人类科学家来做，你必须找人来做实验，找人来做理论推导，运行模拟，或者去梳理数据，其中一部分你可以用计算机，但即便那样，你也得去写数据分析工具的代码之类的，依然需要大量专业知识，现在我们有了自动化实验室，能自动做实验，你能找一个编程 Agent帮你跑模拟，也能试着用自动化数据分析，而且越来越多的，你还能做自动化的理论研究，你可以拿某个数学问题去问，这些假设和这些公理，会推导出什么后果，应该得出什么结论这些工具现在能规模化的做快得多，你有可能比任何单个人类科学家，跑出多得多的理论分析，但另一方面，这并不是我们唯一想要的，用慢办法做事是有价值的，一个花上好几个小时用纸笔推导，亲手在实地做实验，自己去给出现的，模拟条bug的科学家，他们往往能学到很多，额外的洞见，远不止得到他们想找的答案，他们能发现新现象，能看出关联，能看出和文献里其他地方，研究过的旧成果，有什么相似之处，而且他们能把自己发现的东西，讲给别人听，所以就有了这样一个悖论，一方面AI变得越来越强大，越来越能干，犯错越来越少，而且表面上看，他们正在实现，很多我们想要的，我们认为科学家想做成的目标，他们在做实验，分析数据写论文，但这可能会带来代价 AI学会了某种技能，却没有人类科学家，在做科学这件事上，变得更厉害，没有人能讲清楚，刚才到底发生了什么，为什么这个科学发现很有意思，为什么这个证明是崭新的，它有什么特点，又是怎么联系起来的，我们可能不得不去，重新构想我们对科学的定义，以及我们究竟想从科学中，得到什么，科学到底是为了什么，我们到底想做什么，当我们把AI工具，用在科学上时，是否存在优化错了目标的危险，我过去打过一个比方，科学有点像去徒步，你听说外面有个挺有意思的瀑布，很漂亮的瀑布，于是你决定和几个朋友去徒步找它，但你们得画张地图，你们迷路了，稍微迷了点路，但也许在迷路的时候，你们发现了别的有趣东西，并把它记了下来在去这个瀑布的路上，你又发现远处有一座更壮观的瀑布，你现在还去不了，但也许未来的某个徒步者，也能想出过去的办法，为了达成你的目标，有一个完整的经过，这个经过本身也很有价值，但这些工具，这些AI工具，它们可以像直升机一样，直接把你送到瀑布前，你能看到它，然后又飞回来，但关于怎么走到那里，你什么都没学到，除了你指定要看的那样东西，你可能看不到任何其他有趣的现象，所以尽管从技术上讲，你达成目标高效得多，但可能有些东西就丢掉了，现代AI 是有一种被称为机器学习的算法驱动的，它试图去预测数据中的规律，机器学习一个非常简单的例子，就是回归，如果你有一些输入，有一些输出，比如假设你观察到，给动物喂更多食物，它们会长得更大，对吧，你就可以把喂给不同动物的食物量，划出来再划出它们的体重之类的，图上就会有一些点，要是运气好，它们会吻合某条线，那条线就成了你的预测，要是你给这条狗这么多食物，它就会长这么多体重，但在现实世界里，你不会总是得到这种漂亮的线性关系，往往会有很多很多输入，有很多很多输出，而且关系可能会非常复杂，但有时候数据是有某种形态的，我们现在有各种巧妙的办法来察觉这种形态，并尝试用曲线去拟合这些输入输出，对支撑聊天机器人这类东西的大语言模型，粗略地说，他们其实只是在玩一个说出句子里下一个词的游戏，要是我说玫瑰是红的，紫罗兰是空白，填补这句话的下一个词是什么，你大概能猜到答案是蓝的，那就是一个输出，你可以想象这张巨大的坐标图，输入是所有这些没写完的句子输出是你想用来补全的词，在这个高维空间里有所有这些点，你想给它拟合某条曲线，尝试解释最可能出来的词是什么，有时候答案不止一个，你好我叫某某，在句末你能填的名字可能会有很多很多个，你并不总是能得到单一答案，但你能试着去得到，最看似合理的答案，大家尝试过这个，你手机上的自动补全功能，就是这么干的，比如你发短信输入一些内容，它就会推荐下一个词，有时候挺准的，有时候又很傻，一旦你有了这类操作，它就会产生某种动态机制，你就可以一直按，很多人就在手机上玩过，一遍又一遍地按自动补全，但你会得到一堆胡言乱语的句子，对吧，你会得到猴子在打字机上乱敲出来的东西，但LLM的奇妙之处在于如果你用足够多的数据去训练这些LLM 比如数以万亿计的数据点，并且真正去尝试拟合出尽可能好的曲线，而这需要耗费数百万美元的算力，以及好几个月的时间，然后突然之间，即使你在不断迭代，它依然能保持连贯，它听起来开始不像猴子乱敲，而是听起来像一个真正的人在说话，不知怎么的，我们还没有完全搞明白，为什么会这样，但似乎确实成立的是，像英语或其他自然语言中，包含着大量我们意识不到的隐藏规律，我们知道英语的一些法则，有语法规则之类的，但语言中也存在某种，人类习得的潜规则，和不成文的规矩，一个人类小孩，哪怕没有人教他们什么是名词，什么是动词之类的，仅仅通过持续接触这种语言，就能学会英语单词该怎么排序看起来你也可以教会这些模型，去掌握语言中的规律，甚至到了，你可以向他们提数学问题的地步 2加3的答案是，他们就会说5 他们已经被训练的，至少能答对简单的数学题，一旦你具备了，一点点说英语的能力，你就能进行某种循环，检查自己的工作，少犯错误，而且你可以用提示词，引导这些模型，一步一步进行，未经复合就不说出来，诸如此类，因此他们变得所谓的聪明了一点，甚至能解决许多非常复杂的任务，但他们骨子里仍然只是在猜下一个要说的词，这并没有真正立足于对现实世界的任何深刻理解，只不过是他们看过了英语或其他语言中的模式，吸收得太好了，以至于能模仿人类用聪明的方式说话他们表现出的聪明程度足以维持到蒙骗过我们，也足以维持到能替我们做有用的事，所以我们现在可以让LM给出一个证明，来解决某些数学问题，有时候给出的证明完全是垃圾，但如果你循环的次数够多，设置的检查够多，你真的可以开始获得正向的成功率，所以这是一种非常奇特的问题解决方法，这跟我们通常认为的智能，也就是非常扎实，讲究方法，从第一性原理出发的思考，可以说是完全正交的，这就像有一个，懂很多但稍微有点喝醉的人，在到处乱抛点子，但只要有足够的引导，你确实能提取出有用的产出，它其实算不上最前沿的数学，但你给它大量的数据，充裕的时间，加上很多其他的补丁和手段，它其实效果相当好我发现关于AI在科学，和其他学科中作用的一些争论，往往会默认采用，一维的思考视角，比如有容易的任务，困难的任务和非常困难的任务，人类能做到某个水平 AI能做到某个水平，那么哪个更好，这算是一种一维的思考方式，但我在与AI合作，并把他们解决问题的方式，与人类解决问题的方式，进行对比时发现，他们其实是非常互补的，人类专家会专注于深度，比如一个人类数学家，有成千上万个问题可以去研究，但他们会挑出一两个，自己觉得难，却又不至于难到无法解决的问题，而这些问题的难度又刚好足够，尝试在上面取得一点进展的过程，就能揭示出各种可以分享的深刻见解，他们的学生，其他合作者或其他人，或许就能在他们的成果基础上，继续做下去当我们把AI对准那些，所有常规方法都不适用的，真正难题时，他们依然非常非常不擅长，我是说他们只是在，胡乱猜测，但他们擅长的是广度 [00:59:47]
AI 擅长广度，人类守住深度
# #712.陶哲轩：AI 擅长广度，人类守住深度
AI 擅长广度，人类守住深度
陶哲轩：但他们擅长的是广度，所以如果你把他们对准，一千个不同难度的问题，有些可能确实太难了，但总会有一些，其实用现有方法是能够得着的，文献里可能正好有某种方法，能解决你的问题，或者可能得把两种独立的方法，结合起来，只是没有那么多人类专家，能把所有这些问题都看一遍，而且即便有人类专家，在看这些问题，他们也可能意识不到 1970年某本期刊上，一篇冷门论文里，其实就有能解决这个问题的核心思路，他们没有耐心也没有时间，去把哪种方法可能适用于哪个问题的，各种不同组合挨个试一遍，但AI会多少带点随机性的，对哪些方法可能适用于某个问题，做出一些有依据的猜测，其中一些会很蠢，但有些可能会奏效，通过所有这些组合，我们发现他们有时能抓住，其他所有人类都漏掉的解决方案偶尔专家们的共识，传统看法是错的，我们都以为某个问题有肯定的答案，但实际上答案是否定的，我们只是没有过多去关注否定情况，因为大家都以为答案是成立的，但AI可能就没有这种先入为主的观念，所以有时AI只是充当了一双独立的眼睛，于是某些我们以为非常困难的问题，就有了出人意料的简单解法，事后看来我们也许本该自己想到的，当面对范围非常广泛的问题时，他们正开始取得成功，并且能解决其中的一定比例，比如你扔给他们1000个问题，它们能解决其中的5% 那也解决掉了50个问题，你已经能拥有，在某种意义上，单纯从解决问题的原始数量来看，胜过人类数学家的工具了，被解决的这50个问题，可能不是你最想解决的那50个，它们可能只是随机的50个问题但这依然是非常让人印象深刻的，我认为作为整个行业，我们必须要做的是想办法，把这种在大范围内解决某些问题的新能力，吸纳进来，并且摸索出如何将它与我们现有的，非常缓慢地解决少数深度问题的能力结合在一起，开普勒发现其著名的运动定律的过程，是一个非常迷人的故事，它展现了这个过程有多么重要，开普勒了解了哥白尼关于行星运动的理论，哥白尼大致推算出了地球离太阳有多远，火星有多远等等，开普勒注意到这些轨道的比例，看起来有点像集合学中出现的某些比例，于是他最终提出，其实如果你取一些球面，每颗行星对应一个球面，当时已知的行星有6颗，它就可以在它们之间，内嵌5个柏拉图立体，比如12面体，正方体，正四面体等等而且他以为这会完美嵌合，并以此用5种柏拉图，立体解释了太阳系的形状，这就是他优美的几何构想，直到他设法搞到，地骨布拉赫手里那些，质量非常高的观测数据，其实这还是他费尽真来的，甚至可能算偷来的，当他试图把自己的理论，套进这些数据时，才发现其实对不上，按照地骨数据提供的精度，他怎么都不能让那些球面吻合上，在这个过程中他甚至发现，火星和地球的轨道，根本不可能是正圆，必然是某种别的形状，他花了好多年琢磨该怎么办，我不知道他到底坚守多久，那个正多面体理论，从他的手稿里能看到，他尝试过很多别的门路，他试过把原心偏置，后来某一刻他想到了椭圆，接着突然之间一切就都对上了，这确实说明理论和实验之间存在互动你可以提出一个理论，如果它跟数据对不上，它可能就不是个好理论，但事情也比这更复杂，在开普勒之前，哥白尼理论受到的一个批评就是，哥白尼自己都承认，他的推算结果比当时最好的预测还要差，当时最好的模型是地心说模型，是希腊人，以及后来的阿拉伯人和印度人，发展起来的，里面经过了大量的修正和微调，他们做出了一个，非常非常精确的模型，能以极其复杂的方式，预测所有行星的位置，而戈巴尼的模型表现更差，仅仅看跟数据合不合，未必是唯一的衡量标准，只有在开普勒提出了，他的修正模型，把轨道从圆改成椭圆之后，日心说模型才变得比地心说模型更准确，这告诉我们，科学就是这样，你不可能总能立刻得到反馈知道自己到底有没有解开一个科学问题，如果开普勒和戈巴尼当时有AI 让他们预测一个宇宙模型，很可能那些生成了正确日心说模型的AI 会被直接扔掉，因为他们最初的预测还不如地心说模型准，真正消化所有这些理论，看看他们跟我们所掌握的行星，运动，引力，等一切知识，怎么契合，是需要时间的，其实一个让人担心的点是 I速度太快了，这里有个危险，就是这些AI 会做出所谓的过拟合，整出一个极其复杂的模型，它跟现实规律毫无关系，但就是跟你的数据拟合得特别特别好，可是一旦超出这个数据集，它就无法外推，我们如何把AI融入科学发现的流程，会是一个挑战，它当然能加速流程里的各个具体环节，你能让实验更快，写代码更快写论文也更快，但整个科学并不会仅仅因为，每个单一环节变快就跟着加速，这里有个危险，当我们把AI用在科学上时，我们可能会优化错指标，我们在纸面上收获了所有这些亮眼的成绩，却发现科学并没有像过去那样，真正向前推进，但我们走着瞧吧，有这些工具总比没有好，但我们还在摸索怎么用才最高效，我们工作的一部分就是解题，试图给问题找到解法，以及做证明，证明本身是有一个生命周期的，首先，你得生成一个解法的证明，这在以前挺难的，但你生成出来的证明有些是不对的，所以你得去验证，检查它正不正确，这在以前也挺繁琐的，但这两项任务现在都越来越自动化了，所以我们开始看到，针对各种问题提出了，越来越多的候选解法，而且其中很多确实是对的但证明也变得越来越长，一旦是由AI写的，读起来往往不太舒服 AI生成的证明可能会花大量篇幅，讲一些非常微不足道的东西，而在论文最精彩的部分却轻描淡写，我觉得这是因为 AI分不清什么是难，什么是深，因为靠蛮力算对他们来说，似乎所有东西花的时间都一样多，而一个人类在论文最难的一步，自然会卡住，自然也就会在那一步上，花大量精力，所以你需要把论文里的证明，写得很好读，能给别人讲明白，然后其他人还得能对此感到兴奋，他们得认可他，觉得这很有意思，能帮我解开自己的问题，或者确实解释清楚了，为什么这个现象会成立，他必须得到认可，这也就是我们传统上，同行评审的作用，我们把论文寄给审稿人，如果审稿人对这个结果很兴奋，论文就被接收了，但有些论文可能技术上毫无问题也写得通顺没毛病，回答的却是一个根本没人在乎的问题，再到最后，他还得经过彻底打磨，写进教科书，讲给学生听，而一个正名的最初版本，往往不适合直接写进教科书，他通常写得非常累赘，步骤的先后顺序也不太符合逻辑，这需要一个消化的过程，得有人花很多时间苦苦思索，到底怎样组织，怎样编辑论文，才能让逻辑同样流畅，有点像剪辑纪录片或电影那样，所以我们现在发现的是 II工具加速了这个流程的前期阶段，但没能加速后期阶段，我们现在正在生成很多证明，也在验证其中的一大批，但理解它们并把它们整理成最终教材形式的节奏，依然是由人类掌控的，事实上我们现在正在经历所谓的证明消化不良，突然之间涌现出大量待处理的问题解法本该被理解并写进教材，但我们现在被太多解法淹没了，不得不去挑选，去做分诊，而这是以前，从来没有遇到过的局面，过去解法是极少出现的，一旦某个重大问题被解决了，所有专家都会放下，手头的一切去读，尽可能快地把它消化掉，因为它太罕见，太宝贵了，值得这么做，而现在，我们直接被所有这些，可能的解法淹没了，我自己都不得不放弃，去跟进我这个领域的，所有最新进展，有时候动静实在太多了，我现在没法保证读完，冒出来的每一项进展，我是说，甚至在AI出现之前，这就已经开始成问题了，但AI确实让生成出来的，内容总量大幅增加了，所以我们将需要，好得多的筛选和过滤机制，这是个甜蜜的烦恼，我是说，食物多到吃不完，总比没有足够的食物吃要好但这依然是个问题 AI在数学上的能力越来越强了，对像我这样在过去三年，一直关注这些进展的人来说，能看到一种稳步的推进，四年前他们能解初中数学题，接着能解高中数学题，然后是高中奥数水平的题，再然后是一些研究生资格考试水平的题，接着他们开始解几个小一点的未解问题，可能是保罗·埃尔德什提出过，但没什么人真正去研究的问题，所以很多都是唾手可得的果实，而就在最近，有一两次他们成功解出了一些，人们真花大力气尝试过去解的问题，不知怎么的，人类整体上都走偏了方向，而带着另一套偏执的AI 却设法拼凑出了一个解法，相当巧妙，而且已经产生了一些影响，比如单位距离问题周边的一些问题，现在也被借鉴了AI技巧的人类解出来了，我觉得这挺让人兴奋的所以我觉得对我的某些同行来说，这让人非常担忧，尤其是如果他们之前没跟进这些进展，没意识到AI已经到了这一步的话 [01:09:52]
AI 在数学研究中的现状与局限
# #712.陶哲轩：AI 擅长广度，人类守住深度
AI 在数学研究中的现状与局限
陶哲轩：没意识到AI已经到了这一步的话，如果一个同行只见过GPT-4 在2023年能做什么，那会儿要是问他一个高难度的数学题，他会给你一堆胡话，而他们现在已经大不一样了，我是说底层虽然还是同一种技术，但他们找到了降低错误率的方法，变得真正有用了，不过现在还不清楚，这有多大的可复现性，这些成果里有很多都是私营公司做出来的，他们没有公开消耗了多少资源，算力成本是十万美元吗，还是一百万美元，我们其实不知道，我们也不知道他们的成功率，他们解出来的这个问题，是他们看过的唯一一个问题，还是他们看了十个问题，又或者看了一百个问题，虽然成果令人印象深刻，但我们没有足够的数据去准确评估，这在未来会变成家常便饭，还是说只有花上十万美元，让十个人团队做上几个月才能出这样的成果，又或许我们关心的所有问题里，只有1%适合用这种方法，但我们不知道，但已经有人在努力尝试，用更严谨更科学的方法，去做基准测试了，最近的一个挑战叫做 First Proof Challenge 他们用一个包含10道研究级题目的测试集，去测最新的模型，最好的模型在这些中等难度的数学题里，能做出5、6道，这些题目本来就已有解法，只是解法一直保密，但我认为在我们日常科研所做的日常任务里，现在有一定比例可以交给AI来做了，成本可能会很高，其中许多工具在得出解法之前，跑一次可能需要花上几百美元，而且有时还会失败，他们消耗了所有这些算力，最后什么有用的东西都没做出来，我们现在在编程领域看到，很多资深程序员反映，有了这些工具后，他们写代码的效率提高了5倍10倍甚至100倍，但他们能感觉到自己手写代码的能力在退化，而且有时他们根本没法审查这些agent写出来的代码，这需要做权衡，速度并不代表一切，我非常喜欢数学里的合作部分，这是我职业生涯相对较晚的时候，才意识到有多重要的事，我学到的很多数学，都是研究生毕业之后，通过跟不同领域的数学家和科学家合作学来的，我把我懂得交给他们，他们把他们懂得交给我，我也因此涉猎得广得多了，当你跟一个合作了很久的合作者一起工作时，到了某个阶段，你们在思维上几乎能同频，你可能也有过这种体会，比如如果是非常要好的朋友或家人，聊了很久之后，有时候对方话没说完，你就能接下去，你知道对方要说什么，在合作时，有时也会达到这种状态，你抛出一个想法，一句话还没说完，对方就已经懂了而且能顺着它往下做，人们尝试过像这样去用AI AI确实是能跟你对话的，当然，他们有时也会犯错，他们有时还会迎合奉承，只挑你想听的话说，而且，目前跟这些工具的交互，有点缺乏人情味，比如我试过跟人当面合作，同时让AI也在场，但这样会打乱节奏，这些工具，其实并不真正具备对话的感觉，他们现在的对话，还不如跟人类合作者，交流那么流畅，也许以后能做到，直到最近，他们还不会从你的对话中学习，而对于人类合作者，你第二天可以接着聊，很快就能续上，有时哪怕是几年没见的合作者，你也能重新接上一些非常久远的话题 AI有一定的上下文能力，能记住一些事情，也能记录记笔记，来大致模拟这种记忆，但你目前还没法像对待，非常亲密的合作者那样，跟AI达到心意相通实际上在真正的解题过程中，我并不怎么用这些工具，到目前为止，我发现这些工具更擅长次要任务，比如查文献，检查证明，写点代码，或者教对我写的东西，看看有没有机会改得更严谨一点，我发现跟AI工作的节奏，不太像我更喜欢的那种，跟人类合作者共事的节奏，但这可能只是当前技术现状所致，也许未来的AI互动起来会更有对话感，也更有人情味，所以从整个科学事业资助结构的角度来看，我们目前处在一个略显危险的节点，因为一方面，这些工具让我们能够以极快的速度，生产科学产出，或者看似科学产出的东西，但这可能会牺牲培养下一代科学家的，种子为代价，比如，大家确实很担心，那些我们给研究生，做首批项目让他们获得，一点认可，职业训练和经验的，练手题目，如今 AI已经能复现，其中许多论文设计的，问题类型了，但如果用这些AI 取代研究生 AI是能生成，研究生水平的论文，可之后，我们就不会有，下一代学生了，而如果我们不继续，消化所有这些AI产出，来为下一代人类，和AI搭建，在此基础上，继续发展的知识根基，我们作为科学社会，最终可能会陷入停滞，我们将能把凭借现有技术，所能做到的一切优化到极致，但可能再也无法真正产生出，真正原创的新想法了，我们需要更开诚布公地讨论，技术科学到底是什么，它有什么用，以及为什么保持好奇心驱动的研究，依然很重要，为什么我们依然需要一个人类群体，去探索，哪怕有时很慢，有时不像最新模型的AI那么高效而且我觉得我们获得的见解应该更多的分享出来，多向公众做科普传播，我觉得今天的普通公众能看到科学显而易见的产出，他们有手机，有互联网，有GPS之类的，许多人看不到这整个过程，看不到对数学和科学的基础理解，其实会让周围的世界少很多可怕之处，变得清晰得多，我觉得很多人现在都生活在焦虑之中，世界太复杂了，我们对科学这些偏软性价值的强调，远不如对硬性的技术产出之类的强调那么多，但科学确实能让人的思维多一分清晰，这些都是宝贵的财富 [01:15:24]
Big Think编辑：需要得到支持，我们每年出四期纸质杂志，值得你放下手机一读 Big Think 也就是Big Think知识播客的这本高品质印刷杂志，包含专门定制的插画，以及来自全球顶级思想家的专业洞见，没有AI垃圾内容，没有挑动情绪的诱饵，只有给充满好奇心的人准备的深刻思想，支持你想在这个世界上看到的媒体，访问bigthink.com 斜杠membership即可加入 [01:16:03]