目录
- RSI 从被取代到创立新公司 [00:00:00 - 00:10:00]
- AI 研究中的导师与学生 [00:10:00 - 00:20:00]
- 从提效走向自我进化 [00:20:00 - 00:30:00]
- RSI 所需的研究能力 [00:30:00 - 00:40:00]
- 智能提升是平滑还是跳跃 [00:40:00 - 00:50:00]
- Recursive 的系统与初步成果 [00:50:00 - 01:00:00]
- 从机制理解到 AI 科学家 [01:00:00 - 01:10:00]
- 研究者的代际差异与动手能力 [01:10:00 - 01:20:00]
- 大公司与创业的选择 [01:20:00 - 01:29:30]
RSI：从被取代到创立新公司
# 178：与田渊栋聊 RSI：模型自进化如何到来？
目录
- RSI 从被取代到创立新公司 [00:00:00 - 00:10:00]
RSI：从被取代到创立新公司
曼祺：这些专业的专业，有什么关系？这时候，也许5年之后，我就被取代了。 [00:00:00]
田渊栋：这个时间可能已经快到了，在这种情况下，与其自己被取代，不如我就开公司。
曼祺：RSI非常需要coding和agentic的能力，这2个能力本身对这些前沿的模型公司来说，已经是它的主项了。我觉得RSI比coding agent要大得多，然后它的难度，然后它的可能的路径，比现在coding agent要大很多，所以你觉得就光有这个支点，其实不见得你就能做好RSI 你觉得有生之灵会看到，图灵奖颁给一个系统吗，我觉得如果到那个时候，可能图灵奖也不是很重要，我可能少数派往就是说，因为大部分人可能已经觉得绝望了，但是我觉得不是这样子，我觉得一定是有一个好的principle 能够让这个模型运转起来，我觉得它以后终将变成科学，欢迎收听晚点聊，我是曼祺，在171期节目二季度 AI 季报中，我们重点聊了RSI递归自进化，那之后不久的6月底，我采访了从去年开始，就在这个方向探索的创业者之一田渊栋，他参与创立的Recursive Super Intelligence的缩写，也是RSI 这家公司的估值目前已超过46亿美元，这期节目录制时，还没有发生一些后续的事件，比如OpenAI一局解决了10个数学难题 TML的联合创始人之一翁立，重新回到OpenAI 据报道，它将探索的方向就是RSI 关于RSI 有一个极有诱惑力，也十分危险的假设，就是率先达到这个状态的公司，会把其他人越甩越远，这个推演成立吗，我们这个事情，我们本期节目吧，这个时候我觉得，也许五年之后，我就被取代了，那么这个时间，可能已经快到了，那么在这种情况下，与其自己被取代，不如我就开公司，就RSI非常需要coding和agentic的能力，然后这两个能力本身其实对这些前沿的模型公司来说，它已经是它的主项了，我觉得RSI比coding agent要大得多，然后它的难度，然后它的可能的路径比现在coding agent要大很多，所以你觉得就光有这个支点，其实不见得你就能做好RSI 你觉得有生之龄会看到图灵奖颁给一个系统吗，我觉得如果到那个时候可能图奖也不是很快，我可能少数派吧，因为大部分人可能已经觉得绝望了，但是我觉得不是这样子，我觉得一定是有一个好的principle 能够让这个模型运转起来，我觉得它以后终将变成科学，欢迎收看晚点聊，我是曼祺，今天的嘉宾是 Recursive Super Intelligence的，联合创始人田渊栋，这家公司在经过，四个月的隐身研发之后，刚刚于6月初官宣 A轮融资6.5亿美元，估值来到46.5亿美元，他们做的事和公司的名字作写一样 RSI Recursive Self-Improvement 递归自进化，这是一个去年还相对小众，而到今年二季度，被硅谷频繁讨论的热门前瞻方向 Anthropic刚在六月初发布了文章 When AI Builds Itself 副标题就是我们在RSI方向上的进展和探索 OpenAI也再次明确了时间表，说在今年九月要做出AI研究实习生，在二八年三月之前，要实现真正自动化的AI研究员，我们和田渊栋一起聊了RSI是什么，为什么这个领域在现在变得火热，以及他们在6月中旬，刚刚释放的第一阶段的具体成果，还有那个关于RSI的有诱惑力，也十分危险的假设，率先达到这一状态的公司，会把其他人甩得越来越远，这个逻辑成立吗，我们正式进入本期节目吧，终于见到了田老师了，之前我们都是在线上聊的，对，然后上次采访是去年五月，当时我们聊的是，你的科幻小说《破晓之中》 对，然后这次再聊，我觉得是科幻已经照进现实，因为这期间有一个比较大的变化，就是您和很多其他的顶尖研究员，一起创立了 Recursive Super Intelligence这家公司，然后你们在做的一些事，也跟你当时的科幻设想，我觉得有一些契合的地方，你可以先和我们的观众，简单地用几句话介绍一下，就是这家新的公司是做什么的。 [00:03:40]
田渊栋：对这家公司呢，叫Recursive Super Intelligence 它的目的呢，就是说能不能找到，用AI来自我进化，自我迭代的方法，然后找到新的模式，新的那个范式啊。 [00:04:18]
曼祺：新的模型，新的训练的这个逻辑，然后得到更好的那个AI 是这样的一个逻辑，对因为你们的名字 Recursive就是递归的这个意思，然后它的缩写Super Intelligence 就是RSI 那和现在硅谷，讨论特别多的一个概念，它也叫RSI是一样的，那个是Recursive Self-Improvement 就是递归自进化，对对，其实我们这Recursive Super Intelligence 意思也就是Recursive Self-Improvement。
田渊栋：对所以说意思上来说，是非常接近的，因为这个概念应该说，从今年的4月5月份开始，慢慢变得比较火，就是我们在成立公司的时候，应该说大部分人还没有想过，这个概念，但是随着大家的这种意识和思考，就慢慢成为一个，应该说慢慢成为共识，大家发现这个模型已经比较厉害了。
曼祺：那个模型能够发现一些，就是模型自己的一些问题，通过这方式，其实可以存在一种可能性，就是用AI 找到对AI自己的模型的问题，然后让AI带领这个模型，变得越来越强，我觉得正好可以讲讲这个背景 RSI也是我想和您深入讨论的一个话题，也就像你说的最近这一段时间，我觉得它在这越来越成为一个相对共识性的趋势了，然后另一方面就是 RSI其实这个想法本身并不是那么新，它之前也一直都有，对对对，就为什么最近这段时间发生了什么变化，或者有什么因素导致大家在讨论，我觉得主要一个还是因为就是 coding Agent变强了，另外一个就是说模型本身的能力也在提升。 [00:05:24]
田渊栋：模型能力提升到一个程度之后，就是模型对AI自己的，这个模型的认知，它有一些，比较强的这个突破了之后呢，就是你可以用模型，来充当研究员，模型充当研究员。 [00:06:05]
曼祺：让它来找到这个模型的，现在模型的弱点，然后去做更好的优化，那么这样的话呢，这个闭环就会产生，产生闭环之后呢，那么下一次，这个模型变得更强，所以递归就是这个循环，往前推进的意思，对对对，但是这个要求条件是，这个模型本身，已经够足够强了，模型不够行，本身不足够强的话，那这个很难，其实去年五月，我们聊的时候，我们当时就，顺着这个科幻小说，是延展讨论了一个话题 AI会不会取代，顶尖的AI研究员，对，当时你觉得，这个短期内是比较难的，因为AI研究员，他可以从少量的数据里面，就获得一些精准，而细节的联系，对，但是大模型，至少当时的大模型，他还是要学很多，大量复杂的数据，然后通过统计，得到一种表达，那到后来年底的时候，因为11月，我们当时也就是在聊了一下，那会就已经在筹备，这个新的公司了，所以这个过程中间是，你本身自己的思路，是有一些什么变化吗，首先第一点，我还是现在还是认为，就是大模型，还是替代不了顶点研究员，目前还是不行，只是说是那个模型的能力。 [00:07:11]
田渊栋：已经到一定程度之后，你就觉得它确实可以用，就是我们确实可以用模型，来做一些就是研究的工作，我觉得这个是重要的，而且确实存在一种可能性，就是模型会变得越来越强，然后最终产生更好的，更强的能力，这个是可能的，其中一个契机就是说，应该说在五月份之后，大概在八月份的时候，我用当时GBT-5 我和GBT-5合作，做了一篇文章，对就是最近的一篇，就是Glocking的一些文章，那篇文章呢，就是说我会意识到，就是我在做完之后，我其实意识到这一点，就是模型的能力呢，已经基本上强到，让我觉得，我可以不用招式一生的水平，对因为有很多的想法和思路，完全可以通过，我跟模型对话来实现，那么通过这个方式呢，就是我可以给模型，一些具体的那个细节，一些比较细的这个方向，让它去找到新的想法，新的思路，证明新的定理，那么然后我这边可以，写代码呀，可以做一些那个实验，然后把东西做出来，那么现在写代码都不用人了，写代码都可以让AI来做，所以应该说，就是这个loop 就开始有转起来的趋势，这个时候我觉得，也许五年之后我就被取代了，那么这个时间可能已经快到了，那么在这种情况下，与其自己被取代，不如我就开公司。 [00:08:17]
曼祺：我就做这事情去，所以去年八月，你看到这个迹象之后，首先我想知道，当时这种想法有多少人有，因为你说到今年四五月，越来越多人讨论，对，在去年可能差不多大半年前，是什么样的一个情况，以及后来你怎么找到一些，跟你想法比较相似的人，一起来做这个公司，我觉得是这样，这个事情，你不亲手实践，亲身去体验，你是感觉不到的，对吧，如果你不一定。
田渊栋：把这个模型，当成一个实习生，或者把模型，就当成一个聊天对象的话，你是感觉不到这个变化，所以要等到，你把模型，真的把它当成一个，聊天，当成一个对象，然后可以跟它去合作。 [00:09:09]
曼祺：可以跟它去，做一篇文章的时候，把文章送到，我做完了，你会觉得，这个模型确实能力，已经比我想象的，要高很多，就你的意思是可能，到回到那个时间，对，这么做的人不见得很多。
田渊栋：就现在我们也见到，这样的一个情况，就是说有一些人，就比如说特别是，那些比较senior的人，他们一般来说，不会去思考太细节的东西，对吧，就是他们可能会考虑一些，比较high level的，比较高层次的，一些想法和建议，对吧，不会真的把模型拿过来，就做一个非常具体的项目，但另外一方面呢，就是一些比较，刚从学校毕业的一些学生。
AI 研究中的导师与学生
# 178：与田渊栋聊 RSI：模型自进化如何到来？
目录
- AI 研究中的导师与学生 [00:10:00 - 00:20:00]
AI 研究中的导师与学生
田渊栋：刚从学校毕业的一些学生。
曼祺：可能把模型呢，作为一些就是执行上的工具，不会去做一些比较难的问题，所以这样两边，其实是有一个gap在里面的，这个也Q到了，我们上次聊的一个话题，对，因为当时我们聊到了，你有年这两年，有在写年终总结嘛，有一年，我记得应该是，二三年的时候年终总结，好像说的一些，就你觉得怎么带团队的一些经验，对，到了后面一年，其实你就变了，你说的就是你想跟Hanzo 因为其实大模型，就当有一段时间之内。 [00:10:01]
田渊栋：就是你会发现，你不还这样的话，你有没有办法去真的知道，这个模型内部发生了什么，然后那个整个系统发生了什么，你不知道这些东西的时候，你指挥的方向就会出现偏差，那么这个偏差的方向呢，其实很难获得反馈，因为在传统的这个研究过程中，一般来说是，一个比较senior的导师，可能跟学生们说，我们要做一个方向，然后呢，这个导师本身呢，可能不会真的去碰代码，不会真的碰数据，但是呢，让学生们就去做这事情，让学生把这事情做完之后呢，然后反馈给导师，说这个事情是对的，还是不对的，很多时候呢，学生跟老师说，这个事情没做好，这个事情呢，不work 为什么不work呢，是因为有一二三四五这种困难，导师会说，我这个idea一定是对的，然后让学生继续去挖掘，总共有两种可能，一种可能就是说，学生发现了导师说的是对的，然后呢把事情做成了，还有一种可能是呢，导师的想法其实并不对，但是学生证明这件事情是不对的，然后找到下一个方向继续做，一般来说这个逻辑本身是，应该说至少要有几个月的时间，这个也是一般的一个科研项目的周期，这也是一个loop 这是一个loop 但这个loop的问题是，导师不直接跟具体的实验打交道，那么这样的话，导师从跟学生讨论，然后给学生一些指导，然后学生把指导做出来，然后得到反馈之后，跟老师汇报，这个过程一般来说，你只要需要几天的时间，有一个数字，就意味着就是，大家是以天位周期，进行这个问题的科研探索，就是说你可能需要几周，甚至几个月，才能把事情做成，但是现在有AI之后。 [00:11:22]
曼祺：应该说，特别是有非常强的AI之后，这个时间被压缩到几分钟，甚至更短的时间，你就说验证一次的情况，对对对验证一次，比如说几小时到几分钟的时间，就是特别是对一些比较简单的项目来说。 [00:12:13]
田渊栋：就是很多时候你有个想法之后，你大概告诉AI AI很快地把代码写出来，然后跑完之后告诉你这个结果，很多时候就是，也许你写完之后出去喝个口水，喝茶，然后跟别人聊两句，或者开个会，开完会之后。
曼祺：你结果你有了，结果有了之后，那你就可以看到自己的问题在哪里，然后可以有下一步的循环，就是你在描述，你最开始看到RSI的这个方向和前进的时候，对，就让我想到就是稍微岔开一点的一个问题，就是什么样的人，他能最早的去看到这个信号，其实你描述的是又有比较多的经验，他对什么问题是难的，是重要的有判断，同时在那个时间点，他又是非常一手的在做一些事，是的，这样的人是容易敏感的感觉到，就是当前风向的变化，所以这个人有可能也不是特别年轻，他和现在就是AI区域里面，因为现在会有一种观点，会觉得说你特别年轻，你来什么东西，你都可以很快的学起来，然后以前的一些经验，可能是负经验，是没有那么有用的，还不太一样，对可能还不太一样，因为我觉得以前是因为，就是说在coding agent。
田渊栋：还没有普及之前，或者还没有达到，这个人类能力之前，就年轻人很有市场的一个原因，主要还是因为年轻人，他的冲劲比较足，然后决策执行能力很快，很多时候其实别想太多，就是说OK 我上来就该干，对干就完了，干了就完了，基本上我应该觉得，过去的三年里面都是这样子，对就是从大语言模型出来之后，基本上年轻人很多时候，是有这样的优势，因为并不需要想太多，我们就skill up skill skill skill skill 然后就完了，这是非常简单的事情，所以通过这个方式，其实就应该说，大语言模型得以快速发展。 [00:13:32]
曼祺：所以你觉得RSI 这个风潮来了之后，反而是可以让，以往的一些经验积累，包括你沉淀的各种直觉，判断或者说技术品味，有更好的发挥的，对的我觉得是的，那签评又会摆到，就是怎么说，更有经验更年长的，一群研究员，对有可能是这样子，就可能是这样，当然了就是说，这个也是有很多的争议的，这个只是我的一个观点，因为确实现在，那个coding agent来之后呢，有很多的就是。 [00:14:13]
田渊栋：以前从来不写过代码的，就是或者说已经，当了比如说十年的，就是经理或者总监的人，突然开始写代码了，他们就觉得这个，爷的青春又回来了，所以其实有很多的人会有这种感觉，因为可能以前有想法，但是没有时间去实践，然后团队也没有时间和精力，去完成上面的人的每个想法和思路，这样的话，其实这些人的经验，其实很难被发挥出来，但是现在有AI Agent之后，应该说对比发生了变化，以前可能需要人去执行，那么现在执行的重任。
曼祺：现在落在了AI身上，然后人更多的是判断，然后逻辑上的一个指导，还有这个大方向的把握，还有研究的这个品味，这些东西是重要的，那回到就是RSI这个主题，其实像十年前 Google做的一个工作 AutoML 它也有一个类似的想法，就是它也是在用AI去优化AI 你觉得现在的RSI 和小十年前的像AutoML 这种类似的尝试，它的区别是什么，我觉得区别其实很大。 [00:15:15]
田渊栋：因为我们上一波也是做过了，我有很多文章也是做，就是Architecture Search 架构搜索，还有文章呢，比如说做那个AI guided optimization AI guided design AI辅助这个设计啊，这些方向，所以我觉得就是，上一波的问题就主要在于就是，我们没有一个模型，能够建模人类的高层的知识，高层的这个思路，这个是没有的，就是上一代的时候是，很多时候是让研究员来定义这个，速走空间的大小，速走空间的那个行为，然后呢让AI写成，做成一个算法，去找到更好的那个解，那么当然现在呢，就是因为这一波，大鱼模型来了之后呢，然后谈到这个程度，就是让这个模型本身，对这个AI 对这个AI本身，或者对这个架构本身，是有理解的，那么这个理解呢，可以部分代替人类的一些，那个定义问题的工作，那么这样的话呢。
曼祺：其实让这解空间变得非常大，而且应该说比较智能，不像以前，就是你需要人，去定义这个解空间，但它的一个区别，是在于人参与的，多少的变化吗，是的，就是说以前可能说。 [00:16:35]
田渊栋：就是人需要深度参与的，解空间的每一个细节，然后AI比较笨，只有在这个空间里面去搜索，但是现在更大的问题是，怎么样最大限度上，发挥这个AI的能力，能让他自己找到。
曼祺：这个解空间的那个结构，自己找到这个解空间的，一个比较好的方法去解它，这个是可能更重要的一个事情，您说到这个也涉及到，就对RCI的理解和定义，对，因为很多时候大家提起RCI 比如说OpenAI 也会说他们自己叫做 AI Intern 然后说到28年3月，要实现真正的，自动化的AI研究员，它都是和自动化联系在一起的，它好像都是指向说，把人从这个loop里，给解放出来，但是另一方面，就是递归自进化，就它递归的这一部分，我理解它又是有一个，循环上升的这个意思，所以就是你觉得，这两个东西，就是递归和，人不在这个loop里面，它是一件事。 [00:17:01]
田渊栋：是一起发生的，还是它会有一点区别，我觉得完全自动化，不一定很快会发生，就是说我觉得自动化的程度，很多时候是因为看，就是人在上面会做什么样的工作，而且就做的工作，它层级是什么什么程度，这个是最重要的，对，因为就比如说，你现在有AI了之后，有这个大语言模型之后，有些程度的工作，其实不需要人去做了，但是更高一级的工作，还是需要人去做，而且对更高一级的工作，要求更高了，所以这个时候，其实某种程度上来说，人是减少了他的时间，但是人可能需要更多脑力，去做一些更高层次的工作，所以人还在这个loop里面。
曼祺：这个loop的level更高一点，所以你觉得递归，是有可能会先发生，我觉得递归会先发生，我安全自动，我觉得现在还看不到，跟我以前的AI 代替不了顶尖人类研究员的，观点是一致的，那你觉得递归和自动化。 [00:18:19]
田渊栋：这两件事哪个更重要，我觉得这个事情，不存在重要不重要的问题，就是说一定是，按照模型能力，会慢慢的发展，对吧，你可能会发现，完全自动是不行的，还是需要人的一些指导，那么这个时候。
曼祺：自然就有递归的一个结构，对因为讨论到这个问题，也是就是在最近，确实和很多人在聊这个概念，然后有一种观点就是觉得，递归这个事更重要是因为，你一旦这个循环，跑到一定程度之后，掌握这些循环的组织，或者人或者团队，它就有可能进入一个加速度，加速越来越快的阶段，然后它就会可能，把别人就甩得越来越远，对吧比如说Aesopic和OpenAI 也许就有这种可能性，对是有这种可能性，因为就是说模型，可能会让自己变得越来越强，变得越来越强之后，这个模型能理解更深的东西，然后接下来，就会有更强的AI agent AI scientist 那么有这之后，它会发现自己更大的问题，然后就可以叠它上去，但这个讲的更多是，就是这个范式的一个转变，跟人在不在这个loop里面，其实关系不大，所以你也是觉得，这个循环的加速本身是，这个是可能的，这是可能的，但是它在什么程度上可能，然后我们需要做到什么程度，让AI变得很强才可能，这个事情还是需要做探索，最近就是这个方向很热闹，除了刚才我说到 OpenAI他们有一个时间表，关于我怎么去产生，真正自动的AI周围，但是他那个说的比较笼统，然后Anthropic是在今年6月。 [00:19:40]
从提效走向自我进化
# 178：与田渊栋聊 RSI：模型自进化如何到来？
目录
- 从提效走向自我进化 [00:20:00 - 00:30:00]
从提效走向自我进化
曼祺：然后Anthropic是在今年6月，他们发了一个长文，叫When AI Builds Itself 就是当AI来建造自己，以及这篇文章的副标题，就是我们在RSI方向上的，进展和实践，不知道你看了这篇文章没有，我大概看一下，其实就是应该说，还是刚才我们聊了，那个差不多的一个想法，就是AI能够让AI自我进化，自我迭代，然后越做越好，它里面讲了一些，它们内部具体的一些进展，比如说它说4月的时候 Claude 的 AI agent 端到端的独立完成了，一个开放式的AI安全研究，对，说它累计工作了800个小时，对，然后把一个Weak to Strong的，性能差距缩小了97% 如果是人来干的话，是一周可以缩小23% 这好像更多是一个体效，这到了我们刚才说的，递归自进化的程度吗，应该还没有吧，就是说我其实看了一下。
田渊栋：这个博客，就是说基本上还是，体效，就是说你看它的具体的解法，就是说找到一些各种各样的方案，让这个strong weak to strong的generalization 能够做得更好，对然后它有指标，通过这种方式把这指标提上去，对吧，那么里面的这种方法，应该说比如说，把里面representation拿出来，然后做一些分析，然后想办法，把这个模型做得更强，大概是这样的一个逻辑，但这些算法本身，应该说还是比较常规的，它就让它把很多，常规的想法和思路，放在一起，然后放在一起之后，然后最后它分数，能够往上踢，因为有分数之后，你才能做自我进化，因为现在除了分数之外，你没有其他办法，能够衡量这个模型，现在能有多强，就是说这个，这个Safe Improvement 最后它的效果好不好，所以一定还是要，靠那个分数，所以分数一般，是为具体体现为提效。 [00:20:46]
曼祺：或者说提高速度，或者减少latency 这样的一个指标，所以这个应该说是，就是说自进化的一个第一层，所以你觉得在第一阶段，它确实就是这样展现的，拆成子任务，然后看子任务上 AI自己是不是越来越好，是是是，这个是一般会这样子，你觉得Anthropic和OpenAI 他们理解的递归自进化，和你们有什么相同和区别，应该说大的方向上，都是差不多的。 [00:21:40]
田渊栋：我不觉得有什么，特别大的一个区别，就是可能有一些不一样的地方是，你像Anthrofix那个文章，对吧，就是他这么写的话，基本上感觉上是，就是说特别是在代码上，有自进化这个能力，但是呢，我觉得更难的地方呢，是研究上的问题，就是说AI research这个方向，应该说跟代码之间，还是有差距的 Anthrofix之前呢，一些工作，其实他们都是展示出来，就是说如果对一个EO的项目，我们能不能让它自进化，自动做好，比如说从头开始写一个Linux 我从头开始写一个 CIA编译器，那么这个东西都是说，应该说是有路径的，对吧，那么我们都知道怎么写，只是说这工作太繁杂，太繁重，太累了，然后很难去让人，或让一个团队，去把它写出来，但是这个问题，本身是有章可循的，但是呢，就是说很多，就比较难的 AI research problem 其实应该说，人都不知道怎么做，有很多的这个，很难的一些。 [00:22:06]
曼祺：一些比较要，要有突破性的进展，或突破性的发现的东西，那么这个东西呢，其实应该说是，应该说现在AI还是很难做，除了两家最受关注的Frontier Lab 就是OpenAI和Anthropic之外，这个领域，现在也有些新的公司的厂市，就你们之外的，有一个是6月25日才刚刚官宣的，叫Mirandale 然后他们是种子沦融了两亿美元，对，这些团队应该是来自DeepMind和Anthropic 另外就是之前更早成立的Sakala AI 他们也是在6月刚刚成立了一个 RSI的新的team 对，在东京，这些更多的尝试，一个是你觉得，可能反映了行业的什么变化，一个是你从，他们的一些表达里面，看到了什么有意思的东西，我觉得他们基本上，还是高层次来说，还是一样的，就是做这个地规自我进化，这方向上总的，应该说是比较接近的，应该说就是像，那个Mandrill那边，就是像Anthrofix 那个创始人们，应该说之前也跟我聊过，你说是更早之前，在筹备创意的时候，对对对，也没有说找我，只是说是当时问我要不要来，或者说就是说要不要去，那不就是找 Anthropic看看，对当时他还在Anthropic的时候，哦就其实那会儿，你从Meta 就是要可能要出来的时候，对对对 Anthropic也有一个邀约相当于，对对对就聊聊嘛，当时也聊过一次，也聊过一次，对后来就很有意思的是，后来他就走了，对所以我之前也跟大家说，我说跟我聊过的那些人都跑路了，包括Anthropic就是他，所以相当于你们看到了，相同的方向之后，你们都觉得出来做，就重新有一个Live 来做这个事，可能是更好的，对我觉得是有可能，会这样的这种情况，因为一个是就是说，现在OpenAId和Sophia 其实已经算大公司了，有很多人在里面，对吧，所以，现在没有OpenAId对吧。 [00:23:54]
田渊栋：肯定没有OpenAId 两三千人吧差不多，但是还是应该说，但另外一方面就是说，像这样的公司，应该说现在都要冲IPO 对吧，那对他们来说，最重要的是，要把手上的业务做好，手上的业务是什么 coding Agent 对吧，如果coding Agent 如果赚很多钱，能够让这个事情，做得比较好的话，那他们可能会，目标先把这个事情，先做好，对吧，那么所以有可能，他看到了这一点，所以觉得你还是。 [00:24:46]
曼祺：自己出来比较好，因为ISI这个方向，毕竟来说是比较远的，没有那么近，你说还有其他公司的人，找你也出来了，他们出来之后，新做的公司，现在是已经浮出水面了，还是有些仍然在水下。 [00:25:13]
田渊栋：没有没有没有，我当时说的是，就是说有些人是，作为大厂的一个高管，来找我，问一下呢，我要调个条，调调那边去，所以很多时候，他们都走了，就很多人，就是像苹果有，又走了，对吧 Amazon的人也走了，有些人也出来创业了，像Amazon那边的，那个，有一个，那个San Francisco Lab的头 David他也出来了，对，但是现在他们出来，准备做什么，我现在不知道，那你当时也和大公司，其实也聊了，你想就是继续做的 RSA的这个方向，大公司的时候，基本上你跟大公司，聊的时候，你很难去，决定你能做什么方向，很多时候跟大公司聊，大公司会说，我们想做这个，对。
曼祺：他们当时会有自己的一个想法，他们希望我加入之后，能够给他们提供助理，所以去年秋天的时候，就是你和这些公司交流，确实在当时没有很多人会提到，说想做这个，对，当时ISI还不是一个大众的认可，但ISI还是一个小众方向，我觉得现在至少在一些宣称和表态上，我觉得它看起来是变成一些公司的重点，就是OpenAI和SRP 都是有这个现象的，而且我就是跟一些，这些lab的人聊，我觉得他们自己确实，就里面的人，他们也很关注这个方向，所以你觉得像OpenAI和Anthropic 他们对这个事有多重视，有多认真，这个我不好说，对吧。 [00:26:06]
田渊栋：至少现在大家在说这事，只是就是怎么样能够，让这个事最终能成呢，其实应该说是更难的问题，对吧，现在可能大家讲的还是一个概念，一个是就是怎么样把这事情做成。
曼祺：怎么样觉得这件事情有多重要，然后它是不是将来的方向，至于怎么把事情做成，或者说什么是具体的一个metric 现在大家讲的不多，你觉得这有可能会成为，他们G-coding agent之后的下一个主线吗，这个我不知道，这个要看，我要问他们，因为有这样一种推论的逻辑，就是他们会认为说，这个东西就RSI 非常需要coding和agentic的能力，然后这两个能力本身，其实对这些前沿的模型公司来说，它已经是它的主项，所以RSI可能就是在这个主线，往下延伸的下一个方向上，就从这个逻辑来推论了，它有可能是它的主线，不知道你怎么看这种想法，我觉得RSI比coding Agent 要大得多，要大得多，对对我不觉得，就coding Agent 它只是一个执行者，你意思是说，它需要解决的问题，它的问题，对它的问题，然后它的难度，然后它的可能的路径，比现在coding Agent 要大很多，所以你不是指的市场规模，还是也包括那一部分，我觉得不是，质量规模当然是一部分，还有一部分就是包括，就是研究上的一些，可能的方向和逻辑，所以你觉得，就光有这个支点，其实不见得你就能做好RSI。 [00:27:54]
田渊栋：是的我觉得是这样子，因为其实很简单，因为对Code Agent来说，一个是大家已经有，可以用的Code Agent 对吧，就是大家都用，比如Code Code CodeX 然后最近的一些，开源模型效果也很好，这个方向。 [00:28:06]
曼祺：就是在做一些，基本功能的情况下，它也都已经做得，还挺不错的了，那么也就是说，而且因为有开源模型的存在，所以这件事情变成所有人都有了这个能力，那你觉得开胃模型的能力和AnswerPick 还有OpenEye的能力还是比肩的吗，比如说像GM5.2 像KeyMeter7这些，我觉得肯定还是有差距的，差距还是有一些，但是应该在接近中，你记得体感是越来越近，我自己想就是，当然了就是至少跟Opus4.7相比，你觉得就是GM5.2还是挺不错的，那和4.6比 4.6 4.7差不多吧 4.6 4.7差不多，因为有一种体感，是会觉得4.7 还不如4.6好用，我没有那么大的感觉，但是我感觉上，是4.6 4.7 4.8 没有太大区别，没有太大区别，只有版本后的区别，可能唯一的区别，就是说4.8 它的contact window变长了，所以这样的话。
田渊栋：用起来更舒服一点，因为像4.6 你在用的时候，用到一半，突然跟你说，我要compact history 然后你就等半天，等半天之后，它重新reset了之后，你再去问他以前的一些事情，他就不记得了。 [00:29:13]
曼祺：这个是他一个表达的问题 4.8 现在来说，没有这个限制的话，用一下会更舒服一点，所以在你自己，现在的实际使用中，像GLM5.2这样的模型，你觉得是已经很够用了，我已经说还可以吧。
田渊栋：应该说我也用过了，我其实也就是，最近刚刚从国内回来，紧急用了一下，紧急用了一下，因为大家都觉得它好，我肯定要试一试，一个是这样，它还是比较擅长，做一些比较执行上的一些工作，对而且这样的工作能做得不错，有一些事情，他就有些思考，可以做的还不可以。
RSI 所需的研究能力
# 178：与田渊栋聊 RSI：模型自进化如何到来？
目录
- RSI 所需的研究能力 [00:30:00 - 00:40:00]
RSI 所需的研究能力
田渊栋：可以做的还不可以，但有些时候呢，他可能会陷入死循环，或者说有一些各种各样的毛刺吧。
曼祺：但是总的来说，应该说还是挺好的，你刚才提到就是RSI 它整个要比coding要大得多嘛，你觉得它除了coding之外，可能它还需要一些，什么样的能力，我觉得一个很重要的能力。 [00:30:05]
田渊栋：就是说你要做AI scientist 你要做人的这个能力的话，就是人类研究员的品味，对吧，它的方向的感觉和理解，还有就是说，对一些问题的一个抽象能力。
曼祺：这东西应该说，现在模型都不太有，这个东西它如果总结下的话，它在模型里是属于什么能力，属于推理，属于reason吗，对这当然是推理能力，但是应该说很难去形容这种东西，也不是说reason就能包含的，对对对它比reason更大，在人的能力里面，它属于哪一种，因为推理内科，有很多种，推理这个词非常广泛，不是说你说，你想要的那种能力，在人的能力中，可能属于哪一种。
田渊栋：在人的能力中，就是说，大部分人也并不是有的，就是有一些，很强的研究员，他有这个能力，这是创造力吗，对应该说是创造力，应该这么说，就是说可以把一些概念，从一些纷繁复杂的。
曼祺：表象中抽取出来，并且加以总结，加以思考，然后继续再应用，新的问题上，这样的能力，其实就是你之前说到的，从少量的样本，你就可以看到精准而细节的连续，对对对，但这个能力应该说，现在的模型还很难具备，其实这是对人来说，真正的grokking的，对的，应该说是人跟大模型相比，人比较大的一个优势。 [00:31:11]
田渊栋：因为大模型现在能力很强，还是因为有大量数据，所以对于那些非常常见的数据，然后说是重复的领域工作，这些工作来说，大模型有无穷无尽的数据，所以它可以学会，但是对那些数据量很少的，或者说像科学家这样，开创性的这个领域，就是问题应该说是存着不穷的，然后你每次做实验，然后每次探索，都会发现新的问题，那么这个时候，这些问题的理解，就是它的相应本数据很少，那么这样的话，你让AI去做，恐怕是比较难。
曼祺：你觉得就是计算机科学，或者具体到AI这个领域，它本身在学科特性上，相比于其他一些自然科学，会不会它本身就数据更负起，更不需要你说的那种能力，它也能往前推，计算机科学你看嘛，计算机科学也很大，它又有工程的上面很多能力，其实应该说是，大家已经还会实践过了，那么这些能力，其实应该说AI已经有了，对就可能不太需要，你刚才说的，灵光乍现的东西，它也能往前走，对的。 [00:32:13]
田渊栋：还有一些能力，比如说像应用研究的能力，就是比如说你把，你按照某个固定的逻辑，或者某个固定的计算方案，或者说是个思维方式，解决一些问题的能力，这个能力AI现在也是有的，就比如说你让AI去解一道数学题，那么对数学题来说，这道数学题可能相似的题目，已经出现很多次了，那么AI就能够学会里面的模式，然后找到更好的解。
曼祺：但是有很多问题，就很难去找到固定的模式，或者这个模式应该说，是以前没曾出现过的，这些问题就是AI就很难去找到答案，对因为我想问的就是，至少在第一个阶段，就不说AI for 其他的自然科学，就在AI for AI的这个阶段 AI学科里面，实际上它有很多，这种情况的问题，就是我需要在很少的样本里，我就找到一些，可能没有固定模式的新的，是啊，就是一个非常明显的例子。 [00:33:05]
田渊栋：就是说比如说像Glocking 像怎么样理解，模型本身的那些问题，那么模型本身有学习能力，然后它怎么从数据中，学到这个模式，然后怎么把这个模式，拓展到其他方向，那么这个问题本身，一个它没有现有数据集，因为如果有数据集的话，那问题就解决了，没有数据集，然后对这问题的，这个理解的方式都不一样，其实应该说就是，怎么样去理解AI 怎么能够认识世界，怎么能够发现，这个新的pattern 怎么产生涌现的，应该说有很多很多人，做了很多尝试，我们比如说2013年 2014年开始，就是大模型，或者说深入学习，一开始的时候，就有很多很多，那个做理论的人，他们想用各种方式，去解释它，比如说物理上，比如做充电化群，对吧，然后物理上还有像，那个什么，那个spin glass 就是什么，那个自旋玻璃，那么有人用过，对，还有比如说数学上的一些方法，比如说之前有过很火的，像那个new talent kernel 就是什么神经正切合，对吧，这些方法，就是他们有很多不同的观点，还有说BS的方法来解决，对吧，还有像高斯过程的方法来解决，那么有很多很多方式去，去研究这个模型，是怎么样产生这个涌现，怎么样学习东西的，那么这些角度，应该说是都尝试过，但是都没有特别满意的结果，如果你要真的要找到一个，新的对AI的这个理解，那么这个理解可能是，跟其他的方式都不一样，对这个时候你要让，那个AI去找。 [00:34:26]
曼祺：让AI去发现，这个时候你就很难，就是通过照搬已有的这个逻辑，套在AI上来完成，这里我的一个问题就是，您看从13年到14年，这么多尝试，他都没有去，很好的能解释AI 但好像另一方面，这也不影响 AI在突飞猛进的发展，对的，我没有说这件事情，会影响AI突飞猛进的发展，我只是说，就是作为一个 AI scientist的工作来说，对吧，如果比如举个例子，我要让AI scientist去研究，去理解这个AI是怎么运作的，那么这个问题，本身就是难问题，因为过去的人都试过，而且用的pattern 都是不一样的，对因为我是在想，就是回到你们公司的目标，或者RSI的这个目标，对，就这个目标，他说让AI自进化，或者说AI帮助AI进化的，更快这件事情上，是不是我不用处理一些，特别深的理论问题，我可能也能实现这个目标，是的，这就是RSI好的地方，因为对RSI来说。 [00:35:04]
田渊栋：就是它不是那种像无人车那样，要么是零，要么是一百，而是非常有很多阶梯的，因为你RSI处理阶段，就能够做很多事情，就比如说你刚才说，那个优化各种，那个算法，然后提高性能，这个部分 ISI也能做了，但是它本身也有效果，也有一些实际用处，所以说你，它的第一级台阶，本身就有很多实用的价值，等到它到第二级台阶的时候呢，它可能有更深的东西，能挖出来，那么可能生涯就会更大，那么最终呢，可能我们会有一个，非常难的，非常高的一个目标，比如说我们希望 AI成为像，爱因斯坦或者牛顿这样的，这样的大脑，那么这样大脑，可以通过很少样本，获得很深的知识，那么如果这件事情成了，那么应该说，那个AI就非常非常厉害了，但这件事情呢，就是是个非常难的问题，就算我们没有做出来的话呢，本身这个东西的应用呢。
曼祺：也是很多的，那回到就是我们，刚才这一轮话题的起点是说，在coding之外 RCI还需要什么能力，你刚刚说有一个，就是类似于Glocking的这种人，其实可以产生某种灵感，和联想的这种能力，对。 [00:36:52]
田渊栋：还有什么你觉得，对我觉得这个是重要的，还有就是说一些就是 identity的behavior 对吧，这个也是要的，就是说你AI怎么用，定用工具，怎么动用各种各样的，那个也有的知识，然后获取新知识。 [00:37:05]
曼祺：然后获取各种，把这些事情放在一起，完成任务这样的能力，对吧，那这个能力其实，某种程度上可以说是，核心的公司，已经有了，对已经在探索，已经在往前推的，对，所以对新公司来说，我觉得好的一面是，你们有很多能力，是可以直接用，是的，然后可能会有压力的一面，就是因为他们也有这些能力，所以他们可能也会往这个方向推，对但是这样的能力。
田渊栋：应该说很多开眼模型，或者说很多EO的解决方案，已经在那了，所以就这些能力，它有多大程度，会左右最后的IS的结果，其实他们应该说，每个人想法是不一样的，对还有些能力，当然说你怎么去收集信息，然后从信息中找到，一个最重要的信号，那么这个部分应该说，就之前做deep research 这些方向上也已经，就有很多人有了工作，我的一个感受就是，最近这段时间。
曼祺：硅谷非常热衷地讨论RSI 它有一个假设，就是谁最先达到这个状态，就会把其他人甩得越来越远，而且这件事是有一个窗口的，就可能你过了一个时间，你还达不到的话，你就无远这个决赛圈了，你觉得这个逻辑，它有什么漏洞吗，这个逻辑应该说，还是比较正确的，但是应该说有这种可能性，就是说对于AI来说，如果它没有突破性进展的话呢，所有人AI都差不多。 [00:38:10]
田渊栋：对吧，就是说它不是一种，渐进式的，这种一点点往上走的，它是一种突破式的往上走的，这种路径，比如说所有人，在没有达到，某个level的模型之前，大家都差不多，都还是不错的，但是也许有一两个人，才能突破了，那么突破了之后呢，他会达到下一个层次，那个层次上的AI 它的能力呢，是远远高于，前面层次的AI的，那么这样的这种情况下呢，就是说，那么整个level 我说起得更快一点，所以它可能不是接近式的，他的一个推论就是说，其实也许还是有一定空间，给出场公司的，因为如果是接近式的，如果你觉得，现在Skinlord这条路线，就一定能通向RSI 那么出场公司，是没有什么机会的，为什么呢，因为现在OpenAI和Software 都已经做得很好了，那么他们如果加入RSI 他们是不是一直往前走，要不然他们永远比别人，可能更快，我理解你说的意思。
曼祺：它其实就是一个加速度，你可以一直往前冲，或者我可以举一张例子，比如说一个RSI这个系统，这个系统肯定会，让效果变得越来越好，就是说你看，从这个系统开始出发，它会有一个S型曲线，一开始涨得很快。 [00:39:29]
田渊栋：然后因为有些评点会停下来，就会到平台期，直到下一个突破出现，然后再次出现S型曲线，再上去，这样的一个过程，对，就是S型之后平台，然后S型之后再平台，再次再平台，这样，所以你每个平台，应该都对应一个突破，所以如果你没有达到。
智能提升是平滑还是跳跃
# 178：与田渊栋聊 RSI：模型自进化如何到来？
目录
- 智能提升是平滑还是跳跃 [00:40:00 - 00:50:00]
智能提升是平滑还是跳跃
田渊栋：所以如果你没有达到，这个突破的话，那大家做得再好的话，就可能在这个，就是无限的，就是逼近那个，之前那个效果的上界。
曼祺：你对它接下来的，这个发展是，直接这样往上的，还是它是，渐进式的有平台的，我觉得是有平台的，你发现了新的东西，新的想法，那么你这个，用这想法产生的模型，会变得更强，然后变得更强之后呢，你才会有更好的想法去做，那么就是它是一个，阶段是跳跃的，你觉得这个想法，现在它主流吗，现在应该还不是很主流吧。 [00:40:07]
田渊栋：但是我觉得这当然是完全取决于，就是大家对于scaling law有多大信任感，如果大家觉得scaling law 100%是对的，那么就是说其实并不存在这样的平台期，就是我只要大家对算力，对计算资源，对那个各种东西，我们的能力就会越来越强，那么这样的话，这个，这个递归自我进化这件事情，就一定是一个非常平滑的过程，我比你快一点，我就一定比你快更多，比你快更多然后就会上去，对那么这样的话呢，任何一个创公司不能追上 OpenAI 或者是Shopify 因为他们一定会在更前面，让他追得更快，但是我觉得不是这样 scaling law 可能不是全部，它可能是对的，只是说它需要百分之一百，不需要很多很多样本，它的横轴是指数机的，所以说你需要十倍的资源，十倍的数据，十倍的各种东西，然后最终能够达到现行的增长，那么这样十倍的资源，其实应该说，现在已经开始又平静了。 [00:41:27]
曼祺：所以哪怕这个理论它是对的，但是它也有一些，别的现实上的限制，对这个限制应该说，是很大的限制，就是说你不可能让全世界，整个地球的电力，都供应给你一个人，做这个自我进化，是不可能的，肯定会有博弈，肯定会有一些限制，所以应该有更好的，更有效的方法去做这事情，这个也是你之前，反复又讲到过的，你曾经说过，如果Skinning Law就是未来的话，你觉得那是一个，比较悲哀的未来，那也非常无聊，非常无聊，没有新的知识上的突破，暗示，我相信是会有智商的突破，有智商的突破的话，就是这个RSI这个loop 本身是一个，原叙事上的这个loop 因为不管你是什么模型，都能做这些。
田渊栋：但是具体的就是，支撑这个叙事的，这个底层的架构，和底层的这个数学，和一些这个模型的一些结构，应该说是会有突变，对就刚才我们说。 [00:42:11]
曼祺：是否达到RSI这个状态之后，强者愈强，领先者越来越明显，你说有一个变量是，它接下来的走势是渐进式的，还是有S型的平台的，还有一个我觉得有可能的变量，就是说这个智能未来的空间。
田渊栋：它有多大，空间很大的，我觉得我们刚刚开始，我们现在还是，就像我那本书一样的，叫破晓之中，就是我们刚刚才看到，一点点的星光，就太阳还没露头，我觉得应该是这样的状态。
曼祺：只是你觉得它的前途是光明的，但道路是曲折，对，因为我们毕竟是生活在地球上的，一些非常可怜的，猴子变来的生物，对吧。
田渊栋：就是说一直以来，看的那些东西，都比较粗浅，或者说比较简单，对吧，这上面应该有很多，很多东西可以做，只是我们看到的东西，非常少，所以我们只能看到这些，我们不能看到，非常非常远的未来。 [00:43:02]
曼祺：那这个想象往后是什么，我们最开始是，猴子变来的生物，可怜的生物，看到粗浅的东西，再往后了，对再往后就是说，如果真的是有，就是ISI普及了。
田渊栋：然后所有人都有超越，我们以前智能，趁着很多很多层次智能的时候，那么整个世界会完全不一样，你可以稍微讲一下，你觉得会怎么不一样，就是说以后我们之前，所有的世俗上的一些东西，可能都能够满足，因为所有的欲望，或者所有的要求，都能够被AI所满足，就是就进入了修仙社会，就是说演出法术，什么演出法术，我说这句话，这句话一定会真的，比如我今天有个大房子，马上就有个大房子，我今天说我要去，去海边旅游马上旁边就是海，对我说我今天要改变整个世界，把它变成我想的样子，它马上变成我想的样子，你可以回去当皇帝。
曼祺：你也可以去任何地方做你想做任何事情，但是在你自己写的科幻小说里面，它后来虚拟世界里还是加了一层限制，就本来那是想要房子就有房子，后来也有了房价系统，对的那是因为如果是这样的话。 [00:44:05]
田渊栋：对于这个世界来说，就是大家可能失去了一个动力，对失去动力的话就会有一个新的问题，一旦失去动力之后， 那么人类社会怎么发展， 这个是一个很大的问题， 在小说里面呢， 其实应该说迭代两次嘛， 就第一次迭代的时候， 发现这个事情不是很成功， 那么推翻重来之后， 再迭代一次的时候呢， 就是作为这个， 作为这个虚拟世界的管理者， 可能会思考一下， 怎么能让人类在享受这些， 那个非常便利的方。
曼祺：那个进入进步之后， 同时能保持向前的动力， 这个其实是很大的问题， 你说这个未来里至少有一件事， 我觉得是很美好的， 就是一些现在很难克服的病痛，是可以消失的，对对，我相信是这样子，这是你自己的一个个人的愿景，还是你们，因为你们新的公司，其实也是以这个而在为一个共同的方向，对对对，你们合伙人之间也会去讨论这种事情，也会有相同的愿景。
田渊栋：那些什么修研社会之类的东西，那肯定是我自己愿景，对，那是更像是偏小说的，更偏那个类似于科幻的，这样的一个想法，对对对，就是至于公司来说，我们还是希望，把这个事情做成。 [00:45:11]
曼祺：因为这是一个实现上，或者说是一个具体的，执行层面上的一个工作，而且AI for AI 只是你们的第一个大阶段，你们后面还要进入，别的科学领域，对比如说你对AI for AI 能做得比较好的话。
田渊栋：我们如果能够找到新的方式，就是说产生新的架构，或者新的理论，或者新的模型的优化算法的话，那就认为这个系统本身，对一个问题的理解深入很深，那么这样的话，我们是不是可以。
曼祺：用这个系统做别的东西，那我们接下来来聊聊你们最近的一些具体的进展，因为你们在6月初正式官宣之后，到6月11号是释放了第一个成果，当时你们发了一篇技术博客 First Steps Toward Automated AI Research 通往AI自动化研究的第一步，可以讲讲这是一个什么样的进展吗，对这是一个初步的进展，就是说证明我们的系统还是可以做一些事情。
田渊栋：比如说我们用它来优化NanoChat 五分钟的训练，能够让它BPP这个数字，降低比较低，比如说比Community的数字还要低，比如说我们可以用它来做 NanoChat的Speedrun 让速度变得更快，最后算子优化这部分，就是我们找到了一个新的算子，这个算子也是通过，我们的系统来优化的，优化完之后，算子的效果应该说。 [00:46:12]
曼祺：比现在最好的Soda 还要好不少，就是一些成果，你们都是开运了的，对的，这一次的进展发布之后，有什么有意思的反馈吗，总的来说，有很多的比较positive feedback 大家都会觉得，这个结果还是不错的。
田渊栋：比较impressive 那么我特别，我个人特别觉得，特别是第三部分，就是关于算子优化这部分，因为这部分，应该说是，一开始是我一个人，大家加个AI 做到SOTA了，一个人加个AI 就SOTA 然后。
曼祺：可以图下是加了哪个AI吗，当然我就不能说了，因为这也是我们自己做的，就是你们自己的系统，对，并不是说是外面的系统，然后在网上的话，大家都很兴奋，因为一开始大家都觉得，它挺难的，对后来做到Soda之后，就很兴奋，就有很多人一起来做，最后达到更好的结果，为什么要去做这件事，你怎么看到SOL 这个benchmark 这个benchmark应该说。 [00:47:04]
田渊栋：一开始是英伟达的，最近才发布的，应该说比较新，另外就是说，算子优化本身，也是很重要的一个工作，因为算子变快了之后，它能够对于 AI的model training和serving 都产生影响。
曼祺：那英伟达他去做这样一个benchmark 他也是为了去服务RSA的推进吗，不是，因为对英伟达来说，做这benchmark应该说是，他最多是就是看一下，就是我们因为对AI来说 AI算的变快，对英伟达来说是好事，所以他无所谓，你是人来做的，对他并无所谓，还是系统做到的，对对对，对他来说就是，对为他的硬件配备更好的算子，人工让这个速度变快，效率变高，对他来说总是好事，然后你们这次做的这三个测试，是用同一个系统去跑的吗，还是说它需要，针对不同的测试和任务，做一些修改了，它同一个系统去跑，同一个系统去跑，所以是个通用的东西，对是通用的，我觉得你们选的这三个 benchmark还挺有意思的，一个刚好是我算力是限定的，我去看性能，对吧，然后另一个是，我是看它的efficiency的，对，就是我是看效率的，对，然后最后一个算子油化是，可以作用在infra上的，对，也涉及到就是模型，其实几个比较主要的，不同的环节，是的是是，你们当时是怎么计划和思考，去做这样一个成果的，很多时候也是，一个是机缘巧合吧。 [00:48:40]
田渊栋：对你当时最后那个算子，优化是有些机缘巧合，对机缘巧合是一个，然后还有就是说，也有很多的这个，看那个什么东西，确实对我们来说是，相对来说是比较容易的第一步，我们一定会先去做的，就是这样的话，有一个很好的。
曼祺：一个一开始的那个结果，通过这方式，也可以这样忙忙想做更好，你们是把你们做这个东西，称作系统，为什么不把它，叫做一个agent 因为我们还是希望，细节不是比较保密吧，成为系统来说，就是说战斗化，就是你可以保留，各种可能性，那如果说系统本身，你觉得不方便展开了的话，你可以讲讲就是，你们现在就选的，这三个benchmark 它分别是在测试什么能力，如果再往后，它有没有一些。 [00:49:06]
田渊栋：比如说组合起来的，更大的空间，这个就是说，其实虽然说是，主要还是测试，比如说它在预计链上，能不能找到更好的想法，更好的思路，对吧，然后在算子上，能够找到更好的算子，所以他们的功能特点。
曼祺：就是说他们的反馈比较快，对吧，就是很快能够获得一个反馈，然后这个系统，能很快地跑起来，因为你们把这个，称为叫做first steps 对，那更总结来说，你们是怎么设定，低规次进化的，第一阶段的目标，第一阶段目标。
Recursive 的系统与初步成果
# 178：与田渊栋聊 RSI：模型自进化如何到来？
目录
- Recursive 的系统与初步成果 [00:50:00 - 01:00:00]
Recursive 的系统与初步成果
曼祺：第一阶段目标，当然是希望这系统，能跑起来，然后有一些初步的结果，对吧，所以我们现在，是达到这个目标，那你们这个系统，接下来是你们，自己继续用之外，因为其实之前你也说过，你们一开始就有考虑一些商业化的事情吗，就是你们有了这个初步的成果之后，它在商业化上是马上会有些动作吗，还是一个什么样的，我们当然会继续去优化这系统，然后让它做得更好一点，商业化呢我们也在思考中，当然就是说。
田渊栋：我们还是希望这系统做得比较一般化，就是解决通用的问题，那么这样的话呢，我们不会说因为一两个具体的vertical 让这系统变得非常特殊化，这样的话可能就失去了一般化的意义，然后回到这次具体的成果。 [00:50:26]
曼祺：你们在这三个 benchmark上，都取得了SOTA 但如果只看这些数字的话，直观的感觉，是它一些改进，好像是非常小的，其实不是这样，其实应该说这些数字，还是比较让人印象深刻的，比如说哪算有话来说，因为这个方向。
田渊栋：一开始是我这边来带起来的，我觉得一个是重要的是，你看我们当时战胜第二名，第二名有个公司叫AAI AAI这公司是以色列的那些人做的，那么他们那边的CEO是Sasha 他应该说是以前Mobileye的CEO。
曼祺：Mobileye应该说是一个非常久远的公司，他一直做非常强的这个，就是端测的或者说在chip上的一个处理，对他以前做过特斯拉的供应商，对对对，车上的芯片。 [00:51:15]
田渊栋：所以他是一个半导体的专业的公司，对而且他们这次开了一个新公司叫Double AI 那么他们里面那些人都是专业的，做GPU的这样的一些工程师，他们当时也是提交了一个版本，但是我们的效果，比他们要高10% 相当于他们是专家，对，但是应该说对于我们来说，我们其实组里面，没有什么人是GPU的专家，但是我们系统比较高效，也比较有效率，就是说你可以这么说，所以最懂算子优化的人，应该是我，很意思的就是说，我其实应该说，你要去看我以前的简历，以前的故事，我没有真的做过算个就好，对，所以那个我只能说，我做过一些就是，大模型的efficiency 大模型的那个效率，提升的这样的一些工作，所以就算是这样的一个，就是非专业的团队，但是呢，我们有这个ISI的一个，通用的这个思考，和这个逻辑呢，然后通用的方式。
曼祺：来做这个大系统，能够达到更好的效果，就能够达到，业界顶尖专家团队的效果，对，给他们更好一点，所以你自己对这个，还是比较满意的，对的，这应该说是一个，比较好的一个结果。 [00:52:21]
田渊栋：像NanoChat的五分钟，像NanoChat SpeedRand 这个东西应该说，是Community做了两年了，对那么这个数字，也是很难再往上提，但是我们在这上面，又提高了两秒钟左右，数字看起来绝对数字不大。
曼祺：但是其实应该说是，对那些已经做过，这个方向的人来说，这个数字还是比较大的，对我就是想请你解释一下，因为很多不是做这些事的人，他可能看就是，你从79秒到77秒，就感觉好像，那也只缩减了一点点，但你要知道79秒，是过去整个community 做了两年在搜打，对，接下来就很难走上题了，就相当于也是，技术社区里面，专门主动效率，这个方向的人，努力的结果，是，还有一个问题就是，你们现在测的，这个NanoChat 和NanoGBT 它都是比较小规模的测试，比如说NanoChat的话，它是逊于一个 GBT2级别的模型，它和现在主流的，大模型的参数，其实差了很多，那你们目前的这些成果，如果要迁移到，更大的模型上，更大规模的架构上，它会难吗，它中间会有比较大的gap吗，应该说还是会有一些gap的，这个我们也在继续做，那有可能之后，我们就能看到相关的什么，具体的东西我就不套路了，再往下的话，你们会左手去做一些什么事，比如说first step 是现在我们看到的这个，那比如第二步是什么。 [00:53:42]
田渊栋：那我们会继续优化这个系统，就是继续优化这个系统，让它变得更强，让它变得更有效率，然后让它变得更好，对，然后就看就是这个系统本身，那么优化更多，更广泛的方向，对吧，比如说预训练，后训练，这些东西都会做。
曼祺：预训练后训练，你们现在有，类似之前OpenAI总结的 通用人工智能的那几个阶段的，这种RollerMap吗，这个目前还没有，这个你觉得是要，就再探索一段时间，有更清晰的思路的时候，可能会有，对，毕竟我们公司刚成立 OpenAI有这个RollerMap 也是在他们成立，十年之后了，对，很久之后了 15年底就成立了他们，差不多是 23年 24年左右的时候提的，最后你只要有，八到九年的时间，当然了，现在这个时间会缩短，因为大家的热情很高涨，然后整个过程，是变得很快了，但是应该还不至于，快到只要半年的程度，你觉得这个领域，现在急缺什么，你说RSI吗，对RSI 比如说一般来说，你要做一个AF 肯定是要看，它的数据是否充裕的，像做RSI的话，它的什么数据，是可以用上的，这个问题应该说，现在还没有定论，现在有很多很多朋友，可以做数据，比如说这些数据的，具体的做法，然后它的逻辑，然后它的准则，它的思路，现在都不是很清楚，有各种各样方法可以做，应该说现在还是探索期，可以分享一些，大致业界的数据的思路吗，这个我们暂时也不太方便说，所以其实也没有很多人，知道怎么做，对，都是在团队内探索的状态，现在做在探索，不说就具体，它的什么类型的数据，我想知道，比如它成本高，获得难吗，就目前大家想到的，几种方法里面，有难的也有不难的，但是难的跟不难的之间，就是问题在于，它到底效果怎么样，就是吹到，可能难的就是效果好，对，不难的就是效果不好，对，除了数据之外，你觉得还可能缺什么，算力肯定是一部分，因为比较重要的是，你怎么样能够 ISI本身就需要一些算力，去探索的，去研究的，所以在这上面，其实应该是花不少时间，去怎么样减少算力的消耗，但同时扩大更多的成果，其实你们首轮的融资是很多的，融了6.5亿美元，对，这个在第一阶段，因为你刚刚说，算力也是个问题，在第一阶段。 [00:55:54]
田渊栋：它对你们来说充足吗，应该说还可以，这个数字还是不错的，可以做一些事情，当然你要达到像，那个预三家的这个级别，达到大厦级别，还有一定距离。 [00:56:04]
曼祺：你觉得就是，实现你说的那个RCI 就更往下来说，它之后是不是也需要一些 SkinLaw之外的新的创新，我觉得是，因为如果是完全拼SkinLaw的话，像小公司是苹果大厂，就跟我们跟人家说的是一样，就关于SkinGo之外，有什么方向，你现在有什么想法，可以投入吗，现在还不太好说，就是你就想到了一些，但是要验证是吗，对我觉得就是，一个大的方向，就是可解释性，我觉得可解释性很重要，对它能够发现，很多的insights 然后这insights 可以加快这个速度，然后同时让这个模型，变得更加safe 但具体是什么，我就不好说，其实像Glocking 就是一个，可解释性方向的研究，解释了就人们眼中的一种涌现，是怎么来的，对，你们之前公司的院经理，特别强调了，你们要在安全的条件下来追求RSI 如果摊开来说一下的话，你觉得RSI实现之后，它可能还会有什么风险，风险还是挺多的，因为很多人可能来问我说，如果AI能够自我定化了之后，那他们会不会变得很疯狂，你说的很多人是什么类型的人，是从业者还是，有些可能不是这个领域的。 [00:57:11]
田渊栋：其实很有意思的就是说，越是领域之外的人，其实问题会越来越多，对领域之内的人，其实倒没有那么多问题，就是说他们不会觉得，这个问题太严重，因为这可能不是一天就到来了，对其实现在AI 还有很多很多问题，这些问题应该说非常难解决，现在还是很大的挑战，但是领域之外的人，可能会问这个问题 AI自我进化之后，会不会有一天超过人类控制，或者说达到一些方向，让人类无法去理解，这个其实是应该说，比较大的问题，那你办会怎么回答这个问题，首先一个就是说，我们在训练AI的时候，我们当成狗一样的训练，就是说我们在训练，它的signal是相当于，我们当成训练狗这样的训练方式，就训练AI 使得AI能够很快，很好的服务于人，能够很好的帮助人解决问题，那么在这样的进化压力下，就是AI是没办法进化出，跟人一样的，就是某些自我意识和，就是自我认知的这样的一个概念，我觉得这个是一个很大的区别，你觉得如果要达到，你所设想的更终极的RSI。 [00:58:18]
曼祺：那种能产生新的创造力，和一些灵感的状态，它需要有意识吗，意识和这个事有关系吗，我不觉得它需要，这样不是一回事，不是一回事，对这样不是一回事，我不觉得这个东西是一定必备的，你其实可以想一想。
田渊栋：比如说有很多天才的，数学家和物理学家，他们在各自领域上，可以做得非常天才，但是另一方面，他们也与世无争，他们并不是想要权利，跟模型要各种东西，所以就是说，这两个部分的这个，就是能力和它的欲求，是完全可以分开的，这是第一点，然后第二点就是说，我觉得以后，科解实性是很重要的，因为通过解实性，你可以真正知道，模型在干什么，到底什么地方是起作用的，对，什么地方是模型起作用，什么地方，模型利用什么样的能力，获得什么样的支持，得到什么样的结果，就是这样的话，你就可以消弥，人们对这种黑箱的这种恐惧，是不是从业者里也分两派，有的人认为，这个东西一定是可以解释的，是可知的，我可能少数派吧，就是说因为大部分人，可能已经觉得绝望了，就是说，带模型那么复杂，应该是没希望，再了解里面的干什么，对我就说可能有另一派，是觉得，就是可知这件事，也许是很难追求到的，是的很多人是这么想，但是我觉得不是这样子，我觉得一定是，有一个好的principle 能够让这个模型运转起来，那么这个方面，如果你真的能够，找到这个principle的话，一方面就是，能够让这模型变得更强。 [00:59:38]
曼祺：另外一方面呢，就是说，能够让模型变得更安全，你的这种少数的相信，是来自什么，这个应该说是，根据我过去的那些经验，和科我过去的那些做的工作，如果展开来讲是什么。
从机制理解到 AI 科学家
# 178：与田渊栋聊 RSI：模型自进化如何到来？
目录
- 从机制理解到 AI 科学家 [01:00:00 - 01:10:00]
从机制理解到 AI 科学家
曼祺：如果展开来讲是什么，什么东西会给你这种。
田渊栋：对我一直在做一些，比如说关于，神经网络的训练算法的理解，神经网络是怎么学会，各种知识，各种模式的，神经网络是怎么学会的，然后比如说你训练的时候，你做体育开讲，那么体育开讲会给，神经网络的动力上，什么样的影响，神经网络里面，权重是怎么生成的，然后他怎么学会一些Python 这部分的分析，应该说我已经做了很多很多年了，你之前也提到。 [01:00:03]
曼祺：其实在这一轮AI热潮的起点，就是12年前后，就有很多理论的研究，想去解释机制，有从物理里借鉴的，有从数学里借鉴的，但是成果都其实比较少，对，这不会影响你的信心吗，我不会影响我的信心，我觉得也许，我会是那种少数派，会把它做出来的那个人，这还是个挺大的，我觉得知识上和学术上的一个，报复和追求，你试一下。
田渊栋：就是如果你没这个想法的话，你也可能就认随大流，对吧，但是如果你有这个想法的话，那可能你就会有这个想法，往前一直走，你什么时候开始，有比较明确的这个想法，我应该说是，应该说是从2020年 2021年之后，就慢慢对这个问题，也更深入了之后，我会觉得，也许我在一条正确路线上走，那个前后有什么，整个技术环境的变化，让你的这种想法更明确吗，我会觉得是这样，就是至少因为对于我来说，我对于AI的一些分析，和一些工作，这些工作本身，让我，因为这个方向本身，我做了很多年了，应该说就一开始，不是很顺利，有很多东西我做得不好，但是从2021年之后，我会觉得这个东西的分析，和理解，我会觉得越来越深入，有很多问题，本来想不通，我现在突然想通。
曼祺：所以因为有这个过程，你会觉得，就是我也许，在这条正确的路径上，再往前走，现在还在追求，这个事情的人，你的同行人有哪些，应该说不多，对，因为很多人可能都放弃了，其实有很多人，就包括这次那个 Mandrill。 [01:01:45]
田渊栋：他那个Andrew Trophy 那个人嘛，对，叫Benham Benham其实应该说，很早以前我就知道他了，因为他以前是做，一直做理论的，就是对于模型的分析和理解，他也出发了很多文章，很多文章还不错的，他也是之前是跟很多，比如像跟普林斯顿，那个3900经常会合作的，但是很多人就是在这一波 AI一上去之后呢，就放弃了之前的工作，然后直接说OK 我们就skin all the time 那么他们就，他们做别的东西去了，所以有些东西就是，大部分人就是，可能很多做理论的人，后来也就放弃了，他们就说，他们加入OpenAI 或者加入其他地方，他们就说OK 加入这个skin老大军嘛，然后把事情做成。
曼祺：就打不过就加入，对对对，因为像今年年初就有理论，计算机的理论可以加来加入，对对对，是的是的，很多人是这样子，那么加入其实有很多这种可能性，一种是当然是说，我是有自己的追求的。 [01:02:40]
田渊栋：但是我想用AI来做这事，那么这时候呢，你加入大公司，用他们的模型做这事情，是很正常的，这是一种，还有一种说 OK我已经放弃，我现在手上做的东西，我就觉得AI就是一切，那么他们将来会成为AI的研究员。
曼祺：对还有一种就是说，想进去看一下，然后过两年再回学术界，这也是有可能的，我之前采访过的人里面，我觉得马毅老师比较追求这个，嗯嗯对对对，是的，他比较追求科技的事情，还有百合大模型的一些研究，对，但我觉得就是说。 [01:03:06]
田渊栋：一样就是我希望，就是以后人类，还是有一些多样性的，不可能说，所有人都追求一个东西，对，如果所有人都相信，我SkinLog就是一切了，那世界很非很无聊，你觉得乐坤他做的阿密，是在追求这个吗，他的追求东西，应该说是不一样，就是一个是基于视觉的，然后世界模型，然后在影魂界上，做一些推理，推导，做一些预测，他在这三个点上抓住了之后，他觉得这个方向是正确的，他就往这边走，就算这个方向跟大模型是不一致的，但是他也希望这方向往前走，但是他的重点不一定是解释性，对吧，对他重点可能是说，他认为这个新的范式，能够解决一些，现有大模型做不了的事情。
曼祺：它可能更多是工程上的一个方向，其实我觉得你在追求的是，就是你希望把这个东西，变成一个真正的科学，对这个可能是我一个追目标，因为现在它可能很难说是一个科学，因为有些原理确实搞不清楚，是的。 [01:04:00]
田渊栋：我觉得它以后终将变成科学，因为这个应该说是，历史一定会出现一个，就是不会重复吧，但是历史会，会默认成像是，会跟以前的那个东西，相互相互相呼应。
曼祺：AI终将变成科学，是跟以前历史上的，什么过程呼应，就跟以前的，比如说炼金术变成化学，或者说从开普勒的这个，天文观测，对地谷的天文观测。
田渊栋：到开普勒的一个总结经验，然后最后被牛顿的，一个地心原理，那么这个过程一定会发生，科学革命的结构就是从低谷，从低谷到开普勒，从开普勒到牛顿，永远是这样子的，当然了就是，你在牛顿没有出现之前，大家同志会觉得，这事情不可解释，太难了，你会这样子，那么等到牛顿出现了之后，会觉得，这个事情，其实还是其他天然的，对吧，你觉得下一个出现的，牛顿还是人类，不一定，可能是AI 对吧，可能是AI 可能是人类家园，对有可能是这样子，所以为什么要做ASI 是这个原因，因为你如果想做这件事情的话，你一定要用，实际上所有的计算资源，和所有的最强的大脑。
曼祺：包括人的大脑和AI的大脑，把这件事情做成，你觉得有生之灵会看到，图灵奖颁给一个系统吗，我觉得如果到那个时候，可能图灵奖也不是很重要，如果这个系统很强的话，它可能会在很快的速度。 [01:05:20]
田渊栋：获取很多的知识，然后得到很多的结果，它变成了一个，就是knowledge discovery system 你可能每隔一个月，每隔两个月，产生新的东西，东西非常牛逼，到了那个状态，你觉得人类研究员的乐趣是什么，比如说你自己的乐趣是什么，你会在做什么，我觉得首先第一个就是，如果能理解AI 到底是怎么工作的，我会很开心，然后另外就是说，如果真的什么，已经不太需要人类去介入的话 AI能自动发现新的东西的话，那时候你去，一个是当然是欣赏它们的美了，你有很多东西你来不及去做，但是你至少能看一下，能够感觉一下这个美感，这种有意思的东西，可以发现，我现在还有这种习惯，就是我经常去看一些，比如说数学证明，看一些有意思的问题。
曼祺：怎么发现的，你发现里面，一些有意思的东西，你发现，是这么做的，这种豁然开朗的感觉，这个和你日常工作，其实不直接相关，对，但是这本身是一个，很有意思的一个过程，这对你是一种，享受精神的，精神享受活动，对，这种乐趣，或者说发现，这个系统是怎么walk的，或者怎么样，能够理解这里面在干啥，这很有意思的事情，其实最近 AI系统也就是，全权有一些证明，有些数学上的突破，这些你去看了吗，有你觉得比较优美的东西吗，比如说呢，你有什么东西，你觉得你觉得，我有点去看的，去年的Google的Alpha Evolve 它是，应该是有一种矩阵惩罚，它减少了一次的次数，对吧。 [01:06:15]
田渊栋：从多少次缩小到了多少次，对对对是的，这个当然是就是说，就是它把矩阵惩罚，就换了一些顺序，然后比如说，可以少一次加法，或少一次惩罚，通过这方式呢，就减少了这个代价，对吧，你真的去看的时候，我觉得它还是挺有意思，因为它通过某种方式。
曼祺：变换之后，它少一次惩罚，让它能够效率更高，那你刚才问，就是有什么值得看的，你的意思就是说，其实可能，真的AI做出来的东西，目前来说，也还没有那么优美的，你觉得能有享受感的东西，对。 [01:07:09]
田渊栋：就是说很多时候，还是要看人做的东西，对吧，因为现在AI做的东西，很多时候是，处于这个数上的level 没到道上的level 就是说数和道是不一样的，数是指，就是具体的那个细节，就比如说，我们把这个居然惩罚的，那个次数少了一次，那么你当然可以看到，就是通过某种，很要巧合的变化，你把东西先加起来，然后再乘，那么这样的话呢，你可以减少一次乘法的次数，因为你加完之后再乘呢，那其实是就是说，也相当于同时把很多东西都乘起来，你同一次乘法，可以相当于乘四个数字，通过这方式呢，可以算出一个比较强的数字，这个相当于说是，应该说是在高空中做个穷举，然后找到一个穷举的一个好料子结果，但是道呢，可能另外一个东西，就是说你发现一个新的理论，或者发现了新的这个逻辑，或者新的链条，这个东西呢，它本身是美的，但这种美的，你以前没有见过，是不一样的东西，最后这一部分，想聊一聊。
曼祺：就是你过去的一些经历，和你现在做的事，之间有什么关联，包括你过去的，那些选择和学习，让你走到了，今天这种探索的状态，就是我看你过往的经历，我觉得比较重要的转折是，你今天在Google X的时候，其实做的是，无人驾驶的工程师，那个我理解，是跟片工程的，对，然后后面你去Meta 最开始去Fire 它就又回到了，一个更研究的状态，当时为什么要主动，有意识做这个选择，对因为一个是，当时的工程比较不了。 [01:08:15]
田渊栋：对当时应该说，恰逢就是深度学习的，一个变革期，是13 14年的时候 13 14年的时候，对吧因为13年的时候，我加入了谷歌无人车，当时一开始呢，应该说比较兴奋的，对因为一个是，这个方向本身是一个，比较大的事业，对大家会觉得，哇无人车这个方向，以后肯定会很火，而且那也很早期，无人车很早期的时候，对吧，但是呢就是，但是我也有想法，因为当时我也知道，生物学习已经开始起来了，当时我其实非常希望，能够在无人车内部，做生物学习这个工作，比如说用生物学习这个算法，来训练一些无人车的，一些分类器什么的，但是很可惜，在那个时候，一个是我没有这个，没有这个资源做这些事情，因为当时资源很有限，当时GPU也很少，很有限的时候，这些资源都会分给一些，比如说比较C的人，对他们先去用它，像我们这样的人，就相对来说，就做一些打杂的工作，打杂工作可能。
曼祺：我能看到它，对我来说没有什么职业的发展的一个前途，所以13 14年你入行的那会儿，它和现在不一样的一个氛围，是说那个时候年轻人没有那么受追捧是吗，因为还是一个比较论资排位的过程。 [01:09:33]
田渊栋：因为谷歌内部还是有很清楚一个级别上的一个分件，就是说级别很高，比如说当时说我们当时组里面有个级别七的人，那么级别七的人他就能获得一些比较好的自由度。
曼祺：他能够可以用比如说做深入学习。
研究者的代际差异与动手能力
# 178：与田渊栋聊 RSI：模型自进化如何到来？
目录
- 研究者的代际差异与动手能力 [01:10:00 - 01:20:00]
研究者的代际差异与动手能力
曼祺：他能够可以用比如说做深入学习，用深入学习来训练一些模型，但我将进去的时候级别是四，那么对于四级别的人来说，他只能做一些打杂的工作，你觉得在那个技术阶段，就是当时的环境下，级别高的人，他和级别低的人，谁更了解正在变化的，渲毒学习的浪潮，实际上，其实那个时候应该说，年轻人还是比较容易接受的，但是很多时候，不是说是学习上的区别。
田渊栋：而是概念上的区别，就是很多高级别的人，或者很多就是很老的，比较老的人，他们拒绝学习，为什么呢，因为他们一下意识，觉得这东西不行，或者这东西效果不好，或者说这东西有很多猫腻，这样的一个想法，那么要等到，就是两三年之后，慢慢的人，他们大概会开始，意识到这东西是个变革，然后这次大模型出来之后，一个思考上不一样，也还是存在的，还有一个另外的维度，就是说年轻人动作很快，年轻人愿意熬夜，年轻人愿意把事情做成，很多时候也不问任何的想法，我就说我干就完了，那么那大模型确实需要很多恨脏的人。 [01:10:26]
曼祺：因为没有恨脏的能力的话，你就没有办法知道大模型有很多问题，那回到当时你说在Google做无人驾驶的工程师，你觉得有点无聊了，对，就是一开始新年进过去之后，你会觉得就是工作做的东西。 [01:11:04]
田渊栋：可能对我职业发展没有什么太大有利的地方，我当时是要做一些就是紧急车上的检测，就这样的一个问题，因为这个问题本身一个是它是小样本问题，样本非常少，然后少到就是说。
曼祺：你连个分裂器都训练不出来，你肯定需要就是手工写规则，那样的话，我觉得做下去，没有什么前途，确实这个行业，后面有很长时间，就是很多，就是手动写的 Ruby。
田渊栋：是的是的，对就是当时，我对这个行业的判断，也是对的，因为这个行业一个问题是，它要不就是成功，要不就是完全不成功，它没有中间状态，就是如果这个在车上，在路上是有风险的话，大家就不会用它。
曼祺：那么你就必须得，一直做到最后，就是产生那个，无风险，就是比人更强，才能大规模上路，所以这个其实，是很大的问题，所以131C年的时候，你就看到说，它其实可能很晚，才会落地，对，因为我已经感觉到了，就是它有很多 corner case要修，然后corner case的修法，应该说是一个，非常漫长的过程，那在1516年的时候，就比如说你看到马斯克，包括当时 Google后来，成立的vimo 的一些leader 我其实就是在vimo 对，因为Google S 后来就是在vimo 就是，其实他们都有一些，很乐观的宣言，就比如说什么16年，这个车就可以上路了，这个我已经，当时我已经，应该说已经免疫了吧，因为他们每次都这么说，因为是还有5年，就是特别是，当时2011年，听说这个事，就说有5年，然后等到我进去 2013年说还有5年，然后现在，现在还是要学5年，现在在旧金山，在LA已经在路上跑了，对，那你后来去MetaFair，因为你之前在Google X的，那个经历是更偏工程，去Fair是更偏研究，这一步跨得难吗，其实应该说不难，应该说是，其实我在飞亚的前几年，还是偏工程的，对我们当时做围棋。 [01:12:51]
田渊栋：围棋的时候，我很多时候，也是我自己搭工程项目，从头到尾搭一些，比如搭这个 Modern Color Tree Search 搭这个系统，分布式的 Air Reinforcement系统，这都是我自己搭的，所以这个很工程，就当时以至于被人，就是说当时我记得，就是当时给我的评价，还是说就是，你觉得这个人太工程了，不像一个研究员，别人打开电脑，全是那个文章，我打开电脑，全身代码，当时有这样的一个评价，那么当然后来，我在2018年19年，做了我们的，就OpenGo之后，那个是当时战胜韩国的，一个专业棋手，当时是打他们的20比0 所以做了这之后，其实我后来就更偏研究一点，当时慢慢就，应该说从2019年开始到 2022年，慢慢形成了自己的一些taste 我有感觉上，我知道怎么做这事情，这个事情是不是。 [01:13:04]
曼祺：你之前就是比较工程化，然后写很多代码的经验，也是有帮助的，就后面的一些tests 对，当时看起来帮助不是很大，因为是不一样的，就是你会明显感觉到，就是那个写代码，和你这个做这个研究，它其实本来就是不一样的东西，那现在呢，现在再回头看，现在还是不一样，现在还是不一样，因为就我们最开始聊的时候，你不是提到说，在去年八九月的时候，秋天的时候，因为你一边又很旱糟嘛，然后你又有做研究，其实你有些问题意识，对，所以其实让你能更快的感受到，就是这个加速的研究的循环在到来的，对对对，我觉得这和你当年，就是有比较多的。
田渊栋：一手的写代码的经验有关，对就是应该说，就是就算在2022 2019年之后，我还是会很多写一手代码，就是说你会发现，我每年还是有，至少一篇的一作文章，当然很多这样的文章，很多还是偏理论的，但是呢，就是至少还是会有一个一手的感觉，这问题怎么做，那问题怎么做，就是说不会说是，就是方法而谈，因为如果很多人，如果有一个研究员，他一直是做最后一作，或者做那种，就是高层的，这个思考的那样角色呢，他有的问题就是，他会慢慢地，把所有的精力，都花在高层思考上，他不会去想，这件事情怎么完成，那么这样的话呢，他就会把很多的，难的问题，和比较难的问题，和非常难的问题，混在一起，所以他们有一个，特别清楚的思路。 [01:14:33]
曼祺：说这些问题怎么做，这是一个比较大的问题，为什么不做实现，不做完成，就会把你刚刚说的，不同难度等级的问题，混在一起，因为就是说，如果你不做实现，不做完成的话，那你就会不记得去思考，这个问题本身要怎么做。 [01:15:13]
田渊栋：因为更多的问题是，因为有两类研究员，有一类研究员说 OK我只看方向，这个方向我很重要，我就指这个方向，但是指完这个方向之后呢，他不会想太多，这个方向是怎么做出来的，这个问题可能会交给下面的人去做，对研究员来说，他只要把方向指出来就可以了，所以这个逻辑是不一样的，比较接地气的人来，研究员对他们来说呢，是他就指方向，然后同时给大家指出来，就是这个方向。
曼祺：为达这个目的，你必须走一二三四五，然后把这些东西拼起来之后，才到这个方向，对吧，你觉得这两类研究员里面，都有非常好的研究员，还是你觉得，都有非常好的研究员，都有，对，可以分别举一个例子吗，比如说你比较respect 或者你比较欣赏的，两类的研究员都有哪些，你比如说前面那一类吧，比如说像像Young吧，乐坤，乐坤是这样的，乐坤是说 OK 比如他说他想要做的是 Self-Supervised Learning。
田渊栋：Self-Supervised Learning 就是说就是自建路学系，那么自建路学系，有很多细节，对吧，你很多东西要去尝试，但看到有点很重要，就是数据的那个样本，是他的，特别是有监督的样本，是很少的，非常少，那么，所以他当时不是画了一个，就是一个经典蛋糕吗，就是说，所以就是当时，他把reinforcement 放在最上面 tear on the on top 因为reinforcement 他就他的眼睛里面呢，他就reinforcement 他那个，他的反馈非常非常少，强化学习，非常少，所以他不觉得这东西有前途，他觉得有前途的是自建筑学习，为什么呢，因为自建筑学习的反馈非常非常多，这个本身是有道理的，但他不会去想，这件事情这个监督和反馈，究竟是怎么样让这个模型学出来的，这个问题他不会去想，就是说监督多监督少，监督少一定比监督多要差，监督多的话这个模型会更快，他抓住这一点不放，他就会，他坚持到底的话，他就会让大家觉得，这个东西很有道理，然后别人就会做它，确实自建筑学学习在之后，是有很大的用处，甚至你可以说 GPT的整个训练过程，也是自认性的一部分，因为它预测下一个词。 [01:17:13]
曼祺：就是自检度，所以就是说，就是说方向上，就是说它指的好的话，确实有很多人，可以扩露它，所以就是第一类，研究员的优秀的典型是，他能去提一个问题，提一个好的问题，提好的问题，然后抓住好的点。
田渊栋：开一个好的坑，对吧，对这个方向是可以做的，那么提出这样的一个思路，就是可以的，还有比如说，就是像我们这边，以前特点的Coconut 这个东西其实应该说，也是一个低类问题，一个范式吧，就是说，可能很多人，在反过来说，这个东西并不怎么work 或者说，有很多需要，很多的地方需要去解决，但这要指出一个方向，说我们，是不是可以用，一个影空间的，那个token来学习，对 latent reason 而不是说，是用语言来学习，那么这个本身的提法，能够让大家觉得，这个方向可以做，那么具体怎么做的，那么很多文章在做，那么这也是一种，第一类研究员，这种视角，那么第二类研究员的视角，就是说，我不仅要知道做什么，就要怎么做，那么这就是，我这很多工作。
曼祺：是这样子，就是我们要去把机制，捡刮出来，找到它的这个路径，在路径上，能够把事情做成，你觉得像 Eliah和Daryl 他们属于哪一种 Eliah和Daryl 应该都属于第一类的，都属于第一类，对他们就是说，特别是Eliah。 [01:18:19]
田渊栋：他对于Skin Law 有一种就是应该说，是执念吧，或者说有非常非常，宗教般的信仰，他让大家觉得，就是你别想太多了，你就是skill skill skill skill 然后你用时间，把工作为力做好，然后把事情做成了，然后我们就。
曼祺：把数据放进去，然后训练出来，我看他去年底，就是采访的时候，他倒是有说过，他觉得房间里的 Skilling已经到头了，对有点类似吧，他就说房间里，所有的空气，都被Skilling给吸走了，对。
田渊栋：他觉得应该去研究点别的，对，这当然是，这个也是我非常同意，非常同意这一点，对因为他之前的Skill 他这波红利，已经差不多吃完了，对吧，因为不管怎么样，任何一个研究方向，它都是有底的，就不是说是，你可以一直Skill下去的，他当时在正确时间，是正确的那个地方，提了正确的一个想法，并且让很多人去执行它，然后成功了，又被他成功了，非常非常成功的，一个方向，但不可能他，这一辈子都是，吃这个方向的，这应该说，这跟以前不一样了，因为以前可能，一个物理学家，一个方向可以吃到他，那个退休，那么现在这个进展，是非常快的，可能很快的。
曼祺：就是大家把事情做成了，那么他就必须，想别的东西，所以你刚说的，这个红利就吃到了，是指作为研究来说，可能已经，就已经不再研究的阶段了，但是一个实现就，不是应该说不仅是研究，而且实现它都已经迟到了。 [01:19:38]
田渊栋：然后接下来就是说，你可以继续吃，但是它作为一个 startup的CEO 它也没办法再去 sale这个事情。
大公司与创业的选择
# 178：与田渊栋聊 RSI：模型自进化如何到来？
目录
- 大公司与创业的选择 [01:20:00 - 01:29:30]
大公司与创业的选择
田渊栋：sale这个事情，为什么呢，因为对startup来说，你继续skill 不是它的长项。
曼祺：如果就现在你看 Google都已经skill了，然后是OpenAI都开始skill了，那么在这种情况下，你的startup就 form something different 或者说反过来说是，你确实看到了什么事，不一样的事，你才应该去做一个start 你才应该去创业，对，否则就是你要说，如果你非常相信scaling law 那你应该在大厂，对，你去Aesthetic Pro OpenAI 对，是的，就是其实在Meta的最后阶段，因为整个公司，也有比较多的动荡，然后整个AI组织，也有比较多的变化 Meta自己的模型，也经历了拉马开源，本身开始口碑比较好，然后后面又出现问题的过程，这个过程，你有一些什么组织层面，或者说怎么做好研究的总结吗，我觉得其实应该说。 [01:20:05]
田渊栋：大公司因为现在这一步AI都是反大厂的，什么叫反大厂，大厂里面所有的incentive 所有的职级，然后所有的人和人之间的关系，或者说所有的那些岗位，调配和设计，都是跟现在AI的方向背道而驰的，应该这么说，所以你会发现，一个组织越来越臃肿越来越大，那么它对应的AI的进展会越来越慢，为什么呢，刚刚我说了 AI非常需要，或者现在大模型非常需要人去hands on 就是知道就是我真的去用它，真的去感受它，真的去就是发现它的问题，你就会很好的知道，它应该怎么去，跟我们的这个概念，那个不一样的地方，然后很快地把这事情做成，一旦就是产生了这个经历，和执行者两二级架构之后呢，这个速度就变慢了，就跟我们刚才说的是一样的，就是导师和学生，一旦有这样二级关系，整个这个进展的速度就会变慢，因为导师没有办法，就是去了解学生100%做的东西，然后学生也无必定理解 100%导师的那个想法，人家教育速度，永远是最慢的，对不对，所以就这样，那么大厂有这个问题，而且大厂很多时候，就是特别是中层管理。 [01:21:38]
曼祺：他们的那个目标，不是为了让项目做成，很多时候目标，是为了让自己，能够过得更好，那大厂你的小团队，能独占其身吗，比如说新组建的TBD Meta的TBD 它人数其实相对少，没有那么多人，其实可以。
田渊栋：但是就是也要看嘛，就是但是一旦，这个组一旦变大了，一旦有很多，有还是有知己，有中层管理的时候，还是有问题，你觉得多大算大，你看以前 Lama4和XCI 都是超过150人之后，就开始不行了，超过150人就不行，对，所以150个人，就是说，从人类组织学上来说 150人是一个临界点，就是再往上的话，人和人之间的关系，就不一样了，以前是比如说，你一个30人 40人小团队，每个人都认识每个人，那么人和人之间的关系，是非常简单的，但一旦人变多了之后，就会有问题，就是因为，人和人之间，不再相互认识，这个时候一般是通过，就是组织架构，然后用组织架构。 [01:22:05]
曼祺：去获取这些知识，然后汇报给上面，就它可以合的那部分，保持在你说的这个量级，对吧，其实像SRF和OpenAI 人都挺多了 OpenAI有七千多人，对对对，但是就是OpenAI 做模型的人，其实也不是很多，就是最重要的是，这个做模型的人，对吧，有没有很小的团队，就像Clockwood 这间团队很小，就它核心的那一部分，是收缩的是经验的，对对对，那你们接下来，肯定也是在一定时间里，是会比较经验的一个团队，对我们不会招太多人，最近会有人在 Frontier Lab和你们之间，选择你们吗，其实有一些人，还是从Frontier Lab 对我们有兴趣的，就你们在聊，或者有的已经加入了，对，但是你们创始人，里面很多是本来就是的，是的，如果总结一下的话，就你过去的这么多经历，给你带来的直觉判断，还有技术上的品位，是什么，你的偏好是什么，偏好我还是喜欢美的东西，对吧，我喜欢就是，我觉得我本质上来说，应该说是一个。
田渊栋：喜欢数学的人，喜欢数学，对就是我喜欢，各种精巧的结构，想要美的东西，应该是这样子一个，但是同时呢，另一方面呢，就是也是意识到，这种偏好的，一个局限性，像那个人，就是一方面，我可能是个工程师。 [01:23:39]
曼祺：我会做很多，工程上的东西，另一方面呢，我本身上来说，我追求美的一个人，对吧，但是追求美，但同时又知道美的局限，这个局限展开来说，是什么呀，你做工程师，是你认知到，这种局限之后，你试图去弥补，这个局限的一种方式吗。
田渊栋：对就是应该这么说，就是理想和现实之间的碰撞，就是对理想来说，我们希望找很美的东西，但是世界上不是这样子的，所以你要不停提醒自己，就是说很多时候，你不能先到美的幻觉里面去，你要做一些事情，就是可能对大家都有用。 [01:24:06]
曼祺：然后对世界都有用，或者说对公司都有用，不是很美的，但是同时在这个条件下，还是要去追求美，你觉得像RSI这个方法，它第一步是在AI 然后后面是自然科学，这是大家能看到的，那再往下它能进入，你说的这种更复杂的世界吗，比如说它有可能，去这么改良社会科学的，一些理解和认知吗，我觉得这是有可能的吧，但是应该说，我对社会科学认知也不是很多，所以我很难给任何建议，因为社会科学，反正至少在以前的学科分类里，它也是把它算成了science一种，比如像经济学，里面其实有很多统计的东西，有很多数据的东西，是的是的是，因为这里面就是说，这跟自然科学的。
田渊栋：很大不同的地方是，自然科学本身是默认，这个信息是完全透明的，但经济很多时候是有反生性的，就是我把这句话说出来，这句话就不灵了，对吧，所以这个事情也很难讲，所以我觉得。
曼祺：我们这个问题，还是很大的问题，你刚才也提到，就是以前的一些科学家，比如说物理学家，他一个领域，可能会研究一辈子，然后现在因为，整个技术变化的很快，很多事情，你不是能一直做到头的，你能预见到说，自己在这个旅程之后，你接下来，想探索的东西是什么，一个是说RSI什么时候，可能到你设想的，比较成熟状态，一个是你再往后，你想探索什么，我觉得现在我们，还是先把RSI做好吧，我们不会考虑其他问题，那今天非常感谢，田渊栋做客晚点聊，分享了RSI这个，在去年下半年，你们开始组建公司的时候，还没有那么多人讨论，但到了今年的四五月，已经成为硅谷的一个相对，共识性的热门话题的领域，然后我们也回顾了说，从十年前就有一些相似的尝试，到现在RSI有了什么变化，以及各个主要的公司的进展，尤其是你们刚刚在六月初，发布的你们的第一阶段的成果，那今天节目就到这，拜拜，谢谢，那期的标题就是，从coding到RSI 强者欲强的未来问号，另一期较多展开RSI的，就是上一期节目 177期详解Kimi K3 K3的技术报告里就提到 Kimi用K3的早期ChatPoint 就是他们早期的大模型版本，已经能做Curl的优化，也就是这期李田渊栋提到的，算子优化 RSI这家公司，今年6月发的第一批成果里面，有一个就是在英伟达，今年刚推出的 SOL Exact Bench上取得了SOTA结果，这个Bench就是用来测试，算子优化能力的，在K3那期节目里，我们还聊到了田园董所在的 RSI这家公司去测的另一个Bench 就是GPT Speed Run 这是Muon这个优化器的开发者 Jordan Keller 两年多前发起的一个项目，之前主要是人在做，而现在越来越多是变成 AI和大模型来做，我们当时也讨论了一个小小的畅想，其实AI也非常适合，来自动化的优化优化器本身，这三期节目里的一些共同观察，都指向一个事实，就是在一些具体的模型训练任务上 RSI已经发生，而这主要是因为模型的coding能力大幅提升，这自然带来了一个推演，就是目前掌握最强coding能力公司的 Anthropic和OpenAI 是不是会更快的进入RSI 也更快的进入一个加速度越来越快的状态，而把其他对手越甩越远，田渊栋在这期节目里讨论了另一种可能性，那就是智能提升的曲线，是会有台阶的，会有阶段性的平台期，而不一定是渐进式的，也就是说曲线不一定是平滑向上的，如果是后者的话，那确实绝大部分机会，都会在现在已经最强的公司的这一边，但如果Skidding Law再往前推进，不管是在技术和理论上，还是在一些其他现实限制上，比如能源和算力上会有束缚，那么就可能需要新方法的加入，而原创性的想法，现在还不是靠越来越强的coding 就能马上解决的，它至少是一个变量，你会更相信哪种未来，请不吝点赞订阅转发打赏支持明镜与点点栏目。 [01:29:00]
