#571. Demis Hassabis:普通人如何理解 AI 权力中心,巨头竞赛下的安全与科学理想

完整转录稿

Podcast 跨国串门儿计划 2026-06-04 09:07
摘要

整体概括

这期节目围绕 Sebastian Malaby 的新书《The Infinity Machine》展开,核心不是“德米斯·哈萨比斯 这个人有多神”,而是借他看清当下 AI 竞赛的真实结构:强大技术一旦出现,就几乎不可能只有一个实验室独占,也不可能只靠单个机构“自觉安全”就让全局安全。对话里最重要的结论,是 AI 安全已经从“某一家实验室怎么做”变成了集体行动问题,最终仍然绕不开政府监管、跨公司协调,以及更现实的国际博弈。

主要内容

1. AI 竞赛为什么几乎不可避免

Sebastian 的判断很直接:当一种技术足够强、足够有吸引力时,多个国家、多个实验室都会争相投入,不可能只由一个团队掌握。DeepMind 早期曾希望自己能避免这种竞赛动态,但现实很快证明,这个愿望过于理想化。尤其在 OpenAI 出现之后,领域竞争迅速从“可能有一个安全中心”变成“多个强者同时冲刺”。

他还指出,问题的关键并不只是“谁更强”,而是“谁更安全”无法单独成立。即便某一家实验室更谨慎,如果其他实验室照样加速,世界整体也不会因此更安全。这也是为什么 Demis 后来从“单一实验室可以把安全做对”的想法,转向了“需要更广泛的制度约束和协调”。

2. 安全不能只靠自律,最终要靠监管与规则

节目里反复提到一个核心类比:AI 安全不能只靠企业自我约束,更像药品监管。Sebastian 用 FDA 的例子说明,药品之所以能上市,是因为它们在放行前要经过专家审查;AI 模型的潜在破坏力更大,也应当接受类似的事前审查。

Jacob 追问这种监管是否现实,Sebastian 的态度是“它可能发生,而且应该发生”。在他看来,英国的 AI Safety Institute 已经提供了一个现实参照,而更大的问题则是,美国和中国是否可能在某种层面上达成合作,因为这件事最终会碰到国际层面的边界。

3. DeepMind 的早期理想,和后来对现实的重新认识

对话里一个很重要的转折,是 Demis 对“安全该如何实现”的看法变化。早期他设想的是:也许世界会出现一个足够领先的实验室,由这个实验室先把安全问题想清楚,再把模型带向 通用人工智能 边缘。但现在他越来越清楚,现实并不是单一主体,而是拥挤的竞争格局。

因此,DeepMind 早年的一些安全峰会和合作尝试,后来都显得更复杂。Sebastian 提到,2015 年夏天那场在 SpaceX 举办的 AI 安全峰会,原本希望把安全讨论拉进 DeepMind 的轨道,但后来 OpenAI 的出现让整个领域的信任结构彻底改写。实验室之间彼此不再容易信任,安全合作就只能更依赖外部规则,而不是内部善意。

4. Demis 的“科学品味”不是口号,而是实战判断

这期节目对 Demis 最有意思的评价之一,是他后来形成了自己的“科学品味”。Sebastian 把它讲得很具体:Demis 不是单纯追求产品进度的人,他会听研究团队讨论时的“流动性”。

如果一场讨论里,团队能自然地产生很多新想法、相互激发,说明这条研究线还有生命力,就值得继续投入;如果讨论很沉默、没人能提出有创造性的方向,那就说明这条路可能该停了。AlphaFold 的案例就是如此:当团队认为“我们已经做到了世界最好,够了”,Demis 却坚持,目标不是赢过别人,而是要真正让生物学和医学产生突破。最终,他调整了团队领导结构,把项目推进到更高层级。

5. 他并非一直擅长把研究和产品兼顾

Sebastian 也没有把 Demis 讲成完美人物。相反,他强调 Demis 在第一家公司 Elixir Studios 时就暴露过典型问题:产品工程野心太大,技术上想走得太前,结果反而拖累交付,做砸了产品。这个经历后来反而塑造了他在 DeepMind 阶段的判断方式,让他更清楚什么时候该继续押注,什么时候该换人、换方向。

换句话说,Demis 不是天生正确,而是在一次次失败、纠偏和再判断中,逐渐形成了更成熟的研究管理风格。

6. 他推动 AI 的动力,不只是商业,也是近乎精神性的追寻

节目里最耐人寻味的部分之一,是 Sebastian 对 Demis 精神世界的描述。他认为 Demis 对自然、科学和智能的好奇,已经超出了普通创业者的商业动机,更像一种近乎宗教或精神层面的追寻。

Demis 会同时谈神经科学、计算机科学、物理、生物、化学,也会谈电影、小说和科幻。他似乎相信,这个世界背后有一种必须被理解的深层秩序,而科学越深入,越可能接近某种更大的答案。也正因为如此,Sebastian 认为他明知超级强大的 AI 有风险,仍然愿意继续推动它前进。

7. 这场对话也补出了 AI 世界的人际版图

除了 Demis 本人,节目还补了很多 AI 圈权力关系的细节:Reid Hoffman 曾经提出用 10 亿美元让 DeepMind 从 Google 独立出来;Demis 如何看待 Sam Altman、Dario,以及整个行业里不同领导者的关系;他和 Sundar Pichai、Mountain View 领导层之间的张力;以及 Mustafa Suleyman 如何离开 DeepMind。

这些细节共同说明,AI 赛道并不只是算法和算力的竞争,也是一场关于组织控制权、合作边界、信任和安全定义权的竞争。

关键 takeaway(关键收获)

1. AI 竞争不是偶然的,而是强技术一旦出现后的结构性结果。
2. 只靠单个实验室自律,无法让整个行业都安全。
3. 真正可行的安全路径,最终还是监管、规则和跨主体协调。
4. Demis 对研究的判断,不是单纯追求产品,而是看研究是否还有创造力和生命力。
5. AlphaFold 说明他真正看重的是科学突破,而不只是“做到世界第一”。
6. 他推动 AI 的动力里,有明显的科学理想和精神性成分。
7. AI 时代的关键问题,不只是模型能力,还有谁来定义安全、谁来制定规则、谁来承担责任。

目录

AI竞赛为何难以避免

一凯:欢迎收听跨国串门计划。这是一档专注于让中文听众无障碍欣赏全球优质外语播客的节目。通过先进的AI声纹克隆技术,我们不仅将内容翻译成中文,还完美保留了原主持人和嘉宾的独特声音,为您呈现全球顶尖的AI财经健康与科技领域精品内容。我是主播一凯,一位热衷于AI领域的产品经理,很荣幸能为您搭建这座,跨越语言障碍的桥梁,接下来让我为您简单介绍,本期我们克隆的这档节目,并分享几句非常精彩的原话,本期我们克隆的是 Unsupervised Learning with Jacob Efron 在2026年6月1日更新的,一期访谈节目,标题是 A Conversation with 德米斯·哈萨比斯 Biographer 主持人Jacob Efron是Redpoint的投资人 长期和AI领域的一线人物对话,本期嘉宾Sebastian Malaby是The Infinity Machine的作者,他为了写这本书和DeepMind联合创始人德米斯·哈萨比斯深聊了30多个小时,节目里有几句原话很有代表性,因为这项技术太有吸引力了,不可能只有一个团队对它感兴趣,他对我说的话也是我书里的最后一句,是我仍然乐观,我觉得人们太快就把OpenAI和Altman加冕为赢家了,同时低估了Demis 这个人也低估了Google DeepMind这家公司,因为对他来说这是一种近乎精神性的追寻,这些话背后有很多值得细听的细节 [00:00:53]

Jacob Efron:那我们就一起来进入这期完整对话 Demis有内部而讲 Sam连本科学位都没读完,所以Demis并不太把Sam当回事,你觉得他会不会觉得,或者说他是不是,不得不比现在,更像一个公众人物 The Myth在某些方面,太理性了,有没有那个时刻,让你对他的看法,变化最大,我跟他聊的时候,他有时会突然激动起来,开始拍桌子说,也许只要我们,用正确的方式,研究科学,更深入地理解自然 我们就会更接近,某种可以作为,依据的东西 Sebastian Malaby为了写 The Infinity Machine这本书,和DeepMind的CEO 联合创始人德米斯·哈萨比斯 聊了三十多个小时,我有机会和Sebastian 坐下来听他完整回顾这段经历,这次聊得非常有意思,我们谈到了Sebastian 在书里写到的一些故事,包括Reid Hoffman 曾经提出给Demis十亿美元,让DeepMind从Google独立出来,我们也聊了Demis和Elon的关系,以及这些年来,这种关系是怎么变化的,还聊了他怎么看Sam Dario 以及今天这个领域里,所有AI领导者之间的大致关系,我们还谈到了 Sebastian对Demis的观察,什么在驱动他,他的盲点是什么,这是一场非常有意思的对话 Sebastian花了前所未有的时间,近距离接触了,今天真正站在 AI前沿的人之一,我觉得大家会很喜欢 Sebastian在这里,这些坦率的看法,好都说我们开始 Sebastian非常感谢你,来参加我们的播客,真的很感谢,谢谢你,很高兴能来,我感觉The Infinity Machine 以及你讲述的 DeepMind和Demis的故事,已经吸引了很多 AI圈里的人,我自己是,一下子读完了这本书,好像24小时之内,就看完了这个故事,真的非常抓人,而且你获得了,非常难得的采访机会,比如和Demis 一次在酒吧里,坐好几个小时,聊各种事情 让我们看到今天这场AI竞赛里,最有意思的人和公司之一,所以谢谢你写了这本书,也谢谢你来播客里聊这本书,今天我们的目标是借助你的报道,理解那些塑造了这场AI竞赛的人,决策和关系动态,所以也许可以从这里开始,我觉得你梳理一个很有意思的主题,是今天这些实验室之间的竞争,到底是不是不可避免的,如果当时有不同的人不同的决定,事情有没有可能走向另一条路,我很好奇你做完这些研究之后,觉得当时真的存在另一条路吗,还是说这种局面基本上不可避免

Sebastian Malaby:我觉得这是不可避免的,当你有这样一种极其强大的技术时,一定会有多个国家里的多个实验室,拼命想把它做出来,我们也知道,中国的技术战相当强,所以即使缺少半导体,他们也会去尝试,而且他们现在实际上做得还不错,然后很明显在美国,还有其他几个国家,比如法国的Mistral 加拿大的Cohere 注定会有很多玩家,因为这项技术太有吸引力了,不可能只有一个团队对它感兴趣,但这场讨论里奇怪的一点,是事前人们并不是这么看的,当Demis创办DeepMind的时候,他真的希望自己能避免那种竞赛动态,现在回头看 [00:03:37]

Jacob Efron:这似乎有点天真,但那确实是他的希望,你书里有一个非常有说服力的意识,我记得Demis在面试时会说,你看也许有一天我们会非常接近AGE 到时候我们会飞到一个地堡里,像一个团队一样把这些问题都想清楚,然后他会问候选人,你愿不愿意登上那趟飞机去做这件事,我觉得Anthropic的创办起点里,肯定也有一部分是这种信念,我们需要成为那个团队,当我们走到通用人工智能的边缘时,我们要有自己来把这件事想清楚,这显然也是创办这些公司时 很关键的一部分,你觉得这些人尤其是Demis 现在还相信这一点吗,还是说在看到过去几年,事情的发展之后,他们的想法已经变了,我觉得Demis已经从一个极端,摆到了另一个极端,一开始他认为可能会出现一个

Sebastian Malaby:单一主体的情境,也就是只有一个实验室,而他说的那个实验室,其实就是DeepMind 也包括他自己,但现在,他走到了相反的极端,他看到这个领域已经非常拥挤,所以如果只有一个实验室,自己追求安全,几乎没有意义,因为如果一个实验室更安全,但其他实验室不安全,这并不会让世界更安全,所以他确实已经转向一种看法 [00:04:58]

Jacob Efron:这是一个集体行动问题,只有政府才能解决,你书里有一点让我觉得特别有意思,早期有一次AI安全峰会,是Demis和团队组织的,他们分享了自己取得的进展,也讲了为什么会担心,当时房间里有些人,比如Reid Hoffman Elon Musk 听到这些信息之后,就想原来这项技术,真的开始有用了,那我们自己也可能,应该围绕他做点什么,往后要把安全这件事做成,显然需要这些不同公司,同意共享一些东西,并且合作,我想那次经历,应该让Demis心里很不舒服,考虑到过去的经验 你觉得他和这个领域里的,其他关键人物,现在怎么看待,把自己正在做的事,分享出去,你说的完全对,那是在2015年 2015年夏天,他们在SpaceX 开了这次峰会,由Elon Musk主持 [00:05:51]

Sebastian Malaby:当时的想法是 DeepMind要把它拉进来,让它成为他们努力的一部分,比如让它来主持某种安全监督委员会,这样它就不会去建立一个竞争对手,当然到了2015年底,它确实建立了一个竞争对手,也就是OpenAI 所以这件事让大家非常清楚地意识到,我们会进入一场竞赛,如果你现在问未来的合作怎么办,我觉得从Demis的角度,或者坦率说,从很多实验室领导者的角度看,你没法信任其他人,因此要建立信任,唯一的办法就是有一个政府执法者站出来说,规则对所有人都是一样的,大家在同一个公平的竞争环境里,你们都必须遵守某种安全要求,比如放慢速度,模型发布前先做测试,诸如此类,而且所有人都必须这么做,接下来的反应当然会是,可是中国那边的人怎么办 [00:06:03]

Jacob Efron:所以我最终认为,这必须是美国和中国之间的合作,虽然现在很多听众可能会觉得,这个前景非常遥远,你觉得Demis和其他人真的认为这现实吗,这显然是一个非常紧迫的问题 但大家似乎对政府没有太多信心,当然对世界范围内的政府间合作,也没有太多信心,从理性上讲,这确实像是解决这个问题的清晰路径,但你觉得他们真的认为这件事有可能成功发生吗,我觉得他们应该相信,这是有可能发生的 [00:07:09]

Sebastian Malaby:我们有食品药品监督管理局,人们会抱怨他慢抱怨各种问题,但他确实有专家评审,会去看临床试验,然后判断这种药安全吗,能不能放行,如果药品可以这样做,而且也应该这样做,那么AI模型当然也需要在事前接受审查,因为它们可能造成的破坏,比一种药大的多,规模也大得多,我觉得英国其实有一个例子,政府的AI安全研究所相当有效,里面有一些很优秀的科学家,那里的首席科学家是Jeffrey Irving 他最早在DeepMind 给早期模型做过很多post-training 他是非常严肃的研究者,顺便说一句,他也在OpenAI待过,并且和Dario有过密切合作,所以那里确实有很强的人,他们过去在一些系统里发现过漏洞,然后私下把这些漏洞分享给那些,没有发现同样漏洞的私人实验室,这说明 公共机构内部是可以汇集一些技术专长的,因为总会有一部分人,有足够的使命感和公共精神,愿意去为政府工作

Jacob Efron:所以我不认为我们应该放弃这条路,从外部看这一点很难判断,这个故事甚至有点让人沮丧 Demis一开始很理想主义,后来意识到这种动态,不会按他希望的方式发展,所以读你的书时,如果试着读出自理行间的意思,其实很难判断,他到底是已经接受了,这种竞赛动态,还是重新找到了某种希望,相信政府间合作,真的有可能发生,因为你举的那些例子,显然也都只是在,单一国家内部,肯定还不是跨国家协调的那种规模,他对我说的话 [00:08:25]

Sebastian Malaby:也是我书里的最后一句是,我仍然乐观,这是Demis的原话,他是在试图说服我,因为我在采访里一直追问他,你真的乐观吗,因为看起来我们已经进入了竞赛动态,比如2025年1月 DeepSeek出现了,这其实标志着中国实验室,进入了这个领域,我从2025年一直写到2025年底,我问他说 Demis,你还乐观吗,他说是的,我仍然乐观,我觉得他这么坚持的原因,一方面是不然他还能怎么说,另一方面也是因为,当某种戏剧性的事情发生时,世界确实会聚合起来,并且采取行动,你看COVID 看世界对COVID的反应,各国政府在本国范围内,确实做了很多人们,事先没有想到的事情,所以在危机里,人们确实会反应,比如贸易这种事,保护主义对经济表现的影响很慢,也很微妙,你就很难看到 政治上有人真正行动起来,试图修复它,过去几年我们看到的就是这样,但如果是一个很急迫的事件,比如Anthropic的某个模型发布了,大家突然开始担心,你就会看到美国政府几乎来了180度大转弯 [00:09:45]

DeepMind为何错过产品化

Sebastian Malaby:你就会看到美国政府几乎来了180度大转弯,从放任不管,变成我们最好管一管这个东西,我觉得这说明冲击效应队,政府会不会采取行动非常关键,换个话题

Jacob Efron:你整本书里一条很重要的主线,显然就是DeepMind的故事,以及它最终和Google的关系,这真的是一个很不可思议的故事,我记得你好像是在ChatGPT出现前不久开始这个项目,或者说让Demis同意配合这个项目的,那当然已经是在AlphaFoldld之后,也发生过一些很有意思的事情,但从你开始这个项目之后,整个世界又以很多有趣的方式变化了,在你这本书出版之前,人们一直在谈Demis和DeepMind 但你做了研究,你觉得大众叙事里,对Demis和DeepMind最大的误解是什么,人们平时谈这两者的时候

Sebastian Malaby:最搞错的是哪一点,最让我惊讶的是,人们基本上低估了Demis 我的书几周前出版之后,我接受了很多采访,很多时候人们甚至不会念他的名字,他们会把Demis念错,也会把Hasabis念错,他们几乎不知道他是谁,我的出版方Penguin Press 当时在想封面设计怎么做,他们想用他的照片,但同时又觉得大家认不出他,所以不能靠一个没人认得的人来卖书,对吧 [00:10:37]

Jacob Efron:到了现在我猜Sam Dario 这种人上书封面应该就没问题,对完全没问题,没错 Elon也可以 Elon肯定可以,而Demis其实是在2010年,创办了那个最早的实验室,比别人早很多

Sebastian Malaby:后来OpenAI复制的那套模式,也是他先做出来的,我做研究的时候记得去见过Darrell 他说没错 Demis是最早的那个人,而且AI for Science这个领域,当时基本上是他一个人的,那在当时是真的,我觉得现在没那么绝对了,所以我觉得人们就是低估了他的重要性,他们也低估了Google这家公司,因为他们觉得这是创新者窘境,觉得Google太慢了 OpenAI先推出了一个模型,先推出了一个聊天机器人,然后OpenAI有了巨大的品牌效应,所以没人能追上,结果证明这个判断是错的,到2025年末 Google DeepMind的模型 Gemini 3.0 在排行榜上已经比对手更强,当然从那以后,我没有看到Anthropic 有一波很大的上升,但重点是,我觉得人们太快,就把OpenAI和Altman 加冕为赢家了,同时低估了Demis这个人 [00:11:15]

Jacob Efron:也低估了Google DeepMind 这家公司,这很有意思,显然在你报道之后,到了2026年,我们看到这些coding agent崛起 Anthropic和Claude Code 确实是最早的一批OpenAI的Codex 也很快跟了上来,感觉Google仍然在做非常了不起的科学研究,而且他们在排行榜上一直表现很好,但不知道为什么,在时代氛围里,在产品的实际使用上,它总是有点吃力,如果说两个里程碑时刻,一个是ChatGPT和消费级产品,另一个是Claude Code和Coding Agent 那Google在这两个领域里,从使用量的角度看,似乎都没有一个特别有竞争力的产品,不是说产品本身不好,也不是说模型不好,模型是好的,但他们好像一直没有真正搞定后面这一部分,我想知道你怎么看 Gemini的使用量可能比我们意识到的更多 [00:12:09]

Sebastian Malaby:现在它已经有点被打包进Google搜索里了,比如那个AI Mode 但我同意你更大的观点,也就是说,在证明消费者体验这件事上,两个标志性时刻,一个是你说的消费端ChatGPT 另一个是最近的Coding 它们都不是来自Google DeepMind 我觉得这可能说明了一点,部分原因在于Demis的性格和他的知识背景,他是神经科学PhD 研究的是智能到底是什么,这样非常宽的问题,所以他做人工智能也采用非常宽的路径,他们对AI研究有一种什么都试试的方法,只要有两条不同路线可以走,他们就会说那我们两条都做,如果还能找到第三条路,他们大概也会做,他们非常分散下注,相比之下我觉得Anthropic能做出coding 是因为他愿意下更集中的赌注 Anthropic从来没有进入生成式视频这个完整领域 也一直没有一个Sora对应的产品,同时OpenAI作为一家创业公司,没有Google那种需要保护的生育包袱 [00:13:40]

Jacob Efron:所以它一开始愿意推出一个会大量幻觉的聊天机器人,这其实很像Transformer本身的故事 OpenAI当时基本上是下注,决定全力压住扩展Transformer Transformer当然是Google发明的,但Google同时在走很多条不同的路 然后就像你刚才说的OpenAI开始做很多事情 Anthropic则决定说我们就专注Coding 你有没有看到Demis和DeepMind的中心发生变化,我是说考虑到已经发生的这些事,也考虑到这里面那种很明显的张力,对一个博学型的人来说,对一个对AI很多方面都非常感兴趣的人来说,一边是同时关注很多不同方向,另一边是盯住当下正在发生的那件事 OpenAI很有名的一点是,他们后来收缩了方向,说我们之前做的太多了,现在必须真正聚焦Dragon Anthropic的Coding Models 你觉得Demis和DeepMind的人,现在是怎么想这件事的,我觉得他们确实有这种倾向,就是想什么都做,刚才我也说了,而且我不觉得这个倾向已经被纠正了,其实就在上周,我还和他们那边一位年轻科学家聊过

Sebastian Malaby:他跟我说的基调就是这样,我们总是下多种赌注,从来不会真的沿着一条路猛冲到底,从公司角度看,也许这说得通,如果我们看消费端发生的事,也就是通用ChatGPT模型这条线,他们确实晚了Transformer 在2017年出来之后,他们在开发这类产品上晚了,后来在产品化上,他们又落在ChatGPT后面,但到2025年,他们又追上来了,所以也许如果你像Google一样,财力很深,技术团队也很强,有大量人才,还有惊人的compute 你就承受得起这种节奏,他们不是Apple Apple是另一个极端,基本上说随便吧,我们不做这个AI 别人想把它放到我们的iPhone上,我们收费就行,这是对AI极其放手的一种姿态 Google则参与的多得多,但它不介意落后一两年,因为它觉得自己能追上 [00:14:41]

Jacob Efron:我在想到了某个时候,这一点会不会改变,很明显你们已经让一些,价值两万亿美元以上的公司冒出来了,至于他们最后到底值多少钱,还要再看,至少在预测市场里,他们看起来像是值这个数,这些公司已经起来了,而且拿下了很多地盘,所以我觉得接下来会非常有意思,要看他们这种聚焦方式,或者说他们同时追很多,不同方向的方式,最后会不会继续下去,你在书里画了很多篇幅,谈DeepMind和Google的治理,也谈这两个组织是怎么一起工作的,我觉得其中一个最有意思的部分是 DeepMind曾经考虑从Google拆分出去,当时背后似乎还有一些融资安排,但他们最后选择没有这么做,你觉得他们为什么最后没有决定从Google拆出去,另外回头看那是正确决定吗 [00:15:33]

Sebastian Malaby:当时确实有一个秘密计划叫Project Mario 目标就是拆分出去,我从其他来源发现这件事之后 Demis不是很高兴,有一次我还不得不和Google DeepMind的总法律顾问谈,他试图说服我不要写这件事,其他人把文件泄露给了我,我手里有这些文件,所以我肯定掌握了很好的信息,这件事都是真的,然后我就写了,就这样这个故事的重点,其实有一部分,要回到你刚才说的安全问题 Demis非常非常想拿到,对Google DeepMind Models安全监督权,或者按当时的说法,是对DeepMind Models安全监督权,但Mountain View的Google总部,没有给他这个权利,所以他需要一个可信的威胁,也就是可以拆分出去,于是他去找了Reed Hoffman Reed Hoffman承诺出10亿美元,资助他们拆分出去 Demis用这个来向Google施压,不过我不认为他真的提到过 Reid Hoffman做出了这个承诺,但他确实在推动Google 因为他知道自己手里有这个备用选项,我跟很多当时在场的顾问聊过,当时DeepMind正在判断,要不要选择Reid Hoffman支持的拆分方案,有些人说你看你应该拆出去,因为那样你就是一家独立startup 会拥有startup相关的所有激励,警觉性灵活性和敏捷性,你可以给整个团队非常强的,和业绩挂钩的财务激励,那会很棒,所以你应该拆出去,但Demis最后的看法是,从法律上说,这可能会变成一场法庭斗争,问题是我们到底有没有权利,这么做而我只想做科学,我不想被法律斗争分散注意力,我想要大量pew的访问权,所以我留下,这就是他做出的决定,这个决定是对还是错,他确实让他后来拿到了诺贝尔奖,这可不是小事,是诺贝尔奖 2020年也就是他放弃和母公司斗争,之后一年他发布了 Alpha Fold Protein Folding Prediction Model 后来让他拿到了诺贝尔奖,你刚才的说法更像是说 [00:17:59]

Jacob Efron:这件事是谈判筹码的一部分,用来争取一些安全方面的安排,你觉得当时DeepMind团队,到底有多认真的考虑过这条路,我觉得他们自己心里,其实一直没有真正走到那个决策点,他们想要一个拆分出去的B计划

Sebastian Malaby:因为有这么一个选择总没坏处,但他们也不确定,接下来该怎么在跟Google的谈判里使用它,我觉得他们最后决定绝不明确告诉Google 他们手里有这个选项,而是暗示一下背后可能还有别的安排,意思就是,如果你们不按我们想要的方式做安全监督,我们可能会做一些你们想不到的事,但最后,他们从来没有真正明确挥舞过这个威胁,也没有真的执行这个威胁,哪怕Google并没有给他们想要的安全监督,所以到头来从某种意义上说,这是一个关于创始人天真的故事,这里既包括Demis本人,也包括他的联合创始人 Mustafa Suleiman 他现在在Microsoft 他们进入这场谈判的时候,并不太确定自己的最终目标是什么,最后他们也没有真正用上 [00:18:24]

Jacob Efron:那个拆分出去的选项,准确地说,最后他们没有使用拆分选项,所以有时候为这件事,花三年时间来回跑 Mountain View其实是在浪费时间,我想问在你和Demis的那些谈话里,当然我们已经聊过AI安全峰会,也聊到他意识到那并不理想,还有没有别的事情是他对过去的十年,整个发展过程感到后悔的,他后悔什么呢,我会说他肯定不会后悔把那么多精力投入到 AI for science上 顺便说一句我特别喜欢你书里的那个意识,就是AlphaGo赢了,击败世界上最强棋手的那一天,他已经开始转向生物方向了,而且有人在麦克风里捕捉到了这一点,我觉得这特别能说明他是一个很有野心,而且永远在往前走的领导者

Sebastian Malaby:对,他大概只享受了10秒钟的胜利,然后就说我们接下来要做的是,解决蛋白质折叠问题 [00:19:53]

从AlphaFold到语言模型

Sebastian Malaby:解决蛋白质折叠问题,那确实很惊人,但我觉得这里更严肃的一点是,他不只是因此拿到了诺贝尔奖,他也认为,而且我觉得他这个判断是对的,这件事对于整个人类社会能不能接受,人工智能是绝对核心的,如果AI不能给人类带来明确的好处,只是带来很多工作岗位的冲击,那即使它可能有利于生产率,对承受冲击的人来说也会很痛苦,那我不确定,从政治上看 AI还能不能在没有巨大反弹的情况下,真正大规模铺开,所以我觉得一方面,推动科学进步本身是好事,拿诺贝尔奖当然也不错,但另一方面,如果没有这类科学成果 AI也不可能真正成功,我觉得他对此一秒钟都不会后悔,那他会不会后悔,没有更快转向Chatbots当然会,如果能像OpenAI的Ilya Sotsky那样,在Transformer一出现的时候就理解它 那当然会更好,那篇论文刚发布,伊利亚就从椅子上跳起来,沿着走廊跑去找Elec Redford说,我们要基于这个Transformer架构,做一个语言模型,我的意思是,就在论文发布的当天,因为他已经有了准备好的头脑,自从读博士以来,他一直在思考怎么处理文本这类序列数据,所以Transformer论文一出来,他马上就看到了它的重要性,当然如果DeepMind当时也能那么快,产生同样的判断那会很棒,但他们实际上花了两三年才走到那一步,坦率地说 Damn it 到现在对这一点还是有一点盲区,我跟他说你们差不多晚了三年,他就说不不不,我们有Chinchilla 我们有这些其他模型,我就说是,是,但你们没有在2020年底发布那些模型,而OpenAI到那时已经在这条路上做了三年半,所以你们就是晚了 但他非常抗拒这个说法 [00:21:47]

Jacob Efron:我觉得这是因为,他确实为这件事感到后悔,我也觉得这点很有意思,你在书里的写法大概是说,他对Transformer架构的某种抵触,部分原因可能在于,他显然有非常深的神经科学背景,他相信通向通用人工智能的路径,必须经过某种那个世界,更像人类学习方式,更像人脑的东西,这显然就是RA 而不是单纯靠消费整个互联网,毕竟你怎么可能只靠消费互联网,就真正理解什么是人类呢,我觉得你的观点其实是结果证明 通过扩大这些模型的规模能理解到的东西,远比人们原来预想的多,顺便说一句,我觉得机器人领域可能也会遇到某种类似的两难,要在模拟环境里训练机器人,你需要这些真实世界的模拟环境

Sebastian Malaby:而视频很可能是搭建这些模拟环境的一个重要工具,所以,如果DeepMind在通向更强机器人能力的路径上压对了方向,它其实具备所需的条件,但我们还要再看语言和Transform模型,那件事的问题在于 Demis低估了语言对超级智能的重要性,机器人领域也可能出现类似情况,要把机器人做对 [00:22:28]

Jacob Efron:到底是不是要靠制造实体机器人,让他们在某个实体实验室里撞来撞去,甚至把胳膊撞坏呢,这个点很有意思,因为机器人领域确实也有很多类似之处,现在有10种15种不同路线,大家都在尝试 我想如果你是Google再加上DeepMind的一贯做事的方式,你大概会在很多路线里都下注,与此同时也会有一些创业公司说,我们就全压X路线或者全压Y路线,接下来会怎么发展会很有意思,因为在今天配方还不清楚的时候,你完全可以理解 DeepMind为什么要保留选择,这样做并不是特别不理性,但这也会让你暴露在另一种风险下,有人真的全压Transformer 或者全压代码,或者全压机器人领域里,下一个类似的关键方向,我觉得这里其实还有一个更大的有趣问题 由风投支持的创新,能不能胜过Hyperscaler 这些科技巨头的AI路线,这个问题上我的观点肯定有偏见,这也公平,不过我觉得我偏见没那么重,我现在写的是一家Hyperscaler

Sebastian Malaby:但我上一本书写的是风投,两边我都写过,我觉得这件事的天平其实很微妙,因为从一个角度看,这是一个非常吃资本的项目,你需要非常深的口袋,如果看OpenAI在Generative AI上

Jacob Efron:长期和Google对抗的能力,我今年一月在纽约时报写过,我认为OpenAI到下个夏天前,破产的概率有50% 顺便问一下,现在还是50%吗,是的,我当时说的是失败 [00:23:57]

Sebastian Malaby:我的意思是他会以折价把自己卖给某个hyperscaler 我确实对他们做的一些开支削减,印象很深,取消Sora是个聪明的动作,他们做了一些很厉害的成本削减,这一点我认可,但另一方面,关于Sam会被Brett Taylor取代的传闻,也已经传得很广,整体感觉就是领导层已经信誉受损,综合来看我现在仍然觉得,到下个夏天前他们失败的概率大概是五五开,这不是因为他们没有好技术,他们有技术确实很好,问题在商业模式,商业模式有问题,而问题在于他们面对的是Google Google有近乎无限的现金,可以一路把你耗死,所以从一个角度看,这像是一次有利于既有巨头的平台迁移,但另一方面,就像我们刚才讨论的,当你拥有近乎无限的人才computer和资金时,你往往不会做那种高度集中的战略下注 如果你的对手是一批由风投做支持的创业公司,而每家公司都做了不同的高度集中的下注,那么也许其中某一个下注就会成功 [00:25:06]

Jacob Efron:但这是一个利润空间很薄的游戏,就算看Anthropic 我觉得一直都有一个问题,他们能不能筹到足够的资本,继续留在这场竞赛里,或者他们最后是不是基本上必须出手,或者和某个Hyperscaler深度绑定,某种程度上他们现在已经是这样了,当时看起来,他们可能会沿着这条路走向Google或Amazon 然后就在你可能会怀疑,他们还能不能继续筹到,留在这场游戏里所需的资本时 Coding Model爆发了,而且爆发的非常大,现在Anthropic是湾区最火的公司,但这里有一个很有意思的反事实,如果这些东西,晚6个月晚12个月才见效,那它当时开始真正跑通,并不是必然的,很多事情回头看,都可以写成一个特别清晰的叙事,但事情最后会这样发展,并不是必然的,我想回到你刚才谈Demis的一点,也就是他显然很关注科学,也相信我们必须证明 AI能给社会带来有益的结果,否则整个世界都会转而反对它,有一点尤其让我在意,你一开始也提到过 你没法把Demis放在封面上,因为大家认不出他是谁,从很多方面看,今天全世界一提到 AI想到的人是Sam和Dario 他们在很大程度上,占据了公众讨论的空间,也影响了人们怎么理解AI 所以我想问两点,第一 Demis对这件事是什么感受,第二,随着时间推移,你觉得他会不会觉得,或者说他是不是必须,比现在更像一个公众人物,去塑造这场讨论,很明显 他对这些事情非常有热情,而且这种热情,和他对科学的感受是相通的,先说清楚,我的出版商最后做了一个折衷,封面上还是有他,但把画面处理得有点模糊,让他看起来像一个有神秘感的极客

Sebastian Malaby:这样就算你认不出他是谁,那也仍然是一张很酷的照片,所以他们最后就是这么做的,回到你的问题,我觉得Demis确实明白,自己需要更多的走到台前,他在某种意义上,很擅长讲述自己的故事,也就是说,他很会把自己一路走到今天的经历,整理成一种回顾性的叙事,并且讲给别人听,他和我聊了三十多个小时,当然这里面肯定是有原因的,另外还有那部纪录片 The Thinking Game 很多人都看过,再往前还有一部关于AlphaGo的纪录片,那部片子不是偶然拍出来的,他们当时去首尔和围棋冠军,李适时比赛的时候,是真的带了一个纪录片团队过去,所以他确实擅长这种回顾性的讲故事,但他不太做的是前瞻性的叙事,他不像Sam 至少在Sam最风光的时候 Sam只要发几条推文 [00:26:37]

Jacob Efron:就能把一个新的DeepMind发布,抢走注意力,他们总是会提前一天动手,好像知道什么事情要发生一样,对,我们说提前一天动手,意思就是在X上先放一点风声,发几条帖子

Sebastian Malaby:甚至都不用真的发布什么东西,但因为Sam在X上的关注量,大概是Demis的五六倍,所以回声式效应强得多,哪怕是别人发布产品,他也真的能主导叙事,这对DeepMind来说是个问题,一方面会影响产品采用,另一方面也会影响人才招聘,控制叙事确实很重要,我觉得Google DeepMind那边也明白这一点,至于他们到底有没有能力对抗这种局面,我们还要再看,他们不会去做Darryl会做的那种事,比如和Pentagon公开打上一场高调的仗,或者发布一些很有传播性的公开声明,这些事会立刻把你变成一个超级名人,而Demis在某些方面太理性了,不会选择和政府公开开战,所以也许这让他没那么有名,也许他在媒体里没有那么靠前,本身就是战略精神带来的负责任 [00:27:43]

Jacob Efron:我很好奇你最后了解到的情况,是这种公众叙事到底会不会吸引研究人员,很明显这场竞争很大一部分就是人才竞争 Google有非常出色的研究人员书里,你也写到过Jack Ray这样的人,他离开过后来又回来,然后又再次离开,所以你怎么看 或者说你和大家聊下来,什么样的人会被DeepMind吸引,他们在多大程度上需要改变自己的招聘品牌,才能继续和其他公司保持同等竞争力,这是个很好的问题,我觉得他和我们刚才说的,资金雄厚的Hyperscaler模式 [00:28:47]

Sebastian Malaby:与风投模式之间的竞争是有重叠的,以Jack Ray为例,当他离开DeepMind去OpenAI的时候,他跟我解释说,这是因为OpenAI当时集中压住语言模型 AI语言模型就是他们唯一关心的事情,而那正是Jack在做的方向,所以他想去哪里,我觉得今天在机器人领域也会有类似情况,会有一些非常优秀的研究人员,他们想去一个只做某个集中压住的地方,而且他们自己也相信这个方向,然后他们就会全力以赴加入那个团队,去实现他们认为正确的路线,但如果你把一个机器人研究员,放进一个很大很谨慎很多元化的实验室,然后对他说我们真的相信你,但我们同时也相信另外五个压住,而且这些压住都在同时推进,那他的感觉就不会那么好,这里会少掉一种热情,你怎么看这个决定

Jacob Efron:AlphaFull的工作最后被拆出来,或者说独立成了Isomorphic 对吧,变成了另一家公司 Alphabet当然还是持有很多股份 [00:29:53]

拆分Google与安全监管

Jacob Efron:Alphabet当然还是持有很多股份,但它是一个独立项目,你觉得这说得通吗,你觉得这会不会成为,以后反复出现的一条路,这是个很好的问题

Sebastian Malaby:我觉得Isomorphic 确实起到了这个作用,这次拆分出来,另一个原因,也是为了更方便和制药公司,大型药企,这些合作伙伴合作,用独立公司的形式,可能会稍微容易一点

Jacob Efron:是因为他们不想,直接和Google合作之类的吗,可能是,也可能只是因为大家觉得,这件事本身作为一个独立业务,规模就可能变得非常大,另外Google和DeepMind 之前各自都做过

Sebastian Malaby:AI医疗有它自己的政治,也有非常长的周期,他们觉得这件事,需要放到一个不同的地方,所以他们就这么做了,但我觉得你提出了一个很好的点,这么做可能还有一个额外理由,就是给人们一个选择,让他们去一个,自己就是核心堵住的地方工作,他们做的那件事,就是最重要的事,我觉得这是一个非常重要的招聘工具,我还想补充一点,这在硅谷,可能已经算是挺多人知道的事了 Anthropic的人员流失率,相对其他公司非常低,这说明如果你作为领导者的身份特征,像Dario那样非常直接,不过绿地表达自己对安全的极度关注,对责任和社会影响的极度关注,还会写很长的文章,那么有些人可能永远不会加入你,因为他们觉得你有点怪,但那些真的加入的人会非常喜欢你 [00:30:32]

Jacob Efron:也非常相信你,于是就会形成一种很惊人的忠诚度,这一点很特别,你这本书里还有一个关键人物,我们还没聊到就是David Silver 他显然在很多reinforcement learning工作里,都起了关键作用,也很早就和Demis在很多事情上合作,你书出版之后,他最近也离开了DeepMind 去创办另一家公司,我很好奇你怎么看这件事,我觉得这其实很符合,你刚才讲的那条线索,我的意思是它过去是,现在也是一个极其坚定的 [00:31:25]

Sebastian Malaby:reinforcement learning信徒,坚定到某种程度,我觉得DeepMind的大多数同事,最后都觉得有点太过了,最早在Atari游戏系统那件事上,它是英雄人物 DeepMind在2012年2013年,推出那个系统取得了很惊人的突破,那几乎就像早期agent领域的ImageNet David Silver是其中的关键人物,后来有了AlphaGo 再后来有了AlphaZero 那些基本上都是从reinforcement learning学出来的,也有deep learning 但整体上非常偏向reinforcement learning 然后David Silver和他的博士导师Rich Sutton 发了一篇论文,叫什么来着,我记得好像叫experience is enough之类的,那篇论文的核心意思基本上是,要从经验中学习,从reinforcement learning中学习,不要从数据中学习 David对这个愿景非常坚定,他认为从数据中学习是更差的,因为数据里包含错误,如果用围棋来类比,你拿人类围棋选手过去的棋局来训练,即使是专家棋局,那些棋手对围棋的理解也不是完美的,如果你想达到super intelligence 就必须超越这一点,所以机器必须从自己的经验中学习,不能依赖人类通过文本或其他数据,传下来的那种已经凝固的知识,他对此非常相信,所以在他看来,一切都是agent 而且只能是agent 他们必须从自己身上学习 Demis曾经跟我说过一次,其实不止一次,他说这种方法也许最终会在未来某个阶段胜出,到那时你已经有了通用人工智能 然后你只是在把它进一步完善成更强的Super Intelligence 因为归根到底,是的,如果机器从自己的数据中学习那种数据更纯净,最终会带你走得更远 但如果你想先走到通用人工智能 就需要用现有数据把自己启动起来,整个Language Model革命证明的正是这一点,在很长一段时间里,几乎没有多少reinforcement learning [00:33:34]

Jacob Efron:除非你把RLHF也算进去,如果base model本身不够强,那就行不通,对吧,除了这些特定领域以外,现在这个时间点,有趣的地方就在于,把大规模预训练LLM 和这些可验证领域上的 reinforcement learning结合起来,所以reinforcement learning 现在总体上,显然又重新流行起来了,进一改又重新流行起来了,成了改进这些模型的一种方式,所以在我看来,如果是几年前 reinforcement learning 更不受重视的时候离开,反而更说得通 我觉得它现在发生,时机挺有意思的,我觉得你说的对,但这也反映了人从有感觉到,真正行动之间的滞后,坦白说,我觉得他已经有一段时间,感觉到自己被困在一个大组织里

Sebastian Malaby:这个组织本质上并不想在 reinforcement learning这张桌子上,压太多筹码,只愿意压很小一部分,而且就算在reinforcement learning内部,他对应该怎么做的看法,也和一些人不一样,我觉得他是很典型的创业型人物,他想待在一个小组织里,在那里,他的愿景,就是整个组织的愿景,因为他在reinforcement learning上,非常有远见,所以他出去做自己的事

Jacob Efron:是说得通的,我们刚才其实反复聊到一点,到头来这些实验室,是有少数几个人掌舵的,而这些人之间,有非常强的个人经历和关系 Sam和Dario的关系,显然已经有非常多记录了 Elon和Sam的关系,也在现在这场诉讼里被摊开了,但我觉得 Demis和他们每个人之间的关系,普通大众可能了解的少一些,所以我想请你稍微讲讲这一点,他们之间到底有什么关系 Demis对现在这个领域里,另外两位主要主角,大概是什么感觉 Demis和Elon的关系 [00:34:51]

Sebastian Malaby:非常有意思 Elon当时像Mysa他,对吧,是的,不过往回说这件事的起点是,他们都拿了同一家VC机构 Founders Fund的钱 Elon是SpaceX那个人 Demis是DeepMind那个人,大概在2012年前后

Jacob Efron:他们都被邀请去参加一次 LPED会议,两个人都做了展示,然后就聊了起来 Elon印象非常好胜,那场ED会,要是认真听,价值可太高了,所以Elon的意思大概是 [00:35:31]

Sebastian Malaby:我掌握着世界上最重要的技术,因为就算世界被你的AI搞砸了,我们还可以搬去火星,成为多行星物种,他说我手里这个才是最重要的东西,这时候Demis说是啊,但如果你觉得自己在火星上就安全了,别忘了我的AI会掌握太空飞行,然后它会一路跟你到火星,所以到最后你还是不安全,然后现场沉默了一下,接着Elon说,然后他下一句话就是,我想投你们的B轮,于是他给B轮写了一张500万美元的支票,然后就像你说的 2014年初,他想买下DeepMind 阻止他卖给Google Demis直接把他挡回去了,这里有个很疯狂的故事 Luke Nozick是Founders Fund的合伙人,也在SpaceX董事会里,他在洛杉矶一个派对上见到Elon 两个人一致认为,必须阻止DeepMind被卖给Larry Page 他们觉得Larry Page是个超人类主义者,不能相信他 于是他们跑到派对楼上的一个小储物间里,在伦敦的半夜用Skype打给Demis 说你必须卖给我们,不能卖给他们,他们说卖给SpaceX 卖给Tesla怎么都行,就是不要卖给Google 因为他们是邪恶的 Demis的反应就是,不不Google有算力,我要卖给他们,再见晚安,然后他挂了电话,接着Elon就炸了 Elon开始叫Demis 邪恶天才这个说法,其实是在指Demis当年做游戏设计师时,参与过的一款游戏,然后伊朗就开始抹黑Demis 而且一直执着于这件事,我觉得在我们最近看到的这场审判里,也就是伊朗对Sam的那场案子里,这一点又更多浮现出来了,伊朗当时非常执着于,把Demis看成那个必须被制衡的邪恶天才,这就是他们之间的历史 Demis现在很愿意说,他们如今相处得挺好,我没有直接从伊朗那里听到这一点 但我感觉很可能已经翻篇了,伊朗现在已经转去和Sam斗了,所以他说现在和Demis没问题,可能是真的,但这就是那段历史,至于Sam 如果把他和Demis放在一起比较,两个人的性格和背景差别实在太大 Demis有诺贝尔奖 Sam连本科都没读完,所以Demis不太把Sam当回事 Sam没有大学学位,更不用说PhD或诺贝尔奖了,在Demis看来 Sam是硅谷人脉网络的终极化身,手腕高明,知道怎么先假装做到,直到真的做到,知道怎么把自己的说法讲成真理,坦白说我觉得这里面也有些道理 Sam非常擅长融资,也非常擅长利用自己在硅谷的人脉,这些当然都很厉害,但这和成为一个严肃的科学家不是一回事,像这样的人你不能信任,我觉得现在人们在相当程度上,已经开始接受Demis对Sam的看法了 但Demis一直都是这么想的,所以我觉得他从来没有喜欢过Sam

Jacob Efron:我记得是经济学人在谈你的书时说,他很像是在检验一种伟人史观,但我们很好奇,我们今天已经聊了很多这四位主角,我想知道你做完这么多研究之后,会觉得这一切是不是某种程度上不可避免,或者说掌舵这些公司的 如果是Demis或者是其他这些人到底有多重要,我很好奇你的看法,我以前写过一本关于Alan Greenspan的书,他是全球经济里权力极大的人物,但最终也没能阻止2008年的金融泡沫,我把那本书叫做The Man Who Knew [00:38:44]

Sebastian Malaby:因为他明白泡沫很危险,事实上他博士论文写的,就是这个,他一直很关注泡沫膨胀的问题,但他阻止不了这件事发生,我觉得写Demis这本书时,几乎也可以用同一个书名,我最后叫他The Infinity Machine 但他本来也可以叫The Man Who Knew 因为Demis从一开始就知道,这东西很危险,但作为一家实验室的负责人,哪怕是一家非常强大,非常有钱的实验室,哪怕他本人有诺贝尔奖得主,这样的地位,他知道他危险又能怎么办,因为就算他把自己的实验室做得很安全,也挡不住别人不安全,所以我觉得这种竞赛的动态里,确实有某种不可避免的东西,同时谁在领导这些实验室也确实重要,很明显Darryl改变了AI安全的叙事,第一是他公开和五角大楼发生冲突,第二也更重要的是他发布模型的方式 这是一个很清楚的例子,另一方面Sam决定发布ChatGPT 尽管他当时会产生幻觉,这是一个选择 [00:39:52]

Demis的科学品味与接班

Sebastian Malaby:这是一个选择,他本来可以不这么做,而这个选择彻底影响了 AI竞赛后来展开的方式 Demis的方式更低调,他对当时的英国首相 Rishi Sunak说,我们应该办一场,全球AI安全峰会,后来事情就真的发生了,峰会在Bletchley Park举行,中国也来了,那算是国际社会围绕AI安全,展开对话的开端,所以我觉得Demis 做事更多是在幕后,但这些领导者的个性确实重要,不过,他也不是唯一重要的因素

Jacob Efron:背后还有一些更底层的力量,在我们结束之前,既然你花了这么多时间,和Demis相处,我确实还有几个,关于写作过程的问题,很想深入问一下,你好像花了三年时间,一直在同一家酒吧和他见面,我想知道在这一系列谈话里 [00:40:28]

Sebastian Malaby:有没有哪个时刻,让你对他的看法变化最大,让我意外的地方很多,其中一个是,他对探索科学深层奥秘,这件事的信念有多深,这其实带有一种精神性的信念,而我之前完全没意识到,有时候我们谈着谈着,他会突然激动起来,我们每次谈两个小时,所以确实能聊得很深,他会开始拍桌子说,你看这张桌子它是个谜 Sebastian它是个谜,我们并不理解它,他说这些原子在里面跳来跳去,原子之间还有空隙,可这张桌子却是坚固的,他说为什么你的笔记本电脑能思考它,明明只是一堆沙子和铜,这里到底发生了什么,为什么这个世界被设定成这样,能以一种谜一样的方式运转,我们必须理解这件事,他背后一定有某种智能,这一切不可能只是巧合,不可能刚好就是这样,也许那有点像上帝 也许如果我们用正确的方式接近科学,更深入地理解自然,我们就会更接近某种,也许可以称为上帝的东西,我之前完全不知道他会这样想,但我认为他的确是这样想的 [00:41:35]

Jacob Efron:这也解释了为什么,他明知道这种超级强大的AI很危险,却仍然继续推动他的发展,因为对他来说,这是一种近乎精神性的追寻,我感觉在这个领域里,对很多人来说,通往通用人工智能这件事 都有一种宗教或者精神层面的意味,看着它展开,真的很有意思,而且我觉得在你的作品里,这一点表现得非常清楚,我还想问你,这本书写的范围很广,也很开放,有没有一些事情是Demis不太愿意谈的,或者有没有哪些内容 是你本来想写进书里,但最后没有呈现出来的,由他一开始就说得很清楚,他愿意大量谈自己,但不谈他的家庭,所以我就把那部分略掉了,书里只是顺带提了几句,他娶的是自己在Cambridge的女朋友 [00:42:14]

Sebastian Malaby:他们现在仍然在一起,有两个孩子,一切都很正常,但我基本不谈这些,我写Greenspan的时候去采访他,很多很多很多位前女友,是理解这个人的一种方式,而且那其实以一种很好的方式,把他作为人的一面呈现了出来,但我对Demis没有真的往那个方向去写,还有一件事是,他不想谈他和Sundar Pichai 以及Google在Mountain View的领导层之间的冲突,但我写了那部分,因为其他人告诉了我这些事,所以我在书里写了不少这方面的内容,他希望这些事不要写进去,但这个愿望没有被完全满足,他也不太想让我写,他是怎么让联合创始人 Mustafa Suleiman离开的,他会说,我其实没有解雇,他当时有一个流程,是我的总法律顾问,做了某种关于霸凌问题的调查,诸如此类,那确实算是导火索 但不是Mustafa被挤出去的深层原因,在DeepMind 除非Demis想让一件事发生,否则它不会发生,我觉得他只是判断Mustafa到了该离开的时候

Jacob Efron:因为他们在太多问题上,意见不合,所以确实有一些内容是他不想写进书里的,有时候他的这个偏好,得到了尊重,有书没有,关于你这本书外界已经有很多公开讨论了 我感觉你也上了很多节目,很多人都在聊这本书,我觉得大家也抓住了我们今天讨论过的很多主题,那书里有没有哪些部分或者哪些角度,你觉得讨论的还不够,或者你希望大家能更多谈一谈,我觉得里面有一些关于科学创新的启发 [00:43:45]

Sebastian Malaby:也有关于怎么做Deep Tech公司的启发,我们前面谈过DeepMind的一些短板,比如没有足够集中,地下重铸之类,但从积极的一面看,我觉得很有意思的是,他发展出了自己所谓的科学品味,我的意思是,他第一次创业时做的是一家,叫Elixir Studios的电子游戏制作公司,他基本上把公司搞砸了,因为他在产品工程上野心太大,比如图形效果能不能做到特别惊艳,能不能用早期的reinforcement learning 让游戏抉择变得更有意思,他把技术团队逼到了极限,要求他们做得太激进,结果就是他们没法按时交付产品,所以那次结果并不好,他从第一家公司里赚到了一些钱,但并没有达到他期待的成功,然后时间快进到他做DeepMind 他在2018年遇到一个关键时刻,当时AlphaFold的研究已经做了两年 他的AlphaFold团队做出了全世界最好的蛋白质预测系统,这个团队的负责人Andrew Senior就说,好了老板,Demis,我们已经做到了,现在我们可以宣布胜利,然后去做别的事了,因为我们不可能精确预测蛋白质,别开玩笑了,那是不可能的,他的意思是,我们已经是世界第一了,这就够了,但Demis说不,不,这不是重点,我们想预测蛋白质,是为了让研究生物学家和医学研究者,能用我们的预测去研发药物,或者带来其他了不起的突破,只是比其他实验室更强,没有意义,我们要解决这个问题,但负责这个团队的Andrew Sr.说,那是不可能的,于是Demis坐进团队会议里,这就是科学品味发挥作用的地方,他会去听他所说的流动性,也就是想法的流动性,如果研究团队能互相抛出各种可能性讨论,还有哪些方向可以探索 那就是流畅的,在这种情况下,你就应该继续往前走,投入更多资源,推得更用力,如果会议里是一片沉默,没人有什么好想法,那当然就应该放弃,所以他做了这个测试,他听这个团队讨论,团队在交换想法时是流畅的,于是他基本上换掉了项目负责人 Andrew Sr.去做别的事了,他换上了另一个人 John Jumper 后来John Jumper和他一起成为诺贝尔奖,共同得主,我觉得从第一次创业时,因为野心过大,而把公司搞砸 [00:45:47]

Jacob Efron:到后来在蛋白质折叠问题上,判断正确,这个演变过程,对于怎么在公司内部,做这种前沿科学,是很有启发的,我很喜欢这个故事,你这本书的一部分作用,显然是把Demis这个人,更完整地呈现出来 把他的故事讲出来,而这可能本来就是一个,没有被足够了解的故事,那在这本书里,或者更广泛地说,在AI生态里还有没有其他人,你也觉得他们同样,值得被更多看见,值得有人为他们写一篇,深入报道或者某种传记 也就是这个AI世界里其他不那么被歌颂的英雄,在我的书里,我确实把Ilya Sutskever和David Silver 放在一起对照写,其中一个代表Deep Learning 传统他是在多伦多跟着

Sebastian Malaby:Jeffrey Hinton读博士的另一个David Silver 则代表我所说的 Edmonton Alberta传统,他是在Rich Sutton门下读博士的,而Rich Sutton是Reinforcement Learning领域的,某种大师,我觉得这两个人都很重要,我在讲Demis的故事时,也嵌入了他们两个人的小串,把他们两种方法放在一起对照,其实完全可以给他们两个人,写一本很精彩的双人传记,当然Google在AI上的命运是好是坏 [00:46:57]

Jacob Efron:在不同阶段大家也猜测过,也许有一天Demis会成为Google的CEO 你觉得这有可能吗,有可能问题是他自己想不想做,因为我觉得他确实很喜欢,还能留出一点空间去思考科学问题

Sebastian Malaby:他每天都像上双班一样,也就是说他会先和家人吃晚饭,然后再回到书桌前,一直工作到凌晨四点,那段时间他是在做科学研究,不过我觉得现在他很多深夜时间,其实都花在和Mountain View通电话上,协调那些在Mountain View向他汇报的人,所以他的科学时间其实已经在被挤占了,但如果他成了CEO 那显然就一点都不剩了,我觉得他内心真的很矛盾,不确定自己到底想不想要这个职位,但在我看来这一切都有点取决于,如果Sander决定离开,那谁会是最可能接任CEO的人,如果不是Demis的话,如果接任的人让Demis很放心,那他大概会很乐意不去做这个职位,但如果他对那个人不放心,那他可能就会把自己也放进候选名单里,因为他不想为一个自己不认同的人工作 [00:47:36]

Jacob Efron:Sebastian 这场对话真的非常有意思,我通常喜欢把最后一句话留给嘉宾,我觉得这一次你大概很清楚,可以把大家指向哪里,不过最后还是交给你,听众们还应该从这场对话里带走什么,另外也请你一定介绍一下这本书

Sebastian Malaby:说真的,我写这本书写得非常开心,这是我的第六本书,我和Demis在一家英国酒吧楼上聊了30多个小时,那真的是很特别的经历,他会希望我说明一下,我们喝的是咖啡,不是一瓶托,一瓶托的啤酒,但这个人的知识跨度太惊人了,他可以即兴谈神经科学、计算机科学,物理、生物、化学,也可以谈电影史、小说、科幻,这真的很狂野,我也确实努力把那种能量写到书页上,这是我第一次在书里,把第一人称当作一种写作手法来用,因为我想把我和他的那种对话感用进去,所以书里会有The Mist在那即兴发挥,然后我问他一个问题,或者在他说话之间,穿插我当时在想什么,帮助读者理解,这次经历太特别了,所以他也推动我在写作记忆上,做了一些创新,至少是对我自己的写作来说 [00:48:40]

Jacob Efron:所以我很享受这个过程,各位如果去读这本书,我也希望你们会喜欢,太棒了,非常感谢你来到播客,和我们聊这部书,太好了,谢谢你 Jacob 太好了,我是Jacob Efron 这里是Unsupervised Learning 在这档播客里,我会和AI领域,最聪明的人聊天,问他们很多问题,关于模型正在发生什么,以及这对世界上的企业,意味着什么,我希望大家能感受到,我做这件事,真的非常开心,除了我在Redpoint 做投资人的日常工作之外 [00:49:46]

写作经历与播客收尾

Jacob Efron:这是我用晚上和周末,做的项目,但我们之所以能请到,这些非常棒的嘉宾,真的离不开像你们这样的听众,订阅这档播客,并把它分享给朋友,说到底,这正是让整个节目运转起来的原因,所以也请大家考虑这样做,非常感谢你们的支持和收听,我们下期再见 [00:50:00]

返回该播客 打开原文