目录
- 英国AI技能教育的十年反思 [00:00:00 - 00:10:00]
- 从AI素养到通用人工智能时间表 [00:10:00 - 00:20:00]
- 全球治理与英国发展机遇 [00:20:00 - 00:30:00]
- 能源、资本与AI产业竞争 [00:30:00 - 00:40:00]
- AI驱动的科学发现与生物学 [00:40:00 - 00:50:00]
- 生成媒体治理与投资责任 [00:50:00 - 01:00:00]
- 智能体时代的社会选择与行动 [01:00:00 - 01:09:58]
英国AI技能教育的十年反思
Gus Machado：各位晚上好，欢迎来到WCIT，也就是Worshipful Company of Information Technologists。这场讲座是为了纪念前会长Barney Gibbons。首先，我想表达几份感谢，感谢HSBC Innovation Banking对这场讲座的大力支持。今年，我们有两位非凡的人物，他们帮助塑造了数字时代。我们的会员Sir 德米斯·哈萨比斯 以及我们的会员Dame Wendy Hall 两位新成员，非常欢迎你们的到来，谢谢，谢谢，我在想该怎么开场，我看过Demis Wendy的每一段视频，开头都会念一遍他们的完整履历，于是我问了Demis 怎么定义Demis最合适，物联网 Demis 如果这里有什么不对的地方，那可不是我的错 德米斯·哈萨比斯 Google DeepMind的联合创始人兼CEO 在我看来，这是世界顶尖的研究实验室之一，让我特别兴奋的是，它就在我们国家，你的使命是推动AI发展，并把它应用到重大的科学和社会挑战上，你还开发了一款叫主题公园的电子游戏，把AI和经济学结合了起来，卖出了1500万份，这还都是你上大学之前的事，大学之后的事，我就不一一细数了，因为你做过的事情实在太多，你打造了AlphaGo 击败了世界围棋冠军，还有AlphaFold 彻底改变了蛋白质结构预测，你是个多领域的人，你集计算机科学家，神经科学家，企业家，前电子游戏设计师于一生，把多个领域的洞见，带入了AI研究，我们非常高兴，你能来 Sir Demis 谢谢 Dame Wendy Hall 英国最杰出的计算机科学家之一，网络科学的全球先驱，这是一门研究网络如何塑造社会，社会又如何反溯网络的交叉学科，你是University of Southampton的 Regis计算机科学教授，也是最早在多媒体超媒体系统领域，开展重要工作的研究者之一，你还是Web Science Trust创始领导人之一，和Tim Berners-Lee一起，他其实也是我们这里的荣誉会员，我知道他是，没错，对我们都跟他很熟，你们一起推动了对万维网及其社会影响的理解，你是Southampton第一位成为工程学教授的女性，还曾担任BCS和ACM 也就是计算机协会的主席 在AI 互联网治理数据政策和数字伦理方面，你是国际公认的权威声音，你一直在帮助政府和机构，思考技术，如何影响社会 Dame Wendy 非常欢迎你，非常感谢，这就引出了，我担任Worshipful Company会长，这一年的主题，社区，我想就这个主题，多说两句，我选这个主题，是因为我想弄明白，爱和技术，会如何影响我们的社区，我们的人，我们的行业，这正好触及了本组织的四大支柱，慈善产业，教育和联谊，所以今天我想先向您 Dame Wendy 提第一个关于技能和AI素养的问题，距离您2017年的评估报告快十年了，一份真正严肃的国家AI战略 现在应该是什么样的，从学校到大学，再到职场中期人士，再到我们员工的技能重塑 [00:03:33]
Wendy Hall：我在想英国是不是仍然没有看清，或者说误判了这个技能挑战，你这个问题里包含了三个问题，真不敢相信已经十年了，我们做那份报告的时候 Demis也在，我当时想请他和我一起主持，但他那时候已经太忙了，你还记得吗，记得我们当时试着提供了一些意见，你参与了，确实参与了，对，但他不愿意联合主持，不过也没关系，可以理解，他当时正在打造DeepMind 所以他正在实现梦想，所以遗憾的是，我的回答不太乐观，英国曾经做得非常好，事实上我喜欢说，我们是第一个制定国家战略的，其实加拿大比我们早了一步，但我觉得我们的战略知名度更高，我们实际上百年纪念报告 是2017年出的，然后国家战略是由我们，据此设立的AI办公室，和AI委员会制定的，国家战略是在那之后，在21年新冠期间演变出来的，我还记得那些电话会议，我曾经当过一段时间的 AI技能冠军，现在已经没有 AI技能冠军这个职位了，也没有AI委员会了，没有一个独立的机构，来监督DCI T里，那400人在AI部门做什么，我认为，英国在这方面错失了良机，很多很多国家，我走遍世界会见各国政府，都借鉴了我们的战略，很多国家，你能在其他国家的战略里，看到它的影子，甚至原话，你知道比如新加坡，就照着我们的剧本做了，而且做得更好，所以他们现在在AI发展排行榜上，正在超越我们，作为一个弹丸小岛，他们的表现远超其体量 而且他们在排行榜上，正在超越我们，你知道很明显是美国和中国领先，我们之前在AI战略和采用率的排行榜上排第三，我们已经下滑了 新加坡，新加坡真的做得非常出色 其他国家也在跟进，我们现在我们做得好的地方，我们可以稍后讨论 讨论后面会提到，但技能这块非常非常零散，不幸的是百年纪念审查提出了好几项建议，那些建议都推进了，包括硕士博士，但针对中小学的非常少，学校在AI方面几乎没有什么指导，而且你知道，你看到出来的东西都相当零散，所以确实，但我认为目前这个国家，在AI技能方面没有任何监督，很抱歉这么说，但这是事实 Demis [00:05:31]
德米斯·哈萨比斯：你呢，你怎么看 好吧，我可能会建议一些更激进的做法，所以 我同意，我同意Wendy的看法，我们在2017年有一个有趣的开局优势，但是你知道 AI领域的十年，就像大多数行业的一百年，对吧，或者两百年，也许一千年，所以N很多事情都变了，我认为我们做得不错，我记得实际上，我们当时赞助了一些硕士课程，你们确实赞助了，绝对的，而且我认为那实际上帮助很大，今天就能看出来伦敦和英国在创业公司，这类事情上做得非常好，我认为我们用DeepMind 在这里扎下了根，给这个国家带来了大量人才，然后现在十年过去了，那些人里有很多，正在孵化其他的项目，这非常令人欣慰，我们需要做更多这样的事，我相信我们稍后会讨论到，但具体来说 学校的技能教育，我确实，我完全同意Wendy的看法，现在我们需要关注中学阶段，甚至可能是小学阶段，问题是，木已成舟，孩子们在课余时间，都在用那些LM和聊天机器人，用来做作业什么的，但这种方式非常不成体系，这有点像，我感觉政府政策和教育系统的态度，有点像，真希望这玩意儿能自己消失，但是它不会消失的，我们必须主动去适应它，去帮助老师学校家长和学生，搞清楚我们如何才能从中获益，而不是像现在人们，还有孩子们可能的那种用法，我看到我自己的孩子就是帮他们，几乎是在帮他们在作业上作弊，或者走捷径，我们知道，这会导致传统技能的缺失，更不用说未来的AI和计算机技能了，如果要我提建议，我会这么说 我认为我们需要翻转课堂，在我看来是这样，所以我会主动去适应，如果由我来负责教育，我会这么做，我会说在学校里，应该专注于 人际交往能力，项目，创业精神，创造力，判断力，所有那些你可能预计在5到10年后，当通用人工智能到来时会很重要，的技能，我知道我们待会儿会辩论通用人工智能 但即使只是从今天的AI推断，也会有些事情是AI擅长的，然后也会有需要人类判断，品味等等这些事情，但这些在今天的学校里是不教的，而且也没有相关的教师培训，不过我后面会讲到，所以我觉得在课堂上，重点应该是人与人之间的互动，怎么把一群人组织起来做项目，就像蒙特梭利学校那样，但还要更进一步，或者像牛津剑桥那种 顶尖大学里的，一对一导师辅导，对吧，把那种模式带进课堂，课堂之外，才是做死记硬背学习的地方，这是我的看法，而且要有AI辅助，让个性化AI 根据每个学生的进度，和具体需要，来定制死记硬背的内容，我们现在在课堂上，搞一刀切的死记硬背，这太离谱了，根本行不通，因为你得照顾平均水平，那落后的孩子怎么办，超前的孩子又怎么办，两边都只能自求多福，所以有了AI 你就能真正做到个性化，每个学生都能得到，他们真正需要的量身定制的课程，然后在学校的时间，就全用来做项目，我个人觉得老师们会很喜欢这种模式，而且你还可以有世界级的老师，他们就像明星一样，专门负责讲课，讲得特别好，你想想我们为什么要求，每个学校的老师，每个讲师 讲同一门课 [00:09:59]
从AI素养到通用人工智能时间表
德米斯·哈萨比斯：讲同一门课，都要讲得特别精彩，这完全是重复劳动，我跟一些当老师的朋友聊过，他们每个人都得教GCSE数学，还得自己做课件，我们为什么还处在这种世界里，明明一套就够了，然后死记硬背的部分，就在家里用AI 按自己的节奏去完成，这就是我的想法，但我不知道，像新加坡这样的国家，会不会这么做，我觉得会，阿联酋也是，我能接着你这个想法，往下说吗，因为我几乎同意，你刚才说的所有内容 我觉得死记硬背，不一定非要在家里做，而且这背后，有个不平等的问题，很多孩子，没法在家里做这些，对吧，我完全同意，我们可以用AI 来终结一刀切的模式，一个老师对着30个学生，每个学生都不一样，如果孩子们，已经掌握了基础知识，不管是在家，在学校，还是在哪儿学的，他们能更好的，吸收老师要讲的内容，老师也能教得更好，我一直这么认为，其实我不知道有没有跟你提过，我写的第一段AI代码，是在1984年，在一台BBC Micro上，用prolog语言写的一个智能教学系统，你肯定懂这意味着什么，那时候这连个概念都算不上，只是个想法，是我大学导师给我的启发，但我一直充满热情地相信，我们可以用计算技术 [00:10:30]
Wendy Hall：现在是用AI来开发个性化的教学系统，帮助每个孩子都达到差不多的水平 [00:11:24]
Gus Machado：但这需要政府下巨大的决心才能实现，我很乐意去推动这件事，那么再往前推进一步，到了大学阶段，计算机科学学位是不是已经变得很多余了，不完全不是
德米斯·哈萨比斯：绝对不是当然不是，没错你绝对需要深入学习STEM和计算机科学，因为不管怎样，你可以把编程的未来，想象成一种更高级的编程语言，你看我们以前用机器码编程，后来有了C语言，再后来是Python 将来也许就是英语了，但这没问题，你依然需要知道，怎么去架构系统，了解软件工程的最佳实践，那些懂深层技术的人，用起这些工具来，会比没有技术知识的人有效十倍，说得太对了，我们需要有人去应用，但我们也需要AI知识全面普及
Wendy Hall：所以我们在Southampton做的一些事，我知道其他大学也差不多，我们正在开发一个叫AI驾照的东西，面向所有新生，这算是给Southampton打个广告，但其他学校也有，今年10月入学的新生和教职员工都能用，你可以把它想象成交规考试，这主要是给非理工科学生准备的，帮他们跟上节奏，当然有些学生可能已经很熟练了，但目的是让他们都能学会怎么用AI 我们有关于如何在教育中使用AI的政策，我们也给自己定了个目标，到下一个学年，大学里的每一个学科，每一个学位，都要有一门AI相关的模块课，为每个学科量身定制，不管是历史，心理学，地理，物理，什么学科都一样定制化的，顺便说一句，这可是个巨大的工程 [00:12:20]
德米斯·哈萨比斯：但这就是我们给自己定的目标，我猜你们还得不断调整课程大纲吧，我真想说这个，我觉得你需要继续教STEM和计算机科学，这是非常有价值的训练，但课程大纲必须改变，因为将来该学的东西可能会很不一样，没错，不知道你最近有没有听Michael Aldridge的演讲，讲AI会如何改变计算机科学 [00:13:13]
Wendy Hall：以及作为计算机科学一部分的AI教学，我们Southampton就有人工智能学位，很多大学早就把AI作为计算机科学的一部分来教了，但现在我们把它分开了
Gus Machado：有计算机科学也有人工智能，我个人非常热衷于，把AI的知识，也带给非理工科的学生，特别是做这件事的风险，和其他社会影响，大概也得纳入课程里
德米斯·哈萨比斯：哦抱歉，对，而且这应该是全面铺开的，我觉得这其实，如果我没记错的话，你最初那份报告里就提到了，比如在教计算机，科学技术层面的同时，也要教伦理挑战伦理，挑战伦理，我认为所有计算机科学家，都需要接受这方面的训练，而且顺便说一句，我也相信，现在是人文学科，大方一彩的时候了，比如哲学经济学，我觉得在我们即将进入的世界里 Post-通用人工智能和这些东西，在我看来那是一个新时代，所以我觉得那种思维方式，会变得非常需要，我刚刚还在想 [00:14:02]
Gus Machado：Demis 你要过多久才会提到通用人工智能 不他更进一步，他已经提到Post-通用人工智能了，我只是在想，在座有些听众可能还不太了解，我会认真对待的，以及正在收听的各位，我想让大家稍微感受一下 通用人工智能会带来怎样的改变，以及你眼中它的好处，还有时间表，我知道你说的是2030年及以后，但能稍微展开讲讲，给一点具体的画面会非常好，首先我对通用人工智能的定义是，一个你可以测试
德米斯·哈萨比斯：并且展现出人类所有认知能力的系统，这之所以重要是因为人类的参照点，人脑的参照点在于，人脑是我们已知的，也许是宇宙中唯一一个展现出，通用智能的存在证明，而且我相信大脑在某种程度上，是一台近似的图灵机，显然图灵，我一直以来的偶像之一，它证明了通用图灵机，可以计算任何东西，只要是可计算的，也许除了量子系统之类的东西，这有点超出今天讨论的范围了，但我认为这就是通用人工智能系统，这意味着它应该能够做那些，最有创造力的，最具发明性的事情，就像我们知道，最优秀的科学家能做到的那样，今天的系统还差得远，它们不够稳定，它们做不到，它们还缺少一些能力，它们在很多方面，非常令人印象深刻，但正如我们每天，和这些LM互动时所感受到的，它们还缺一些组件 现在这或许能通过规模化来解决，但也可能还需要一两个重大突破，就像Transformer那样的突破，或者像我们用AlphaGo那样，把强化学习应用到深度学习上，所以目前还没有定论，我们需要思考，如何使用这样一种变革性的技术，在我看来，它会改变一切经济，甚至可能改变人类的处境，但我当然，这其中积极的一面，是推进科学治愈疾病，推动医学进步，这就是我整个职业生涯，都在研究AI和我们所说的 通用人工智能技术的原因，我们帮忙普及了这个词，但显然这些系统也面临挑战，而且我们已经从越来越自主的，生成式系统中看到了苗头，我们如何确保，它们待在我们设定的护栏里，只做我们想让它做的事，除此之外，还有像随着机器能力越来越强，意识之类的问题，也许我们之后会聊到 但第一步是先把这些工具做好，那么Wendy 你有一个有趣的 [00:17:03]
Wendy Hall：N我并不同意Demis的所有观点，我尊重他所做的事，如果每个人都像Demis一样，我们就没问题了，但事实并非如此，确实他们不是Demis 有些人做这个，纯粹是为了钱或权利，他们会发布任何东西，声称他无所不能，没有任何测试，评估安全检查或指导方针，这在美国正在发生，我很喜欢，讽刺地喜欢，你在达沃斯和Darrell的辩论，我称之为，达沃斯的Demis和Darrell辩论，四个Demis 我给我的学生用这个例子，因为Demis说的就是，他刚才在这里说的那些话，而Dario 他当时在那里，是为了给公司融资，现在要IPO了，他说我们今年年底前，就能实现通用人工智能 而你当时试图，把它拉回来，对吧，因为实际上，让我把话题抛回来，对我来说最重要的一点是 如果我不接受这个说法，但如果我们在2030年之前，达到了某种，你认可的通用人工智能形式，我个人不站在那一边，但如果，那我们就只剩下四年时间，来理顺AI的全球治理了，因为否则，我们就会拥有，在某些方面，比我们更聪明的机器，而最大的问题是，如果我们正在构建的软件，开始自行决定做事，那种对不起Dave 我不能那么做的时刻，对吧，这必然会发生的，你知道 Steven Hawking 在2014年说过，如果我们造出聪明的机器，顺便说一句，我在这里不用智能这个词，关于那个迷思，我再多说一句，他说那将是人类的终结，这是Steven Hawking在BBC采访中，说的最后几句话之一，威胁是存在的，我们绝对必须有一个全球治理体系 我是联合国高级别顾问委员会的成员，这不会，人手不够，联合国已今非昔比，它不会是联合国的一部分，但可以从联合国衍生出来 7月份开始的全球对话，一些政府将聚在一起，真正开始讨论这意味着什么，就在本周，川普食言了，说我们必须开始，他说了什么，不是监管，他用的词是什么，对推出的软件进行检查和评估，我记不清他用的词了，所以他，因为他上台时，他叫什么来着，他做了个，总统们做什么来着，行政命令，行政命令，他推翻了拜登的规定，然后发布了一项行政命令，说完全不要监管，他还阻止了各州进行监管，他这周 [00:18:58]
德米斯·哈萨比斯：或者说他的政府又反悔了，说我们，因为实际上我认为，转折点是 Anthropic的MCP软件，是的，也不仅仅是那个，有很多人在幕后投入 [00:19:47]
全球治理与英国发展机遇
德米斯·哈萨比斯：有很多人在幕后投入，我花了很多时间，我们花了很多时间，在这些事情上提供意见，我们不会到处张扬 MCP是一个非常有趣，很好的出发点，因为它让银行担心了，一旦银行担心，那才是人开始，认真对待的时候，对吧，你们在座的都是HSBC的人，你知道，当银行开始担忧时，政府就会醒过来，这也许是件好事，这意味着，现在有一个机会窗口，我觉得是，我觉得可以做点什么，我想这就是，为什么我们最终看到了，那个行政命令，但这还不够，还有更多，实际上我们正处于，我的意思是，如你所知 Wendy 我们完全同意，我确实认为需要某种国际标准，我的看法是，也许我们分歧的地方在于通用人工智能的时间线，但我的观点是，我实际上认为2030年有50%的概率 当然有一些误差范围，但关键是，它可能发生取决于像地规自我改进这类事情，如果那行得通的话，所以有很多事情，人们正在做的很多事情都可能加速时间线，对吧，如果那些事情行不通，那可能需要更长时间，但那很好，那样我们就有更多时间了，但我的看法是，我们没有合适的，能胜任的机构，来处理如此重大的事情，不幸的是，这一切发生在地缘政治，像过去30年一样复杂的时刻，它比以往任何时候都更加分裂，正如Wendy所说，联合国已今非昔比，所以也许有人可以想象，事实上我20年前就想象过，也许会是联合国的某种，技术小组委员会之类的，这在现在是不可想象的，所以我觉得时间不多了，即使是四年，假设是十年，也许如果Wendy是对的 如果需要更长一点时间，那在某些方面会更好，因为那样我们就有更多时间准备，社会也有更多时间准备，但是我们必须认真对待这件事，这就是我向关心此事的人解释的，它可能比我们想的来得更快，所以这就是我想说的紧迫性，现在真的已经刻不容缓了，我们刚看到Methos 网络攻击，那还只是开始，我更担心的是，接下来可能出现的，生物风险之类的问题，当然这也是，我一直在努力的方向，想用AlphaFold 去尽可能治愈更多疾病，但这类工具，如果落到坏人手里，也可能被滥用，所以我有两件事特别担心，一是通用技术，被不法分子滥用于有害目的，这完全违背了，这些工具的开发初衷，这甚至会影响到开源，开源本身是好事，但你怎么限制它的恶意用途，这是个很大的难题，我们目前还不知道怎么解决 然后就是Wendy提到的技术问题，要确保这些系统，在变得越来越自主，越来越强大，越来越聪明的同时，怎么让他们始终遵守，我们设定的护栏，就算我们解决了这些技术问题，还有经济问题，怎么让整个社会都能广泛受益，而不是只让少数几家公司，少数几个人获利，那不是一个好的结局，也不是社会该走的路，再往后，就算这些都做对了，还有关于意义和目的的哲学问题，所以这是一整套层层叠加的议题，在我看来一个比一个复杂，而我们早就该开始行动了，所以我已经开始和别人一起给它起名字了 [00:22:40]
Wendy Hall：我们要创建一个国际AI机构，先这么叫吧，它可以从联合国的工作中衍生出来，但它不属于联合国，它需要是独立的，我们需要让，我说我们是指所有关心这件事的人，不是特指哪个组织或群体，他必须让科技公司参与进来，让政府参与进来，也要让公民社会参与进来，但他必须是一个公司和政府，都能自愿加入的东西，还得有人来出钱，但这就像我们不能就这么坐着，指望别人去做，我们必须行动起来，我7月会去日内瓦参加 AI相关的会议，你去吗，我还不确定，不过是在Savile 对Savile没错，我会去的，第一次关于这个议题的全球对话，就要在日内瓦举行了，那是联合国主办的，但这不意味着 它的成果必须属于联合国，这也是为什么，顺便说一句，那些AI峰会，最初是在英国，由Sonic政府发起的，我们非常支持，也帮忙推动了，我觉得这些峰会是好的，他们还不够，但至少把国际社会聚到了一起，尝试讨论其中一些议题，但在印度那次峰会，什么都没谈出来 Demis 确实，那可是有25万人参加的会，人们在气候变化 COP会议上，努力了多久，我们不能，我们不能走那条路，所以你看，事实表明，必须得走一条不同的路，光靠清谈是远远不够的，而且我就是觉得，联合国现在没有能力，做任何事，所以需要建立新的机构，但这确实是个棘手的难题，我们很多人都在努力，我也在努力，想在幕后推动这件事，我知道Wendy在做的事，是站在最前线推动，我觉得这两者，其实都需要，绝对的 [00:24:07]
德米斯·哈萨比斯：幕后的，绝对的，建议和运作，然后再加上正面的应对，我们还没提到中国，我们很快会谈到中国 [00:25:02]
Gus Machado：但就大科技公司真正参与这件事而言，这不就像是让火鸡投票过圣诞节吗，不当然不是，事实上他们自己也想要这样，对这其实就是关键
德米斯·哈萨比斯：我认识所有实验室的负责人，他们各有各的个性，这么说吧，但没人想让灾难性的事情发生，这对任何公司都没好处，对任何个人，任何生育，对生意都没好处，所以即便有些人确实真心担忧，从科学角度担忧，而且一直如此，我很早就知道他们的动机了，像Dario这些人，我们俩做博士后的时候就常聊这些，也有些人是后来才进来的，可能更看重权力和金钱，但不管你图什么，你都不会想让灾难发生，政府也一样，哪怕是最资本主义的，或者说最市场驱动的政府，也不想看到这种事，说实话，威权政府也不想，所以这里是有希望的，因为达成某种协议，其实符合所有人的利益，问题在于常见的工地悲剧，囚徒困境，这就是为什么，我们需要某种治理，需要政府介入，因为对公司来说 总有人会为了赚钱，去违背大家约定好的规则，这就是问题所在，好消息是，要我说，我在这个领域聊过的，所有研究员，实验室负责人和公司领导，确实都希望有所行动，都希望有一些护栏和标准，问题在于这些标准是什么，该怎么运作，又该由谁来管，不过我和其他人，正在幕后向一些主要政府提交提案 [00:26:19]
Wendy Hall：很高兴听到这些，谢谢，我们接下来，但你刚才说，我知道你要问什么，好吧，我也不知道，你刚才说大型科技公司，指的是美国西海岸的那些，是的，那你就不关心，中国的大型科技公司在做什么吗，我们关心，对，他们其实很乐意来掌管，我们可能设立的任何机构，他们会这么做的，因为正如Demis所说，他们出于很多不同的原因，和西方一样，也非常不希望AI出现灾难，但他们其实很想来掌管，我们要建立的任何东西，关于中国还有一点，抱歉我要展开说，因为我觉得绕不开，就是他们的模型大多是开源的，他们开放的多，这有好有坏，但比起美国政府，他们对这些想法要欢迎得多，好既然聊到中国，我就在想 IA领域的大量投资和进展
Gus Machado：都发生在美国和中国，那我们国家呢，我们的公司会不会就这样被甩在后面，只能旁观，只能当技术的使用者，而不是像Demis你这样做技术的发明者，我们不能这样，我觉得这很重要 [00:27:35]
德米斯·哈萨比斯：我也跟欧洲各国的领导人都说过，你不能只当，我大概2017年就跟马克龙说过，他也试着做了些努力，你不能只当监管的世界冠军，没这回事，我当时就是这么跟他说的，你得有上桌的资格，我说你们也必须在技术上领先，有一些领先的公司和顶尖的学者，这样你才能在桌边有个位置，首先你能提前看到，接下来会发生什么，其次你也有某种道德权威，能在桌边有一席之地，说的话有人听，曾经有段时间，我试着推动一个，英国法国和加拿大的三方合作，因为我觉得这三个国家，在科研上，是仅次于美国和中国，这两个超级大国的第二梯队，实际上如果看引用量，论文和研究成果，这三个国家加在一起，是相当强的，现在也可以把其他一些，欧洲国家算进来，还有新加坡等等，但这三个国家，可以在这两个超级大国之间 形成一个温和的堡垒，因为政治和其他原因，这事没能完全做成，但机会依然在，我觉得英国仍然有独特的优势，来抓住这个机会，我们也尽力做了自己的贡献，显然我们是Google的一部分，但我把DeepMind总部留在了这里，我们带来了成千上万的顶尖研究员，他们在DeepMind做了很多出色的工作，他们中的很多人在五六十年后，又出去创办了其他公司，而且一旦你在一个地方扎根了，往往就会留下来，家庭原因其他因素，你喜欢这座城市等等，我觉得我们正在看到这一点，所有生态系统都需要这样的锚点，硅谷在惠普，英特尔这些公司扎根之前，也不是硅谷，对吧，但他们也来自附近强大的大学，斯坦福，伯克利等等，我们这里也有这些金三角，你知道剑桥，牛津，帝国理工，我们有这么多强校 这些东西需要几个世纪才能建立起来，我们拥有这些资产，我们有非常聪明的人，我们只需要更有雄心，在这里用好他们，希望政府能鼓励这一点，或者至少别挡路，我觉得我们这里做得还不错，但可以更好，然后下一个阶段是融资，公司的成长阶段融资是缺失的，我想在座的金融界人士，或许可以想想我们该怎么做 [00:29:38]
能源、资本与AI产业竞争
德米斯·哈萨比斯：或许可以想想我们该怎么做，我觉得证券交易所需要一些更新，我不知道为什么公司，不再在伦敦证券交易所上市了，他们会去美国，这显然存在一些需要解决的问题，是的，确实需要，我只是觉得，我们可以抓住这个时机，我们拥有所有正确的要素，另一件大事是，我们必须解决能源成本，和我们的能源依赖问题，部分原因是出于安全考虑，所以也许这里会有一个好的交汇点，但我们有西方世界最贵的能源，问题在于，这会直接转化为智能成本，这简直就是瓦特到美元，再到token的转换，所以你没法把我们的产业建立起来，这就是新的工业基础，如果你相信AI将会发生的事，那就是数据中心，信息 token 你每单位成本能产生多大影响，所以这一点现在至关重要，这对我们所有行业都至关重要 但对未来的产业更是如此，然后如果我们能做好，这本身就会有回报，我不知道我们会不会谈到气候和环境，但显然人们担心数据中心之类的问题，但实际上我觉得这有点，对我来说这是在转移视线，因为如果我们把这些技术做对了，它们将会是AI帮助我们实现未来的技术，真正解决气候变化问题，所以我们正在研究核聚变材料设计，更好的太阳能，你知道在我看到的，这个新复兴时代，各种事情都会取得进展，我们可以站在最前沿，而这才是能彻底改变，气候方程的东西，而不是现在试图削减 1%或2% 我能插一句吗，顺着这个说，你知道我想未来，我和南安普顿的工程师聊过 [00:30:53]
Wendy Hall：我们将来都会希望，自己的城市或城镇里，有一个数据中心，因为我们会把它反过来用，把它变成未来的电力来源，这就是未来的发展方向，另一件我想说我们擅长的事，也是接下来几周，你会看到不少相关消息的，首先多亏了Rishi Sunak刚出的举措，我们拥有世界上最好的AI安全研究所，他们是最棒的，他们正在为如何评估科技公司的产出设定基准，我希望他们也能像评估美国一样评估中国，但不管怎样，那是另一个问题了，我们是全球相关机构网络的一部分，这个网络现在叫做AI评估，测量与科学网络，或者测量科学网络，他们改了名字，因为特朗普不想让它叫安全研究所，我们还资助了在英国国家物理实验室，设立一个新的AI测量中心 这是在推动整个AI科学的发展，不是用AI做科学，而是关于AI本身的科学，我觉得我们国家非常擅长引领这类新兴科学，我认为这未来潜力巨大，这一切都归属于一个叫做AI保证的范畴，我们英国也非常擅长做这类事情，下周的伦敦科技周上，政府会宣布一项新举措，将AI保证发展成一个职业方向，不仅面向技术人员，也面向那些将运营AI保证行业的人，如果我们能持续推进 [00:32:34]
德米斯·哈萨比斯：我们英国就能在这方面引领全球，我觉得这届政府做对了，我完全同意，再次强调，要赞扬一下AI安全研究所，现在在英国叫安全研究所，它是世界领先的，我们在这方面极其出色，而且我认为，我们的学术基础，也能为此做出贡献，因为你其实需要，非公司性质的机构，来做这一类工作，所以我认为，这正在引领方向，这也是为任何标准制定机构，提供技术能力的一种途径，你需要技术，你需要顶尖的技术人才，而这些人才，就可以来自，这些安全研究所网络，谢谢 [00:33:07]
Gus Machado：我想稍微换个话题，我想问一下Demis Demis你刚才提到了英国，还有我们这里的人才实力，我们确实有很好的人才库，我很想了解，第一你为什么把DeepMind设在英国，你现在仍然在英国运营DeepMind 在伦敦，这很了不起，对我们公司来说也是件大好事，但我想问的是，我们怎样才能找到新的英国式突破
德米斯·哈萨比斯：并从中创造出全球性的企业，恩我把DeepMind开在伦敦，有几个原因，一个是我在这里出生长大，我爱这个国家爱伦敦，也爱我在剑桥读书的地方等等，它给了我很多我想回馈，第二个原因从商业角度，也是个人原因，英国乃至欧洲，其实有很多未被开发的人才，我早期跟投资人讲的故事是，想象你是一个剑桥的物理学博士，世界顶尖水平，但你不想留在物理学术圈，又想待在英国，还想做一份真正能让你绞尽脑汁的工作，那你唯一的选择就是进金融圈去对冲基金，请在场的金融界人士见谅，但我想提供一个不同的选项，除了那个之外的选择，比如如果你想留在科学或深科技领域呢，所以我就觉得那还是2010年，可以说是黑暗时代 伦敦根本没人搞AI深科技这些东西，所以整个领域都是我的，我用一年五万英镑就能招到这些了不起的人，现在这个价，你连一天的实习生都请不到，对吧，对我们当时那点微薄的预算来说，这太不可思议了，我们当时就融了几百万，试着先把事情做起来，而我能招到世界级的人才，不只是英国的，还有全欧洲的EPFL EASE 还有法国顶尖的学校，当时根本没有任何对手，所以起步阶段这简直太棒了，这种情况大概持续了六七年，然后大科技公司意识到这里人才很多，就都跑来设了卫星办公室，这对英国其实是好事，因为它带来了更多的人才和投资，你在国王十字区周围就能看到，整个国王十字区现在变得这么棒，就是因为所有这些科技投资的涌入，然后这些人待上几年 也许就会出去创业，这是另一件好事，最后一点是，我觉得我们有点像个逆袭的故事，我有点想证明这件事，在这里也能做成，我当时觉得我们在这个领域，有点没发挥出应有的实力，而我觉得我们用DeepMind证明了这一点，希望这能激励，而且我认为确实激励了下一代创始人，在这里开创了不起的事业，在硬科技深科技领域，不管是量子计算核聚变，还是金融和银行业，但我认为我们还能走得更远，我们现在需要打造出我们的第一家，比如说万亿美元的公司，一家保持独立，在这里成长起来的公司，这可能是英国生态系统的下一个挑战，但我相信我们会做到的，已经有一些苗头了，比如Daniel E.K.在斯德哥尔摩用Spotify做到了这一点，然后他正在激励那里新一代的创业者，你只需要几件事发生，拨下种子 然后生态系统在政府的帮助下 [00:36:50]
Wendy Hall：就能在此基础上发展起来，对，但关键是政府的帮助，这就是我们做不到的原因，这个房间里就有人在努力推动这件事，你知道的，问题出在财政部，你就是没法改变他们做事的方式，所以我觉得我们错失了机会，我们有头脑，有大学，这样说行吗，对，我们有大学，正如你所说，我得重复一遍，所有的人才都在这里，了不起的人才，其他国家，我是说你看看美国正在发生什么，这届政府正在停止资助研究，这非常可怕，不过这对我们来说是个好机会，当然还有中国，抱歉总体中国，但确实如此，但是我们现在有一个绝佳的机会，可以趁势而上，不过我们确实需要政府来解决 如何把投资引入公司的问题，我们能做出独角兽，难的是把它推到下一个阶段，对下一个层级，还有一个问题想问你 Demis [00:37:46]
德米斯·哈萨比斯：我很想了解，你为什么选择蛋白质折叠，作为第一个，对，我这一辈子都在研究AI 因为我觉得它会成为科学的终极工具，我一直对那种大问题感兴趣，比如现实的本质是什么，事物是怎么运作的，对我来说实现这个想法的方式，就是去打造最好的工具，来帮助科学家，蛋白质折叠和蛋白质结构预测，是我在剑桥读本科时接触到的，我有很多学生物学的朋友，其中有一个对这个问题特别着迷，整天都在聊，所以我就很认真地听，我一般会试着认真听别人说话，尤其是那些对某件事充满热情的人，我觉得这首先是一个特别了不起的科学问题，它就像一个终极谜题，一个意味着基因序列，是怎么折叠成精巧的三维纳米机器的，太神奇了，而且它也是我所说的那种根结点问题，一旦你破解了它 就能打开全新的发现分支，比如药物发现，对基础生物学的理解，我总是被这类问题吸引，有人曾跟我形容，说这相当于生物学里的费马大定理，这谁能抗拒得了，而且人们已经尝试解决它50年了，另外一点是，即便在那个时候，那是90年代，我们当然还没有今天这些技术，但我能感觉到，这恰好是AI 也许能帮上忙的那一类问题，所以我就把它存进了脑海深处，存了差不多20年，其实是15年，直到AlphaGo比赛结束后的第二天，我从韩国回来，我们不仅赢了比赛 AlphaGo还下出了原创的一步，就是第37手，它等于是在围棋这个有限领域里，做出了一种发现，虽然只是游戏，但依然不可思议，那正是我一直在等待看到的，一个系统不仅能达到那种水平，还能做出这样的事情，我回来的那天，我们就启动了AlphaFold项目 太棒了，我之前没听过这个，真酷，这大概是个新概念，而现在我们通过 Isomorphic Labs 这个新拆分出来的公司继续推进 Isomorphic是什么意思，在英国，因为我觉得生物学和信息科学之间 [00:39:46]
AI驱动的科学发现与生物学
德米斯·哈萨比斯：因为我觉得生物学和信息科学之间，存在一种同构关系，我认为生物学可以被看作一个信息处理系统，因为我是代数生态学家，我的博士论文做的就是这类东西，我很着迷，对你会喜欢这个名字的，它是在AlphaFold成果的基础上继续发展 AlphaFold做的是蛋白质结构，这虽然很重要，但只是药物发现过程中的一个环节，我觉得整个药物发现领域，都需要被彻底重塑，这就是我们想用Isomorphic去做的事，对未来三到五年，制药行业会发生什么，会很值得关注，非常有意思的时代，我们会关注你们在做的事，因为你们在材料科学方面，也在做一些事情，对那是另一回事，我们在DeepMind 我们在DeepMind 把AI应用到很多科学领域，但那些都还处于更早期的阶段，像是AlphaFold之前的阶段，不过在材料科学方面，我们在帮忙做核聚变 约束等离子体反应堆，还有数学天气预报，我们跟英国气象局合作，我们有世界上最好的，飓风预测算法，它们比传统的流体动力学系统快得多，去年美国西象局就用它来预测，飓风Melissa的路径，看它会往哪边走，结果它转向去了牙买加，如果能提前12小时 24小时发出预警，对地面上的结果来说差别巨大，可惜我们没能预测今天的RMD罢工，对那个难多了，难多了因为那跟人有关 [00:40:52]
Gus Machado：人没错人是最难预测的，我的书记官正用很不好的眼神看我，觉得他想开始提问环节了，不过他现在在笑，但我还是想简单聊一下 Wendy 你之前提到的平等问题，我很好奇，请简短回答一下，我们是在为所有人打开大门，不论性别，背景，出身，还是技术，反而可能把我们带上另一条路，我得说，我其实很不愿意用服从这个词 [00:41:24]
Wendy Hall：因为我结婚的时候，我拒绝在婚礼上出现，服从这个字眼，对吧，但我今天还是服从了，我一直对计算机领域女性太少这件事充满热情，从1980年代我刚进入这个行业就开始了，可怕的是情况不但没变好，反而更糟了，在AI领域更是糟糕得多，你看看硅谷，领导层全是单一文化，我看到台下坐着年轻一代的我们，像CU那样的人，我们努力了这么久，他们带着全新的视角进来，觉得我们可以改变这一切，但过去40年，我们几乎没推动什么改变，这太重要了，在AI领域尤其重要，我有一位导师 Karen Smart Jones 她以前会在T恤上印一句话，计算机太重要了，不能只交给男人，你们听过这句吧，这不是贬低男性 而是说这是属于所有人的事，我们需要每个人都参与进来，现在我会说，太重要了，不能只交给男人，这其实更重要，因为如果我们真的要去追求通用人工智能这个圣杯，就必须想清楚，我们正在或想要构建一个什么样的社会，我知道像Demis这样的人，明白这件事必须做，但外面还有很多人不明白，他们轻描淡写地谈论通用人工智能 觉得一切都会照旧，我们只是有了些非常聪明的机器，生活会和现在一样继续下去，不会那样的，所以我们必须想清楚，我们到底想构建一个什么样的社会，你能跟人们说的话是有限的，你能跟他们说多久也是有限的，对吧，告诉他们工作要没了，孩子将来不会有职业或工作，而且这东西还可能毁灭人类，现在已经出现了对AI的抵制苗头，我觉得这非常危险 我记得在座有些人可能也记得，当年人们喊着不要在我镇上搞核弹，还有绿色和平，妇女组织等等都在反对核弹，因为人们感到无力，对吧，在美国，人们现在感到完全无力，他们真的不明白，这届政府是怎么选上去的，我们感到无力，因为一旦选出了政府，你就无法控制他们要做什么了，我喜欢讲一件事，我的私人助理，他18岁的女儿，一个非常聪明的姑娘，要去Bristol University 学一门很厉害的专业，他前几周告诉他妈妈，他们班决定，他们的课堂是无AI的，对吧，这就是正在发生的事 Southampton的学生，我相信其他大学也一样，当我们教他们，如何在学业中使用AI时，他们说，我们不想这么做，如果这东西，真像那些公司说的那样，我们一点也不想碰 我们可不想要这种结果，我们希望人们能抓住人工智能将带给我们的巨大机遇，所以这是我们必须解决的问题，这不完全是安全问题，而是科技公司也必须参与进来，我不确定政府，该在其中扮演什么角色，但我们必须展开，这样的讨论，去思考当我们拥有，这些非常聪明，甚至可能具有智能的机器时，我用词很谨慎，因为我还想说一点，说完我就闭嘴，我认为机器智能和人类智能，是有区别的，我们或许能实现通用人工智能 [00:44:33]
Gus Machado：但它们不会是人类，谢谢，我这里有一个来自观众的提问，是伦敦金融城政府的政策主席，我非常好的朋友 Chris Hayward [00:45:05]
Chris Hayward：非常感谢，如果可以的话，我想问Demis一个问题，分两部分，第一部分是，如果英国要在未来12个月内，做出一项政策决定，以引领AI的发展，不仅是构建AI 更是负责任的大规模部署AI 尤其是在我所代表的金融服务领域，这项决定应该是什么，问题的第二部分是，你认为像DeepMind这样的组织，生态系统中的其他领导者，与伦敦金融城政府，这样的机构之间，最大的合作机会在哪里，以帮助加速安全的应用，好这两个问题都问好，第一个问题 我大概会说两件事，一个是能源问题，我觉得不管怎样，为了安全都得解决，但考虑到AI经济马上要来，这件事就更重要了，我们必须参与进去，得建数据中心，得把这些基础设施，放在本地，抓住这个机会，第二件事我们前面也聊过，就是怎么从独角兽，我们做到独角兽，这一步已经很好了，怎么再进一步，做出真正有全球影响力的大公司，我们需要一些这样的公司，扎根在这里，这是下一个挑战，我觉得政府必须参与进来，证券交易所，整个生态，你们这个圈子，都得想办法理顺这件事，让这一切能够发生，我觉得只要生态对了，是有可能做到的，第二个问题，我们还能多做些什么，怎么合作，我觉得今天这种论坛就很好，这也是我很高兴来参加的原因，真的很棒，跟Wendy聊天也总是很有意思，这种把大家聚在一起的论坛 而且也许不光是技术圈的人，这正是伦敦特别厉害的地方，我们在很多领域都有世界级的东西，美国你也知道，是分散在不同城市的，政府在DC金融在纽约，生命科学在波士顿，硅谷是科技，娱乐在LA 而我们几乎所有这些，都在一个城市里做到了世界级水平，我一直非常相信跨学科的工作，现在更是如此，而且我觉得AI能让这件事变得更容易，因为它能让你比较快地，熟悉另一个领域，另外我也觉得，要解决这些问题，其实我完全同意 Wendy前面说的那一点，我之前讲哲学，就是这个意思，只是说得太玄了，我们需要有意识地，去想清楚，在一个post AI 通用人工智能的世界里，我们到底想要什么样的社会，别管那个词了，词不重要，我们不是在争论用词，也别管时间线，五年十年十五年又怎样 很快了，在我们有生之年，在我们孩子有生之年，它一定会发生，那就面对这个事实，妈已经跑出去了，回不来了，事情正在发生，我们需要想清楚，我们打算怎么办，未来不是写好的，它等着我们，等着整个社会去书写，但前提是，我们不能带着恐惧去面对它，这件事确实很有挑战，让人害怕，充满不确定性，我觉得没有人有现成答案，那些大科技公司的人没有，科学家们也还没有，但这不代表答案不存在，答案要由我们整个社会来决定，而这需要社会各个部分都参与进来，我指的是人文学科，科学还有技术产业和政府，我觉得英国和伦敦，完全可以成为这件事的中心，但前提是我们在经济上和技术上，要足够成功才能有资格坐上这张桌子，这是先决条件，有了这个，你说的话别人才会听 好谢谢，下一个问题 Wendy 你想补充一点吗，不用，好下一个问题 Deafety Master Gary Moore Master 谢谢有意思 [00:48:39]
Gary Moore：你用了未来不是写好的这个说法，在Frank Herbert Dune宇宙里，禁止思维机器的律法，成了那个文明的基石，其因是一场灾难性的星际战争，人工智能和有自我意识的机器人，奴役了人类，这问题开头还挺积极的，你前面已经提到了一些，但当我们走向通用人工智能 也许要考虑监管的时候，在一个有些东西，已经开源的世界里，你怎么看，怎么管住那些不守规矩的人，不光是那些，愿意接受监管的人，我们得通过有牙齿的法律，这是我的看法，我们得真正
德米斯·哈萨比斯：就拿deep fix来说吧，我们现在没有合适的法律，来处理这些问题，如果有人拿了别人的形象，去做很恶劣的事，这应该是违法的，而且一旦被抓到，判罚就得有力度，这个很简单 当然还会有更难处理的问题，这个我让给你来说，好，第一个也是个很好的例子，像隐形 watermarking这类技术，我们已经开发出来了，其他团队也在做，现在正逐渐成为行业标准，这样一来，如果政府愿意，而且我觉得这事肯定会发生 [00:49:43]
生成媒体治理与投资责任
德米斯·哈萨比斯：而且我觉得这事肯定会发生，因为太理所当然了，不光要立法禁止，还得确保任何生成媒体的模型，都必须内置watermarking 同时配套一个检测系统，政府可以用，记者也可以用，甚至将来整个网络，应该自动标记，这是一张AI生成的图片，在我看来，这事件毫无遗憾，不用多想就该做的事，至于沙丘，那描绘的是，事情搞砸之后，可能出现的一种结局，顺便说一句，我看过电影，也读过大量科幻，但没读过沙丘原著，也许就是因为里面进了AI 不过电影拍得很棒，如果AI从一开始就见错了，我们可能连挽回的机会都没有，我不知道沙丘宇宙里，具体是怎么走到那一步的，但如果事情真的严重失控，可能根本没法回头，所以我们必须一次作对，既然你提到了科幻，我想说其实科幻里也有很多美好的例子 描绘人类把这件事做对了，实现了最大程度的人类繁荣，走向星辰大海，我想举Iron Banks的例子，他是我最喜欢的科幻作家之一，还有他的文明系列，那个系列描绘了一个未来的世界，大概是一千年以后，人类已经遍布群星 AI也存在，但他们以一种大体和平互补的方式与人类共存，这只是其中一个例子，其实还有很多有趣的想象，描绘未来可能的样子，也许我们需要更多科幻作者去创作积极的故事，描绘应该走的路，因为事实上很多科幻作品确实会影响科学家后来的想法和行动，这已经被历史证明了，所以每当我和科幻作者交流时，我都会告诉他们写一些硬科幻，用写实的手法展现，我们未来50到100年，可能达到，也应该努力追求的目标，我觉得我们需要一次，大规模的创意爆发，去思考 假设我们把技术层面，这些事都做对了，我们到底该建设，什么样的社会，我们可能会进入一个，后稀缺世界，但那到底意味着什么，在那个世界里，经济学该怎么运作，如果我们解决了，核聚变材料科学，还有一些根本性的 [00:51:47]
Wendy Hall：节点问题，我喜欢谈团队合作，我喜欢想象AI成为团队的一部分，现在一切看起来都发生得很快，但其实不是，技术可能在飞速进步，但应用落地远没有那么快，不是说所有工作都会消失，我不认同Elon Musk那种，没人需要工作的说法，我觉得那是胡扯，工作会发生变化，我们会逐渐习惯AI进入职场，它会替代一些人们不得不做的苦活累活，安安来做这些，大家都会过得更好，人类可以更专注于创造性的事，但这个过程需要时间，比如给人诊断病情，你仍然需要人类医生，但AI会在一旁说，根据数据，我可以告诉你这些，你会拥有个性化医疗，这将是团队合作，我之前也说过，我们必须认识到 [00:52:04]
Gus Machado：机器智能和人类智能是不同的，我们应该为此感到高兴，并用它来改善社会，我想在更早的年代，六七十年代，人们谈论计算机时，大概也是同样的眼光
Wendy Hall：我总爱举这个例子，我父亲是个会计，他当时在一家公司负责财务部，那时候还不叫财务部，叫账务部，他们所有工作都靠手做，没有计算器，没有电脑，他能在脑子里直接做英镑和辨识的，乘除运算，全是账本，他们手工抄账本，那就是他们的工作，那些岗位现在全没了，但你看，如今金融行业的岗位反而更多了，因为计算器和电脑，能做太多人类做不了的事，这就像Demis刚才说的 AI会做到一些，我们以前做梦都想不到的事，我们要珍惜这个机会，但与此同时，我们必须把安全护栏，不管你怎么称呼，这些事搞定，我们不能往后依靠，指望别人来做，我们现在就得动手 [00:53:07]
Gus Machado：我们公司的一部分业务支柱是慈善，我们有一个关于慈善的问题，我觉得会很有意思，提问者是AI委员会的主席Paul Excel 这个委员会主要是帮助会员讨论改进等等
Paul Excel：谢谢会长，我的问题是我们AI for Charities 社区现在已经有超过90家慈善机构，他们在用AI做一些非常棒的基础工作，真正给所服务的社区带来了好处，但他们普遍很担心，很焦虑，你想这些社区里，有很多非常脆弱的人，需要他们去支持，所以既然像你说的，我们所有人都有机会，去塑造未来，塑造我们孩子，孙辈将要生活的世界，那么从负责人AI 伦理信任，共情安全保障，这些角度来说，如果这些是防止伤害，实现积极影响的基础，你会建议我们，在座所有人，政府公民社会，采取哪一到三项负责任的行动，当做作业带回去 目的是确保全球解决方案，既能服务社会需求，又能带来安全持续增长，人人都有机会，所有好的东西，有点像金凤花原则，也许这个愿景太乐观了，但我们在伦敦，在英国，总该是有可能抓住这个机会的吧，这个问题挺难回答的，我先说吧 [00:55:05]
德米斯·哈萨比斯：我的第一条是多样性，不好意思，但这确实是我最想说的，之前有人问我，什么让我晚上睡不着觉，不是Demis刚才谈的那些，也不是我平时听到的那些，而是我们在这个领域里，多样性远远不够，我觉得正因为如此，要用AI去构建一个更平等的社会，就更难了，我是从性别角度在看这个问题，但我说的多样性，是最广泛意义上的，我年纪越来越大了，当然我们都在变老，这是句蠢废话，我开始感觉到，有些事情我没办法，像以前那样去做了，我们真的需要去思考，像我这样的老年人，要怎么从AI中受益，还有那些接触不到技术的，学龄儿童，有太多方面，我们必须去想办法，尽量为人们创造一个，公平的竞争环境，这正好就是我刚才说的 社区这个主题，跟你讲的完全一致，好，我们才想出一条，你的第一条是什么，这确实不好说，我主要在想的是，全球治理层面需要做什么，因为这显然会影响一切，但我觉得像Wendy说的，那种自下而上，从基层做起的方面，也同样关键，我们刚才谈到了很多主题，教育，确保人们能重新学习技能，这些都是社区层面的事，对吧，课程需要更新，我已经说过，我会怎么做，也许你同意，也许你们有办法去推动这件事，我是没时间去做这些了，但总得有人去做，所以这取决于你们成员的兴趣在哪里，但我觉得帮助慈善机构跟上这些发展，真正用上这些工具是很重要的，对吧，这对很多后台事务应该会很有帮助，就是那些慈善机构不得不做，还得花钱去做的事，这样他们就能把钱和时间 花在真正帮助社区，帮助人上面，对吧，据我了解，慈善机构很多资源，都花在了筹款和后台运营上，如果能用到一线去会更好，所以我觉得这两方面，我们都需要，而且希望他们最终能汇合到一起，一方面是前沿实验室，和超级大国之间的全球治理，另一方面是社区层面，再说一次，也许这件事我们英国可以带头做，我们在Southampton有一个市民项目 [00:57:14]
Wendy Hall：目标是让Southampton成为AI卓越城市，但我们是自下而上在做，比如在慈善领域，我们会做快闪活动，真的，我自己也去做，我们会带一些这个领域的专家，办一个快闪工作坊，邀请大家来参加，我们给慈善行业就办过一场，形式大概就是，来吧，怎么说来着，有部Woodie Allen的电影，不是，我不该提这个，算了，就是关于AI 你想知道，但又不敢问的一切，差不多这个意思，说真的，我们鼓励那些感到非常脆弱，害怕或恐惧的人来参加，然后我们以慈善工作者社区的形式，跟他们交流，也会找一些已经在慈善机构工作，正在用AI的人来分享最佳实践，我们已经在三个行业做过这种活动了，还会做更多，这其实就是提高认知和教育 太好了 [00:58:34]
Nicholas Beale：我还有一个问题，来自Livermanicholas Beale 就是这个问题，非常感谢二位，我觉得再过几个月，我们可能会面临一个局面，所有西方大型AI开发商，都会成为上市公司，要对投资者负责，而那些全球性的大型投资者，是唯一能在万亿级别上，跟这些公司对等博弈的玩家，他们显然有一个巨大的共同利益，就是不能让任何一笔投资爆雷，所以我想问二位，特别是Demis 投资者能做些什么，来鼓励负责任的行为，因为他们也许能帮忙解决，这个博弈论上的难题，对我觉得这个点提得非常好，投资者其实能发挥的影响力
德米斯·哈萨比斯：比他们现在实际做的要大得多，问题在于，能挤进这些融资轮实在太赚钱了，条款基本就是那样，要么接受要么走人，据我所知是这样，而且你也没法真的错过，因为这种火箭式公司一共才几家，有一家确实是字面意义上的火箭公司，但总共也没多少，可能就那么屈指可数的几家，所以我觉得这让天平有点失衡，另外很多这类公司，都有不寻常的控制权结构，就算上市了，其实也不用对股东负责，不过话说回来，普通投资者主要关心的还是回报 [00:59:24]
智能体时代的社会选择与行动
德米斯·哈萨比斯：普通投资者主要关心的还是回报，我不知道我们是不是还想，再叠加一层纯粹的经济激励，我觉得那本来就是问题的一部分了，也许有什么办法能绕开这个困境，我比较希望的是，到了agent时代，市场会自我修正一些，你可以想象一下，如果一家领先的前沿模型实验室，想给金融服务公司提供agent 我猜金融服务公司会要求一些保证，比如这些agent护栏，他们能做什么，会怎么处理客户数据，你总不能让他因为某个目标函数写错了，第二天就给你做出一笔亏掉十亿美元的交易，所以我猜可能会出现类似这样的错误，发生在那些没有提供正确护栏的公司身上，然后市场就会做它该做的事，反过来激励负责任的行为，尤其是在受监管的行业，这些行业往往也是最有价值的，所以我觉得这其实是件好事，随着这些技术 在商业上变得更有用，更可行，尤其是在企业端，我们现在正第一次看到这种趋势，这算是一个积极的信号，之前我们看到的主要是消费者端，但现在企业端也起来了，这可能会让激励机制，对其真正有利于负责任的部署，我觉得这很可能会发生，投资者可以发挥作用，企业也一样，大银行和其他公司的CTO CLO 你们应该用自己的影响力，和采购能力，去支持那些，你们认为，形式负责任的提供商，当然，你不会在质量上妥协，但可以支持那些，你相信在负责任形式的提供商，这就是你能做的，我甚至对街上的普通人，也这么说，就算作为消费者，你也可以用你的钱投票，用脚投票，用市场力量，去做好事，去施加压力，支持那些做事方式，以及领导者所体现的价值观，是你希望在这个世界上 看到的那种公司和实验室，我觉得随着这些系统，越来越商业化，我希望投资者和企业，都会这么做，我觉得这可以和我们未来，共同建立的，全球AI治理组织挂钩，不管最后出来的是章程 [01:01:45]
Gus Machado：条约还是别的什么形式，投资者就可以说，如果你的公司不签署这个，我们就不投你，举个例子，我来问最后一个问题，这个问题来自SalesDial 英国最资深的分析师 [01:02:00]
Richard Hallway：Liveryman Richard Hallway 是的，昨天我写了一篇文章，庆祝Computer Center进入富时100指数，这只是第二家进入该指数的科技公司，事实上在全球市值前100的科技公司里，英国只有一家就是ARM 而且它还是在纳斯达克上市的，如果地板当初走了IPO这条路，我敢保证你们现在肯定在-10亿百里，甚至可能零跑，而且你们可能会成为一个催化剂，带动很多其他英国公司走同样的路，围绕它建立其基础设施和生态系统，就像硅谷那样，我想听听你们对此怎么看，我想在座各位都知道我的看法了，聊到另一种历史走向，当然可以，我不知道你2014年那会儿在做什么
德米斯·哈萨比斯：也不知道你当时会不会拿几十亿美元来支持我们，也许你会，但我当时找不到，在2014年用AI的眼光看，那完全是另一个世界，我们几乎是唯一在做这件事的人，那时候OpenAI还没成立 AlphaGo也还没做出来，我们只有亚达利游戏，大家觉得你们在玩太空侵略者，这有什么重要的，但Google看懂了其中的重要性，准确说是Larry Page看懂了，这点我很认可他，因为他自己一直对AI很感兴趣，他把Google看作一家AI公司，我当时选择卖掉，是因为我知道，要成为那种级别的公司，需要70亿美元的投资，而那时候，我连1000万美元一轮的融资，都很难抽齐，问题是，我们当时做的亚达利项目，已经足够引起，硅谷巨头们的警觉了，他们开始来挖我的人，如果我必须去融资，我们当时没有业务，连产品都没有，因为我一直在做，底层核心技术，就像我刚才说的 我给自己开的工资是零，给其他人开的，年薪大概十万美元，但他们收到的 Warrant Offer是年薪一千万，我当时的想法是，他们可以先拒绝，如果不行，对方还能再回来，开出五千万的年薪，所以这种情况，迟早会出问题，而且那时候，软银和一些大VC 还没开始，做十亿美元级别的融资轮，我有点不走运，实际不太对，如果我们能撑到2015 2016年，也许我就能做那样一轮融资了，可惜那些钱，不会来自英国的投资人，但我可以从一些更激进，更有实力的海外投资人那里拿到，只是2014年确实没有这种条件，不过我不后悔的另一个原因是，我想回去做研究做科学，同时做两件事太难了，一边为创业公司融资，操心产品，一边还要做出AlphaGo和AlphaFold 这样的东西，我绝对做不到 所以我一点也不后悔，因为我一直以来的追求，就是研究和技术能带来什么，而不是钱权利这些东西，我知道这对英国来说可能更好，也许对我的银行账户也更好，但拿诺贝尔奖这件事，你给我多少钱我都不换，真的给多少都不换，我看到全世界有300万研究人员，在用AlphaFold做重要的生物医学研究，我有个在顶尖药企的朋友说，未来发明的药物，大概没有一种会在研发过程中，完全不用到AlphaFold 我对此非常自豪，而且这是在英国做出来的东西，我觉得我们应该为这个科学成就，感到骄傲，谁知道呢，也许我能通过 Isomorphic Labs 把这件事做完，这本来就是计划的一部分，公司总部完全设在这里，不过我们得解决，现在股市的问题，为什么公司，都不在伦敦上市了，我不太清楚，我们得解决这个问题，过几年我再来找你，到时候我们可以聊聊 我想借这个机会，夸一下Demis 我觉得英国从Demis的成就里，获益巨大，这很明显 [01:05:48]
Wendy Hall：我觉得我们没必要去，探讨那个平行世界，或者另一种历史走向，因为英国确实从你在 Deep Mind做的事情里受益了，我去加州，下周就要去Google 我们在加州很受尊重
德米斯·哈萨比斯：就是因为这个人，而且你现在又开始，在东南亚发展了，还有必须得说，因为这种合作关系，有数十亿美元的投资，流入了英国 还有高价值的工作岗位，和人才等等，但现在正在出现的情况是，虽然感觉所有公司都在做类似的技术，但他们实际上正在演变成不同类型的玩家，我一直这么说，你看我不知道OpenAI会怎么样，但微软那边，我们通过日常用Office就能接触到 Anthropic 也有它自己的专长，我们会看到这种分化开始出现，我不太喜欢把它看成一场竞赛，我一直都看好Google 不管有没有Demis在，因为我喜欢他们的价值观，他们有搜索引擎，有数据，我其实很喜欢Gemini 它是我的最爱，我一直都看好它，我这么说，不是因为我坐在Demis旁边，实际上，这不是一场，只会有一个赢家的比赛，未来会涌现出，很多不同类型的AI公司，我觉得这整件事，非常令人兴奋 [01:06:21]
Gus Machado：我们到底能用它来做什么，在我致谢之前，我想邀请 HSBC Innovation Banking的 CEO Emily Turner 来讲几句，我们得谢谢你送的充电宝，对吧，谢谢 [01:07:13]
Emily Turner：谢谢，我是搞学术的，有免费的东西，我肯定要，如果你还想要更多周边，我们后面应该还有一些，可以自己去看看，请大家和我一起，感谢今天几位嘉宾，这场讨论真的太精彩了，詹玛学士和Wendy女爵士，非常感谢你们，当然我也要感谢 Worshipful Company of Information Technologists 今天招待我们，我相信在座各位都和我一样，走进这么漂亮的一栋建筑，感受这个组织的历史，再结合今天的话题，这种碰撞真的很奇妙，简单介绍一下，可能有人还不认识我们 HSBC Innovation Banking 是英国一家专门服务创新经济的银行，我们在英国跟四千位创新者，创业者和投资人合作，就像今天大家聊到的，也像在座各位都知道的，现在在创新经济领域工作，尤其是在英国，是一个绝佳的时机 我们有顶尖人才，多元思维，跨领域的专长，还有Demis提到的雄心，你刚才说得非常清楚，这确实是个了不起的时刻，光是第一季度，英国就有74%的风险投资，流向了AI公司，跟几年前相比，是巨大的增长，刚才有个偏理论的问题，说如果DeepMind 当初留在英国会怎样，我想指出一点，光是第一季度，拿到融资的公司里，就有超过10%是英国公司，而且是由离开DeepMind的人创立的，所以我觉得DeepMind的故事，以及它对英国经济的重要性，还有下一个，不只是独角兽，而是十角兽，会不会诞生在这里，很可能都会跟DeepMind 有千丝万缕的联系，这点我想特别提一下，对我来说，相信对在座各位也是，今天能参与这场讨论，听到那些把我们带到，今天这个位置的人分享 更重要的是，你们三位都在我们未来的走向中，扮演着这么重要的角色，这真的非常棒，所以请大家留下来喝一杯，我们继续聊，如果刚才有问题，没来得及问，希望待会还能找到人继续交流，谢谢大家，也谢谢几位嘉宾，那我最后要说的是 [01:09:16]
Gus Machado：德米斯·哈萨比斯 爵士 Wendy Hall 女爵士，希望这不是我们最后一次，在公司和同业聚会里见到你们，随时欢迎你们来参加，我们的任何活动，你们永远是最受欢迎的，女士们先生们，请再一次为Demis爵士和Wendy女爵士热烈鼓掌，谢谢，总是这么有意思