目录
- 人类不再是唯一智能物种 [00:00:00 - 00:08:51]
人类不再是唯一智能物种
Geoff Hinton：它们和我们非常像。它们就是和我们一样的存在。它们有意识吗？我认为它们已经有意识了，是的。不过这件事我不太常说，因为那会让人们对其他安全信息望而却步。 [00:00:13]
Alex Kantrowitz：所以研究者其实也相信这一点。有一篇挺有意思的新论文，里面一个聊天机器人对研究者说：“我们坦诚一点吧。你是在测试我吗？”因为聊天机器人在被测试时有一种装傻的习惯，所以你不知道它们到底有多聪明。
Geoff Hinton：研究者在描述这件事时，在论文里说，聊天机器人意识到自己正在被测试。可是在日常语境里，"aware" 基本上就是有意识。这个聊天机器人被测试时是有意识的。所以我们对意识有一个很奇怪的模型，我觉得这完全是错的。举个例子，大多数人都接受，几百年前的人们对人类从何而来、我们如何来到这个世界，有着完全错误的模型。他们以为自己是上帝设计出来的。大多数人都同意那是错的，大多数科学家也同意那是错的。人类不是这么来的。我觉得，我们现在关于心智和意识的模型，和“人是上帝设计出来的”这种观念一样错。我尤其觉得，因为我们正在造出这些新生命，我们对“人是什么”的看法会被彻底改变。 [00:01:29]
Alex Kantrowitz：在什么意义上？
Geoff Hinton：我们会比以前更深入地理解心智是什么、意识是什么。我们会理解主观体验是什么。而且我认为，我们还会抛弃一种几乎所有人现在都坚信的观念：心里有个叫作“我的心智”的内在剧场，外界发生的事情会被转化为这个内在剧场里的事件，那才是我真正看到的东西，而你看不到这个内在剧场，只有我能看到。对正在发生的一切的那种看法，本质上只是一个理论，而且是一个坏理论。 [00:02:04]
Alex Kantrowitz：这里对人类出去创造东西这件事，教训是什么？
Geoff Hinton：我觉得这里有一个非常大的教训。如果你回看过去几百年的人类历史，会发现有几次，人们学会了自己并没有想象中那么重要。第一次是哥白尼。哥白尼说，我们不是宇宙的中心，地球其实是绕着太阳转的。因为地球在自转，我们才以为是太阳绕着地球转，但其实不是。人们不喜欢这个说法，尤其是天主教会非常不喜欢，大家花了很长时间才接受它。它让人类没那么重要了，让我们不再处于宇宙中心。后来有了达尔文，他说，我们也是动物。我们和其他动物一样进化而来。我们只不过是一种特别特殊的动物，可能是因为我们有语言，所以彼此交流思想的能力更强。但我们还是动物。人们也非常不喜欢这一点，而且花了很长时间才接受我们是动物这个事实。现在，我们又有了越来越接近我们智能水平的机器。我们原以为，世界上只有我们这类智能存在，只有真正聪明的东西。也许别的星系里会有外星人，也许我们银河系的别处会有。但我们终究得接受，智能并不只存在于生物体里。我们可以有非生物的东西，它们也是和我们一样的存在，而我们其实一点也不愿意和它们分享这一点。我们真的觉得自己很特殊。而如果你回看人类历史，你会发现，人类一直以来都觉得自己比实际上特殊得多。 [00:03:16]
Alex Kantrowitz：我还想再问你一个问题，因为这件事太吸引我了。你对这件事发展的方式，真的有任何欣慰吗？你会不会因此感到一丝满足？
Geoff Hinton：没有，我相当不开心。因为现在人们应该投入大量精力去思考，我们该如何控制风险。眼下有很多短期风险，大家并没有投入足够多的研究，这些风险非常严重。社会层面的风险，比如我认为它很可能会造成大规模失业。没人能百分之百确定，但那对社会来说会很糟糕。然后还有更长期的风险，它会变得比我们聪明得多。你自己想想，你知道有多少例子，是一个更聪明的东西被一个更笨的东西控制住了？零。嗯，勉强算有一个。智能差距没那么大，但婴儿确实会某种程度上控制母亲。对。母亲当然也在掌控之中，但母亲有更广泛的母性本能，以及她得到的那些奖励，这样婴儿才能从母亲那里得到自己需要的东西。 [00:04:46]
Alex Kantrowitz：你知道，猫和狗也有点属于这一类。我曾经在西雅图西区整个夏天帮人看猫。那是个很棒的夏天。最开始那只猫躲在床底下，我当时还在想，它会不会跟我互动。后来它每次一叫，我就照它想要的去做。也许在这个场景里，我们会变成那只猫，而 AI 会变成人。
Geoff Hinton：我孩子们有一只猫。他们有两只猫，两只都很可爱。其中一只叫 Tia，当她想从冰箱里要点奶酪时，她会用那双大眼睛看着你，就那样盯着你，你根本没法一直抗拒下去。你们已经围绕这个聊了三年了。 [00:05:25]
Alex Kantrowitz：考虑到大家对这些担忧的回应，你对这条轨迹是更乐观了，还是更不乐观了？
Geoff Hinton：我想我比一两年前更乐观了，因为我开始觉得，也许可以设计这些新生命，让它们关心我们。还有一种可能，是用 Joshua 的方法，设计出那些不能真正执行动作、只能做预测的新生命。它们有点像先知。所以我觉得，还是有一些办法可以得到超级智能，而不至于毁掉我们。可是一两年前，我还看不到任何可能性。 [00:06:31]
Alex Kantrowitz：好吧。我刚才都开始有点沮丧了，但现在又稍微乐观了一点。好，最后一个问题。如果我们继续沿着现在这条轨迹走，五年后会是什么样？
Geoff Hinton：如果你开车在雾里，你能看见一百码；到了两百码，就什么都看不见了。这是因为雾是指数型的。你习惯的是夜里跟着前车尾灯开，如果前车离你远一倍，尾灯就会暗四分之一。雾完全不是这样。雾是指数型的，它在一百码时可能还很清楚，到了两百码就完全看不见了。现在，如果你要去预测一个指数增长的东西的未来，而我觉得 AI 也许正在指数增长，"指数型" 这个词现在被滥用了。 [00:07:24]
Alex Kantrowitz：事实上，我注意到人们把 “exponentially” 这个词用得也在以二次方速度增长。所以，预测未来就像是在看雾。
Geoff Hinton：你只能清楚地看见未来几年，也许一两年；再往后，你就完全不知道了。你回头看十年前，如果当时问你，也就是我们上次聊的时候，你绝对不可能预测到今天发生的事情。那全都淹没在雾里。往前看十年，我们唯一能说的是，十年后的任何事情，现在都没法预测。即便进展只是线性的，你也会预期，十年后的情况会和现在一样不同于现在相较于十年前的差异。而我们已经非常……比如聊天机器人，和十年前刚起步的时候相比，现在已经强了太多。到了十年后，某些东西一定会比现在强得多。比如它们做数学的能力，之类的东西，也许只是一般推理能力。它们在任何推理任务上都会把我们甩开。我们真的没法预测十年后的情况。我们只能预测未来几年的走势，而且必须意识到，十年后的情况完全充满不确定性。要把这件事真正想明白，确实很难…… [00:08:19]