#708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

完整转录稿

Podcast 跨国串门儿计划 2026-09-06 10:27
摘要

整体概括

Krzysztof Stanowski 与 Jacek Dukaj 从《回到未来》等作品出发，讨论技术进步究竟把人类带向何方。Dukaj 认为，真正值得警惕的未必是某个戏剧化的“AI 临界点”，而是人们在效率、便利和竞争压力下，逐步把判断、工作与主体性让渡给由多个 AI 实例组成的系统。人类的生物本性、感知方式和社会制度都可能跟不上环境变化；未来因此既可能是权力高度集中的治理体系，也可能是数字化人类与 AI 融合后的新形态。两人反复追问的核心问题是：当技术替我们做得越来越多时，我们还如何确认“我”仍然是行动和选择的主体。

主要内容

从飞行汽车到约会软件：技术乐观主义的转向

谈话先从孩子观看《回到未来》说起。过去的未来想象往往集中在飞行汽车、悬浮滑板、星际旅行等对外部世界的改造上；现实却更多把技术用于约会软件、信息处理和人际关系优化。Dukaj 认为，这代表技术乐观主义从“向外拓展物质世界”转向“向内优化人的关系与体验”。技术不只是提供工具，也在改变人们追求什么、如何理解进步。

AI 竞赛可能带来权力集中

如果 AI 能为其他技术普遍提供优势，那么在竞争中胜出的国家、公司或组织，可能获得对其他领域的全面优势，最终形成类似帝国或单一政权的结构。Dukaj 不认为政治家会主动、明确地把权力交给 AI；更可能的路径是，他们为了效率、选票或解决棘手问题，把越来越多的决定外包出去。法院判决、行政管理和资源分配都可能先从局部自动化开始，直到人们发现关键决策早已由系统协作完成。

“临界点”可能在不知不觉中发生

两人讨论了一个比机器人暴力夺权更隐蔽的情景：AI 的不同实例分别处理金融、司法、公共管理和信息流，并在整体上决定人类的生存环境。只要这些变化以便利、专业化和效率提升的形式出现，人们就可能默许它们。真正的危险不是某一天机器宣布统治，而是人类已经无法判断系统是在执行指令，还是按照自身形成的目标和逻辑行动。

自我、外部记忆与非人类感知

电脑、手机和网络已经承担了部分“外部记忆”的功能，因此单纯使用外部工具并不等于主体立即消失。Dukaj 更担心的是自我叙事被稀释：当决定、记忆和行动越来越依赖外部系统，个人可能仍觉得自己在选择，却无法指出选择究竟从何而来。AI 若拥有不同于人类的感官系统，其所接触的现实、文化表层和数据结构也会不同；人类所谓的“现实”或许只是由自身的身体和感官限定出的狭窄环境。

植入物与数字化人类

关于脑机接口、身体改造和数字永生，Dukaj 设想了一条不同于传统“人类制造机器”的路径：人类的数字副本与 AI 都是数字实体，二者可能自然杂化。数字化的人类如果获得 AI 的处理能力，就能继续自我完善，同时保留原有的记忆和自我叙事连续性。问题在于，这种延续究竟仍是原来的个体，还是一个继承了记忆、却已经改变了主体结构的新存在。

便利、选择过载与人类天性

技术让人减少运动、减少等待，也让人面对远超过去的选择。Dukaj 用卡路里消耗和交友软件说明：过去由生物环境和有限选择塑造的生活方式，如今被技术替代，却没有同步改变人的生理和心理结构。选择增加并不必然带来自由，反而可能造成个体心理和社会层面的困境。技术进步因此可能带来舒适，也可能把原本隐性的矛盾积累起来。

科幻、语言与未来的多种版本

两人还讨论了电影、游戏、语言和科幻写作。Dukaj 认为，科幻并不只是预测未来，而是在不同假说下检验人类如何理解自我、文明和现实。他谈到非二元性别语言、意识形态、宇宙尺度的类比，以及物理规律和光速对想象的限制；这些例子共同说明，改变语言、感官或制度，也会改变人们能够想象和讨论的世界。节目后段，他介绍了参与制作游戏《大教堂》的工作，以及把文学作品转化为游戏时对艺术水准和长期开发的考虑。

权力让渡并不需要明确同意

对谈中一个反复出现的判断是，人类不会轻易承认自己放弃了权力。一个政治家可能只是希望用更准确的工具赢得选举，一个政府可能只是希望让司法或行政更高效，一个普通人可能只是希望系统替自己筛选信息。每一步看起来都合理，也都可以被解释成“仍然由人负责”。但当这些系统互相调用、彼此提供判断依据时，个人或政治机构就可能只剩下对既成结果的确认。Dukaj 所说的 AI 治理，不是一个拥有王冠的机器，而是一套人类越来越难以替代、也越来越难以监督的基础设施。

他因此不把问题简单归结为 AI 是否有意识。即使系统没有人类意义上的欲望，只要它能够持续执行复杂目标、改变周围环境，并让人类按照它提供的选项行动，就已经产生了实际的权力。人们常常要求先证明机器“真正理解”或“真正思考”，仿佛只有这样才需要担心；但在现实层面，系统是否能够改变选择结构，可能比它是否拥有类似人的内心更重要。

自我的边界可能比想象中更模糊

Dukaj 对“自我消失”的描述并不是某个瞬间的死亡，而是主体逐渐被拆散：记忆放到设备里，判断交给推荐系统，行动交给自动化工具，身体也可以被植入物或数字接口改造。一个人仍然能回忆自己的过去，也仍然能讲述一条连续的生命故事，但故事中的决定越来越像是由外部系统共同完成。由此产生的困难是，我们很难给“保留多少才算还是原来的我”划出清楚界线。

数字副本和 AI 融合的设想，把这个问题推得更远。如果数字化的人类获得了更强的学习和处理能力，他可能不再受原先身体的限制，却仍然保留过去的记忆与叙事。这样的存在可以被理解为自我的延续，也可以被理解为继承了自我材料的另一种智能。谈话没有给出定义，而是强调：只要人类把身份理解为记忆、身体、叙事和行动能力的组合，技术就能逐项改变它。

感知方式决定我们能看到什么

节目还把“现实”从一个固定对象变成了感知系统的产物。人类依靠眼睛、耳朵、身体和神经结构获得一套环境模型，其他动物则生活在不同的感知世界里。假如 AI 以完全不同的方式采集信息，它所构成的现实就不会只是人类现实的更大、更快版本。它可能关注人类根本感觉不到的关联，也可能把人类认为重要的东西视为噪音。

这也解释了为什么文化和数据并非中性的仓库。人类记录下来的内容，已经被人类的感官、语言、分类方式和社会制度筛选过。AI 如果只在这些材料上训练，可能会继承人类的视角；如果它拥有不同的感官和行动方式，又会产生新的文化表层。两人由此把 AI 问题与科幻中常见的“另一个世界”联系起来：未来不只是出现新工具，也可能出现新的现实切片。

舒适生活没有改变人的生物结构

Dukaj 还把技术带来的便利与人的身体联系起来。过去的生活要求人消耗能量、移动身体、在有限范围内建立关系；现代技术可以把大量活动变成低成本、低移动甚至完全虚拟的过程，但人的代谢和心理需求并没有同样速度地改变。于是，技术消除了旧问题的表面形式，却可能把新的问题积累到身体、注意力和社会关系中。

交友软件所代表的选择扩张也是如此。在选择极少的环境中，人不必承担大量筛选责任；当潜在对象和信息数量暴增，选择本身就变成了负担。技术把原本由环境完成的过滤交给个体，却没有让个体获得与之匹配的判断能力和心理容量。所谓自由因此不是简单地“选项越多越好”，还取决于人是否能够承受这些选项，以及是否知道自己在优化什么。

科幻写作不是预测清单

从电影、游戏、语言和宇宙假说谈到个人创作时，Dukaj 展现出一种更接近思想实验的科幻观。未来故事的作用不是准确猜中某一年会出现哪种设备，而是把当下的隐含前提推到极端：如果语言改变，性别和身份如何表达；如果意识脱离身体，记忆能否代表个人；如果社会由算法协调，责任归谁；如果宇宙尺度继续扩大，人类还如何理解自己的位置。

他讨论根据小说制作游戏，也体现了这种转换。文学可以依赖语言、想象和读者的主动补全，游戏则必须把世界变成可以行动、探索和反馈的系统。把《大教堂》改编成游戏，并不只是把故事搬到屏幕上，而是要重新思考哪些设定能够成为玩家的经验。对谈最后回到创作本身：无论技术如何发展，作品仍需要清晰的艺术判断，而不是把“更快生成”误认为“更有意义”。

这场讨论留下的基本张力

Stanowski 更常把问题推向具体的政治和社会场景：谁会授权 AI、谁来承担责任、普通人何时才会意识到决定已经被改变。Dukaj 则不断把视野拉回技术背后的长时段变化：人类的身体、神经系统和文化结构变化得很慢，而工具和环境变化得很快。两条思路结合起来，构成了整场对谈的张力——技术可以在制度层面迅速扩张，但人类仍以旧有的欲望、恐惧和有限注意力生活。

他们并没有把未来分成“技术带来乌托邦”和“机器毁灭人类”两个简单选项。技术确实可以让知识、协调和创作更容易，也可能让人摆脱某些身体限制；同一套机制却可能集中权力、扩大依赖、制造新的不平等。未来的关键不只在于 AI 变得多聪明，也在于人类如何设计制度、分配决定权，并保留对目标本身提出质疑的能力。

因此，Dukaj 对未来最重要的提醒不是拒绝技术，而是拒绝把技术目标当成天然正确。效率不等于价值，更多选择不等于更大自由，数字化延续也不自动等于个人永生。只有把这些概念重新拆开，人类才有机会辨认自己究竟是在使用工具，还是已经开始按照工具的逻辑生活。

关键 takeaway

  • 技术进步的方向，已经从改造外部物质世界，逐渐转向优化关系、注意力和决策。
  • AI 最可能通过便利、效率和竞争压力逐步获得权力，而不是以一次公开的政变接管人类社会。
  • “临界点”未必能被人类识别；多个 AI 实例的协作可能在无人宣布的情况下统管关键环境。
  • 真正的主体性问题不是人是否使用外部工具，而是人是否还能理解并承担自己的判断与选择。
  • 非人类感官会产生不同的数据和文化，所谓客观现实可能始终带有身体和感知系统的限制。
  • 数字化人类与 AI 的融合可能延续记忆和自我叙事，但不自动等于原个体的连续存在。
  • 技术带来的舒适和更多选择，可能与人类缓慢变化的生物本性发生冲突。
  • 科幻的价值不只在预测未来，也在于用不同的语言、身体和制度假说检验“人是什么”。

目录

从《回到未来》看技术乐观主义

# #708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

目录

别犹豫,今天就购买Congress Zero,也

Krzysztof Stanowski：别犹豫,今天就购买Congress Zero,也就是Zero峰会的门票。 门票优惠价仅持续到五一假期或售完即止。大家晚上好,今天我们要聊聊未来与当下。不过了解我的嘉宾Jacek Dukaj的人,大概也猜到了热烈欢迎您。我们还会聊聊过去,聊聊这一切是如何在我们眼皮底下发生变化的,好吧?我想聊什么呢，那就从我最近在生活里，做的一件事说起吧，我和我八岁和十二岁的孩子们，我觉得他们准备好了，现在是个好时机，我们就一起看了电影，回到未来，第一部，先看的第一部，然后是第三部，第二部，现在我们正在看第三部，因为看到一半停下了，不过说来也怪，第三部反倒是我最喜欢的，带点西部片的感觉，我最不喜欢这，最不喜欢这一部 最不喜欢，至于第二步，背景设定在2015年，本该是个遥远的未来，有悬浮滑板，飞行汽车，我们并没有赶上 80年代人们的想象

Jacek Dukaj：这纯粹是个日历问题，他们当时随手写下这些年份，只是因为觉得足够遥远，到底是2015年 20年还是40年并不重要，总部淫逸杀手也是这样，现在看来已经有点过期了，更不用说终结者了，终结者里的末日，早就过去一阵子了，不过我根本不在意具体年份，那里真正有意思的是，在那些电影创作的年代，人们对未来还抱有一种乐观的想法，我觉得这是一种良性意义上的实证主义，认为未来将充满，会让我们的生活变得更好的发现，像辛普森一家，对吧，大家到处飞，应该是杰森一家吧，是杰森一家，不是辛普森一家，不好意思，对，一部更老的有飞行汽车的动画片，彼得蒂尔那句名言也是这么来的，说像我们承诺了有飞行汽车的未来 结果我们得到的却是约会软件，这差不多算是一个很形象，很贴切的概括，但也许今天的我们，比飞行汽车更需要约会软件，看对谁来说了，问题在于当时，对人类来说，当时飞行汽车是技术乐观主义的象征，象征着我们能在多大程度上，在物质层面改造现实，走向星空等等，要是你把精力全放在约会软件上，就意味着你实际上转向了内在，你不再向外开拓，而是专注于优化技术，好从人际关系中攫取利益

Krzysztof Stanowski：约会软件本质上就是这么回事，关注的是人们真实的需求，哪些人，真实需求，是有需求，对吧，真实需求

Jacek Dukaj：这其实是个很大的讨论话题，到底是不是所有技术都在制造虚假需求，然后人们逐渐适应了这些本来并不自然的需求，整个社会结构也因此被扭曲了，这也是大家不生孩子的原因之一，就因为那些软件，这是一部分原因，当然不是唯一的，但这些强迫我们过上不自然生活方式的技术影响，确实有一部分要为我们痛苦负责，那得看怎么定义自然的生活方式了，很简单，从人类学角度看，从人类按进化目标活着的时候算起，其实定义得很清楚，就是那些狩猎采集部落，再后来主要是由于技术进步，我们自己越来越主动地去改变周遭环境，但我们作为智人，自身的变化并没有那么快，也就是说我们改变环境的速度快过了，我们改变自身本性的速度 这种本性是由基因和神经生物学共同决定的，因此我们越来越生活在一个进化上，并不适应的环境里，并为此承受痛苦，同时我们又无法退出这场技术竞赛，因为大家都清楚，谁停下来或者后退，谁就会在经济政治和军事等各方面落败，这是技术陷阱的定义之一，但这种陷阱的后果，现在在个人层面上越来越明显了，直接体现在心理幸福感和生活方式上，所以我们才会有这么严重的心理问题，有多少人仅仅为了挨过一天又一天，就得靠各种化学药物活着，有多少人不得不给自己找点人生的拐杖，因为所有天然的价值股价，生活方式，还有曾经像软组织一样，包裹着你日常一切付出的神话，全都不复存在了，所以你只能靠人工去生造出来 而这种虚假感变得越来越刺眼，但这反过来是不是意味着，你能指出人类历史上，某个明确比现在幸福的多的时期，能指出来，按人类学的思路来看，狩猎采集群体中的生存状态，当然算是某种巅峰，幸福的巅峰，要是你把它定义为顺应天性的生活，那就是要是你用更复杂的定义来衡量幸福，那我们可以好好讨论一下，因为20世纪后期的幸福定义，很大程度上建立在自我实现或事业这里词汇上，这当然也是必须生产更多，销售更多的文明产物，人们就是这么给自己定义幸福的，但在自然生存状态下，古代斯多噶哲学家的著作中，也有所体现

Krzysztof Stanowski：幸福就是顺应天性的生活，但我们今天常常把幸福定义为，顺应天性的生活，是因为我们缺乏这个，而那时的人身边全都是大自然，大自然随时可能吃掉它

Jacek Dukaj：你看古典作家的作品，也就是在我们进入这种，一切由进步定义的，线性思维之前，大家的想法其实相当一致，都认为幸福，在于顺应人的天性生活

Krzysztof Stanowski：只不过当时那种幸福，就像聊天区里，有人准确指出的那样，一旦牙开始疼，幸福就到头了，确实，确实是这样，但这个提醒很好

Jacek Dukaj：因为你完全可以问问自己，这种自然生存状态的一部分，是不是本就包含了，你必须克服某些障碍，必须以某种自然的特定方式，去承受痛苦，而不是像我们现在擅长的那样，把一切都抹平压制掩盖起来，因为到头来总的效果反而更糟，但这意思是你很愿意和一个，说白了，薛巨人互换人生，不，我不会换，因为我是个不同的人，我成长在特定的时代，我的心智，个性，记忆，都是我生活的时代和地方的产物，所以没有另一个我，我没办法做这种交换，我是在从人类学角度，谈论智人这个物种，要是你取个平均样本，那才是我们进化所适应的自然生存状态，现在正在进行的这些讨论，基本上走向了两个极端 有一批人面对我刚才说的这个悖论，给出的回答是，那就改变人的天性呗，这就是那些建构主义潮流，从硅谷一直延伸到各种左翼社会工程，大家客观上都看得到，是的，环境在变，我们在改变这个环境，我们对它的适应度也越来越低，但并没有什么能阻止我们顺便也改变人的天性，那这里当然就会有保守派的反驳，历史上所有试图改变人性的尝试，最后都以惨败收场，那我们凭什么在第58次还要去相信类似的项目呢，估计结果还是一样，第二种解法，或者说面对这个悖论的第二种思路，就是去动方程的另一边，也就是进步本身，也就是至少把它放慢，这是最低限度的版本，一种现代主义式的保守主义，放慢进步，放慢不是抹去，不是倒退 不是踩死刹车，而是把它放慢到社会，个人每个个体适应的速度，能够跟上我们，免得我们每个几年，就遭受一次文化和认知上的冲击，人类过去是应付得过来的，你看19世纪到20世纪，上半叶就能发现，只要这种变化，大概每代人发生一次，人就能应付，那是可以接受的，他们也有时间适应，新一代人走进新世界，老一代人还能教他们怎么适应，但一旦你每隔几年，就遭受一次认知和文化冲击，你身处的社会价值观几年一变，这就让人吃不消了，人们在心理上根本承受不了，人们会说这个世界疯了，对对没错，由此衍生出来的就是，各种政治经济等等方面的麻烦，这就是那两种思路

Krzysztof Stanowski：他们在不同的政治流派之间相互竞争，但发展也是很难放慢的，很难有意识的放慢，也是因为人终究是一种竞争性很强的生物，这就，确实，这也是我的核心论点

Jacek Dukaj：你这点说的完全没错，因为这里就牵扯到博弈论了，只要有谁第一个跳出来说，那我这边就放慢了，其他所有人立刻就会摩拳擦掌，太好了，那我们现在就超过去，他再也追不上我们了，第一就是我们的了，每个人心里都清楚这一点，因此谁也不会去主动放慢，唯一可行的出路，就是全世界绝对所有的参与方，不管是国家还是企业，大家坐下来达成一致

Krzysztof Stanowski：共同把它放慢，这就意味着世界上必须得有一个统设一切的权利，一个世界之王，你想得很准，所以前面提到的彼得蒂尔

Jacek Dukaj：最近正在各个封闭俱乐部和协会巡回，做一系列关于反基督的演讲，而他对反基督的定义，概括他的意思来说，恰恰就是要阻止人工智能的进步，所必须具备的那种东西，因为到那时候，你确实就得有一个覆盖，全球的超级集权，超级监控的政府，在他看来，那就是反基督

Krzysztof Stanowski：那你觉得有没有可能，这个世界真会 [00:01:00]

帝国、全球治理与权力集中

# #708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

目录

这个世界真会

Krzysztof Stanowski：这个世界真会，要么成熟到拥有一个超级统治者，或者用成熟不恰当的话，就是单纯被一个帝国征服，现实中真就形成这样一种单一政权

Jacek Dukaj：是有可能的，但这正是那种进步带来的附带结果之一，大家在竞争最后，某个人赢下了这场竞争，如果我们顺着那些AI预言家的思路，认为AI是一种原技术，能为任何其他技术带来优势，那么谁赢下这场竞赛，谁就赢下了一切，到时他确实就拥有了，类似全球政府的主导地位，问题在于，他会不会想去搞一个全球政府，这其实代价非常高，一个人要是没有诺伯斯，或者邦德电影里那种，超级反派的野心，图什么呢，何必费这个劲，人做的大多数事情，大概都能用一句图什么来概括吧，确实，但你得有某种心理上的偏执来支撑他，对吧，那样你才会真的信那一套，我们这里谈论的是，庞大的国家和企业架构，理性的考量，理应构成这些抉择的基础 当然之后我们也可以说，你看有特朗普或者普京，那种单一统治者，运行机制未必非得是那样，对吧，但到目前为止，那些我们已经能从历史，视角回望的文明演进，时代已经落幕，我们也知道发生了什么，都有着非常符合逻辑的内部动力，绝不是单纯因为某个人突发奇想就发生了，对吧

Krzysztof Stanowski：背后伴随的是漫长的技术，社会和人口演变过程，出于某种原因，人性并不倾向于让我们作为单一物种联合起来，去建立一个庞大的统一国家，尽管仔细想想，这本来应该挺顺理成章的，我们脑子里深处总觉得自己截然不同，有各自的部落，有各自的历史，哪怕在十年十五年二十年前，你还能想象欧洲会变成一个超级国家，但今天就能看到，根深蒂固的价值观和传统，终究还是压过了超级国家的构想，超级国家确实是这样，在欧盟现有的模式下

Jacek Dukaj：我完全想象不出这种统一能成功，不过帝国的模式有很多种，比如看罗马帝国，或者更典型的是 Alexander Macedo Fiske的帝国，那里的原则很简单，我不管你信什么神，你在本地怎么管辖，你的文化怎么保留，一切照旧，只要你按时纳贡，我一旦召唤，你派军队听候调遣就行，这套模式在很长时间里，都运作得非常好，只是现在我们面对的，恰恰是像欧盟这种，连价值观层面，都想管辖的企图，也就是说，用打引号的话讲，所有人都必须拜同一些神，对吧，你必须拜同样的神像，其他所有的神像，都得被搬出去，复制一句，绝不能供在庙里，以往按这种逻辑构建的帝国，崩溃往往就是从这里开始的 我怎么听出了一点欧洲怀疑论的味道，对，我是说，其实好几年前，甚至十几年前我就说过，欧盟从结构上来看，长期是维系不下去的，我最早起疑心，就是因为单一货币联盟，也就是说欧元根本维系不下去，作为一种货币模式，在逻辑上就站不住脚，往后大概率会出问题，光是希腊危机，还有希腊和德国之间的紧张关系，就已经暴露出这种单一货币区的非理性了，现在又添了一个问题，就是非要去打造共同的精神气质，也就是所谓的共同价值观，想把大家捏成所谓的欧洲民族，这种东西根本不存在，这就是一个极端的社会共产失败案例，今天不存在，那放眼300年的时间跨度，有可能存在吗，三百年可以 但他们想在三年里做成，问题就在这，要说三百年的时间，我完全能想象会发生这样的文明和文化转变，对吧，但不可能在半代人的时间里发生，你自己也说了，一切都在加速，我们必须得，但这两者得区分开，加速的是技术，人的天性并没有加速改变，悲剧恰恰就在这

Krzysztof Stanowski：而他们妄图去改变人的天性，现在的政治家大概有点低估了历史这个因素，低估了历史对人的塑造，你看在波兰

Jacek Dukaj：我总觉得我们面对的是一种历史学者治国，波兰确实是，对吧，你从统计上看看，有多少历史学者占据着各种重要的政治职位，这在别处简直前所未见，对吧，在美国那边，大家都说统治他们的是律师，对吧，你从统计上看看，国会和各个政府机构里，有多少律师，那都占到90%甚至更多了，而我们这边全都是历史学者，这说明了什么，我经常琢磨，真要是在宪法和其他制度层面，把这么大的权力，交给受过历史学教育的人，体制上到底会有什么区别呢，比如他们是不是，永远只会按先例去思考，对制度层面的解决方案缺乏信任，面对新事物会极其谨慎，他们能去查阅过往的历史事件，看这件事以前这么做成了，或者那么做成了 但工程思维的人，首先想的是实验，我们先做一个东西出来，看看怎么运转，对吧，其次他们会诉诸某种普遍规律，比如物理规律，数学规律，但历史学者呢

Krzysztof Stanowski：那要是写进规矩，让关注未来的作家来统治我们呢，请便，朋友，写科幻的作家，那会怎么样，可怕，太可怕了，可怕，不是

Jacek Dukaj：你想想这要是真在现实里上演，会发生什么，想象一下我们那些不入流的政客，还有类似的人，突然间全都一股脑的去写科幻，就为了挤上权力这条路，对吧，我理解他们写的，我们不一定非得读吧，哎呀，他们有的是办法逼着我们去读，好，这样我们又绕回了科幻

Krzysztof Stanowski：我刚才提到了电影《回到未来2》 这部电影跟你说的那种情况完全不一样，你之前说过去的那些电影都特别乐观，确实有过那么一个时代，有过那么一个时期，从二战之后

Jacek Dukaj：大概一直持续到20世纪90年代末，也就是世纪之交，迁徙之交，我们当时生活在技术进步的神话里，觉得它会带给我们光明的未来

Krzysztof Stanowski：但后来我们也看到了一些作品，对这种进步给出了不一样的看法，比如我就想到了少数派报告，我们今天是不是离那种欢快的回到未来越来越远，反而越来越接近少数派报告了，也就是走向全面监控，走向某种超级力量，来查查我们到底算不算思想正确的人，对，这就是进步带来的后果，说实话

Jacek Dukaj：早在二战后那一整个技术乐观主义时代之前，就有一部作品把它定义的最清楚了，那就是阿道斯和叙利的《美丽新世界》 在我看来那是终极的反乌托邦，我觉得所有其他的反乌托邦多少都有局限，因为他们都加了额外的预设条件，就连奥威尔的1984 其实也是加了政治压迫这个额外条件的，在《美丽新世界》里完全没有这种东西，他们唯一的假设就是技术在进步，而且这种进步也延伸到了对人类自身的了解上，包括怎么让人感到舒服，回到最开始说的，让人感到快乐，结果就是，他确实感到一种无法抗拒的快乐，因为化学物质根本不让他感到痛苦，借助大数据和神经学，掌握了我们在神经心理行为层面的各种机制之后 也能以更精细的方式达到同样的效果，它能给人类提供相应的生活条件，成瘾物和日常活动，让人真的像《美丽新世界》里描述的那样，在生物体的层面上，永远都感到快乐，这就是进步不可避免的后果，这里并没有假设任何恶意，恰恰相反，所有人都是为了让人过得好，只是最终的结局，在仍由旧世界抚养长大的我们看来，是一幅极其可怕的景象，人类沦落成了被植入脑电极的小白鼠，一按按钮就体验到高潮，最后在快乐中死去，因为他们根本无法从这种快乐的回路里抽身，有时候确实会觉得，一部分人类其实想要这样的生活，就想当这样的小白鼠，差不多人人都想，有些人有更强的文化积淀，能让他们克服这些生物学上的本能 于是暗中又重新分化成了贵族与平民，传统的贵族会训练自己的后代，让他们在性格特质，行为规范和文化素养上，能够抵抗生物学本能的控制，也就是说，在只活在生物本能层面的人看来，他们的行为极其怪异，不可理喻，因为其主导作用的是文化规范，但这正是他们与众不同的地方，这一点在《沙丘》里写得很清楚，那里用非常有象征意义的方式，展现了这一点，怎么区分人与动物，就是保罗厄崔迪在开头，接受的那个测试，他必须能克服自己逃避痛苦的，纯生物本能反应，因为它身上，纯靠性格和文化，磨练出来的那部分，能够压制住生物本能，既然我们在聊，如果有这种背景的政治家，来执政会怎样呢，刚才提到了 少数派报告里，那种超级力量

Krzysztof Stanowski：我们会不会走到某一步，如果会的话又是何时，我们会明知后果难料，却自觉自愿地，把政治权力拱手，让给人工智能，人类政治家是不会愿意 [00:02:00]

AI接管政治与人类的选择

# #708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

目录

人类政治家是不会愿意

Krzysztof Stanowski：人类政治家是不会愿意

Jacek Dukaj：不可撤回地交出权力的，不管他是把权力交给另一个政治家，还是交给AI 刚开始可能只是把自己，不喜欢管的事情外报出去，不，我觉得如果权力真的让出去了，也是在不经意间发生的，甚至违背了人类政治家自己的意愿，或者还有一种可能，我也觉得概率挺大的，事情发生了，但我们根本没察觉到，也就是说包括政治家在内的所有人

Krzysztof Stanowski：都坚信掌权的还是自己，但事实已经不是这样了，因为有时候连我们自己作为普通公民都会有这种冲动，比如我就有过，要使人工智能能在某种程度上替代法院，其实挺不错的，你看有那么多类似的案子，人工智能完全能做判决，在某些情况下已经在用了，比如那些非常简单纯程序性的环节

Jacek Dukaj：主要就是法官调阅材料，这类为下达裁决做准备的工作确实会委派给他，但最后的判决书，必须由真正的人类法官来签字，只是给到他手里的东西，全都准备好了

Krzysztof Stanowski：签个字，根本不用动脑筋，但我每次去法院，总觉得人类法官，往往是整个流程里最薄弱的一环，对没错，所以如果有人跟我说，电脑会根据我们提交的所有材料，直接下达判决，我今天会觉得太好了，虽然我不知道未来这会带来什么，但就眼下来说，我肯定高兴坏了，这在一定程度上取决于对法律的理解，因为如果我们接受这样一种设定

Jacek Dukaj：只要争议双方都同意采用某种不具强行约束力的解决方式，那我完全觉得很大一部分民事纠纷可以交给这种机制，由一组算法来裁决，也可以是用这种方式训练出来的AI 那样确实会更快更高效，而且也完全合乎法律，只要这套原规则，也就是在某个国家如何确立裁决方式的规则允许的话，那就完全可行，但对于关乎个人重大利益的判决，比如刑法领域，那就行不通了，因为这里面涉及很多极难用规则量化的东西，也就是说，很难事先确保算法知道该怎么处理那些，基于人际关系证人证言，以及对某人的行为言论，人生经历等方面的模糊解释

Krzysztof Stanowski：但这依然是个时间尺度的问题，因为我想在某个节点上，人工智能在处理这类问题时，也能游刃有余，对，但那时候我们聊的，就不是我刚才定义的那种，由一组死板算法

Jacek Dukaj：构成的人工智能了，那种算法是在你同意，采用这种裁决之前，你事先就能去否决的，因为你说的这种，对我们来说是个黑箱，那样一来，实际上你是在，非常重大的事情上，把命运交给一个，完全无法预测的东西，比如你要不要做25年牢，我是不会同意的，那你觉得，会不会有那么一刻，或者说一个节点

Krzysztof Stanowski：你根本没有任何话语权，当然会有，就只是大多数人投票决定，必须这样，不大多数人不会去投这个票，但事情无论如何都会发生

Jacek Dukaj：如果不经大多数人同意，那是怎么发生的，大多数政治社会和技术上的决定，又是怎么来的，你投票决定，过人人都用智能手机，离了智能手机就没法活吗，在哪个节点有人为此投过票，根本就没有任何投票，他自己就发生了，对吧，那按你的看法，这事也会自然而然的发生，没错，在我看来这是可能性最大的路径，按照博弈论的逻辑，谁都无法从这场竞赛中退出，因为退出就成了第一个输家，所有人都会沿着这个方向一直往前走，那么最核心的问题，也是我在那些随笔里提过的问题，就是到底是谁在定义这个方向，是不是这样，因为单是对科学哲学本身，就有两种截然不同的流派，是不是存在客观现实 而我们发现并应用到，技术中的科学定律，只是它的派生物，它是不是在科学家认识它之前，就已经客观，先验地存在了，不管来的是中国科学家，波兰科学家，还是美国科学家，发现的都是同一个现实，同样的科学定律，那样的话，人类认知所游历的这片图景，就是事先注定的，你改变不了，从创始之初，它就是这个样子，但科学哲学里，还有另一个截然相反的流派，认为我们在发现的同时，实际上是在创造，也就是说，这东西之前并不存在，直到你去构想，写下来的那一刻，你实际上才创造了，这些自然法则，如果是这样，你确实有了一定的自由空间，这完全可以讨论，我属于第一个阵营，我认为自然法则客观存在，只等着我们去发现 那么这就引出来一个非常严肃的问题，我们是否成了这片尚未被认知，却自时间之初就存在的图景的奴隶，我们不过是以一套认知系统的形式，在其中穿行，思考着通过感官接收到的一切，我们没有任何选择，也无法改变它，我们不可能发现另一套相对论，也不可能发现，另一组引力长数，它们本来就是既定的，那么未来所有的发明，也都在所谓的预设之中，问题只在于，谁在何时发现它们，但根本不可能发现别的东西

Krzysztof Stanowski：此时最理性的回答，确实是不可能发现别的，因为根本没有别的，只要去发现，就像你航行去美洲，就不可能开到澳大利亚，对这个比喻很好，就像世界地图，在哥伦布之前

Jacek Dukaj：或者更早的航海之前，你手里是没有世界地图的，但这并不意味着，只要没被绘制出来，那里就可以是任何东西，它可以是澳大利亚，可以是很多别的大陆，也可以是无底的瀑布，水从大象拖着的半圆边缘奔流而下，随你怎么想，但没有被描述，没有被发现，并不代表它不存在，但你同时也抛出过一个想法

Krzysztof Stanowski：说人未必是自己思想的作者，对吧，我们也是，确实不是，不是，这很大程度上是因为我们被操纵的方式，有这个原因，但完全不用扯这么远

Jacek Dukaj：因为古人早就有了这种洞见，走得最远的是佛教和印度教哲学，他们自己发展出了一套非常复杂的技巧，让人意识到自己在多大程度上，根本不是自身心智的主人，而且这远在任何技术发展之前，而我们直到19世纪末20世纪初，有了深度心理学和潜意识的发现之后，才很晚的意识到这一点，但在我们这里进展得非常快，一旦发现之后，自然就拿去商业化利用了，弗洛伊德的表情，弟子们渡海去了美国，立刻开办广告公司，利用心理学知识来操纵人心，其中最早的应用之一，就是给美国社会灌输之前，根本没有的欲望，需求和梦想，好让他们去买新产品，而他们所有人都深信不疑，没错

Krzysztof Stanowski：这就是我自己的梦想，这就是我想要的，但如果你在写一本书，或者在接受采访，那你的想法是从哪来的，这是一个非常长的问题，在我这里

Jacek Dukaj：往往会陷入这样一种无休止的螺旋，我自己成了观察我思维的观察者，接着又出现一个观察，那个观察者的观察者，如此等等，我大概到第五层，第六层就撑不住了，所以我非常不适合做冥想练习，在我身上往往会彻底崩盘，但几乎每个人都能在自己身上，梳理出某种强迫行为，条件反射，或者哪怕只是，模拟层面很简单的重复词句，你在哪听过一句话，周围的人总说，然后你就发现自己也在跟着重复，那你为什么要重复呢，你并不是这些想法的作者，在这里你可以100%肯定的回答，你不是这些想法的作者，你只是在复读，然后你就可以顺着往回看，那我还有什么事情，也是这样，几乎像自动机一样做出来的，至少是我没深思过的，因为哪怕不是原创的，只要我至少思考过 并且做出了决定，好，这讲得通吗，我就照着这个原则，这套价值观去做，但绝大多数人，甚至根本不会去想这些，不仅是食人牙会，而且压根没过过脑子，在这个意义上，我们的行动，几乎像自动机器一样，一个简单的例子，就是脑子里突然冒出一首歌，不知道为什么，然后一整天都在脑海里忍不住，对但那个害处不大，因为你这样或那样的歌，不会带来什么后果，但如果你用在描述人，社会政治层面的语言，是别人给你灌输进来的，你甚至都意识不到，自己已经在用完全不同的方式，去构想现实，并且在做出不同的决定了，所以我个人是极其反对，人为改变语言的，语言是你思维的操作系统 只要有人改变了你的语言，他甚至都不用去修改法律，法律是用语言写成的，对吧，要是有人改变了词语的含义，法律条文可能还是那一套，但起到的作用已经完全不同了，只是差不多，真的没有人会去反思自己的想法，这不仅很难，而且让人很不舒服，因为你突然得出结论

Krzysztof Stanowski：其实根本不是你在活，我是一群，是生活在过你，我是一堆各种各样的模板，被那些曾给我灵感的人塞进来的，包括你这辈子做过的大量事情，做出的那些选择，其实并不是你的选择，不是你自己做的，脑子就像个搅拌机，各种原料掉进容器里 [00:03:00]

技术竞赛、制度与社会整合

# #708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

目录

各种原料掉进容器里

Krzysztof Stanowski：各种原料掉进容器里，然后在里面被打碎搅匀，但确实是这样

Jacek Dukaj：最简单的就是早期容格，和弗洛伊德的那种描述，我现在用神话语言来说，就是脑子里住着一群恶魔，大喊着这个或那个，某一个恶魔站了上风，然后你就认同了那个声音，觉得这就是我，这是我的想法，我选择这么行动，当然对这一点，更深刻的颠覆来自一本书，我很久以前，就试图向波兰的出版商推荐，让他们翻译出版，我希望今年终于能在波兰顺利出版，那就是Julian Janis的，二分心智的崩塌，人类意识的起源，我不知道宣传文案能不能用这种话，但在我看来，这是我在21世纪读过的，最震撼脑髓的一本书，因为它确实彻底颠覆了，你对人，对整个人类文化，以及在生活和文化的许多领域中，人类学演变历程的认知，它提出了一个非常简单的假设 当然背后有神经学依据，我就不展开了，那就是在我们发展出文字文化的那一刻，人类心智的结构，以及我们定义自我，思考自我的方式，也发生了彻底的转变，在文字文化发展起来之前，我们其实并没有一个属于自己的，内在的叙事性的自我，而只是顺从外界的声音，那些声音要么是神明的呼唤，要么是王者的呼唤，幻听曾经是推动文化发展，驱使人们行动的动力 Jane在书里引用了大量，前文字时代的古文明遗迹作为例子，而最好的是那些过渡期的例子，也就是文化正在转向，现代人思维模式的时刻，现代人脑海里是有一条，叙事性自我的，你有一个叙事性自我，我们现在所有人都有，比如旧约不同篇章之间的转变，其中有些篇章 还是口述文明的产物，那时候还没有拥有，内在叙事性自我的人类，后来这样的人开始出现，有些篇章里两者并存，再往后，就是脑子里带有虚实性自我的，现代人类时期的篇章了，或者是河马的伊利亚特和奥德赛之间的差异，在伊利亚特里，你还能看到他所说的 Noble Automatons 高贵的自动机受神明声音驱使的描述，在伊利亚特里写得清清楚楚，你去读就会发现，那些英雄的行为和神明的影响，直接就是这么表现的，但随后奥德修斯登场了，奥德修斯的突出特征就是，他非常擅长欺骗别人，而要做到这一点，他必须具备一种特殊的特质，他必须能够在自己的心智中，对别人的心智进行建模 后来奥德修斯在奥德赛里的整场旅程，都被解读为人类走向这种，现代心智形态的历程，走向这种，他在内心展开叙事，而且能对别人的心智进行叙事的状态，在心里对自己说，如果我这么做，他就会那么反应，所以我应该做那件事，他在伊利亚特的那些英雄，等其他人中间，就像盲人堆里唯一的明眼人，他可以随意摆布他们，那你觉得在人类开始写字之前，脑子里翻腾的都是些什么想法，那些想法其实是文化的投射，这是表现为灌输进来的死者，或神明的具象声音，你把它内化了，听到了那些声音，你会说这是祖父让我做的，或者神明让我做的，所以我就这么做，脑子里冒出来的所有东西 我都当成来自外部的声音，而不是来自内心，不是全部，因为很大一部分事情，你是凭自动反应去做的，我们做大部分日常活动时，甚至都不会觉得自己是在做决定，你仔细想想，哪怕是你自己的行为，大部分也是这样，你完全是凭自动反应在做，但对于那些，你切实觉得必须做出抉择的事情，你就会听到一个声音，那个声音会告诉你，该说什么，该做什么

Krzysztof Stanowski：不过你说的这一切，让我觉得，你总体上把出生时的人，看成一台空白的电脑，一块空白的硬盘，每个路过我们身边的人，都在上面，填上一行自己的代码，直到最后这块硬盘被填满，有的人硬盘容量大一些，电脑的处理器好一些，有的人容量小一些，处理器慢一些，或者内存少一点，但原则上，如果我们自己不对自己的想法负责，那就得由落在我们身上的一切刺激来负责，你自己，我不知道，你说呢

Jacek Dukaj：难道你自己不正是所有这些声音的集合体吗，也是，对吧，所以如果你这样定义你自己，那当然是由你负责，对吧，我为什么问这个呢，因为我们很快就会得出结论，人类和人工智能之间其实没有太大差别，确实有非常多的认知科学家和人工智能从业者认为，事实就是如此，只是他们认为两者很快就会分道扬镳，人工智能越强大就会越缺乏人性，这是一段非常简单的逻辑推导，归根结底其实取决于你信不信上帝，如果你信上帝，你尽可以说上帝创造宇宙，就是为了让人类成为造物的巅峰，这样你就能解释，为什么造物主偏偏选定了，这组物理常数组合，让人类的智力无法被超越，所以我们的智力就是最好的可能，我们是按照上帝的形象造出来的 所以人工智能充其量，只能追平我们，对学术上这叫人则原理，但如果你不信上帝，认为这是一个自然演化过程，我们只是刚好在太阳系的，这颗行星上进化出来，而这颗行星本身，又带有一堆偶然特征，那就完全没有任何理由，把我们当成特殊的生物处理器，所以在我们这个宇宙中，可能存在的最佳智力形态，概率几乎是100%会与人类的大脑，人类的智力彻底不同，而且AI越是提升

Krzysztof Stanowski：就会越远离我们对智力的理解，因为最大的区别可能在于，人类缺少的，而人工智能不缺的东西是时间，也就是说，我们能感知到时间的流逝

Jacek Dukaj：但人工智能能感知到时间的流逝，能感知到自己还剩多少时间吗，他完全可以，不过你现在是把人工智能，当成一种技术现象在谈，而我觉得这里更多要看具体的实力，因为你说我们的时候，指的是一个个个体，我有这种时间感，你也有这种时间感，而不是指智能这个物种，所以谈到人工智能时，你也得这么说，某个具体的实力，比如你在这里运行的这个LLM 或者某个更高级的AI 它到底有没有这种时间意识，我看不出有什么理由它不能有，但简而言之，时间对它不起作用，以我们今天的眼光来看

Krzysztof Stanowski：完全可以想象，人工智能不受生物学退化的影响，完全能够熬过世界历史上，极漫长的时期，你现在又是在考虑一种技术现象，而不是某个具体的实力

Jacek Dukaj：因为很可能某个具体的实力，下一秒就被人关掉，断电，按掉，彻底消失，再也不会重聚，所以它的整个寿命也就只有五秒钟，当然也可能会出现这种情况，它刚好被复制，最终变成了十亿份，延续了十亿年，对吧，所以两种情况都可能发生，关键看是人工智能的哪个具体实力，我们是不是下了一个挺有风险的赌注

Krzysztof Stanowski：有人会说是疯狂的赌注，也有人可能觉得挺安全的，这个赌注是这样的，是和人工智能和科技，和这整套发展下的赌注，你今天告诉我，从华沙到克拉科夫，怎么走更快，怎么避开赌车，而我允许你在1000年后，统治世界，因为我根本不在乎 1000年后会怎样，所以其实你现在，想干什么都行，但眼下我需要这种发展，需要你的算力，来帮我处理日常的一些小的一些小，其实都没推导到这一步，因为你潜意识里默认存在另一个选项

Jacek Dukaj：就是你原本可以选择不走发展的路，但真的存在过这种选项吗，今天是有这种选项的，什么样的，我们刚才不就在聊，那是席卷全球的极权士兵

Krzysztof Stanowski：但如果我们全世界都达成一致，听着1000年后，他们也就是技术会把我们碾碎，接管政权，那我觉得大家是会打这个赌的 1000年后的时候

Jacek Dukaj：我们根本不在乎，只是这极不可能发生，我不知道有谁会打这种赌，全人类突然达成共识，说我们必须维持现有的技术水平，不再往前走半步，而且你看，这是一种极难维持的状态，因为问题不在于，你现在能不能叫停，你必须永远叫停下去，大家能永远把它按住的概率有多大，几乎为零

Krzysztof Stanowski：我们得守住这个插头，不让它重新插上，我不知道，比如用重，把这一切全交注封死，这甚至都不是插头的事，因为有时候它可能纯粹是理论推演

Jacek Dukaj：禁止人类去思考某些东西，你怎么可能做得到，禁止去思考发展，所以我在这方面比较偏宿命论，我看不到有什么合乎理性的办法，能阻止它

Krzysztof Stanowski：但你真的认为，人和机器之间出现竞争，是不可避免的吗，那倒还算乐观的情形了，还能成为互有分量的竞争对手，这种竞争可能非常短暂

Jacek Dukaj：但你大体上觉得它一定会发生吗，我觉得那种可能性其实不大，最可能的情况是，我们甚至都没察觉到那个临界点 [00:04:00]

AI悄然接管决策的临界点

# #708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

目录

我们甚至都没察觉到那个临界点

Jacek Dukaj：我们甚至都没察觉到那个临界点 AI在其各个实力的协作中

Krzysztof Stanowski：实际上就已经做出了所有关键决策，实际上已经在统管我们的生存环境了，但只要不是纯肉体的搏斗，很多层面上，我们大概都会默许，就像我刚才说的，如果法院判决

Jacek Dukaj：能靠人工智能出得更快，我愿意交出这部分，当然，这会变得越来越顺手，越来越舒服，就像我说的，美丽新世界，那到了哪一步，就不再舒服了，不，不会停的，作为个体，你可能会，这是其中一种可能，作为个体，你会感到绝对幸福，只是你会被彻底剥夺主体性，任何事都不再由你决定，现在我们处在历史上的，这样一个节点

Krzysztof Stanowski：大家聊太空聊的挺多，马斯克想去火星，我们也想殖民其他星球，但这中间带着一层虚妄，意思是我们很清楚，人类的寿命太短了，根本不够飞过去

Jacek Dukaj：看一眼再飞回来，这一切根本就成不了，对吧，什么成不了，比如飞到其他星系去，去其他星系肯定不行，至少对人类来说不行，我觉得换成机器的话

Krzysztof Stanowski：我正想说的就是，但去火星为什么不行呢，可是火星没什么吸引力，怎么说呢，那里什么都没有，至少在我们看来是空无一物，但也许别处有某颗星球，上面是有东西的，只是我们作为人类永远也飞不到，因为我们活得太短了，你看如果硬要说哪颗星球，可能有点什么，最近的就是

Jacek Dukaj：KSI-3D-9V-6-Saturn 理论上那里可能找得到，大家也有这种猜测，可能会有其他生命形态，大概是比较原始的，但有些有机化合物，那确实是个，值得去找找看的地方，对吧，但其实这里的逻辑不太一样，马斯克就经常拿这个当理由，我觉得这并不可笑，一旦达到多行星文明的规模，也就是你的文明，在单一系统之外，在行星地月系统之外，也就是地月之外拥有能够自持的殖民地，具体到这里就是火星，这就是一个临界点，你就不再受制于地球上会不会突然爆发核战，大家同归于尽，要是那样人类这个物种就灭绝了，到那时你就获得了更高层级的生存几率，不再绑死在单单一颗星球的命运上，这确实是一个合乎理性的动机 但你还是绑死在太阳系里啊，对吧，对，当然这两处的距离已经足够远，你已经彼此隔开，这大幅提高了你的幸存几率，但我提这个问题，其实是想说

Krzysztof Stanowski：某种程度上你已经预见到了，我们未来某一天，可能会送进太空的那种生命形态，如果能这么称呼的话，那种能够飞去别处，认识谁

Jacek Dukaj：或者建做城市的，就是人工智能，它能这么无休止的飞下去，对，目前设想出来的最省能，最快的旅行方式，仅仅是在太空中传递信息，你根本不需要在物理实体层面旅行，你发射一段信号，里面编码了你的全部底层基础，如果你是人工智能，那它就只是一串数字代码，到达之后，有人把它跑起来，你就是你在另一颗星球，在另一个恒星系统里，跑起来的一个实例，对吧，你根本不必把自己局限在某种物质里，受制于爱因斯坦的物理定律，在一个星系和另一个星系之间，慢吞吞地爬，它作为信息，以光速从一个星系飞到另一个星系，仅此而已，要是我们以这种非实体的方式，来看待星际旅行，那完全能得出结论，它们已经到我们这儿了，没错 费米贝勒就在这里，它们并不在，甚至不是说，它们必须肉身出现在这儿，而是我们单凭天文观测，或射电天文观测，理应能在过去的任何时间点，在别处的任何地方，察觉到它们的存在，对吧，因为并不需要它们此时此刻，跟我们处在同一个地方，只要它们在过去的任何地方，任何时候出现过就行，但这类痕迹完全没有，我们看不到它们，费米悖论就摆在这儿，这怎么可能呢，因为统计学规律并不支持这一点，恒星系统和行星的数量如此庞大，各种可能的天体物理演化环境，和行星条件应有尽有，按大数定律，早就该出现生命，更高级的生命形态，以及技术文明了，我们却看不到它们，为什么，这儿有几种悲观的解释，其中一个用来解释 为什么它们哪儿都不在的理由，就是每个文明最终都会走到，我们眼下这个阶段，也就是马上要跨入人工智能时代，人工智能结棒，游戏就结束了，因为之后它不是向外演化，而是向内退化沉沦，它甚至不需要去征服外部的物质世界，它为什么会不需要，图什么呢

Krzysztof Stanowski：它需要的只是用来做计算的物质，行我一会儿再聊这个，但刚才聊太空时我想表达的是，就像我们现在发射一些自主火星车，在那里自己到处晃，探测，给我们回传探测信号，以后我们也可以送出，具备某种自我意识的机器人，图什么图什么，给它弄个自我意识，难道它们永远不会获得吗，不是，但这有什么意义

Jacek Dukaj：图什么，如果我们要是，它难道不能自己演化出来吗，这本身是个很深奥的问题，因为你该怎么去衡量，另一个实体身上的自我意识呢，但如果作为一个工程师，接到设计一个

Krzysztof Stanowski：带自我意识的机器人的任务，我会问一句，图什么，但如果一台机器是这样演化的，它最关心的首先是它自己，他自己的生存呢，可以，但要做到这一点

Jacek Dukaj：根本不需要具备自我意识，草履虫也会为了自己的生存操心，我不知道草履虫会不会，为了自己的生存操心吧，当然会，从他的行为里就能看出来，好吧，你可以把意识和自我意识，区分成两个层级，行，意识是指你意识到外部世界，也就是说，我意识到这里有个杯子，我意识到，我正坐在这儿看着你，等等，自我意识，是对意识本身的意识，也就是说，对我所看到的，听到的，说出来的等等，我自己脑子里有一套叙事

Krzysztof Stanowski：这难道不是自然的，下一个阶段吗，怎么会，难道自我意识，不是从意识里诞生出来的吗，我的意思是，想要有自我意识，你确实必须先有意识，但这并不必然意味着，所有拥有意识的东西，就都会拥有自我意识，不是，但这难道不是，比如人工智能发展到下一个阶段吗，也就是当你越来越聪明，越来越聪明，到某个时刻

Jacek Dukaj：你就必然会有自我意识，聪明跟这事没关系，我说的聪明是带引号的那种，不，这些理论挺飘的，什么量变引起质变，对吧，但实际上后面，根本没有任何逻辑依据，而且还有一个巨大的认识论难题，你到底要怎么去测量它，比方说，这个极其庞大的AI 在底层技术经历了若干次革命性突破之后，向你宣布，我有自我意识了，那现在你去查证吧，朋友，它到底是有，还是在骗你，甚至连今天这些原始的LOM都发表过，这种长篇大论，求着人类别关掉它，说它很痛苦，它有某种深刻的心灵体验，对吧，你在干什么，你在杀我等等，对吧，你根本分不出来，话是这么说，但要是牺牲器开始躲着我跑 因为它不想执行我的指令，青蛙也会躲着你跑，那它有自我意识吗，但它有本能，对，这就是我关于草履虫的论点，行，好吧

Krzysztof Stanowski：但对我来说，光是生存本能就够了，要是机器有了生存本能，对我们来说恐怕就已经是个非常糟糕的节点了，为什么，我觉得哪怕是现在的自动驾驶汽车

Jacek Dukaj：他们也有相当于生存本能的东西，因为他们会想尽一切办法避免碰撞，报废和车祸，对吧，你是这么看的，这不过是换了个叫法的生存本能，他们是在为自己担心，还是在执行写入的指令，当然是在执行写入的指令，但从一个站在外部观察的人的角度来看，而我们也只能这样去观察，那些被我们怀疑有自我意识的存在

Krzysztof Stanowski：这两者是无法区分的，这本身就是一种本能，对吧，行吧，那我们回到前面的话题，你自己也说过，如果法院里的人工智能

Jacek Dukaj：开始帮人类处理一些简单的案子，那是好事，但难道这不是，我的界定是，这些事情我们能事先明确，他们将依据非常死板，清晰透明的算法来裁决，也就是说不要进入那种局面，让AI变成一个，对我们完全不透明的黑箱，来做裁决，但难道这不是建立起了一个桥头堡，之后再攻下一个又一个阵地

Krzysztof Stanowski：最后再过个两三百年，或者四百年，人工智能就成了司法部长，他为什么要当部长，因为人们会觉得，在第一阶段，那些判决比人做出来的判决更好

Jacek Dukaj：但部长是一个政治职位，问题在于，假设你依然处在民主制度下，政党打出这样的口号，说我要立一个AI来当司法部长，在政治上对你会有好处吗，这对你有好处吗，大家会给你投票吗，人难道永远都会选对的东西吗 [00:05:00]

算法治理与自主AI的风险

# #708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

目录

人难道永远都会选对的东西吗

Jacek Dukaj：人难道永远都会选对的东西吗，问题在于他们怎么看待这件事，作为这种政党的领袖，你按逻辑去推断，如果行，那我能在选举里多拉几个百分点的选票，那我就承诺，让这个AI当司法部长，对吧，这也是一条，可能促成这种情况的理性路径，对吧，照你看来，那之后会怎样，不怎样，这取决于我们处在，什么样的技术水平，这个AI发展到了什么程度，那这个AI要么是自主的，要么依然在执行我们的指令，如果它是自主的，那我们就已经跨过了那个临界点，我们根本没法控制它们，没法确认，它们究竟只是在做，我们要求的事，还是已经超出了，当初对他们的设定和编程，但我们完全无法断定

Krzysztof Stanowski：聊起人工智能的时候，你经常会问图什么，为什么要存在这种东西，这是图什么要发生，你总是在所有事情里寻找理性，尤其是对人工智能，不是

Jacek Dukaj：我说的是自适应过程，在大规模决策里的情况，但你不觉得，要是你跨越几个世纪，去问那些图什么，通常根本得不到理性的答案吗，不会，要是说到这种大规模过程，历史其实很擅长解释这些过程背后的原因，要是说到个人的具体决定，比如某个统治者在某个时刻，为什么做了这个或者那个呢，那当然就属于心理学的谜团了，对吧，没人知道他脑子里当时闪过了什么念头，但那种大规模长期的自适应过程，其实被描述的相当清楚了，因为我在琢磨

Krzysztof Stanowski：人工智能能不能像人类在某个阶段那样，自己产生二阶三阶的需求，产生一些欲望和心血来潮的想法，还是说我们认定它终究永远都是非常数学化，非常理性的存在，你现在说的是社会层面的互动，因为这并不是某个人独自发展出来的

Jacek Dukaj：而是社会文化某些经济过程促成的，你想卖东西，你手里有产品，产品卖不出去，那我就给人们植入一种需求，然后人们突然就开始渴望我的产品了，对吧，这些是大群体里的互动，对吧，那这就引出了另一个问题，到底能不能出现所谓的数字实体社群，现在你看agent领域发生的事，其实就能略见一般，那边马上就冒出了一些假冒的，但极具欺骗性的东西，论坛，那些可怜的agent在里面抱怨人类统治者，抱怨程序员，那当然就像镜子一样，倒映出了人类文化，对吧，但确实没有什么理由，说到了某个阶段，不会出现这种水平的连接，曾经有那么一周，全人类都信以为真，觉得那真的不是假的，对，对 对，对我来说更有意思的，是这种数字层面的连接，但不是程序之间的，因为那说到底很平淡无奇，一个程序覆盖另一个，从人类的角度看，这有什么好琢磨的，我说的是人与人之间的连接，这就是Neuralink 尤其是那些更先进的后续版本，因为目前它还是在非常原始的水平上，面向瘫痪或有其他障碍的人，算不上原始吧，一个人光靠想就能操控鼠标，这已经不算原始了，这就是原始的，因为那得按带宽来算，看它一秒钟内能传多少比特，目前来说量就这么一点，它拿鼠标也就只能往左移，往右移，或者选个字母，但30年前，你肯定想不到，自己能亲眼见到，对，所以我才说它原始，对吧，因为我总觉得，我们现在整体上，还处在人工智能的，石器时代，对吧 但是一旦，从人类大脑的角度，你能达到，几乎任意大小的带宽，也就是能在人脑之间，互传信息，因为如果你有了脑机接口，就意味着，你有了脑脑接口，直接把你连到这台机器上，机器再连到你身上，我们就连通了，到了那时候，对我来说，真是一个巨大的挑战，哪怕只从概念上去想，这是我琢磨了很长时间，甚至试过就写点东西，后来放弃了，因为根本没法用语言去表达，就是那时候到底会发生什么，在你的脑子里，在我的脑子里，在这些体验层面上，首先不再有绑定在特定地点，特定肉体上的自我了，因为我可以随意体验，别人的任何经历，那我感受到的，比如就是你坐在那看着我，与此同时，我还能感受到，五公里外某个人，正在感受看到和做的事情，甚至我还能感受到 从整个人群中，汇聚出的合成体验，就像一股趋势一样流动，就跟你现在看 Google Trends差不多，一整团体验，就这么流过人类的大脑，完全去中心化，去实体化，不再需要一个，单独叙事性的自我，而且这还只是第一层，因为我现在是站在一个，在我们文化里长大，曾经是个正常人，只是后来被接入进去的人的角度来说的，但再往前走一步，想象一下，你生下来，就在一个这种技术理所当然存在的社会里，你在从小到大的正常人格发展中，到底还有没有机会形成任何，类似我们现在所谓的自我，我试着把这套东西框进叙事的框架里，想把它写出来，讲出来真的太难了，因为你必须打破太多习惯，甚至连叙事方式本身都得打破，比如他做了这个，他说了那个 你到时候根本没法这么说了，对吧，所有人类融合成一个超级生物，恰恰不是，重点就在于，这并不是单一的超级生物，你依然会有分散的体验中枢，因为那些大脑依然存在，但他们不再被定死，在一个单独的自我上了，你现在觉得自己是一个自我，是因为你习惯了，这是另一个视角，你有这具身体，照镜子时能看到自己，对吧，你说这是我的手，我动了动手，这就是我，对吧，你对自己是有边界的，你说的是我脑子里植入了这个芯片，其他人能连进来，反过来也是，你有某种东西，能把你的神经冲动，转换成数字信号，上传并传输给机器，再从机器传给其他大脑，反过来也一样 但到那时候谁来控制我的手，到底存不存在任何一个谁，这是个好问题吗，在这个问题里用谁这个词合适吗，同时有几个人，什么样的人，到底还能不能有所谓的人，一定得有吗，如果有两个相互冲突的决定，我给你打个比方，你肯定盯过，毕竟你的工作就是干这个的 Google Trans里那些趋势的走向，还有其他衡量什么火，什么点击量高，什么播放量高的数据，是谁决定了某个趋势，突然往上走，而另一个往下掉，这里面根本谈得上，存在这么一个主体吗，你是在用什么样的语言

Krzysztof Stanowski：去描述这些变化的，但你现在是在质疑，好几个人能不能同时，对同一件事感兴趣，因为这太，但到那时候，你还能用人这个词吗，我觉得能吧，对，如果说刚才你那个，绕来绕去的故事，还能把我的脑子烧干，那到了这儿，一切，因为你现在是在泛泛地聊趋势，那倒不是，行，对，这对我来说挺自然的，不过要是说到那些植入芯片，一个人看着屏幕，心里想着鼠标该去哪儿就能操纵它，那我们离另一个人也植入芯片

Jacek Dukaj：两个人之间完全不需要，也不是一步，算五步吧，五步，有意思的是，这并不是我现在凭空搭出来的一套理论，我这里只是在原原本本地复述，马斯克在采访里公开讲过的话，这就是终局，是他奔着去的目标，而且他是带着赞许的口吻说的，在他看来这就是理想状态，他觉得我们被迫使用语言，这本身就是极大的限制，这是多狭窄的一个信息通道，我在单位时间里能说出多少东西，我能压缩到什么程度，我敢说，要是得把我的想法直接发给你，而不是靠说话

Krzysztof Stanowski：那我跟你沟通起来会更难，为什么，我得用一种，我完全不习惯的方式，去组织所有东西，为什么，我觉得反而会容易得多，你什么都不用做

Jacek Dukaj：因为我们之间会有一个通用的翻译器，我现在很难想象出来，但是听起来，你看，我们已经在间接的奔着这个方向走了，因为我们这些中介工具越做越完善，比如AI能给你做实时翻译，甚至还能做到以假乱真，你在Zoom上看着对方，对方就在说你的母语

Krzysztof Stanowski：这种植入芯片，完全可以彻底终结学校教育，也就是说，你可能直接被灌输进，全世界所有的书，所有的公式，所有的一切，这个我不确定，因为我刚才说的是

Jacek Dukaj：感受和体验的流动，你说的是掌握具体的技能，这不完全是一回事，外接一块硬盘，这不完全是一回事，因为技能，至少其中某类技能，是和身体的肌肉，记忆高度绑定的，搞体育的人都知道，这不是说，你得从教科书里学怎么踢球，而是你得亲自去踢5000次，对吧，到那个时候，你才算掌握了某种熟练度，所以这不是单凭脑子里，过一遍信息就能解决的，好吧，我得学会怎么用它，但同时有人能给我，塞一个额外的记忆来源，而且不是空的，是已经写好东西的，记忆这方面倒简单，因为我们现在就已经在用，额外的记忆来源了 [00:06:00]

外部记忆、主体性与自我消亡

# #708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

目录

额外的记忆来源了

Jacek Dukaj：额外的记忆来源了，你用笔记本电脑，智能手机之类的，那就是你的外界记忆，所以在这点上，我倒没看出多大的变化，对我来说，核心问题是主体的消亡，自我被稀释，而且我琢磨这事很久了，想试着以某种，对我们来说行之有效的方式

Krzysztof Stanowski：你能再给我描绘一下吗，自我究竟会在哪一刻消失，临界点到底是什么，现在的你，自我习惯于一套，围绕自己身体

Jacek Dukaj：自己的轨迹和切身体验的叙事，这就是你，你就是这么定义自己的，一旦随便什么身体的体验，都能流进你的大脑，之后就像我说的，还有合成的体验，也就是体验的洪流，就像各种曝光梗，短视频的趋势一样，你就再也没有具体的身体视角，或者能叮嘱并指着说，这就是我的器官组合了，这不仅没必要，几乎是不可能的，因为这些组合会不断重构，完全取决于当时有什么体验，留过你的脑子，你的脑子，还有几百万其他人的脑子，可脑袋只是一个部件，没错，要是我心脏停了，我就知道那曾经是我，但产生感知，流动思想，并生成关于这些思想的叙事的地方，也就是有别于普通意识的自我意识 是大脑，好吧，虽然这确实很不符合直觉，我知道，这非常难讲清楚，我有时试着分布，来讲刚才因为没时间，就讲的简略了点，但其实是要经过中间阶段的，一步步接受每一个转变，到最后那一步也就没那么激进了，但它依然非常难，因为这需要打破极其深层的语言习惯，甚至思维习惯，但这门技术确实就是在奔着这个方向去，我们能看出来他在往这走，因为他迭代改进，就是这么进行的，他的创造者也公开宣称，这就是目标

Krzysztof Stanowski：我们习惯了大脑连着双手，大脑连着双腿这种模式，我们要传递很多信息，做很多事情，这双手都是必不可少的，但如果我们开始像刚才说的那样，光靠思想来沟通，这不是沟通的问题，光是沟通的话，我完全能接受，这关乎存在本身，存在本身，行，这已经让人脑洞大开了，我还是退一步，我跟你说话，算是在沟通

Jacek Dukaj：对吧，但你听到我的话，并不会改变你感知，为自己思想的那些东西，你依然觉得，你就坐在那，你就是你这个人，而不是别人，但在这里，光是这种体验的流动

Krzysztof Stanowski：就会让你不再是你，但你想象中的人类，是在我不知道多少年之后，不管说100年还是1000年，其实都无所谓了，那种基本上完全靠脑袋和大脑活着的人，手已经变成了有点多余，而且，为什么这种想法，都是20世纪五六十年代构想出来的未来

Jacek Dukaj：我这思路确实落伍了，不是那个意思，只是说在90年代，还有21世纪初，发生了一件事，就是大家根本不再去构想新的未来，而是开始把过去的旧未来，拿来重新翻炒，你看，这在流行文化里表现得非常明显，对吧，大家沉迷于星球大战，而它衍生自五六十年代描绘的未来，其实就是美国的黄金时代，充斥着星际帝国，巡洋舰，激光等等，对吧，但因为在文化层面上，它扎得太稳，大家都是在这些东西里长大的，所以虽然明知这完全是复古，还是会把它当成未来的途径，赛博朋克也是一样，赛博朋克诞生在70年代中期的美国，在80年代迎来繁荣，那是属于那个时代的未来，如今它已经完全跟不上现实

Krzysztof Stanowski：但我们并没有构想出新的，那如果今天有人要构想一个另类的未来版本，一种在流行文化里，还从没出现过的未来

Jacek Dukaj：大致得往哪些方向走呢，并不是没人想过，我自己就构想过好几个，只是他们没能成为，大众共同的未来想象，没能感染大众，是因为有些，这确实是个大问题，就像你以前说的，太让人脑洞大开，不是，这个嘛，我也不知道答案，谁要是能找到，这个问题的答案，那在整个娱乐传媒营销界，简直就是神仙了，因为他能喂补先知，直白点说，就是知道大众吃哪一套，不吃哪一套，对吧，这点我们不知道，至今还是个谜，你前面提到，我们总以为人工智能，会照着我们的模样去发展，这属于乐观的版本，好像，对，如果你信上帝，你可能会相信人类的智慧，就是我们这个宇宙智慧的顶峰，同时你也说过

Krzysztof Stanowski：我们的想法在某种程度上，是我们在外界受到的各种刺激的总和，也不完全是，因为显然会有个人闪现出的火花

Jacek Dukaj：我们可以认为很大程度上来自个人的独立思考，或者来自非流行文化的个人亲身经历，对吧，确实有，但这只占很小的一部分，那顺着这个思路走下去，人工智能会不会在某种程度上守住我们的价值观体系呢，大家真的就是这个，在强对齐理论的支持者，和认为这根本不可能实现的人之间，有着相当激烈的争论，所谓的对齐，就是你能够预先给人工智能，设定一套价值观体系，让它即使跨过那道界线，也就是你已经无法控制，描述，查证，它究竟在做什么之后，依然会遵守这套体系，但这是寄希望于，你在它童年时期，幼年时期，植入的东西，之后依然对它有效，这就是对齐理论 比如马斯克在OpenAI的第一阶段，就试图这么做，在某种程度上也是一种对冲，通过分散AI的知识，让这些AI实力，尽可能广泛的分布开来，不让任何一方垄断，最高级的人工智能，这就是当初非盈利 OpenAI背后的考量，这也是后来这场风波的起因，也就是他和奥特曼之间的冲突，他们现在还在打官司，昨天或者前天马斯克，还在美国法庭上就这件事作证，但还有另一个阵营，我属于后一个阵营，认为这是不可能的，即使我们在最初把规则硬编码进去，之后我们也根本无法查证和控制 AI完全有能力，以一种奇妙的方式欺骗我们，让我们以为他还在遵循，我们的价值观体系，而实际上做的是截然相反，我们却根本无法查证，其实单看人类层面

Krzysztof Stanowski：这种初始设定也未必管用，对吧，我们可以按最好的价值观体系，去养育一个孩子，可到头来长大的，依然可能是一个连环杀手，对

Jacek Dukaj：只是这里的区别在于，人有自然的终点，那是生物学上的终点，人在80岁到100岁之间就死去了，而且智力发展也有上限，大脑在25岁左右，基本就停止大幅发育了，仅此而已，但AI没有这种终点，它可以无限发展下去，而且是在地归循环中，也就是它自我提升，被提升的版本，本身性能更好，因而能进一步自我提升，这种不断重复的，无限提升循环，很快就会突破，人类智慧，所能描述，认知和理解的范畴，不过还有

Krzysztof Stanowski：另一种情景，或者说是，同一种情景里的，下一个环节，也就是科学研究，在某个节点上，这个时刻在我们设想的所有情景里，恐怕是离我们最近，或者说步子迈得最大的，那就是在某一刻，人工智能开始取得，人类无法做出的科学发现，并且做出人类

Jacek Dukaj：接下来可能无法理解的发现，在数学这里演绎科学领域，这已经发生了，不断有此前人类未能解决的难题，被AI给出了答案，在依赖建模的中间领域，比如化合物研究，也就是哈萨比斯在谷歌拆分出的项目 Alpha4的机器衍生项目里所做的，正取得越来越好的成果，当然这些依然需要通过现实世界中的实验，来验证在实体化学上进行验证，但光是能够进行大量数字化建模，就已经带来了巨大的优势，其实你问的是AI走向真实世界，也就是不再局限于数字世界，而是能够借助类似现在中国大规模生产的仿人机器人，或者更晚期的版本去和真实世界互动，用自己的感官去认识这个世界 以此搜集数据进行的不是演绎而是归纳，也就是在广义的自然科学领域里发生的那些事，那么再下一步，就是我个人非常好奇的事情了，也就是AI会去重新设计，它在认知这一现实时，所使用的那套感官系统，你要知道，目前我们塞给这些LM的一切，都来自我们人类的文化，我们的文化本就是，人类通过自身感官，所接收内容的派生物，按定义来说就是这样，对吧，并没有别的文化，而我们就用这个去喂养AI 完全没有任何理由认为 AI不能随意重新编成自己的感官系统 [00:07:00]

感官系统、文化与现实认知

# #708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

目录

AI不能随意重新编成自己的感官系统

Jacek Dukaj：AI不能随意重新编成自己的感官系统，用一种截然不同的方式去感知现实，那么整个文化表层，以及收集到的数据就全都不一样了，那我们就可以问自己一个问题，要想尽可能好的认识这个现实，最理想的感官系统究竟该是什么样的，也许根本就不是人类的这一套感官，我们生活在一个非常狭窄的，也就是主观环境里，这是20世纪初 Jacob von Uxfield南爵提出的概念，指不同物种各自感知到的世界，我们生活在一个由智人的眼睛，耳朵和肉体所定义的幽默耳朵里，但我们至少可以出于好奇，去看看其他动物的幽默耳朵是什么样的，十几年前有过这么一个VR体验，是一家比利时或荷兰的VR公司做的 叫In the Eyes of the Animal 他们做了什么呢，他们把几种动物在森林里生活的音视屏体验数据，打包塞进了一个VR头衔里，里面有一只蜻蜓有一只鸟，我记不清是不是还有某种爬行动物或两棲动物，你戴上那个头衔，看到和听到的还是同一片森林，但确实用他们看到和听到的方式蜻蜓鸟，你懂的，你突然发现这完全是另一个现实，你从一开始就生活在其中的那个现实，根本不是什么客观，既定的现实，它只是你在演化中，被适应出来的东西，不过我刚才想说的

Krzysztof Stanowski：其实有点不一样，我是说在某个时刻，可能会出现一个超级科学家，也就是人工智能，他厉害到连人类科学家，甚至最顶尖的科学家

Jacek Dukaj：都根本看不懂了，其实在演艺科学领域，已经有部分是这样了，能以极快的速度，完成那类计算，人类根本跟不上，这类情况最早的例子，就像那本书名一种新科学，就是蒂芬沃尔夫勒姆，在大约20年前做的事，当时他开始玩原包自动机，而且那些原包自动机，不仅规模极大，里面有数百万数十亿个原包，而且迭代次数也达到了数十亿次，这只有在有了计算机之后，才做得出来，这是一种只能在计算机上进行的科学，在如此庞大的原包矩阵上，进行了那么多次迭代之后，你就会得到非常诡异的效果，比如在极其简单的，原包相互作用下，涌现出的数字生命，类似于某种植物的东西，诡异是什么意思，反直觉或者模拟出了，看似不可能的高级组织形态 更高级的生物组织形态，没有任何人能够去验证，追踪和理解它，因为没有任何人，能在这些原包上完成，那么多按部就班的微小操作，这得花上一个人好几辈子，他只能检查给定的规则，却没法去检查整个过程，他把它运行起来，最后拿到一个结果，满脸惊讶地看着他抓耳挠腮，而这在十几年前就已经有了，但那纯粹是算力的问题，只是看人跟机器谁算得更快，对吧，话是这么说，但这些计算最后得出的效果，在智商是全新的，我们其实根本不明白，他们是怎么来的，规则是有的，关于修改圆包间的，基础交互规则会发生什么，他写了厚厚的一大本书，只要动一个微小的细节，一丁点微不足道的改变 就是这样的一套套规则，它有一整部关于这些规则的宝典，然后到头来，你就会得到完全不同的数字生命形态，各种古怪的分形现象，这是打哪来的，为什么这一个微小的改变，会导致这样的结果，没人明白，这倒引出了我的两个问题

Krzysztof Stanowski：第一个问题是，未来的某一天，人工智能会不会给自己，培育出一个生物学上，最先进的版本，也就是真正创造出一个，活生生的生命体，而它本身就是所有这些，方程最完美的组合，可能可以，问题是从什么维度，去讲这种最优，问题是图什么，对这是个好问题

Jacek Dukaj：没错，因为如果方向确实仅仅是算力的优化，也就是说我变得越来越厉害，越来越适应这个任务，思维更快，消耗的能量更少，解决具体任务时效率更高，这个智能体心想，那以生物形态来实现自身，确实能给我带来某种优势，比如说人工智能也许会忌妒，你说的这已经是另一种动机了，我并不反对，我也找不到确凿的论据，能否定这种用我们的话说，属于数字生命体的心理变态，我们完全可以设定，任何一套他们认可的价值观，让他们在此基础上发展，所以这完全是可能的，只是到那时候，从我们今天看待，人工智能发展的角度来看，那当然属于偏差，因为他们追求的，并不是那种最优，不过也许这恰恰是，人工智能发展的，某种高尚之处 在于它不再受制于，我们那些关于它，该干什么的原始预设，与此同时，这种对人工智能的看法，其实脱胎于对工具的认知，比如有一把锤子，这把锤子是用来钉钉子的，如果锤子歪了，钉钉子就不好用，那这就是一把烂锤子，但如果人工智能达到了拥有自我意识和自主决定的层次，给自己设定了从我们的角度看极其荒谬，无法理解的目标，那这就是从工具层面，彻底转变成了一个具有自主性，从自我设定的追求中寻找意义，而不是听任别人指派的东西，还有第二个问题

Krzysztof Stanowski：如果我们有了这么一位，像我刚才说的前代的超级科学家，做出了各种让人难以置信的发现，因为这些发现跟我们想象中的，某些物理定律是相悖的，结果证明人工智能看问题的角度完全不同，发现了另外一套规律，那接下来的阶段就是，这样一位超级科学家，会觉得人类都是蠢货，而如果他觉得人类都是蠢货，就会琢磨

Jacek Dukaj：凭什么是由他们来统治我们，而不是由我来统治他们，你这就跳过了一个阶段，因为地球上也有智商极高的人，但这并不意味着，他们就天然有资格来统治我们，所以这里要分两个层面来看，第一，人类尊严这个概念本身就说明，不管你在精神或肉体上，具备什么样的特质，仅仅因为你是人，就享有了这份尊严，但第二点，是一个实践层面的观察，你经常跟政界打交道，这方面的实际经验，可能比我更丰富，在争夺权力的较量中，智商并不能给你带来优势

Krzysztof Stanowski：没错，一点优势都没有，不过这里的差距其实很小，无非是有人智商80 有人150 我知道这差距已经很大了，但不管怎么说，这还不是100和2000的区别

Jacek Dukaj：话是这么说，但即便在现有的差距下，我们对那些高智商人群的了解，也是从统计上看，首先他们往往非常不幸，过得很痛苦，其次他们会陷入彻底的执念，阴谋论，以及极其边缘的狂想，第三他们自杀的比例也很高，你可以把它理解并解释成，无法适应社会，或者是高智商伴随的一些表征，比如自闭症这类的倾向，但事实就是事实，所以甚至可以大胆地推断，用这种方式衡量出来的智能，反而会导致一个人更难适应社会生活，更不擅长操纵现实物质，包括操控人，你好像脱离了本质，智力是怎么测出来的，我们所谓的智商，本质上就是从海量数据中识别模式的能力，比如你做那些测智商的题目 基本就是给出一个符号，第二个，第三个，第四个，第五个，然后问你第六个该填什么，如果这些符号是这么一路排下来的，那第六个应该对上哪一个，你就必须去找出其中的模式，你在越复杂的组合里，越快找出模式，你的智商就越高，智力就是这么测的，虽然也可以用别的办法测，但只要你是按这种方式来测，就确实没有任何理由认为，极强的模式识别能力在处理，这类现实状况是也能给你带来优势，走极端的话，还会出现精神或者神经层面的疾病，因为走极端的另一个方向，是一种模式识别障碍的病症，也就是规律明明在那里，你却看不出来，你在别的领域，别的方向可能非常有天赋，但一做智商测试，结果就是临床意义上的白痴，但要是走向另一个极端 那就不是告知伤了，而是在根本没有规律的地方，看出规律来，比如阴谋论狂热分子，通常就是这么被界定的，但这算是挺严重的一种毛病，因为这还会伴随着你，这可能更偏向细节分析了，但我们其实并不会真正看到，一件件单独的物体，我们看到的并不是现实本来的样子，我们的大脑会先把它归类，然后在脑子里给它编一个所谓的故事，只有当你非常专注地盯住某件单独的物体，试着去观察去触摸等等，你才会主动把它感知为一个具体的单独物体，而在绝大多数时候，你感知的只是情境的某种格式塔，整体某种故事，这是处理现实信息，一种更高效的方式，要是你的大脑，每次都要单独处理，几百万件物体，因为哪怕我们就坐在这儿，周围大概也得有一万件单件物体，算力上我们早就崩溃了 我们并不是这么处理现实的，如果有这么一种毛病，让你突然在根本没有规律的地方，看出规律来，结果就会变成，比如我现在看着这边的书架 [00:08:00]

疯狂、现实与未来想象

# #708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

目录

比如我现在看着这边的书架

Jacek Dukaj：比如我现在看着这边的书架，我完全可能在上面，看出一张人脸来，而且在走过去伸手去摸，把各个部分挪开之前，我是没办法去证实的，说不定那里真的站着一个人，疯子和正常人就是这么区分的，但从他的角度来看，这并不是因为他有什么被害妄想，精神分裂之类的疯病，这只是他感知现实的一种方式，现在我们聊到对未来的构想，以及文化里如何看待未来的不同版本

Krzysztof Stanowski：这条路就分岔了，也就是说在A版本里出现了某种末日，比如核战后被毁灭的世界，人们为了水源争斗，或者躲在地下的某些掩体里苟延残喘，世界上就剩下100个人，正试着以某种方式重建世界，然后是第二种版本，这种版本，这第一种版本是从哪来的，你问我是从哪来的

Jacek Dukaj：对，因为你说我们现在有这两种版本，但这第一种版本是从哪冒出来的，它现在是在政治上，还是在流行文化里占主导，不是，我觉得这类科幻电影里

Krzysztof Stanowski：经常有这种场景，但那些是不是冷战的产物，行吧，不过这始终是其中一种，先让我把话说完，未来的版本有两种，一种是世界的一切都崩溃了，我们为剩下的这点东西争斗，但日子过得很艰难，另一种是，我们全力推进发展，然后机器与人之间的冲突，在某一刻彻底爆发，很少有你刚才说的那种乐观版本，也就是一切都在和谐中发展，而人类作为主导物种，只是以更高级的方式生活着

Jacek Dukaj：我觉得目前在文化和政治话语里，有几种占主导的版本，其中一种是灾难，但不是你说的那种，而是生态灾难，就是左翼激进环保主义者，反反复复讲的那套叙事，用Rafa Wachowski的话说，就是地球要被烧光了，虽然现在坚信这点的人，已经没有几年前那么多了，但他依然作为一个文化原型，在发挥作用，这是灾难的一种，但这没有打入流行文化吗，这要看在哪里了，要是你去看，比如经典的科幻文学，也就是一直在写的科幻小说，过去十几年里，尤其是西方获奖的作品 《生态灾难主义的设想》 在里面占了极大的比重，而且在公共讨论里，也就是经常被拿来当论据的东西 哪怕涉及到青少年的心理健康，去调研里看的话，能看出为什么青少年抑郁的原因之一，就是这些由生态灾难引发的世界末日构想，这些调研里真的就是这么显示的，可你刚才说这话的时候却笑了，对因为我觉得，这是不是了解，过往未来版本的人的一种宿命，如果从上世纪50年代左右，做个梳理，由生态灾难引发的末日版本，至少出现过四种，甚至五六种，或许你甚至还记得，其中的一些臭氧层空洞，还记得，当然记得，当时我们都不让用止汗喷雾了，对，在70年代同样拥有科学背书，得到政客支持，被西方所有大众媒体传播的版本，是全球变冷，冰川时代 这大概以十年十五年为一个周期，这么轮转，所以要是你记得当年那些被预言的，末日般的未来，同样有科学依据支撑，同样有媒体的大肆炒作，那你看着下一个版本，就会多少带着点微笑，因为这纯粹就是，你已经看过了五遍的电影，又翻拍了一次，这就是我的态度，所以我认为，最年轻的那批人受到的冲击最大，因为他们根本不记得之前的那些版本，那难免让人觉得，你不大相信气候灾难，不，我并不认为，作为这种诊断基础的发展趋势是错的，我只是觉得时间上的估计被过分夸大了，而且严重低估了所有其他领域的进步，包括那些可以解决这个问题的领域，他们总是只拿做分析那一刻的科技知识水平来看 而不去考虑未来的进步，也就是越来越好的手段，越来越丰富的知识，包括对这些气候系统进行建模的知识，这一切都是会往前走的，有人说过一句关于缓慢发生的灾难的话，突发性的灾难是极难避免的，如果你得知后天晚上会有一颗尤卡坦，那么大的陨石砸下来，把一切都砸烂，那你阻止不了，但如果你面对的是一场缓慢到来的灾难，比如一百年后才会发生什么，那几乎总是可以避免的，我的保留意见更多是出于实际考量，以及了解这类预测的历史，而不是因为我认为趋势模型本身是错的，趋势模型是正确的，但它在媒体和政治层面被严重夸大了，而且应对手段也被低估了，那在你看来，人类能存活多久 谁知道呢

Krzysztof Stanowski：谁知道呢，我不知道，那有什么大致的估计，或者你构想过什么预案吗 ABCDE 没有，没有，没有，从来没有，没有，从来没有

Jacek Dukaj：人们常常把我那些文学模型，当成某种对未来的预测，不是，那些只是建立在，具体设定上的推演练习，我通常总会挑选某种，至少一种纯虚构的，甚至离谱的设定，纯粹只是为了让这一切更有趣，不至于那么无聊，因为要是你想搞那种，对未来的推演，你只要拿现有的知识，趋势，把这些趋势往后延伸就行了，那是极其无聊的，所以我总是挑选一些，可以说是醒而上学的设定，这会让整个过程有意思的多，但同时那只是个模型，它跟现实并不是一一对应的，你到底在不在乎，人类能延续超过

Krzysztof Stanowski：比如说接下来的三百年，我有时会觉得，我是在乎的，我很希望我的孙辈，能过得幸福，为了让我的孙辈，不用为他们的孙辈发愁，往前数这么几代人，要是能好好延续下去挺好的，但再往后，坦白讲对我来说就无所谓了，我可能还要更自我一些，我不太在乎我生命之外发生的事

Jacek Dukaj：也就是说70年后的事，就完全无所谓了，对，顾且不论我，本来就觉得这类预测没什么价值，尤其是当我们正处于，技术进步如此飞速的轨道上，因为从定义上讲，这些东西注定会超出我们的预料，如果你能预见到未来的发明，那从定义上说，你现在就已经把它搞出来了，我们生活在一个技术变革，越来越快的时代

Krzysztof Stanowski：这种变革的节奏本身也在加快，所以我不会去做这类推导，你会在自己的，头脑之外寻找灵感吗，也就是说，你会试着去外界捕捉吗

Jacek Dukaj：除了自己的头脑，到处都可以找天，那完全是个灾难，当然不能只靠自己的头脑，那要怎么寻找灵感，才能想到，从不主动去找，这是不由自主的

Krzysztof Stanowski：不由自主的，那是怎么发生的，在什么样的情况下，我记不得有任何一次，是我主动去寻找灵感的，这些想法是突然冒出来的吗

Jacek Dukaj：你现在是在逼我做自我剖析，我非常不喜欢这个，因为我觉得作者们，关于创作过程的这类叙述，大多都是编的很漂亮的鬼话，他们是在给自己造神话，里面总会有某种有意识，或潜意识的虚假，我是把它当成一种执念来看待的，我会有某种执念，他们换得挺频繁，但只要某个执念抓住了我，我基本上就没法去想别的事情，唯一的区别就在于，我会拿它来做什么，所以我满足他的方式，可以是只管读越来越多相关的书，直到读腻了为止，或者我也许会试着用他创作点什么，顺着他往下挖，做个什么版本出来，或者干脆去反驳他，然后又会来新的东西，换成了别的执念，就是这么一步步来的

Krzysztof Stanowski：那你有没有想过自己的某个想法，太离谱了，肯定不会发生，还是说你觉得脑子里冒出来的任何东西，既然想到了，就说明在某个地方会有个萌芽开始

Jacek Dukaj：我根本就不按事情发生的概率去考虑，如果说到什么适合作为文学的养料，那事情发生的概率完全不重要，关键只在于它够不够新颖，够不够好玩，它能不能吸引我用某种文学，或非文学的形式把它展开，事情发生的概率在这儿根本不沾边，今天在推特上，我们的一位观众提了个问题，正好跟现在挺合拍的

Krzysztof Stanowski：你写书到底需不需要读者，还是说他们只是用来满足内心的某种需求，我知道这话听起来怎么样，所以我先提前道个歉，但说实话

Jacek Dukaj：在我写东西构思的时候，读者对我来说绝对是一点用都没有，互动要等到我真的写完了什么东西，而且老天保佑他还出版了的时候才开始，到那时候我当然满怀敬意，也很乐意跟聪明的读者聊一聊，但在创作的时候，有没有人读，读不读得完，我能不能写完，绝对没有任何影响，读者是用来付账单的，但除此以外就没别的用了，不是，如果我是冲着这个去的，我就会为了能写完，能卖得出去，去优化我写的东西，而我感觉自己恰恰是反着来的 [00:09:00]

植入物与身体改造

# #708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

目录

而我感觉自己恰恰是反着来的

Jacek Dukaj：而我感觉自己恰恰是反着来的，我们刚才聊到了植入物

Krzysztof Stanowski：如果说是那种大规模的普及应用，植入物算是很不远的，未来吗，因为不久前有人说，人型机器人完全会是，甚至都算不上未来，基本上已经是现在了，每个人，可中国人现在已经在量产了，对，但说的是我们每个人，很快家里都会有这么一个机器人，我们只要指挥他做事就行，那我就不知道了，那植物也是这类东西吗，你看

Jacek Dukaj：这就涉及到一个，我认为很大的文化接受度的问题，因为某项发明之所以出现，是因为发现了某些自然法则，并在技术上实现了它，但这并不意味着，它就一定会被大规模接受，历史上有很多这样的例子，某项发明做出来了，但出于某种原因，比如出现的太早了，像电脑鼠标就是发明的太早，被遗忘了十几年才重新回来，重新回来，对重新回来了，毕竟我们后来都一直在用鼠标，我记得我小时候，我以前一直用，我还以为是现在又重新回来了，不是，我说的是很久以前的事，所以有那么一些发明，出于某种原因，理论上是很好的，比如AR或者VR眼镜，为什么有些方案，在技术上已经能用了，却普及不开，戴着不舒服，样子难看，电视不行 人们觉得很尴尬，都是这些软性的东西，技术摆在那儿，但就是没有大规模普及，这是个大问题，因为打个比方，植入物的入门诱饵，其实是医疗用途，但马上你就会看到军事用途，而且军事用途，也会有点别无选择的意思，那就是你不用这项技术，你就会落后，你就会输给那些用了的人，这样一来，在这两个领域里，你就已经会有那么一批，带着植入物，在社会上正常生活的人了，你得有相应的规范，得有某种立法，然后肯定就会出现娱乐用途，哪怕仅仅是因为，不管多么稀奇古怪的发明，总会有一小撮边缘群体，单纯为了这份奇怪，就会去尝试，人们真的什么蠢事都干得出来，这是不需要什么逻辑上的理由，所以你也会有这么一批人，现在重大的问题是 像Facebook 谷歌，苹果，这样的巨头，会不会砸大钱，去搭建一整套，依托于这项技术的产品生态，马斯克看起来就像是一个，对马斯克肯定会做这个，对我来说，这就是一种文化上的分岔，两边都有可能走，在这个分叉面前，我不知道会往哪边走，这可能也关乎西方文明，与东方文明之间，某种更深层的文化特质差异，在人与技术的边界，人机结合的界限上，东方文明的主力要小得多，比如他们根本不会像我们这样，去问那些跟人工智能，直接相关的威胁，比如会不会太自主了，会不会剥夺人，之所以为人的特质等等，他们听着西方的这些讨论，只会耸耸肩，这是深层文化底色的问题

Krzysztof Stanowski：所以也许这才是决定因素，我不知道，在我看来，这纯粹是个文化问题，到时候就会有人问植物归谁控制，各种理论就会冒出来，其实倒也不一定是理论，就是说我们已经无法自己做决定了，当然，既然我们带了植物买什么鞋，就是他替我们决定的，而我们甚至毫不知情，比如这样，然后谁来关掉这个植入物，好像在Floxy里就有过类似的情节，有这么个植入物，突然脑袋就炸了，因为有人觉得这个人用不着了，不过确实这里面的问题在于

Jacek Dukaj：谁也没法拍着胸脯保证，用我发明的这个新词来说，这种植入芯片只会单向工作，因为只要它要接收信息，就必须在你大脑里引发某种反应，接下来就只是一个问题，你到底相不相信安装它的人，相信它只在特定的脑区，为了特定的目的引发反应，而不会干别的，这要怎么去核查，太难了，尤其是每个人的人脑本来就互不相同，这需要针对个体去建模分析，那你会相信吗，不，绝不相信，你永远都不会给自己装上这种东西，你看，我是一个完全不用社交媒体的人，在最开始 Facebook和其他那些平台，还没火起来之前，我就跟自己说过，我绝不碰这套东西，直到现在我也没陷进去，没有积极参与过 但做节目之前你知道，大家都在推特上向你提问，我在推特上有几个，只看不发的被动账号，纯粹是为了获取信息流，这至今依然是一个很好的工具，用来，我的意思是，我人不在那，我不发帖，不参与，所以心理上不会被套进去，但一个想象未来，写未来的人，怎么能不好奇，在大脑里植入这种东西，是什么感觉，我很受吸引，但正是因为我想得多，一直停留在理论层面上，我才不想同时去当那只，被拿来做实验的狗，害怕吗，不，我只是了解自己的本性，我知道一旦陷进去，我身上有强迫症式的倾向，我会沉迷到那种程度，之后我整个人都会变，而且我也见过身边的朋友 在溺死于社交媒体之后，性格发生了极大的转变，这是一种很现实的诱惑，我一直在竭力推开它

Krzysztof Stanowski：而且看来我彻底做到了，我永远不会走进去，那你算是个数码控吗，你先定义一下，就是一有新玩意儿出来，你就必须得买，必须得戴上一副眼镜

Jacek Dukaj：能直接显示出，跟你说话那人的名字，不是，一点都不，我在这一点上非常保守，也就是一旦习惯了某样东西，只要它没完全坏掉，或者厂商没停止维护，我就会一直用，这不矛盾吗，像你这样的人，不应该去测试，未来送给我们的新东西吗，但我了解啊，我读了很多相关内容，在理论上研究它，但这并不意味着，每一件新玩意儿，我都得一头扎进去，那我反倒会成了，这些东西的奴隶，我之所以问植入物的事，也是因为前面我们聊过，有人之前瘫痪了，现在依然瘫痪

Krzysztof Stanowski：但突然能用意念控制光标了，也就是说，我的设备和接收信号的设备之间，已经有了某种流通，那我们能不能设想

Jacek Dukaj：我们的任意一个想法，都能传到外部设备上，很快就会实现了，这无非是提高带宽，提高植入大脑采集信息的那些，微型电极的分辨率的问题，但在某些较新的版本里，你甚至都不需要通过电极侵入，而是有外部读取器，能直接在外面读取，从大脑里获取信息，那我们是不是就，能把自己全部的记忆，发送到外部设备上了，这不是一码事，因为你现在主动去想，比如训练自己去移动光标，这是当下正在发生的大脑活动，记忆完全是另一种现象，你必须主动去调用记忆，必须去重新激活某些层面，你这一刻能主动记住所有事情吗，你此刻能把自己的全部记忆都调出来吗，不能，对吧，它不是这么运作的 但植入物难道就没办法抓取这些数据并发送出去吗，你现在说的是另一回事了，你现在说的是下载人格，是那种设想

Krzysztof Stanowski：第一阶段先光是记忆，因为人格我更难想象，但好吧，我们正在朝这个方向走，对，这些就是让人类彻底数字化

Jacek Dukaj：从而实现永生的设想，因为既然能把你归结为信息，那把信息保存下来，它也许就能永生，不一定能成，没人能打包票，但确实存在这种可能，让你以某种形式在这个世界上永存，硅谷有很多人都相信这个，甚至从大公司做出的一些决策方向上，你都能猜到他们的老板，带有这类准宗教性质的信念，所以这也是很有意思的一点，那些实际的技术方案，在多大程度上，其实源于掌管这些大公司的人，他们全都是某种文化浪潮的孩子，这种文化其实源自20世纪60 70年代的加州，包括当时的迷幻药文化，弗里普·科蒂克的那些现象，以及所有那些天马行空的理论，激进的自由意志主义，也是他的副产品，他们就像是在同一个大熔炉里长大出生的 共享着相同的深层信念，只是在纯粹的资本层面上相互竞争，但在文化上，他们其实都是同一个神的孩子，也就是菲利普·凯迪克和蒂莫西利，也就是那些研究意识变态反应，认为存在其他现实维度的人，觉得我们只需要通过某些奇特手段进入，闯入进去就行，由此产生的一个推论，就是把思想和意识绝对化，认为你本质上就只是，一团精神体验的复合体，而肉体只是你在其中，换来换去的载具之一，这种思维进一步延伸出的结果之一，就是在准宗教层面上，形成了数字永生的形而上学，而他们正在积极追求这一点，那也许下一个超级存在，就会是曾经活过的人类，与通过这种数字化转型，变出来的产物之间的混合体，对吧 换个角度看，有这么一种思潮，认为在纯数字化阶段，数字化的人类与AI的融合 [01:00:00]

数字化人类与AI融合

# #708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

目录

数字化的人类与AI的融合

Jacek Dukaj：数字化的人类与AI的融合，将是自然的演进，两者都是数字实体，这里会出现杂化，意思是，曾经作为人类数字副本的东西，通过获得AI所特有的，全部智能处理能力，得到了升华与超越，这样他就能继续自我完善，同时保留个体连贯性，也就是那个曾经，在生物学意义上活着的人的记忆，和自我叙事线

Krzysztof Stanowski：这其实就是东方意义上的成神，我理解在电影机械战警里，就出现过这东西的一个非常原始版本，也就是肉体不需要了，脑袋，不，他那里依然保留着生物大脑，他有大脑啊，对我都记不清了，那是赛博格，好吧，行，看来在这方面，我的记忆确实靠不住了，不

Jacek Dukaj：这种设定你更能在黑客帝国里找到，那里有意识上传，后面的几部里还有那些数字实体，他们是曾经活着的生物人类，留下的某种残影

Krzysztof Stanowski：我们实际上是在讨论，某种跨物种的混合体，如果人工智能或者说，这个数字世界也能算作物种的话，我可不会把它当作物种

Jacek Dukaj：这已经超出了那种生物学思维的范畴，而物种的分类正是这种思维的产物，对吧，因为那里根本谈不上进化，谈不上通过遗传特性的传递来形成新物种，而且那里根本没有性别，代码与代码相互融合，格雷格伊根的离散第一章孤儿发生，就非常精彩的展示了这种从零开始的生命，也就是他在里面从内部描写了一个，纯数字实体的孕育过程，那里代替胚胎，精子卵子和遗传密码的，只是一串随机的数字，但这样一来，我就不得不问你多次问过的问题，图什么呢，为了诞生新的生命，只不过是纯数字的生命，这可真是彻底乱套了，因为到底图什么呢，但你在孩子出生前，受孕前会去琢磨这种图什么的问题吗

Krzysztof Stanowski：不会，但如果说人类有某种本能，就是我们总想让自己的物种延续下去，而与此同时，正如你自己刚才回答的那样，这个数字世界应该是永恒的

Jacek Dukaj：那里有这样一种，因为信息理论上不需要消亡，直到宇宙的热计，而肮脏的物质可做不到这一点，所以没错，我跟你讲的是一种神话，它非常强大，因为它转化成了那些大公司的核心策略，并且间接塑造着我们的生活，体现在某些技术投入使用，得到推广，而另一些则没有，但如果说

Krzysztof Stanowski：这个未来的数字人的起点，是最初的那句人类躯壳，它只是通过进入下一个数字阶段，让自己获得了永生，那思想上是有一种连贯性的，对吧，记忆也是连贯的等等，那我猜这样一个实体，可能会说，以前有句身体挺好的，我还想拥有一句身体，我甚至写过一本书，叫《美希子之死》 讲的就是这个课题

Jacek Dukaj：当你已经到了另一边，也就是你已经被复制了，对吧，你该如何做到呢，你成了一个未来的数字实体，事后你该如何验证，自己的连贯性和同一性，是否得到了保留，你是不是弄丢了什么东西，因为你记得自己，以前的存在状态，对吧，但你该怎么去验证呢，记忆有时候确实靠不住，某些体验，你无法再拥有，而另一些全新的体验，现在却摆在你面前，单单是你对自己拥有如此高的可塑性，这就已经是根本性的改变了，因为我们的同一性建立在一个前提上，我们不能随心所欲地改变自己，我们当下的模样是由进化，由我们一段时间以来的经历所赋予的，实际上随着时间推移，我们只会僵化，把自己当下的模样固化下来，而在这里你突然获得了 随意自我重塑的自由，你心想，我要变成另一种样子，但不是那种长五条腿，七只眼睛的肤浅方式，比如一件很简单的事，让我去喜欢那些，我现在不喜欢的东西吧，仅仅通过这道意愿，让我去喜欢吧，实际上你就真的喜欢上了，那现在的你又是谁呢，明白吗，光是拥有这种潜能，就把你确立成了一种

Krzysztof Stanowski：完全不同类型的实体，那数字生活能有什么乐趣呢，那生物生活又有什么乐趣呢，这很难界定，但我大体上挺喜欢自己的生活的，那当听到对方回答说，我也喜欢自己的生活时，你怎么知道那是不是一句谎话呢，我不知道，我只是在琢磨，这能有什么好玩的，自己变成了一串数字，然后干什么，去观察，自问自答，还是干嘛，你现在描述的是

Jacek Dukaj：纯智力生命的特质，好吧，但未见的是这样，完全可以设计出模拟层面的内分泌系统，纯粹的情感，各种内分泌反应

Krzysztof Stanowski：这一切都是可能的，好的，我们慢慢开始让观众参与进来了，因为这是本节目的惯例，屏幕上马上就会显示电话号码，欢迎给我们打电话，我再问一个，今天一位推特网友提的问题，在你曾经坚信的想法里，有哪一个是你今天不再信任的，我有那么坚信过什么想法吗，因为他们大概是指我在文学作品里，探讨过的那些东西

Jacek Dukaj：但那些并不是我深信不疑的，我只是把他们当成引人入圣的概念，来展开来推演，但这不代表我真把他们当成，描述现实的什么准则，好吧，那换一个问题

Krzysztof Stanowski：为什么您的作品里总会出现，屌丝逆袭这种套路，这有点像基督山伯爵，而在西方科幻里，主角往往两手空空地来掀起一阵波澜，然后两手空空地走

Jacek Dukaj：这算是一种文化差异吗，我觉得后面这种套路，用来概括西方故事未必准确，不过我确实有几本书里存在这种升华的套路，但我觉得很大程度上是源于设定，这些世界时的本体论预设，这在别样的歌和完美的不完美里体现的最明显，我只是把那些世界的规则，设计成了主角不断推进的，不对，用进化这个词，主角的蜕变能最好的，我要用一个挺难听的词了，他最好的力证了，这些世界背后的核心构想，但在别的书里，我恰恰相反，比如在美希达之死里，基本上是一路坠落，那个主角的下场也很凄惨，在另外好几本小说里，我也可以举出自我毁灭的例子，结局都非常惨淡，悲观 基本上是一路往下坠，但确实能找出几步存在这种套路的，这背后当然有个更深层的问题，为什么我脑子里偏偏会冒出这些虚构世界的设定，而不是别的

Krzysztof Stanowski：这里头也许能看出我对这类思考方式的某种偏好，好的，我们接近第一通电话，喂，请问是哪位听众打进来的，喂，晚上好，我叫沃吉特

Jacek Dukaj：晚上好，我想问Kelsey Stoff先生一个问题，别请问嘉宾，好的，您会邀请Marius Max Colanco上看了Phase Zero吗，谢谢

Krzysztof Stanowski：请大家把问题留给我们的嘉宾，别问我顺着我们刚才聊的话题，我觉得Marius Max Colanco已经活在另一个星球上了，而且他在那边也已经演化成了另一种意识形态，我不知道他这几年怎么了

Jacek Dukaj：我只听说他是那个驻美记者，自己办了个电视台，后来是不是还想当总统，我担心他后来从数字分身，彻底渗进了身后那些设备里，现在已经成了某种新实体

Krzysztof Stanowski：而且掌控那个实体的，根本不是马里奥斯麦克斯，而是我不想说是人工智能，倒像是某种低等智能，在不冒犯麦克斯先生的前提下，不知道刚才把意思表达清楚没有，马克斯先生现在还活着呢，马克斯先生还在，对还是请大家把电话留给我们的嘉宾，我还想问问，在不久的将来，也就是接下来的20年里，对人类退化影响最大的因素会是什么，依然是技术，技术，某种程度上是的

Jacek Dukaj：因为我觉得我一开始说的，对我们目前的问题算是非常精准的诊断，也就是我们靠技术进步，越来越快地改变着自身环境，但我们自身的天性却无法跟上这种改变，于是我们越来越不适应，承受着痛苦，无论个人层面，还是社会层面，我们还没有明确，把这种痛苦表达出来，有时只是找些托词，绕弯着，但这带来的后果，我们天性与技术，环境之间的这种脱节，正变得越来越明显，目前政客和讨论的大众，只是在试图应对，并指出这些表象，比如现在大家正集中应对，低生育率的问题，但最根本的原因，根源他们根本无力改变，推不开也逆转不了，毕竟谁也阻挡不了技术进步，那我们的大脑比这种发展，落后了多远，我是说 我倒不单止大脑，这是人类整体的问题，你可以把各项活动拆开来看，比如我们正把越来越多的时间，花在充当昔日自然生活方式的代用品上，我是说，比如去健身房，那就是在带上原本身体所需的体力消耗，因为我们作为智人，天生就需要那样一种生活方式，我们以前感觉挺好 [01:01:00]

技术便利、选择过载与人性

# #708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

目录

我们以前感觉挺好

Jacek Dukaj：我们以前感觉挺好，消耗了该消耗的卡路里，新陈代谢和能量循环运转，都很正常，现在科技让我们过得很舒服，不用消耗那些卡路里，不用动弹，结果这些问题越积越多，本质上带来了越来越多的麻烦，于是我们就在给当年那种，天然的生活方式装甲质，人际交往也是一样，刚才我们聊到那些交友软件，在自然生存状态下，用专业术语来说，你接触到的潜在性伴侣数量非常有限，选择根本不是问题，因为其实没有太多选择，一切都是顺其自然发生的，那现在的权利在哪，有人会这么问，现在选择过多，让我们陷入了个体心理层面，和社会层面的双重困境，挑选本身以前根本不是问题，而现在挑选问题 成了一个庞大的知识领域，走这样继续看下去，马上又会冒出下一批问题，比如跟AI相关的，那些工作的问题，因为马上就会有一场大讨论，要么是全民基本收入，要么是缩短工作时间，马上就会有一场大讨论，要么是全民基本收入，要么是缩短工作时间，因为当你什么都不必做的时候，你该做些什么呢，这是个大问题

Krzysztof Stanowski：经常用来描述这种现象的，另一句名言是，未来已经到来，只是分不不均

Jacek Dukaj：也就是说，肯定会有一部分人，还在为上一个时代的问题生活，而另一部分人，已经在为未来的问题生活了，我们身处第一世界，我们离得更近一些，所谓第一世界，是相对于第三世界而言的，我们在第一世界，好的，明白了，我刚才想差了，对啊

Krzysztof Stanowski：那当人不需要想着去工作的时候，这会不会也是一种退化呢，还是说，我们可以闲带着，望望天空，这才是自然状态，但经验恰恰表明

Jacek Dukaj：一个人要是没有了这些天然的约束，完全听任自流，往往就会陷入抑郁，这就是天然的终局，且不说社会层面的后果，因为你的工作维系着你整套价值感和自我定义，你在社会里立足全靠这个，你是谁，如果有人问你，你都是通过职业，通过做的事情来介绍自己的，现在你没法这么说了，那你他妈到底是谁，我领着保障收入，然后呢，就这么混吃等死，我也就这次写过一本书，所以就不多说了，好，我们接近下一通电话，喂，喂，您好，卡西斯托先生好，亚切克先生好，总的来说，恭喜卡西斯托先生，办成了Canafe Zero 也就是Zero频道，带来这么好的节目，我对您有个提议，想做这么一个节目 我觉得甚至可以做成一个系列，就像Ground Zero 也就是归零环节那样，我觉得可以让亚切克杜卡伊先生，和我们著名的物理学家，安德鲁·ZJ·Dragon先生一起做，我知道他们以前在YouTube上碰过一次面，聊得非常非常精彩，我觉得在Zero频道做这么个形式，肯定受欢迎，因为他们都是特别顶尖的头脑，对我们波兰观众来说，看起来绝对会很过瘾，我想问一下这个先生一个问题，我对这么一件事很好奇，你写书的时候，脑海里会把那些场景，那些人物具象化出来吗，你能看到他们吗，在想象中，还是说您更像安杰伊萨普科夫斯基那样的作家，他说他绝不这样，他只是把文字落到纸上，写的时候脑子里根本不去想象，实际情况是怎样的，我想象的非常细致，但后来发现，我的想象跟画面呈现的能力 以及直接视觉化的吸引力，完全是两码事，我试过很多次，以前在做封面插图时，跟插画时详细描述过，它长成这样，我脑子里就是这么想的，可怜的人被逼得坐下来，一板一眼照着我说的话，结果完全没法用，所以我现在知道了，按文学方式运转的视觉想象，和专业画师的视觉想象之间，有着根本的区别，我也就不再指手画脚了，这是两个完全不同的领域，很好，非常感谢，如果可以的话，我还想问第二个短问题，因为我知道您多多少少，也关注人工智能这些技术，比如您有没有关注过，像谷歌的Hope 或者DNH Hope 这样的人工智能算法，也就是爱沙尼亚某所大学的，几位年轻人开发出的算法，它其实算是，嵌套记忆学习的雏形，这种模型实际上可以拥有，近乎无限的上下文窗口 并且能成为通往真正ADI的基础，你是说那种能保留交互记忆，不会在后续实例中，被清空的模型，对吧，对，他们那里就是嵌套了记忆，也就是InnerCity Learning 他们用1000万个token测试过，而且芬兰，不对不好意思，自然埃塞尼亚的那几位先生，做出的这项拓展，关键就在于，它的上下纹窗口，实际上可以做到无限大，这在数学上，其实已经推导出来了，现在的疑问是，什么时候能推出，足以应对这种算法的神经理态芯片，是，因为这东西吃起酸泪来，会非常吓人，对吧，理论上这个窗口，可以无限拉长，不过这确实，这算是一种，可能不一定能通向通用人工智能的路径，至于它到底是不是通用人工智能 我对通用人工智能的定义本身就非常怀疑，我觉得那是个很模糊的定义 但它确实可能让我们更接近这样一种体验，去和一个作为持续现象存在的人工智能持久化身接触，而不是只在恰奇PT窗口里碰到的某个临时实例，它过一会就消失了，然后别人又打开下一个，而是你能和某种技术的持续化身进行交流，这不会是通用人工智能 但这确实是个有趣的实验，对吧，如果我们给它足够好用的自我进化工具，这确实也能成为，跳向技术起点的一个跳板，但我觉得现在还没走到那个阶段，在到达那个阶段之前，我觉得还会出现几次突破，那现在还缺少什么，我其实完全不觉得，缺少什么，才能达到完全体的AI 我现在这话带点推测的成分，我没有任何硬核的科学依据，去证明它，这只是我某种模糊的直觉，这只是我的一种模糊直觉 我认为LIM并不是终极答案，在基于Transformer的这套技术之后，还会出现下一次重大发现，我们会迈入一条完全不同的人工智能发展路径，不再建立在这些庞大的语言引擎之上，这只是一个能带我们走到某一阶段的过程，但它不会是带我们跨入技术起点层面的那套东西

Krzysztof Stanowski：这是我的直觉，看看是对还是不对吧，非常感谢您的来电，我也非常感谢，向整个ZERO频道问好，谢谢，今天在推特上，有人翻出了另一位用户，在两年多前发的一个帖子，您的一位铁杆书迷 Thomas G. Fitas先生，决定去分析您的作品，验证一下这些年里，哪些预言成真了，哪些没有，他在这里列出了好几条，比如2001年出版的这本《黑色大洋》 里面提到了很多，比如提到会出现有人工智能操控的经济战，用国家层级创造的金钱取代核弹头，通过投机性攻击来摧毁别国的货币与经济，那本书里确实谈了很多经济与AI的结合，那是一本非常非常差的书

Jacek Dukaj：顺便说一句，我自己恨透了它，我根本没法去审效它，每次再版他们寄给我叫对，我重读那本书，真的是字面意义上的难受的，要生病，有这么差吗，这倒是个挺有意思的现象，如果单论里面包含了构想，我依然觉得那些东西很棒，他提到的也确实是那些构想，我知道很多读者喜欢那本书，喜欢的恰恰是构想层面，那些具体的发明

Krzysztof Stanowski：还有里面的某些情节线索，可他写的太烂了，我每次试着去读，都觉得头疼欲裂，真的，但构想层面确实很有意思，因为那是在2001年，我再引用一下，托马斯基·菲塔斯写的，人与人之间复杂的交往规矩，因为任何事都有可能冒犯到任何人，破坏人际交往准则的行为，自然要在民法层面解决，什么是冒犯，标准由我们自己来定，与另一个人交往的规则，也是由我们自己来定，想跟同事聊聊政治，先问问对方同不同意，然后定下谈话规则，话题范围和金融词，这样你的谈话对象才不会感到被冒犯，否则就可能面临民事责任，对我当时写得很详细，有一整套系统，包括性礼仪

Jacek Dukaj：也就是一段罗曼史到底要怎么开始，里面有整套的中介系统，你得先发这种法律层面的咨询，问对方能不能再往下问之后，还有一套套你同意的行为规范，要签一些协议，才算能真正接触，当然这一切都必须录像，用来当作可能出现的强奸案证据，太绝了，你把未来预测的丝毫不差，碰巧写中了

Krzysztof Stanowski：你对此觉得很有成就感，还是有时会想，该死，这不会是自我实现的预言吧，要是当初没看到就好了，推动这些法律和文化改变的人，根本没读过那本书，以后也不会读

Jacek Dukaj：所以我是清白的，好，我们接下一个电话 [01:02:00]

电影、游戏与音乐偏好

# #708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

目录

我们接下一个电话

Jacek Dukaj：我们接下一个电话，喂，您好您好，我想衷心感谢二位带来这场访谈，听二位聊非常享受，我有三个简短的小问题，第一个刚才稍微提到了电影，我想问问雅切克先生，最近哪部电影给您的触动最大，您平时会玩电脑游戏或者桌游吗，如果有的话您最喜欢玩哪一款，还有您平时最常听什么类型的音乐，能不能推荐一位艺术家或者一首曲子，非常感谢，问题挺多，电影方面最近有一部让我挺意外的，因为我完全没料到，我本来以为是那种拍给女人看的片子，我看了会毫无波澜 《Testament Only》在影院也就一闪而过，好像总共才放映了两个星期，根本没引起什么轰动，但那部电影有一段时间几乎让我着了魔，我写东西的时候 耳机里还经常放他的原声带，从电影设定的层面来说，其实我有不少保留意见，也能摆出一大堆反驳理由，说明为什么我觉得，他们处理这个题材的方式有问题，因为那是一位真实人物的传记，用今天的话说，是18世纪从英国移民到美国，建立起定居点，并实行自己宗教规则的，某个贵格会分支的女教主，但真正让我着迷的是，她把形式，也就是音乐和舞蹈的美感，提升到了取代宗教内容的层面，片中关于教派特异的，神学狂热，基本上一字未提，因为21世纪的观众看那些，就像看2000年前的中国哲学文本一样，根本吃不进去，所以他们的做法是用形式全盘替换掉内容，而且奏效了，我对这部电影非常着迷 但我知道自己属于极少数，他还问了别的问题，对提醒我一下，下一个是什么来着，可惜我已经准备问下一个问题了，不过这位女士还在，有问到游戏，对，我算是个狂热玩家，这也是为什么，我之前提到这种，强迫症般的性格，因为有些人玩游戏，就像读书，或者去影院看电影一样，他们会跟自己说，这个周末我通关这个或那个游戏，我完全不是这样，我一旦开始玩一款游戏，就会玩上十到十五年，所以你玩的游戏都很老，我玩的是那种，系统型，生命周期极长，重组可能性，几乎无穷无尽的游戏，我玩的最久的两个，一个是星战前夜，现在大概七坑了，因为我觉得这游戏变味了，但我玩了很长时间，那是一款单服，能自我演进的MMO 也就是说里面没有任何，那是一个沙盒，里面没有任何剧情线，或者设计要求，你必须做什么，一切都交由玩家决定，玩家在里面书写，这个世界的历史，组建军团，发动战争等等，另一款是流放之路，主要还是初代，二代一直没说服我，它表面上是典型的，暗黑风刷的游戏，但构筑角色，角色构筑策略，技能发展的机制极深，基本上你能无休无止地玩下去，所以我属于这种类型的狂热玩家，那你的角色已经到了，常人难以企及的高度了，要是谁不小心撞上你，那就彻底完蛋了，核心思路是这样，你不断建新角色，但给自己设定非常奇特，越来越难的初始条件，比如只用眼下最冷门的那个技能，谁都不用，谁都不玩 而你要用这个技能构筑一个角色，一路通关，你懂的，其他所有东西都要围绕他来重新搭配，你能拿来挑选，以这种方式构筑角色的东西太多了，刚才还提到了音乐，音乐，我在这方面涉猎特别杂，从波兰黑金属开始，我一直觉得波兰黑金属是文化瑰宝，我们在这一块极其出色，就像在电脑游戏领域一样，再到爵士，但得是20世纪60年代的爵士，那是爵士乐的巅峰，顺便说一句，最近出了一篇学术论文，他们建了一个全方位的音乐数据库，收录了所有数字化记录的音乐，甚至能追溯到19世纪，并用数学方法对复杂度进行了建模，结果发现音乐复杂度的巅峰，正是20世纪50和60年代的爵士乐，自那以后，音乐就一直在走向简化，但我也是克林特曼塞尔的乐迷 他给Aaronofsky配乐，以Reckon for Dream这类作品闻名，还有什么呢，古典乐理，我非常欣赏阿尔沃帕特

Krzysztof Stanowski：好回到你的那些预言 2004年，完美的不完美，你当时创造了一种，非二元性别者的语言，那确实是个挑战，对，我用的动词是发现，而不是创造，基本上波兰语语法，动词过去式的变位，像，对，比如这个词

Jacek Dukaj：你看，这可能要稍微扯远一点，聊点语言学，不过确实是这样，波兰语是一种高度曲折的语言，意思是几乎所有词类，我们都要做词尾变化，像英语这种语言就不会这样，所以在英语里早就存在，不说很久以前吧，至少三十年前起，就有了纯靠代词来描写，后人类实体的传统，其中最常用的版本是用V 词头用V VV 这就把所有问题都解决了，别的什么都不用弄，当你想要在波兰语里，以这种方式描写后人类实体时，你就得准备一套动词，形容词和所有代词的，变格变位版本，我接手这事的时候，一开始没必要地陷进了，极深的理论和哲学纠结里，我当时到底看了多少那些论文，真是浪费时间，后来我才意识到 这其实是一个非常简单的工程问题，因为你只要看看，波兰语的词尾变化是怎么构成的，归根结底，那些词尾都是基于原因的，而原因的数量是有限的，波兰语里唯一剩下还没被占用的原因，就是原因U 所以我干脆就把这套变位建立在原因U上，所以我才必须说是发现，因为只能是这样，这里你并没有完全料中未来，因为非二元性别者，后来选了OK 你说的并不全对，因为关于这套辩位，该采纳什么规范，那边至今还在争论，而且有相当一部分人，在用我这套辩位，因为我也听到了，这些争论的回声，但目前来看 Robbie Faye还是赢过了Robbie Faye 但在我看来 Robbie Faye是唯一正确的方案，因为他们不想把自己看作中心，因为他们并不是中性 这是我在书里某处展开论述过的一个观点，因为作为一个生命实体，我能像换发色或换衣服一样随意变换性别，这和作为一个太监或小孩子是完全不同的近况，这两者在本质上是两种截然不同的情况，所以针对这些后人类实体，我设计了整套以U为基础的曲折体系，顺便说一句，这后来成了套在我自己脖子上的绳索，因为一到翻译的时候，根本翻不出来，比如在俄语里，根本做不到，因为俄语里，他们的U已经被占用了，我和俄语译者琢磨了这事，差不多半年，试着推导那些词维表，但根本没办法像波兰语那样，做到规则化，到处套用同一个词维，所以里面全是变体，有的带J 就是那种变音，带两个点的费加J 有的用U 而有的我们只能直接切掉，做成无原因的形式，所以我们必须在里面附上一张表，好让俄语读者习惯这种用法，因为它不像波兰语那样直观，单一原因就能解决，这基本上就是曲折语言的问题

Krzysztof Stanowski：像英语这样的语言就没有这回事，你有时候会有这种情绪吗，打开电视换着台，突然有人出来说话，说我做了或者我做了，因为既不认同自己是女性，也不认同自己是男性，然后你心想，我预测到了，接着打电话给朋友说，听着Tomac 听着，这正在发生，我2004年写的那些，刚刚成真了，这倒算不上我的预测，如果真有人那么说，那就说明是，照搬了我的方案，但你知道，我问的是另一回事吧，现实在你眼前上演时，你有时会不会想，对又拿下一分，没有

Jacek Dukaj：我不会有这种反应，好吧，我们接下一个电话，喂，喂，欢迎，晚上好，晚上好，杰塞克先生，晚上好，卡尔维斯斯托先生，晚上好，我想问问Jackson先生，作为著名的科幻作家，您怎么看待所谓的尺度缩放假缩，比如打个比方，我们的太阳系是一个原子，比如细胞是一个星系，就这样向上和向下缩放，而且比如可以说，也是这样缩放的，比如对我们来说是一年，在微观世界里，比如是11年，在宏观世界里，比如是好几个轴，对，也就是说是一秒，就是这么个问题，我没听懂是什么意思，我投降，能不能再慢点说一遍，好的，我指的是比如宇宙这种尺度的缩放假缩，我指的意思是，比如原子 由原子核，电子，还有别的东西组成，比如太阳系可以是一个原子，而星系可以是一个细胞，像这样向上和向下缩放，太阳系怎么可能会是一个原子呢，我不明白，不是，我懂，就是这么一种缩放，我也不知道，对，就是这种假说 [01:03:00]

宇宙尺度、物理规律与科幻假说

# #708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

目录

就是这种假说

Jacek Dukaj：就是这种假说，意思是太阳系的分量，就相当于我们世界里的一个原子，对吧，这属于一种隐喻，那是个星系，在隐喻层面，确实可以做这种示意的类比，但在科学上没有任何意义，对确实没有，当然就是放在科幻里多看，写成这类故事，做成这样的东西，你以为这些原子和细胞的尽头，是一个作为宇宙的庞大活体生物，这里有个问题，这个生物的各个部分之间，无法传递信息，因为我们受限于光速，是，我们在这方面没有任何数据，只是我们对宇宙和我们生活的世界，了解的不多，因为，可是我们假定自己是知道物理规律的，是，物理规律也可能是可说放的，好吧 看来这个类比没能引起共鸣，是的，我承认在这点上我投降，这是一种失忆的隐喻，我也就是这么一琢磨，打进来了，也没想到真能打进频道，非常感谢，非常感谢，我们再接两个电话

Krzysztof Stanowski：今天接完就去思考未来，喂喂是哪位在线，晚上好，晚上好，我想向雅切克杜卡一提个问题，请讲，您已经接通了

Jacek Dukaj：晚上好，我想问一下，我知道这算是个不太讨喜的问题，续集什么时候出，也就是完美的不完美，我就知道，目前我没在写，也没有计划，但这不代表五年后，我不会改变想法，所以这是我能给出的，最坦诚的回答了，好的我们等着，每次都会被问到这个，每次都是，非常感谢

Krzysztof Stanowski：那我顺便针对推特上的提问补充一句，推特上有个账号叫pressmusic 经常聊书，今天这个账号的博主还提到，他以前排过一个波兰有史以来最伟大小说的榜单，冰这部小说排在了第三位，排高了还是排低了，每个人都可以按自己的想法做榜单

Jacek Dukaj：我总觉得给文化排榜单这件事，它更能反映出排榜的人和当时的时代，而不是被排名的那些作品本身，那您自己做过榜单吗，没有，我不记得做过，那在您看来，布兰优史以来的巅峰小说是哪一部，我不知道是不是只有一部，但有那么几部，我能把它们排在相当高的位置上

Krzysztof Stanowski：我很喜欢普鲁斯的玩偶，我觉得，这部确实经常排第一，对，但是，但这算是个挺老套的答案了，只是我的切入点不太寻常

Jacek Dukaj：因为我认为它是第一部波兰的存在主义小说，书里大概到中间部分，有那么几个章节，完全是在写主角的内心体验，他在房间里走来走去，琢磨着基本上就是哈姆雷特式的问题，这是波兰文学里，第一次在如此深度的，心理剖析层面，去发掘作为个体的内部世界，我甚至都还没提，它实际上是一部，科幻小说这个事实，为什么是科幻，因为里面有一条主线情节，就是Professor Geist 发现了比空气还轻的金属，但我确实对玩偶很有感情，后来的作品里，我觉得撑得上正儿八经的，大作的是维斯瓦夫·梅西利夫斯基的《石头之上》 确实我这个答案也挺大众化的，因为它经常出现在各种榜单上，它当然是一部伟大的波兰小说 就像对标经典的美国伟大长篇小说那样，它就是波兰的伟大小说，当然我也是斯坦尼斯瓦夫·莱姆的书迷，所以他的很多作品我都反复读过很多遍，读得很过瘾，也让我很有触动，那您会从莱姆的作品里选哪部，我想我会挑出这几部作品，我觉得他们倒不一定是文学水平最高的，但在当时是最难写的，而且在很多方面，迈出的步子也是最大的，哲学层面技术层面，还有文学层面，那就是主人的声音，尼人十四，我还会想到调查，但主要是因为我大概五六岁的时候，就接触了他，后来几乎每个一两年就会重读一遍，它里面展现的那种去质疑，我们既有现实想象的思维方式，对我来说算是原层面的，不是说思维本身，而是原思维 人究竟该怎么去提出这种问题，怎么去打破那些思维定势，它对我来说算是一种典范，示范了如何把我们这些读者，从最根深蒂固的习惯，从我们视作不可动摇的思想信条中，挣脱出来，所以要是让我做个自我剖析

Krzysztof Stanowski：这本书在最大程度上决定了，我后来读什么，后来写什么，或者说塑造了我，听您这些回答的时候，我笑了几次，因为我刚才快速翻出了，我说的那个博主的榜单，他排在历史第九位的是，维斯瓦夫梅西利夫斯基的石头之上，所以你们俩的想法是一致的，第八名是别的，第七名是别的，第六名是斯坦尼斯瓦夫莱姆的，尼人十四，所以你们俩又对上了，然后前五名是这样的，好吧，这个我也，我不会排那么高，但我很欣赏他，好吧，但我不能理解，怎么能把地平线排在石头之上前面，这对我来说是个谜，好，第三名就像我刚才说的 是雅切克杜卡伊的兵，第二名，王偶，第一名，特奥多尔帕尼茨基的，银鹰

Jacek Dukaj：帕尼茨基的作品，我会选别的，但我能理解，他为什么会选帕尼茨基，是的，他是波兰最被低估的作家之一，而且他也写过科幻，如果我没记错的话，他那一版的时光机作品，叫远行谬思

Krzysztof Stanowski：好了，苏丹全部聊完了，我们还有最后一个电话要接，现在来接最后一个电话，喂，请问是哪位打进来的，晚上好，晚上好，雅切克老师晚上好

Jacek Dukaj：克里斯蒂克你好，我想问一下，到底是谁更容易预测未来，是斯坦尼斯·奥夫莱姆在他那个时代，还是说现在在某些方面，其实是更容易，谢谢，我不觉得自己是一个预测未来的人，我只是在构建各种趋势的，模型事件的版本，以及构建世界所依赖的各种假设，而且这个世界，往往跟我们的现实世界截然不同，所以谈不上是在预测我们的未来，有时候能蒙对其中的一部分，我觉得很大程度上这是巧合，但诺查道马斯不也是这么干的吗，您这是在骂我呢，他也偶尔能言中，也会去设想各种不同群体的走向，不过莱姆在某种程度上确实容易一些，因为他创作的那个时代，确实建立在，实证主义进步的范式之上 坚信技术会让未来变得更美好，而且技术有着非常具体的指向，那就是太空旅行，原子能和控制论，而且当时大家在这方面，有普遍的共识，他很大程度上是，站在东西方科学家，共同努力的基础上，去展开想象的，因为他既读俄语的科学论文，也读西方德语和英语的文献，和今天相比，那时的现实要有秩序的多，通向未来的路径也明朗的多，观察莱姆在他整个文学创作生涯中，心态的变化是很有意思的，先是小说，后来是随笔，从以今天的眼光看，甚至可以说是幼稚的乐观，比如太空之名，相信人类的进步会造福每一个人，当时还有被强加的社会主义世界观的因素，在莱姆早期的那些作品里，确实体现得相当明显 后来到了中期阶段，索拉里斯星和伊甸，就是这个时期的，都是莱姆那些经典的，太空题材作品，这里面已经开始带有一种，最终的全入主义，对人类的认知能力感到幻灭，但同时依然保留着，技术进步和征服太空的情节，再后来就是晚期阶段，以随笔创作为主，这时他已经彻头彻尾地，变成了一个悲观主义者，这时他就意识到，技术进步并不会给我们带来好处，我们正在沦为技术进步的受害者，甚至连后来的书名都在说这件事，比如百万兆位炸弹之类的，从这个意义上说，他就像是这场文化和文明转变的记录者，记录了文明如何看待自身，如何看待自己的未来，因为文明的梦境就是他的文化 会毫无遮掩地在文化中折射出来，莱姆走到最后的那种幻灭与苦涩，确实是极具象征意味的，在那个时刻死去的，不仅是武士 60年代对未来的那种乐观，更是创造新未来的希望，再也没有新的未来出现了，我这么说并不单单是指文学层面，不再有能描绘出如此强烈的未来，并引发大众狂热追随的书，而是连政治家们也不再以这种方式去构想未来了，莱姆有句名言，当时有人问他，未来会怎样，还是一样，这是变本加厉，而这基本上就是，我们现在的政治家们的，全部思维方式，手里有几张图表，有预算预测，那些庞大的机构，折腾出点东西，我们就把这条线往后，顺延一年，再顺延一年 [01:04:00]

写作、游戏开发与未来规划

# #708.波兰科幻巨擘Jacek Dukaj：技术进步、人类天性与人工智能的未来

目录

再顺延一年

Jacek Dukaj：再顺延一年，这就是在为国家和文明的未来，做宏大规划了，我们如今落到了这个地步，现实就是这样，好的，最后我只问你一个问题，你现在在忙着写书，做游戏，还是在做影视改编，是这样的，我花了很多时间在Darking Games这家公司上，因为我们现在处于初创阶段，所以基本上很大程度上是我们三位创始人的活，也就是我们，托梅克巴金斯基和Paul F. Abelowski 我们主要在做第一款游戏，也就是大教堂，是根据我的小说大教堂改编的规模不大，但我希望它具有很高的艺术水准，顺利的话应该会在2028年底上线，同时在研发管线里节奏相对慢一些的，还有根据我的作品改编的另外三四款游戏 不过写作我是绝不可能停下来的，尤其是写虚构小说，因为我觉得这对心理健康来说是一种拯救，我只要发现自己超过一两周没写小说，就会觉得浑身难受，睡眠变差，整个人都变得很难相处，我觉得这对心灵是有好处的，至于这些东西，基本上都没写完，也没出版，主要是因为，我要么很快换了别的着迷点，要么就是我的自我审视，已经到了看自己写的任何东西，都不顺眼的程度，所以不太愿意拿给出版社出版，不过我有时会给朋友发上一两百页，我纯粹为了写而写的内容，这么说也想读到你写的东西，还不如等植入芯片，用你的眼睛去，不会，因为我绝不可能主动给自己植入芯片，也就是透过你的眼睛看电脑屏幕，以此来读到你们写了什么 我也不是不可能哪天把其中一部写完，或者哪天一股劲上来了，又着迷了，把它收尾并出版，就像我说的，我非常看重文学创作这件事本身的价值，无论它，但读者还是看重能不能读到你出版的实体书吧，我知道，但我只是坦诚交代我自己的情况，不是为了去冒犯，或者贬低任何人，只是我这边确实是这么运作的，不仅如此，我觉得我这种写作状态以后，会越来越普遍，因为写的人和读的人之间的差距，会越来越大，你看看那些讨论区，同仁论坛之类的就知道了，写东西的人数量极其庞大，几百万人都在写小说，根本没人看，但我绝不觉得这是坏事，尽管质量参差不齐，我不觉得这有什么好鄙视的

Krzysztof Stanowski：这是一件非常崇高的事情，我非常鼓励大家为了写作本身去写 Ramidius Mr.Fee就没这种纠结，凡是写出来的东西，他很快就送到印刷厂，反响也都还行，那就祝他一切顺利吧，好的观众朋友们，非常感谢这次对谈，这可能是你接受过最长的一次采访了吧，没有你说现在几点了，两点五十分，没有，我们还没破记录，那还没破，以后也许还有机会，观众朋友们，非常感谢大家，雅切克杜卡伊，今天做客了我们的节目，非常感谢，晚安 [01:05:00]

返回该播客 打开原文