# What remains scarce after 通用人工智能? – Alex Imas and Phil Trammell
正文
Dwarkesh Patel：今天我和Alex Imas聊天,他是Google DeepMind的通用人工智能经济学主任和芝加哥大学经济学教授,还有Phil Trammell是Epoch的经济学主管和斯坦福的研究学者。一般来说,我想在本次采访中理解的是经济学告诉我们,在一个拥有越来越多的自动化和更先进的AI的世界里,我们可以期望什么.。我想知道,这告诉我们工资和劳动份额将会发生什么,什么是征税和重新分配通用人工智能所创造财富的最佳方式,什么是稀缺的。稀缺的事物会告诉你价值会在哪里累积。我想从那里开始。哪些可能的候选人将稀缺?。类似关系部门,它的定义是。 [00:00:48]
Alex Imas：服务与商品,如果一个人处于循环状态是该产品价值的一部分。因为人类自然稀少,如果我们有自动化, 很多其他的东西就不再存在。 [00:01:00]
Dwarkesh Patel：人类所参与的事物 和所追求的事物 仍然很少。我很想知道,为其他人类提供服务的人类能否成为经济的一大部分.。这里也许有一个直觉泵。在一个AI可以做任何人类能做的事物的世界中,有这种整个机器经济,他们在那里建造工厂并进行研究,提出新的想法.。人类可能或不会参与这些事物的物理生产,但如果机器人问题得到解决,可能不会进入最终极限.。如果你不关心人类参与这个过程, 为什么他们会是?。但还有其他一些事情,你指出 我们确实希望芭蕾舞团或女律师成为人类。这是去咖啡馆或演出的价值的一部分。但只有人类有这种偏好。因此,在人类经济中,人类互相提供服务,一部分财富流向其他人类.。但是,他们的一部分财富也在流出, 因为他们会想要一些自动化商品 这个只有机器的经济正在创造。这不是一个封闭的循环。机器经济中很多东西都是闭环的,因为机器不在乎让人类的酒保做咖啡.。在这个模式中,难道不内在的是,只有人类的经济会变成一个越来越小的份额吗?。我想重新阐述这个问题。 [00:02:28]
Alex Imas：我认为,像我们这样的个别预测经济学家,作为个别的预测,不一定非常有用。Andrey Fradkin、Brian Jabarian和Andrew Koh昨天发表博客文章,。他们发现每个方向都存在大量分歧.。他们所主张的,我在这里也同意, 与其考虑个别的预测, 我们更应该创造预测市场, 在那里你可以得到总体预测和智慧的 人群效应。我认为这是因为我们在预测方面 表现得非常糟糕。直饶八百二十.。这场辩论已经200年了。大卫·里卡多是古典经济学家之一,不是新古典主义.。当工业革命开始的时候,他写了一堆东西,说:"这对大家都是好事.。价格会下跌。" 但后来他转身说:"等等,我可以看到所有这些创造价值的工作,都将由这些机器自动化.。这会很糟的。每个人都会失业,政治动荡也随之发生". 如果你看看里卡多的预测,它们其实是正确的。所有在里卡多时代赚钱的工作都自动化了。如果大卫·里卡多醒来,有人告诉他这些工作都实现了自动化,然后问他,“你认为2026年的青壮年就业率是多少?”。自2000年以来,我们就业人数最多,有可能就业。那是顶峰,现在基本上是第二个顶峰。大卫·里卡多最后的缺失是 你拥有这些经济 结构变化, 在那里,所有自动化 变得便宜。人们有 更多的钱去花费, 然后他们开始将其用于服务。这是实验室的谬论。大卫·里卡多没有考虑创造新的工作机会.。但钱会流向服务部门并不明显.。为什么它不会去 更多的自动化货物之类的东西?。我不是用这段传闻来表示,这是现在将要发生的事情,我们要充分就业.。我用它来表示这很难预测。经济学家可能真正有用的工具是先从一个前提开始。也许我们今天开始:劳动份额为零。劳动力份额下降。这有什么解释?。让我们写下一个经济模式 发生了什么事。菲尔今天晚些时候再谈这个。或者你可以写下一个模型,它问:"如果劳动力共享只是保持不变呢?。怎样才能做到这一点呢?" 如果你不从我这谈话中取出其他东西: 我们没有任何数据。我一直在说我们需要一个曼哈顿计划的数据。我们没有关于消费者需求弹性的数据.。我们不知道他们是什么。我们没有真正追踪什么工作正在被创造或摧毁。O*NET数据库包含所有任务和不同的工作,很少更新,质量超低.。真正有用的是思考潜在的情景, 绘制出它们, 并说稀缺的层面将产生每个情景。如果有充分就业,我们可以谈论关系部门.。如果劳动份额崩溃,。 [00:06:22]
Dwarkesh Patel：我们可以谈其他类型的情景。这将告诉我们我们应该收集什么数据。这也许值得确定 劳动力份额和资本份额 真正的快速。整个经济,售出的货物和服务的总和,要么是用工资付给人们,要么是用资本付给人们,也就是说,得到报酬的建筑物和公司的股东有租金.。几百年来,经济的~60%基本上都是用工资付给人类的,其他的30-40%是付给拥有机器和土地的人和向公司索赔的人的.。问题是,如果现在有60%的工资 AI会变聪明和好些吗?。这是卡尔多的事实。 [00:07:17]
Alex Imas：我们应该强调这一点。工业革命之后的60%以上 以及我们所见过的自动化技术 令人惊讶。有些人担心这是个会计错误 一直以来都是这样。现在甚至有争议.。有人可能会说,劳动力份额在过去20至30年中一直在下降。但过去30年到40年间,会计工作发生了很大变化.。例如,阿特金森有一篇论文显示,如果你保持会计数年不变,。
Dwarkesh Patel：劳动力份额从未下降过。但这并不奇怪,对不对?。菲尔,你说过,如果劳动力和资本是互补的, 你都需要做任何事情。这很合理,你需要支付 他们两个人 得到的东西做。你有完全自动化的东西。 [00:08:14]
Phil Trammell：有一种感觉,即还没有完全自动化。看网络调整因素份额的好。看看供应链的下层, 不仅仅是最后一步, 以及其中多少是由资本和劳动力完成的, 是什么进入了机器 能够自动化 最后一步。你会发现,劳动力在供应链中增加了很多价值。美国的计算机和电子产品在网络调整后的资金份额非常稳定,约为50%。岂非百分.。我确实认为,我们同意这种质的转变, 也就是说,至少有些商品的网络调整资本份额会达到一个。整个供应链可以实现自动化, 并且我们从本质上讲,我们并不关心人类的行为。这将是质的转变。有趣的是,这一转变对总的资本份额的影响并不明确。假设我们有两个领域: 人类与芭蕾舞团的融合区, 以及其他一切。现在,其他东西都因为缺少劳动力而变得稀缺.。但是,如果我们把其他的供应链完全自动化, 在其他的供应链中,我们非常快地满足, 那么不是芭蕾舞团的每件东西的数量都达到了无穷, 但那些东西的边际效用会比数量上升的速度快到零。 [00:09:48]
Alex Imas：我也想远离芭蕾舞团的例子。我在后期工作时试图从某一特定情况中反向阐述的观点是,芭蕾舞演员和表演者是错误的参考班级。现在,我们有很多工作 在那里你有不同的任务。这是基于任务的工作模式。医生,他们的工作是什么?。他们正在填保险文件。他们去叫不同的制药公司。他们的任务之一是看病人并与他们交谈,但这不是工作的主要部分.。你可以有一份工作 和一份服务 或一个好 是不同类型任务的产品, 你可以自动化 这些任务吨。如果消费者愿意为每个任务自动化的产品或服务支付更多的费用,但医生提供诊断和支助的那部分除外,那么我们称该工作为关系部门的一部分。人们愿意为人类付出更多的代价,以保持工作循环.。我们没有数据说,“这里有关系工作,这里没有。” 您需要收集以下类型的数据。联合分析你是否愿意为这项服务支付费用。这是反事实 机器生产的一切。这里的反事实就是这个任务不是由机器产生的.。你愿意付多少钱?。你对人没有弹性有什么作用?。如果我没有这个数据,我在这个故事里会做出什么预测?。难道没有另一个要点,这就是。 [00:11:38]
Dwarkesh Patel：很多完全自动化的商品 还没有存在吗?。你现在不能收集任何关于,比如, 人们会有多少想要继续购买 越来越多的药物, 让你更健康, 完全由AI生产。当然。这是菲尔的观点。你可以增加品种。
Alex Imas：资本你得不到满足。你正在增加多样性,所以你不会 进入这个逐渐减少的边缘效用点 在那里,你的大部分收入 流向人类部门。如果这种不断增长的品种足够快,而人类部门没有这种不断增长的品种,那么你可以得到你想要的所有关系商品,但对于劳动份额来说并不重要.。进入零。 [00:12:26]
Dwarkesh Patel：菲尔,我喜欢你的类比 在1400年的蒙古经济学家 坐在周围 思考什么是稀缺 和这种分析的局限性。
Phil Trammell：我想你应该谈谈。看看远古的蒙古人可以买到的货。我不是这个社会的专家 但我知道他们没有我们现在拥有的种类。看看那些内在的人性工作, 就像当歌手一样.。然后,你看看那些本质上不是人类的东西, 比如他们的马提供的运输服务,或者他们拥有的各类食物。如果他们只是把品种固定在两个类别中,问道:"一旦我们有了更多的自动化,会发生什么?",他们可能会说:"我们将在像马一样的运输中,在酸奶中和在酵母中饱足.。这些股份将全部变为零,我们将被留给所有的钱用于歌手". 但当然不是那样的。随着我们积累了更多的财富和更多的先进机器,我们扩大了除了歌手以外的事物的范围,把钱花在身上,而花在歌手身上的股份仍然微不足道.。 [00:13:46]
Dwarkesh Patel：同样,这是我对于未来如何发展的核心预测, 虽然它可以走任意一条路。我本来想说点什么,我意识到这是个谬误,但是这个谬误的原因却很有趣.。很难想象一个 数万亿机器人的世界, 但是只有几亿多的人, 而我们在机器人上花费的累计金额 也比我们花在给Magnus Carlsen 或—— 财务顾问或医生或辅导员的钱少。对 播客之类的。但后来我才意识到为什么这是个谬论.。世界上的晶体管数量几乎有万亿个,也许有四亿个。你的同事查德·琼斯(Chad Jones)在计算、晶体管的支付方面, 经济的份额如何在下降,。你提出的观点是,思考摩尔定律的方法之一是. 什么定价?。供给与需求.。因此,我们不仅生产更多的晶体管更便宜,而且边际晶体管的价值也在下降.。 [00:15:08]
Phil Trammell：正如你刚才所说 摩尔的另一种说法是.. 我喜欢摩尔定律的悲观框架: 每18个月,计算值就会减半。
Dwarkesh Patel：我们无法用在计算上如此之快,以至于维持摩尔定律.。这与关于AI的谈话有关,在这种对话中,也许第一次不再如此。这里著名的事实是,H100现在比三年前的租金要高, 尽管我们拥有比这更好的技术, 并且更能计算世界。因为随着模型越来越聪明,计算的机会成本会更高.。这就是菲尔关于增加品种的观点.。我们所做的就是增加人们对资本的需求。突然间,你有了一种新的品种, 你可以使用资本, 你跳起来。你可以想象,我们只是从来没有满足 对计算的要求。只要这样下去,计算出来的经济份额就会继续增加。问曰.。这是。 [00:16:19]
Alex Imas：最终的问题,我们需要看。在你对这些用途有需求的地方,我们为计算结果找到多少新的用途?。我想强调的是,很多经济学模型, 特别是在我们所谈论的空间中, 把需求当作几乎是外来的。他们不解开人们真正想要的心理。我之所以想到关系部门的想法, 是因为我当时的工作 似乎有这种内在价值。不仅仅是因为它的稀缺; 因为它有一些内在的偏好 人们有同情,联系,和另一个人的互动。我们的实验之一 涉及一个艺术印刷品。我们有一个与奖励相匹配的方法,问:"你愿意为这个艺术印刷品付多少钱?" 人们实际上为此付出了真正的金钱.。然后我们说,"你看,这些艺术印迹中只有一个,它不是由AI做的就是由一个人做的". 这些是主体之间的条件。首先,你得到的效果是, 人制作的艺术印刷品比AI版本高得多。然后,在一系列其他条件下, 我们说有500个这样的生产。对于人造的,价格下跌很多,因为它不再被视为与这位艺术家有联系.。与AI没有区别.。大赦国际已经被视为一种商品。我们需要对此做更多的研究,但似乎这是这和马一样的东西之间的关键区别.。一匹马是对输出的投入,在那里你可以用别的东西代替马.。你只关心输出。如果人类不是一匹马, 他们从产出中提供价值, 如果你取代人类, 产出的价值就会减少。如果这还不够强大, 如果它不能维持足够的部门或足够的工作,。 [00:18:28]
Phil Trammell：那这个故事就行不通了。没有多少机构能像简街那样认真思考如何把聪明人变成世界上最有能力的研究人员和工程师.。这在一定程度上依赖于学徒模式,即新聘人员与高级导师配对。但简街也主持了一系列课堂风格的讲座和亲身操作的靴营.。这些课程涵盖一系列专题,而且内容相当深入。还有一个讲座 专注于反向工程系统 带有工具 如strace 和 gdb , 另一个教你如何配置代码 下到缓存层次。重要的是,Jane Street设计这些课程并不仅仅是教授相关的对象水平技能.。还传授相关的隐性知识。例如,他们的为期一周的神经网络启动营从一般理论开始,但随后迅速发展到如何应用神经网络进行交易.。在这里,它们覆盖了简街人往往遇到的具体障碍 以及他们想出来的绕过它们的工作。简街对待这种学习很认真。每个办事处都有专门的教室空间,课程优先作为正常工作的一部分。如果你想在这样的地方工作 Jane Street在雇人。你可以在janestreet.com/dwarkesh查看他们的公开角色.。Molly Kinder写过的一个可能性 就是这个"Messy Middle"。 [00:19:43]
Dwarkesh Patel：至少在财富分配和再分配方面,。我想问您,以下可能性是否完全可能,或者是否有任何一套假设可以做到.。AI使得工作自动化成为可能,以至于许多人正在失去工作,但是它并没有创造足够的财富,同时自动化的过程正在发生,从而基本上使那些被解雇的人得到补偿,并创造出帕雷托改进,因为AI自动化,每个人都在那里变得好起来.。当然,有一种微不足道的感知,那就是这一定是事实。无论公司通过不向人类支付而不是仅仅向AI支付来节省什么资金,这些资源在经济中依然存在,只能向人们支付.。但是会有一些分配效率低下。政府并不知道谁因为AI而被解雇.。有政治问题.。如果梅塔工人先下岗,他们每年挣20万美元,那么你是否在政治上可以持续地每年给他们20万美元的支票,而许多工人的收入却少得多?。 [00:20:56]
Phil Trammell：你是否认为这种情景是可信的, 在那里,AI正在自动化 一堆事情, 但没有那么多的财富创造 和自动化?。我认为这是可能的。对我来说,它确实看起来像一个相当狭窄的窗口。我猜,如果我们有技术 自动化这么多的工作, 它成为一个新的政治问题, 那么馅饼也会增长非常快。除非在所有这些职业中 它在自动化 它只是一头更有生产力的头发。所以所有更换软件工程师的资本成本 都比什么成本要低。 [00:21:32]
Dwarkesh Patel：我们一直在支付软件工程师的费用。为什么一个公司通过解雇一群软件工程师来节省资金是不可思议的?。从长远来看,有一个杰文斯悖论,我们不能预先预料到我们用更多的软件会做什么,肯定会有更多的用途.。但短期内,效果只是很多人被解雇了,他们仍然需要想出他们如何可以多使用一百万倍的JavaScript标志.。
Alex Imas：菲尔和我一直在写这些东西, 我们在这些东西的后面有数学模型。我们的任何模式都没有政治经济.。Andy Hall写了一篇关于通用人工智能政治的很好的文章,。如果失业率上升2%,政治风向就会彻底改变.。失业对政治上发生的事情有着巨大影响。提到莫莉的优秀论文, 我认为在某些方面 最糟糕的情景之一 是滴水情景 因为政治经济作品。你可能看到的是,人们不是真正大规模失业,而是转移到支付更少钱的部门。1920年至1940年间电话运营商发生的情况就是这样.。电话运营商是完全自动化的,但花了20年的时间,尽管技术已经存在.。有个滴滴。它不是像这个巨大的 部门刚刚消失。有一篇非常好的QJE论文 显示他们重新融入经济, 但工资较低, 他们大多就业不足。这就是Molly写的故事 这个乱七八糟的中间。我们和COVID一起看到,如果有紧急情况,财政反应可以迅速移动.。紧急情况是失业率快速上升,甚至可能达到2%至3%。 [00:23:31]
Dwarkesh Patel：如果发生得很快,这将成为国家紧急情况。担心的是,你所节省的白领工人, 如果这不是在发展经济,而只是创造可以分配给其他地方的节省资源, 那足够做一个基础广泛的再分配计划吗?。你有你从几个人手里救出来的钱。除非你能想出具体的方法, 具体地说,你有一个问题, “我可以做一个UBI,我省下来的钱,裁员..” 你基本上说馅饼没有那么长。你只是把一群人赶出去, 但这并没有扩大经济能生产的技术前沿。之后还有一个问题,就是这在历史上是否每发生一次,技术前沿就扩张了一大堆.。我觉得是这样。仅仅在历史上,技术前沿已经扩大。我想菲尔也这么说了。 [00:24:33]
Alex Imas：很难想象那种你得到情报的情景 足以取代软件工程师 但仍然需要很多钱。
Dwarkesh Patel：这只是比软件工程师便宜的头发, 所以你没有得到这种丰盛的效果。因为派没有长出来,再分配到哪里去?。这很有帮助。许多不同的事情必须是真实的,这样的情况才会发生,每种情况似乎都不可能发生。一,必须做到全白领工作自动化,但只能零敲碎打.。也就是说,你只能让软件工程师自动化, 但同样的程序也不能让会计和分析师自动化。我的智能模型是这样的, 既包括做软件工程所需的工作 也包括什么智能 如果你真的能解雇所有软件工程师, 你在那里的桶里就足够了, 你可以自动化各种白领工作。由于这些裁员而产生了巨大的潜在储蓄,AI也会比人类劳动力便宜.。如果这两件事都是真的, 这种混乱的中间情景 我们实际上没有财富 绕过。那么问题是,什么是征税和重新分配的最佳办法?。我有一些想法。我认为,概述成本和效益是非常重要的。 [00:26:01]
Alex Imas：首先,执行这些东西有不同的复杂性.。第二,它们的实际帮助时间不同。类似普世基本资本的东西不会为六个月后发生的事情带来回报。你可能最后会变成一团糟。以负所得税为例.。你执行它,当它变成法律的那一天, 你已经有了这个保险, 在那里,每个人都得到一定数额的钱, 如果你赚更多的钱, 你得到更多的税收。但是对负所得税有正面的和负面的.。例如,我对UBI的政治经济影响很担心。如果人们只是依赖支票,那谁当权就很重要。现在,我们拥有能够转化为收入的劳动力。当情况不再如此,我们受当选官员的支配,满足基本需要,这感觉就像一种权力分享安排,这真的很危险。但政府再分配计划不会是这样吗?。拥有普世基本资本,拥有资本所有权和产权,你只是拥有股份.。你是正常的股东。你只是个普通人。 [00:27:34]
Dwarkesh Patel：但这又回到指数化的问题,因为如果指数化很难,那么普遍的基本资本就很难了.。这就是全民基本资本问题:瞄准目标.。你的目标是什么 投入到人们的组合?。比如说,如果Anthropic变成零,但有些。
Alex Imas：随机机器人公司接管这一切?。没错。这就是全民基本资本的风险.。加上负所得税,你和UBI也有同样的问题,有人上台说:"我们不会去的!。
Dwarkesh Patel：和人们不能工作, 然后你有 地板的问题消失。一个对财富税的关注是,在0.5%的财富税上没有政治上可持续的平衡.。当然,这与所得税有关。它开始低,是用于战争还是什么的,然后慢慢升级,直到美国的边际所得税税率达到40 % , 在某些州,上升了50 %。如果征收资本税,是否有理由担心它会扭曲投资?。人们会只是说:"我为什么要投资Anthropic或Intel?。政府将承担更大的份额,。 [00:28:41]
Phil Trammell：坚持住。宜将收入的筹集方式,征税方式,分配方式分开.。可能是政府把Anthropic的股份 以广泛的税收 交给每个人 然后购买Anthropic。这也许是正确的事情。希望一些民粹主义的建议不会干涉到这一点,并征用了大家碰巧知道的某个特定公司.。 [00:29:07]
Dwarkesh Patel：你是说有某种最佳的税收。我们在对外在因素征税 或者在对土地征税。我想我们也许需要课税 不只是这两件事。或消费.。好吧,消费税,就像欧洲增值税一样, 让政府去买一堆股票, 然后他们就把这些股票分发给所有人。
Phil Trammell：那是大卫·奥托的..。这和重新分配种群没有多大区别, 但它会有所不同。
Alex Imas：顺便提一下,这是关于社会保障的建议。社会保障私有化。已经成功了,但是有问题。
Dwarkesh Patel：还要持续多久?。社会保障私有化基本上是给每个人一个篮子的股票。人们谈论是否已经存在白领启示录.。是否有证据表明由于AI已经存在大规模自动化或失业?。 [00:30:17]
Alex Imas：众皆观之.。这是一个有很多眼睛和数据的地区。耶鲁的预算实验室 正在对此进行很好的分析。他们最近刚刚发布了一份报告, 你真的必须看一看 任何事情发生。如果你想在整个经济中采取一个方法, 即使看软件工程, 也是最暴露的部门, 只是没有什么事情发生。可能有一个小开发者得到的工作比以前少的信号.。但这是"比以前少",而不是水平变化,因为实际上对高级软件工程师的需求增加,如果有的话.。如果你看趋势,对于初级开发者来说,它略低于趋势.。所以你是说成长。 [00:31:09]
Dwarkesh Patel：速度比以前慢,但即使是入门级软件工程师也仍然有增长.。你觉得毕业大学生的传闻证据 说他们找CS工作比较难吗?。我觉得那是传闻证据。你认为为一些人找工作总是很困难,现在却变成了AI的叙述?。与裁员一样,。
Alex Imas：可能只是普通裁员, 他们把它变成AI裁员。你必须小心所有这一切。有这些公共协调装置。假设我们进入一个叙事 如果你是律所 而且你没有裁员, 那么你被看做不够适应AI。然后你会得到一个级联效应 公司需要跟上琼斯夫妇 开始解雇人员。这太令人担忧了,公司在裁员后可能实际上比以前更糟糕,但它只是做裁员来有这样一种感觉:"看,我们不是落后于时代.。我们在使用AI". 你可能听到这些关于信物计数器的传闻, 在那里你必须最大化信物和类似的东西。 [00:32:17]
Dwarkesh Patel：现在,我们真的没有任何证据 白领流血。考虑到AI能做的这些事情,这是否令人惊讶?。这是一个古老的故事。如果你将一些互补的任务自动化,整个事物的桶子——作为自动化的补充的人力——将增加价值。对于这个论点来说,一个真正重要的统计是需求弹性。
Alex Imas：采用O环型工作模式.。工作是一系列的任务。假设AI将十项任务中的九项自动化.。一项任务不是自动化的。如果此人现在能够集中精力完成这项任务,工作将变得更加富有成效。如果这转化为价格效应, 产品实际上更便宜, 如果需求反应足够, 在购买更多, 服务被更多使用,。网络上很多人都非常普遍地提出这个论点, 说:“如果数据里有的话,我们看到软件工程需求的上升。” 这说明至少现在,鉴于。 [00:33:30]
Dwarkesh Patel：工作的工作, 它可能具有足够的弹性。我认为这种需求论的弹性对于人们提出的许多论调,或者说对于人们在不了解根本因果关系的情况下使用的许多标签来说,都是非常重要的.。人们经常谈论杰文斯悖论.。这个想法是,随着事情变得更便宜, 你会想要的更多, 你花在这件事上的总金额会增加。这发生在200年前英国的煤炭上。但只有在对某种东西的需求具有高度弹性的情况下,才会发生这种情况。有许多事情没有超弹性的需求.。如果石油,比如说,变得超级便宜, 它不像神奇的.. 或胰岛素.。没错。这不像是神奇的 会有这么多的汽车 现在,我们将使用 远比以前更多的石油。至少短期内不会。没错。长期弹性高于短期弹性.。但是,即使从长远来看,农业是著名的例子,如果我们把过去用于农业的同样一部分经济用于生产更多的粮食。我们已经在生产更多的食物了, 但是如果100年前生产食物的 经济的同一部分 正在生产食物,我们就可以生产更多的食物。但你吃够了,然后就结束了。软件的主张是,不是市场的某些固有财产 随着价格的降低,你只会继续想要更多的。软件是特别好的东西, 当它越来越便宜的时候, 我们就会越来越想要它。你写了一篇关于这个的散文 大部分播客都是我给你总结你的散文。Citrini对未来有一个非常具有病毒性的情景规划,预测由于自动化和非常强大的AI,将会出现衰退.。白领工人将实现自动化,他们的薪水将不复存在,因此会出现低迷.。你想重述一下为什么这不可能吗?。一部分是可信的, 一部分不是。 [00:35:34]
Alex Imas：我们开始对话的部分 是认为可能有很多失业。如果自动化的速度很快,人们可能会被解雇,他们可能不会很快找到工作.。我们可以对Citrini论文中的失业部分争论,但这不是问题所在.。问题是,他们谈论的是经济负增长。我在片中所做的, 菲尔和我有一个前后, 是说,让我们先提出一个提议, 即经济负增长。在经济中你需要什么条件来实现经济负增长?。结果情况很不可能。你需要的一件事是 资本持有者, 富人基本上.. 基本上,你在这种情况下所拥有的是 将财富和收入从低收入者手中重新分配出来, 这些低收入者正在把劳动力用于技术资本所有者。所以,你需要被约束, 像硬约束, 甚至软弱的敏感性。你需要他们最终说 "我受够了"。我不想再花钱了". 并且为了那笔钱不作为投资进入。 [00:36:50]
Dwarkesh Patel：然后你可以得到负增长。关键是,即使我们不想要更多的狗屎, 这个世界有一个奇特的,我们不想投资更多的钱是疯狂的。我们不是说,“让我们建立更多的数据中心。建多法宝". 尽管我们有通用人工智能, 我们并没有投资更多的数据中心来运行通用人工智能, 这正在推动更多的经济增长。 [00:37:13]
Alex Imas：我把散文发给了菲尔,菲尔回信说,"这是相当愚蠢的,"像我的散文。他说:"你试图说,经济将出现负增长,但这些条件非常不可信". 我当时想,“这就是论文的要点。这些是极不可信的经济条件". 这就是情景规划真正闪耀的地方。你有《Citrini》的散文 写得很棒 因为它开始交谈。它是如此直观, 这个想法,如果有需求崩溃, 我们可以使经济萎缩。你可以用抑郁症来得到它。在萧条时期,技术前沿并没有扩张.。在这方面,技术前沿正在扩大。你实际上有丰富的。丰度产生负值。 [00:38:02]
Phil Trammell：经济增长,这是很难得到的。谷歌最近宣布双子座Omni,其视频编辑能力令人难以置信.。你可以上传一段视频,然后告诉Omni做一些事情,比如改变背景或者调整照明或者添加或删除元素.。在保持其他一切一致的同时。但Omni不只是一个视频编辑。我有机会和Omni背后的研究和产品团队坐在一起,我了解到这是对未来前沿模型如何训练的预览.。它可以吸收任何类型的输入,无论是文字还是音频还是视频.。而虽然它目前没有这样做,但从建筑上来说它能够仅仅无缝地输出图像或文字.。因此,这确实是对多式联运数据传输假设的赌注。该模型通过看到其他数据类型,更能预测一个数据类型。例如,Omni非常擅长在视频上准确渲染文本,尽管Google在这个模型中并没有专门针对这种能力.。而Omni是走向更准确的世界模型的下一步.。因为为了预测视频的下一帧,你必须对物理和空间动力学有深刻的理解.。随着Omni的进步,会很有趣地看到它是否能够关闭一个Sim2Real差距.。由于在现实世界中收集数据比在模拟中要困难得多,机器人的进步已经落后了AI的其他应用.。但是如果你有非常好的视频模型 可以模拟现实, 可能就不再这样了。同时,如果想尝试Omni,可以在双子座的应用中查看. google或用在Google的AI Creative Studio, Flow, at flow.google.。我们刚才在谈论 为什么没有更多的自动化 因为LLM。 [00:39:31]
Dwarkesh Patel：一个可信的机制可能是, 正如你所说的O环理论.. O-环理论是指挑战者号航天飞机因为一个组件故障而爆炸的事实,它摧毁了整件事.。也许是经济中商品生产方式的比较一般的模式.。你必须确保一切可靠而且运作良好。所以你现在不能把整个工作自动化到AI.。即使它可能能够以某种概率完成它,你需要极度的可靠性,以便它不破坏完成的善.。这也许可以解释为什么现在的自动化比其他时候要少很多。但我认为一旦AI进步足够,它就会向另一个方向工作.。将人类融入未来商品的生产流动将变得困难。即使在关于人类将如何更昂贵或更低能力的论点之外,也会为AI劳工组织整个生产流程.。他们在用神经病说话。他们思考的速度是几千倍。因此,即使雇用人有一定比较优势,也会有交易成本和可靠性的担忧,这实际上会使人难以融入未来的生产流动.。 [00:40:42]
Phil Trammell：这似乎是正确的对我来说。特别是,我只想区分一点, 如果你把九十分之一的工作自动化了, 人们可能会转移到最后的第十, 但可能需要十倍的工作。与最近从甘斯和戈德法布推出的O环自动化模型相比.。如果你只能自动化 9十分之十的工作, 但你这样做的质量 低于人类所能, 你可能不想自动化 即使这 9十分之十。这是可以完全靠边站的。对称地说,这可能是我们不再用人做十分之一的工作的原因,因为人类只是不能达到AI能够完成其他工作的质量水平,或者速度水平.。 [00:41:30]
Dwarkesh Patel：最终它们拉低了成品的质量或速度.。顺便说一句,你所说的模型 对我来说似乎非常合理 为什么更多的律师,会计师,甚至软件工程师都不自动化。有些案子很可能会像你们所期望的那样起作用 但你要付钱给律师 你也付了很多钱。
Alex Imas：管理类型的东西。特别是律师,你需要一些实体 支持产品。你需要产品的所有权。你需要有人能解雇或雇用, 并有许可证问题。有很多监管层也会被保留着 即使有。 [00:42:18]
Dwarkesh Patel：没有关系元素——循环中的人类与人类实际提供服务的能力无关.。所有这些政治类型的摩擦。
Phil Trammell：我们习惯于只相信人类的立法,当法官,当陪审员,或者所有使某些职业保持人性的许可,这些都让我感到过渡。我们所期望的来自一个人类的东西, 以及我们如何组织我们的政治 在整个历史中已经改变了很多次, 从小猎人 - 采集者乐队到帝国 到什么。一旦AI管理的政治制度比其他办法有效得多,这些办法很可能会超越其他办法。 [00:43:07]
Dwarkesh Patel：说到这一点,我们一直在谈论人类目前有哪些偏好,以及对人类未来将稀缺的商品有什么影响。当然,我们将来会有不同的实体:AI.。曾经有一段时间,地球上没有人类,但进化选择了具有特定驱动力和偏好的人,因为这些人往往活得最久,这些偏好现在决定着世界经济生产多少。为何未来不期待AI也这样做呢?。这甚至不是一个灾难性的不协调的世界,他们只是在那里杀死所有人。但是,即使不是个别的AI,也会出现以AI为组成部分的公司的演变。进化会怎样?。它可能有利于增长的公司或代理人。有一种选择论认为,生长的东西会更加普遍.。也许仅仅基于这一点, 你可以做一些预测 他们的偏好是什么。那种更喜欢拥有人类内涵物品的实体是不是最能积累资源的实体?。也许不会。它可能节省更多,而且对相关资源的需求难以满足。计算是显而易见的。我们能否利用这一点来预测未来将面临的非人类偏好?。如果有一个AI有自己的福利,。 [00:44:38]
Alex Imas：并且正在自己做出与福利相关的决定 老实说,我绝对不知道它是否愿意与人类打交道。无有因缘.。但是,让我从另一个方面谈这个论点。人类喜欢互相交流, 信任和同情其他人类, 而不是模拟的人工智能, 我认为这是一个非常重要的问题,。我听到许多争论说,“看,现在我们只是不习惯技术。你所认为的关系.. 在某些时候,人们只是将AI治疗师视为一个优异的产品,他们不需要人类正在提供的同情心". 我认为这是一个非常复杂的问题。以下是一个论点,说明为什么它不会消失,它与进化有关.。说有二种众生.。一个人并不真正有这种倾向。他们可以和人工智能互动 任何能更好的模拟。另一股几乎是道德情绪,。那两个人中哪一个要繁殖 找到一个伙伴,所有这些东西?。我认为答案是明确的。是第二首喜欢别人的歌。 [00:46:11]
Dwarkesh Patel：取决于繁殖过程。不错。但是如果我们在世界上。
Alex Imas：复制还在进行中 我想.. 这是一个大问题,我不是在预测。你让大卫·赖克上节目了。他在最后播客的点子 是,我们正在呼唤 自然选择。所以,即使你得到某种 漠不关心现在, 你可能得到选择 指平。
Dwarkesh Patel：更喜欢其他人类。这里有一个方法来思考它。世界上最富有的人的财富是如何被即时化的?。我们刚才接到一个电话,你指出 他们的消费更适合关系商品。就像马克·扎克伯格为妻子的生日聘请了MMA教官和舞蹈演员等.。但他的大部分财富只是梅塔的股票.。作为一个控股股东,他可以说,“Meta, 把这些财富变成红利收入, 我将只花在消费上。” 相反,他宁愿拥有他的财富复合物,让Meta建立更多的数据中心.。所以,你甚至不用改变 人类的情况。最富有的人类 — — 并且因为财富的积累而变得更加富有 — — 只要有这种几乎尼克·兰德恩对加速资本的偏好。这似乎表明,这是决定今后生产何种物质的一个重要决定因素。 [00:47:41]
Phil Trammell：你可以有两种方式 两种人, 其中一种更喜欢人类治疗师, 一种是和人工智能进行良好的互动。如果两者在资本中都同样快地满足,但喜欢人间治疗师的人也只是喜欢一些人间精神服务,那么,与今天资本的边际价值相比,未来资本的边际价值,对于他们每个人来说,如果他们开始同样富有的话,就应该基本一样。可能存在相互作用,但基本上,应该是一样的。如果导致区别的是,一个人只是不满足于资本,因为他们参与探索宇宙,把他们的头变成银河系大脑或别的什么,而另一个则满足于资本,那么不满足于资本的人,如果他们是理性的,就会有更高的储蓄率.。因此,从长远来看,他们将拥有大部分的财富和总体资本份额。 [00:48:46]
Dwarkesh Patel：基本上将是他支出的资本份额, 这将是其中之一。重要的是,我们不是在谈论一个假设的未来。埃隆·穆斯克在谈论月球上的大众司机.。他是迄今为止世界上最富有的人。显然,目前他的投资是面向人类和机器的,但我认为他并不特别关心他未来的研究人员和工程师是人类与AI的对战.。他也能快速繁殖。 [00:49:11]
Phil Trammell：所以我觉得应该做出这样的区分。目前有一些富人似乎在首都并不迅速满足,所以从长远来看,他们也许能节省最多.。这对我来说似乎是正确的。我还想说,即使它们生物繁殖得比较缓慢,但从长远来看,如果它们能长生不老,那可能就不重要了。
Alex Imas：永生是关键。再说一遍,我们是在做场景。如果你能长生不老,我的故事也会有很多变化。就你所说的有钱人消费不高 投资不高 这都取决于资本回报率。现在,数据中心的回报率是很高的, 但是如果我们陷入人们对资本感到厌倦的境地, 那么积累资本的回报率将会降低。然后,这些富人将消费更多, 因为投资的激励较小。基本上,你想想这种过程的总体平衡.. 自1820年以来,我们变得更加富有。更多的人投资, 但你仍然得到一个消费反应 保持人们。 [00:50:43]
Dwarkesh Patel：就业和劳动力比例很高。那是因为.. 坚持住。等等,这不一定。我想你可能 提出同样的观点。这可能是,他们的投资必须通过实际的工人来进行,他们必须做一些工作才能进行投资。将来只有消费是人类的,对吧?。因为投资只能由机器人完成.。 [00:51:04]
Alex Imas：所以,我们正在设想如何保持高劳动力份额。让我们来做这个假设。在劳动力比例高的情况下,无论出于何种原因,。
Dwarkesh Patel：资本回报会降低。没错。之前我们曾说过 中间的混乱是无法想象的 我觉得我们可以做类似的事情。我们的资本回报要低一点 增长率就得低一点,对吧?。这肯定要低于我们在转型AI时期的预期.。
Phil Trammell：如果有爆炸性增长.. 是亦无.。资本存量可以迅速增长,但资本货物相对于消费货物的价格可能会下降。
Dwarkesh Patel：比股本增长得快。这是潜在的技术前沿与这些东西实现的价格的区别.。因为你有相对的价格。所以,你的意思是,我可以把我的钱 为赚取30%的利息 投资数据中心,或什么的。如果增长率高的话,将来会有一些东西能赚取高回报。或者,由于所有这些技术的突破, 我现在真的想买一些很酷的产品, 这两个都将成为令人信服的选择。对。不一定是新产品。可能是人类的内脏产品。虽然,如果它是人类的内涵产品,我们想它在未来比现在要多得多,因为它比较的是——。 [00:52:34]
Phil Trammell：我们也许希望它和我们现在想要的一样, 即芭蕾舞剧表演中的边缘用途 与现在完全一样。但机器人的边缘用途可能比现在低很多。所以在机器人的单位里,我们比现在更想要它。利率是30%吗?。这取决于你所说的实际利率。现在每个机器人 明年都可能变成100个机器人。所以在机器人的单位中,利率为10,000.。但是如果机器人的价格下跌得很快..。价格调整.。我想这才是重点。这里的价格正在以这样有趣的方式调整, 太多的宏观模型不允许。正在发生的是所谓的特定投资技术变革。相对于消费价格,资本价格正在下降, 而不是做一个标准的宏观事情, 说有公正的产出, 这种事物的奇默拉 叫做产出, 一个一个人可以分配给资本或消费。于此世间无此真言.。明年每个资本单位的消费都比今年每个资本单位少得多。 [00:53:43]
Dwarkesh Patel：现在有一个机器人在明年变成了许多机器人,但芭蕾舞女的数量是一样的.。再说一遍,我们要回到不断增长的品种。如果明年这些额外的机器人 都是不同的品种。
Alex Imas：机器人和我不厌倦那些机器人, 然后这是一个非常不同的故事。 [00:54:04]
Dwarkesh Patel：但现在我们谈论的是消费世界。对于事物的投资方面, 可能只是一些贪婪的工业巨头 不断想要更多的机器人。仅仅这样就足以增加机器人的边际价值,从而减少劳动力份额?。对。为什么我们不期待 贪婪的工业巨头保持生存?。历史上工业贪婪的巨人 建立了图书馆和.. 但那是因为他们死了, 他们就像.. 他们都死了。每个人都死了。好吧,我们会看到。对临死的人有条件.. 你有一个客人在节目中 谁说理解未来, 你应该思考过去。你可以有新类型的巨人 出生,他的全部原因。 [00:55:04]
Alex Imas：积累财富只是积累财富。但很多时候,至少在历史上, 财富积累过程 是同龄人之间,社区之间, 大规模社会互动的一部分, 在那里,你希望以某种方式受到崇拜。
Dwarkesh Patel：工业的典型事实就是 你积累了资本,然后你买了一堆东西。我想这是一个历史问题,但在我看来,在许多情况下,正在发生的事情是,当他们接近生命的尽头时,他们要么把它交给他们的孩子,他们比他们更糟糕的资本管理者。他们甚至无法以经济增长的速度增长财富, 远不及他们父母的经济增长速度。他们喜欢,“嗯,我不在乎我的孩子拥有它 而不是我玩这种积累财富的游戏。所以我要给它一些信任。" 如果人们活得更久,或者他们能想出一些办法,让他们的信任与这个财富积累过程相一致. . 它只是感觉这里的进化是如此强大。你只需要几个代理商,他们这样认为 这决定了整个经济的偏好, 因为这部分比经济的其他部分增长快得多。 [00:56:23]
Alex Imas：关于满足和不断减少的边际效用的部分不断出现, 我认为这是非常重要的。如果一个人对积累有内在的偏好,那就是他们想要的,那么我认为你的故事完全正确.。但偏好通常不是这样的。你生命中充满了异想天开 社会状况.. 卢梭写了这个,圣.。奥古斯丁写道这一点.。这是偏好的基本部分。现在,你们在争论别的事,。 [00:57:01]
Dwarkesh Patel：在那里,你可以有如此高的注意力, 你可以只是有一些例外规则, 这将是足够的。我没什么好说的。我认为这个说法更强烈一点, 不只是你可以有一些例外,。
Phil Trammell：在历史上和今天,我们看到例外。他们只是没有真正接管 历史上的经济, 因为有这些散逸的冲击, 他们被称为。他们把钱给了挥霍它的孩子 或者放在花掉它的基础里。这不是真的震惊,但.. 人们可能喜欢在宇宙中填满自己的遗迹 并永生,非常富有。这是一种奇怪的偏好,但不是假设偏好.。我想这就是要求。但有谁知道他们脑子里在想什么?。即使没有积累的内在偏好,也有一些有用的理由说明为什么有些人可能重视积累,这也值得提出。人们渴望政治,哲学,或宗教的影响.。人们为了社会的样子和信仰而陷入军备竞赛。类似但又不同,因为它不是军备竞赛,而只是完全的功利主义慈善.。当我想着为什么将来能作为一个优秀的古典功利主义者拥有大量财富,对我来说,价值——或者至少一种方式,你可以有一种几乎不满足的效用功能,在未来拥有财富——就是创造新的幸福生物.。它们只会增加世界的整体福利。这个想法至少可以追溯到博斯特罗姆的天文浪费点, 我们可以把戴森球圈绕在恒星周围, 把所有的能量都转化为非常快乐的模拟和什么的。 [00:59:02]
Dwarkesh Patel：我认为这个优化者的特殊贪婪并不重要,他们贪婪的目的是什么.。忘了功利主义哲学什么的 一个纯粹的冯·诺伊曼探测器.. 我不知道,这是 准确的方式说出来?。它们只是对于它们会占据的随机太阳系有很高的边际价值, 因为那会变成更多的太阳系。冯·诺伊曼探测器是一种可以存在的东西.。这是一个非常贪婪的优化者。
Phil Trammell：如果我们在谈论他们是否会主宰经济, 也许这是技术性的。但我们只把最终消费商品和投资商品算作GDP.。如果只是这个现象.. 冯·诺伊曼探测器如何出现在GDP中?.。没错。如果我们承认它是一个拥有自己的人,它优化了在婴儿冯·诺伊曼探测器上花费更多钱的幅度,这个探测器将另一颗恒星系统或芭蕾舞团等殖民化,它只是不太重视芭蕾舞团..。 [01:00:00]
Dwarkesh Patel：当我们谈论AI生物时, 它完全取决于我们如何在那里做会计。在冯·诺伊曼探测器可能存在的世界里,世界是什么样子的?。劳动份额可能很高吗?。
Phil Trammell：我认为这有可能是 劳动力份额是高的 我们通常计算的方式。现在RL最大的问题之一是信用分配, 因为你有这些非常长的推广, 你需要知道为什么它们成功或失败。Cursor的一位研究者Sasha Rush(英语:Sasha Rush)给我做了一个黑板演讲,讲述他们如何使用有文字反馈的定向RL来解决这个问题并训练作曲家2.5.。我在iPhone上拍了片 所以为摄影机工作道歉。所以我们产生了这个输出。即是一序示现.。我们要把这些系列的符文 寄给这个模型, 它会读出来, 然后它会隔离一个特定的转弯, 它说有问题。那我们就做文字操作。我们只是要走那轨迹 然后我们真的要打碎一些额外的标志。在光标注射这些提示符后,它们又运行了另一个前传.。轨迹本身没有变化,但提示导致模型将更低的概率分配到错误符上.。然后Cursor训练了原始模型来匹配这些概率,基本上教它降低这些具体错误的重量.。还有很多细微的,我们无法包含在这个中卷。如果你想看完整的东西, 我张贴在我的推特上。如果你想尝试作曲家2.5,请前往光标.com/dwarkesh.。经济学家对不在AI生产链的国家有什么建议吗?。 [01:01:33]
Dwarkesh Patel：如果你不是生产AI模型,你就不会生产进入AI模型的硬件,如果你不是韩国制造HBM,或者用fabs制造台湾,或者用ASML制造荷兰.。印度或尼日利亚,。如果你现在和莫迪说话,你怎么说?。
Alex Imas：我认为,我们在经济学专业中所分配的最大资源短缺,是在AI时代思考中等收入的发展中国家.。我也有错。众生不思议此问.。有些情况下,你得到的人工智能技术被分配到尼日利亚和发展中国家并分散,使竞争环境更加公平,基本上使他们达到能力水平。但是,还有一个世界,因为他们没有足够的资源,他们没有训练模型,没有硬件,他们只是完全被抛在后面.。由于自动化,我们现在可以在发达国家生产商品。那么我们甚至没有消费市场。这个世界看起来很糟糕。 [01:02:49]
Phil Trammell：在我看来,这似乎是 混乱的中间案件的延伸。杂乱无章的中间产物在狭义的情景中可能只是坏的其中一种方式, 不仅仅是因为馅饼会更大而容易再分配, 而且因为利率会更高, 和/或者,等同,除了人类内涵商品之外,一切物的价格都会迅速下跌。他们差不多是同一枚硬币的两面。少许的节约明年会变成大量的消费.。事情会变得很糟,我们不得不越过资本的门槛, 资本的生产力足以使许多工作自动化, 但是生产力却不足以使利率高, 资本生产商品的价格正在下降。即使没有再分配,一点点的储蓄也会拯救很多人.。你是说如果发展中国家在发达世界有储蓄 那就足够产生大量盈余了.. 他们现在能够用他们的储蓄消耗很多钱。但是,混乱的中间 可能是更大的在这种情况下。它们从较低的层次开始, 从它们拥有的多少, 以及它们实际与全球经济的指数上看。我觉得他们现在必须上路了。我对它是否应该采取 主权财富基金的形式 投资正确的供应链或。 [01:04:12]
Dwarkesh Patel：只是补贴他们自己的公民 买一点点 - 这实际上是一个关键问题。我们之前讨论过为什么世界的洛克菲勒人, 为什么他们的后代不能控制一切, 如果我们关于选择这些贪婪的优化者的论点坚持。一种观点只是经济指数化非常困难.。也许他们只是决定让继承人把经济指数化,让自己的财富以经济增长的速度增长,现在他们的继承人将成为万亿富翁.。在指数基金存在之前,这是非常困难的。经济的一小部分,可以追溯到100年前,占现在创造的价值的大多数。如果你错过了这些特殊的东西, 你的财富就会停滞不前。从指数基金的创立到五年前, 可能有一个短暂的黄金窗口, 你可以把经济指数化, 并让你的财富以经济增长的速度增长。但是现在我们在这个世界上的回报非常集中, 尤其是私人公司。我们的博客文章指出,。他们的首都大多是随机居住的,至少在美国.。或一一门.。正如我们所说,这是极不适合于辅助人工智能生产或人工智能服务或机器人的资本。或富贵者所竞之类货,以高价.。没错。目前房屋的价值是什么?。就是这片土地接近其他人类和modulo关系的东西,只是不会成为未来生产的主要因素.。这就是为什么格奥尔格主义者的税收 无法筹集到足够的资金 用于我们将要讨论的方案。对。但是,退一步,我想说的是,如果现在经济指数更难指数化的话, 这是一般人的主要方式 来调节某种普遍的基本收入。 在发达世界.。应该是从AI那里买钱的。这也是发展中国家应该对AI的财富收益进行一些购买的方式.。却甚难.。尼日利亚拥有很多SK Hynix和Anthropic吗?。我猜没有。他们仅仅拥有S&P500是不够的.。这引起了一个非常重要的问题。AI会像电力还是社交媒体?。 [01:06:46]
Alex Imas：想想ConEd 或者这里的电力供应商。这是垄断。它提供了每个人使用的资源。但我们是否认为电力是造成电力集中?。康恩拥有如此巨大的政治权力,社会权力,还是类似的东西?。不,因为有了电力, 下游的许多好处实际上 给电力用户而不是生产电力的实体。另一方面,在社交媒体方面,情况恰恰相反。 [01:07:24]
Dwarkesh Patel：社交媒体到处都是。每个人使用社交媒体,但租金都去了平台.。这是一个非常有趣的点。我还没同意这个提议 我要大声说出来。你越觉得我们的经济会像电力公司一样运行 我们的经济会像电力公司一样运行 未来S&P的每个公司,如果要达到S&P500,那就是因为它借了AI.。没错。然后你又被索引了。但再说一遍,我想如果你只是看看 如何集中S&P 随着时间的推移, 只是这些大技术公司 更如此.. 我想这就到了一个根本的地步,很难解释这些个人私人公司能从AI获得多少收益来控制.。我觉得公开的模型是。 [01:08:22]
Alex Imas：这将是一个大问题在这里。如果我们真的处在一个开放的模型 落后于边境6个月,或者9个月, 那么我们就会打击通用人工智能,。
Dwarkesh Patel：六个月后,每个人都可以使用这种资源。这向你们表明,每个问题都与其他问题相关。关于是否有逃逸收益的问题,与递归自我改进的问题有关.。即使不是递归自我改善,然后继续学习,或者在线学习,让一个模型在工作上学习.。所以,如果它被部署,它可以得到更多的学习.。这些只是预测技术问题,然后影响乌干达是否会购买任何通用人工智能的收益。我之所以强调这个问题, 是因为我认为无论是对于混乱的中间国家还是对于发展中国家来说, 一个常常被天真化的建议是, 你必须做某种再培训。你必须做一些工作, 或者你必须让他们 在你的国家建立数据中心。我想你们在暗示 更接近购买通用人工智能的指数。这可能是一个更干净的策略 并且更有可能成功。 [01:09:33]
Alex Imas：这是两种情况。我认为有一个世界是集中的, 在这种情况下,它将很难对通用人工智能进行索引。还有另一个世界是电力。基本上每个公司都有机会接触通用人工智能.。所以你只买指数。尼日利亚只需要买下指数和尼日利亚。
Dwarkesh Patel：由于开放型号,所以可以访问通用人工智能.。只是想回到一个问题 关于是否。 [01:10:08]
Phil Trammell：进行再培训或尝试索引。我将优先尝试指数化, 只是考虑到AI能打出多快的世界。但我绝对不会仅仅依赖它。在杂乱无章的中间案件 或长线案件, 我们没有得到任何类似通用人工智能的东西 很快, 它会留下很多价值 在桌面上, 如果你可以重新训练,。
Dwarkesh Patel：我不认为有那么多 要么那里。也许对此事持悲观态度的理由是,一个国家之所以贫穷,其中一个原因是其教育制度很差,因此,成为世界上对使用AI的人进行再培训的最好人选,似乎对这个穷国来说不是一个特别有希望的战略。 [01:11:02]
Alex Imas：尽管有些情况是,在发展中国家,你通过移动银行业等产生了这种飞跃效应。它在尼日利亚比在德国普遍得多.。每个人都在做移动银行业务。他们的电话里有, 他们经常做这种事情。再说一遍,我并没有把概率放在上面, 但是有了像AI这样的变革性技术, 你就可以跳过中间的台阶,得到真正的天文增长。
Phil Trammell：只是关于索引的容易性, 我认为这绝对是一件事情 担心一点点,并注意。但是,正如我们自己的论文中所讨论的,并且正如其他人指出的,它已经没有那么难索引了.。回报的私有化有一点增加, 但是,远远低于美国非本地公司总市场上限的20%是私人的。每个人都在想OpenAI和Anthropic.。如果这就是所有财富的积累之处, 那么所有这些关于开放模型是否只留下一点点落后的问题, 这些都很重要。但是,即使他们看起来 似乎他们去公开 不久,也许。阻止公司对外公开的摩擦本身可能因AI而大大缓解,只是所有披露要求等等.。他们也想接触更多的潜在投资者。如果我不得不猜测,我猜想,降低这些摩擦和使越来越多的人更容易指数化的长期普遍趋势将会继续下去,尽管最近出现了另一个方向的冲击。 [01:12:54]
Dwarkesh Patel：这实际上让我更希望 比之前, 实验室确实得到商品化, 或者至少他们尽快公开。但希望他们只是得到完全商品化。我认为AI将更受欢迎,更重要的是,如果像捕捉电气化的成果一样难以捕捉AI的成果,那么它更可能导致繁荣的广泛增长。没错。外无反电者.。我是说电不能占用你的工作 但是.. 嗯,这需要一些人的工作。这需要一些人的工作,是的。 [01:13:36]
Alex Imas：这也许与谈话无关 但我认为叙事很重要。现在AI周围有一种非常负面的叙事,但这是因为人们并没有拿出积极的叙事.。有原因的。想象一个不存在的好事比失去存在的东西更困难.。一个人去播客说 "你喜欢的这些工作,他们就要离开" 比一个人去旋转一个还没有存在的乌托邦容易得多。 [01:14:10]
Phil Trammell：我希望这不会太超出左侧领域, 但是如果我不指出一个巨大的成本,。为了安全起见,你可能想要更少的前沿公司 以便每个人都有一个缓冲 以防他们想减速 使事情更安全。这与我们之前关于 广泛获得返回的要点有关, 我认为那里比一些人想象的要少很多。有些人认为边疆AI要么被商品化, 我们都享受到好处,。但这意味着领导者们变得非常富有?。没有。你可以有一个相对大的缺口, 但这是一个公共公司,。 [01:15:11]
Dwarkesh Patel：其所有权得到广泛传播。最近,我一直认为商品化的风险是值得的,因为它分散了将AI用于有害目的的能力。我担心,拥有这些集中的实验室,不仅使得盈余不会在社会上被广泛分配,而且还为政府创造了一个非常具体,明确的政治目标.。我们用国防生产法 来威胁Anthropic。如果没有一个实验室,或者几个实验室, 明显领先于其他实验室, 这种威胁就更难制造。谢谢你的帮忙。我觉得有很多未解决的问题,但是知道第一个分支在所有这些重要维度上是什么很有帮助.。不错。谢谢。 [01:16:06]