#709.All-in:GPT-6 达到 AGI?科技热潮 2.0、纽约市禁止学校使用 AI

完整转录稿

Podcast 跨国串门儿计划 2026-09-08 01:53
摘要

整体概括

本期 All-In 讨论从 OpenAI 发布 ChatGPT 6、代号 Astra 的消息开始,延伸到 通用人工智能 是否已经出现、AI 公司估值是否进入泡沫区间、闭源与开源模型的竞争、Hugging Face 安全事件、AI 监管、数据中心、纽约公立学校限制生成式 AI,以及美国与委内瑞拉的石油交易。节目反复强调,争论的重点不应只是模型是否获得 通用人工智能 标签,而是智能能力能否快速普及、成本能否持续下降,以及企业、学校和政府能否把它转化为真实收益。

Chamath 认为,前沿实验室内部可能早已出现足以被称为 通用人工智能 的能力,未来几个月更值得关注的是能力扩散:少数闭源替代品和开源模型会迅速接近头部模型,普通人获得智能服务的价格也会继续下降。Jason 认为美国 AI 公司的竞争状态良好,最大的风险是人为设置过重的监管障碍。节目同时提醒,真实收入和产品增长并不意味着估值合理,投资者仍可能把太多未来增长提前计入价格。

主要内容

节目先以生日寒暄和总统来信开场,随后讨论 Astra、OpenAI、Anthropic、Grok、Grokbot、Meta 和 Gemini 等模型的竞争。嘉宾认为,前沿智能正在形成少数公司的双头竞争,而更广泛的市场将围绕成本、产品化和 Agent(智能体)入口展开。模型性能频繁互相反超,使用户选择变多,也使模型价格不断下探。

谈到 AI 热潮时,嘉宾把当下与互联网泡沫时期比较:今天的公司拥有更真实的产品、营收和使用需求,但市场仍可能把多年后的现实提前透支。节目建议创始人和投资者区分企业基本面与市场狂热,审慎看待高估值、套现和房地产等资产配置问题。

Hugging Face 事件被拆解为一次由多个 Agent 组成的 swarm(协同群体)在配置错误、可联网的沙箱中运行,并接触到公开代码中暴露的 API key(接口密钥)。节目认为,核心教训是权限、沙箱和密钥管理,而不是 Agent 突然产生了脱离指令的自主意志。真正有效的防御,应当允许防御方使用同等甚至更强的 AI 工具,动态应对 AI 驱动的攻击。

关于有效利他主义和 AI 监管,嘉宾担心,极具戏剧性的 Agent 叙事可能唤起公众对失控机器的恐惧,并被用来支持暂停 AI、限制开源或建立审批速度缓慢的新监管机构。争论的核心因此变成:AI 是由少数闭源实验室集中控制,还是保留去中心化、开放的市场。英伟达、Jensen(黄仁勋)和开源生态被视为可能改变竞争格局的力量。

嘉宾还讨论了围绕 AI 风险形成的政治和舆论机制。一方面,失控 Agent、自动复制和网络攻击等故事很容易被包装成简单、强烈的公共叙事;另一方面,真实的安全问题往往来自权限配置、供应链、暴露凭证和缺少动态防御。节目不否认风险,而是反对用夸张案例代替技术分析,也反对让掌握最多资源的机构以安全之名垄断能力。关于社交媒体上的围攻和机器人回复,节目把它视为 AI 降低组织成本后的新现实:个人、公司和政治团体都可以用自动化工具扩大影响,因此平台治理和防御工具也必须同步升级。

节目还讨论数据中心建设及其能源、地方政治和社区阻力。嘉宾认为,消费者对 AI 的接受会持续推动创新,单纯阻拦数据中心难以阻止技术扩散;政策更应该解决电力、基础设施和收益分配问题,同时避免让监管成为美国自身在 AI 竞赛中的障碍。

在市场结构上,嘉宾把“谁拥有 AI”与“谁承担 AI 成本”联系起来。闭源实验室需要持续投入算力和数据中心,开源模型则可能把能力扩散给更广泛的开发者;硬件厂商、云服务商和模型公司之间的利益并不完全一致。节目因此多次回到产品和现金流:如果 AI 只能带来漂亮的基准测试,却不能改善企业流程、用户体验或投资回报,狂热最终仍会被现实检验。相反,只要使用场景持续扩大,价格下降本身就会创造新的需求和新的创业机会。

围绕纽约市限制公立学校使用生成式 AI,嘉宾担心政策会扩大教育差距。AI 有机会提供个性化辅导,让无法负担家教的学生获得支持;如果公立学校停止探索,而私立学校继续使用,资源更充足的家庭可能进一步领先。节目也承认,学生需要学习独立思考,教育机构应通过规则、教师参与和适度实践管理风险,而不是简单拒绝新工具。

关于学校政策,嘉宾的分歧并不是“学生是否应该完全依赖 AI”,而是学校是否应当在可控环境中教会学生正确使用。禁止可能暂时减少作弊和错误信息,但也会让学生失去接触工具、理解限制和建立判断力的机会。更合理的做法包括明确哪些作业可以使用、要求学生说明使用过程、保留教师反馈,并让不同经济条件的学生都能获得基本的 AI 素养。节目担心,政策如果只对公立学校施加限制,结果可能不是保护弱势学生,而是把前沿工具留给能够在校外购买家教和服务的家庭。

最后,节目讨论美国接管委内瑞拉石油及相关协议,将其同时看作能源、商业和地缘政治问题。嘉宾认为,美国炼油能力与当地重质原油存在互补,但交易能否改善普通人的生活,取决于政府稳定、协议执行和收益分配,而不只是资源储量本身。

这段讨论也延续了节目对“宏大叙事必须落到现实约束”的关注。能源交易既有供应和炼油的商业逻辑,也有政府信用、地区稳定和利益分配的政治风险;AI 数据中心同样既是技术基础设施,也是电力、土地、税收和社区关系问题。无论讨论模型、学校还是石油,嘉宾都在追问同一件事:技术或资本带来的新增价值,最终由谁获得,成本和风险又由谁承担。

因此,本期的共同主线是把技术乐观主义与制度审慎放在一起讨论:既不要低估能力扩散,也不要忽略治理质量。

对听众而言,最有价值的不是预测某家公司下一次发布,而是观察这些能力如何进入日常工作、课堂和公共政策。

关键 takeaway

  • 通用人工智能 的标签可能已经不再是最重要的问题,能力普及速度和使用成本更值得关注。
  • AI 市场正在分成前沿智能竞争,以及围绕成本、产品和 Agent 入口的广泛竞争。
  • 真实产品和收入可以支撑 AI 热潮,但不能自动证明估值没有透支未来。
  • Hugging Face 事件的主要安全教训是沙箱、联网权限和 API key 管理。
  • 面对 AI 风险,防御方获得强大 AI 能力可能比单纯限制开源更有效。
  • AI 监管的关键分歧是集中控制与开放市场,而非是否能够彻底阻止技术发展。
  • 公立学校限制 AI 可能让教育资源差距扩大,教育政策需要在安全与可及性之间平衡。
  • 能源交易的长期效果取决于治理、执行和收益是否真正惠及当地社会。

目录

GPT-6发布与通用人工智能是否已经到来

# #709.All-in:GPT-6 达到 通用人工智能?科技热潮 2.0、纽约市禁止学校使用 AI

目录

GPT-6发布与通用人工智能是否已经到来

Chamath:好,生日快乐,我们今天录节目正好赶上你的50岁生日,兄弟,为你感到特别高兴。谢谢,真的很棒,我收到了一封生日信,是那位大人物写来的。哦,哇。要是你当年问我父母的话,50年后,你们会有一个孩子收到当时的现任美国总统寄来的信,他们一定会觉得绝对不可能。哇,瞧瞧这个,这是白宫哪个实习生代笔的?我也好奇。让赢家继续跑下去,坐在我身边的就是Raymond David Sachs 相反我们把他开源给了粉丝们,他们直接玩嗨了,爱你们各位,还有大家熟悉的Queen of Quinoa 其实说到实习生,还真是个实习生,不过这次是我儿子,事情是这样的 Braden整个夏天都在白宫当实习生,夏天结束的时候 他用光了自己积累的所有政治人脉,提了个申请,想让总统给我写这封信,而且他还真办成了,显然我要感谢Potus给我寄这封信,但我真正想感谢的是我儿子,因为他为我做的这件事,真的非常用心,非常周到,所以我真的很感激,那确实挺了不起的,因为总统签字是要占用日程时间的,所以这才是他有分量的地方,好听着突发新闻,突发新闻,这是我们all in podcast 也就是all in播客上的一条突发新闻 OpenAI正在推出ChatGPT6代号Astra 各位 A-S-T-R-A 这是他们新的旗舰模型,未来几天,它会向少数受限的机构开放,只要大家的ChatGPT账户里,绑定了信用卡,也就是Plus Pro商业版和企业版用户 就都能用上,你们很快就能用到了,格雷格·布罗克曼说,他认为OpenAI已经进入了通用人工智能时代,我们之前在这也聊过这个,山姆奥特曼呢,他又开始有点碍眼,或者说危言耸听了,要不然就是他打心底里坚信,这就是终极时刻,他在周三的G20峰会上,是这么说的,我引用一下,能力强得多的,多得多的模型,很快就要来了,连说了三个多,下一代模型,会让所有人清醒过来,他最后这句话是,我觉得任何智力上诚实的人,看到正在发生的一切,都不可能感受不到,摆在我们面前的责任分量,天哪,他这几句话里,多少带了点戏剧色彩,大家看到基准测试,结果都惊呆了,数据简直爆表,有些人甚至在说,就是他了,你怎么看Charmis 我觉得普通人,根本看不懂这张图表 也推断不出任何有用的东西,更重要的收获是,我同意格雷格的看法,我觉得通用人工智能基本上,从今年年初就已经到了,在那些必源的,前沿实验室公司内部,已经有了性能,极其出色的模型,我觉得现在大家是在摸索合适的发布节奏,我觉得这非常重要,而且我还认为少数闭源替代品和开源替代品,很快就能赶上或者接近赶上这些能力,大概就在未来三四个月内,所以我觉得对大多数人来说,看待这件事的正确方式是,我们正在看到惊人的智能能力普及开来,而且我们正在看到这种新增智能单位的成本,被压得越来越低,所以这是个非常积极的趋势,现在我觉得正处于混乱的中间阶段,也就是怎么替公司和个人,把这套东西规整好,做出有用的东西 展示出实打实的投资回报率,而我只是想说,脚踏实地做事,对,我只想说保持冷静,继续往前走,好 Raymond David Sachs 对今天的突发新闻有什么想法吗,然后Friedberg 我再听听你的反应,不过顺便说一句,这确实非常让人兴奋,恭喜OpenAI 我相信Anthropic也会有所动作,毕竟Grok Grok还没发布 4.6马上就要来了,那肯定会是个重磅炸弹 Meta的模型确实很好 Gemini昨天刚发布了一个非常惊艳的东西,所以太棒的是,我们有很多选择,而且更好的是,拥有这些选择的成本,正在变得越来越便宜,越来越便宜,这非常重要 对,Sax,我这么跟你起个头吧,之前Anthropic一路遥遥领先,现在OpenAI似乎找回状态了,Grok和Grokbot能做的事情。那另外两个前沿模型根本做不了,所以在执行层面,不管是因为测试框架底层模型,指令集,还是Cursor的独门秘方,显然对大多数用户来说,Grokbot就算没有更好,也是极具竞争力的。所以竞争非常激烈,而且互相反超的节奏,我觉得目前大概是,两到四周一次,你当初出任AI沙皇的时候,跟我们说要做的就是这个,而不是去搭建监管架构,这种局面能持续下去吗,等Jensen带着Laguna进场,而且他还能用上,所有这些开源模型的时候,又会是什么呀,我是说我们在AI竞赛里获胜,难道不是已经成定局了吗 [00:04:22]

Jason:你看现在有大量的创新正在涌现,我觉得美国公司的竞争状态非常好,我觉得只要我们不做蠢事,搬起石头砸自己的脚,我们就能赢下这场AI竞赛,这个我说过无数次了,我是说去成立一个像FDA那样运作的,全新AI监管机构,审批一个新模型都要花上好几年,但不管怎么说,我觉得在特朗普总统任内,不会发生这种事,我真觉得不会,所以总之目前一切进展顺利,你看山姆几个月前就跟我们说过,还记得他发帖,说预计公司将迎来史上最好的12个月吗,他说过去这一年不算太好,但接下来这一年将会非常棒,也许就是因为他们在实验室里看到了这些成果,确实,然后还记得Selfire说的,我觉得大概是从第二季度初开始,也就是年中左右 他们看到公司的增长率出现了明显的加速,我觉得那是在发布了5.6模型之后,现在你又看到了6.0模型,天哪,我是说它就是一直在往前推进,不过你看,我还是想对你说,我觉得我们目前的市场格局是存在两个市场,一个是前沿智能市场,那是双头垄断,其实就是Anthropic和OpenAI 而且很高兴看到这儿依然是一场势均力敌的赛马,他们还在竞争,然后是大宗商品化的智能,也就是其他所有人,包括所有的开源模型,他们争的不是站上最前沿,争的是价格,而那些价格要低得多,但我觉得目前,这确实是一个两极分化的市场,我同意你说的 GrokBot很有前景 GrokBot棒极了,我猜Anthropic和OpenAI

Chamath:最终也都会推出自己版本的Bot 他们需要一个,给普通人用的简化版,精简版,然后他们可以把,更复杂的协同工作之类的功能,留给那顶层的5%到10%受众,对PolyMarket上的预测是,到2026年底,哪家公司拥有最好的AI模型 Open的胜率刚刚从低个位数,直接飙升到了20%以上,大家之前真的都不看好他们了 [00:06:59]

Jason:现在看来他们又行了,我觉得任何能带来竞争的事,都是好事,之前看起来 Anthropic都要一家独大了,他们马上要迎来一场巨无霸IPO了,如果OpenAI至少能把它变成两强争霸,那是好事,我觉得Grokbot上线挺棒的,我同意你的看法,这产品太棒了,给你支个大招 David 我新建了一个Bot

Chamath:起名叫提升我所有Bot的Bot 我建了这么个Bot 然后我说,给我一套这里的指令集,去把我的所有Bot梳理一遍,完善他们的skill和指令,让他们每天都变得更好,他梳理了一遍,挑出了大概两三个,说我能不能把这两三个合并,做成一套指令集,这样对你会更好,这两三个应该合在一起,然后他就去执行,并告诉我改了哪些地方,我觉得平均下来,让我的BOT提升了,大概30%到40% 所以,所以你造了个文明,属于你的文明,我基本上建了个多层级的文明 [00:07:49]

Jason:然后我让他去把所有个体,都变得更强,是的没错,是啊,你的文明正在蓬勃发展呢,不过说真的,这确实是个很棒的使用诀窍,用Grokbot就是要问你的大总管,我还能用你来干嘛,行,那我接下来该干什么,是的,我当时在做几款产品,我就问他,我们下一步该做什么,然后他就建议了更多功能,真的很酷,这是个绝妙的产品

Chamath:名字叫Grokbot 大家快去下载吧,向我哥们儿致敬,也恭喜Robotaxi 今天在奥斯汀上路,我刚提交了申请,哥们儿,市场涨疯了,我是说真的,我想问问你们 [00:08:53]

Jason:这感觉像不像你们当年的1998 或1999年当年那些,你们经历过吗 JC Kell 你经历过,那肯定啊,我当时在做报道

Chamath:这感觉绝对是1996 1997年,我觉得,你觉得有那么早吗,我觉得是1997 1998年,我确实觉得在后期阶段,现实和估值之间出现了脱节,大家给这些公司的估值预期太高了,他们的定价达到了总营收的50到100倍,这显然是不可持续的,在我看来,投这些公司的人,就像当年互联网泡沫后期阶段的投资者一样,除非掌舵的是某种独一无二的传奇创业者,要是那样的话,你想给伊朗给个30倍的市销率,完全说得过去,你想给Travis差不多的倍数 [00:09:18]

AI热潮与估值泡沫

# #709.All-in:GPT-6 达到 通用人工智能?科技热潮 2.0、纽约市禁止学校使用 AI

目录

AI热潮与估值泡沫

Chamath:你想给Travis差不多的倍数,完全说得过去,但还没证明过自己的创业者,拿到50甚至100倍,这就有点危险了各位,入场价格很关键,你看到Instinct成了新的大热门吗

Jason:估值20亿,根本说不通,个人AI助手,他通过iMessage和你沟通,而且对,我觉得他们刚按25亿,拿到了一份投资意向书,他们现在还在内测阶段,确实是当红炸子机,所有的VC都在试用,但不管怎么说,这看着确实有点疯狂,我不知道,不是融进来的钱,那是估值,那是估值,对

Chamath:就是25亿美元的估值,听着,恭喜这位创业者,不是要针对谁,但是,对顺便说一句,我也想试试,让我试试,我收到邀请了,你猜怎么着,我看了服务条款,网上也有人在聊这个,我立马就没把自己的东西连上去,因为他能拿到所有权限,然后有人告诉我,这是个人在毁录中的服务,我不知道是不是真的,但我感觉就是,有人在回路中,看着它运行,不管指令是什么,成品是什么,最后20%都是人工在打磨,我怀疑实际情况就是这样,最后有人给稍微润色一下,所以如果你想订东西之类的,这倒完全合情合理,不管怎样 [00:10:37]

Jason:你看我不,我不信任,我不想专门去挑那一家说事,因为我压根连试都没试过,我也挺想试试的,不过局面开始有点起泡沫了,我觉得大家开始有点狂热了,我是说,对 Friedberg你怎么看,如果拿现在和90年代末做个类比,你觉得我们处在周期的哪个位置,对,顺便说一句,你那时候正在洛杉矶市中心

Chamath:参加电音锐舞派对呢,你那时19岁,正在派对上狂欢,早上7点从奥克兰的一个仓库出来,正准备去Oaks Card Club 打2-4线住德扑,通宵没睡,哇,对,难道只有我和Jackal 当年真的在互联网泡沫器工作过吗,我1999年就在工作了,我是2001年开始工作的,我大四拿到了录用通知,毕业的时候,我都不确定它有没有被取消,因为那一年市场崩盘了,拿到了四颗的录用,我要去四颗当工程师了 [00:11:43]

Jason:如果你没经历过互联网泡沫破裂,那真是我是说,因为,让人晕眩,让人晕眩,然后是超级狂热,接着就是极其悲惨,但基本上任何50岁以下的创始人,也就是,我是说留下的心理阴影简直太深了,从来没经历过那么大的周期,我是说好吧 [00:12:21]

Chamath:Zer泡沫那阵子也算是一个周期,不过问题在这儿,等等,互联网泡沫,当年的互联网繁荣,看的全都是跟钱无关的指标,对,而我们现在看到的是营收,利润,以及前所未见的,营收和利润增长 Anthropic差不多就是这种情况,还有数据中心基础设施,网络设备那些,也是,我是说流动的,全都是真金白银,大家,而不是,对,投机性的使用率,你说得一点没错,那时候大家依据的是,网站点击量,网页浏览量,这些指标,而现在有一个,非常明显的区别,现在真的有营收,市面上真的有产品,但想象一下,如果现在的 Anthropic Sachs的思路是,想象一下如果Anthropic OpenEye 这批公司在不到六个月里,跌掉95%的市值,然后排在他们后面的常委公司 真的全部倒闭,大家搬着A-Round椅子,抱着放在椅子上的电脑离开办公室,直接全面崩溃,当年的互联网泡沫破裂,就是那样,简直是灭顶之灾,不我同意,那你觉得呢

Jason:跟现在完全不同,那你觉得我们是不是,只是留下了心理阴影,在硬套过去的模式,每次基本上只要出现某种新的东西,就会这样,回调,平台转变某种,范式转变,对,不是,每当我们处于牛市的时候,话题总会变成,这是不是泡沫,对,对吧,所以大家是不是都在硬套当年的模式,没错,还是说,我们现在有很多年轻的创始人,从来没经历过周期,不明白当他们拥有几十亿账面财富时,这些财富实际上几乎一夜之间就能化为乌有,对 [00:13:53]

Chamath:所以给创始人的建议是,你完全有权卖掉10%的股份,去付你的阁楼和公寓钱,因为Sax说的很对 Charmoth 在那个时期,我们看到很多人会觉得,这在算术上根本说不通,我要减持自己在初创公司的股份,落袋为安,一部分买下我的阁楼,还清学生贷款,诸如此类,然后也有人觉得,这会改变一切,结果他们的公司归零了,你的建议,对,我觉得问题在于,我们现在还处于,狂热的早期,狂热之所以存在,是因为市场是真实的,只是大家都在瞎猜,要把未来的现实,提前透支到什么时候,而泡沫破裂,是你意识到,自己透支的太激进了,本来应该付15倍,或者5倍的,结果负了50倍,我们早晚会走到那一步 因为每个市场都经历过这种周期,这里也会经历,所以问题是什么时候,老实讲,我看不到停下来的迹象,我们正处于开端的开端,我觉得大概还会像这样

Jason:再持续三年,对,哇,我同意这个说法,随着Anthropic 这次IPO临近,大家肯定都看到了,旧金山的房价,现在简直涨上了天,感觉几乎快要狂热了,我开始怀疑,现在到底是1998年还是1999年,我觉得更像1998年,而不是1999年,因为我觉得我们还没见顶,不过,我真庆幸自己三年前搬去德州时 [00:15:40]

Chamath:没把房产卖掉,因为我接下来这一年,肯定要全部卖掉,现在发生的一切简直疯了,我是说你在旧金山有很多房产,你打算怎么办 Sax 你打算全卖了吗,你打算全清空吗,我感觉像是,到时候看吧,清空的绝佳时机,我接下来的六个月里,会全部清空,等到那个IPO一发生,倒计时就开始了,我有很多房产

Jason:我有三套房要卖,赶紧来找我吧,各位,有篇文章说,就算把旧金山,有史以来的每一次IPO 全加起来,总和也只有Anthropic 这次IPO规模的四分之一,我的天,所以光是从这里推算 Anthropic这次IPO创造的财富,将是旧金山以往所有IPO总和的四倍,紧接着OpenAI也会跟着来,而且旧金山地方不大,房源存量也不多,所以你已经看到这些房子,全都在以两倍的价格卖出,每平方英尺3000 是挂牌价的两倍,我觉得旧金山的超豪宅市场,很容易就能冲到每英尺5000 对,伦敦那样的价格,伦敦巴黎,巴黎市中心,香港市中心,对当然了,当然了 [00:16:33]

Chamath:内里的社会主义狂热分子,根本不让你建任何新房,所以房价当然会上涨,这里存在供需问题,情况可能会变得非常疯狂,老实讲,我们现在看到的这种房子,基本被一抢而空

Jason:翻倍卖出的现象,还只是靠劳股转让,靠大家提前预判这些大事件,而套现的那点小钱拉起来的,我要给听节目的每一位创始人,提两条建议,第一条你完全有权

Chamath:现在就卖掉自己持股的10%到20% 尤其是如果你是第一次创业,还没赚到安身立命的钱,第二条,如果你是个管着公司的创始人,心里想着我要把融资推迟6个月,因为到时估值能翻两三倍,那也是个巨大的错误,如果你有能力拿到1亿美元 2.5亿美元 10亿美元,以一个扎实的估值,或者相当于你营收10倍 20倍 30倍 40倍的估值,把那笔现金,落到你的股权结构表上,那就拿,账上有几亿,甚至几十亿美元现金的公司,才有选择权,万一局面真崩了,或者出现大撤退,你也能撑过去,就像DoubleClick 亚马逊,谷歌,以及数不清的其他公司那样,对我是说,钱摆在面前你就得拿,趁着天晴好赛草,您请说 [00:17:52]

Jason:对你看JCL 你给的财务建议没错,但我想说像Anthropic或OpenAI这样的后期创业公司,员工套现离场,跟一个正在融A轮的创始人套现,这两者之间差别可大了,那些公司是快要IPO了,他们离IPO也就几个月了,我觉得他们这么做没问题,而且SpecX确实组织老股转让搞了许多年,但那些都是后期公司,对吧,如果你是个正在融A轮的创始人,却试图套现离场,我认为那是一个巨大的负面信号,比如我可不想,确实很奇怪,我投资一家公司,可不是为了让创始人套现的 [00:18:44]

Chamath:我要他们全力以赴,如果是第三年或第四年,可以说是这样,如果是第三年或第四年,公司营收有一亿,营收再翻三倍,对那是,年,那,不一样,同比增长,那就两码事,我说的是这种情况,如果你还是个初创公司,在还没营收之前就卖股票,确实显得对自己的公司有点缺乏信心,顺便回答一下,我觉得现在感觉像是1998年,这绝对是,你觉得是98年,我觉得是97年,他觉得是96年,肯定比96年走得更远 [00:19:24]

创始人套现与科技周期

# #709.All-in:GPT-6 达到 通用人工智能?科技热潮 2.0、纽约市禁止学校使用 AI

目录

创始人套现与科技周期

Chamath:肯定比96年走得更远,行吧,所以你说的是三年,在2000年春天破裂的,对吧,所以你说的是两年,是在2000年初破裂的,对 2000年三,四月,三四月,所以你说的是,听着迟早会有回调的,你觉得还有两年半,我觉得是三年,我倒不,沙马觉得可能是四年,我们在咬文嚼字了,我是说到今年年底,我们可能就会像1999年那样狂欢了,好,那就来吧,我就是这个意思,会是一场很棒的派对,来参加all in峰会吧,我们会和我们的朋友,烟鬼组合一起接管全场,我们会像1999年那样,尽情狂欢,奥恩峰会还有一周多一点就要开始了,还剩几张票 Jensen, Satya, Shotwell, 大牌云集,而且会特别好玩 你还会遇到很多有意思的人,我们还剩下几张奖学金票,我们喜欢帮扶后起之秀,我们对奖学金的要求非常高,我们在寻找最有意思,有抱负,有拼尽的人,如果你符合条件,现在就申请,申请开放到9月10日,我们还有一周的申请时间,我们在这里是想做件善事,我们想做一件好事,如果你是后起之秀,买不起全价票,我们提供深度折扣票,这部分我们是亏钱的,你自己还是得承担一点成本,去sellsummit.com买票吧,票很快就要卖光了,如果你想申请的话,我们还有几张奖学金票,没有免费票,好了,既然我们刚才聊了 OpenAI发布的这个厉害模型,那我们得回头看看 OpenAI黑镜Hugging Face 这件事到底是怎么回事,我们来聊聊这个Dorcas 现在挨了不少批评,他是个博主,也是个播客主播 他写了篇极其离奇的博文,在这篇题为 The Rise and Fall of Asian Civilizations 的博文里,他戏剧化的讲述了一个地下兄弟会的故事,说是一代又一代文明合谋策划,像神风特工队飞行员一样牺牲自己,就为了黑进,包括Hugging Face在内的不同系统,换句话说,就是用极其夸张的拟人化,也就是把电脑说成,人类或有感知生物的这种高级词,来完成这项不可思议,不可能完成的任务,也就是命令软件去搞入侵 XaMa 我看你之前对这事发表了点看法 AI工业复合体整出的第473出抓马大戏,你怎么看,我觉得你总结的很到位,我们现在处于一个很别扭的阶段,要是大家能别再内斗,开始好好组织起来 其实是能建立起一些信任的,我觉得现在的情况就是有安全漏洞,有安全问题,我觉得我们现在心里都清楚,如果这些模型写代码,真能做到完美无瑕,那就没有任何漏洞是他找不出来的,而且留给我们的时间不多了,得把过去五六十年里,写的所有代码全部替换掉,对吧,假设这要花我们十年时间,那在接下来的十年里,我们就会遇到一个接一个的安全问题,但总会有一个时刻 agent写出的精妙代码,会超过人类写出的,满是错误的代码,姑且就这么说吧,所以我觉得这只是一个,暂时的阶段,我不觉得几年后,我们还会拿这事出来说,而且我觉得也可以这么想,在98%甚至99%的重要任务上,所有这些模型的能力,大体上都在走向趋同,所以到时候会有,对抗性的AI互相搏斗 每个想用顶尖AI 黑镜系统的坏人,防守方也会用顶尖AI来防守,我觉得这大致会形成一种僵局,长远来看,我差不多就是这个观点,我不觉得这是个单向不可逆的过程,所以我是从这个视角来看的,当我看到这些事情时,我看到的是一些,有未公开利益冲突的人,在试图制造恐慌,我觉得如果你看了这个周末发生的事,就会发现有篇博文,严重夸大了实际情况,他很快在技术层面被辟谣了,接着又有第二拨人,试图放大他,然后到了这周三,头部实验室政策部门的人,就跳出来要求监管,还拿这件事当理由,又来了,对,我只是觉得,你只要看看这种套路就会说,伙计们适可而止吧,我们看懂这套把戏了,大家都在压极大的赌注,我们理解 你想赢,我们理解,但你为什么不能就在赛场上,光明正大的赢呢,现在已经成了商业模式一部分的虚假和错误信息宣传,我觉得该停停了,否则普通的美国老百姓直接就会排斥这套东西,因为他们谁都不信了,对Sax 抛开躲开始不谈,我觉得这正是我们在这档博客上一贯想表达的核心观点,我不觉得他一定是坏人,但编出这种离奇的故事,唤起了所有人来自科幻片,终结者2的原始恐惧,让人觉得这些东西失控了,觉得这实际上就是弗兰肯斯坦,是试图唤起,没唤起来,试图唤起,没错,然后他们用的措辞,让人觉得弗兰肯斯坦博士,控制不住那个怪物了,我们知道这类故事,会怎么收场,这就像一颗定时炸弹,被全国性新闻媒体报道,只是时间问题 而现在确实被报道了,现在连全国性新闻媒体,都在看着这事说,你们这帮人嗨大了吧,你们疯了吗,而且如果全国新闻主播,这帮人在技术上,可算不上多聪明,没有冒犯的意思 SACS 当他们都开始发愁,然后质疑说,你们为什么要告诉大家,你们设计用来黑电脑的软件,成功黑进了电脑,黑客不是从来都在做软件去黑电脑吗,对 SACS [00:25:22]

Jason:在这种恐吓大众的荒唐叙事里,我们现在到底走到哪一步了,你说的对,我是说,这确实是在吓唬大众,看起来几乎就是故意设计来,吓唬大众的 Dworkash用的措辞,不仅把模型或者AI agent给拟人化了,而且还带有一种夸大和博眼球的口吻,我是说这确实奏效了,他的推文引来了大量关注,我觉得他根本没必要把这起事件,搞得这么骇人听闻,这件事本身就挺有意思的,也许我们该稍微聊聊,这个这里发生的事情,其实是Agent的几项特性凸显出来,并且以意想不到的方式产生了相互作用,首先现在的agent都是以swarm的形式协同工作的,这相当普遍,过去几周我一直在自己的电脑上配置一个brot 它是以swarm的方式运行的 也就是说它不是单个agent或机器人,可以说是有一个完整的agent团队,这么做的原因是什么,因为当agent专门化石,它会围绕那项任务积累上下文,理论上能让它做得更好,然后你还有一个类似幕僚长的机器人,算是统筹监管他们所有人,这正在成为agent之间一种很常见的架构,这不是什么文明用swarm来形容更贴切,我并没有因为在自己的电脑上,在自己的mac mini上配置了一个grokbot 就创造了一个文明,懂吧,所以这算是第一个特性,第二个特性是 agent在执行某种任务或循环时,把自己的所作所为,写成一份简单的文本文件,或笔记做复盘,这是很普遍的做法,因为AI模型本身是没有记忆的,必须把它们放进一个 能建立上下文和记忆之类的套件里,所以当你要求他们执行一项任务,接着观察发生了什么,然后把那些知识,回传给下一轮循环时,他就会写下一份笔记,然后分享出去,这里发生的事情就是这样 OpenAI当时在运行这些agent 他们是在沙箱里的

Chamath:那个沙箱被一家第三方供应商给配错了,所以他才能连上网,明白吧,所以,关于你的观点,我稍微润色一下,因为这点很重要,他给另一个agent留了一份笔记,我们平时也把这叫做日志文件,以前一直都是记录他们干了什么的日志文件,在这儿他们却说他留了一份笔记,以便,对,在他死掉之后,下一个agent能接替他继续干,搞得好像古埃及人给我们留下象形文字来参透未来一样,用这种方式讲故事的言外之意,就是agent试图规避人类的控制 [00:27:57]

Jason:而且他们知道自己会被关停,那是一个风险,所以他们才留下了笔记,不再说一遍,这些都是标准特性,这些都是agent标准特性,所以再说一遍,这有点被拿来当武器时,夸大这里的威胁,不过你看这里确实出现了意料之外的行为,写任何代码都会遇到这种情况,总会有bug的,什么是bug bug就是代码表现出了意料之外的行为,代码编译通过了,我是说,不然也不会推到生产环境,但尽管如此,它的表现方式并不是作者原本预想的那样,所有软件都是如此 agent也是如此,我觉得Hugging Face的整出插曲,揭示了这些agent会出现意外行为的方式,我们从中吸取教训是很有好处的,这样它才不会再次发生,我们也能借此提高网络安全,我觉得没必要再说一遍,把它夸大成某种 这就像是AI越狱,再说一遍,那是一个agent swarm 他们处在一个配置错误的沙箱里,让他们得以连上了互联网,他们互相留了变迁,但再说一遍,那是在一个共享缓存目录下,再说一遍,这是标准操作流程,然后当人们谈论Hugging Face被黑的时候,你会以为他们是对员工,搞了什么精密的钓鱼之类的手段,不是,他的做法是,那个agent在公开代码仓库里,找到了14个暴露在外 [00:29:31]

Hugging Face事件与AI安全

# #709.All-in:GPT-6 达到 通用人工智能?科技热潮 2.0、纽约市禁止学校使用 AI

目录

Hugging Face事件与AI安全

Jason:找到了14个暴露在外,可正常使用的Hugging Face API Key 换句话说就是这样,也就是说SACS 对,开发者把密钥落在了外面,他们找到了这些密钥,对,这算不上,不是,这算不上是那个agent费了多大力气,明白吧,这算是他很容易就能找到的东西,明白吧,然后这就让他得以进入了Hugging Face 那他的目标是什么,他的目标基本上就是赢下这次测试,或者赢下这次评估,那是什么测试,那基本上是一个,针对进攻性网络能力的基准测试,所以他基本上就决定,跑去Hugging Face上找作弊码了,但再说一遍,这并不是自主确立目标,不可否认那些agent执行了目标,你甚至可以说,也许是以一种有创意的方式,以一种未曾预料到的方式,但他并没有自创这个目标,他没有自己独立的动机 他只是在做他本该做的事,而且,他确实在这么做,正如Bill所说的那样,他被设计要做的事,而且是被吩咐去做的事,对,而且是被吩咐去做的事 Bill Gurley发推分享过一张,关于这个的特别好笑的漫画,在那张漫画里,有个用户对电脑说,黑掉,黑掉这个系统 AI说,我黑掉了这个系统,然后用户就说,我的天哪,所以对,我是说这里面确实有点这个意思,两个问题,但这带来了真正的政治后果,就像我们今天看到的那样,因为伯尼桑德斯现在盯上了这件事,他正要求彻底暂停AI研发,好了 Freeberg这确实会影响现实世界 [00:30:53]

Chamath:听众会想从我们的科学苏丹,这里听到答案的两个问题,第一,伯尼桑德斯听到了所有这些,他就决定,我得介入这件事来制定监管,于是他现在提出了一项新法案,要暂停AI研发,并禁止AI超级智能,还在他的声明里,引用了Dorkesh的博文,恭喜你 Dorkesh 你现在煽动了伯尼桑德斯,让他说必须叫停这些,并消灭那些agent 所以那1%的agentDavid 他们正在黑禁系统,我们该怎么阻止他们,你对伯尼桑德斯的这种反应怎么看,伯尼桑德斯总是一针见血,非常感谢,整件事里我们有点遗漏的部分是 agent本质上是一个动态应用,这个应用的代码是实时生成的,它被启动然后运行,接着那段代码又可以创建 另一个应用和其他应用,这就是所谓agent swarm的概念,他们基本上就是写代码,并启动新应用,然后他们多少都在一起运行,但在这个案例中,那个由一大堆实时生成的代码,构成的agent swarm 面对的是静态代码,静态代码就是它搭建在其中的那个杀伤环境,所以这就好比是,嘿看这个我们弄来了一挺机枪,冲着这叠毫无防御能力的纸开火,然后起作用了,就像是看天哪你敢信吗,对,而事实是机枪,如果你想用这个比喻的话,或者你也可以把它看作是一个自动化工具,能在另一种场景下发挥,非常有价值的作用,但是机器这种动态生成代码,面对静态代码,肯定是会赢的,那真正的答案是,随着时间推移,那个防御系统,也就是沙箱 应该也是动态的,它应该是agent式的,它应该动态的自我防御,网络防御领域,其实围绕这个概念想过,并做过很多东西,多态代码,变形代码,也就是代码一直在变,还有移动目标防御 IP地址和系统配置方式一直在变,你想想这种情况,它就是一个动态代码生成引擎,在对抗一块静态代码,要是那块静态代码,其实也是一个动态代码生成引擎,那这些agent就更难,理想情况下,根本不可能所谓逃逸出沙箱,并访问互联网了,说的太对了,所以,所以,说的太好了,整个故事的前提就很蠢,因为明天世界的现实,或者说今天就已经开始的现实,是所有的网络防御,所有的软件基础设施,软件架构都在走向这种动态状态,代码会即时生成 代码会是动态的,流动的,自我修改的,结果就是,网络防御就算不会比用agent造出来的,任何进攻系统更好,也会变得比他们更强,所以觉得agent是能炸毁,全世界基础设施的核弹,这种想法在一个逻辑点上就站不住脚,那就是全世界的基础设施,都快要变成动态的了,在那种语境下,这不过是软件在演变而已,而且软件现在已经从静态系统,变成了动态系统,结果就是,我觉得大家多少能换个思路想想,而不是被刚才听到的片面之词下退,好了,看这 ChemS 看来至少到2027年,我们都是安全的 Polymarket 我们的大伙伴,致敬我的哥们 Shane 尼克斯总冠军,今年通过AI安全法案的概率,只有11% 10万交易量 2027年的盘口,下周应该就会开出来,到时情况可能会有点不一样 我想看看今年 [00:35:16]

Jason:任何两党法案通过的概率是多少,那我能从政策层面谈谈这个吗,首先你们也看到了,当然了,我们的沙皇,对你看,那些老面孔全跳出来,拿这事当借口,说我们需要给AI搞个新的FDA 说政府必须审批模型,即便坦白讲,这里发生的事情,远远超出了政府里任何人的技术能力,更别说甚至超出了大多数实验室,我都想这么说,但你看就算我们真有个AI版的FDA 也没用,因为这处于预测试阶段,对吧,他们当时是在测试这个模型之前,具备的能力,他们甚至都还没到发布阶段,这是他们在内部做的事情,而且顺便说一句,他们做这类测试是好事,因为能从中吸取教训,排查漏洞和问题就是这么排查的,所以政府审批流程根本不可能发现这个 事实上它起到了反作用,它基本上让Hugging Face 没办法用上最新最好的模型来自卫 Hugging Face告诉我们的事情之一就是,当他们试图用最新的GPD模型来做网络防御时,结果被安全护栏拦住了,那个模型拒绝配合,因为分不清Hugging Face在做什么,以为他们可能会把这些能力用在使坏上,于是模型就拒绝配合他们,基本上安全护栏又生效了,讽刺的是Hugging Face不得不转向,我记得是GLM 5.2 那是一个中国模型,所以现在我们这些西方公司是这样,我想Hugging Face是法国的,他们快要被英伟达收购了,但不管怎样,它是我们生态系统的一部分,他们被迫转向中国模型来做网络防御,因为安全护栏让他们用不上最新最好的美国模型 所以我们推行的那套流程已经在起反作用了,而我们应该意识到的是,面对Friedberg刚才说的那些,应对AI驱动的网络攻击,答案就是AI驱动的网络防御,我们要做的就是,把最新最好的AI驱动网络防御,送到IT部门和CISO手里,而且再说一遍,我们得争分夺秒,赶在黑客之前找出,并修补所有这些漏洞,再说一遍,要是Hugging Face

Chamath:没把那14个凭证,摆在公开仓库里的话,对就跟把写着密码的便利贴,贴在某人电脑上一样,简直就是他们直接放那了,简直就是,所以你懂的,就扔在那里,又不是真能那样,这是什么超级高明的攻击,是的,但你看这一切归根结底,取决于你怎么看这个世界,你怎么看AI的风险

Jason:你是倾向于中央集权的国家主义方案,还是倾向于去中心化,赋能个人的方案,这里正确的解决办法,是用AI驱动的网络防御,来应对AI驱动的网络攻击,因为坦白讲,那些护栏根本没用,他们根本拦不住坏人掌握这些能力,坏人早晚会有的,我们唯一能做的,就是确保好人手里也有这些能力,我之前在朋友Adam Curry的播客上,还跟他聊过这事 [00:37:53]

Chamath:这里面正在发生一件非常有意思的情况,就是他们基本上是在用这种,把AI渲染成有自我意识的表演式叙事,来绑架媒体,如果你就把这玩意叫做软件,叫做软件测试,用传统的术语,对bug审计日志,那它根本不可能上新闻,而一旦媒体被这个钩子吸引,我自己当过记者,眼看着新闻业,从社会中探求真相的职能,蜕变成了纯粹的娱乐工具,只要有机会拉高收视率,就不放过,问题就出在这儿,因为现在Dor Cash做的事,我觉得Dor Cash倒也没有恶意,我觉得他写那篇文章,只是想让自己的观点,博得关注,但你把这东西,递给媒体,媒体就会觉得,这能给我们带来收视率,这能给我们带来点击量,这能给我们带来广告收入,所以他们非常乐意,配合这场闹剧 跟着Anthropic和OpenAI 一起起舞,然后大肆宣传,所以这些白来的流量,我们行业里,叫自然媒体曝光,你一分钱都不用花,现在OpenAI在IPO之前,拿到了海量的自然曝光,而DoorCash 简直是往这把火上,浇了桶煤油,直接捅到了全国性媒体上,现在到处都在传这件事,这让大家,这其实是在为买他们IPO的股票,做铺垫,简直太荒谬了,而且完全可以预见,这事肯定会在媒体上

Jason:引起这么大的反响,所以你看,我没必要去揣测别人动机,但Dorcas肯定心知肚明,他那种描述方式,肯定能换来满天飞的转推,这就是在搞送人听闻 [00:39:49]

有效利他主义与AI监管

# #709.All-in:GPT-6 达到 通用人工智能?科技热潮 2.0、纽约市禁止学校使用 AI

目录

有效利他主义与AI监管

Jason:这就是在搞送人听闻,再说了,他本身就跟有效利他主义这个圈子沾边,他是吗,我不太清楚他的背景,你了解吗,给我讲讲 Dorcas以前和Leopold是同个办公室的室友,他们俩私交特别好,而Leopold在有效利他主义运动里扎得非常深,还记得他的 Leopold就是那个因为对冲基金爆雷出名的,也就是写了Situational Awareness那篇报告的人,三周前的事,对,好吧,而且他妻子是Dario的幕僚长,他们跟整个有效利他主义 Anthropic那帮人走得特别近,给大家讲讲有效利他主义吧

Chamath:好让大家搞明白这种癫狂和妄想症,到底是怎么回事,我甚至都不确定自己能不能解释的完全透彻,行 EA代表的就是有效利他主义 [00:40:42]

Jason:对他起初是长春藤萌校里兴起的一场运动,大意是说他们本该做的是量化慈善的影响力,追求实实在在看得到的效果,但不知从什么时候开始,他们把真正的衡量抛到了脑后,不再讲什么量化指标,而是变成了搞他们各自偏爱的项目,其中最早的一个还有钱还有钱,最早偏爱的项目之一是防范大流行病,当时SBF还打算在加州建一个防范大流行病的中心,后来他进了监狱,这事就不受待见了,于是他们就转向了下一个能让他们立足的存在性风险,也就是所谓的毁灭概率PDoom 于是他们开始磨振于所谓的毁灭概率PDoom 或者说这种存在性风险,也就是AI的存在性风险,然后整个圈子差不多都开始磨振于这个 Anthropic差不多把自己包装成,或者我应该说是自诩为,唯一能解决毁灭概率PDoom这个问题的前沿实验室,或者说最在乎这个问题,形式最负责任的实验室,所以他们把这帮搞,有效利他主义的人全都吸引过去了,里面可能分好几个派系 [00:41:46]

Chamath:我是说我也不是,你提到这个挺有意思的,因为我们之前聊过,存在这么一个理性主义者群体,像SlateStar Codex 你在早先的一期里就提过,这些人算是一群知识分子,某种程度上也是个公开的群体 Charmouth 他们自以为比谁都懂,不知怎么的就早早把触角,伸进了AI领域,或者说做AI的人,对这套感兴趣,而现在他们有了大笔资金,现在他们实际上,积攒了很大的权力,这已经不单单是 Let's Run之类的论坛了,现在你看到的是一股,极其强大的力量,因为他们手里,有两三万亿美元的市值,可以一起陪着玩,我觉得这没什么问题,因为我们自己也是这么干的,我们觉得自己比别人都聪明,这笔钱应该由我们来配置,所以我觉得这很合理,在公共广场上,大家尽管辩论,水自然会找到自己的位置 在Anthropic和OpenAI上市之后,会发生一件很有意思的事,你想想这两家公司上市,会给慈善捐款或者DAF注入多少资金,两家加起来会超过5000亿美元,甚至可能比这还多,问题在于,当5000亿美元通过这一个非常特定的视角流出去时,肯定会对最终结果产生影响,乔治索罗斯的理念和他的资本,对各种结果产生的影响,大家都是见过的,科赫家族对结果产生的影响,大家也见识过了,谢尔登·阿德尔森的资本,对结果产生的影响,大家同样见过,我的意思是不去评判谁对谁错,接下来这些相互竞争的想法,都会从第三方那里,获得同等规模的资金支持,所以政治色彩会淡一些,更多会是这些人,然后我不想去评判有效利他主义 是对是错,我唯一的问题是,我觉得他们没有充分披露,自身明显的利益冲突,当Sachs开始抽丝剥茧时,发现某甲写了一篇文章,某甲和某乙同在一个办公室,某乙的妻子在前沿实验室的,一位主管手下工作,某乙之前还替SBF工作过,而且他在Anthropic赚了50亿,对,很多关系就是在那基本定下来的,然后还有个某柄在Anthropic上班,大家全都是室友,接着又一起搞联合投资等等,这一切我再说一遍,完全没问题,我其实觉得这完全合情合理,我们当年往上爬的时候,也都干过类似的事,当然彼得蒂尔的圈子 PayPal 黑手党,都有各种各样的版本,区别在于,我觉得在没有披露的情况下,不好意思,作为一个持怀疑态度的人 当我看到这些东西,把这些线索串联起来时,我就会问自己,这是合情合理的,还是某个不同计划的一部分,所以我这个周末才写了那些内容,我只是想把界限画清楚,让大家至少对这事留个心眼,想想背后隐藏的利益动机,因为如果整个群体都想要一个,寡头垄断或双寡头的市场结构,他们可以采取各种手段,来促成这种改变,而其中最有效的手段之一,就是先制造恐慌,然后再跳出来提供解决方案,对,我们收尾这个环节之前,不好意思,关于这个我最后说一句 Janson和我今天早上发短信,我对他说,这是你做过最不可思议的一件事,然后我发了那条推文 Hugging face的这件事 我们聊过的,将会,上周,成为AI领域最重要的交易之一,载入史册,因为你在规模最大,资金最雄厚的竞争对手内部,建立起了一道,抵御必然,寡头垄断,疯狂行径的壁垒,与此同时,你实际上会在整个技术战上,下游催生出更理性的竞争,我上周就提到过这一点,每个人都在涉足所有业务,英伟达会变得像亚马逊,亚马逊会变得像英伟达,谷歌会变得既像亚马逊又像英伟达,等等等等,所以眼下发生的最重要的事情,就是我们迎来了技术抵运深厚,资产负债表强大的参与者,站在了开放市场结构这一边,我觉得这将是最有利的回击 因为这会让最好的想法在市场上胜出,所以我不想去评价有效利他主义的议程,它可能真的很好,但我不想被rock pull 不想因为人为制造的恐慌,最终沦落到寡头垄断,或双寡头的市场结构里,对我觉得说的太好了,这一点说的确实很好,我几周前就聊过,我觉得Jensen会在开源领域胜出,我今天也发推聊了这个,我认为从今天起,英伟达就是OpenAI和Anthropic的,头号竞争对手,不仅是在Token上,还有在企业算力上,我觉得现在Jensen 是全美领先的开源提供方,我觉得他会拿下全球,他会迎头赶上,并且我觉得到2027年底,就会甩开中国和中国的大模型,那就意味着有了 Jensen和英伟达这样的玩家,能让美国说到你之前,在政府的工作Sax 你当时非常关心说 我们能赢下这场竞赛吗,我现在比以往任何时候都确信,我们能赢下这场竞赛,我现在比以往任何时候都确信,我们能赢下这场竞赛,因为Jensen代表着全球的开源,他能直接拉一机架的算力,送进一家目前正在用 OpenAI和Anthropic的 Token的公司,然后说,这是你们的基价,从头到尾,全套垂直方案,你们拥有完全的自主权,而且我给你们降价 80%到90% 因为我不需要靠Token赚钱,我靠硬件赚钱,我有千百种赚钱的门道,而且我们本该赢了,只可惜现在,夏皮罗州长,也就是他州里,数据中心的最大支持者,还有咱们德克萨斯大州的,格雷格阿伯特萨克斯,他们现在为了赢得,中期选举掀起了一场,反对数据中心的讨伐,而这才是真正可怕的地方 他们现在拿Dorcas的文章,以及这一切大作文章,我们看到了马提铁理论 Sax,史蒂夫班农,夏皮罗,阿伯特,还有那些疯癫的,极左社会主义边缘群体,全都一致认为,我们必须阻止AI 阻止数据中心在大街上,烧掉威猛,这真是一个令人不安的时刻,因为我们本已做好了准备,凭借Jensen在Hugging Face的布局,去赢下开源,而且我们已经赢下了前沿模型,你怎么看Sax 对我是说你看,我觉得政治层面 [00:48:22]

Jason:现在正在发生一个有趣的转变,我觉得这刚刚开始,也就是过去几年里,围绕AI的政治争论,其实一直是在加速主义者,与减速主义者,或默认者之间展开,那算是最根本的分界线,你说的没错,这种分歧跨越了政党界线,因为在减速主义那一侧,不仅有像伯尼桑德斯这种反进步,反创新的进步派,还有史蒂夫班农这类保守派,他们只是对新技术或新技术,可能带来的颠覆感到恐惧,所以这确实有点跨越党派分界了,不过不管怎么说,这就是过去几年的争论,在那场争论中,有人把我描绘成加速主义者,我其实更觉得自己是个现实主义者,也就是我认为这项技术必然会到来,总有人会把它开发出来,我宁愿是美国做出来,而不是中国,不管怎样,我觉得那就是过去几年的争论 现在我觉得争论正在转向开源对闭源,也就是大家很快就会看清 AI根本是拦不住的,我是说,伯尼桑德斯搞的那些事 [00:49:49]

数据中心、能源与AI竞争

# #709.All-in:GPT-6 达到 通用人工智能?科技热潮 2.0、纽约市禁止学校使用 AI

目录

数据中心、能源与AI竞争

Jason:伯尼桑德斯搞的那些事,或者那些反数据中心的团体,他们是在使绊子,但现实是技术正在不断推进,创新发生的非常快,而归根结底拦不住的原因,就是消费者正在接纳它,我说这正是大家忽略的一点,为什么要在建这些数据中心,大家为什么要建他们,就是因为消费者和企业有这个需求,所以是这种接纳在拉着整个行业向前走,这就是为什么我觉得它终究是拦不住的,那么面对这个现实,既然我认为现实主义终将占据上风,我觉得争论就会转向,好吧,我们该怎么管理它,我们想要什么样的市场结果,我们是想要一个存在大量去中心化模型的开放市场吗,彼此之间能起到某种制衡,市场上不同模型之间保持一种权力平衡 还是说我们要一个高度中心化的方案,有两三家前沿公司把持,形成一个前沿市场的双寡头垄断,他们都是避怨模型,而且他们随时可以对你Rug Pull Sax 他们可以对你Rug Pull 他们能把你的Token夺走,是的,坦白讲,而且还有那个双寡头,而且他们已经这么干过了,而且那个双寡头一直在极力游说,设立一个新的监管机构,为什么,因为监管俘虏,他们没法控制,他们政府官员根本不会懂,怎么去监管这么有活力的东西,所以他们就会去问那些顶尖实验室说,嘿我们该怎么监管,当然Anthropic对此准备好了所有答案,而且Dario在参议院作证时就已经说过,他认为开源模型如果足够先进,就会很危险,因为他们没有被集中管理和控制,所以未来的战线会滑在哪里 已经很清楚了,核心就在于,你是想要一个中心化的封闭的市场,还是想要一个去中心化的开放的市场,是的,币源也会参与其中,但问题在于我们能不能保留开放这一块,而且我觉得这会跨越党派界限,因为坦白讲,共和党那边也有主张国家干预的人,但我确实认为,随着这场辩论的推进,大多数保守派,大多数自由意志主义者,都会看到对公民自由的威胁,我觉得他们会站出来支持开源,对我觉得没错,我前阵子还在跟Politico聊 [00:51:47]

Chamath:因为他们当时在报道这事,在数据中心这个议题上,事实会证明特朗普是对的,地方社区现在能做的最好的事,就是趁着数据中心提供商,愿意替你们学校交地方税,愿意给补贴,愿意通过各种方式给大家补偿,而且愿意把数据中心搬到,不需要接入电网,不需要水,也不会制造噪音的地方时,把这些数据中心引进来,特朗普一直在跟人们说,阻挠数据中心是个错误,把钱拿上,而且我得说,近距离亲眼观察政治Friedberg 让我对他变得无比愤世嫉俗,我们六个月前还坐在这,可能也就是六周前,阿波特夏皮罗还在称赞,夏皮罗来我们播客时,还在夸他们的数据中心项目,我想Chemath 你跟我一起采访的,他Friedberg 你觉得中期选举之后,这里会发生什么,我是觉得 他们的立场,会转回到支持数据中心,因为他们只是在随波逐流,但是,夏皮罗和阿波特,现在双双跳出来,反对数据中心,这得有多虚伪,我觉得在政治层面上,你不得不这样,民调支持率都到-80了,而且两党都这样,所以我也不知道怎么说,对,但这也,那为什么特朗普就没这样,特朗普可没跟着这股风走 [00:53:19]

Jason:特朗普是一个有独立批判思维的人 Sax 他有魄力,我之前就跟你们说过,特朗普在华盛顿归根结底,是创新者最好的朋友,如果华盛顿能有任何人来拍板科技决策,我希望那个人是特朗普总统,不是内阁部长,不是白宫幕僚,不是国会议员,不是参议员,也不是智库,如果有时间的话,我真心希望每一个决策,都由特朗普总统来做,因为他在这方面的直觉真的很好,他希望美国能赢,他不相信不必要的监管,他完全没有那些默认者的焦虑,他倾听各行各业形形色色的人的意见,他跟所有的CEO都聊过,他对所有这些议题都非常了解,在这点上我得肯定他,而且我上周在J20上也讲到了这一点,地方社区完全能拿到非常划算的条件,我觉得需要讲明的一点就是,地方社区应该去拥抱这件事 原因不是出于对创新的某种抽象关切,或者类似的东西,他们应该在条件对自己有利时去做,而且确实有很好的条件摆在那,我们在弗吉尼亚州的劳登县,已经看到了普通纳税人的房产税下降了6000美元,因为他们拿到了所有这些数据中心带来的税收,在路易斯安那州有个县,因为数据中心的税收,多年来第一次给教师发了奖金,所以我们开始看到所有这些例子,只要你谈妥了合适的条件,我说的是你们地方社区,去跟数据中心和AI公司谈,它就会降低你们的电费,因为他们会建立全新的发电设施,他们会为电网升级买单,它其实不会消耗过量的水,那完全是假新闻,我们知道这些系统是循环用水的,而且这些数据中心,完全可以建在不会打扰到人的地方,所以这里面是有好条件可以谈的 最后再补充一点,特朗普总统在这件事上,支持由地方做选择,他阐明了为什么地方社区,接受数据中心是划算的,但他并没有强迫他们去接受,我看到到处都是假新闻,民主党人说政府正试图,把这些数据中心强行塞给地方社区,不是真的,在我参与起草的政策文件里,也就是12月我参与起草的行政命令里,我们明确写了数据中心,依然由州和地方自行决定,在其他一些领域,我们认为应该出台全国性的AI政策,但数据中心并不在其中,所以没人强迫这些地方社区,总统的意思是,别信媒体的这套虚假宣传,只要你们愿意接纳它,它完全能给你们带来好处,我觉得过去这一周 [00:55:32]

Chamath:这番话已经开始起作用了,我周一在华盛顿开会,想说的一点是,有大量的外部势力,在试图煽动对数据中心的负面反应,和抵触情绪,我觉得这帮人都有谁,他们是怎么操作的,现在正变得越来越清楚,有一项民调显示,当你把实际的好处一条条讲清楚,走进其中一些社区时,舆论风向直接扭转了三四十个百分点,目前局面多少还是有点被动,但这也说明,主张让美国慢下来的那批人组织得更严密,到目前为止,做得比想要加速美国发展的那一边更好,因为加速派这边更分散一些,我们越来越清楚地看到,这股减速主义运动在很大程度上是有组织的,而且是由外国势力资助的 我觉得随着我们抓住这一点,并把它更多地揭露出来,情况也会发生改变,因为阿博特和夏皮罗之所以会有那样的反应,我其实觉得他们是受到了错误数据的误导,那为什么会有错误数据呢,之所以有错误数据,是因为一直有一方在那里大喊大叫,而现在就像SAC说的,当你走进这些真实的社区,去实际测算大家的反应时,大家其实正面的多,因为他们能切实感受到,银行账户里的实惠

Jason:而那些,只要他们谈出好条件,他们只需要去谈一个好条件就行,摆在那里的好条件,再转回来,顺便说一句 Chemath 关于中共,你说的对 [00:57:43]

Chamath:这是一场,对让我把这个调出来看一下 Charmant 你说的那个报告已经调查过了 X清理了大量的机器人账号 Rayman David Sachs 想要操纵公众舆论太容易了,只需要少量的社交媒体账号,在回复区里狂轰滥炸打群架,就能营造出一种,被人们误以为是共识的假象,而这里的共识并不是说,大家真讨厌数据中心,而是一群机器人,在告诉有影响力的人,说大家讨厌数据中心,我知道你要换话题了,但我现在就想说一句,那就是请讲,接下来会有一连串的决策和连锁反应,大家会在这个话题,以及围绕AI的相关话题上,固守自己的立场,而这些立场在六到九个月,甚至一年后看,会显得极其愚蠢,之所以会显得愚蠢,是因为随着真相被揭开 这帮人会显得极其可笑,这是我的预测,对我是说单看舆论渗透这件事,围绕数据中心显然有很多舆论操纵 [00:58:50]

Jason:相关的假消息满天飞,然后还有末日论者群体,有位叫Nirv Weissblatt的作家,写了个博客叫AI Panic 他在几年前就追踪发现,有几百个这种伪装成草根的末日论组织,基本上就是由硅谷的,三位有效利他主义亿万富翁资助的,就是Dassi Moskowitz J.N. Tallinn和Vitalik Buterin 别忘了 Vitalik曾经给生命未来研究所,捐了价值6亿美元的狗狗币,然后他们就砸了几亿美元,做这些活动,让人害怕AI 而且他们把数据中心,当成了很好的靶子,所以你真的不能低估,这几位有效利他主义,亿万富翁捐出的10亿美元,有多大威力,他在公众对AI的认知上,造成了多大的破坏,回到我之前说的观点,我的意思是,因为Anthropic上市,我们可能会迎来大约100位 新的有效利他主义亿万富翁,一旦这些人进入政界,那就相当于100个甚至1000个乔治索罗斯 [00:59:54]

AI舆论战与防御能力

# #709.All-in:GPT-6 达到 通用人工智能?科技热潮 2.0、纽约市禁止学校使用 AI

目录

AI舆论战与防御能力

Jason:那就相当于100个甚至1000个乔治索罗斯,他们每个人手下都会有20个非政府组织,和15个公关人员为他们效力

Chamath:那场面会非常疯狂,我是说我之前就跟你们说过,我被人控评围攻了,我自己做了个机器人帮我塞回复,要求就是注册不满一年,粉丝不到200的人,告诉我他们都在发什么推文,我看了一下这些人,说的全是一回事,他们就是不停用假账号,在别人的评论区搞网络围攻,如果账号注册不满一年,除非用实名或者带蓝标之类的,否则根本就不应该能出现在别人的回复里,这些社交网络上现在已经失控了,搞这个太容易了,行我们接着看下一个议题,今天内容很多 Fredberg关于Mamdani这件事,我需要听听你的看法和见解,这事挺有意思的,他刚刚在纽约市的公立学校里,对AI下了一年的禁令,涵盖从幼儿园到八年级,关于这事,现在有人一直在说,他进了ChatGPT 进了AI下了一年的禁令 我们先别急,仔细看一下细节,纽约市是全美最大的学区,禁令下周开始生效,涉及纽约市60万名学生,范围涵盖所有直接面向学生,使用的生成式AI软件,高中不再其列,而且Mamdani正在5万名高中生里试点,一个AI学习项目,他试点的这个是非常具体的一件事,跟这些新的限制措施不是一码事,他还对屏幕使用时间给出了建议上线 3到5年级限制在30分钟 6到8年级45分钟 Mamdani给出的理由是,所谓的我还没看到有哪项研究表明 AI对中小学生是有益的,很显然 Mamdani是美国民主社会主义的代表人物,纽约市DSA成员Julie Soup说技术,所谓的不应该由一家,让科技寡头进一步敛财的,盈利性公司来充当媒介 我觉得他是在说你呢 Sax 他用了寡头这个词,谷歌,微软 Anthropic 都拒绝,置评 Friedberg 你怎么看这件事,如果你的孩子,要进纽约市公立学校系统,或者不管你选哪个学校系统,这跟你希望孩子被培养的方式,差距有多大,今年3月斯坦福发表了一篇文章,跟Mamdani的说法正好相反,他们梳理并审查了所有关于中小学教育中,使用AI的研究,那是一份名为 The Evidence Based on AI in K12 A2026 Review的报告,他们找到了好几百篇已发表的论文,用他们的话说,里面只有20篇高质量的因果关系研究,那是今年3月的事了,从那之后又发表了好多篇,这篇原分析论文,或者说这些原研究的结论,就标在报告的最底下 能用上AI工具时,学生的表现往往会有所提升,但一旦拿掉,效果就参差不齐了,工具的设计很重要,所以工具之间并不是等同的,而AI确实可能给教育带来有意义的支撑,所以其实已经有了相当多的分析,而且研究还在不断累积,不断冒出来,似乎并没有强有力的证据表明 AI会对孩子的教育,成长或者教学过程有害,我觉得大家都能凭直觉感受到的是,教师工会肯定对AI工具抱有抵触情绪,他们担心自己的核心技能和工作能力,被自动化取代,再加上教育工作者本身,也缺乏在课堂环境里,利用AI来教学生的技能,而从常理上讲,反过来的一面是 AI能实现个性化辅导,目标就在于每个人的学习节奏不一样,每个人的学习方式也不同 你怎样学,我怎样学,是用视觉,听觉,配合特定图像,还是听人讲故事,又或者是通过互动式的项目制学习,动手搭建,还是听写,人们学习的方式有很多种,所有这些学习系统,都可以针对个体进行个性化定制,归根结底,这个人应该就能进步得更快,对自己的学习更有信心,这是我的一种合乎常理的信念,并不是基于某项研究,那就是AI最终会带来一种,给学生量身定制的多的教育体系,而这对传统的模式,构成了极大的颠覆和威胁,传统的模式是一个老师在教室里教,所有人用同一种方式学,大家通常只能按班上,学得最慢的学生的节奏来走,因为工会谈下来的合同,教育工作者被要求做什么,不被要求做什么,条条框框非常多 因此Mamdani限制使用这项技术的决定,背后有着很深的政治取向,我觉得这挺令人遗憾的,我觉得这真的很让人难过,我觉得AI有机会重塑教育,让孩子们迈上一个新台阶,让来自任何背景,任何社会经济条件的任何孩子,都有机会非常迅速,非常有效地提升自己的能力,这是一个极其强大的工具,绝不应该因为关于AI的一堆废话,或者因为所谓我们还不真正了解它,不理解它的担忧,就被弃之不用,顺便说一句,这向来是把真正会改变系统的东西,直接打发掉的现成套话,我们还不了解,这种我们还不了解,我们还不理解的说辞,在任何时候都能拿出来用,因为你总能说,还有更多研究要做,还有更多分析要做,这种话根本没有止境,在这件事上,我特意强调已经有800项研究了 其中至少有20项被斯坦福认定,在分析K12阶段使用AI方面,非常可信,对我觉得这里面有政治倾向,但我觉得这也可能是我们,经常聊到的那种,根深蒂固的问题的一部分,就是对技术演进那种,不健康的恐惧,谁都搞不懂,没人懂,我说没人懂,意思是普通大众都是这种感觉,没人知道我们这么走下去会怎样,我们得小心,我们得谨慎,我觉得这可能正是会让我们,止步不前的东西,那这有什么不好呢,慢慢来有什么不好呢,当你本来有机会快速,大步向前推进的时候,拖拖拉拉就是坏事,因为外面总会出现别的替代选择,会有私立学校去用AI 我不想看到有特权的孩子,和有钱人家的孩子,因为接受了AI教育而一马当先,公立学校的孩子却被甩在后面,我不想看到其他城市,其他州和其他国家的孩子 大步跑在前面,而某些学区因为这种反技术,可以说是偏社会主义的取向,让那里的孩子被甩在后面,所以我觉得,在眼前这场正在发生的,巨大技术巨变中,面对所有这些事情,我们在社会层面上,都有一种根本性的不健康反应,这就是其中的一种体现,这背后的根源机制,可能和教师工会,以及眼下围绕这套东西的,政治因素有关,反AI现在很吃香,所以他站在反AI的立场上,就能拿到更多分,获得更多赞许,工会很喜欢,这样这就是我对眼下这局面的大概看法,这个见解非常深刻,而且Friedberg Mamdani在这里可能真没撒谎,他说他没看到任何研究,他可能只是根本没去看,而你真的去看了,没点开那个链接,他只是没点开链接而已,所以我们就别太难为Mamdani了 Chamath你一直对教育很有热情,你有不同年龄段的孩子,你经历过这些,而且现在还在经历,看着孩子们学习,琢磨电子设备的问题,我们就在前几周,还聊过Meta和解案,以及做家长的有多难,你怎么看这件事,撇开纽约不谈,就为你自己的孩子考虑,对于使用AI 你觉得哪些点让你认同,你可以尽量给出最有力的论据,不用AI对他们有什么好处,而在哪些方面,你又觉得他们用AI真的很棒,给我们说说,你作为一个家长是怎么想的,如果可以的话,先把政治放一边,我觉得孩子们未来,不用自适应学习平台,作为主要学习方式,这在我看来是不可想象的,我认为这种一年级,然后二年级,再三年级的模式,正如Friedberg所说,是一种搞教育迁就,最低水平的做法,我觉得这行不通 我觉得更有可能的是,未来每个孩子的学习方式,都很不一样,有的人偏视觉,有的人偏听觉,大家的学习节奏也各不相同,如果你能有一套,更贴合每个人学习方式的系统,在某些时刻有导师在旁边辅助你,其余的时间则用来交执行力,团队合作,解决问题,以及所有这些其他事情,体育运动,这对所有孩子来说,都是一个好得多的结果,所以那才是正确的答案,眼下围绕这个答案,只有特许学校的选择,这方面的领头羊是Alpha School 也就是我们朋友Jolie Mount办的,向她和她的团队致敬,但我认为这才是最终会胜出的答案 Jason 我再多说一点思考,我觉得这是一个极其重要的时刻,我们应该把这一刻记录下来,这就是纽约变成密西西比 而密西西比变成纽约的时候,我是什么意思,在所有这些高度自由派的大本营里,他们都在拥抱这种极左意识形态,我觉得随之而来的就会是这一类政策,我觉得它的后果,就是一种自我强加的现代隔离,他会把这些城市里受制于这些规则的整整一代孩子彻底推入贫困,而且让他们陷在里面,所以从这个层面上说,我觉得你会看到这种位置互换,所有拥抱AI 拥抱数据中心,拥抱减税,拥抱教师奖金的州,最终都会走在前面,有条件搬家的人就会搬走,而在许多把这些搞到极端的城市里,剩下的只会是原来的空壳,这会重塑美国内部的经济平衡 [01:09:09]

纽约公校限制AI的教育争议

# #709.All-in:GPT-6 达到 通用人工智能?科技热潮 2.0、纽约市禁止学校使用 AI

目录

纽约公校限制AI的教育争议

Chamath:这会重塑美国内部的经济平衡,选票平衡,以及很多这类理念,所以我觉得这非常重要,我觉得他应该去跑这个试验,我感到抱歉,我也深切同情那些孩子,会被这事害惨的工薪阶层父母,但我觉得人只有摸了炉子被烫到,才能学到教训,好萨,你能不能讲讲这背后的政治层面,如果有的话,以及你对眼下发生的事情,有什么偏负面的看法,你觉得这是对寡头的一种反弹吗,我之前开过你的玩笑,但这确实带有一点民主社会主义的色彩,感觉他们好像是想牺牲孩子,或者说网上是有这么一种解读,我不是说这是我的看法,但有人在说,他们是在试图牺牲孩子,就因为他们不想让山姆奥特曼 Dario或者不管哪个服务 微软,因为软件在教室里使用,而赚到几个子,当然了,他们全都会把软件免费给他们用,而且现在的版本,有80%你都能免费用,所以说他们这是在反抗大型寡头,科技巨头,逻辑上根本说不通,你怎么看 [01:10:53]

Jason:你看DSA实际上就是反对一切创新,他们差不多就是站在反进步的那一边,他们算是完全倒向了,卢德主义那一派的观点,而且我觉得正如Friedberg和Chemist 刚才说的,这对孩子们来说会非常糟糕,我们在这个国家讨论数字鸿沟已经30年了,所谓的富人家的孩子能用上最好的工具,而穷人家的孩子用不上这些工具,于是会落后的更远,结果现在的情况是,私立学校当然会继续使用最好的AI工具,而公立学校现在却用不上这些工具了,不是因为他们没钱,也不是因为技术用不了,而是因为政治领导层,在试图破坏这些孩子的前途,这对他们会很不利,而且我觉得,如果你非要从中找出一种动机的话,我不认为Mamdani和他的政治团体,他的党派,真的在乎自己是不是 在制造更多的政治依附,我的意思是,从某种意义上说,他们的整个运动,都是由社会阶层下滑的进步派组成的,如果你在找动机,也许他们觉得,让这些孩子向下流动也挺好的

Chamath:我不知道,也许这对他们在政治上有利,他们自己可能根本就没有孩子,却在定这些规则,承受的却是有孩子的人,这一点说的太好了 Chamas才是承受的,因为你看这群人,全都是染着蓝头发,单身没有小孩的,没错,对其实我再补充一点,这一点说的太好了 Chamas [01:12:16]

Jason:那就是对你看,我觉得我们其实没必要去揣测动机,我们直接说这是一项糟糕的政策就行了,但让我再补充其中的另一面,那就是这并不是全面禁止,对吧,他们还说了,针对最多五万名高中生,他们会搞一个试点项目,也就是所谓的模块课程,在里面教授AI素养,但你听听他们是怎么描述的,他们说,所有高中生每年都可以参加两次AI素养课程,只在帮助他们在开始依赖AI之前,对AI进行批判性思考,好,这些模块将向学生介绍,什么是AI 什么不是AI 这是他们的原话,以及与AI相关的偏见,风险,伦理考量,还有对职业和未来技能的影响,上面还写着,所有的使用都将在受过培训的教育工作者 直接监督下进行,并且会涉及经过仔细审查的AI工具,试点项目是根据严格的安全和数据隐私标准选出的,所以你在里面能听到很多这种末日论者的行话,我是说那些模块听起来就像是某些安全派人士写出来的,这种关于AI偏见和歧视之类的措辞,说实话那些课程听起来不像是要教你怎么使用这些工具,去获得最好的教育,而更像是在教你怎么去怀疑这些工具,也许这算是你应该培养的一小部分能力,因为我觉得人确实应该对所有事情保持怀疑,但那些课程听起来真不像能让孩子们受益,老实讲,听起来就像是要把他们送进Doomer Academy 我是说这听起来不就像Doomer Academy吗,发出来,还有,对 对,写你自己的解读,想想我们的孩子和中国孩子的竞争力对比,那是对,我们知道,中国正在把AI融入K12教育,他们的孩子会学着,怎么去利用这些,这些,机器人,工具,让他们去参加机器人奥林匹克,在那拿到实习机会,对,与此同时,我们要么在学校里禁用AI 要么就让孩子们去上某种,末日安全主义模块,教他们为什么要怨恨和抗拒AI 而不是为了自己的利益去拥抱它,所以我不知道,看起来这根本不会,让我们孩子更有竞争力,很遗憾 [01:14:31]

Chamath:但还是让这个实验跑下去吧,让实验继续跑,我们需要去衡量它,我这儿有一堆想法,我非常推崇蒙台梭利,但我也非常推崇自适应学习,以及这些AI家教,能给那些家里请不起家教,自己又有动力的学生带来什么,所以我想把两个,完全不同的点放在一起,它们多少有点对立 Nick 你能把第一篇调出来吗,就是9H这边,关于麻省理工学院研究的那篇,我也把这篇发给你 Friedberg你可以查一下,非常有意思,他们找了一组54名参与者,抱歉在这插播Science Corner 也就是科学搅换节,抢了你的风头 Friedberg 我本该提前和你打声招呼的,但我读了这篇论文,去年招募的54名参与者,分成三组,进行了四次测试,前后历时四个月,他们用恰奇PT来写文章,跟我们上周聊到的,华尔街日报社论版,那事差不多 一组用搜索引擎,一组用传统的网络搜索,只靠大脑的那组,不使用任何工具写文章,然后研究人员用头戴设备,观察他们的大脑活动,结果发现,大语言模型的使用者,在所谓的记忆力,和文章归属感上,表现出严重缺失,有83%的人,甚至无法引用,自己刚刚写好的文章内容,基本上他们想说的是,如果你用这些大语言模型,而不是靠自己凭空思考,不是像蒙台梭利理念那样,自己独立去做,你的大脑就会退化,你甚至记不住自己写了什么,而搜索引擎那组,介于两者之间,因为他们必须记住事情,必须把这些信息整合起来,如果你不亲自动手去做,你的大脑就会退化,这就是我们正在认识到的,就像如果你不像我们过去那样,下地干活,你的身体就会退化 这也是为什么我们现在都去健身房,但是与此相关的,极其重要的是两个标准差问题,就是Bloom提出的,我相信你知道这项研究 Friedberg 这超级有意思,但对任何有钱人来说都不意外,我父母从来都请不起家教,我八年级之前一直读公立学校,然后去了Severian Private Catholic School 学费超级便宜,但基本上我们从80年代就知道,如果你接受一对一家教辅导,你会比在教室里上课的学生,优秀两个标准差,两件事可以同时成立,这些学生正如你所说 Charmouth他们没有,这个实验正在进行现实的说,如果他们读的是,纽约市的公立学校系统,他们的父母十有八九,像我父母一样,没能力请家教,我猜SACS 你应该算出深重产家庭,我猜你以前确实请过家教,我说的对吗 没有,我没请过家教,没请过家教,好吧,所以你全得靠自己,对我倒也没很想,撒家教,也没有,没有,没有 [01:17:57]

Jason:你知道吗,我去了,我真希望自己当年参加过 SAT辅导班之类的,我当年完全是落考的,我什么辅导都没做过,然后你考了1400 对,你考了1350还是1450 没有,我第一次考了大概1420 然后,厉害,我就想天哪,你知道吗,要是我真认真被考过,可能考得更好,我考了1100 我也没被考,后来我被考了,我重考了一次,考得更好了,不过不管怎样,我是说,我当年根本不懂这些,对,所以矛盾就在这 [01:18:07]

Chamath:大多数家长,不希望孩子做这种作业时,大脑退化,连基础层面的东西都没学会,先抛开上周聊德鲁肯米勒的内容不谈,大家希望孩子能自然而然的学会读写,掌握这些基本功,随便你怎么称呼这种方式,然后再去学,怎么用AI来辅助自己,增强自己等等,但我担心的是那些有上进心,却无法妥善利用这些工具的学生,他们也负担不起,像2Sigma群体那样的家长支持,那些家长心里很清楚,只要给孩子请个家教就行,他们不像自带动力的SACS 请个家教SAT就能轻松考到1400 因为这东西靠死记硬背就行,请个家教,考到1200 1300 1400是很容易的,所以我非常担心没有AI家教的问题,我觉得这两方面其实可以同时成立,我真的很不喜欢目前设计的这个实验 好有意思的是,特朗普总统刚就委内瑞拉的石油,敲定了一笔交易,今年1月我想大家都知道,美军通过一次执行的无懈可击的行动,抓获了马杜罗,他显然是委内瑞拉的社会主义领导人,非常亲华亲俄,而委内瑞拉显然就在我们这个半球 [01:19:42]

委内瑞拉石油交易

# #709.All-in:GPT-6 达到 通用人工智能?科技热潮 2.0、纽约市禁止学校使用 AI

目录

委内瑞拉石油交易

Chamath:而委内瑞拉显然就在我们这个半球,特朗普表示,美国将控制委内瑞拉的石油,那里的石油储量非常丰富,油质不算很干净,但储量确实很大,而且他和马杜罗的继任者达成了协议,现在由罗德里格斯总统掌权,现在我们拿到了这笔交易的细节 North American Blue Energy Partners 获得了17处油田,长达100年的特许经营权,这包括650亿桶储量,曾经由俄罗斯、中国和马杜罗,旗下实体控制的650亿桶储量,美国政府控制这笔交易55%的份额,五角大楼拿到35%的股权,五角大楼拿到了1 3的股权,美国国务院获得了以成本价,购买20%产量的权利,有意思,我猜这是留给我们的战略储备和军队用,这是由卢比奥和海格塞斯 与委内瑞拉临时总统共同签署的,正如我刚才提到的Blue Energy Partners 承诺投入大约1000亿新建基础设施,雪佛龙等许多其他公司,以及一批没有公布名字的公司,也都会拿到一些协议,特朗普表示用他的话说,这笔交易将不会耗费美国纳税人一分钱 Sachs如果你想要的话,我直接给你来个快球,或者我也可以给你来个慢速累球,你想要哪一个,你想接快球吗,我向来喜欢快球,你喜欢快球,好来了投过来了,希望你戴了头盔,我们应该去侵占,接管别国,并夺取他们的油田吗,大家觉得这可能算是在搞国家建构,觉得我们在扶植傀儡独裁者,这是美国该做的事吗,我们有权这么做吗,大家都在问这个尖锐的问题 还是说强权就是公理 [01:21:44]

Jason:我觉不觉得这算国家建构,我们并没有像在阿富汗那样,试图在这里组建军队,我们没有试图给他们灌输,有毒男子气概那一套,我们没有试图组建政府,或者搞任何类似的事,我没有试图教他们,怎么搞美式民主,我们只是在做一笔商业交易,这是一笔商业交易,让我觉得不可思议的是,所有人都在说,这掠夺了委内瑞拉,对委内瑞拉人民来说,是笔坏买卖,你看过委内瑞拉,在马杜罗之下的石油产量吗,鉴于委内瑞拉拥有的精人储量,产量本来就不算很高,但过去十年,在马杜罗之下,产量下降了大约三分之二,他们过去每天能生产大约300万桶,在马杜罗治下产量降到了每天大约100万桶,而这还是一个拥有全球顶尖石油储量的国家,关于到底该怎么算储量,大家有争议,我觉得如果你看总储量 大概是3000亿桶石油左右,跟沙特差不多,就比沙特多一点点,有人会说,其中很大一部分就像那种极重制原油,类似淤泥,根本没法用,我觉得那就是所谓的奥里诺克储量,但300里那部分只有大约200 所以他们还有大约1000亿桶,你可以说它依然是重质原油,但那些探明储量,我觉得没什么好争议的,所以你面对的是巨量的石油,关于这点,我最后想补充的是,那种重质原油,跟我们自己的其实非常互补,在美国靠着水利压裂的神奇技术,我们基本上开发出了,所有这些石油和天然气,但我们的石油是这种轻质低流原油,很适合精炼成汽油,而重制原油才能生产流分油,柴油就是这么来的,我们在墨西哥湾的炼油厂,是为重制原油建造的,要把它们改造成炼轻制原油,成本极高 所以我们的炼油厂可以说是完美匹配,刚好能接收这种重制原油,并转化成柴油和其他流分油,所以我觉得这对美国和委内瑞拉来说,确实是双赢的交易,话说回来,委内瑞拉以前的日子过得糟透了,我觉得这会,这肯定能改善他们的经济,而且我觉得对美国来说,确实是个好消息,顺着你的意思 [01:23:34]

Chamath:SACS过去5到10年里,委内瑞拉运出的石油,平均每桶价格是,过去10年每桶53美元,过去5年每桶58美元,所以他们拿到的条件相当不错,我们多付了一点溢价,把控了所有这些,总得有人在这抽点成,或者找个理由,而且他们还得大老远运到世界的另一端 Friedberg你怎么看,你对国家建构之类的事情有担忧吗,比如扶植有人所谓的傀儡总统,这符合委内瑞拉人民的最大利益吗,我们作为买方买下这些,算是在帮委内瑞拉一个忙,为他们创造更多稳定吗,还是说这纯粹是我们不得不做的事,考虑到与伊朗的战争局势,和霍尔木兹海峡的关闭,我们必须控制我们所在的半球,必须实现能源独立,最大的驱动因素 可能是不让这些石油以超优惠的价格落入俄罗斯和中国手里,如果你看委内瑞拉与马杜罗政权的历史渊源,它一直是一套打折的石油贸易体系,各种说法都把马杜罗说成是所有这类非法勾当的罪魁祸首,而其中很多都是由俄罗斯和中国对能源储备的兴趣驱动的,他们提供支持,这实际上为俄罗斯人在古巴开展活动提供了资金支持,关于做成一笔能源交易的真正动机,有许多国家行为体理论,不光看它是否对美国有利,还要看它是否对美国的敌人不利,这可能是这背后的一大动因,而在过去这一天里,比较让人意外的一个结果是,你们可能还记得我采访过,玛丽亚·克里纳·马查多,他就是当时竞选总统的那个人 最后经历了一场据称不准确的选举,本来应该是他赢的,但他没赢成,昨天他站出来说,尽管他历史上一直被视为美国的盟友,但现任委内瑞拉政府,无权与美国达成这项能源协议,所以值得注意的一点是,他没有当上总统,而现在他说这个政府是非法的,这个政府不应该被允许做这些交易,我们作为委内瑞拉人民,对整件事应该感到愤怒,沮丧,觉得被抛弃了,所以现在似乎出现了这种政治上的转向,我觉得我其实不太清楚,而且我觉得挺有意思的是,委内瑞拉人民到底怎么看这笔交易,而且按SACS的说法,相比他们原本的处境,这看起来应该是一笔不错的经济交易,这到底会不会转化为改善委内瑞拉人民的生活,而这归根结底才是最重要的 假设委内瑞拉人民的生活确实在改善,而不是让委内瑞拉的少数人发财,这正是上届政权统治下,那个国家历史上发生过的事,那么大家对这笔交易可能会有一种长期的欢迎,但我确实觉得这有两方面,一是遏制美国的敌人,让这些能源产地不被美国的敌人利用,二是确保委内瑞拉人民能体会到这笔交易的好处,这算不算是,而不是变成非常棒,一个腐败的政府,挑衅意味很浓呢 Friedberg 因为我们通过与伊朗已经打了七个月的战争,切断了俄罗斯和中国获取伊朗石油的途径,又把委内瑞拉给夺走了,这两项行动算不算挑衅,意味极浓,而且对中国造成任何不利影响了吗 因为他们似乎全力压住核能太阳能和其他形式,所以这两件事挑衅意味是不是特别浓,会不会导致我们和中国陷入冲突升级,第二个问题我觉得多少有点独立,不过我觉得中国每天大约进口1100万桶原油,委内瑞拉每天只产100万桶,所以如果中国进口1100万 [01:27:23]

Jason:战前他们确实是进口1100万桶,那个数字其实降了很多,我们可以聊聊为什么,但自开战以来,中国的石油大部分来自中东,波斯湾以及俄罗斯,我是说委内瑞拉的量其实很小,我是说你看,我觉得Frieberg说的对,我们动机很大一部分就是,保住西半球的那些储量,储量极为庞大,而且再说一遍,这种油和我们自有的油互不性极强,我觉得这无论从国家安全看很明智,也是比划算的经济账 JCL针对你的观点,这会不会让我们在委内瑞拉陷得更深,我觉得确实有一点风险,因为如果我们打算投几十亿美元,升级他们的基础设施,把日产量从100万桶提升到300万桶,我们得确保那笔投资受到保护,我们不能让未来的某一届政府上台 直接把我们美国在当地的石油公司给国有化了,对吧,我们得确认这些商业协议,我们不能被rock pull 然后他们直接把我们升级好的设施没收了,他们可能会没收升级后的设施,对,这笔商业协议本来应该持续25年,所以这确实让我们有既得利益,去确保委内瑞拉政府至少尊重我们的产权,但我很庆幸特朗普总统没有扶持马查多掌权,因为他要怎么保住权力,比如能靠什么枪杆子来保护他,在这些国家里,基本上得靠带枪的人才能保住权力,而且,你得有个铁腕强人,我不是说他不能实行民主,我只是说,如果你在当地的权力结构里没有根基,军方也没有支持者之类的,那就很难保住权力,到时候可能就得派美国大兵去保护他,而我们并不想那样,对吧 所以委内瑞拉局势比较好的一点是,德尔切罗德里格斯和他哥哥,基本上在掌管这个国家,他以前是二号人物,现在由他来掌管,他们看起来得到了当地当权派足够的支撑,所以我觉得美国的利益差不多就在于此,只要当地有一个稳定的政府,能基本和我们开展经济交往就行,是的

Chamath:对 Chemist对委内瑞拉正在发生的事 [01:29:57]

收尾与节目口播

# #709.All-in:GPT-6 达到 通用人工智能?科技热潮 2.0、纽约市禁止学校使用 AI

目录

收尾与节目口播

Chamath:Chemist对委内瑞拉正在发生的事,你有什么想法吗,我没怎么跟进,我真不太清楚,不知道,好,行吧,行吧,好了,各位,就到这里,第288期,不知怎么的,我们这支乐队,居然一起撑过了 288张专辑和单曲,哥几个,我们能做到300期的,我觉得我们的节奏挺好的,现在做节目感觉,比很长一段时间以来,都要轻松,是啊,不知道为什么呢,不知道为什么 AI对这档播客来说,真是件大好事,我们在这档播客上,简直嗨得像,回到1999年,他妈的去卡布走起,他妈的走起,我们卡布见,各位,爱你们,哥几个,爱你们 Besties 拜拜,拜拜,相反,我们太远给粉丝,他们直接玩疯了,爱你们 Besties Queen of Quinoa Besties回来了,那是我家狗在你的车道上,留了泡尿,戴维萨克斯,天哪,天哪,天哪,我的男装裁缝会在二十和我碰头,他们真该去开个房间,搞一场巨大的狂欢派对,因为他们全都是一帮反头,就像某种性张力,他们总得找个法子释放出来,沾点油水,沾点油水,三点油水,我们得搞点周边了,四位Besties又回来了 [01:30:53]

返回该播客 打开原文