#675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

完整转录稿

Podcast 跨国串门儿计划 2026-08-14 03:27
摘要

整体概括

本期课程围绕 AI 超级周期的经济学展开:从生成式 AI、GPU 和数据中心的资本投入出发,逐层讨论基础设施、企业内部知识、Coding AI、应用与 Agent,以及生命科学。课程反复追问同一个核心问题:技术能力如何转化为真实经济价值,以及在不同阶段,企业、投资者和创业者应当依据哪些成本、供给、需求和组织规律作出判断。

主要内容

AI 超级周期与课程框架

Apoorv Agrawal:欢迎收听跨国串门计划。本期我们把Stanford MSV235 AI超级周期的经济学春季课程的九节内容合并为一集。课程从生成式AI的经济学和GPU市场出发,依次讨论AI工厂、企业基础设施、内部知识、Coding AI、应用AI与生命科学。授课与嘉宾从投资云计算、前沿模型和应用创业的一线视角,拆解AI技术占每一层的成本、价值与商业机会。现在让我们开始这场完整的AI经济学课程,好了,各位,这节课我们会玩得很开心,我叫Borf 接下来大概九周,我是你们的讲师,今天我们要过这些内容,我先简单介绍一下自己,我为什么做这件事,一些课程安排,告诉你们会有什么预期,测验,对,我就是那个人,第一天就有测验,还有我们一直在纠结的最大问题 钱在哪 AI的钱在哪,有些人认识我,但我的旅程始于印度,我搬到了新加坡,刚才在这儿碰到几位新加坡来的朋友,我的职业生涯始于Palantir和Sunil 以及几位同事一起,大概13年前 14年前,带过各种工作团队,总之,我在政府大楼里写了很多Spark 后来我回到斯坦福读研究生,那会儿我已经写腻了政府大楼里的Spark 现在我在Ultimeter做合伙人,不知道你们有多少人听说过 Altimeter Altimeter是一家投资公司,我们做的是相当几种的投资方式,我们有两块业务,一块是公开市场业务,一块是私募业务,然后六个月前,我得到了人生中最大的一次升值,我现在是个骄傲的爸爸了,大家都跟我说,这是我这一生最大的一笔投资,有人管它叫,最稳赔不赚的投资 我觉得它是最稳赚不赔的投资,当然不是财务意义上的,不过这是我的看法,我就住在街对面,有问题随时找我,我想在这里当你们的资源,我还有一位非常出色的助教 Chloe Fang 如果你们有更难的问题可以找她,好好利用这门课,我们为你们准备了一堂很棒的课,这门课的设计是每周不超过三个小时,这包括上课,阅读,还有你花在跟ChatTPT 不,Claude争论,他能不能帮你做作业的所有时间,所以大概是一个小时的课,阅读材料大概一到两小时,基本上从下一节课开始,每节课我们都会请嘉宾来分享,按查塔姆公规则,很多嘉宾会分享,甚至可能分享过头,所以请不要录下他们说的话,课后我们和一些嘉宾,安排了自愿参加的晚餐,欢迎你们一起来 Chloe会安排具体事宜,评分很简单,各占50% 来上课就行,如果Ali Gozi都能来上课,你们也能来,另一半是课程结束时,我们会布置的一份作业,对,就是对话时的,多提问,多参与,你参与的越多,收获就越多,说实话,对我来说,我从你们身上学到的最多,这是接下来九周的课程安排,很多优秀的嘉宾,一个比一个厉害,至于我,说实话,排这份日程表,是我过去几周,几个月的工作 Chloe全都知道,但请务必到场,这些都是非常出色的领导者,在技术战的各个层面,经营着非常出色的企业,从半导体到基础设施,到能源再到模型,你们会见到来自OpenAI和Anthropic的人 还有一大批应用和a……

GPU、资本支出与 AI 工厂

Apoorv Agrawal:希望我们能覆盖很多话题,就这边,关于编辑问题,你建议我们怎么重新定位自己,怎么确保我们不是在浪费时间学习,对,听着 Sachin Katti:这个问题我得替我儿子回答,也要替很多其他人回答,人类有一种独特的方式,能在各种颠覆中,照样为社会创造价值,对吧,工业革命时期,如果你是个手艺人或者工匠,对吧,你从头到尾做出一件产品,但这些人几乎全被大规模生产取代了,对那个人来说,那感觉可不好受,我很擅长从零到一把一个轮子做出来,但我完全被生产方式绕过了,明白吗,但世界并没有就此停下,那些人找到了别的事情做,我观察到的一个现象是,过去我们有80%的人,在制造业农业和其他行当里,今天我们有70%的人在服务经济里,对吧,我们现在有奢侈的条件,能请得起人,以前我们不会请教练,对吧,那时候请不起教练,对吧,今天世界上有教练,瑜伽教练 还有数不清的东西,给世界带来很多价值,我觉得人类有更高层次的事情可以做,对吧,所以对我来说,有一点是,如果你足够有钱,能请得起家教,一个专业的家教,那当然很好,但对世界上98%请不起的人来说,现在他们也能得到了,或者如果你是那3%能享受礼宾医疗的人,那确实非常好,但对另外97%的人来说就没那么好了,而现在他们也能得到同等水平的医疗服务了,所以我觉得这关乎智能民主化,访问民主化等等,但这并不是说不会出现新的挑战,我排第一位的建议还是让自己变得bionic 做一个创造者,想办法让自己创造价值,所以如果有人来altimeter面试 说我不用AI也不用Excel表格,我全靠手算,那就有问题了,对吧,我期望每个人都能用上手里所有最厉害的工具,让自己尽可能高效,尽可能创造价值,帮我们在世界上产生alpha 所以从这样一个地方开始,换一种说法,这句话我留着以后发推文用,我觉得智商会被商品化,而情商会变得极其值钱,对吧,我说的情商是什么意思,我指的是在座各位的人脉网络,我指的是说服坐在你旁边那个人的能力,组建团队的能力,带领大家朝不同方向前进的能力,这些才是超级有价值的,对吧,我觉得未来这些会变得更有价值,但是我觉得只是坐房间里最聪明的那个人 在白板上比物理所有其他人类都更快的解除问题,那种能力我觉得会被商品化,你不可能赢过机器,这不代表你不需要学那些东西,但我觉得想赢过机器会很难 Brad Wan 谢谢你来做这期节目,我们需要BGR回归,我们想念它,现在我们在all in pod上只能偶尔见到Brad一次,你只有那么一小段档期,所以我得把你请回来,这才是该做的,对,让BGR回归吧,但我能不能就刚才那点再补充一句,我觉得现在正在发生另一个时刻,我经常想这件事,如果你真的去看,现在数学界正在发生什么,有各种各样的新发现在涌现,我用这样一个类比,人类得等一个苹果砸到牛顿头上,他才开始思考引力,开始把它公式化 Sachin Katti:开始把它公式化,但现在如果我们能让别的东西去工作,去发现新东西,就像Brad刚才展示的那张图一样,对吧,……

基础设施、企业 AI 与 SaaS

Sachin Katti:所以能换个身份回到校园,坐在讲台的这一侧,感觉很有意思,很感谢大家对我现在在Cruzo做的事情感兴趣,不过我觉得从某种意义上说,数据中心本身就是这轮AI应用热潮的物理体现,它是实实在在的基础设施,用来给GPU供电,让GPU运转,跑那些大规模计算任务,训练新模型,微调模型,跑大规模推理负载,把token提供给终端用户,今天举手说自己在用Gemini ChatGPT或者Quad的人都离不开它,所以数据中心就是那个物理基础设施,真正让所有这些技术得以普及 Apoorv Agrawal:改变人们的生活,太好了,那么Chase 数据中心里,其实有非常多的不同组成部分,我们多多少少听过一些,关于算力的东西,也听过一些关于内存,电力,互联和人力的事情,帮我们把所有这些组成部分,放到一个整体框架里理解一下吧,我们应该怎么去理解它,当超大规模云厂商,花6500亿美元,建这些数据中心时,钱都花到哪里去了,其中有多少流向了你们 Sachin Katti:这是个好问题,当我认真思考这种智能基础设施时,我的出发点其实是,要生产出AI到底需要什么,你看大家都痴迷于AI 但真正的问题是,制造AI到底需要什么,我脑子里有一个基本的等式,对吧,你知道人工智能,就是数据算法和算力的结合,算法包括反向传播,神经网络 Transformer架构,这些都是人们想出来的不同算法,本质上是对数据集做统计建模,算力也就是大量的计算能力,特别是通过GPU实现的高性能计算基础设施,有了它你才能把大量工作负载并行化,在高性能架构里做大量张量运算,还有运行这些GPU所需要的能源,然后是数据中心,也就是容纳并运营所有这些计算基础设施的物理建筑,那到底什么才真正花钱 数据当然也花钱,我的意思是你得去买数据,这给很多数据标注公司,打开了新的机会,比如SCALE AI 还有Mercur 你知道连H&J也差不多进入了这个领域,它给人们创造了很大的赚钱机会,靠生产对AI有用的数据来赚钱,算法呢,那主要是在很多实验室里,那些实验室在发明新的机制,地规学习技术,就是一个新趋势,还有人们用来更好利用数据的各种不同架构,但算力能源和数据中心,才是Cruzo真正专注的方向,我们想的是,怎么真正去建设运营扩展,并充分利用所有这些基础设施,而这往往也正是真正赚钱的地方,所以或者说是花钱最多的地方,抱歉,就是你刚才展示的那张资本支出图表,对,所以我想说的是 我给自己演讲起的名字是,从电子到令牌,那为什么令牌真的有价值,而且考虑到这是在经济学系吗,工程系,在工程系,好的,好吧,你们有些人上过经济学课,当然,对,有一个生产方面的经济学模型,叫科布道格拉斯模型,比如你看GDP的增长 GDP的增长从根本上说是三个关键组成部分的总和,劳动力的变化,资本的变化,所以这个资本既包括实物资本,比如建筑厂房和设备,也包括投入到经济中的资本,然后是技术的变化,而且技术基本上让劳动力变得更高效,对吧,我觉得这是一个很好的理解方式,那为……

前沿实验室与基础设施案例

Sachin Katti:是Claude吗,是Gemini吗,这个园区的租户,你看这个园区一共有八栋楼,这是一号楼,二号楼,我刚才说的变电站就在这儿,然后上面是三号楼,四号楼,五号楼,六号楼,七号楼和八号楼,所以前八栋楼都是给甲骨文和OpenAI用的,基本上就是之前说的新技之门项目,算是第一个大项目,为了支撑这个项目,我们还在下面建了一座天然气发电厂,这大概是一座350兆瓦的天然气发电厂,用来支持开发给这个巨大的计算机群供电,它还被设计成能作为一个整体机群运行,也就是说所有数据中心里的所有芯片,都通过同一个高性能后端网络互联,能够作为一个整体工作负载来运行,所以你可以跑一个训练任务,它同时跑在整片园区所有数据中心的所有芯片上 这真的是非常非常独特的架构,给你一个规模的概念,因为光看照片很难看出来,我们当时还得在这边修一个停车场,那个停车场是个能停5000辆车的停车场,你可以看到它完全停满了,因为我们每天大概有9000人在现场,一起把这个园区建起来,园区南边还规划了扩建,你能看到那边有些土方,那是给微软的整个园区加起来是2.1几瓦,再说一遍,相当于两个单佛式的用电量,来给这里所有的人工智能计算基础设施供电 9000人chase 阿比林的人口是多少 9000 不是,不过待会我要给你看另一个园区,我们现场的员工,比那个镇的人口还多,太惊人了,这简直是曼哈顿计划,阿比林的人口是12万,所以我们一开始,能从阿比林本地招到不少人,但时间一长,我们其实得设计很多用工和留人机力 才能吸引人搬过去,基本上就是当短期建筑工人来干,长期来看,会有一批稳定的就业人口,负责运营这些大型计算集群和发电厂,维护整套基础设施,这批员工大概在2000人左右,这么说大家有个概念,但即便如此,对一个人口大约12万的本地经济体来说,它依然创造了非常非常多的就业岗位,好你继续,不不你先请,虽然台下听众主要是学工程的 Apoorv Agrawal:但这门课讲的是人工智能的经济学,对,那带我们走一遍那笔比喻性的100美元开销吧,假如他有100美元或者X美元的支出,这笔钱是怎么分配到不同层面的,好 Sachin Katti:或者你本来也要讲到这儿,我正要讲到这儿,我们先从发电厂和数据中心这边说起,然后再讲到计算集群,接着我们会聊,好,这里面投的是几百亿美元,那大家怎么赚钱,回报到底从哪来,这个我讲到后面幻灯片的时候会说到,但Apple最开始展示的那张幻灯片,是巨大的资本支出,对吧,而Cruzo 那些公司里有很多都是Cruzo的客户,对吧,当这些客户在建设这些大型资本支出项目时,我们帮助他们服务所有这些客户,帮他们构建这层智能基础设施,随之而来的,我觉得这里面有很多不同的组成部分,但电器设备是其中很大的一块,对吧,想想看,如果你看那边,那边有一些白色屋顶的小建筑,那些叫做配电中心,他们从高压或从变电站取电,进来时是中压34.5千伏,也就是34500伏,然后他把电分配到那一排设备上,你看到这里写着变压器 变……

企业内部知识的激活

Apoorv Agrawal:回收期就是两年,那结果就显著好得多了,有道理,太好了,如果你没有其他幻灯片了,我可能会带你过一遍,同学们提的几个问题,然后开放提问,好请讲,请讲 Sachin Katti:你还有更多内容吗,我这边没事了,这些只是我们一些,部署项目的照片,我刚才在展示,好,那Blackwell之类的,而且我会讲讲推理扩展,以及我们实际上是怎么做的,为了降低那些劳动力成本 Crucial设计了一个,我们称之为Crucial Spark的东西,这是我们模块化,自包含的模块化 AI数据中心,在集中的地点制造,这样我们能降低劳动力成本,也能把基础设施成本,降下来不少,大概能省30%到50% 取决于整体成本,所以你看,每兆瓦1900万那个数字,我们能大幅降下来,规模上容量是多大,是几瓦级几兆瓦,还是,这个我们风冷架构的,每个单元是500千瓦,明白了,那大概,然后这是风冷设计,我这其实有一段,他们现场部署的视频,我不知道能不能放出来,不过算了 好没关系,然后我们还有个夜冷版本,那个是两兆瓦,但你可以成批部署,对吧,这其实打开了大量,全新的电力供应机会,是个挺巧妙的方案 Apoorv Agrawal:太棒了,太棒了,好时间有限,我想不出有谁比你更适合,回答我接下来这个问题,你大概看遍了,整个技术站的每一层,从芯片到电力,到燃气到人力,再到网络,如果让你挑技术战里的一层,具体到一家公司,再具体到一只股票,你会做多什么,你会做空什么,为什么希望大家都在记笔记,我会做多什么,做空什么,一年后我会打电话问你的,对,看看一年后结果如何,这太难了,当然Cruso出外,对,我是说我对Cruso是强烈看涨的 Sachin Katti:但是我确实觉得,很多时候要把这些事看对挺难的,尤其是你看时间跨度的时候,我确实觉得我的看空理由,其实是我之前展示的,横跨整个电力堆栈的那笔巨大投资,电力堆栈里有太多组件了,因为你做的事情是,从那个高压变电站取电,那里的电力可能是345千伏,所以德克萨斯州正在新建一条 765千伏的线路,所以那是非常非常高压的电力,然后要经过一个变压过程,你要把它降到中压,再降到低压,然后分配出去,这里面有大量的电缆,大量的设备,我认为数据中心,从根本上会推动,整个电力堆栈的大量创新,并且会大量利用固态电子,固态变压器和电力电子技术,而且我认为这会让很多,在过去100年里,基本没怎么创新的公司,陷入危险境地 所以这就像伊顿施耐德,还有其他一些公司,我认为他们会,我说很难给这事定个时间表的原因是,那些公司,我认为短期内会表现得非常好,他们现在就在关键路径上,他们短期内会表现得超级好,对,而且他们是我的重要合作伙伴,所以我不太愿意说我看空他们,没错,长期来看,如果他们不创新,如果我认为电力堆栈的,整个那一块的成本会大幅下降,因为有创新者,在打造电力堆栈的下一代版本,对,而且会向900伏直流这类方向发生巨大转变,方方面面都会变,那这对在座的电气工程师来说是个机会,在座的……

Coding AI 与软件未来

Sachin Katti:现在做这个决定,确实比任何时候都难,我有这么个想法,就是你在学校里学的那些具体东西,其实没那么重要,我不是说那些东西没用,它们确实重要,但更重要的是,学习这个过程本身,以我的经验来看,这就像我们Cruzo的核心价值观之一,你刚才提到过一个,叫像山一样思考,我们另一个核心价值观,是活在无限成长循环里,对吧,这个理念就是,没有人是成品,每个人都在成长中,如果你能变得更好,能学到更多,如果你有那股韧劲,知道怎么每天提升自己,时间一长,就会产生指数级的福利,这真的是我们任何人,能拥有的最宝贵的资产,所以关键就是,去投资努力,坚韧,苦干这个过程,然后真正用好各种工具,因为我不知道五年后世界会是什么样 AI大规模普及应用之后 我每个人手边都相当于,有一只百万人的劳动力,对吧,它会从根本上改变工作,它会改变每个人的做事方式,所以再说一遍,我会少关注学什么,多关注怎么学,还有怎么用好AI工具去运转,去过好自己的生活,这就是我想给学生的建议,太好了 Chase 非常感谢你来做这次分享,谢谢 Apoorv Agrawal:你知道阿里,我想我们该从这开始,你进来之前,大家都在聊世界变化太快了 XA Cursor OpenAI 还有跟Anthropic的竞争,你们做的特别好的一点是,一路叠加上来,从数据业务做到,胡仓一体业务,现在又做到AI业务,就说国新资文吧,从最高处往下看,你看到了什么,帮我们勾勒一下这个格局,你脑子里最大的几件事是什么,我这准备了一堆问题可以聊,我想不如就敞开聊,你想到AI脑子里最大的一件事是什么,对我觉得,我觉得你们可以放轻松点,别焦虑,我觉得现在这个时代确实疯狂,但基本上没必要这么紧张,而且我觉得焦虑会让人干蠢事,去追那些推特上,人人都在聊的,当下最疯的东西,我觉得焦虑会让人视野变窄,不去做真正该做的事,对,这就是我在现在这一代人身上看到的 每年都有实习生来DataBreaks 我总会跟他们开一次会,一个小时 90分钟左右,他们可以随便提问,过去两年简直疯了,以前他们会问好的职业建议,我也会给他们好的职业建议,现在他们才22岁,就一副,天哪,我是不是该自己开公司当CEO的样子,或者如果我把这事往后拖六个月去做点别的,我是不是就把职业生涯毁了,人生就完了,而且你知道 通用人工智能一定会来,我就要错过这班船了,我就想那我该怎么办,所以我就是跟大家说,冷静点,深呼吸,事情需要时间,对,所以这就是我想说的,其实我想说在硅谷,如果你现在想一想正在发生什么,我觉得你可能会不同意其中一些,所以尽管反驳,当然,你们也可能不同意,你们也可以反驳,但确实存在这种对超级智能的追求,我觉得这是没有根据的,对 因为首先,他们甚至都没定义什么是超级智能,但这是一种像神一样的东西,我觉得是人们在读库兹威尔,你知道,就是起飞起点,就是那种会来的东西,地归自我改进,然后治愈所有疾病 GDP跳涨10% 失业率到20% 再也没有工作了,然后散布恐慌,全民基本收入发给所有人……

应用 AI、Agent 与商业化

Apoorv Agrawal:但智能上领先六个月,是巨大的领先,对,所以我们看不出任何理由,要放缓对前沿智能的持续投入,太好了,各位我们今天就到这里,今天我们要聊的是,技术战里的这一层模型,以及怎么为更好的应用,打造更好的模型,今天的嘉宾是Yash Patil Applied Computer创始人和CEO 我非常高兴能请到Yash 不仅因为他是斯坦福的毕业生,而且是刚毕业不久,他会聊很多自己的经历,而且他是极少数从斯坦福本科毕业后,直接进入OpenAI研究院的人,加入了后训练团队,在OpenAI工作期间,他产生了一个洞察之后,离开OpenAI创办了Applied Compute 并且把Applied Computer 做成了非常成功的企业,把他在OpenAI学到的经验,用在了很多了不起的企业身上 Yash 谢谢你来做客,请入座,谢谢太好了,话筒开了 好谢谢邀请我来,谢谢你来 Yash 跟我们介绍一下你自己吧,你的经历非常精彩,对,而且你做过一些很艰难的选择,其实在你来之前,我们刚和这门课的同学聊了很多,关于学什么怎么选的问题,所以跟我们讲讲你的经历吧,好,而这一切把你带到了今天,对,那我就简单讲讲我的经历,其实也不算长,其实不久前,我还坐在这间教室里参加期末考试,我是25届的,所以离开校园也没多久,对,我是在德克萨斯州的奥斯汀长大的,后来来这里上学,我喜欢说,我在高中是个非常好的学生,但在这里我是个非常差的学生,不是说成绩不好,而是基本不去上课,看网课录像,就干这种事,然后快进一下历史,我在校园里折腾了不少东西 后来很偶然的通过一些共同朋友,认识了Sam Altman 关于Sam有一件事,我觉得没多少人知道,就是他特别愿意,在年轻人职业生涯,早期拉他们一把,所以,对,我就这么认识了Sam 我们在大一,暑假就很投缘,当时我和一个朋友在琢磨,嘿,我们是去做暑期实习呢,还是去做我们自己的项目,最后决定,嘿,我们去做自己的项目吧,我们推掉了实习,然后到处找钱 Sam 我们给Sam发了一封盲邮件,他给了我们一张很小的支票,大概就是购付吃饭和房租什么的,然后夏天就做那个项目,最后把它关掉,回到学校,所以夏天忙完那件事之后,我回到学校上大二,在校园里做了很多好玩的事,比如TreeHacks 给TreeHacks打个广告 那基本上是我在学校的头等大事,我真的很喜欢为同学们办那场黑客马拉松,但到了2022年底 ChadGBT出来了,我当时就是随便玩玩,然后我就想,天哪,这是我见过最酷的东西,我必须去搞,这个,我脑子里再也装不下,别的事了,所以我又给Sam 发了封邮件,说,嘿,我怎么才能来搞这个,他把我介绍给了,当时叫 OpenAI驻留项目的,那个计划,我记得他现在还在,其实OpenAI里,很多人都是靠这个项目,从学术研究员,或者别的行业的人,变成OpenAI的,全职员工的,我2023年初,加入OpenAI 进了后训练团队,跟一些我在原模型领域,特别特别景仰的人一起工作,一……

AI 在生命科学中的落地

Apoorv Agrawal:语音转键盘,语音转文字,差不多就是这样,他们跑了很多字眼的定制模型,或者是在内部用很特别的方式改过的模型,才能实现那种体验,我们为他们做的就是跑所有的优化,所有基础设施都是我们在跑,这样从你开口说话到文字出现,延迟能压到最低,里面有语言模型,也有音频模型,实际上我觉得中间大概有三四个语言模型,还有两个音频模型才能实现这个效果,这些全都跑在Basin上 Shiv也是我的好朋友,他是一家叫Abridge的公司的CEO Abridge是做医疗的,是一个环境记录器,美国几乎每个医疗系统都在用,和电子病例深度集成,他们大概跑着20个不同的模型 从最基础的语音转文字模型开始,把手术室或者病房里,病人那边发生的事转成文字,再到后面把这一切变成一份,和电子病例深度集成的临床记录,全都包括,再说一遍,几十个模型,从可靠性角度,从速度角度要求都非常多,而且几乎每一个,其实我觉得是每一个模型,都跑在Basic上,我觉得这挺能代表我们想做的事,我们的判断是 AI的规模会大到难以想象,推理,就是AI价值传递的齿轮,而今天大概90%到95%的推理支出,都流向了前沿模型,大概5%流向了定制模型,我们相信那些用AI打造出色应用的人,要想做出能盈利能活下去,别人难以复制的公司 靠的是定制模型,而且我们希望他们都跑在Basement上,他们95%的支出都流向了前沿模型,对 5%流向了开源模型,或者说经过后训练的开源模型,对,明白了,其实在聊这个之前,我想问你一个问题,关于你刚才提到的那两家公司,就是Average和WhisperFlow 这两家都是规模相当可观的业务了,他们为什么要来找你合作,为什么不是通常来说,如果我是个创始人,我会去找我的云服务商,我会去找AWS GCP Azure 或者那些AI云里的新云厂商,比如Corevive, Nebios之类的,为什么是Basen 对,我觉得很大程度上,归结为我们正在构建的软件的,三四个核心支柱,首先显然是性能 你需要这些东西尽可能快的运行,如果你去Corevive Navius Oz GCP 那些优化就得全靠你自己,第二块是可靠性和算力,他们来找我们,是因为他们需要推理,能跨云运行,而且要高度容错,有弹性,我觉得其中一部分就是做到多云,能从多个来源获取算力,我们帮他们解锁了多云,第三块是我们提供的开发者平台,给他们灵活性,安全性,可观测性,以及所有那些让这一切成真的好东西,所以我们实际发现的是,很多人确实会先去你提到的那些厂商,然后他们才意识到,要在算力之上把整套推理技术战,搭起来有多痛苦,然后意识到来Basin才是更好的选择,有意思,我想现在回到你之前说的第二点 95%的token跑在前沿模型上 5%跑在某种后训练模型,或开源模型上,如果我用的是开源模型,或者对开源模型做后训练,那我就是从智能发展的谱系里,分叉出去了,而这个谱系本身还会继续进步,而且我冒的风险是,下一个GPT模型,或者下一个OPUS模型,我们就叫……

关键 takeaway

  • AI 应用的新增用户并非零边际成本,推理会持续消耗 GPU 等基础设施,因此 AI 经济与传统软件经济的成本结构不同。
  • 判断 AI 生意,不能只看模型能力或收入规模,还要追问算力、能源、芯片、互联、内存和资本支出如何共同决定价值。
  • 超级周期早期的关键不是追逐所有热点,而是识别当前阶段支配业务的物理规律、供给约束和定价压力。
  • 企业 AI 的机会不只在通用模型本身,也在把企业内部知识、工作流程和组织协作真正转化为可调用的能力。
  • Coding AI 既改变软件生产方式,也会重新定义软件公司的分发、毛利、产品形态和人与工具的分工。
  • Agent 的商业化必须落到具体工作流和可衡量价值上,单纯增加模型调用并不等于创造经济回报。
  • 生命科学中的 AI 价值覆盖分子设计、实验、临床、监管和生产等环节,模型能力需要与真实研发流程结合。
  • 课程对学生和从业者的共同要求是主动使用最新工具,形成能提出正确问题、配置资源并创造超常价值的判断框架;真正重要的不是追逐概念,而是把技术放进具体工作和经济约束中检验。

目录

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

欢迎收听跨国串门计划。本期我们把Stanford

Apoorv Agrawal:欢迎收听跨国串门计划。本期我们把Stanford MSV235 AI超级周期的经济学春季课程的九节内容合并为一集。课程从生成式AI的经济学和GPU市场出发,依次讨论AI工厂、企业基础设施、内部知识、Coding AI、应用AI与生命科学。授课与嘉宾从投资云计算、前沿模型和应用创业的一线视角,拆解AI技术占每一层的成本、价值与商业机会。现在让我们开始这场完整的AI经济学课程,好了,各位,这节课我们会玩得很开心,我叫Borf 接下来大概九周,我是你们的讲师,今天我们要过这些内容,我先简单介绍一下自己,我为什么做这件事,一些课程安排,告诉你们会有什么预期,测验,对,我就是那个人,第一天就有测验,还有我们一直在纠结的最大问题 钱在哪 AI的钱在哪,有些人认识我,但我的旅程始于印度,我搬到了新加坡,刚才在这儿碰到几位新加坡来的朋友,我的职业生涯始于Palantir和Sunil 以及几位同事一起,大概13年前 14年前,带过各种工作团队,总之,我在政府大楼里写了很多Spark 后来我回到斯坦福读研究生,那会儿我已经写腻了政府大楼里的Spark 现在我在Ultimeter做合伙人,不知道你们有多少人听说过 Altimeter Altimeter是一家投资公司,我们做的是相当几种的投资方式,我们有两块业务,一块是公开市场业务,一块是私募业务,然后六个月前,我得到了人生中最大的一次升值,我现在是个骄傲的爸爸了,大家都跟我说,这是我这一生最大的一笔投资,有人管它叫,最稳赔不赚的投资 我觉得它是最稳赚不赔的投资,当然不是财务意义上的,不过这是我的看法,我就住在街对面,有问题随时找我,我想在这里当你们的资源,我还有一位非常出色的助教 Chloe Fang 如果你们有更难的问题可以找她,好好利用这门课,我们为你们准备了一堂很棒的课,这门课的设计是每周不超过三个小时,这包括上课,阅读,还有你花在跟ChatTPT 不,Claude争论,他能不能帮你做作业的所有时间,所以大概是一个小时的课,阅读材料大概一到两小时,基本上从下一节课开始,每节课我们都会请嘉宾来分享,按查塔姆公规则,很多嘉宾会分享,甚至可能分享过头,所以请不要录下他们说的话,课后我们和一些嘉宾,安排了自愿参加的晚餐,欢迎你们一起来 Chloe会安排具体事宜,评分很简单,各占50% 来上课就行,如果Ali Gozi都能来上课,你们也能来,另一半是课程结束时,我们会布置的一份作业,对,就是对话时的,多提问,多参与,你参与的越多,收获就越多,说实话,对我来说,我从你们身上学到的最多,这是接下来九周的课程安排,很多优秀的嘉宾,一个比一个厉害,至于我,说实话,排这份日程表,是我过去几周,几个月的工作 Chloe全都知道,但请务必到场,这些都是非常出色的领导者,在技术战的各个层面,经营着非常出色的企业,从半导体到基础设施,到能源再到模型,你们会见到来自OpenAI和Anthropic的人 还有一大批应用和agent公司的人,所以把你们最尖锐的问题都留给他们,他们会很喜欢的,我们还会布置一些阅读材料,那你们为什么要上这门课,你们应该在这门课里收获什么,什么才是好的收获,说实话,我想过这个问题,刚才还在跟这里的一个学生,讲这一切是怎么开始的,我每年回一次校园,讲讲正在发生的一切,通常都是围绕找到优秀人才这个角度,我意识到这是一个巨大的超级周期,我们知道这一点,我们在Ultimeter Capital也相信这一点,我们的定位,我们的全部重心都围绕它展开,而我没有找到一门课,能像我当年在这里读本科,或研究生时希望的那样深入,我想过五年之后,每个人都会问你,嘿,你当时看到它要来了吗,你就在它的起点 XGBT发布的时候,你就在场 那些结构性巨变正在成形,年土正在塑形的时候,你就在场,我觉得你们会希望自己能说,是的,我看到了,所以你们当中有一半人,会去创办一家AI公司,另一半人会去投资它,所以至少你们应该知道,将来要融的A轮融资,钱该花在哪,而且最起码,你们会对什么不该做有个概念,或者至少有一套思维框架,比如我正在看的这个生意,或者考虑去创办,去投资,去加入的这个生意,该问哪些对的问题,在这个周期的这个阶段,支配这门生意的物理规律是什么,我觉得这会是迄今为止最大的一轮,我很高兴你们能来和我们一起学习,我要在这张幻灯片上花点时间,因为这基本上就是核心要点,你们当中有多少人以前见过类似的图,做过阅读的同学,谢谢你们,我很感激 我们也为那些更习惯听音频的同学,准备了一个notebook了,不过我们花点时间聊聊这个,这里发生的事,实际上可能是,当下生成是AI里最大的一个问题,如果你听过任何超大规模云厂商的财报电话会议,或者英伟达和其他公司的,你会发现,我们在资本支出上投入了太多,我们投入了太多去建这些数据中心,就像黄仁逊说的,这是一个五层蛋糕,能源,芯片,电力,互联,内存,所有这些加在一起,给你一个数据中心,你可以按小时租,也可以按token租,然后拿去训练模型,部署模型,然后问题来了,你建出来的这些模型,到底有没有创造经济价值,这基本上就是这张图的右侧,拿我建过的最大的几次技术革命,来类比 25年前的互联网 20年前的移动 还有大概10年前,最近的这一次云,我放了一张云的图,不过你们在阅读材料里,会看到互联网,移动和云,都是同样的形状,这就是云生态的形态,云生态和AI生态,看起来差别非常大,有没有人猜猜,为什么会这样,或者你们对为什么差别这么大,有什么理论,或者它为什么会是,这个样子的原因,我们不叫它金字塔,我们叫它三角形,倒三角,请讲,因为AI现在还太早,对,绝对,绝对还早,猜得不错,对,还有别的吗,还有别的想法吗,也许因为英伟达有垄断地位,所以想收多少收多少,这个问题能不能下周再问一遍,等我们请到英伟达的人来的时候,不过不是,挺好的,这是个很好的点,他们确实有垄断地位,对吧,我们阅读材料里有一张图 讲的是英伟达目前在全部算力里的,市场份额,那个份额相当高,大家还有其他想法或假设,说说为什么这次会这么不一样吗,我不太确定,是不是因为云技术站,看起来能利用那些硬件,在AI或者英伟达身上创造价值,你知道我们都听过,马克安德森说的,那句软件吞噬世界,软件能吞噬世界,是因为我可以写软件,写出来之后,能把它分发给几百万人,而且运行那套软件的编辑成本几乎为零,这些软件公司毛利率能做到80% 有些甚至到90% 但AI这套新经济模型不是这样,因为如果我们有一批用户在用Cursor 或者用别的你听到的那些故事,规模很大的公司,收入做到几十亿美元却还不赚钱,原因就在这 AI应用的新增用户不是免费的,不是编辑免费,实际上AI用户要贵得多,因为到头来你得烧掉那些GPU 我想说你们说的每一点,从这事还早到英伟达占主导,我们就先这么叫它,再到推理的运行方式,物理规律完全不同,确实就是我们现在的处境,所以我觉得眼下就是这样,我还想再加一个维度,这个我在阅读材料里讲过,就是我们分析了互联网时代发生了什么,我们分析了移动和云时代发生了什么,这些三角形要翻转过来,花了多少年,我们举的例子之一就是AWS AWS是2004年起步的 AWS在2010年迎来了第一个客户Netflix 最终亚马逊在2012年全面转向AWS 从破土动工算起八年 从第一轮资本支出投资周期算起,也是八年,我不知道你们有没有人经历过 20年前读财报的日子,当时最大的争论是亚马逊会不会破产,那是所有人对AWS建设最大的疑问,还好,至少到现在,还没有哪家公司濒临破产,但这些数字确实很大,我们后面会回到这张幻灯片,但我想说,这就是这门课要探讨的核心主题,我们会请到一些公司的人来分享,从列载这里的公司到其他公司,我们要围绕的核心主题是,比如在你们这个领域,像英伟达的嘉宾,你们是不是主导力量,你们能保持主导地位多久,你们最担心哪些力量,你们最担心哪些ASIC 你们业务的定价压缩压力来自哪里,再到Anthropic和OpenAI的人,他们会重点谈盈利能力,比如在OpenAI服务一个 10亿用户的业务 至于Anthropic的人,说实话,这门课百分之百都在用Cloud 所以我们会问他们 [00:09:53]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

所以我们会问他们

Apoorv Agrawal:所以我们会问他们,这群用户能盈利吗,你们怎么看盈利能力,广告会不会成为,比订阅更大的收入来源,然后是中间那层的人,也就是推理层,这是整个生态里竞争最激烈的部分,有很多创业公司做得非常好,目前来看他们确实在赢,但超大规模云厂商,也想要在这一层拥有主导话语权,所以说实话现在还没有定论,而那里最大的问题是,你是一个功能还是一个平台,我们在基础设施侧看到的很多新业务,感觉上都是非常好的想法,但如果你问自己一个问题,嘿,为什么这不是AWS的一部分,你就会想,也许它确实应该是AWS的一部分,所以对于各位演讲嘉宾,我们会在这方面聊很多,在进入测验之前,大家有什么问题吗,请讲,我很好奇你怎么看 就是在右边那个三角形里,应用层是很小,那你怎么看待,把现有的平台公司,也纳入这个图景,比如说也许Salesforce 也许按收入算,你会不会把它们算作扩大金字塔的一部分,以及它随着时间怎么变化,这是个很好的问题,我还可以补充一点 Salesforce, Palantir 有一系列我们姑且称为传统经济的企业,他们正在重塑自己,推出一些产品线,比如Salesforce的Einstein Palantir的AIP 还有你知道有一系列这样的公司,答案是肯定的,他们应该算进去,答案是肯定的,他们应该算进去,我在这个计算里解决这个问题的方法是,先拿到模型收入,所以如果你在经营Salesforce 你很可能在用某个大模型,或者自己在跑推力,所以他们的支出是通过底层基础设施 被算进应用层里的,这部分很难从公开披露里单独拆出来,但没错,我们应该拆,对,右边金字塔底部很大一块,是不是基本上就是为顶部那层功能收入准备的算力储备,而底部内层恰恰是我们现在在核心里看不到的,这是个好问题,也许我先把问题重新表述一下,这个问题其实是半导体层的建设,是不是存在时间错配,但应用收入是当下的,这是个好问题,也正是让这个三角形的下半部分,带点周期性的原因,你会经历一轮又一轮的资本支出周期,你可以把它想成是在铺铁路,情况确实就是这样,阅读材料里有一张图,讲的是移动超级周期里发生的事,当时发生了非常类似的事情,第一局里,很多重资本支出企业的市值,被推得很高,所以如果你看一篮子,重资本支出的股票,把它们叫做长期稳定性股票 你应该预期到这种情况,所以我猜,我们还在非常早的阶段,同样的事情正在发生,我很好奇你怎么看谷歌,因为我看到你把谷歌标成了谷歌云,或者说数字层,但谷歌自己也有Gemini模型和TPU 它确实整合得很深,那你怎么看谷歌在这个三角形里的位置,像谷歌这样的大型多元化集团,我们得按业务部门来看,所以我会把TPU业务放在半导体层,我们算收入的时候也是这么算进去的,他们的GCP部门在基础设施层,然后Gemini部门在应用层,后面我们有一张图会稍微讲一下 Gemini其实是目前使用量最大的消费应用之一,它现在是第二大消费应用,这里最大的问题是,有多少是来自谷歌的分发优势,又有多少是它本身确实是个好应用,现在还没定论,但我们后面会聊到 对,你说,一个关于预测的简单问题,现在它看起来是三角形,如果它要成功,也许应该倒过来,但一个不成功的新技术长什么样,它还是三角形,你会怎么预测它会不会倒转,对,我不太确定,也许换个说法,我会说这个行业的稳定均衡是什么,我觉得很明显,不太可能是一阵风潮,它不太可能是一件不成功的事,我经常思考这张图的稳定均衡,事实上我还在推特上,跟一位很聪明,对这个问题想得很深的人争论过,争论的正是这个稳定均衡到底是什么,而我的猜测是,它维持现状的时间,可能会比我预想的更长,在云时代,我觉得那个周期大概是十年,我有种感觉,这次可能会维持更久,因为要把底层基础设施做对实在太难了,但总会出现一两个突破 我说不准具体是什么,但举个例子,如果某家超大规模云厂商的某个ASIC项目,不管是谷歌的TPU Meta的Metea 还是亚马逊 OpenAI 微软,以及那些我们甚至不知道存在的实验室,取得了突破性成功,我猜那会是那一层价值最大的重估,另一个催化剂可能是,我会关注超大规模云厂商,在财报电话会议里的资本支出指引,顺便说一句,我建议大家每年听四次,你会听到上市公司CEO告诉你,他们最大的问题,他们最关心的是,我建议大家去听这些,如果他们不再给出大额的资本支出指引,那就意味着当前的均衡不成立了,所以那大概是第二件可能发生的事,所以你看到很多关于,超大规模云厂商资本支出指引的新闻,原因就在这里,请讲 是不是还有一个训练和推理的算法问题,因为我的感觉是,如果这个结构要翻转,唯一的办法就是推理的规模,跟训练一样大甚至更大,我很想听听你的看法,你觉得那会在什么时候发生,因为那样的话,你的意思是英伟达的,就会停止在训练上花钱,或者说他们看不到 TPU更多的出货量了,所以我们才不把推理算进去,这是个好问题,而且这可能是,英伟达财报电话会议里,最受关注的信息点之一,就是英伟达的算理里推理占了多少,我上次看的时候大概是40% 或者说他们自己报的是40% 意思是如果他们卖出100万块GPU 假设全部满负荷运转,大概40%用于推理,另外60%用于训练,我猜这个数字会随着时间推移越来越高,越来越偏向推理,但我没法告诉你什么时候会变,怎么变 因为现在世界上还有大量的训练在进行,而且训练负载的形态,你也知道,跟推理负载的形态很不一样,训练负载非常可预测,在短时间内利用率很高,推理负载则是突发式的,通常是在人类醒着的时候,直到agent接管,也许到那时候就会变成 7分之24全天后,更难预测了,圣诞节前后会掉下来,不知道为什么,感恩节前后也会掉下来,不知道为什么,但我觉得情况可能就是这样,不过至少在我们这个计算里,我们尽量把它算进去,因为它是个混合体,不过这是个好假设,我见过大概在第16页,幻灯片上,我们马上会讲到,我们马上会讲到,我会给你答案,整个技术战里最赚钱的部分,毫无疑问是半导体层,英伟达的数据中心收入,毛利率大概在75%左右,这话别引用我,大概上下差几个百分点 而应用层的收入,我估计看问谁了,大概在0-30%之间,所以差距相当大,我觉得原因这是在场一位先生提出的理论,就是半导体层有一家玩家基本通吃了,情况确实如此,而且如果从盈利角度看,集中度更高,这个三角形更集中,待会讲到的时候会放出来,这是个好问题,请讲,你觉得这是不是有点像,大概比AI成熟10年左右的那种情况,你会不会用非常类似的方式去看待它,对,这绝对是很大一部分原因,就是我们已经在云上走过一轮投资周期了,这肯定是其中一个因素,请讲,如果所有这些基础设施,所有这些,对吧,谷歌 AI WPS 英伟达,他们都有自己的TPU 英伟达也在做推理 OpenAI也在找一些ASIC 那这些ASIC对创业公司来说,你知道算什么,他们总在搞自己的芯片,有3000亿美元的收入等着去挣,不过回答你的问题,其中大约一半,就像Jensen在财报电话会议上披露的那样,来自大型超大规模云厂商,所以那些很可能就是你的主要客户,所以如果你今天要创办一家芯片公司,你的客户群形态会是非常少的几个大订单,这和做消费者业务或企业软件业务的形态完全不同,然后你可能会有其他企业的常委客户,不过我不会指望这个,因为我觉得他们就直接去找云服务提供商了,如果你在考虑创办一家芯片公司,这应该是你的第一考虑因素,就是这五家里你打算先卖给谁,最后一个问题,我想说你在每一层都会得到一些小赢家,这需要好几年才能扩散开来,也许大错特错 但我觉得在过去,还没有一家完全垂直整合的玩家,一家都没有,我觉得谷歌是完全垂直整合的,但我在这一点上说的有点对,我在想这种转变是怎么让这一方获得力量,问得真好,互联网超级周期最大的赢家大概是谷歌,市值大约3万亿美元,在搜索领域有接近9%的市场份额,我觉得那算是相当垂直整合的玩家了,他们自己运营,从文件服务器到搜索,再到上面的广告,再到用户体验,接下来是移动,那个超级周期的赢家是苹果,市值大概2.5万亿美元左右,你已经说出来了,下一个咱们说社交 Meta大概是社交领域的大赢家,但他们没有做到完全垂直整合,他们市值多少,现在大概2万亿美元左右,相当强势,但可能因为没完全下沉到服务器层 丢了1万亿,然后云这块就比较分散了,没有哪一家独吞了云 [00:19:54]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

没有哪一家独吞了云

Apoorv Agrawal:没有哪一家独吞了云,就是AWS GCP和Azure三大寡头,但他们都没有完全整合,而且英伟达一直在使劲,英伟达一直在尝试,不知道你听没听过DGX Cloud 那是他们想搭建云生态的云业务,显然他们还有一系列垂直应用在视频里,所以对你可能是说到点子上了,对各位我知道现在是周四傍晚五点,大概是挡在你们和周末之间的最后一道坎,我不想当那个扫兴的人,所以我直接进入让你们清醒的部分,我确实准备了一个,这是个测验,咱们一起过一遍,我会给你们一点提示,关于我们要过哪些公司,赢家我确实准备了奖品,这是有奖品的,所以你们有动力了,你赢分有两个依据,一个是答对,另一个是答得快,想最快就做快速推理 然后把结果丢进Cloud 请便,欢迎你这么做,只是给人类选手五秒钟,让他们自己来用传统方式赢,如果你真要用Cloud 也欢迎,只是给他们五秒,好,这是第一题,准备好下一题了吗,在座的软件工程师,可能有点不公平的优势,所以我想花接下来,大概十分钟左右,讲讲我的一些假设,现在到底在发生什么,为什么价值会以这种方式累积,我记得一个问题,一个很好的问题,关于盈利能力,以及它如何被放大,我们待会会讲到,但再说一次,有任何问题随时打断我,我感觉我们剩下的时间不多了,我也确实想准时结束,你们还记得这个吗,我在下一张图上,画的稍微有点不一样,就是我把大约两年前发过的那次分析又做了一遍,两年前的样子是左边这个,当时生态明显小得多,大概只有现在的五分之一,让人意外的是 它的结构并没有太大变化,尽管增长非常显著,而且如果你看新增的收入,大概增加了3500亿左右,其中差不多75%在过去两年直接流向了半导体,尽管应用层增长了10倍以上,它还是没有造成那么大的影响,所以我就想,好吧,那我们深入看看这个,如果你开始拆开这些格子,然后问,嘿,这些部分分别有哪些公司组成,那3000亿里大部分是英伟达,你们都知道,应用层其实只有两家公司,占了大约90% 有人想猜猜是哪两家吗,基础设施领域是竞争最激烈的部分,我们之前讨论过,它可能是最大的战场,正在酝酿的地方,既有横向的,也有跨技术站的,它也是代谢率最高的地方,因为有很多新公司在成立,也有很多公司被收购,要我说,这是目前我们看到的 均衡力竞争最激烈,也最不稳定的一个,而且我们在考虑投资时,思考的问题,也是你们将来,投入时间时会思考的问题,就是这张在过去两年,几乎没怎么动的图,还要多久才会变,要花多长时间,才能变成云软件那样的形态,是五年吗,是十年吗,是十五年吗,还是永远不会,也许就一直这样下去,我们确实认为它会发生,我们认为它迟早会发生,但速度远远不够快,第二件我们在思考AI未来时,想了很多的事是,我不知道你们有没有在阅读材料里,看到这张图,消费者AI 也就是目前AI最大的市场,除了编程之外,使用率极高,在ChatBD上大部分是免费的,大约95%的用户是免费用户,还有Gemini 我不知道你们有没有看到,领导Dmine的Demonstrant部 他们不打算把广告作为订阅收入模式,我们一直在想,这些业务到底能做多大,这些业务的变现引擎是什么,你们觉得订阅业务会更大,还是广告业务会更大,所以我做的是,我看了AI之外最大的消费者业务,你们会看到,这些产品你们都知道,有一类产品已经达到了30亿用户规模,这些几乎都是生活中离不开的产品,比如WhatsApp和Chrome 没有它们你活不下去,然后有一类产品,规模在15亿到20亿用户之间,是社交类的,比如Instagram TikTok和Facebook 这类社交产品,它们不是必需品,但展现出非常好的网络效应,如果我的朋友Chloe 在其中一个上面,我更可能也在那里,然后还有第三类,主流消费产品,既不是必需品,也不是特别社交化的,我会称之为利基产品 如果你要购物,你会去亚马逊,如果你要找音乐,你会去Spotify 如果你想看一场好的辩论,你会去Twitter或者看猫视频,大家猜猜看 ChatGPT和Gemini 最终会更接近这些里的哪一个,答案在下一张幻灯片上,我们很快就揭晓,你们会猜ChatGPT或者领先的AI应用,最终的用户规模会更接近YouTube 或WhatsApp这种必备应用吗,还是Instagram和TikTok这种社交应用,或者是Spotify或Twitter这种,立即应用,有人猜吗,要是没人猜,我就直接揭晓答案了,请说,要我说是YouTube和WhatsApp亮起的,因为它会成为日常工具,对,人们就是把它当成,日常生活的一部分在用,对,你这样吧,我先把答案给你们看 然后我们再回来聊你,不过还有别的猜测吗,有没有不同的答案,请说,跟接近Facebook 对吧,我觉得大概在900左右,对,没错,就现在来说,你肯定是对的,我把答案给你们看,这就是把它们放在一起,对比时的表现 ChargeGPT 刚刚超过了,立即应用这个类别 Gemini 还没有,你说的对,它正在朝社交方向走,就我个人而言,作为OpenAI的投资者,我倒是希望,它能开始朝,核心实用功能的方向走,但我们问自己,最大的问题之一是,知识工作,是不是人人都做的,工作 ChargePT 还不是一个你跟别人发消息的地方,它不是你看收件箱,也不是你获取多巴胺刺激的地方,它是一个你去了就得做主动工作的地方,你得去问一个问题,而全世界会主动向技术提问的人数,并不是全部上网人口 地球上大约有80亿人,其中40亿人在线,消费者应用的大致经济账是这样的 Alphabet大约有40亿用户,他们每个用户每年变现大约100美元 Meta大约有35亿用户,每个用户每年变现大约70美元,领先的AI提供商ChatchyPT大约有10亿用户,每个用户每年变现大约10美元,所以问题是怎么把10亿变成40亿,我不确定知识工作是答案,我觉得我们得超越知识工作,然后第二个问题是,怎么把每个用户每年10美元从10提到100 而且我不确定广告行不行,也不确定订阅行不行,答案可能是,我猜我们得转向广告,而且我猜 ChatGPT或Cloud将来能投放的广告,定价会好得多,因为他们能理解你的意图,你会是登录状态,归因非常准,信任度也高得多 我觉得这会是今年另一个大新闻,你们是头一个听到的,这事会闹得很大,把广告模式吃透,这里面有大量超额收益,再说一次,十年前Facebook IPO的时候,市面上有很多做空Facebook的报告,因为人们说,这些广告在电脑上管用,在手机上肯定不行,为什么,因为手机上没地方放广告,结果我们在手机上找到了空间,现在同样的事情正在发生,就是我在跟你聊天的这会儿,这是一段非常私人的对话,我可不想被广告推着去购物,这就是看空方的论点,我说不准最后会是什么样,但我乐观的觉得,我们会找到办法,而且我觉得那会是一个巨大的突破,对这个竞技模式来说,是个巨大的解锁,今年晚些时候的某场嘉宾分享里,我们会深入聊这个,我后面还有不少幻灯片,时间到了,谢谢,今天这门课的前提 我们要聊的是,大家都知道,软件是如何吞噬世界的,软件生产出来之后,编辑分发成本几乎为零,但AI不是这样 AI应用的用户越多,需要的算力就越多,所以它不是接近零成本,这就是我们今天讨论的主题,我们会先由小组做个展示,然后做一场卢边对谈,最后开放提问,闲话少说,我对今天的嘉宾非常期待,第一位嘉宾是Brad Gerstner Brad是Altimeter的创始人和CEO Brad在2008年用朋友和家人给的几百万美元,创办了Altimeter 今天18年过去了 Altimeter在公开和私募市场,管理着超过150亿美元 Brad 我认识你有一阵子了,我对你始终如一的印象是,最优秀的投资者都是跨越超级周期投资的,跨越牛市,熊市,衰退,危机,新冠,而BRA全都经历过,而且不止于此 BRA的职业生涯,起步时是律师出身,在互联网泡沫时期,帮助创立了General Catalyst 之后又创办了几家公司 Ultimeter是第四家,在Ultimeter 他早期就投了互联网,早期投了谷歌,早期投了移动和Meta 以及许多其他公司,早期投了云和软件,后续投资了Snowflake Confluent MongoDB GitLab 现在在AI领域,它是OpenAI和Anthropic最大的投资者之一,我知道你们上周很喜欢这两家,还有英伟达,他曾经是Cerebrus的董事会成员,后续投资了GrowKool 今天我们就要深入聊这个,而在这一切之外 Brad发起的或许最重要的运动,就是Invest America 我能请大家快速举一下手吗,有多少人听说过Invest America 哇你看那个,你看那个机会很多 看起来机会确实很多,没错,简单来说 Invest America是一项联邦立法,为每个在美国出生的孩子,在出生时就设立一个投资账户 [00:29:50]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

在出生时就设立一个投资账户

Apoorv Agrawal:在出生时就设立一个投资账户,在我看来 Invest America带来的最大影响是独立,让每个美国孩子不再依赖国家,而是成为我们经济的主人 Brad 能称你为我的导师,教练和合伙人,是我莫大的荣幸,非常感谢你们来做这次分享,请大家入座,很高兴来到这里,谢谢邀请我来,特别感谢Dr.B 感谢GoP准这门课

Sachin Katti:我觉得这真的是很重要的一点,如今在很多学校里,尤其是东海岸的大学,大家其实不太清楚该怎么应对AI 我总说你得用AI让自己变成半机械人,对吧,就像今天你根本消费不完AI 因为你知道以前是去上学,然后到Groco或Altimeter这样的公司找份工作,而今天我真的不在乎你上的是哪所学校,我要找的是那种来了就能创造超常价值,仿生价值的人对吧,而要做到这一点靠的就是用好最新的技术,所以我很高兴你能让同学们,站在这么重要的话题的交汇点上,我先介绍一下Sunny 然后分享几张幻灯片,再请Sunny上来,你知道吗,我刚才在想Sunny和我做朋友已经很久了,我们今晚还要在硅谷的全亚扑克游戏里打牌 所以我们在工作和生活中都是好兄弟,但我刚才在想怎么介绍他,然后我让Chad GPT和Claude给我写了一段介绍,说实话Chad GPT写的不怎么样,而Claude写的让我惊艳,所以我想干脆把Claude写的关于Sunny的介绍念给你们听,我们下一位嘉宾是一位连续创业者,他显然停不下来,老是被越来越大,越来越大的公司收购,说实话,这条轨迹太惊人了,他联合创立了Extreme Labs 一家移动开发公司被Pivotal收购,然后他联合创立了Autonomic 一个智能出行平台被福特收购,之后他担任副总裁,负责福特X 也就是福特的内部创新实验室,接着他又联合创立了Definitive Intelligence 被Groke收购 他在那里担任总裁,并帮助推出了Growth Cloud 然后英伟达最近以200亿美元,收购了这个平台,这是他们史上最大的一笔收购,所以如果你在加计分的话 Pivotal、福特、Growth、英伟达,按Cloud的说法,这个人的职业生涯,基本上就是一个只涨不跌的SPAC 跟Charles可不一样,对吧,他拥有渥太华大学的计算机工程学位,这证明加拿大人只要下定决心,也能搞出大动静,让我们欢迎Sanli Madra 我想分享几张幻灯片,来为我们现在所处的这个时刻做个铺垫,而推理我们今天要聊的,其实是这个大话题里的一个子集,但这是过去2000年全球人均GDP的曲线,对吧,你看这个就会发现,基本上有1800年什么都没发生 那会儿就是生存,对吧,在固定的劳动力和资本下,没有超额生产力,对吧,产出只够我们活下去,然后到了1800年代和1900年代,所有这些变化才开始发生 GDP翻倍所需的年数,我喜欢说 GDP创造的是生活中用来享受的富裕,对吧,那是超越生存的部分,对吧,就是我们大家都有的那部分盈余,所以GDP翻倍所需的年数,对吧,已经急剧下降,现在全球GDP或者说生活质量,每25年就翻一番,但你可能会说 Brad GDP跟这些有什么关系,关系大了,它跟一切都有关,那GDP更高的时候会发生什么,贫困率更低,基础教育普及率更高,实质率更高,民主更多,自由更多 疫苗接种率更高,儿童死亡率更低,所以事实证明,创新本身就是一种社会福祉,而且它恰好是相关的,并且还在加速,所以作为投资者,科技行业已经从全球GDP的5% 增长到了大约13% 如果我问你们 10年后,我们会低于全球GDP的13% 还是高于13% 我想你们都会说,科技占全球GDP的比重,会变成一个更大的数字,我们现在就坐在硅谷的正中心,科技的盈利能力超过了非科技行业,这里蓝色的虚线是,纳斯达克的每股收益,在过去10年以15%的速度负力增长,而非科技公司只有6% 那为什么科技公司,往往比非科技公司是更好的投资,因为他们每股收益的负力增长更快 而且我觉得这一点会被AI进一步加速,当然AI会大规模加速这一切,因为当我们看全世界所有的知识工作时,它的TEM是以万亿来衡量的 Damn it说得很好,它的影响会是工业革命的十倍,但速度也是十倍,可能十年内就会展开,而不是一个世纪,所以我觉得这就是背景,我们在这里做的事,以及AI带来的加速,应该是对整个社会更好的东西,我们得谈谈忽兰,以及为了做到这一点,我们必须在社会上做出的改变,但这一切的最根本是算力,你们都知道 I或者说智能的基本单位是Token 对吧,而没有人比Sunny更有资格来谈,这个基本单位的生产 所以Sunny我想稍微做时光机往回走一点,跟我们说说Grok是什么,好吗,以及你在2023年和2024年,对推理会发生什么,有什么观察,好,先简单介绍一下背景 Grok是由Jonathan Ross创立的 Jonathan Ross是谷歌TPU的创造者,而Jonathan Ross的背景很有意思,他高中辍学不是因为读不完,而是因为对他来说可能太无聊了,从高中辍学之后,大概补了个GED之类的,然后直接进了纽约大学的数学博士项目,后来被招进谷歌,过去20年每个优秀的工程师,都被安排去做广告优化或者广告测试,从某些角度看挺糟的,但他做的是他去听了一场Jeff Dean的演讲 Jeff Dean过来说基本就是黑,好消息坏消息 好消息是我觉得我们找到了一个能解决自动语音识别的算法,这可能在很多地方都有用,坏消息是算力不够强,所以我们永远跑不起来,于是Jonathan就自己揽下这事,想出了一个设计,而且是从一个完全不同的设计领域出发,用FPGA做了后来TPU的第一版原型,最后Jonathan离开了谷歌,因为他觉得世界其他地方也应该拥有,这个不应该只欠在谷歌内部,所以他离开创立了这家公司,所以简单说Groku是什么,现在在英伟达内部也依然是,它是一颗用数据流架构设计的芯片,而它跟任何其他计算机架构最本质的区别在于,它是完全确定性的,与这个架构相辅相成的是一个编译器 这个编译器会预先决定所有计算发生在哪里,最后这一点特别重要,因为任何AI问题和token生成背后的根本,都是大量的数学运算,这就是为什么我们看到算力在爆发,我真的恳请大家都去看看下面这个,我们聊过Brad的一笔很成功的投资 Snowflake Snowflake是一家数据库检索公司,对吧,所以你得去取一条记录,再把它带回来,如果你看看完成这件事,需要多少个时钟周期,多少计算周期,你会发现其实数量并不大,但你再看看生成一个token 需要多少token 多少计算周期,或者说浮点运算,那真是让人震惊,最好的理解方式就是,通常是模型的参数规模,乘以上下文长度的平方,对吧,这是每个token的,而你在做事情的时候 会有非常非常多的token 所以我们正处在这个时代,技术非常了不起,但它极其消耗算力,比我们以前用过的任何计算方式,都要大好几个数量级,你自己在创业,对吧,你和Jonathan聊过合并的事,我是Cerebrus的投资人,那家公司也在做快速推理芯片 Growth在做快速推理芯片,这两家公司都已经存在了十多年,最特别的是,到了第九年,他们俩都在为生存而战,他们并没有活得很好,对吧,他们是在为一个,其实还不存在的市场而建设,明白吗,但你看到了些什么 Jason上过我的播客BGR 他说一切都变了,我说你什么意思,他说推理是推理,他说我们已经从预训练模型,转向了推理是推理 而推理的需求即将增长10亿倍,不是10倍,不是100倍,也不是100万倍,而是10亿倍,而我们的计算系统并没有为即将到来的这一切而设计,我记得你和我有过一次对话,在那之后不久,你帮助促成了乔纳森的那个愿景,你对他说,乔纳森,我觉得我比你自己更清楚的看到了你的未来,跟我们讲讲那个时刻吧,对,我觉得在那个时刻有几件事同时在发生,对吧,市场一直被英伟达主导,因为研究人员就是用英伟达的硬件来创建模型的,所以很自然的在创建模型的过程中 [00:39:17]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

所以很自然的在创建模型的过程中

Sachin Katti:所以很自然的在创建模型的过程中,推理就是训练的前向传播,对吧,反向传播才是不同的部分,所以你在创建模型的时候,其实一直在做推理,所以很自然的就在你创建模型的那套硬件上运行推理,所以我们从Groco的架构中看到的一点是,我们可以更高效的完成推理,对吧,如果你看看我们的VE芯片,就是我们放进云里的那个,我一会再回到这个话题,那是一款2018年设计的芯片 2019年的硅工液14纳米,而且和Hoppers相比,非常有竞争力,对吧,而Hoppers在硅工液技术上,要新了五代,所以我们真正看到的是,我们觉得要说服人们,购买我们的硬件,并使用它会非常困难,但如果我们建一个云,把它放进云里,开发者其实并不在乎,对吧,只要有API开发者,我们已经看到 他们对这个相当无所谓,所以我们最大的洞察是,把这些东西拿过来,开始放进云端运营数据中心,通过API提供出来,让最好的开源模型,对所有人都可用,甚至包括OpenAI的模型,比如OpenAI有Whisper 从一开始就是开源的,所以我们把很多这类模型,都放了上去,真正火起来的就是,我们上线了云服务,几周之内用户就到了几十万,今天大概是400万用户,而英伟达花了差不多17年才到700万用户,所以推理模型就这么来了,推理模型在token消耗上要贪婪的多,这还没算上agent 这仅仅是比单次预训练模型想的更深而已,所以你看token消耗曲线的时候,他们就是直线飙升,我们的硬件,我们的云开始撑不住了 OpenAI当时只有一几瓦的算力 Anthropic也只有一几瓦的算力,所以我们得想办法,既要让模型更省token 也要让架构更省Token 你记得当时Cerebras和英伟达是重量级对手,英伟达和Grok也被看成是重量级对手,所以Sunny你发了条短信给我,说我有个想法,我们当时是英伟达的大股东,现在也还是跟Jensen也是好朋友,而你有个想法,我想指出这一点,是因为有时候我们看到这些大交易,但往往不会去拆解,一个人的想法是怎么来的,就是说这些大事的发生,往往只是某一天里的一个决定,所以你当时给英伟达,加了一个相当独特的视角,跟我们说说这个想法是怎么来的,对,而且Brad那封邮件是你牵头的,那件事太棒了,但基本上 当我们研究推理这个问题时,哪怕是在GrowQ的时候,我们很快就看清了一件事,如果你开始拆解推理是怎么运作的,首先会看到,预填充和解码之间的拆分,对,当时很多人已经开始这么做了,基本上就是用一批机器做预填充,另一批机器做解码,这么做能省一些效率,甚至省下很多效率,我们更进一步做的,这对大家来说是个好经验,我们进一步研究了预填充和解码,而在解码内部,我们发现还能再把解码拆开,因为解码过程里,同时发生着很多不同的功能,其中一些功能是计算密集型的,另一些则是内存带宽密集型的,所以Grawlho GPU之间一个很大的区别就是 GPU有海量的算力,还有海量的外部内存,也就是HBM 但速度比较慢,而Grawlkey芯片上的算力并不多 我们有的是大量的3M 而且这块3M带宽非常高,速度几乎快了一个数量级以上,所以通常你在CPU上看到的,就像你的一级缓存,但我们芯片里这种内存有很多,所以当我们看这个问题时,给Jensen那封邮件的内容,基本上就是通过他们叫Mangling的东西,把我们的芯片和他们的芯片连起来,英伟达的芯片之间,就是通过一个叫Milink的协议通信的,有了它,你就不用在单个GPU上跑任务了,你可以让很多很多GPU一起跑,我记得现在最多能连72个,我们正在往576个扩展 Groq也有类似的协议,我们已经把几千块芯片连在一起跑了,实际上我们有很多模型,都是同时在四千到八千块芯片上跑的,所以Navoli融合,本质上就是让我们的芯片 能和英伟达的芯片对话,这样我们就能把问题的一部分,那些我们清楚Groq芯片更快,性能更好的部分,放到我们这边跑,最终的结果就是,在同样的电力足迹下,把这两套系统合在一起,能多产出2.5倍的token 在今天这个算力受限的世界里,这真的非常值钱,然后Sunny给我发了条短信,他说我觉得我们可以和英伟达合作,这件事本身就是个挺大的转变,因为如果对方是你的头号竞争对手,你能想到去跟他们合作,这本身就是个很大的变化,他说你介不介意给Jensen发条短信,我当时心里想,天哪,我可是要在Jensen那花掉一些人情的,所以我得先确认这不是个疯狂的想法,于是我就把这事搁了一个星期左右,然后Sunny又给我发短信了,他说你给Janson发那条短信了没 于是我说行我这就发给他,然后Janson立刻回复了我们,说有意思的想法,就说那咱们聊聊吧,然后你们就开始跟他合作了,我觉得真正打动Janson的是,你们这边显然有人造出了有竞争力的芯片,但你们在脑子里想的是,我们俩怎么一起产出多的多的Token 所以Sunny刚才说的这点特别重要 OpenAI有一个固定的电力规模,咱们就说一个几瓦吧 9月份Vero Rubens上线的时候,他们就要用这么多电,工厂一头进去的是电和芯片,当然还有厂房和所有成本,另一头出来的是Token 对,他们收购Grokshoe之后,用完全相同的电力规模,完全相同的厂房,现在能产出的token数量是原来的2.5倍,而这个世界真正的约束是电力和内存 所以如果你能在完全相同的规模下,把token产量翻一倍甚至两倍,那对OpenAI或者Anthropic来说,就是巨大的经济收益,你也看到了,因为推理是推理,推理需求暴涨,我们待会还会聊agent 这些智能token的需求已经爆炸式增长了,现在全世界每周消耗的token 真的达到数十万亿了,我们不得不搞来更多的电,更多的芯片,更多的这些投入,才能产出那么多token 所以这不只是芯片快不快的问题,也不只是推理快不快的问题,而是在一个处处受限的世界里,能不能把更多token 送进这个世界的问题,从你给Jensen看那套能跑的系统,到真正落地,中间隔了多少天,从那天到你拿到他200亿美元,中间隔了多久,大概就一个多月吧,对 30天,对,那Jensen呢,英伟达内部有没有在搞类似的竞争项目,有,我说我觉得英伟达你在GTC上也能看到,我们也聊过,英伟达已经有一个生态了 7种芯片 5种不同的机架,对,所以英伟达已经不再只是做一块GPU了,我觉得这正是英伟达的超能力之一,他们开始从各个角度拆解问题,不管是存储CPU 还是算力或网络芯片,所以这些东西早就存在了,他们早就想过要做一款纯解码芯片,用大量SRAM来驱动,但我觉得这对所有人来说,都是一个很好的教训,我们发那封邮件开始合作,做出一个能跟他们的系统跑起来的原型,这对他们来说,就是一个真正的概念验证,而且在这些大型系统里,让这些东西协同工作 跑出性能,这还是跨两家公司,两套完全不同的技术战,我觉得当他们看到,我们能做成这件事,就说明我们会是个,很好的整合对象,最后我想说的是,我们是两家,非常不同类型的公司,我觉得如果我们做的是,更好的GPU 那在英伟达内部,在我们做完那笔交易之后,会有很多冲突,但因为我们做的是,基于确定性编译器的 SRAM芯片,这和GPU的工作方式完全不同,所以对双方的文化和工程团队来说,走到一起反而是很互补的,在座有多少人用过OpenClaw 这个渗透率相当惊人,我看到一个数据,马克·安德森今天可能发过这条推,他说他接触的大多数人,现在每天在OpenClaw上的token 消耗大概在100到1000美元之间 他还说硅谷未来20年,基本上就是生产各种技术,把智能的成本打下来,对吧,所以Sunny 我想聊聊这个,如果我们看推理的成本,过去一年大概降了90% 过去两年到两年半,降幅接近99% 那跟我们说说,是什么在推动推理的单位成本下降,如果我用同样的标准,拿一个智能单位来算,不管是我问的一个基本问题,还是我问的一个稍微复杂点的问题,你觉得这个单位成本会继续往下降吗,如果会,为什么,这个单位成本的构成要素是什么,构成要素,我觉得主要有以下三件大事,供应链,对吧,比如你在供应链上能做什么,而今天供应链主要集中在中国台湾地区,你知道台积电,还有他们从别人那里买来的,各种封装技术和光刻技术 还有你的工程师能做出的创新,对,然后我想说的是,你手里掌握多少算力,对,所以我们聊的就是 [00:49:50]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

所以我们聊的就是

Sachin Katti:所以我们聊的就是,这类东西,现在我们看到的是光刻技术开始逼近极限了,对吧,我们跑的没以前那么快了,对吧,所以我们拿不到原来那种摩尔定律了,所以我们得超越它,我们正从几个不同的方向去超越,一个方向是把芯片做得越来越大,所以你会看到现在这些芯片变得相当大,这很让人兴奋,但也带来一堆有意思的问题 Cerebras 就像Brad一直在说的,他们的芯片大概有披萨盒那么大,对,相比之下,你们应该都见过CPU是什么样,所以这里面有大量的能量和技术投入,就是你能把封装做多大,能往里面塞多少硅,然后就是创新,而创新才是我们真正看到,大部分工作发生的地方,对,因为那和模型是相辅相成的,对 我们现在正看到一个非常有意思的势头,有一堆东西,我不知道是泄露出来的,还是放出来的,我觉得埃隆是其中一些事情的中心,他们在讨论这些新模型,正在逼近一万亿到一万亿参数,而那些一万亿参数的模型,又回到我一开始跟你说的那个问题,那就是生成一个token 需要多少算力的基本浮点运算计算,所以像我们这样的公司,不管把技术做得越来越好,通过光刻升级,内存带宽升级,电路布局创新,量化努力 MVFP4是另一个模型,越来越大,需求也在增加,所以我把这个问题抛回给你,这就像一个三维的立方体,但现在真的很难驾驭,因为所有因素都在以非常棘手的方式增长,需求持续上升,模型越来越大,而我们创新的速度 哪怕五年内做到50倍,模型和需求增长的更快,这就是为什么我们看到像H100价格这种独特现象,如果你在创业或者用这些芯片,价格实际上在涨,对,我觉得有一件事,对每个人来说都很重要,需要理解,我的意思是,当OpenAI和Android 刚起步的时候,他们的毛利率,对吧,在业务上是非常富的,好,所以这是一件挺吓人的事,去融一大笔钱,基本上就是花一块钱成本,造出一个产品,然后两毛钱卖出去,毛利率是很大的负数,但为什么会这样,对吧,他们当时推出去,让大家用ChatGPT 或者他们的API按一定价格收费,那时候他们还没那么强,所以我们愿意付的钱也就那么多,对,而且两年前推理的成本要高得多 但他们压的赌注是推理成本会大幅下降,而随着智能变得更有价值,你的支付意愿也会大幅上升,所以我喜欢把AI的第一局看作,只是走到了一个能给出答案的阶段,对,在代码生成上基本上就像自动补全 Tab补全,拿XGPT来说,基本上就是一个比谷歌稍微好一点的版本,但现在我们正在进入这个行动阶段,对,在这个阶段Agent会去做事,帮我建个应用,帮我建个网站,想办法解决这个客服问题,多卖点我的产品,找到治愈癌症的方法,帮我在纽约订个酒店,他开始真正做事了,而当他做事的时候,为了完成这些事,他要消耗的token数量,会爆炸式增长一个数量级,但作为智能单位,交付给最终消费者的价值,却提升了100倍 所以你的支付意愿会大幅上升,我能补充一点吗,这周我们看到了Methas 就是Anthropic 那个还没发布的模型,他在BSD里找出一个漏洞,你想一想,有多少工程师,软件开发者,还有多少公司在用那套代码,大家都看过那些代码,所以我们已经到了一个,他做的事情超出人类能力的阶段,没错,也就是说,而且我们现在,现在才第三年,正是,我们才第三年,再给你一个例子,怎么说呢,我最有说服力的证据是什么,能让你相信AI的价值,我最好的证据就是 Enthropic 在三月这一个月里,年化收入就增加了100亿美元,明白吗,这相当于Databricks加上Palantir两家年收入的总和,而他们是在一个月里加出来的 他们不是靠招了100万个销售跑遍100万家客户,说服人家买他们的产品,对吧,他们靠的是产品跨过了一个智能能力的门槛,全球几百万客户都说,我必须用这个产品才能让我的公司变得更好 Optimator花的钱是变多了,但全球几百万个自立的行为者,各自独立做出了判断,我得买大量那些token那些能力,不管是Claude Code还是cowork open AI那边也在发生同样的事,收入上倒还没到,你知道同样的指数级,但对我来说,这有点像奥本海默时刻,这有点像原子被劈开的那一刻,我们听过Dario和Sam讲智能的指数增长,或者说指数增长的终结,但最大的问题是,他们能不能负担得起,继续建设算力,好跟上这个速度 我在我的播客BGRPAR上,跟Sam Allman有过一段不太舒服的对话,那段还小火了一把,我问Sam Hey Sam 你已经承诺了1.4万亿美元的支出,但你只有130亿美元的收入,那你怎么解释这个账,你只有130亿美元的收入,怎么能承诺花1.4万亿美元,我本来希望Sam会说,他的收入会大幅增长,这些承诺就像看涨期权,而且他还能重新谈判,但他反而跟我说,你要是不喜欢,要是不喜欢你的投资,我就把你的股份买回来,那可不是我当时,希望从Sam嘴里听到的回答,但这就是进入2026年时的问题,我的播客搭档Bill Gurley 还有很多人都高度怀疑,说这是AI泡沫,这些人花钱的速度,他们永远付不起账单 因为对面没有足够多的人,愿意为这些产品买单,来支撑这种支出水平,然后一月份发生的事是 Anthropic一个月进账35亿美元,二月份他们一个月进账80亿美元,三月份他们一个月进账105亿美元,那让我觉得一切都变了,产品现在足够好了,收入开始跟智能一样指数级增长,所以他们付得起每几瓦500亿美元的成本,去建起所有这些推理工厂,来产出所有这些集体智能 Sunny你回应一下这个,因为我们团队经常聊这个,我们团队里还有all in part和其他地方,对这是不是泡沫有很多争论,对我觉得有几件事,可能外面的大众还没看到,第一我们今天看到的这些模型,甚至还没在最新的硬件上训练过,不管是最新的Blackwell还是Vera 都才刚出来对吧,或者Rubens也才刚出来,所以我们还没看到那个东西,所以我们还没看到你能得到的能力,所以我们很快就会看到这些能力了,我觉得最先看到的,会是马斯克那边Groco出来的东西,对吧,这是第一点,你现在看到的这些能力,都是在旧硬件上做出来的,这是第一点,所以当你身处这个生态内部,你就知道现在能做什么,接下来会来什么,对吧,我觉得第二点,有一件事真的开始起飞了,而且我觉得Anthropic 在这方面做得非常出色,我觉得Codex在非常难的软件问题上,同样做得极其出色,那就是现在不只是大多数人,在用的那种聊天界面了,也不只是一个API 而是他们在模型外面建了一层Harness 这些Harness OpenClaw也只是其中一个,这些Harness已经搞明白了 怎么去榨取更多,并且持续不断的榨取,我觉得用Claude Code和Codework 哪怕你是在别的地方开始的,它卡住了也能直接,拼到你手机上,所以它能处在一个持续运转的循环里,全天候为你工作,我们以前从来没有过这种东西,它这么干活的时候,你看那个token消耗,以前你发一个查询,它想一会儿,然后回来,现在它整晚都在干活,不停的在那边拼,你跟它说,别来烦我,继续干,干完再回来,所以我们看到这些harness 真的在从模型里,炸出越来越多的token 还有人们正在解决的问题类型,我们举了编程的例子,你还可以举一堆别的,但比如说在大公司内部,这个我发过推,所以我觉得说出来没问题,比如现在英伟达内部,我们有个东西叫 NVIDIA Personal Assistant 它介入了Slack 也介入了Teams 它还介入了我们的邮箱,以及我们所有的文件,不管它们存在哪里,所以每天早上它都会运行,把当天所有的任务事项,整理出来,你可以让他去处理这些事情,真的非常厉害,于是你开始,我们之前也跟人聊过这个,现在你甚至都不用自己写邮件了,别人的agent会来给你发邮件,你的agent看了之后回邮件给对方,但完成的工作量反而多得多,因为我的时间从整天回邮件,在各种传统SaaS系统里审批事物中解放出来了,这些全由agent处理,所以你说的爆发,其实才刚打到第一局或第二局 Token的量真的只会往上涨,所以我们不怕这个,我们完全不觉得这是任何形式,任何意义上的过渡建设,我觉得厂商的事实和证据,第一点是训练和推理的成本 尤其是推理成本正在暴跌,而且会继续暴跌,这其实不该太让人意外,技术本质上就是高度通缩的 [00:59:50]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

技术本质上就是高度通缩的

Sachin Katti:技术本质上就是高度通缩的,我从没见过什么东西能这么快的通缩,我觉得这是极致代码设计的副产品,它不是单颗芯片,而是一座工厂,在整个工厂里,各种摩尔定律在工厂范围内,组合式的同时上演,与此同时,当你能产出多得多的token时,你交付的智能单位也值钱得多,所以另一端的支付意愿会大幅上升,我跟你说今天的OpenAI或Anthropic 如果一年半或两年前,他们的毛利率还是负的,那现在他们的毛利率已经非常可观了,对吧,所以突然间,这门看起来不经济的生意,今天变得高度经济了,所以那个问题算是部分解决了,也许Sunny 我想用一个小小的预测,来结束我们这部分,先给你们透个底,我们接下来会开放提问,可以问推理经济学 也可以问技术战的任何部分,或者你们其他任何问题,但你提到了Methos 那是这周出来的一个模型,没有公开发布,但被Anthropic放进了沙盒,他试图跑出来好几次,试图逃出沙盒,是在TPU7上训练的,另一方面OpenAI这周或下周,大概会推出Spot或5.5 那是第一个在Blackwell上训练的模型,马斯克也会有一个 Meta昨天刚出了一个模型,谷歌也是,等等,跟我们说说,你能看到英伟达的产品管线,你觉得推理成本曲线,持续下降的节奏会继续吗,你觉得未来几年会一直持续吗,你觉得预训练和推理时推理在提升智能算法能力上的,节约式进步或者说指数级进步会继续吗,我可以告诉你现在有机会和Janson共事 他在我们做的每件事上都要求没有100倍提升就别拿出来,所以不管我们带什么给他细节我不能说太多,他的第一个反问就是这比你之前做的提升了100倍吗,所以他是在挑战工程师去审视问题的每一个部分,从内存控制器,内存容量到电路,不管是什么,都要确保我们把每样东西都提升100倍,所以关于你问题的前半部分,是的,因为他逼着我们这么做,而且他给了我们这样做的自由,也给了我们资源去实现它,所以我可以告诉你,作为GrowCo团队进来之后,我们被赋予了做很多事的能力,有些事是我们作为创业公司时,根本做不到的,但Jensen让我们做到了,你们自己有没有在用AI来设计下一代芯片,用的非常多,对吧,我们之前就在用了,因为我们必须用 我们是个小团队,但现在我们能接触到整个生态里所有可用的东西,所以我觉得这是第一点,对吧,就是我们被推着去做这件事,但另一方面我们创新的越多,模型厂商创新的也越多,模型就变得越大,所以这就意味着出来的能力会越来越强,所以我们得持续把基础设施建下去,所以我们回头看的时候会想,有那么几家公司改变了互联网的版图 Brand 这方面你比我懂得多,但就像谷歌为视频,为搜索建的那套基础设施,真的为整个互联网铺平了道路,内容分发网络,还有各种其他东西,对吧,所以现在这些建基础设施的工作,将来都会带来回报,而且必须持续下去,因为不能只靠芯片本身的创新,你需要建越来越多,越来越多的基础设施,我最后说一句 我们有幸能跟Jensen Alan Sam 或者Dario这些人对话,你们也都能读到,他们在通往通用人工智能的竞赛里,彼此之间那些个人层面的较量,有些时候,他们之间可没什么好感,但现在,我看到的是,惊人的一致,我跟他们聊的时候,他们都不是夸张的说,我们到了,而且到的比我们想的还快,就是说我们正接近指数曲线的终点,你要是问达里奥,达里奥现在最让你意外的事是什么,他会说,我们几乎已经走到指数曲线的尽头了,可大家好像都没意识到这一点 S 你要是问山姆,他也会说同样的话,你要是问埃隆,他也会说同样的话,这对我们任何人来说都不该是可怕的事,它只意味着我们处在一个地归的节点上,我们有了通用人工智能,而在座每个人 包括台上这几位,接下来的任务就是,我们怎么驾驭这项技术,让它造福我们所有人,对吧,这就要回到阿珀尔夫刚才说的 Invest America Act 达里奥说即将到来的财富积累,人们管它叫我们要进入的富足时代,对吧,那会比以往任何时候都更容易,但我们要面对的分配问题,会比以往任何时候都更难,对吧,所以这才是我做Invest America这项工作的真正灵感来源,也是我觉得我们所有人都得一起围绕社会契约,围绕公共政策与技术的交汇点去做的事,因为当那条指数曲线长成那样,突然之间Agent的能力就要超过某种意义上的集体人类智能,而且这一切还在加速发生,记住我们聊到的这一切 几乎都是在几乎没有算力的情况下发生的 Anthropic OpenAI今年要增加的算力,比过去十年所有实验室加起来的还要多,明白吗,到了明年,他们还要再翻一倍,所以我觉得变化的速度相当陡峭,而对我来说,这既让人兴奋,我对即将到来的事是个乐观派,但我对伴随这种变化速度而来的挑战,也不是盲目乐观,对吧,就是说他需要积极的参与,就像历史上其他时期一样,比如工业革命,数字革命等等,因为他会给世界带来巨大的改变,但说到这儿,我只想说,看着Sunny在Groco一手操办的那些工作,真的非常了不起,他是整个领域里非常出色的思想领袖,感谢你来做客 不过也许就直接开始提问吧

Apoorv Agrawal:希望我们能覆盖很多话题,就这边,关于编辑问题,你建议我们怎么重新定位自己,怎么确保我们不是在浪费时间学习,对,听着 [01:06:16]

Sachin Katti:这个问题我得替我儿子回答,也要替很多其他人回答,人类有一种独特的方式,能在各种颠覆中,照样为社会创造价值,对吧,工业革命时期,如果你是个手艺人或者工匠,对吧,你从头到尾做出一件产品,但这些人几乎全被大规模生产取代了,对那个人来说,那感觉可不好受,我很擅长从零到一把一个轮子做出来,但我完全被生产方式绕过了,明白吗,但世界并没有就此停下,那些人找到了别的事情做,我观察到的一个现象是,过去我们有80%的人,在制造业农业和其他行当里,今天我们有70%的人在服务经济里,对吧,我们现在有奢侈的条件,能请得起人,以前我们不会请教练,对吧,那时候请不起教练,对吧,今天世界上有教练,瑜伽教练 还有数不清的东西,给世界带来很多价值,我觉得人类有更高层次的事情可以做,对吧,所以对我来说,有一点是,如果你足够有钱,能请得起家教,一个专业的家教,那当然很好,但对世界上98%请不起的人来说,现在他们也能得到了,或者如果你是那3%能享受礼宾医疗的人,那确实非常好,但对另外97%的人来说就没那么好了,而现在他们也能得到同等水平的医疗服务了,所以我觉得这关乎智能民主化,访问民主化等等,但这并不是说不会出现新的挑战,我排第一位的建议还是让自己变得bionic 做一个创造者,想办法让自己创造价值,所以如果有人来altimeter面试 说我不用AI也不用Excel表格,我全靠手算,那就有问题了,对吧,我期望每个人都能用上手里所有最厉害的工具,让自己尽可能高效,尽可能创造价值,帮我们在世界上产生alpha 所以从这样一个地方开始,换一种说法,这句话我留着以后发推文用,我觉得智商会被商品化,而情商会变得极其值钱,对吧,我说的情商是什么意思,我指的是在座各位的人脉网络,我指的是说服坐在你旁边那个人的能力,组建团队的能力,带领大家朝不同方向前进的能力,这些才是超级有价值的,对吧,我觉得未来这些会变得更有价值,但是我觉得只是坐房间里最聪明的那个人 在白板上比物理所有其他人类都更快的解除问题,那种能力我觉得会被商品化,你不可能赢过机器,这不代表你不需要学那些东西,但我觉得想赢过机器会很难 Brad Wan 谢谢你来做这期节目,我们需要BGR回归,我们想念它,现在我们在all in pod上只能偶尔见到Brad一次,你只有那么一小段档期,所以我得把你请回来,这才是该做的,对,让BGR回归吧,但我能不能就刚才那点再补充一句,我觉得现在正在发生另一个时刻,我经常想这件事,如果你真的去看,现在数学界正在发生什么,有各种各样的新发现在涌现,我用这样一个类比,人类得等一个苹果砸到牛顿头上,他才开始思考引力,开始把它公式化 [01:09:08]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

开始把它公式化

Sachin Katti:开始把它公式化,但现在如果我们能让别的东西去工作,去发现新东西,就像Brad刚才展示的那张图一样,对吧,真的是直到我们开始拥有更多创新,更多智能,那些曲线才开始向右上方攀升,我们马上就要让这条曲线变得更陡,所以我觉得拥有更多智能会带来什么,对人类整体的好处已经展现出来了,对吧,而且我们不用再等着事情自己发生,我们让这些智能在没有我们参与的情况下,自己运转,我觉得这会非常强大,对,就这一点,我觉得这是很高的赌注,我是说,听我说,我告诉你,连苹果内部的人都对自己的策略感到紧张,其中一部分是他们在隐私方面的挑战,他们确实面临一个难题,因为我们在边缘端还没有这个能力 而且他们不想让你把信息上传到云端,对吧,因为他们把消费者隐私,视为自己核心的消费者价值主张之一,但我觉得他们把自己置于风险之中了,看涨的情形很简单,我们对这个设备太依赖了,而设备本身又足够好,所以他们还有时间,最终他们要装进手机里的Gemini模型,只会是一个能力更强的Siri 我们都同意老板Siri真的很差,然后会变成一个能力更强的Siri 对绝大多数人来说那就够用了,对吧,所以这就是看涨的情形,我觉得看跌的情形,就像你说的,是别人会做出更融入生活的环境设备,消费者会真的很喜欢,但对我来说,说实话,我倒希望OpenAI别去做设备,我希望他们专心把智能本身做好,而且我觉得苹果在设备领域会非常强势 所以我觉得他们处境相当不错,有个数据,一个80亿参数的模型,其实相当小,对吧,就能在30分钟内,把一部iPhone的电耗光,这又回到,电池续航,对,电池续航,没错,所以我想说,你得回头看看 AI有多吃算力,对吧,这就是Brad说的,把那么多前沿智能 [01:11:47]

Apoorv Agrawal:推到边缘设备上,真正的难点所在,对,我想接着我们聊 Invest America时的话题,说几句,对,我记得是在,最近一期All In上 Chema当时在批评各类CEO 说他们炒作新品发布,或者制造恐慌,说AI会怎样怎样,而不是去阻止那些代理机构,我挺好奇的 [01:12:10]

Sachin Katti:这些CEO是不是需要重新审视,重新思考他们下一步的动作,他和我今天又在播客上吵了一架,再说一次,你可以说我天真,我觉得Dario是真诚地在讲他相信的东西,我觉得Sam也是真心实意地在表达他相信的东西,他们正盯着这条指数曲线,他们相信自己看到了通用人工智能或者ASI 而且我觉得他们的担忧是合理的,比如说,听着,我很高兴我们把Methos放进了沙盒测试,他们在内部做了测试,他们在Safari浏览器上发现了26个漏洞,就像我今天跟Chemist说的,你想让他们直接把它扔出去,然后你所有的浏览器历史都暴露在公众面前吗,大概不想吧,对吧,但与此同时,我觉得出去散播恐惧也没什么好处,尤其是如果你真正的目的是监管俘获 想趁自己站在顶端的时候,阻止别人往上爬,我对这种事真的很有意见,但我觉得我们得在那些权衡之间找到平衡,对吧,在提醒人们事情乐观的一面之间,我建议你把Dario的两篇文章都读一读,他关于这个的第一篇文章,对可能发生的事情相当乐观,但他也有另一面,那就是如果我们不对护栏,和我们需要建立的东西非常用心,这一切就不会发生,还有一件事,我真的很高兴,它叫Project Glasswing 是他们这周组建的一个联盟,目的是在Methos公开发布之前,有效的对它进行沙盒测试,亚马逊,微软等等都参与了,在我看来,那是一个非常务实基于市场的问题解决方案,而且我来之前,他还在跟我发短信,他们已经发现并加固了很多东西 而且速度非常快 100天之内,当AI自己去修复它发现的问题时,你能做成很多事,所以我当然是抱着乐观的态度,去谈这件事的,我觉得很多人也都是这样,也许可以鼓励他们在评论里,稍微平衡一点,但我也同样不想忽视现实,当你分裂了原子,对吧,它要么为世界提供无限的免费能源,彻底把人们带出黑暗,对吧,要么被用来制造炸弹,摧毁城市和国家,所以强大的技术就是强大的技术,我们不能把头埋进沙子里,假装它是一条单行道,我觉得你会看到几种现象,第一,用于训练的硬件会转成推理硬件,对吧,那些大型集群,我们几乎一直能看到这种情况发生,所以这两个世界之间,就是有一种自然的演进,然后我确实认为 那些更大模型和训练集群带来的创新,好处实在太大了,而且他们又回到Brad说的那个点上,对吧,我今天刚好读到微软的Mustafa 写的一篇文章,对吧,他说你看GPTR 我们现在拥有的算力,比做GPTR的时候强了50倍,但再看看能力,对吧,所以我觉得,你得把这两件事和整个对话的主题,放在一起看,创新会持续发生,因为Brad刚才稍微提到了一点,我们现在才刚刚开始把AI 引入到这些设计工作里,对吧,在软件优化和软硬件协同优化方面,我们能看到,能学到一些东西,但也有很多是我们看不到的,所以我依然相信成本会降下来,但没错,我们正在解决的问题,从算力角度看 是非常非常密集的,所以那些数字会很大,也许最后一个问题,你可以和Sunny还有我一起深入聊聊,我们可以在事后回答一些问题,但除此之外,我只想说,能有机会和你们一起度过这段时间,是我们的莫大荣幸,所以谢谢你们的邀请,但也许就到这里吧,你好

Apoorv Agrawal:谢谢你的分享,关于经济学的一些问题,所以这就是我们英伟达的领导层,所以也许你面对英伟达的问题,那么你觉得英伟达的简单经济模型是什么,因为那是一个巨大的业务,而且75% 70% 60% 从来没有,这让整个生态系统变得非常困难,那你觉得我们能从中学到什么,你觉得最终会发生什么,咱们说几种情形,第一种他们的收入可能有限,但保住了利润率 [01:16:33]

Sachin Katti:第二种,如果他们把利润率大幅降下来,同时能保住大得多的市场份额,这样你先把问题快速重复一遍,然后再回答,因为我是英伟达的投资者,我在那工作,所以这个问题我不该回答,听我说英伟达是一家,四万五千亿美元的公司,市盈率大概13倍,非常便宜,只有市场估值倍数的一半,还在以70%的速度增长,显然它在今天的市场上,占据主导地位,而且我觉得大家对英伟达,有一堵担忧之墙,因为每个人都在说,你们做的那些东西 Tranium TPU Cerebras Grok都会来抢,所有这些人都能拿出推理解决方案,他们能抢走你的份额,他们能在价格上跟你竞争,这正是资本主义的美妙之处,你知道英伟达必须做什么吗,竞争 他们要么拿出一款,人们愿意花更高价钱买的产品,要么就得降价,他们的利润率会降下来,他们得在那个市场里竞争,我想告诉你的是,当我看到英伟达的产品路线图,看看他们正在做的事,收购GRAXIO就是其中一部分,我觉得他们会处在一个非常有利的位置,他们已经宣布了未来八个季度里,已经锁定的销售额有1万亿美元 1万亿美元,大家的需求已经超过了,他们能拿到的内存和供应,根本来不及把所有这些算力建出来,所以我觉得这一切才刚刚开始,我就在硅谷,其实也不算太久以前 16年前,那时候人们说,永远不可能有一家万亿美元市值的公司,永远不会有万亿,我就问为什么 他们说大数定律,我说这刻在哪块石板上了,哪都没有,现在我们已经有了一家 4万5千亿美元市值的公司,我公开说过英伟达会是第一家10万亿美元市值的公司,我这么说不是因为我是啦啦队长,我可以卖掉英伟达的股票去投任何我想投的东西,但这家公司的领导层那个团队,他们在训练和推理两端的领先优势,还有他们推进的速度对吧,我觉得这些让他们处在一个非常有利的竞争位置,而且他们做到这一切还是在training很成功 GPU很成功,定制ASIC芯片也非常成功的情况下,他们照样一路碾压,我觉得这更多说明的是,智能这个市场有多大,要走到那一步需要多少算力,而不是某一家公司有多厉害,话说到这儿,我们得收尾了 Apov 谢谢你邀请我们

Apoorv Agrawal:今天我们要聊聊,你们正在融化的那些数据中心,这一切的大主题 [01:19:55]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

这一切的大主题

Apoorv Agrawal:这一切的大主题,其实就是这张图,这是五大超大规模云厂上,在人工智能上的资本支出,大家可以看到,这条曲线在向右上方延伸,而且延伸得非常快,放到大背景里看,这是我们正在做的,最大规模的投资之一,它比太空计划还大,比我们的高速公路系统还大,比曼哈顿计划还大,仅次于美国国防预算,我特别兴奋,今天我们要和Chase Lockmiller 一起拆解这个话题,他是Cruzo的创始人和CEO 可以说据我们所知,他是把这件事做得最好的人,在请他上台之前,我先简单介绍一下Chase Chase显然就是Cruzo的创始人和CEO 大家都知道,一个不太为人所知,也是我最近才知道的趋势是 Chase是个非常狂热的登山爱好者,全球七大洲最高峰,他已经登了五座 包括珠穆朗玛峰,而Cruzo这家公司的设计,也带着登山的思路,有A计划,有B计划,还有B计划的C计划 Chase 非常感谢你,和我们一起做这期节目,请上台,谢谢,感谢邀请我,感谢你加入我们,那么Chase先跟我们讲讲,我们现在所处的这个数据中心经济,到底是什么,这对我来说格外特别,我当年就在斯坦福读的研究生 [01:20:53]

Sachin Katti:所以能换个身份回到校园,坐在讲台的这一侧,感觉很有意思,很感谢大家对我现在在Cruzo做的事情感兴趣,不过我觉得从某种意义上说,数据中心本身就是这轮AI应用热潮的物理体现,它是实实在在的基础设施,用来给GPU供电,让GPU运转,跑那些大规模计算任务,训练新模型,微调模型,跑大规模推理负载,把token提供给终端用户,今天举手说自己在用Gemini ChatGPT或者Quad的人都离不开它,所以数据中心就是那个物理基础设施,真正让所有这些技术得以普及 [01:21:24]

Apoorv Agrawal:改变人们的生活,太好了,那么Chase 数据中心里,其实有非常多的不同组成部分,我们多多少少听过一些,关于算力的东西,也听过一些关于内存,电力,互联和人力的事情,帮我们把所有这些组成部分,放到一个整体框架里理解一下吧,我们应该怎么去理解它,当超大规模云厂商,花6500亿美元,建这些数据中心时,钱都花到哪里去了,其中有多少流向了你们 [01:22:02]

Sachin Katti:这是个好问题,当我认真思考这种智能基础设施时,我的出发点其实是,要生产出AI到底需要什么,你看大家都痴迷于AI 但真正的问题是,制造AI到底需要什么,我脑子里有一个基本的等式,对吧,你知道人工智能,就是数据算法和算力的结合,算法包括反向传播,神经网络 Transformer架构,这些都是人们想出来的不同算法,本质上是对数据集做统计建模,算力也就是大量的计算能力,特别是通过GPU实现的高性能计算基础设施,有了它你才能把大量工作负载并行化,在高性能架构里做大量张量运算,还有运行这些GPU所需要的能源,然后是数据中心,也就是容纳并运营所有这些计算基础设施的物理建筑,那到底什么才真正花钱 数据当然也花钱,我的意思是你得去买数据,这给很多数据标注公司,打开了新的机会,比如SCALE AI 还有Mercur 你知道连H&J也差不多进入了这个领域,它给人们创造了很大的赚钱机会,靠生产对AI有用的数据来赚钱,算法呢,那主要是在很多实验室里,那些实验室在发明新的机制,地规学习技术,就是一个新趋势,还有人们用来更好利用数据的各种不同架构,但算力能源和数据中心,才是Cruzo真正专注的方向,我们想的是,怎么真正去建设运营扩展,并充分利用所有这些基础设施,而这往往也正是真正赚钱的地方,所以或者说是花钱最多的地方,抱歉,就是你刚才展示的那张资本支出图表,对,所以我想说的是 我给自己演讲起的名字是,从电子到令牌,那为什么令牌真的有价值,而且考虑到这是在经济学系吗,工程系,在工程系,好的,好吧,你们有些人上过经济学课,当然,对,有一个生产方面的经济学模型,叫科布道格拉斯模型,比如你看GDP的增长 GDP的增长从根本上说是三个关键组成部分的总和,劳动力的变化,资本的变化,所以这个资本既包括实物资本,比如建筑厂房和设备,也包括投入到经济中的资本,然后是技术的变化,而且技术基本上让劳动力变得更高效,对吧,我觉得这是一个很好的理解方式,那为什么令牌这么有价值,为什么这是一个台阶式的变化 为什么大家都在做这些巨额投资,就是Apov展示的那张资本支出图表,原因是历史上第一次,我们真的能创造出这种数字劳动力,对吧,当你给一个agent一个任务,比如让你的Cloud机器人去做件事,比如去给我刚发布的新产品,建一个CRM 这真的就是数字劳动力,是被呈现出来,或者说被带到这个世界上的数字劳动力,而且你知道从历史上看,劳动力这个东西,你基本上只能靠出生率去改变,对吧,它有20年的前置时间,对吧,是个超长的培育期,对吧,你得送他们上学,喂他们,给他们房子住,还有你知道,所有这些事,我有三个孩子,你知道,想靠自然方式去改变Fail 要花很长时间,但历史上第一次,我们能做的是真的通过投资买数据中心,买GPU 去数字化的改变这个Fail 通过真正加速数字劳动力的增长,来加速经济增长,所以这就是我一开始想传达的核心前提,这些投资之所以发生,之所以这么普遍,是因为我们有机会彻底改变经济,通过真正加速GDP增长,通过见证前所未有的增长水平,从根本上提升人们的生活质量,所以你知道,我说过Cruzo 处在整个技术战的好几个层级上 Cruzo是一家垂直整合的,人工智能基础设施公司,所以我们真的在努力,你知道因为这是一个,全新的基础设施类别,我们采取的做法,是想要扫清一切阻碍,我们建立这套智能基础设施的东西,这套设施将推动经济GDP的加速增长,所以我们基本上把它想成两个阶段 一个是技术战的底层,基本上就是能源开发,这些数据中心需要非常非常多的能源,而且你知道,我们非常审慎的采取这种能源优先的做法,去那些能获得充足低成本能源资源的地区,你知道,下一块就是数据中心本身,也就是实际的物理建筑,包括建筑周边的厂房,还有所有的冷水机组,因为你想一想,从最根本的角度看,数据中心就是一栋有电,有冷却的建筑,对吧,然后你可以把计算机插进去,对吧,基本上就是这样,当你把规模做得非常非常大的时候,事情就变得极其复杂,实际上会牵动整个生态圈里,最顶尖的工程能力,从化学工程,冷却架构,机械工程,到电气工程,要处理这些高压电源,还有超高密度的容量 然后还有计算机科学和电气工程,涉及芯片架构,算力,怎么跑起来,数据,怎么传输,这真的是把所有形式的工程,汇聚整合到一栋巨型建筑里 [01:27:48]

Apoorv Agrawal:为全世界运行智能,所以这是个很酷的工程问题,对,说到这个Chase跟我们讲讲,我们一直听说人工智能的瓶颈,四年前是算力,现在是电力,内存股现在涨得很猛,然后是劳动力,还有各种其他环节,局域网,供电外壳,等等,甚至可能还有监管,给我们一个总览,就你干这行的这段时间,还不到十年,瓶颈似乎一直在变,这些年它是怎么演变的,现在卡在哪,你觉得接下来会往哪走,现在制约这个增长的,核心瓶颈是什么,今天,核心瓶颈是有电的,通电的数据中心

Sachin Katti:对吧,就是那种供电外壳,插上芯片,就能开始跑一个,大型GPU计算机群,今天瓶颈在这儿,但瓶颈经常到处转移,对吧,有时候是给那些数据中心供电的问题,有时候是建设数据中心用的各种零部件,电器设备,开关设备,冷水机组,发电设备,芯片,芯片作为瓶颈已经有所缓解了,我觉得芯片的获取变得更容易了,真正的难点在于找到能放这些芯片,并且能通电运行的地方,所以Cruzo之所以采取这种垂直整合的路线,部分原因就是瓶颈会到处转移,而垂直整合意味着,你几乎可以在整个链条上做任何事,你知道我们不做芯片生意,就是说我们不做芯片生意,也不做模型生意,对,但除此之外,我们基本上会去解决,整个生态系统里的大部分挑战,对 [01:28:42]

Apoorv Agrawal:那顺着这个往下问一句 Chase 你创立Cruzo的时候,核心洞察来自鲁宾逊漂流记里的克鲁索,就是能源是当时最稀缺的资源之一,至少在西方的世界里是这样,跟我们讲讲选一个地点吧,可以选阿比林,或者别的你能聊的,你为什么从那里起步,当时你要解决的稀缺资源是什么,还有为什么从能源倒推,为什么不从算力内存

Sachin Katti:或者像你说的供电外壳出发 [01:29:59]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

或者像你说的供电外壳出发

Sachin Katti:或者像你说的供电外壳出发,我觉得我们的洞察是市场,大体上是相当有效的,对吧,你去看各种事情的时候会发现这一点,而且我觉得当数据中心容量处于那种稳态增长的时候,也就是web2.0那波趋势展开的时候,网络应用越来越多,人们上网的时间越来越长,你知道它就变成了一台,不断建新数据中心的机器,而且都建在那些大型枢纽里,对吧,像北弗吉尼亚这样的市场,就是那种承载了互联网,很大一部分流量的地方,我从来不想做一个跟风者,比如我是北弗吉尼亚,下一个数据中心开发商,我要在那里建下一栋楼,那在我看来,并不是一个有吸引力的方式,去进入一个新市场,真正做出点动静,所以我们说,看未来会出现一些全新的计算应用,跟服务网页应用完全不是一回事 比如人工智能训练大规模工作负载,还有反向传播,再比如数字货币这类东西,需要海量算力来做工作量证明,跑共识机制,这些都需要海量能源,一旦到了规模,能源就成了瓶颈,所以我们想能不能找一些,不是传统数据中心市场的地方,去那里建数据中心,这样我们不用把能源搬过去,而是把数据搬过去,所以我们真的可以在这些地方做共治,举个例子,我们待会会讲到整个堆栈最上面两层,包括GPU集群的部署,以及怎么真正把它变现,用托管服务去提供智能,好,那我们现在来讲堆栈最下面这两层,这个想法最早的体现之一,就是你们在这张照片里看到的,这是我们从2024年6月启动以来,一直在做的一个项目,我们签下了屏幕右侧,你们看到的前两栋楼,到目前 这已经是全球最大的人工智能计算园区之一,我觉得可能它就是最大的,我们在这里的洞察是,在德克萨斯州的阿比林,在我们把铲子插进地里之前,很多人压根没听说过这个地方,那我为什么去阿比林,阿比林在德克萨斯州西部,那片地方常年风很大,阳光很足,所以很多可再生能源开发商都去了那里,大规模建设可再生能源产能,因为他们被一种叫生产税收抵免的政策激励着,基本上就是政府付钱让他们生产清洁电力,而且不管价格多少,他们都得把电卖出去,结果就是在这个希德克萨斯市场,可再生能源发电基础设施出现了过度投资,电价甚至变成了负的,对吧,因为这种电没有编辑买家,而且输电能力也不够,没法把电送到真正用得上的地方去 所以我们说太好了,我们这正好有个特别耗电的应用,你要不要试试,于是我们就跟阿比林市合作了,你看上面那个位置,有个灰色的方块,它下面还有一个更大的灰色方块,这两个都是变电站,上面那个是200兆瓦的变电站,下面那更大的,是一几瓦的变电站,给你个直观感受,那个几瓦级的变电站,首先它是美国最大的私有变电站,我在丹佛长大的,一几瓦基本上就是,整个丹佛市的供电量,对吧,所以相当于用一整个单佛式的电,去给计算机供电,这是在一个地方集中了非常大量的电力,我们之所以能用上它,根本上是因为这个市场里有大量低成本的能源,但这些能源很难输送出去,缺少输电通道,这就给我们创造了一个巨大的机会 [01:32:37]

Apoorv Agrawal:让我们能进去建设大规模前沿的人工智能基础设施,这里我想追问几个问题 Chase 这个园区的租户是谁,能告诉我们吗,是ChatGPD吗 [01:33:27]

Sachin Katti:是Claude吗,是Gemini吗,这个园区的租户,你看这个园区一共有八栋楼,这是一号楼,二号楼,我刚才说的变电站就在这儿,然后上面是三号楼,四号楼,五号楼,六号楼,七号楼和八号楼,所以前八栋楼都是给甲骨文和OpenAI用的,基本上就是之前说的新技之门项目,算是第一个大项目,为了支撑这个项目,我们还在下面建了一座天然气发电厂,这大概是一座350兆瓦的天然气发电厂,用来支持开发给这个巨大的计算机群供电,它还被设计成能作为一个整体机群运行,也就是说所有数据中心里的所有芯片,都通过同一个高性能后端网络互联,能够作为一个整体工作负载来运行,所以你可以跑一个训练任务,它同时跑在整片园区所有数据中心的所有芯片上 这真的是非常非常独特的架构,给你一个规模的概念,因为光看照片很难看出来,我们当时还得在这边修一个停车场,那个停车场是个能停5000辆车的停车场,你可以看到它完全停满了,因为我们每天大概有9000人在现场,一起把这个园区建起来,园区南边还规划了扩建,你能看到那边有些土方,那是给微软的整个园区加起来是2.1几瓦,再说一遍,相当于两个单佛式的用电量,来给这里所有的人工智能计算基础设施供电 9000人chase 阿比林的人口是多少 9000 不是,不过待会我要给你看另一个园区,我们现场的员工,比那个镇的人口还多,太惊人了,这简直是曼哈顿计划,阿比林的人口是12万,所以我们一开始,能从阿比林本地招到不少人,但时间一长,我们其实得设计很多用工和留人机力 才能吸引人搬过去,基本上就是当短期建筑工人来干,长期来看,会有一批稳定的就业人口,负责运营这些大型计算集群和发电厂,维护整套基础设施,这批员工大概在2000人左右,这么说大家有个概念,但即便如此,对一个人口大约12万的本地经济体来说,它依然创造了非常非常多的就业岗位,好你继续,不不你先请,虽然台下听众主要是学工程的

Apoorv Agrawal:但这门课讲的是人工智能的经济学,对,那带我们走一遍那笔比喻性的100美元开销吧,假如他有100美元或者X美元的支出,这笔钱是怎么分配到不同层面的,好 [01:35:55]

Sachin Katti:或者你本来也要讲到这儿,我正要讲到这儿,我们先从发电厂和数据中心这边说起,然后再讲到计算集群,接着我们会聊,好,这里面投的是几百亿美元,那大家怎么赚钱,回报到底从哪来,这个我讲到后面幻灯片的时候会说到,但Apple最开始展示的那张幻灯片,是巨大的资本支出,对吧,而Cruzo 那些公司里有很多都是Cruzo的客户,对吧,当这些客户在建设这些大型资本支出项目时,我们帮助他们服务所有这些客户,帮他们构建这层智能基础设施,随之而来的,我觉得这里面有很多不同的组成部分,但电器设备是其中很大的一块,对吧,想想看,如果你看那边,那边有一些白色屋顶的小建筑,那些叫做配电中心,他们从高压或从变电站取电,进来时是中压34.5千伏,也就是34500伏,然后他把电分配到那一排设备上,你看到这里写着变压器 变压器排列在建筑的整个左侧,然后是整个右侧,他做的事情就是,把电力分配给那些变压器,这样就能把电压从34.5千伏,降到480或415 所以那是资本支出力很大的一块,那是一件设备,对吧,是我们正在投入的东西,用来建设这栋建筑,你还有各种不同的冷却设备,所有的机械设备,想想看,你有一排冷水机组,它们看起来有点像内存条,但不是,那些都是风冷冷水机组,基本上就是这些缠绕的铜管,数据中心里,有一个巨大的冷冻水循环,再循环水,然后基本上从进水侧的冷水开始,水进入GPU机架,然后发生一次热传递,因为GPU通电后产生大量热量,热量从芯片传递到水里,然后水通过那些冷水机组流出去,基本上就是往这些绕线 铜线圈上吹大量的空气,把热量排出系统,这样水温就降下来了,你又有冷水可以去冷却GPU了,所以这又是一笔很大的投入,这里面所有的管道工程,工程量真的非常非常大,所以我们现场有大量的水管工和管道装配工,他们把这些大型管道系统焊接在一起,每栋楼里大约有一百万加仑的水,用来冷却这些芯片,但再说一次,这些水是循环使用的,所以我觉得一直有一种说法,说人工智能好像在消耗大量的水,我们几乎不消耗水,这个系统我们只住满一次水,然后每年我们的用水量,大约相当于一个独栋家庭,所以用水量非常有限,这在像西德克萨斯州,阿比林这样的市场很重要,因为那里的水其实相当稀缺,所以你可以看到这里的成本,我按每兆瓦做了规划处理,但是比如配电中心 UIP系统,也就是电池系统,不间断电源,你需要这个来平滑电力,因为电力从变电站分配到芯片的过程中,需要稳定,还有其他的替代方案,比如我们正在试验的一些电池系统,冷却分配单元,这些实际上放在数据中心内部,它们基本上是从冷冻水管取水,然后分配到各个GPU机架,然后当然这里面还有很多这样的核心组件,要知道这里以前什么都没有,有大量的钢材,有大量的混凝土,我们在现场有自己的混凝土搅拌站,我们真的就在现场生产混凝土,工人七分之二十四轮班交注,所有的场地工程,所有真正让这一切落地的人力,都是大量的人,大量的工师,然后在电力基础设施这边,我们在这里重点讲两样东西,一个是天然气发电厂,就是上一页幻灯片里给你们看过的那个 你们可以在下面这个位置,看到它的一小张快照,另外有一部分基础设施,我们用的是柴油发电机,所以你们能看到,中间那三栋灰顶的建筑,那些是为核心网络,提供备用电源的 [01:39:46]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

提供备用电源的

Sachin Katti:提供备用电源的,我们对这个问题的思考方式是,不是所有东西,都需要100%的5.9个9的可靠性,全套备份,但核心的存储和网络系统需要,这样万一整个电网断电,万一出现灾难场景,我们仍然能访问存储系统,如果有检查点需要引用,需要把工作负载转移到新地点,我们也能做到,总之这里面投入的钱非常多,我想给你们一个完整的拆分,就是整个发电厂加上建设成本,我想给你们特别指出一点,因为我刚才给你们看了,那个特别大的停车场,那个能停5000辆车的停车场,下面这块是人力成本,对吧,这是每兆瓦470万美元,对吧,所以算下来,对于一个几瓦,或者说100兆瓦来说,一个几瓦的话,就变成47亿美元了,所以这真的是投在人身上,让他们去干活的钱,对吧,这是实打实的蓝领劳动力 我们投资他们,就是为了把这套基础设施建起来,就是人们从事建筑工作,是现场施工的人在建这些东西,所以当你放到整体框架里看,这个数字非常非常可观,而且那是年度数字,所以如果,所以当你问我平静在哪,这就是平静,我们没有足够的这类技工,我们没有足够的电工,我们没有足够的焊工,我们没有足够的水管工,我们没有足够的建筑工人,因为这只是其中一个项目,现在这样的项目冒出来很多,而且实际上劳动力竞争非常激烈,所以在Cruzo 我们试图重新思考,怎么把这些基础设施建起来,好去应对这些非常关键的劳动力挑战,那么如果你看软成本,那包括什么,包括保险这类东西,包括融资成本 比如我们用建设贷款借钱,然后我们得还钱,得偿还那笔建设贷款的债务,还包括选址,以及我们做的所有调试工作,下一块是天然气发电厂,同样大概是每兆瓦200万到300万美元,我觉得关于天然气发电厂,有一点很重要,就是这些成本涨了很多,燃气轮机制造商就那么几家,基本上就是GE,Vernova,西门子,三菱重工,还有普惠,卡特比勒旗下有一家公司,叫Solar 但这些公司里,很多在扩大实际产能方面,都受到限制,所以当所有人都想新建天然气发电设施,来给他们的AI计算集群供电的时候,你猜怎么着,价格涨了很多,以前一台燃气轮机每兆瓦100万美元,现在要每兆瓦300万美元,所以这些价格涨了不少,这也是为什么你会看到,我不知道有多少人关注股市 但你要是看G.E.Vernova的股价,当G.E.Vernova的股东是件好事,总之这是整个堆栈里的又一块,租户装修就是数据中心大厅里实际有的那些东西,比如远程配电盘,热通道封闭系统,风扇墙,冷却分配单元,所有在真正放GPU的数据中心大厅里需要的东西,用来给GPU供电和驱动,电器设备,同样从高压到低压,各个部分都会涉及,比如电力变压器,配电中心,中压开关设备,低压开关设备,可以想象一下你家里的配电箱,要是灯灭了,你就下楼去拨几个段路器,就是这个,只不过规模是一座城市那么大,全在一个巨大的电气室里,机械设备,就是所有的设备,从冷水机组,所有管道,所有空气处理机组和风扇墙,这些用来降温涉及机械系统的部分 然后当然还有材料,钢材,水泥,所有用来建成这样一栋,大型建筑的不同组件,总之整个堆栈大概就是这样,这里有几个快速问题 Chase GPU在哪里

Apoorv Agrawal:那在下一阶段,好,对,对,对,这个我们后面会讲到,所以这大约是每几瓦200亿美元,假设一个几瓦用一年时间上线,那你每年要付45亿到50亿美元的劳动力工资,对,那是建设期的,这属于资本化的劳动力,所以这算是,不是运营支出,是资本支出,对,对,这不是运营支出,好,运营支出我会在另一张,好,最后一个问题,这个数字,每兆瓦2000万美元,或者说每几瓦200亿美元,是随时间下降还是上升,因为显然有些 [01:43:49]

Sachin Katti:是上升的,因为需求太大了,比如天然气,发电基础设施这类东西,你猜怎么着,价格已经涨上去了,再比如劳动力,你要是电工,你的价格也涨了,因为你的时间太抢手了,好,所以所有这些环节,你都会看到基础设施的,每一类成本,都在不同程度的上涨,所以我还想展示,另一个很酷的项目,就是想说明,我们是怎么采取这种,能源优先的思路的,也回应你刚才提到的,关于多少人多少人的问题,今天这个项目,现场大概有3500人,它位于德克萨斯州,一个叫Cloud的小镇,这名字巧合的有点失忆,小镇不是我们命名的,但Cloud本身只有1500人,对吧,我们有3500人,在这个项目上工作,对吧,它恰好离Amarillo很近,所以我们能吸纳Amerillo大量的劳动人口,你可以看到这个地区可再生能源非常丰富,它是美国最适合建风电的地方之一 因为这里风力持续稳定,所以能看到屏幕上方那个现场风电厂,那里有一个非常大的风电厂,发的电直接供给数据中心,我们能用一种方式把电力稳定下来,我们管这个叫跨表计量,基本上电表就是接入电网的互联点,然后有表后这一说就是现场发的电,但我们做的是我所说的跨表积量,就是我们通过风电实现现场发电,还计划建太阳能,电池和天然气,基本上用所有上述能源方案,来给这个园区供电,我们用不完的电怎么办,你猜怎么着,我们可以卖给电网,创造能源富裕,从而降低当地所有用户的电价,而当我们真正需要电力的时候,因为我们需要稳定供电,要么是有些发电机组在维护,要么是风不吹,太阳不照的时候,我们需要稳定电力,就可以从电网取电,所以就形成了这种非常互惠的关系,我们投资电力基础设施 然后利用电网上的大型配电,输电设施和其他发电机组,所以这是个非常酷的项目,我不能透露客户是谁,但这家客户对这个地点来说非常大,你刚才问到了GPU 这个转场很妙,好,那在这个局里谁在赚钱,这位老兄,你要是还不知道的话,他在这边就有一栋楼,我们算美兆瓦的IT资本支出时,记得我刚才给你看的,那是整个数据中心加发电厂,大概差不多每兆瓦2000万美元,往高了算吧,再看IT资本支出,这基本上就是装进楼里的计算基础设施,大概每兆瓦4000万美元,对吧,这算是往前看的,属于下一代的东西,其中3000万花在GPU上,对吧,所以他看起来总是那么开心,他总在笑Janson 那剩下的钱去哪了,大概400万花在网络设备上,对吧,这些是非常复杂的网络系统 尤其是当你要把这些GPU互联成一个巨大的统一的集群时,这个投入就更大了,你看最新几代的GPU就是这里的GB300或者GB200 我不太确定,但英伟达推出的其实是一个整机柜设计,对吧,也就是说那个机柜里有72块GPU 它们全部互联在同一个LensLink域里,你能看到右边那个背面的铜板,它们都连在这个高性能后端网络域上,这让AI研究者能跑出极高的性能,也支撑了大量了不起的用力,可以在NAMS Link域里共享数据,但接下来你还得把这些机柜再互联起来,靠的是另一种高性能后端网络,通常是Infiniband 或者有时候是Rocky 也就是基于融合以太网的RDMA 所以这就是每兆瓦400万美元支出的去向,就是那块绿色的网络部分,接下来是CPU CPU和存储,对吧,最近让我们特别惊讶的是 CPU出现了大规模短缺,为什么,随着所有这些智能体工作流的爆发,随着Cloud的爆发,你猜怎么着,你需要大量CPU去编排这些计算工作流,所以你会看到生态里每个人,都在要求上线更多CPU 需求非常大,所以CPU和存储大概是每兆瓦300万美元,然后还有一堆机房内的资本支出,我觉得这里我可能有点重复计算了,但我前面提到的那些TFO 大概是每兆瓦300万美元,然后还有大约100万美元,花在劳动力部署,运输这些上面

Apoorv Agrawal:但最后你会得到,大约每兆瓦4000万美元,这个数字,对,请讲,这里有个问题 Jason昨天和Dorcas做了个播客,他看起来不太高兴,有很多争论围绕算力,是不是一种商品,是还是不是,这个数字会随着时间下降吗,算力是商品吗,你看到的价格是什么样的,很难说,我的意思是,短期中期长期的情况会怎样,这很难讲 [01:48:44]

Sachin Katti:而且有可能两种说法都对,这要看具体场景,对吧,我们看到,如果你看老一代的计算设备,它已经有点商品化了,就像你,比如H100 更早的那些,对吧,我觉得有一点绝对没有商品化,那就是规模,对吧,所以如果你在真正巨大的规模上,做任何事,那极难复制,也极难重复,永远会有最前沿的东西,所以任何最新的东西,永远都能卖出溢价,而这就是IT行业一直以来的历史,所以我们走着瞧吧,但我确实认为,大家要知道资本主义是一股强大的力量,资本主义的看不见的手,是一股非常强大的力量,所以我确实认为,随着时间推移,利润率确实可能会回落到,更标准的稳定的芯片利润率,比如说我不知道60%的毛利率 [01:49:10]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

比如说我不知道60%的毛利率

Sachin Katti:比如说我不知道60%的毛利率,而今天英伟达大概能拿到 80%左右的毛利率,差不多这样,所以我也不知道竞争的力量很强大,对对对完美,所以我觉得有一点很重要,你要理解你做了这么巨大的投资,对吧,我们说的是初期,姑且算美兆瓦2000万美元,用于数据中心和发电厂,另外美兆瓦4000万美元,用来搭建这个计算机群,你刚花了美兆瓦6000万美元,对吧,所以你要建一个几瓦级的集群,你刚花了600亿美元,对吧,你怎么赚钱呢,对吧,就像彩虹镜头的那桶金子到底是什么,你知道人们买这些基础设施,是为了支撑所有这些AI应用,向客户提供令牌,而且我想展示这张图的原因,其实这是蓬勃的一张图,基本就是H100的现货定价 然后我觉得有个问题,就是这些设备到底值多少钱,你按多长时间折旧,对吧,这些设备的使用寿命到底有多长,我觉得之前有人说,下一代产品出来以后,这些东西就完全没用了,但这张图讲的恰恰是相反的故事 H100大概三年前刚推出的时候,价格确实降下来过,但因为我们看到的这波繁荣,加上Agent带来的需求 H100的价格反而涨上来了,甚至超过了这些芯片,刚出来时人们付的价格,这是我们在自己的Crucial Cloud业务里,亲身经历,一线感受到的东西 Chase 这件事有没有一个实实在在的结果,现在大多数上市公司,都是按五年折旧他们的算力,这是不是意味着,六年是标准,这是不是意味着,折旧期会比六年更长,我不知道,这是我诚实的回答,就是说只要算力对我们,或对别人还有价值,我们就会一直用下去 只要我们能,而且我们战略的一部分,就是构建能把算力,各层抽象调的服务,你不会知道你用的是A100 H100还是MI300 你也不该关心,你关心的是,你从那里得到的实际服务,就像你登陆Zoom Google Meet或者Teams的时候,你不会想,等等这跑的是Intel iSlic CPU还是AMD的,你不会在乎跑那个东西的芯片是什么,你在乎的是你得到的服务,以及你能登陆进这个视频通话,能听到,能跟对面那个人说话,有道理,所以我们认为应用层面的扩展,真的会把很多核心基础设施给抽象掉,我觉得随着时间推移,我们会看到这些东西到底有多大的价值,但我想这个时间可能比较长,然后这是一张类似的图表,是Semi Analysis发布的,很多人可能都熟悉这家机构,这张图是关于Blackwell的,对吧,所以我们看到Blackwell的定价走势 跟之前非常非常相似,也是在年底出现了这种agent的突破,所以当我们从整体视角来看这件事,对吧,我们把所有东西都放在一起看,我们有数据中心,有发电厂,还有芯片,你看到的前期资本支出,每兆瓦接近6000万美元,对吧,再说一遍,我觉得我这里面有重复计算的地方,这是我第一次过这些幻灯片,所以大致就是每兆瓦6000万美元,然后你再看这个发电厂的持续运营支出,大概是每兆瓦略高于100万美元,其实运营支出相当有限,这些钱花在电力保险,一部分现场劳动力上,比如维修和更换电缆,坏掉的GPU 还有其他一些事情,但大概就是每兆瓦100万到200万美元,那你的收入是多少,如果你只是把那些芯片租出去,我之前用那张图给你们看过 比如租一个H100的大致价格,那你每兆瓦的收入是多少,大概是每兆瓦1500万美元,对吧,所以你做了每兆瓦6000万美元的前期资本投入,然后每年从单纯出租基础设施的访问权利,拿到每兆瓦1500万美元的年化收入,那这怎么才能变成一门好生意,我觉得很大程度上取决于你怎么衡量,构成这些资本支出数字的各个部分的折旧,我觉得这就是华尔街分析师在问的关键问题,就是这栋建筑能用多久,这块芯片能用多久,这座发电厂能用多久,合适的折旧曲线应该是什么样的,所以你看从这笔巨额投资来看,回收期大概四年,按收入口径算,那粗略的,对,我就是这个意思,你有运营支出,把运营支出踢掉等等,好,但这里还没算其他人力成本,比如整个工程团队等等 所以实际运营支出比这更多,而且再说一遍,这是今天下午临时赶出来的,有道理,大概四年,对,对,那还有什么别的办法,能真正提升你交付给客户的价值,再说一遍,我之前提过Cruzo的垂直整合战略,我们部署芯片的时候,提供的一个产品就是托管计算机群,对吧,面向那些真正想自己,管理基础设施的工程师或开发者,自己管理计算节点,跑大型训练任务,跟单独的虚拟机,或者一个大型托管 Kubernetes计算机群交互,但对于那些,只想跟模型交互的人来说,对吧,如果你真的在托管一个模型,再说一遍,这套幻灯片的标题就是,从电子到令牌,对吧,那么怎么才能到令牌这一步,而且从这里面,你能获得的价值提升在哪里,当你加上这层托管服务 真正在提供模型服务,托管模型,并且给客户提供一个端点,让他们基本上,可以调用API端点,真正去服务那些 ChatTPT或者Anthropic的查询,就是大家平时在手机,或笔记本电脑上,发出去的那些请求,你的利润率会提高不少,大概能再加15 差不多每兆瓦 500万到1500万之间,所以最后,在非常乐观的情况下,大概每兆瓦,每年能到3000万美元,这样算下来

Apoorv Agrawal:回收期就是两年,那结果就显著好得多了,有道理,太好了,如果你没有其他幻灯片了,我可能会带你过一遍,同学们提的几个问题,然后开放提问,好请讲,请讲 [01:55:51]

Sachin Katti:你还有更多内容吗,我这边没事了,这些只是我们一些,部署项目的照片,我刚才在展示,好,那Blackwell之类的,而且我会讲讲推理扩展,以及我们实际上是怎么做的,为了降低那些劳动力成本 Crucial设计了一个,我们称之为Crucial Spark的东西,这是我们模块化,自包含的模块化 AI数据中心,在集中的地点制造,这样我们能降低劳动力成本,也能把基础设施成本,降下来不少,大概能省30%到50% 取决于整体成本,所以你看,每兆瓦1900万那个数字,我们能大幅降下来,规模上容量是多大,是几瓦级几兆瓦,还是,这个我们风冷架构的,每个单元是500千瓦,明白了,那大概,然后这是风冷设计,我这其实有一段,他们现场部署的视频,我不知道能不能放出来,不过算了 好没关系,然后我们还有个夜冷版本,那个是两兆瓦,但你可以成批部署,对吧,这其实打开了大量,全新的电力供应机会,是个挺巧妙的方案 [01:56:59]

Apoorv Agrawal:太棒了,太棒了,好时间有限,我想不出有谁比你更适合,回答我接下来这个问题,你大概看遍了,整个技术站的每一层,从芯片到电力,到燃气到人力,再到网络,如果让你挑技术战里的一层,具体到一家公司,再具体到一只股票,你会做多什么,你会做空什么,为什么希望大家都在记笔记,我会做多什么,做空什么,一年后我会打电话问你的,对,看看一年后结果如何,这太难了,当然Cruso出外,对,我是说我对Cruso是强烈看涨的 [01:57:10]

Sachin Katti:但是我确实觉得,很多时候要把这些事看对挺难的,尤其是你看时间跨度的时候,我确实觉得我的看空理由,其实是我之前展示的,横跨整个电力堆栈的那笔巨大投资,电力堆栈里有太多组件了,因为你做的事情是,从那个高压变电站取电,那里的电力可能是345千伏,所以德克萨斯州正在新建一条 765千伏的线路,所以那是非常非常高压的电力,然后要经过一个变压过程,你要把它降到中压,再降到低压,然后分配出去,这里面有大量的电缆,大量的设备,我认为数据中心,从根本上会推动,整个电力堆栈的大量创新,并且会大量利用固态电子,固态变压器和电力电子技术,而且我认为这会让很多,在过去100年里,基本没怎么创新的公司,陷入危险境地 所以这就像伊顿施耐德,还有其他一些公司,我认为他们会,我说很难给这事定个时间表的原因是,那些公司,我认为短期内会表现得非常好,他们现在就在关键路径上,他们短期内会表现得超级好,对,而且他们是我的重要合作伙伴,所以我不太愿意说我看空他们,没错,长期来看,如果他们不创新,如果我认为电力堆栈的,整个那一块的成本会大幅下降,因为有创新者,在打造电力堆栈的下一代版本,对,而且会向900伏直流这类方向发生巨大转变,方方面面都会变,那这对在座的电气工程师来说是个机会,在座的电气工程师,绝对的,我觉得这是个巨大的机会,电力电子,比如怎么把电从765千伏送到机架里的900伏直流,我觉得在这个问题上创新 对人们来说是个超级超级巨大的机会,好,多头,这边有什么看好的标的吗,要是没有的话,我还有个问题想问你,要我说我看好的东西太多了,我也许说点空头这边的,我确实觉得开源正在赢,不是开源在赢,而是开源会表现不错,会从某种程度上拿走更多份额,有意思 [01:59:37]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

有意思

Sachin Katti:有意思

Apoorv Agrawal:闭源,闭源模型玩家 Dray 有意思,马斯克,太空数据中心,看多看空真实幻想,我们有生之年能不能看到,太空数据中心 [02:00:00]

Sachin Katti:所以我其实真的,我对这个非常感兴趣,而且在Cruzo 我们其实已经和,这个生态里的另一家公司,建立了合作,叫StarCloud 对,他们真的把第一批H100送上了太空,这件事有很多让人喜欢的地方,对吧,我刚才带你过了一遍整个堆栈,这些领域我都要砸几十亿美元进去,对吧,所有的混凝土地基,你猜怎么着,在太空里,你根本不需要,所有电力方面的许可,审批,你猜怎么着,在太空里,你一样都不需要,还有大量核心网络的部分,我刚才没细说的是,一个数据中心里,要铺几百万根光纤,还有所有那些技术人员,得去把这些东西都插好,你猜怎么着,在太空里,所有东西都用光学,所以基本上一切都是光学互联的,这些都很有意思,但也非常难 我觉得热管理这块非常棘手,而且我也觉得,持续运营这块也非常棘手,比如说在这些数据中心里,当你运营这些大规模互联的计算机群时,东西是会出故障的,对吧 GPU会坏,得从计算托盘里重新插拔,有时候还得返修送回厂商,那边你猜怎么着,你总不能派个宇航员上太空,把芯片拿回来还给Jensen吧,那根本不可能发生,对,所以自然会有设备淘汰,这会让经济账变得很难算,而且很多事归根结底都压在新建上,载荷成本 Dray,载荷成本能降一个数量级吗?我不知道,这方面他比我更有数,我的看法是,未来五年这事儿大概还不重要,未来十年,大概也不重要,但我觉得放更长的时间看

Apoorv Agrawal:太空数据中心会在智能基础设施的未来里扮演重要角色,再过几周,SpecX的SE文件,大家就都能看到了,到时候我们看看它的时间预估是多少,我们知道你的时间预估,明年,没错,没错,最后一个问题,你是斯坦福的校友,如果你现在还在学校,你会给正在纠结学什么,往哪个方向使劲的学生,什么建议 [02:01:56]

Sachin Katti:现在做这个决定,确实比任何时候都难,我有这么个想法,就是你在学校里学的那些具体东西,其实没那么重要,我不是说那些东西没用,它们确实重要,但更重要的是,学习这个过程本身,以我的经验来看,这就像我们Cruzo的核心价值观之一,你刚才提到过一个,叫像山一样思考,我们另一个核心价值观,是活在无限成长循环里,对吧,这个理念就是,没有人是成品,每个人都在成长中,如果你能变得更好,能学到更多,如果你有那股韧劲,知道怎么每天提升自己,时间一长,就会产生指数级的福利,这真的是我们任何人,能拥有的最宝贵的资产,所以关键就是,去投资努力,坚韧,苦干这个过程,然后真正用好各种工具,因为我不知道五年后世界会是什么样 AI大规模普及应用之后 我每个人手边都相当于,有一只百万人的劳动力,对吧,它会从根本上改变工作,它会改变每个人的做事方式,所以再说一遍,我会少关注学什么,多关注怎么学,还有怎么用好AI工具去运转,去过好自己的生活,这就是我想给学生的建议,太好了 Chase 非常感谢你来做这次分享,谢谢 [02:03:16]

Apoorv Agrawal:你知道阿里,我想我们该从这开始,你进来之前,大家都在聊世界变化太快了 XA Cursor OpenAI 还有跟Anthropic的竞争,你们做的特别好的一点是,一路叠加上来,从数据业务做到,胡仓一体业务,现在又做到AI业务,就说国新资文吧,从最高处往下看,你看到了什么,帮我们勾勒一下这个格局,你脑子里最大的几件事是什么,我这准备了一堆问题可以聊,我想不如就敞开聊,你想到AI脑子里最大的一件事是什么,对我觉得,我觉得你们可以放轻松点,别焦虑,我觉得现在这个时代确实疯狂,但基本上没必要这么紧张,而且我觉得焦虑会让人干蠢事,去追那些推特上,人人都在聊的,当下最疯的东西,我觉得焦虑会让人视野变窄,不去做真正该做的事,对,这就是我在现在这一代人身上看到的 每年都有实习生来DataBreaks 我总会跟他们开一次会,一个小时 90分钟左右,他们可以随便提问,过去两年简直疯了,以前他们会问好的职业建议,我也会给他们好的职业建议,现在他们才22岁,就一副,天哪,我是不是该自己开公司当CEO的样子,或者如果我把这事往后拖六个月去做点别的,我是不是就把职业生涯毁了,人生就完了,而且你知道 通用人工智能一定会来,我就要错过这班船了,我就想那我该怎么办,所以我就是跟大家说,冷静点,深呼吸,事情需要时间,对,所以这就是我想说的,其实我想说在硅谷,如果你现在想一想正在发生什么,我觉得你可能会不同意其中一些,所以尽管反驳,当然,你们也可能不同意,你们也可以反驳,但确实存在这种对超级智能的追求,我觉得这是没有根据的,对 因为首先,他们甚至都没定义什么是超级智能,但这是一种像神一样的东西,我觉得是人们在读库兹威尔,你知道,就是起飞起点,就是那种会来的东西,地归自我改进,然后治愈所有疾病 GDP跳涨10% 失业率到20% 再也没有工作了,然后散布恐慌,全民基本收入发给所有人,等等,不我觉得他们真信这个,我觉得这没必要,我觉得我们已经有了通用人工智能 所以我们已经有了人工通用智能,好吧,这总是同样有趣,有多少人觉得我们已经有了通用人工智能 好吧,结果总是一样,总是大概10% 你们当中有多少人觉得,平时接触的很多人,都不如你们用的最聪明的模型,聪明,好,现在我们从头再来一遍,有多少人觉得我们还没有通用人工智能 顺便说一句,这招每次都管用,你看,就像催眠一样奏效了,不知怎么的,全世界都被说服了,觉得我们还没有通用人工智能 但你们刚才其实已经回答了,你们已经有了,不是吗,对,但即便如此,不,你们还是想挪动球门柱,顺便说一句 2009年我在加州大学,伯克利分校的一个研究实验室,叫IMP实验室,它大概是2009年,当时规模最大,最活跃,也相当重要的AI实验室,而且AI之神,就在那个实验室工作,就是迈克尔·乔丹,它名字真的就叫这个,所以它就像是AI界的迈克尔乔丹,而且当时我们对通用人工智能 也就是人工通用智能的定义,你知道我们已经达到了,对,任何我们想象中算通用人工智能的东西,我们都已经达到了 而那些都是美国顶尖的AI研究者,他们很多人当时都在实验室工作,但我当时只是想,看看我是不是在自以为是,所以我去问了当时在场的那些人,我问他们,你们同意吗,他们都说,对,按2009年的那个定义,绝对已经达到了,但是你知道,总会有一些,你知道,很蠢的说法,说我们挪动了球门柱,或者我们想换个定义,或者想要别的定义,或者说 AI在某些方面,你知道,连草莓里有几个R都数不清之类的,所以我们就说,还没有通用人工智能 我们已经有通用人工智能了,好吧,它已经比你接触的很多人更聪明了,那就是通用智能,它是人工的,它不完全等同于人类,它不是人脑运作的方式,所以我们已经有了,所以从某种意义上说,你知道在GPU数据中心这些东西上,砸很多钱,其实并不是真的必要 好吧,那与此同时,你刚才问的是国情咨文室的现状概述,对,另一方面 MIT技术评论那份报告说 95%的概念验证项目都失败了,没错,方向上大致是对的 95%这个数字准不准我不确定,也许实际只有75% 谁知道呢,但你要是走进一家企业,或者走进任何一个组织,进到任何一家公司里,去看看他们到底怎么用这些东西,现实是并没有一大堆智能体同事,跑来跑去把活全干了,跟人类混在一起协作,那根本没发生,好吧,就是一群人在那儿捣腾TPS报告,好吧,就像《办公空间》那部电影,世界还是照内部电影那么运转的,对,这就是现实,这就是真相,哪怕在AI公司内部,他们也是这么运转的,他们倒是愿意往好处想,但招的还是老牌公司出来的销售 用的还是老一套的管法,而我没看到那种未来式的东西,那现在到底是怎么回事,我们有了通用人工智能 但另一方面这些全都跑不通,也没有公司在用,这到底搞什么,我觉得答案很简单,如果你拿不到这些组织内部存在的所有上下文,拿不到人类是怎么运作的,我们脑子里装的所有那些背景信息,如果你不把这些喂给模型和agent 他们就会犯一大堆低级错误,然后就没用了,而这就是现在正在发生的事,模型就是没有,或者说agent没有人类,在组织内部拥有的那些上下文,所以他们没用,他们犯低级错误,是因为他们不知道我们知道的所有那些东西,你看每家公司里总有这么一个人,大家会说去问约翰或简,他什么都懂,然后所有人都去敲那个人的门,而那个人就是公司里绝对不能失去的人 [02:09:08]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

而那个人就是公司里绝对不能失去的人

Apoorv Agrawal:而那个人就是公司里绝对不能失去的人,你要是失去那个人,整个公司就垮了,对,那个人每个部门,每家公司,每个组织里都有这么一个人,那个人脑子里装着所有的上下文,而那个人脑子里装的东西,并不在模型里,所以模型就没法运转,他就是不知道,公司里很多这类东西,通常都是那些在公司干了10年 15年 20年,有时候30年 40年的老员工脑子里装着的,你得把这些东西转移给AI 如果不这么做,就算你有了超级智能,能解出特别难的数学题,也没用,而如果你能把那些上下文,灌进AI里,我们其实已经有通用人工智能了,他们已经能破解这些问题了,所以我想劝你们的是,如果你想在这个世界上产生影响,就想办法把那些上下文灌进AI里,比如拿一个组织来说,你怎么去改造那些老派生意的做法,你怎么把那些流程装进agent里,那你就会产生巨大的影响 因为通用人工智能已经在这里了,对吧,这就是我的国情自问 通用人工智能已经在这里了,你得把大脑下载进规片里,让探机跟规级对话,对,你知道吗,其实我们刚才就在聊这个,顺便说一句,把你们的反驳意见准备好,我很想听听,我敢说大多数人不同意,有多少人不同意这个说法,哦,没那么多,我还希望多点呢,好吧,我要说的更有挑衅性一点,好,我们需要更多反驳,好,所以在我们聊AI之前,有个AI的阴影,软件已死,软件已经死了一阵子了,这话我们听过四次了,每次都这样,每次发生,它都会反弹回来,对,总有个宏观原因,英国脱欧,缩减恐慌,通胀,这次是AI 这门课问的问题是,我们该不该加仓软件股,所以软件死了吗,这是不是逢低买入的时机 我想不出更合适的人来问了,因为看你哪天问,答案都不一样,软件嘛,我们是AI公司,软件公司,聊聊这个软件死了吗,我觉得你比我更清楚,你是投资人,我不是投资人,而且我不给投资建议,但话虽如此,如果所有软件都死了,那OpenAI和Anthropic不也死了吗,他们不过是软件公司,雇了一堆研究员在写软件,所以那些公司也该死,对吧,那他们就不该压低我们的估值 SpaceX可能说得通,因为他们造火箭,但其他所有人都该死,英伟达也该死,因为他们就是一群特别聪明的人,在做芯片设计,人类用一些软件去做芯片设计,然后通过网络把设计发出去,大概发给台积电,那才是真正造芯片的公司,但那样的话,英伟达也得死,所以全球最有价值的公司也该死,因为软件死了 对吧,所以软件显然没死,也不会死,英伟达 OpenEye 和 Anthropic 也不会变成死公司,不管是因为什么SaaS末日,还是别的什么说法,但我确实觉得有两件事是真的,我觉得发生了两大变化,一个是进入壁垒,大幅降低了,然后转换成本也大幅降低了,那我们来聊聊这两点,进入壁垒,因为现在写软件比以往,任何时候都容易,那就像一件新武器,对,现在任何人都能,极低成本的生产软件,几乎零成本,其实也不是完全零成本,而且永远不会是零成本,但比以前便宜太多太多了,但这件武器人人都有,所以现在做软件的人,也都有这件武器,不是只有某些新玩家才有,现在人人都有,包括Databricks也一样,我们是软件公司,但我们也有这件武器 而且它是一件很厉害的武器,你有没有用过这件武器,去替换掉一些核心软件开支,比如你们的CRM IT服务台 CFO办公室用的软件,没有,我觉得那样做很蠢,另外我觉得转换成本也在降低,因为在不同UI之间切换更容易了,再说一次,人会被软件锁住,他们会,你知道,我不知道你们,你们有多少人用安卓,没人,有多少人用,你们,行,你不想换的安卓,为什么,你不熟悉那个UI 你不知道怎么用,对吧,那是个完全不同的UI 你还得迁移所有数据,手机联系人,全都得弄,惯性太大,转换成本太高,这就是转换成本,对吧,但以后如果你只是跟一个agent说话,这个转换成本就没了,因为你只是在跟agent说话,所以谁在乎这个agent是在操作你的安卓 你的iPhone 你的Gmail Outlook Salesforce 还是竞争对手的产品,都无所谓,所以转换成本也在往下降,所以对,我觉得竞争会变得更激烈,对,所以我觉得软件公司必须运营的更高效,对,我觉得这一定会发生,但软件不是唯一的模式,有本好书你应该读一读,叫七例,有多少人读过七例,好不少人读过,好对,所以你看,有些模式不只是软件,对吧,我的意思是,比如规模经济,如果你能比任何人,都更好地在规模上做事,就能负担得起高昂的固定成本,因为你的规模把成本摊薄了,你知道,亚马逊 AWS 那就是一种模式,对,如果你有法拉利或劳力士,这样的品牌,那也是一种模式,且便宜软件的人,没法轻易取代那个品牌,人们在乎那个品牌,信任,比如我是唯一提供这个的 你可以信任我的公司,我们不会被黑,我们有非常安全的软件,我们有特殊的资质认证,也许我们还有专利,那依然是一种模式,你没法那么轻易打破它,所以这些都还在,还有一堆其他的,转换成本之类的,所以数据是一个,很大的护城河,如果你有别人都没有的,独家数据,只有你有,那就是护城河,就算他们能写出很便宜的软件也没用,所以我觉得答案在两者之间,对,我的说法是,如果一家公司已经存在了十年,却一直没有创新,如果他们的软件和十年前一模一样,但收入一直在涨,对,那他们该担心了,对,因为他们一直没有创新,而今天新成立的公司,进入壁垒又更低,很可能很快就能写出软件,那会比这家公司强得多,因为那家公司十年什么都没干,对 他们真的该害怕了,对,而且他们可能连创新能力都没有了,因为他们不创新,所以很明显,他们身边也没有创新人才,这类公司会被淘汰,对,但还会有另外一些公司,过去十年一直在创新,他们是软件公司,或者有些公司,现在因为焦虑而开始振作起来,对,他们也会没事的,很好,那你怎么看,我是说你是投资人,我是说,我觉得确实有个分级,就像你说的,如果让我给各类软件公司打分的话,我会说,如果你手里有大量数据,就像你说的,如果你有某种核心流程,你大概是最抗风险,最不受影响的,中间那一档是各种工作流软件,就是那些没有创新的,用户体验看起来还是老样子,你锁着肩膀打字记下,我今天见了Aligoti 这就是笔记,那种东西大概就没了,对,如果你就像你说的,没有创新,你就是旧习惯的一部分 但其中任何一家,他们都有客户,有数据,如果他们做出很棒的AI 开始创新,就能一直走下去,他们可能得改定价结构,和成本基础,但会没事的,事实上,他们面对在位者,还有不少优势,他们有数据,有客户,还有一定的规模,所以他们确实有一些规模经济,在起作用,但他们还是得把内部理顺,对,而这你知道,说起来容易,做起来难,对,我放一张图,你们看过伊森马力克这张图吗,他说AI在某些事情上非常擅长,他管这叫拒持前沿,比如客户支持软件工程,大概就是这样的前沿,也许是软件工程,也许是客户支持之类的,但还有很多东西,他做的非常差,比如这个规模,或者这个规模诸如此类,而且你知道阿里,你见过很多,我们在这呢兄弟,我们已经到通用人工智能了,我们在那边,我们在这,我们在这 他们算是承认了,没错,没错,没错,勉强承认的,对,对,那你现在大概有6000 7000个客户,是1万个客户吗,不,我们大概有2万个客户,抱歉 2万个客户,抱歉,而且还在增加,对,你看到这些,你手里就是整个行业,正在发生什么的绝佳样本,那在这2万个客户的样本里,哪些领域AI是真正大获成功,跟宣传的一样,好用的,哪些领域能力边界还很粗糙,行不通,试点项目才失败的,对,听我说,这不是AI的错,我的意思是,大多数公司都处在这个阶段,我觉得我们已经有通用人工智能了,但大多数公司,你要是看他们实际用到了什么程度,也许就是让AI帮他们处理一些任务,这就是大多数公司现在在做的事,现实就是这样,原因就是模型里没有上下文 所以模型做不了,拿客服来说,所有人都说,好了,这个岗位要没了,客服已经完蛋了,对吧,客服其实非常难,支持恰恰是那些人类,不知道该怎么办的事,比如他们卡住了,就拿Databricks来说 Databricks提供知识服务 Databricks是一家公司,提供的是一个高级平台,你可以在上面做数据,科学,机器学习,你可以在平台上做各种高级的事,这些人很聪明,拿着高薪,受过教育,有数据科学的教育背景,他们想用Databricks 但可能卡住了,比如他们的机器学习模型,没拿到正确的F1分数,或者类似的问题,他们卡住了,能试的都试过了,他们打给我们支持团队,所以这个很难自动化,你没法直接把它交给机器,现有的支持自动化方案,我们全都试过了,各家公司的全都试过 立刻,甚至他们一开始跟我们说话,一知道我们是谁,我们就说,这个我们帮不了你 [02:19:54]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

这个我们帮不了你

Apoorv Agrawal:这个我们帮不了你,你走吧,别在这了,明白吗,所以对,世界上大部分情况都在这一边,但那是因为我们没有上下文,如果AI能拥有我们Databricks 支持工程师运作时的全部上下文,那AI就能做这件事,它只是没有这些上下文而已,对你知道,我们在Panthers常说的一个观点是,你的AI战略始于你的数据战略,是的,你得先把路铺好,让数据流动起来,对,那么如果把你客户群中的两万家里面,那些开始往正确方向走的优秀企业,归归类,那些真正跑通了像法拉利一样飞驰的,他们有什么共同点,而那些没跑通的,我猜问题出在上下文上,要让上下文真正起作用,需要做些什么,对这非常难,这是个关于人的问题,它不是AI的问题,我们已经有通用人工智能了,这是个关于人的问题,我没看到谁 真的在这方面做得特别出色,你得把组织里所有的流程,都重新梳理一遍才能做到,这是众所周知的,我最喜欢的一篇,其实是一篇,我推荐大家去读的文章 1990年发表的,作者是斯坦福的一位教授或研究员,文章叫,从发电机到计算机,大家可以去找来看看,就是从发电机到计算机,他考察了不同的技术革命,以及他们花了多长时间,才对经济生产力产生实际影响,结果就是你知道,那真是要花很久很久,比如个人电脑刚出来那会儿,有个笑话是,诺贝尔经济学奖得主,理查德·塞耶说过,电脑或者说个人电脑,你哪都能找到它们,唯独在生产率统计里找不到,你知道,就是它根本不会出现在统计数据里,为什么,因为人们买电脑,只是把它当打字机用 他们会让人在电脑上打字,然后把纸打出来,再放进文件夹里,再让助理去编索引,做各种杂事,所以你看不到任何生产率提升,工业革命也一样,同样的事情发生过,你看我们有了蒸汽机,整体工厂非常密集,他们靠那些叫传动轴的东西运转,就是那种旋转的装置,等到电动机出现,也就是发电机,花了整整40年,经济里才看到生产率提升,对你可以去查,这篇文章里就有,从1880年开始算,扩散花了40年,从1880年到1920年,电动机出现之后,才看到影响,当时他们做的是,去那些已经是传动轴工厂的地方,那种很密集的工厂,里面有一台蒸汽机,在转动传动轴,传动轴带动皮带,然后所有东西都在运转,有好几层楼,而他们做的 就跟电脑当打字机一样,只是把蒸汽机换成电动机,那就像只是换掉电脑一样,你得不到任何生产率提升,一直拖到1920年,也许其实是1915年,但我大概没记错,他们才意识到,等等,我们得把整个工厂车间都改掉,我们得把工厂搬出城市,我们得用大得多的厂房平面图,因为现在电力可以分布式输送了,电力好得多,它不像机械传动那样,有扭矩损耗的问题,对,我们可以把电力铺开,厂房平面图可以做得很大,工厂的不同部分,还能用不同速率运转,单元驱动对分组驱动,这花了很长时间,接下来也会是这样,现在也一样,重新布线这事我清楚,因为我有2万个客户,我跟他们都聊过,我开会迟到,就是因为刚才在建一家大银行的CEO 也是同样的问题,他遇到的是同一个问题 我合作的所有机构都有同样的问题,他们都说我没看到什么进展,我没看到,他们都觉得太厉害了,他就要来了,我需要他,我得用上他,但他们又说,我在自己组织里看不到任何生产力提升,我到底哪里做错了,我跟他们说我已经有通用人工智能了,他们就说什么,那不可能,我们什么都没看到,这确实是个很难的问题,因为你会说,我有了大脑,但我得把整个人体重新造一遍,对,手和腿,对,那以前是另一副身体,对,我给你举一个Databricks的例子 Databricks帮你从各种不同的系统里取数据,比如Salesforce Workday 这些,把它们集中到一个地方,做好安全,然后在上面做AI 比如你可以做预测,可以建预测模型,这就是Databricks干的事,所以我们给所有这些系统都建了连接器,这些连接器,我们建一个生产级的连接器 要花三个季度,我们擅长这个,这是我们吃饭的本事,我们建这些连接器,比如从Databricks 到Salesforce的连接器,做到生产就绪,那要花我们三个季度,也就是九个月,交付,安全,全都弄好,这就是我们干的事,后来随着LM越来越快,越来越快,我自己也开始试着捣鼓这个,我就想,我两天就能写一个连接器,于是我找到负责这块的团队,跟他们说,这个我两天就能搞定,你们怎么要花三个季度,他们说,说的有道理,我们回到你这边,然后他们回去想了想,两周后回来说,好吧,你说的对,但你说的也不全对,我们看了一下,这个AI确实有用,我们能把三个季度压缩成一个半月,也就是说能从九个月缩短到七个半月,就这,我说,我两天就能搞定,然后他们说 不不不,没有冒犯你的意思,但这是生产代码,是真能跑的,而且我们有客户反馈,它很安全,你写的是个玩具,天知道那是什么,我不是说你不好,你很棒,但让我们来,缺的那一环是什么,我当时就想,这有点让人沮丧,但行吧,这一个半月的改进,我收下了,也许这算点东西,但也可能只是我蠢,我没搞懂,对,然后我在公司里,又找到一个人,我们去找他,跟他说,你能看看这个问题吗,他特别讲第一性原理,是个非常聪明的人,他不在乎这些虚头巴脑的东西,他直接穿透那些花架子,然后跟一个团队一起干,他们回来说,看完这个问题,我们一个季度能搞定七个连接器,对,走起,区别在哪,区别在哪,好,他做的事是带着几个团队成员,从第一性原理出发,他们看了这个问题,然后说,好 第一个季度,我们就是派那些非常贵,非常聪明,斯坦福毕业的产品经理,去见客户,跟客户聊,收集反馈,你的需求到底是什么,你怎么用Salesforce之类的,这就要花整整一个季度,那个季度结束的时候,我们那些出色的,聪明的产品经理,带回来一份六七十八十页的,特别漂亮的报告,把全部需求写得清清楚楚,所以你整个季度都被卡住了,所以可以肯定,你做不到阿姆达尔定律,你没法把它压缩到比这更短,然后写代码开始了,但我们得测试这些东西,测试需要你搭好Salesforce Workday NetSuite 但这些都不是Databricks的软件,所以我们不太擅长这个,那要花很长时间,而且在Databricks 很难找到人来做这个,所以那又是一个,要花很长时间,才能搭起来的过程 而且特别容易出错,所以我们那个也做不了,然后我们每个链接器,只有一个人负责,他们去度假了,生病了,你知道诸如此类,所有这些,所以他做的,就是从第一性原理出发,去看这件事,然后说,我们要把这一切,全部重新布线,很多人不喜欢这样,他们对此很不满,但他说,产品需求,我们不用一个季度,就花一周时间,快速把手上有的东西,写下来,我们可能会搞错,但因为软件跑得这么快,对吧,我们可以再重写一遍,对,所以让我们更快地迭代,至于搭建Salesforce实力,我们外包给,能帮我们做的公司,我们多付点钱,他们并行去做,这样我们也能把这块时间压缩下来,然后一个连接器配一个人,我们改掉这个做法,我们安排七个人,七个连接器,然后他们所有人一起协作处理所有连接器 这样就不会出现所谓的公交车因子为一的情况,如果有人被公交车撞了,整个项目不会停摆,对吧,所以对,就这样,一个季度内全部搞定,七个连接器都交付了,但这跟AI 通用人工智能 更聪明的模型,超级智能或者巨型模型,其实没什么关系,就算你有下一个GPT-7 或者Opus 6 也不会帮我们做得更好,我们需要做的是那些改变,对,而这本质上是一个,人类层面的重构问题,以及流程变革,所以这就是全世界,正在经历的事情,所以如果你想成功,这就是你需要做好的事情,有些人做得更好,有些人则不然,汉米尔顿赫尔默,其实经常谈到这一点,所以对于所有选择作业第一题,想当投资人的同学来说,汉密尔顿,荷尔默的书,是关于流程优势的必读书,我们之前就在讨论这个问题,阿力,如果你有100美元,投到Jensen所说的五层技术站,能源 芯片,基础设施,模型和应用,价值会沉淀在哪一层,如果你把100美元投进能源,芯片,基础设施这些的指数里,假设是长期持有,你会投在哪里,你会怎么分配这100美元,我是计算机科学家,不是投资人,我不给投资建议,但是,但你在分配,你确实在,如果我有100美元,就当是闲钱 Databricks 时刻,对吧 Databricks 横跨其中三层,对,我只想说,你看,很明显,应用层会是赢家,对吧,所以我会投在最上面,这有点像,我可以给你一些猜测,但谁知道呢,真的很难预测,所以你得有点那种,我会投早期,我会有一个种子策略,我会投很多很多创业公司,大部分都会看错,但只要有一个真诚了,那就是下一个谷歌之类的,但你知道1990年那会儿 我2000年代初读博士的时候,我做的是网络领域,网络当时是最酷的方向 [02:29:55]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

网络当时是最酷的方向

Apoorv Agrawal:网络当时是最酷的方向,是最前沿的东西,因为互联网就像,你想不想搞这个,当时互联网是最大的事,而互联网上最酷的东西就是网络,也是最难的问题,当时最聪明的数学头脑都在搞这个,我们都知道未来会是什么样,未来所有人都知道,大家要解决的最重要的问题,就是所谓的主播问题,就是对你看,问题在于今天没人知道那是什么了,我们显然错了,主播就是你想从一个源头广播,比如说一场足球赛,或者橄榄球赛,或者篮球赛播给全世界,因为所有人都想同时看,我们不知道怎么高效的解决这个问题,所以全世界最聪明的头脑,都在试图攻克这个问题,而且贷款很稀缺,我们做这个的时候顺便说一句,我们其实你知道问题选的还不错 我还为此创办了一家公司,我们有一个很棒的解决方案,不幸的是贷款的成本暴跌了,他们铺了太多光纤,以至于这个问题根本就不是问题了,所以根本没人需要买这个软件,所以那完全是浪费时间,那时候我们觉得最难的问题,最值得研究的东西,是四颗路由器,路由BGP 边界网关协议,互联网协议,还有你知道QoS服务质量那一类东西,那些才是最有趣的,因为我们当时对互联网有隧道事业,那互联网是什么,当时就是互联网协议那些东西,其实根本没什么应用,所以我们全都盯着那上面,而今天要我说,大家全都盯着,我觉得芯片还有基础设施,我觉得现在最火的新东西就是,英伟达 OpenEye Anthropic DeepMind 这些就是大家全都关注的东西 GI 超级智能,这就是我开头说的,但互联网上真正活起来的是一些特别奇怪的东西,真正活起来的怪东西,是出租车生意,也就是优步,或者卖书,那是最没劲的事了,但那个变成了亚马逊,又变成了AWS 你懂吧,或者把卧室租给别人,那就是爱比营,再或者给人发短消息,变成了推特,你懂吗,这些要是你在2000年那么说,人家会觉得你疯了,你脑子有问题,你在胡扯,但那些才是当时最了不起的想法,那些才是真正做起来的,所以我觉得这里也是一样的道理,随便举几个例子,医疗大概占美国GDP的17% 我们所有人很不幸,最终都会死,而且我们都在乎自己的健康,也在乎亲人的健康,我觉得这里面有巨大的空间,我们有这个付费意愿 为了救人性命,救亲人,救自己,解决自己的健康问题,我们什么都愿意付,而今天这块做的并不好,意外吧,真意外,医疗这行,确实不怎么样,想象一家公司,它见过十亿个病人,就像说我见过一亿个,和你基因构成类似,未来可能遇到同类问题的病人,我能帮你,那你愿意为我的帮助付多少钱,那可能是一家价值数万亿美元的公司,再说一个,大家觉得没什么意思,不值得一提的领域,教育,教育,其实在风头圈里,共识一直是,教育是个很糟糕的投资,对吧,我们总听人说,我永远不会投教育,你知道最后一家上市的,这类公司是什么吗,对,上一家万亿美元的教育公司,是哪家,连一千亿都没有,对,对,什么都没有,对吧 但是大多数人都有孩子,而且孩子还在不断出生,而且他们确实得接受教育,不管人们信不信,而且人们其实真的在乎,自己孩子的教育好不好,选举的胜负就压在这上面,这里面有文化层面的问题,比如你允许教我的孩子什么,不允许教什么,对吧,选举的胜负就压在这上面,不是因为这是个无聊的话题,而是因为它真的重要,比如你教我的孩子什么,这很重要,我的孩子是被洗脑去做对的事,还是做错的事,还是说他们能不能具备足够的能力,去拿到未来的工作,我觉得如果有一家公司,能用AI提供出色的教育,我想很多人会愿意为此付费,而且如果事实证明,他比他们现在得到的教育做得更好,这只是我觉得一定会存在的,两类显而易见的公司,他们有可能成为万亿美元级别的公司 如果做得好,他们会有数据优势,他们会有规模经济优势,这些市场里有赢家通吃的动态,至少在各国各区域内部是这样,所以我觉得价值会向头部集中,我们等不及那一天到来了,你会反驳吗,不会,我觉得你看,我写过很多这方面的东西,一直在等这个时刻,就是我说的那个蓝色三角倒转过来,不知道你有没有看过这个,基本上就是说 AI领域所有的钱都集中在一个人手里,所以这就是为什么黄仁勋整天都那么开心,你知道的,这些人在为美元抢破头,那边基本没什么钱,这边钱也很少,我的意思是,这边确实有人赚到一些钱,所以走着瞧吧,但这是个赌注,赌的是,这个东西会变得更可持续,对,会往那个方向走,我的意思是,硅谷,科技圈,技术圈里的所有价值,一直都在往技术站上层走 你看那些最伟大的公司,比如造出个人电脑的IBM 当年市值登顶,所有价值都堆在那,但后来那层被商品化了,价值就跑到它上面的软件层,也就是操作系统,还有微软那类公司,诸如此类,然后你知道,就在斯坦福这儿,其实也就是20年前 VMware 就是怎么把内层软件虚拟化,内层也被商品化了,然后你知道,它就一直在往技术站上层走,这里也会是一样,就是这样,绝对,而且你知道,推动这层商品化的一个大力量,你也讲过,就是开源,开源已经做得相当不错了,这条蓝线就是开源,差距正在缩小,这大概多久,三四个月吧,现在这个差距,大概就一个月了,但即便如此,人们还是在这些前沿模型上,砸那么多钱,大家都迫不及待,想从云上拿到4.7 或者从GPT拿到5.5 但与此同时 还有一整片非常好的,开源模型生态,你怎么看这一切,一边是Anthropic那边的人,现在一年能赚个300亿,或者可能400亿,可另一边,这些开源的东西,几乎等于免费,当然托管费还是得付,你觉得这事最后会怎么收场,那一层模型层,专有的模型层,还能积累出价值吗,不我觉得它会有价值的,而且我觉得人们会想要它,不管是不是开源,这个先放一边,我觉得会出现一些Token工厂,专门把这些东西提供出来,就像云一样,我觉得说你们每个人,家里都会有自己的小型数据中心,这种想法挺傻的,你会自己在家跑自己的电脑,插上自己买的GPU卡,然后自己跑这些模型,在手机MacBook或者边缘设备上,有一部分可能确实会存在,它会走到边缘去,但我确实觉得,会有大型集中式数据中心,来做这件事,不过我们还没聊到 他们跑的是开源模型,还是专有模型,这里有个有意思的事实,中国公司Munshot 发布了Kimi 2.6 很棒的模型,两天前还是三天前,周二,对周二,所以两天前,不对三天前,两天前他们发布了2.6 1月份他们发布了2.5 这里有个有意思的事实,周二发布的这个2.6 是人类历史上迄今最好的模型,不管前沿还是非前沿,如果它是1月份发布的话,但开源会一直存在,而且会带来定价压力,而前沿模型这门生意,提供前沿模型这个核心业务,会变成一场规模经济的游戏,你得用很薄的利润去做,就像亚马逊卖书的生意,未来就会是那个样子,所以做这件事的人不会太多,就像亚马逊一样,毛利率会非常低,营业利润率也会很小,这是我的看法,对 我也这么觉得,收尾前三个快问快答,你每天都会用的,最喜欢的AI产品是什么,我不知道,这题有点难,我是说这些我都在用,其实我挺喜欢Cursor的,我知道大家都爱Claude Code 我喜欢它的DIFF展示,还有它的工作方式,所以编程的时候,我基本是这些混着用,我还是挺喜欢它的 Mask收购之后,你还在用吗,不,我停了,不,那当然,我猜是因为,你担心通过Cursor 会失去对 Anthropic和OpenAI Token的,访问权限,对,对,听好的,很棒,好,好,真是个好支持者,说实话,我确实在用 Databricks的 Genie产品,这是实话,因为,你知道,其实在Databricks内部,我大部分决策,本质上,都是数值和量化性质的,比如,我们该不该做这个 这个的ROI是多少,那个的成本是多少,这会花掉我们多少钱,所以我需要能理解,数值数据和时间序列数据的东西,而Gini在这方面真的很擅长,所以那确实是我经常,非常频繁会去用的东西 Databricks的未来,你做这行差不多15年了,你对Databricks未来 10年的愿景是什么,我觉得软件的成本在下降,所以进入壁垒和转换成本,也在下降,所以某种程度上会有SaaS末日,但并不是所有软件都会死掉,我们很乐意参与其中,干掉一些软件,对对对,对在座即将做出职业决定的学生,有什么建议吗,有,我觉得别被那些散布恐慌的话吓到,别压力太大,放轻松,我觉得吧,我在2000年代初期读博士的时候压力特别大,当时感觉互联网还有各种事情 好像世界末日要来了似的,而且你知道,我们都在研究 [02:39:54]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

我们都在研究

Apoorv Agrawal:我们都在研究,我们公认最重要的问题,就是主播问题,你们谁都没听说过,结果它根本不算个问题,但我觉得有意思的是 2000年的时候,我们已经有互联网了 2009年爱比营才成立,对吧,但爱比营没道理,非得2009年才成立,爱比营本来可以更早成立,我跟你们说过这个观点,爱比营2001年就能成立,当时并不需要世界上,再发生什么别的新事情,对吧,爱比营2001年就能出现,就能颠覆酒店行业,可偏偏过了九年,才有人想到这个点子,那个人就是布莱恩,而且布莱恩也不是坐在那上斯坦福德克,琢磨什么案例研究项目,布莱恩就是自己需要个住的地方,对,他在某个会议上心里想,这怎么这么难,我自己刚解决了这个问题,所以想出那个好点子花了九年时间,所以我觉得好点子其实特别难想出来 我觉得人类特别不擅长想出伟大的点子,而且我们会有这种隧道视野,盯着错误的问题不放,就像我早年在主播上做的事一样,我的博士论文真的很蠢,所以放轻松,把眼光放长远,去做那些你觉得长期会有好影响的事,我觉得杰夫·贝索斯,在华尔街做投行的时候,就做得很好,他说,嘿,把镜头拉远,眼下正在发生的大事是什么,是互联网,然后他说,嘿,咱们就在互联网上,下一个长期赌注吧,互联网会越来越多,所以它会随着时间,慢慢颠覆很多东西,然后他说,好,那从长远看,购物是不是能更多地搬到网上去,也许现在还不是时候,然后他就从最不起眼的东西开始,他非常低调,从你能想到的最笨,最不性感的东西入手,那是个完全同质化,看起来一模一样 毫无差异的纯商品,就是书,他就从那起步,他就压住在那个长期趋势上,每过一年,这个判断就越来越对,到现在,它已经覆盖了地球上的一切,成了万物商店,所以要像那样想长远,别被眼下最酷,大家都在推特上,吵得沸沸扬扬的东西牵着走,因为那很可能就是又一个主播,太好了,好非常感谢大家多留了一会儿,谢谢你,阿里,大家好,很高兴再次见到你们,新一期的AI超级周期经济学,这次请到的是卡提教授,欢迎回来,欢迎回到斯坦福,谢谢,我在想怎么介绍Carty教授的时候,觉得没有人比他更合适了,他从电子,整个底层基础设施,一路看到agent 全都经历过,你早年创办了一家网络初创公司,你当过英特尔的首席技术官和AI负责人 你现在在OpenAI负责工业计算,谢谢,感谢你来做客,谢谢,对我来说算是回家了,欢迎,欢迎,欢迎,欢迎,我想我们可以开个有趣的环节,英特尔花了大概十年时间,想让所有人相信,他们是一家AI公司,这事终于成了,他们终于在最近这两周做到了,发生了什么,我跟你说过吧,这就是我的工作,就像Bob提到的,我在11月离开英特尔,加入PenAI之前,是英特尔的CTO 同时也负责他的AI业务,所以对是有点滞后,但你知道,这就是做预测的人的宿命,不过说真的,我觉得英特尔的故事正在转向,要我说有两个因素对英特尔是很大的顺风,一个是全球供应严重受限,所以任何在这个领域有正经制造能力,能造而不只是能设计的公司都会吃到顺风 而英特尔显然是美国剩下的唯一一家,还能制造芯片的领先级公司,另一个当然就是随着我们开始用agent的方式,使用AI CPU正在卷土重来,这个我们待会可以再细说,所以这两件事对英特尔来说,显然都是非常好的,但还有很多执行要做,我是说市场总是跑在故事前面,但希望一切顺利 Lipu是个很棒的CEO 我很喜欢和他共事,所以我觉得这些都是值得期待的好事,太好了,我敢肯定,你的离职跟股价走势图,一点关系都没有,这两者不相关,我还留着我的股票呢,所以别担心,干得漂亮,好,我们接下来会深入聊聊CPU的角色,以及算力供应链的各个不同环节,第二件我想花点时间聊的是 OpenAI发布的一张图表,今年年初的时候 OpenAI的首席财务官Sarah Fryer 写了一篇文章 讲的是OpenAI的算力雄心,左边你可以看到,是OpenAI过去三年的算力规模,这是OpenAI到本十年末的目标,而且Satchin看起来挺神奇的,这个算力规模,好像跟我们的收入高度相关,如果真能实现这个目标,会意味着什么,不用猜也知道,对,简单聊聊这张图吧,这里到底是怎么回事,我们应该怎么理解它,好,在OpenAI 我负责工业计算,在回答这个问题之前,先简单交代一下背景,我和我的团队的工作,就是为OpenAI交付,它所需要的全部算力,覆盖方方面面,包括训练和推理,这张图就是我每天吃饭睡觉,都在琢磨的东西,你在让数字往上走,对,我的工作就是让数字往上走,往右走,对吧,这就是我的工作描述,但说正经的,我觉得就像你指出的 对前沿实验室公司来说,收入基本上是个滞后指标,我的意思是,它基本上就是一个很简单的计算,我们有多少算力,算力利用率有多高,对吧,过去三年已经印证了这一点,每年我们的算力都翻三倍,一年又一年,对,收入也翻了三倍,我们还没看到这种相关性有到头迹象,我觉得光是5.5发布,以及它的采用速度就能说明问题,我的意思是Codex在5.5发布后的两周内,可能就实现了可观的两位数增长,我觉得人们不再只用它来编程了 Codex现在被用于通用知识工作,所以词源使用量在涨,被消费的任务也越来越复杂,所以我们本质上就是,在追踪我们有多少可用算力,有多少用户,有多少词源,收入基本上就是跟着这些走的,我想说展望未来 我们OpenAI仍然是一家研究实验室,我这么说的原因是,它绝不仅仅是我们能最大化多少收入,这么简单,更重要的是,我们怎么把尽可能多的算力,变成可能用来支持研究,对吧,这样研究人员就能不受约束的去探索新想法,新模型,以及推动智能前沿的新方法,所以这里的三十几瓦数字是一个远景目标,它是在研究和产品之间分配的,但按照我们目前看到的趋势,我们绝对不认为会出现算力用不上的情况,在我们继续之前,我快速追问一个问题,训练和推理之间的大致比例是多少,这个比例随时间是怎么变化的,你预计它未来会怎么走,我觉得是缩放定律,对吧,显然最初大家都认为,缩放定律只适用于预训练,现在发生变化的是 缩放定律已经扩展到覆盖算力的整个生命周期,我的意思是包括预训练带强化学习的后训练,这主要是推理负载还有合成数据,因为我们已经用完了真实世界的数据来训练模型,所以我们在生成数据来训练模型,这主要是推理负载,然后当然还有实际的产品本身,每个人都在用ChatBD和Codex 这也是推理负载,所以越来越往推理倾斜,说清楚推理其实已经是多数了,但推理也不应该被理解成只是产品,很大一部分研究,很大一部分训练下一代智能的工作,也是推理,所以这就是为什么我们预测,未来绝大多数,大概80%以上,本质上都将是推理算力,接着你的回答再问一句 Sachin 如果推理用量占总量的比例,随时间上升,那么美元密度 也就是每GW对应的美元收入,是不是也会上升,因为推理本质上才是你能变现的部分,我们希望它下降,每几瓦对应的美元,因为这玩意很贵,每几瓦大概要,我说的是变现,抱歉,对,对,对,我觉得,对,肯定的,对吧,随着消费的token越来越多,收入应该会相应增长,但与此同时,我们的使命是让token更便宜,对吧,这是两个不同的维度,一个是让每个token更便宜,让每个Token更智能,再让每项任务所需的Token数量更少,对吧,所以我们从三个维度发力,持续改进硬件和软件,让Token生成的更便宜,我们持续提升模型能力,确保每个Token都更智能,对吧,我们还在推Codex这类工具的难度 让任何给定任务所需的Token数量更少,对吧,这就是公司运营的一个非常根本的原则,原因当然就是我们怎么确保所有这些智能尽可能广泛的触达所有人,那么正如你所说,你的工作就是让这些数字往右上角走,说到预测,说实话,我不羡慕任何要做这种规模下每年翻三倍预测的人,看起来不只是预测,这活本身就很难,预测其实比真正把它做出来要容易,你这么觉得,跟我们讲讲你的工作吧,最难的部分是什么,是找算力吗,还是确保拿到算力,你现在是怎么确保算力的,感觉像是一场混战,那瓶颈在哪里,是电力吗,是能源吗,是芯片吗,是土地吗,还是说,以上全都是确实 我觉得你想想算力的整个生命周期,对吧,首先,显然是要找到算力,而算力这个词涵盖的范围非常广 [02:49:51]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

而算力这个词涵盖的范围非常广

Apoorv Agrawal:而算力这个词涵盖的范围非常广,说到AI的算力,你其实得考虑芯片,内存,网络,电力,冷却,数据中心建筑,发电,配电,当然还有土地,所有这些加起来才算算力,对吧,所有这些都得凑齐,才能建起几瓦级的算力,对吧,所以当我们说采购的时候,我们采购的不是算力本身,我们采购的是整条供应链,并且要确保在这个规模上,我们能看清供应链里每个部件从哪来,这是很大的一块,第二块是怎么协调这条供应链,让所有东西同时到位,对齐,让算力真正运转起来,对吧,一个几瓦大概是50万块GPU 对吧,所以那是,当你说的是六几瓦,还是十几瓦的时候 你面对的是数量非常庞大的芯片,要连成网络,供电,冷却,保持运行,还要确保其他所有该凑齐的东西都在,所以很大一部分工作,其实是在签完合同之后才开始的,比如我怎么确保供应商,真的能交付他们承诺的东西,我们怎么设计这些系统,让他们在这个规模上协同工作,又怎么确保它在运营上真正可用,就是说它得跑起来,而且以我们能达到的最高性能,去跑这些芯片,今天的芯片非常脆弱,对冷却和电力波动非常敏感,它们会很快降频,减少你能用的算力,能跑的浮点运算次数,所以那才是真正的工作,签合同那部分是好玩的,难的是签约之后的一切,对,要拿到签名,你肯定知道 现在是一个非常关键的时刻,我想你现在做的很多决定,都会影响我们和所有算力使用者,也就是几十亿人,影响很多年,甚至几十年,你现在做的最大的取舍是什么,你现在做的哪些重大决定,将来会成为可以讲的案例分析,我觉得是,这些决定有很多社会层面的影响,对吧,举个例子,如果你在佐治亚或密歇根这样的地方,建一个几瓦级的数据中心,它对电网的消耗是相当大的,对吧,那么大的电力,而且跑大型训练任务的时候,这些任务是同步的,对吧,它们的强度会同步的上下波动,所以你会在电网上看到能量波动,很快就能达到几百兆瓦,我们的基础设施从来没为这个设计过,电网可能会直接崩溃,整个州都可能停电,就看这些数据中心怎么运行了,对吧,所以我们花了很多时间思考 怎么设计这些系统,才能不对国家其他基础设施,造成这些附带损害,这就是正在被重新设计的,那类事情的一个例子,对,我们显然也花了很多时间思考,怎么降低供应链的风险,对吧,那我们怎么把晶圆厂搬走,怎么把内存工厂搬到世界其他地方,怎么脱离电网能源,改用天然气,未来越来越多用核电,所以我觉得这会催生一批,基础设施投资和创新,整个社会都能受益,不只是AI 因为这些事情原本没有动力去做,然后显然 AI本身带来的各种影响,三十几万可不是小数目,对吧,但我觉得我们的愿景是 Sam也讲了一段时间了,我们都习以为常的认为,每个人都该有一部手机,每年或每两年换一次,那想想每个人都该有一块GPU 也没那么离谱,对吧 一块GPU现在大概是1000瓦到2000瓦吧,全球有70亿人,那就是7太瓦的算力,对吧,这比我们刚才说的数字高两个数量级,所以如果你真相信那个世界,那我们还差得远,对,也许可以帮我们建立一下参照Sachin 美国整体能耗跟30GW比是什么概念,我一时想不起具体数字,但我觉得美国这边,如果把所有超大规模云厂商加起来,计划建的大概是一百几瓦的算力,明白了,除了OpenAI之外,我们三十几瓦,其他各家,再建各自的,你看到过谷歌的数字,亚马逊的数字,一百几瓦可能已经占到,电网的五分之一甚至更高了,所以这会消耗美国电力产能的,两位数百分比,影响市场了,这会改变市场,对吧,我觉得把能源单纯看作 仅供人类消费的那种想法,已经不再成立了,对,你知道,最近有个传闻一直在传说 OpenAI相比其他实验室,有显著的算力优势,班上的同学们对OpenAI和Anthropic 是同等喜爱的,差不多吧,我们在做投票吗,我们投过了,答案先不告诉你,回头我再跟你说,不过还是聊聊算力优势吧,能分享多少就分享多少,这给我们带来了什么,它让我们能做什么,你知道,假设预测是完美的,它能让我们为OpenAI的用户,做些什么,交付些什么,你看到了吧 5.5是个很大的模型,服务成本很高,但没有任何限制,对吧,所以每个人都能去用,没有token限制,在订阅里,你能拿到的token数量,我们给的大方的多,我们经常,几乎每天或每周,都会重置限制,让大家能更尽兴的玩,对 这就是算力优势,在日常使用中的体现,对吧,所以这又回到了之前那个观点,也就是要确保我们有足够的算力,把这种智能大规模的分发出去,而不只是把智能构建出来,如果你把智能构建出来了,却没法大规模交付,那也没用,对,所以我们确实花了很多时间,确保这不只是关于训练,对,而是真正可用的算力,能不加人为限制的大规模交付给每个人,绝对,这门课已经感受到的一个影响是,我们向两家实验室申请了Codex 和一个未具名产品的订阅 Codex团队很快就给了我们,所以我现在明白为什么会这样了,我们稍微换个话题 Suchin Codex和类似Codex的工具,有很多不同的东西需要整合在一起 GPU 各种ASIC CPU 内存网络 所有你给我们梳理过的那些东西,也许先从相关的工作负载说起,现代的智能体工作负载长什么样,它随着时间是怎么演变的,我想也许先给答案定个框架,对吧 ChatGPT显然是一个巨大的转折点,但如果你回想ChatGPT刚起步的时候,它其实就是一次性推理,你问一个问题,它给你一个及时答案,然后就结束了,然后你继续做下一件事,我觉得2024年最大的创新和突破,是推理能力,对,而且不只是推理,训练也一样,对吧,就是让模型能够自我审视思考,从而给出更好的答案,这又进一步提高了推理的强度,对吧,所以推理发生的次数越来越多,但我觉得他们仍然是被动的东西,对吧,你问一个问题,他们给你一个答案,他们不会替你采取任何行动,对吧 所以agent这个词就概括了我们的意思,它有自主性,它有自主行动的能力,对吧,我的意思是,当我们谈agent时,关键是要闭环,不只是思考和建议,还要去尝试看输出迭代,然后用改进后的答案去完成任务,对吧,不管是编程,还是其他任何形式的知识工作,所以核心就是闭环,对吧,它真正交付了我们期望AI带来的全部价值,对吧,不只是当个助手,而是真正成为一个能闭环,替你干活的agent 这背后当然包含推理和思考,但就像我说的,还有尝试,对吧,他会去找相关数据,他会去搜索,他会去启动一个虚拟机,来跑测试,如果他生成了代码的话,他会打开Excel或PowerPoint 试着做几张幻灯片,看看效果怎么样,对吧,然后他会看输出,思考一下,再迭代改进,对吧,所以对计算图来说,现在的计算图要复杂的多了,如果戴上计算机科学的帽子,想想聊天机器人的世界,那是一个非常简单的计算图,有一个用户,有一个节点,就是推理调用,然后有一个答案,对吧,推理是多个推理调用节点,现在我们有了一个更直接的循环图,如果要用更精确的技术术语来说的话,你有一个推理调用,可能有一个工具调用,可能有一个数据库,或搜索查询,可能启动一个强化学习虚拟机环境,然后再回到推理调用,如此循环往复,所以你要执行的计算图,现在复杂的多了,对吧,这自然就需要更复杂的计算基础设施,来执行这个计算图 在如何分配这个计算图,在哪部分图上运行什么,需要更多的智能,所以计算本身,但更重要的是,工作负载朝这个方向发展,会改变我们对计算基础设施的思考方式,有意思,你列出了沿途的一堆不同步骤,我能想象其中一些部分,对不同的机器更相关,比如GPU 其他部分对CPU和ASIC更相关,是不是正在出现一些工作负载集群,特别适合某种工作负载,你可能会说,因为达的GPU最适合那个,你可能会说Cerebral芯片,最适合这种工作负载,因为你知道Agent有各种不同的形态和规模,有客服聊天机器人这类场景,延迟是首要需求,而深度研究查询恰恰相反,要的不是延迟,而是准确性和广泛搜索,对,在你看来 现在是不是正在形成不同的集群,绝对在形成,也许可以借一张幻灯片来说明,对,这就是我之前讲的那个东西,这张图算是一种可视化方式 [02:59:50]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

这张图算是一种可视化方式

Apoorv Agrawal:这张图算是一种可视化方式,展示一次典型agent的调用力,到底发生了什么,我记得这是我做的一张半开玩笑的幻灯片,今天你去看agent 对吧,你给他一个任务,他就自己去跑,想一会儿试一堆工具,然后你就得切换上下文,你转头去干别的事,因为它可能要花几分钟,甚至几小时才能完成,对吧,你已经走神了,你走神了,然后等它回来找你给方向,或者做决定的时候,你又得把那些上下文,全部重新加载回来,然后再做你该做的事,对吧,所以我们的愿景是,让人类成为平静,对吧,今天AAI才是平静,因为执行所有这些,要花太长时间,对吧,说真的从算力角度看,我们算是成功了,当我们把系统和基础设施建好,让人类成为瓶颈的时候 才算真正成功 AI完成这些事的速度快到让你不断被追问,下一步是什么,这是个半开玩笑的说法,但更准确的说法是,我们怎么确保人类处于心流状态,当他们和AI一起做这些工作的时候,对吧,那种心流的感觉就是一切都那么快,那么互动它好像完全知道你需要什么,而且能快速搞定,这就是我们想交付的那种用户体验,对吧,所以当我们思考这个未来时,我们确实需要异构计算,你没法纯粹靠基于GPU的计算,经济地提供这种体验,所以你需要一个异构程度高得多的基础设施,不只是GPU和CPU 还要有不同类型的加速器,比如Cerebrus就是一个例子,它面向极快的推理,你可能还有其他加速器,专门为超长上下文打造 比如他们在内存里保存大量状态,这样就能记住你的整个任务,不用反复换入换出,所以所有这些,比如说那可能很有用,编程场景肯定是啊,对吧,他们把你的整个GitHub项目,都放在上下文里,而且能非常快的调取,所以你会看到底层基础设施,出现越来越多的异构性,因为用户体验会推动我们去优化,智能体计算图的每一个环节,而我们这些负责构建算力的人要做的,就是确保能把工作负载的合适部分,匹配到合适的算力上,在效率和性能两方面都做到最优,对很有意思,这里稍微脱了一下脚本,跑个题,昨天是大日子,四个财报电话会,很多超大规模云厂商都在谈他们的加速器项目,亚马逊尤其突出,他们的Trainium芯片年化收入,大概到了500亿美元 我忘了那个字母加数字的型号名,但那个数字更大,当然还有巨头英伟达,如果你画一张市场分额图,现在看起来明显是英伟达占绝对优势,我刚肯定还有各种其他ASIC 甚至还没见到光呢,我们是不是可以预期,当然英伟达的表态是,我们会搞定一切,其他家的表态也差不多,你觉得这个趋势会怎么走,除了主力选手之外,有没有哪一两家是你特别看好的,这个我就不回答了,对吧,不过说正经的,我觉得世界需要一个,更有韧性的算力供应链,我觉得世界在任何一个单一组件上,单点依赖都是危险的,对吧,所以我觉得市场反映的正是这一点,对吧,所以我们会看到相当多的选择,而且工作负载本身也会推动这一点,因为工作负载已经比单纯的GPU推理,或训练任务复杂太多了,对吧 所以这会带来灵活性,还有另一个被低估的点,我不知道大家会不会都意识到,台积电分配晶圆的方式,意味着市场上必须有多家GPU和加速器厂商,展开讲讲,我觉得台积电之所以极其成功,是因为他们努力确保多个客户都能成功,而且这符合他们的商业利益,因为他们不想在任何一个大客户上单点依赖,而台积电正是供应链里唯一的瓶颈,所以从那些晶圆的分配方式来看,会有多家公司在那里拿到晶圆,所以从定义上讲,芯片的种类就会有很多种,而且就我们讨论的这个规模,我们任何一家所讨论的规模,谷歌亚马逊,我们不管是谁,从定义上讲,我们都必须学会使用所有这些芯片,因为没得选,对,对吧 所以这就是为什么我认为,未来的世界会丰富得多,有意思真有意思,那个另一个维度 Sachin 就是训练,训练工作负载的形态,正如你说的,是相当同步的,它通常是协调一致的,你需要一个连贯的集群,它同时一起往上走,而推理,另一方面,看起来就不是这样,它可能波动更大,也许更难预测,而且随着这种情况的变化,你甚至可能希望,把更多算力,放到更靠近边缘的地方,以最小化推理延迟,稍微谈谈这个,你怎么管理你的算力形态,在知道我们正走向一个,推理密集的世界的情况下,这是否意味着,更分布式的,几乎像Cloudflare 那样的小型集群,更靠近边缘,还是在德克萨斯或弗吉尼亚,搞一个巨大的集群就够了,会走到那一步,但还不是现在,原因有两个 一个原因是建造这种算力,规模仍然能带来巨大的好处,所以在一个地点建50兆瓦的算力,每兆瓦的成本远比建一个几瓦的算力要高得多,有意思,按单位来算,按每兆瓦来算,明白了,对吧,这背后有很多原因,对吧,如今劳动力是全球的一大瓶颈,尤其是在美国,我们就是没有足够的人手去建这些东西,所以要凑齐建设所需的关键人力规模,你宁愿集中在一个更大的项目上,而不是分散在全国各地建一堆50兆瓦的小项目,所以我觉得这会推动经济性往这个方向走,另一个技术原因是,这些模型的工作方式,尤其是对于智能体工作负载,手token延迟仍然在400到500毫秒的量级 因为他们在生成第一个token之前,必须先把所有这些上下文加载进来,所以400到500毫秒,远远大于你把算力放到离用户更近,所获得的任何颜值收益,明白了,对吧,所以对我来说,这也意味着我们会朝着更集中的推理,算力集群方向发展,在一段时间内仍然如此,等我们找到方法,把非常智能的模型征流成小巧的形态,可能就能在离你更近的地方运行,到那时这种情况才会改变,明白了,但目前来看经济上并不划算,明白,接着往下问,你能把那500毫秒拆开讲讲吗,从我们在ChatTPT上按下回车键那一刻起,这通调用里各个部分分别占了多少,如果要把这500毫秒分配一下,谁在消耗这些时间,每一层各分到多少预算,要我说最后那几毫秒甚至还没算上 你刚才提到的那些其他部分,但举个例子,你在Codex上问一个问题,它是在跑一个项目,对吧,它会把你的提示词拿过来,跟你的代码库合并在一起,对吧,这就是那个模型的全部上下文,这里稍微讲点技术细节,推理的预填充阶段,基本上要把整个上下文都跑一遍,那可能有几百兆字节,比如我们的Codex模型,现在有400K上下文,对吧,所以有400K个Token 这400K个Token 得先通过注意力机制算完,才能生成第一个输出Token 对吧,所以基本上就是,在吐出第一个输出token之前,得先把跟那个任务相关的,所有上下文都分页,加载进模型里,对,所以那几百毫秒的延迟,就是这么来的,在那之后,你还可以加上别的东西 对吧,这是预填充,第一部分是,预填充,这是预填充,在那之后,你可以加上其他延迟来源,比如可能只是你的应用本身,把你的提示词转成token 发送到云端,再负载均衡到合适的GPU上去跑模型,所有这些加起来,可能也就增加零点几毫秒的延迟,所以我才说,手Token生成延迟,比其他所有延迟来源都高,但有个有趣的副作用,今年早些时候,我们引入Cerebras并上线之后,它生成Token的速度快太多了,以至于系统里,应用里 AP工作方式里的那些其他延迟,都开始变得显眼了,所以当我们改进站的某一层时,它逼着我们,实际上是把站里其他部分的低效,全都暴露出来了 我们不得不做大量工程来修复这些延迟,我们昨天刚为此发了一篇博客,我们不得不改造OpenAI的API基础设施,才能真正跟上Celerbras的速度,所以如果有人感兴趣的话,这里面有非常多精巧的软件工程,就是怎么在站的每一层把延迟消掉,这篇播客叫什么 OpenAI播客 OpenAI播客,对,好,所以这就像打地鼠问题,跟当年大家优化网页,加载时间差不多,对,在互联网上,对,我是说,我觉得延迟会是我们,重点关注的,非常重要的维度,对,有个说法是真的,没省下30或50毫秒延迟,就能带来更高的参与度,更高的收入,更多的关注,这绝对是真的,对吧,我觉得这会是所有人都要竞争的维度,有意思,很有道理 尤其是考虑到人脑的注意力只会往一个方向走,对,不会扩展,对,问你个好玩的问题 [03:09:53]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

问你个好玩的问题

Apoorv Agrawal:问你个好玩的问题,到目前为止,我们请的每位嘉宾都提到,算力是他们业务里最大的瓶颈,这大概是真的 AI社区有什么共识可能是错的,或者不够准确,而你有理由相信是被误解的,现在AI基础设施里最被误解的是什么,我觉得正在发生,但被低估的最大变化是,今天的系统非常简陋,对吧,我的意思是,我们有这些大型计算单元,连着单层内存,也就是高带宽内存,对吧,我觉得我们在通用计算领域,已经走过这条路了 CPU一开始也是类似的,对吧,然后他们加了多层缓存,又加了闪存,硬盘存储,各种东西,对吧,所以我觉得 i计算系统基础设施的演进,现在还处在非常早期的阶段,我们已经从非常简单的编程方式,走向了更复杂的阶段 我觉得底下正在发生的另一个大变化是 RI正在生成下一代AI基础设施,我的意思是,我们越来越多的用最新的模型,去设计下一代芯片,以及运行下一代模型所需的底层软件,所以可以说是地归,对吧 AI怎么去搞清楚,自己最需要什么样的芯片,系统和软件,才能最高效的运行,而不是像现在这样脱节,我们训练一个模型,别人独立设计芯片再交给我们,然后我们再想办法让它跑起来,那怎么加快这个节奏呢,基本上就是下一个模型在训练的同时,也在琢磨自己最想跑在什么样的芯片和系统设计上,我们离那个世界并不远了,有意思,地归算法可是最强大的算法之一,所以这看起来是个大胆的未来,确实我觉得是这样 但这可能也是唯一可行的办法,去扭转算力时间这条曲线,对吧,所以周期时间算力周期,就是说我们多快能把下一代所需的合适算力设计出来,并投入运行,对,而且正因为如此,否则我们就跟不上节奏了,如果让人类去理解,然后设计,然后再去执行的话,一个典型的芯片设计周期是三年,从想法诞生,构思芯片应该是什么样,到真正投入生产,就是三年,考虑到事情变化的速度,这太长了,对,三年,差不多就是ChatTBD刚发布的时候,是的,感觉像是很久以前的事了,简直是永恒,你知道,我们经常问嘉宾的一个问题,就是这张图,你知道,我们聊过 Jensen描述的那个 AI五层蛋糕,能源,芯片,基础设施 模型,应用,你横跨了全部五层,我们还在等博通和其他家的芯片,尽快到位,如果让你根据你所知道的一切,来给我们指个方向,这五层里哪一层,最有可能在长期积累价值,你会指向哪里,显然现在所有的钱,都在这个蛋糕的下半部分,会变的,对吧,我是说我觉得历史总是押韵的,你看移动革命那会儿,一开始赚大钱的是电信运营商,和那些建基础设施的人,对,然后利润往上走到了应用层,那些做应用的人,再然后往上走到了云服务那一层,我看不出这一轮周期,有什么理由会不一样,我们现在所处的阶段,利润就在基础设施层,但随着时间的推移,它会往平台和应用层走,所以这就是,我想说,这就是不可避免的周期,对,我们希望如此,看起来现在每一个应用 都在被OpenAI和Anthropic吞并,至少眼下是这样,所以我们一直在翘首以盼,在开放提问之前 Sachin 我有个快问快答给你,做多还是做空,选一家企业,选一家你非常看好的创业公司,你会做多它,另一边也一样,有没有哪家反事实的商业创意,或创业公司,你是看空的,我做多OpenAI 我用脚投票,不过开个玩笑,我们挺好的,不我觉得要我说,对在座各位来说,可能被低估的一点是,我会做多整个站,最底层的那一层,因为至少在美国,我们已经忘了怎么去建造非常基础性的基础设施,对吧,这涵盖方方面面,比如我们怎么大规模造变压器,怎么大规模造电池,怎么搞发电和配电,怎么搞冷却,怎么造进入所有这些系统的组件 那是基础设施力服务不足的一层,有意思,那一层的差异化优势也是可持续的,因为它既靠技术又靠规模,你要是建起来了,别人很难复制,所以要我说,这算是一个推论赌注,如果AI真会带来,我们想的那种变革的话,真的,推论赌注就是,这一整层都必须彻底改变,它现在的做法,所以对在座各位,尤其是职业生涯早期的人来说,我觉得,我以前在这里当过教员,你们有些人知道,待了15年,在工程学院和计算机系都待过,我眼看着工程专业的入学人数,在萎缩,尤其是占底下那几层,对吧,特别是关于怎么做晶体管,怎么做材料,怎么做那类东西,那些东西才是真正能撬动大局的,所以我强烈建议大家,做多那一层 好,我们班上有几位一系的学生,你在做空什么SARCHIN 你对什么比较谨慎,我们把问题难度降低一点,总的来说,显然我做空任何模型包装器,这答案有点老套,但也是事实,因为这东西变化的速度太快了,而且这些模型很快就能自我分析,搞清楚怎么交付结果,我觉得想只做一层包装,真的非常非常非常难,这不是说OpenAI或者Anthropic也一样,我们想包揽所有应用,我觉得整个应用这个概念,可能才是我会做空的,比如说它会是未来的用户界面吗,不好说,对吧,如果我们以结果的形式和计算交互,那真的还会是应用吗,我要这个结果,你去搞定,它今天应用只是实现结果的一根拐杖,对 用来抵达结果,对,所以那才是我会做空的方向,有意思,这非常有道理,第一家市值达到10万亿美元的公司,如果让你选一个的话,最简单的答案就是英伟达,对吧,对,我刚才还以为你会说OpenAI 你第一个说的那个,我希望我们肯定能到,但我觉得如果我们肯定能到,英伟达也能到,好,好,好,好,好,现在基础设施领域,最大的未解决问题是什么,你随便说一个,对吧,我觉得太多了,我会说单一的结构性问题,就是逻辑和内存的晶圆场产能不够,这是台积电的一层,台积电,三星,英特尔,然后是美光 SK 安尼克斯,三星,这是一个非常非常集中的市场,整个事情就单线程的压在一小撮公司身上 而且如果你再往下挖一层,可能就是ASML 对,对吧,所有这些都绕不开它,你都需要ASMR的光刻机,所以在我看来,这就是整个供应链上唯一的瓶颈,对,整个供应链的瓶颈,对,非常有道理,你其实已经回答了我最后一个问题,就是给学生的建议,如果你还有什么要补充的,我们很乐意听,不然的话我们就开放几分钟提问,请讲,感谢你来到这里,我的问题是随着我们一路看下来,你也提到了,这是一个非常庞大的,你觉得下一步的突破会来自哪里,因为我们还没有内存网络这类东西,短期到中期可能在于编排,软件 Harness 以及模型变得更次元高效,中期到长期,我觉得是新的内存架构,因为我认为计算单元,除非Transformer被重新发明 比如有什么东西取代了Transformer 你知道计算单元的形态是什么样的,对吧,说到底,关键就是计算单元周围的内存架构,是什么样的,这个一直在变,所以这就是我中场期问题的答案,请讲,那你后来推出了Stargate 英国项目,还有那些,这是其中一个决策过程,我觉得对我们来说 Stargate基本上就是我的工作,对吧,就是怎么把这些算力都交付出来,我们的看法是,考虑到我们谈的规模,一个GW就是700亿美元的投入,所以这些都是巨大的数字,而且运营上也是个大挑战,对吧,就像我说的,一个GW意味着要管理 50万个GPU的建设和部署,诸如此类,所以从根本上说,我看这件事的方式是,怎么确保它不只是个绝对数字,还要尽可能快的按时落地,所以我们方法里很大一部分 现在关注的是算力到位时间,而不是算力总量,这决定了我们在哪里加倍投入,这也是为什么之前那个问题里,我们倾向于更大块的集中式算力,因为不然的话,如果算力是分散在各处的小块,运营上我们很难让这些算力上线,请讲,我想问一下开放权重模型,显然模型在快速演进,问题的第一部分是,我觉得是X 第二部分是我想说保留那个观点,显然按照通常的方式参数少一些,所以需要的资源也少一些,我觉得显然开源模型在生态里是有位置的,前沿模型智能需要多几个数量级的算力,我觉得这一点不会变,缩放定律还在继续成立,所以我们会继续在前沿模型智能上投入,显然开放权重模型会努力追赶 试着征流那种智能,用更紧凑的形态交付出来,我们不觉得这有什么问题,但智能上领先六个月 [03:19:52]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

但智能上领先六个月

Apoorv Agrawal:但智能上领先六个月,是巨大的领先,对,所以我们看不出任何理由,要放缓对前沿智能的持续投入,太好了,各位我们今天就到这里,今天我们要聊的是,技术战里的这一层模型,以及怎么为更好的应用,打造更好的模型,今天的嘉宾是Yash Patil Applied Computer创始人和CEO 我非常高兴能请到Yash 不仅因为他是斯坦福的毕业生,而且是刚毕业不久,他会聊很多自己的经历,而且他是极少数从斯坦福本科毕业后,直接进入OpenAI研究院的人,加入了后训练团队,在OpenAI工作期间,他产生了一个洞察之后,离开OpenAI创办了Applied Compute 并且把Applied Computer 做成了非常成功的企业,把他在OpenAI学到的经验,用在了很多了不起的企业身上 Yash 谢谢你来做客,请入座,谢谢太好了,话筒开了 好谢谢邀请我来,谢谢你来 Yash 跟我们介绍一下你自己吧,你的经历非常精彩,对,而且你做过一些很艰难的选择,其实在你来之前,我们刚和这门课的同学聊了很多,关于学什么怎么选的问题,所以跟我们讲讲你的经历吧,好,而这一切把你带到了今天,对,那我就简单讲讲我的经历,其实也不算长,其实不久前,我还坐在这间教室里参加期末考试,我是25届的,所以离开校园也没多久,对,我是在德克萨斯州的奥斯汀长大的,后来来这里上学,我喜欢说,我在高中是个非常好的学生,但在这里我是个非常差的学生,不是说成绩不好,而是基本不去上课,看网课录像,就干这种事,然后快进一下历史,我在校园里折腾了不少东西 后来很偶然的通过一些共同朋友,认识了Sam Altman 关于Sam有一件事,我觉得没多少人知道,就是他特别愿意,在年轻人职业生涯,早期拉他们一把,所以,对,我就这么认识了Sam 我们在大一,暑假就很投缘,当时我和一个朋友在琢磨,嘿,我们是去做暑期实习呢,还是去做我们自己的项目,最后决定,嘿,我们去做自己的项目吧,我们推掉了实习,然后到处找钱 Sam 我们给Sam发了一封盲邮件,他给了我们一张很小的支票,大概就是购付吃饭和房租什么的,然后夏天就做那个项目,最后把它关掉,回到学校,所以夏天忙完那件事之后,我回到学校上大二,在校园里做了很多好玩的事,比如TreeHacks 给TreeHacks打个广告 那基本上是我在学校的头等大事,我真的很喜欢为同学们办那场黑客马拉松,但到了2022年底 ChadGBT出来了,我当时就是随便玩玩,然后我就想,天哪,这是我见过最酷的东西,我必须去搞,这个,我脑子里再也装不下,别的事了,所以我又给Sam 发了封邮件,说,嘿,我怎么才能来搞这个,他把我介绍给了,当时叫 OpenAI驻留项目的,那个计划,我记得他现在还在,其实OpenAI里,很多人都是靠这个项目,从学术研究员,或者别的行业的人,变成OpenAI的,全职员工的,我2023年初,加入OpenAI 进了后训练团队,跟一些我在原模型领域,特别特别景仰的人一起工作,一开始做E-VALS 给你们一个建议,加入任何公司,都去挑那种最棘手,没人愿意碰的活 因为大家会因此喜欢你,所以第一年我做E-VALS 到了第二年,差不多就是这些推理模型,开始冒出来的时候,当时大家主要拿竞争性数学,来训练这些推理模型,全公司都有种哇的感觉,我们想用这些模型,性能提升太猛了,所以我和一个朋友说,我们要是真把这些模型,用到竞争性编程和数学以外的地方会怎样,我小时候不是搞竞争性编程或数学竞赛的,很多前沿研究员倒是,所以我们拼凑出了一个agent 能上网浏览,写点代码,拿给好多领导看了,他们特别兴奋,于是我们成立了一个叫Long Horizon Tasks的团队,我主要牵头很多智能体编程的研究,后来就变成了Codex 不过后来我离开了,大概一年前创办的Applied Compute 所以我们的周年纪念日,其实就在上周六,所以其实没过多久 但我们看到了这样一个缺口,这些模型变得非常非常聪明,但当你真的要把它们用到企业里的时候,它们就像一群对你的业务,一无所知的天才,而企业里面其实才拥有,世界上大部分的数据,对吧,所有这些公司都有海量的数据,是它们多年来积累起来的专有数据,所以我们实际上是在帮助公司,把催生这些聪明推理模型的前沿技术,用来打造他们自己的专属模型,从而提升他们的业务,太棒了,这一路走来真不容易,对,很有意思,没错,我想我们从模型说起吧 YES 我回顾了过去一个世纪,事情显然已经急剧升级了,然后如果你放大到这一侧,在AlexNet之后,事情进展得非常快,对,你能不能给我们讲讲这个背景,模型层现在到底在发生什么,为什么过去四年的进步如此显著,是什么在推动它,对,所以 我这边有你的一些幻灯片,如果你想用的话,好,好,好,我想我们不妨从一点历史讲起,你提到了AlexNet 在座各位,有人听说过深度学习,或者知道那是什么吗,当然,好,不错,不错,深度学习 AlexNet可以说是,要我说深度学习的关键转折点,而且从那一刻起,我们也开始不再理解这些模型到底在做什么,所以本质上深度学习是什么,它是一种方法,是机器学习技术的一部分,让你能从数据里学到底层的表征,基本上就是拿一堆数据去训练,投入大量算力,然后得到这些非常聪明的模型,它们由数百万或数十亿的参数组成,你其实不知道它们在做什么,但它们确实非常擅长做预测语言模型这类任务,比如下一个Token的预测,就是LIM在做的事,而前后的对比是 在AlexNet之前,人们是在手工设计特征,去看底层数据的各个部分,训练非常初级的分类器,去检测边缘之类的东西,用在很多视觉任务上,然后AlexNet做的是,他们把GPU和一个叫 ImageNet的大规模数据集,用在了神经网络上,这就带来了那个突破性的时刻,真正证明了,嘿如果你堆算力和数据,就能看到这些模型,在预测准确率上获得巨大的提升,你知道模型开发,其实涉及很多不同的方面,也许给我们一个概览,我知道我们接下来,会深入讲其中几个方面,什么是模型训练,现代模型训练是什么样的,好我觉得这算是一个快照,这绝不是最详细的事件时间线,但我想挑出近几年几个关键的时刻,从Transformer说起,我相信在座各位都听说过 Transformer和自注意力机制,这算是谷歌大脑的研究人员,提出一种新架构的时刻,这种架构真正让语言模型训练的规模化成为可能,在现有硬件上性能提升明显,所以真的能在GPU上跑这些工作负载了,相比之前的方法,比如循环神经网络或LSTM这类旧神经网络架构,它们能用一种叫注意力的技术,这基本让下一个词预测的性能大幅提升,还能扩展到语言里超长的序列,时间快近几年 2018到2019年,基本就是预训练的时代,大家拿海量文本语料,教模型通过优化损失函数,去预测下一个词,基本就是让模型,试着预测下一个词,看看语料里,真正的下一个词是什么,然后对模型权重,做反向传播,去微调模型,让它更可能预测出,那个真实的下一个词,接着就进入了 缩放损失的阶段,从OpenAI缩放定律开始,它说明,如果你真把这些模型做大,做得特别特别大,性能就会好很多,这就是Kaplan缩放定律,在GPT-3上真正得到验证 GPT-3是第一个看起来有某种通用智能水平的模型,那算是一个突破性时刻,然后你继续在这个基础上叠加,比如Chinchilla缩放定律,它说明你不仅要把模型做得特别特别大,其实还存在一种计算最优的缩放方式,既要大幅扩大参数规模,也应该用多很多的数据去训练它,然后一旦我们开始有了这些大体上有用的模型,故事就变成了怎么让他们对普通人真正有用,怎么做出这样的界面,让它成为普通人日常能用的工具,这个阶段就是基于人类反馈的强化学习,偏好微调的时代,能去引导这些模型 因为基础模型本身只是在做下一个词预测,对吧,所以他们会大量幻觉,不会真正回答你的问题,可能说出一些不对齐的,或者不符合安全标准的话,然后GPD-4算是这些模型质量上,又一次台阶式的跃升,我很快过一下这些,我觉得这可能是大家过去几年最熟悉的,就是推理模型的时代 2024年OpenAI推出了一个叫OE的模型,它算是给模型智能的缩放开了一条新轴,就是测试时计算,而且这种感觉,我想让大家知道,思维链完全是一种涌现出来的行为,模型在推理的时候回答你的问题,花时间思考自我纠正,没有人训练它这么做,基本上通过把它放在这些,受限的强化学习环境里,然后投入大量算力,你确实得到了这些拥有涌现能力,能够推理的模型,然后把它和工具使用结合起来 很多人如果你们用过 [03:29:58]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

很多人如果你们用过

Apoorv Agrawal:很多人如果你们用过 Claude Code Codex Deep Research 你确实开始得到这些能够推理,能长时间工作的agent 他们逐渐变成了,今天人们所说的AI同事,有意思,你有幻灯片吗,好的,太好了,这太完美了,所以我们理解到,打造一个优秀模型,需要多个要素,数据算力人才算法,可能还有其他,我没列出来的东西,对,今天的瓶颈是什么,过去的瓶颈是什么,你预测X年后的瓶颈,会是什么,也许先回顾一下历史,再预测一下未来,好那我就顺着,我们刚才聊的梳理一下,瓶颈从拥有训练这些模型的算力,到正确的架构,再到真正能够扩展到,预训练所需的数据规模,比如在整个互联网上训练,再到通过偏好调优,让这些模型变得可用,而今天瓶颈是什么 我相信大家一定听说过强化学习环境,这实际上就是最近这几代模型,在推理和智能思考方面,变得如此出色的原因,我认为未来的瓶颈,基本上就是持续学习这个概念,我知道我们稍后会详细讨论,但到目前为止,我们确实得到了越来越数据高效的训练方法,比如预训练不是特别数据高效,你得在整个互联网上训练,才能得到基础模型,没有人,你们在座的人要学点东西,不需要去读互联网规模的数据,所以那是极其数据高效,然后我们开始进入后训练阶段的各种方法,那些方法稍微更数据高效一些,而如今最高效的,就是强化学习环境,但那个有点像圣杯的东西,我觉得也是人们想到,超级人工智能,或通用人工智能时会想到的 就是模型怎么能只做一次某件事,就从极其稀疏的奖励中学到东西,就像你们,如果你们把手伸到炉子上烫了一下,只需要那一次,你就知道炉子是烫的,不该把手放上去,今天的模型并不是这样的,所以我觉得持续学习,以及在真实世界交互中,做到极其数据高效,这个想法就是下一个瓶颈,明白了,明白了,非常有帮助,不过你知道,你烫到手的时候,那个反馈也是非常响亮的,对没错,所以但愿持续学习,能给我们响亮的反馈,对,然后另一个大问题,也许不在幻灯片上,就是为什么所有实验室,都收敛到聚焦软件工程,为什么他们都把代码,当做第一个前沿,我相信还会有其他前沿,比如生命科学,网络安全,或者我不知道的其他领域,但为什么是软件工程,为什么代码有什么独特的性质 让人们觉得这么有意思,这些实验室在做的强化学习训练,是基于可验证奖励的强化学习,所以为了真正得到学习信号,或奖励信号,你需要一种确定性的方式,来检查模型,做的是不是正确的事,代码和数学在这方面,真的非常非常合适,因为你能做什么呢,你可以编译代码,对它跑单元测试,你可以实际去检查代码,是不是在做正确的事,所以这就是代码,一直特别有价值的一个原因,另一个原因是,在代码上很容易造出,海量的合成数据,对数据的规模,数据的规模,鲜艳条件非常好,互联网上有海量的代码token 然后我觉得另一件事是,很多研究者包括我在内,都觉得编程模型,有点像通用人工智能的完整版,意思是每一项任务归根结底,都是一项编程任务 对吧,所以你会看到Cloud和很多其他模型,他们会写代码去完成任务,而不是去做工具调用,或者那些更针对具体任务的事情,他们实际上就是把代码,当做一种通用语言,去跟真实世界交互,你知道吗,你来之前我们正好在讨论一个问题,怎么用AI去做好那些跟代码无关,或者不直接相关的岗位,我给你举个例子,做幻灯片,比如这一份,顺便说一句,完全是用 Claude的CodeWork生成的,用的就是我们之前,那几轮对话,对,代码和生成幻灯片之间,是什么关系,是什么让这些模型,擅长生成幻灯片,因为他们擅长代码,所以你是用Claude Code 做的这些幻灯片,所有的排版格式,太好了,好,对,所以基本上,我也用Claude Code 做过幻灯片,基本上,它能做出这个表格,它能设置标题的格式 它能把那条随机的蓝线放在那里,但你能做的是,把这个模型的输出和其他辅助奖励结合起来,去告诉它自己写的代码到底好不好,所以这里这个已经非常实用了,但如果我们真想优化美观度,我们不仅能结合代码执行,真正把幻灯片做出来,而且让它们在结构上相关,还能加上某种奖励模型,去审视幻灯片产出的效果,而且他训练时用的是人类偏好,什么样的幻灯片在审美上好看,什么样的,你知道难看,你可以把这些奖励结合起来,同时优化两件事,既把功能性的幻灯片写好,也让他们看起来漂亮,对,对,对,这正好可以顺势聊聊你的工作,跟我们讲讲预训练,后训练吧,这些词到底是什么意思,对,而且我知道,你是这方面全世界最顶尖的专家之一 所以我们待会会深入聊聊这个,这太抬举我了,不过对,我是说在语言模型这块,我觉得要谈的两大块,就是预训练和后训练,预训练是一项,规模巨大的训练工程,你要用互联网级别的数据,也就是数万亿,数万亿的token 你往这个架构 transformer上砸,海量算力,然后训练一个神经网络,让他特别擅长,学习语言里的模式,而由此得出的,就是某种形式的智能,所以本质上,预训练就是压缩这个概念,你能把全人类的知识都装进去,也就是说,把互联网上的内容装进一组权重里,让他真正理解语言中的模式,怎么去思考问题诸如此类,问题在于,一旦你有了这个预训练模型,顺便说一句,他消耗的算力比后训练要多好几个数量级 你实际上还得去对齐这个东西,所以就是下一个序列,下一个token的预测,所以如果你写一个句子,比如我该请谁来吃晚饭,然后模型开始说出一堆随机名字之类的东西,那完全没道理,因为实际上模型应该说的是,我根本不知道你的邀请名单上有谁,或者你认识谁,请告诉我这些人是谁,所以后训练实际上就是拿这个模型,告诉他好的输出和坏的输出分别长什么样,而且你确实能得到一个模型,他学会了聊天的格式,有用户消息,还有回复你的助手消息,你还会学到安全准则,所以如果用户问我怎么制作武器,或者炸弹之类的东西,你就能告诉模型,嘿别告诉这些人怎么去制造这些有害武器,在这两种情况下,稀缺的都是数据,我这里有一张幻灯片,内容非常密集,你们可能不需要仔细看 但本质上预训练做的就是,优化损失函数,对吧,就是怎么把预测下一个token这件事,做得特别好,但问题是,我们之前聊过Chinchilla缩放定律,你在扩大模型规模,也在扩大训练这些模型所用的数据规模,但我们的数据用完了,互联网上能用的数据就那么多,而且我们差不多已经触及了,这些实验室可用数据的前沿,我知道你后面有一张幻灯片会讲这个,而且只有这些实验室才能做这个级别的训练,因为它需要极其庞大的算力和数据,资本开支要求非常高,然后在后训练这边,有各种不同的训练方法,从监督室的SFT 到偏好调优的RLHF 再到RLVR 这个我们待会会多聊一些,其实阅读材料里,有一篇非常好的文章,如果你们读了阅读材料里 Carpsey关于RLVR的那篇文章 里面讲了2025年发生的事 RLVR确实是在2025年,崭露头角的,我们一会会讲到,不过其实你往前点一张,幻灯片就行,我能点吗,可以,我有个关于数据的问题,想问你,对,关于数据我有个问题,我们之前聊过,这个数据,对,数据要耗尽了,这是你之前提的那个观点,你知道两周前,阿里·戈兹来过这里,他讲到实际上,这条前沿之外的大部分数据,都会是AI生成的,世界上会有大量Token 是AI生成的,因为生成的速度和量,实在太大了,对,展开讲讲这个,比如数据的边界在哪里,从现在开始,我们还能从哪里,获得更多数据,比如说2030年,要训练的模型,它的输入是什么,我们从哪里拿到这些输入,专有的还是公开的,对,我觉得这个问题有好几层 第一层是,而且这背后有一整个经济体,抱歉打断你,围绕这些公司有一整个经济体,完全同意,他们的全职工作,比如Scale, Nekor这些公司,就是,对,也许可以也聊聊这个,对,没错,是的,所以我觉得这张图展示的是,预训练数据,本质上就是关于规模,现在有人开始收购,那些藏有古籍的老图书馆,把书扫描进去,就为了拿到更多token 还有大量资金,投在合成数据生成上,所以问题是,你怎么把原始文献,扩展成多个数量级的token 然后看看,能不能从中学到更多,所以我觉得预训练,这会是主要的方法论,现在大家在预训练上,真正关注的,其实是新的架构突破,去更好的利用我们现有的数据,因为原则上,你不需要互联网规模的数据 就能学到很多东西,所以大家在琢磨的是,我们到底怎么把数据用得更高效,所以就有这些数据墙的挑战 [03:39:52]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

所以就有这些数据墙的挑战

Apoorv Agrawal:所以就有这些数据墙的挑战,前沿实验室都在攻克,现在你提到的是强化学习环境,这是另一种类型的数据,就是说我们来构建模型运行的那个世界,让它进去做一堆事情,然后用算力去换不那么高质量的数据,基本上我们可以用多得多的算力,从单个样本或一次rollout里学到更多,我们刚才聊到了一点代码,这个可以在RLVR那张幻灯片上展开讲,当你搭建一个代码环境时,它不像预训练那样去代码库上训练,把代码库里的所有token都学一遍,而是说我要你去实现这个功能,你让模型真的去试几百次几千次,你有办法检查模型是不是真的做对了,对吧,这就是那个可验证的奖励 然后你会得到一整个奖励分布,因为有时候模型会做对,有时候会做错,而你能从这种训练里学到的东西,比单纯预训练要多得多,所以就是单纯的下一次预测,有意思,那也许同样的问题,关于EVALS 对,我记得你之前提过EVALS相关的东西,咱来聊聊EVALS吧,为什么Evals这么重要,为什么各个实验室,都把自己的Evals 捂得严严实实,你知道有很多讨论说,这是最受保护的资产,跟我们好好讲讲,而且你也提到过,这是你做过的最棘手的工作,为什么会这样,我觉得当我们开始,用奖励函数来训练这些模型时,最重要的事情,其实是搞清楚,什么算好,什么算坏,所以Evals是一种,给模型做基准测试的方式,就是给定一个任务,看模型会怎么表现,为什么Evals对实验室这么重要 是因为Evals决定了路线图,比如说如果我们想训练一个非常非常好的代码模型,基本上Sweepbench就是开启了整个代码模型竞赛的Eval 那是因为人们终于有了一个可以朝着优化的目标,也就是什么才算有用的编程,现在Sweepbench我觉得是个很有缺陷的Eval 而且后来也出了很多新Eval比它好得多,但这正是关键所在,就是你想爬哪座山,得先用一个Eval把它定义出来,然后强化学习,就像一台专门刷Eval分数的机器,所以你去搭一个训练流程,让它长得非常像你的Eval 当然数据是不同的,因为你不想直接过拟合,到那些Eval数据点上,然后你就去爬那座山,爬完了,就接着下一个Eval 所以这一点在企业场景里,也特别重要,企业内部对什么好什么不好,有自己的标准,对吧,好和不好,在摩根大通和高盛之间 并不是同一套标准,对吧,比如它们的标准不一样,运作方式也不一样,所以它们会有自己的评估体系,然后你会看到这种分层效应,模型实验室会针对某些评估去优化,而企业会针对另一些评估去优化,而我们Applied Compute 实际上就是那一层,那个定制层,去帮企业针对它们自己的评估做优化,很有意思,对,这正好可以引导Applied Compute 对,那是什么让你创办了Applied Compute 为什么选择独立创业,而不是留在你创办Applied Compute 之前所在的OpenAI内部做这件事,你们具体做什么,就像我刚才提到的,我们创办Applied Compute是在一年多以前,当时我是和我的联合创始人Rhythm 和Lyndon一起开始的,他们俩其实都是斯坦福的学生,我们之前也一起在OpenAI工作 有个好玩的事,我刚加入的时候 Sam基本上就问,你认识的最聪明的人是谁,那个人就是Rhythm 几个月之后,他又问了Rhythm同样的问题,答案就是Lyndon 我们仨就是这么凑到一起的,但我们创办Applied Compute 核心想法是,未来会非常贴合企业需求,你会有这些通用模型,它们是主力模型,但真正去针对每个企业的需求做定制,才是大家拉开差距的地方,通用模型算是设定了下限,但要够到上限,你得去构建训练模型,打造这些定制化系统,才能跟所有竞争对手区分开,举个例子 Doordash是我们的客户,我相信很多人经常下单,经常用,我自己就特别爱点,点的比该点的多太多了,不过,这都属于强化学习环境的一部分,对吧,我知道,没错 我们就是在测试产品,我们跟Doordash合作的任务里,有一个我挑这个说,因为它特别实际,它能很好展示我们到底在做什么 Doordash每年要接入,超过10万商家到他们的平台,这些商家入住时,基本会提供一堆,关于他们业务的非结构化信息,包括菜单,而菜单提取,也就是从这样的图片,变成DoorDash的店铺页面,其实是个非常非常难的任务,因为我懂,这确实难,没错 DoorDash有一套非常具体的风格指南,规定修饰项,该怎么挂在商品下面,什么能混搭,什么是加购项,什么算特殊配料,诸如此类,我们试着用通用模型来做,他们就是搞不定这个任务,我们也试过提示词,工程这些办法,最后真正管用的方案是,你可以拿我们模型的输出 你可以让人类去修正那些菜单,然后理解其中的差异,然后我们基本上可以在训练期间,让模型的输出与标准答案进行比对,本质上我们找到了一种方法,可以量化损失或奖励,也就是错误率,我们能够直接针对降低错误率进行优化,所以这是一个非常清晰的例子,说明一家公司只需要去定义,什么是对的什么是错的,你实际上不需要做提示工程,或者这类东西,你可以直接朝着你想要的结果去优化,有意思,我能追问一个问题吗,可以,在Transformer出现之前的上一代技术,这个问题可能会由OCR模型来处理,也就是某种视觉模型,对,你们介入的部分,就是针对这个具体问题进行优化吗,而且这不是用视觉模型,而是用Transformer模型,用的是VLM 对,所以它是一个带有Transformer架构的视觉模型 对,有意思,为什么多达会抱歉,我临时问一个课程大纲之外的问题,不不不,为什么,为什么你们要专门做现有模型的定制,万一我随便说说 GPT17出来就开箱即用地强得多呢,对,那你们是不是有动力干脆等下一代模型出来,还是说你们应该跟Apply Computer合作,对不不,这个去拓展别的方向,这是个好问题,很高兴你问我这个,我觉得大家常常没意识到的一点是,企业在意的是在任何时间点都处在最前沿,所以GPT时期离现在还有相当长一段时间,我觉得等到我们有了超级人工智能,或者那种掌控一切的模型,其实我并不相信那会发生,我觉得世界是一个非常碎片化的地方,而且你只要看看数据在哪里,它其实是分散的 但确实实现价值的时间,今天自己训练模型的ROI 用的算力还少得多,比如强化学习,已经变得非常非常数据高效,你需要的算力比预训练,或者其他类型的训练少一个数量级,而且你能优化的性能,比在监督微调和RLHF里多得多,这样训练这些模型变得有吸引力的多,投入在预训练和后训练上的投资,差一个数量级,预训练对比后训练,你能给我们一个大概的估算吗,假设训练预算是100美元,其中多少会花在预训练上,多少会花在后训练上,对,我觉得我在来的路上查了一下 DeepSick V3训练,大概用了240万到250万小时的H800 而强化学习训练,也就是训练出DeepSick R1的那个过程,大概用了15万小时,所以算下来 大概是预训练,所需算力的5%左右,但是,就这么点,就这么点,但我觉得真正有意思的是,这个趋势正在开始改变,现在人们预训练这些模型,但之后,他们还会做数据中心级,甚至跨多个数据中心的,强化学习运行,因为你有这些缩放定律,我记得我有一张 Jensen和那三条,缩放定律的照片,有预训练缩放,然后有后训练缩放,还有测试时缩放,测试时缩放就是推理,但后训练缩放,你实际上可以大幅增加,每一步训练的批量大小,然后你就能得到,好得多的性能,你可以让这些模型,在尝试这些任务时,做更多的推理,所以我觉得你实际看到的趋势是,花在强化学习上的算力,正在大幅增加,明白了,所以现在是5% 但你预计它会上升 对吧,哦,它肯定在上升,对,好的,作为总训练预算的相对百分比,对,所以我不太清楚像Methos或者5.5这样的最新数据,但你知道基本上直到我们扩展O1,O3,Codex Deep Research的时候,我们看到的规律就是你往强化学习里投入的算力越多,性能就越好,所以这些东西是叠加的,有道理,对,也许再举几个例子,我觉得那非常非常有帮助,除了把这份菜单转成DoorDash之外,还有没有其他领域的例子,你觉得这个应用特别有用,可以跟我们分享的,有,我们之前聊过编程,我们最近刚和Cognition旗下的WindSurf 一起把一个模型投入生产,基本思路是,你在写代码的时候,你知道你保存文件,如果有一个模型,能在两秒内跑完,检查你写的代码,然后告诉你里面有没有bug 那该多好,所以这不是通用模型能做到的事,因为这里存在性能,成本和延迟的帕雷托前沿,如果你用一个很小的模型 [03:49:49]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

如果你用一个很小的模型

Apoorv Agrawal:如果你用一个很小的模型,你在后训练阶段拼命训练它,让它特别擅长抓bug这个任务,你就能同时拿到成本和延迟上的好处,又能达到那些更大模型的部分性能,明白了,所以对Cognition和Winterfly来说,价值增量在于,他们正在把产品线,从单纯写代码,扩展到测试和抓bug上,没错,对,我觉得这就引出了一个,特别有意思的概念,就是模型框架上下文,代码开发这几层之间的关系,你其实永远没法只盯着一层,很多应用层公司,都在框架层做了大量创新,而正是靠这个,他们才能从这些模型里,榨出价值,尤其是跟他们提供的服务,结合起来的时候,然后上下文也很关键,很多时候,如果你拿不到对的数据,你就不知道该做对的事,所以能接入公司内部,所有这些不同的数据源,这一点也极其重要,有意思,所以在这个例子里 对Cognition来说,扩展他们的产品边界,可能确实是一个,真正的竞争优势,没错,对,我觉得你会看到,大家开始推动,这些模型能力的边界,而且通常是一个模型组合,对吧,通用模型极其强大,是很好的编排者,但那些跑得快的子agent 或者用专有数据,训练出来的agent 这些数据,往往不在通用模型的,分布之内,就像这样的东西,它们可以被通用模型,编排起来,组成一个真正,强大的系统,所以我觉得,其实今天RampRamp Labs 就是那家企业信用卡公司,我们跟他们关系真的很好,认识那边不少人,他们训练了一个,强化学习模型,基本上就是用来,在你的电子表格里,做快速搜索,这其实就是一种方式,让你真正去改进产品体验,有意思,对,那我们换个话题 Yash 聊聊我们最近听到的一批 新兴模型训练技术,也许你能帮我们拆解一下,很乐意,好,先从持续学习说起,好,它是什么,我们认识很多聪明人,都把它当作下一个前沿,包括你,对,给我们讲讲,好,持续学习其实就是,我之前提到的那个东西,也就是怎么从,极其稀疏的奖励中去学习,对吧,比如说如果你有一个系统,部署在生产环境里,你实际上怎么去理解,那个AI模型是怎么被使用的,去理解它行为带来的下游后果,然后用这些信息去更新系统,让它随着时间变得更好,所以我这里准备了两个例子,关于对两个例子,说明我觉得这件事开始变成什么样,说清楚一点,我觉得这会是一个非常渐进的过程,所以很多持续学习,其实卡在能不能拿到合适的数据上 当你在生产环境部署一个agent的时候,你有没有把它放到对的人面前去获取反馈,你有没有真正深入理解,所有必要的上下文,去判断什么算好,什么算坏,这本质上就是个数据获取问题,所以我觉得这会是一个,缓慢渐进的过程,而不是说突然有人想出了,一个极其宝贵的动静,但今天已经能看到几个例子了,比如Cursor 他们有个模型叫Composer 本质上就是,他们在开源模型基础上,用自己的编程数据,训练出来的自研编程模型,他们做的是特别酷,他们基本上就是把这个模型,放到生产环境里让人用,然后捕获大量摇测数据,在线更新模型,也就是说基于他们算出来的,某种隐世奖励,去跑一个训练步骤,基本上就是看,用户有没有接受这个代码建议,还是说用户把这个代码回退了,这就是一个成功与否的 启发式判断,完全正确,对,然后他们就朝着这个方向去优化,通过这种在线训练,他们确实看到了改进,收集数据,跑一个训练步骤,再收集数据,再跑训练步骤,这也是我们一直在做的事情,其实我想接着Cursor这个话题,追问一下Yash 这里的横轴是步数,你能帮我们换算成时间吗,大概的量级就行 Cursor大概投入了多长时间,来提升Cursor的性能,对,是几天几周还是几小时,问得好,我觉得我们说的是几天,或者几天到几周这个量级,然后每一步大概要几个小时,明白了,具体数字我不清楚,但这里有个有意思的点,在基于可验证奖励的强化学习里,做离线训练时,你有一个可回放的环境,任务是一样的,奖励是定义好的 然后你可以把这个样本并行的rollout几百次,几千次,但生产环境你做不到,对吧,因为用户在用的时候,环境是动态的,或者有各种变化,所以他们真正实验的是,我们能不能直接拿一个超大batch 就是很多很多很多段对话,用这种方式把梯度去造,然后走一步,但愿这样能在方向上找到改进模型的路子,所以对,这就是我说的每一步大概几个小时,而且每一步都相当大,里面包含很多样本,右边这个是我们一直在做的东西,就是上下文基础这个想法,你能不能真的用agent在离线状态下,投入算力去分析一堆文档,分析人类过去和agent交互的轨迹,从中提炼出能提升下游性能的经验,我们能看到的一个结果是,在不同的推理力度下,用同样数量的token 性能有大幅提升,所以对这只是两个例子,从宏观上看,你会看到在权重更新,上下文,以及模型框架本身,这几个层面上的创新,才能真正把这些信息捕捉下来,有意思,对,这个话题后面还有更多可聊的,对,第二个话题是非Transformer模型,对,课上很多人讨论过Transformer并不是一种非常高效的架构,功耗很大,我们请过Aligazi 他说你看飞机飞行远不如鸟类飞行高效,对,事实证明我们是个很重的物种,比鸟类重得多 Transformer是不是也是这样,它虽然不高效,但会成为主导方式,因为全球基础设施已经围绕它演变和迁移了,还是说你觉得像Mamba这样的非Transformer架构,或者其他架构有机会,对,在未来成为AI模型的主导者,对,我觉得我诚实的看法是 规模化训练Transformer是有效的,而且有一个非常简单的配方,能让这些模型变得更聪明,更好,而且如果我们继续把它规模做大 AI更可能会告诉我们,更好的架构是什么,而不是靠我们自己想出一个来,如果这种架构真的遇到了瓶颈,限制了我们能做的事,那我觉得我们会在那里,看到一些创新,而且确实有一些很酷的研究正在发生,但我的观点就是专注于规模化,规模化训练Transformer 这场辩论的另一边也有非常聪明的人,你也知道,对 Ilya, Jan, LeCun 还有其他人在坚持那个方向,如果你能分享的话,你知道他们相信另一边的核心洞察是什么吗,他们为什么不同意你的观点,对,我觉得核心洞察就像我之前说的,你不需要预训练级别的数据量,就能真正学到语言的底层表征,我觉得Yann LeCun经常讲这个 就是说人类根本不需要那么多数据,所以我们开发架构,也不应该需要那么多数据,我觉得这就是他背后的核心论点,就是从第一性原理出发,就是你不应该需要它,所以外面一定存在更好的解决方案,但我觉得回到你的观点,我们在算力规模扩展上的投入,我觉得确实有人,在直接针对芯片里的架构做优化,但我觉得那是一艘很难掉头的大船,到目前为止,我们看到那些实验室,我觉得他们会主导很大一部分这种建设,他们做的还是在Transformer架构上投入更多,他们确实也在研究新东西,但我觉得那些都还在实验阶段,你懂的,对,有可能成,有可能成,真是个好时代,因为你知道巨额资金正在涌入这些技术,所以我们就等着看,看结果会怎样,对 快速问答,最后五分钟 Yes 你知道班上很多同学,在决定要做什么,做技术站的哪一层,从哪开始,如果你今天没有在,创办Applied Compute 你会做什么,对,那你会去做什么,你下一个最好的想法是什么,这个问题我想了很多,因为我觉得,我们在Applied Compute 一直遇到的一个问题,而且我知道很多其他AI公司,也遇到了就是算力稀缺,我觉得需求远远超过了,算力的供给,而且我觉得,在给这些算力供电的能源来源上,还有把芯片本身做得更高效上,都会出现巨大的创新,倒不是说我有硬件,或者芯片设计之类的背景,但我觉得我们完全可以做出,好得多的硬件,去优化训练和芯片设计的代码开发,所以我大概会去研究硬件,好谢谢,长期和短期的博弈,对,选一个你非常喜欢 让你很兴奋的生意,产品或人,好,再选一个反事实的,就是被炒作的,比现实更厉害的东西,对,我觉得这跟我上一个回答,是一路的就是算力,还有像英伟达这样的,芯片供应商,我非常长期看好他们,我觉得他们会继续赢下去,他们会继续给所有实验室供货,不过有意思的是,一旦你去看英伟达的算力经济账,他们在芯片上要拿走,大概75%的毛利,而这些实验室在花几千亿美元,问题就是,也许我们可以拿个几千亿出来,投到真正属于自己的芯片设计上,那样我们就能把模型训练,架构和芯片的所有代码开发,都在内部做完了,而且也许我们的芯片,只有80%的效率,但我们只要造出1.2倍,或者多少倍的量就行,所以我觉得总的来说,芯片这块 英伟达应该还是会保持领先地位,我觉得是很有价值,但我也确实看到一种风险,那些实验室是最大的客户,或者他们干脆把这些东西,全部内部化自己做 [03:59:49]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

全部内部化自己做

Apoorv Agrawal:全部内部化自己做,但这非常难,有一件事我相对没那么看好,就是数据市场,这个市场真的很难做,好你想,一个强化学习任务,一开始的模型,其实并不聪明,你把它训练到,在特定任务上非常聪明,然后你再想去找新的,能继续往上爬坡的任务,就难多了,对吧,所以当我们,因为问题本身难多了,完全正确,你会陷入一种被挤压的状态,我卖给客户东西,帮他们改进模型,但同时也给自己增加了难度,因为下次他们来找我说,帮我建这个任务的时候,我得花更多的钱,要花更长的时间诸如此类,而且我觉得模型本身,也在变得越来越强,所以你会开始看到,大量的合成数据生成,因为你想,一个强化学习任务,很多时候靠的就是,利用某种生成器验证器差距 比如代码这块,对吧,你把单元测试留出来,让模型去尝试完成任务,然后拿测试去跑模型输出的结果,这其实不需要真人来做,模型越聪明,你就能围绕合成数据,达出越好的流水线,所以我不觉得数据这个东西,每隔几年就有人说它要完了,但它一直没完,但我确实认为它会变,数据市场里最优秀的创始人,其实都很擅长转型,就像你知道的下一步浪潮是什么,机器人数据,第一人称视角数据,比如带上GoPro 收集一大堆这类东西,所以我觉得今天的,强化学习环境会很难做,但他们会,你知道的,他们会转向下一波浪潮,太好了,最后一个问题,你最喜欢的AI产品,或者最喜欢的AI模态是什么,这个问题,好,我很喜欢GPT 不对,是Image GPT-2 Image Duo Image R Image Duo 对,你知道的,它刚出来的时候,我玩得特别开心,我觉得它对我这种,不会做设计的人,或者像直观看到东西的人来说,用处特别大,很多时候我拿张纸,或者什么东西,丢进Image 2 它就能给我一个,很直观的视觉演示,告诉我这东西是怎么运作的,所以那可能是我最喜欢的 AI产品,我给你看个东西,好,这个演示文稿里,最漂亮的一张幻灯片,就是一张Image Duo生成的图,我把课程大纲喂给他,他就说,这样怎么样,这张,能看出来的人签名就是这里,这个图像的双重水印,真的吗,有意思,总之很棒,非常感谢你来做客,不该谢谢你,我们继续聊,看看这些赌注最后会怎么发展 那就这么定了,太好了,谢谢邀请我来,好,今晚的嘉宾不用我多介绍,我相信在座很多人都在Vercel上部署过代码 Guyen Moral显然是Versailles的创始人,但他还创建了Next.js 全球最流行的 React框架 Versailles现在是最重要的开发者基础设施公司,估值93亿美元,接下来我要说的这部分,连我自己之前都不知道,你故事里最精彩的部分,讲完了吗,对请讲,那就是你在布宜诺斯埃利斯的郊区长大,你小时候自学编程,靠读软件手册学会了英语,通常顺序是反过来的,对我不得不这样,那时候没有西班牙语手册,或者说非常少,而且你11岁就开始,远程接JavaScript的活,对,你高中辍学,搬到旧金山去闯创业圈,然后接下来就更有意思了,所以你需要2001年的签证,才能到这来 于是你写了一本书,这本书是最受欢迎的书,叫Smashing Note.js 2012年由Wiley出版,而且你知道吗,你真的是为了拿签证,才写了这本书,对,我做了很多事,都是地域难度,比如高中辍学,在美国想拿签证,真的很吃亏,结果发现是这样,对,所以有些事帮了我大忙,有些事则相反,结果发现,人们特别看重学历,所以别辍学,别放弃你的学位,或者也许你可以辍学,但有利有弊,接下来要发生的是,所以这位从,阿根廷高中辍学的家伙,就是今天课堂的嘉宾,请大家欢迎 Guilherme Rauch Guilherme 感谢你来做客,我看了你的幻灯片,我很想请你为我们做个介绍,太好了,好谢谢你的介绍,感谢邀请我,我会尽量讲快一点,好留出时间做问答和互动交流 所以如果你们当中有人不了解Vercel 我们构建了一个庞大的工具生态,尤其是开源工具,现在已经构成了现代网络,和现代互联网的很大一部分,所以即使你不直接用Vercel 我最近最喜欢举的例子是,如果你在麦当劳点一个巨无霸,你就在用Vercel 如果你在订一辆保时捷,你也在用Vercel 不是说你今天就会买,但也许等SpaceX上市之后吧,所以每次你上网,可能都在通过网页,直接和Vercel交互,而且现在越来越多的情况是,如果你用Open Evidence 或Glock这类系统,你其实是在和托管,在Vercel上的agent的交互,所以我们打造了一整套工具和框架,我觉得他们和今天的讨论很相关,因为我们压住开源,这源于我自己的经历,我是阿根廷人,年轻的时候,想要免费的工具和免费的信息,我想让我的技术尽可能的,被更多人用上 所以开源对我来说,是一个非常容易的决定,但后来我们在开源之上,建立了一家了不起的公司,这其实有点反直觉,有过一些先例 The Tabrics 我记得他们最近跟你们聊过,但我们成功建立了一家,强大的基础设施公司,基本上就建立在这些工具之上,让你能部署,保护,扩展网页,和agent 我喜欢这么叫他们,所以Versaul这段旅程里,很有意思的一点是,我创办这家公司的时候,我痴迷的是开发者体验,当时有部署的方式,有AWS Google Cloud 和Azure 但他们有点那种,让我觉得真的很难用,哪怕是一个,钻研了这方面几十年的,资深工程师,我在创办这家公司之前,坐下来,想给我当时的新创业公司,部署一个网站,结果花了我好几个星期,然后我意识到,那就像是发明家的顿悟时刻 用当时最前沿的技术 ReactJS和Kubernetes 去部署一个破网页,不该这么难,于是我就决定了,那群JavaScript开发者,是一个规模很大的群体,我决定直接瞄准他们,如果你知道怎么搭建一个前端项目,也就是应用的界面那一侧,我想给你部署的超能力,而且不只是把部署做成一件好事,我想部署的东西,要能扩展到整个地球,要在任何地方都快,就这样,从那个可以说是一小群人开始,我们长成了今天的Versil 但从那以后变化的是AI 顺便说一句,我以前算过一笔账,全世界大概有2000万开发者,基本上能搞定这件事,我当时觉得这是个很宽松的限制条件,不知道你们还记不记得,但那时候硅谷特别火的东西,是编程训练营,对,是的 你花三个月学react 就能找到一份工作,当时人们就是这么跟你说的,而且确实如此,现代JavaScript工具的学习曲线,其实相当低,所以当时挺酷的一点是,我可以这么说,嘿,如果你知道怎么打造一个,让人信服的用户体验,基础设施就全交给我,我来负责扩展,你永远不会当机,你永远不用操心,负载均衡和底层技术设施,所以Vercel就会这么做,但自那以后,真正让人兴奋的是 AI和编程代理,让能创造软件的人出现了爆炸式增长,事实上,如果再往前追溯,开发者曾经是极小的一群人,只有他们能接触到大学里的主机,而编程的历史,技术的历史,就是不断把机会开放给越来越多人的历史,所以我们今天要聊的很多内容,就是AI带来了软件可服务市场史上,最大的一次扩张和革命,尤其是软件创造这件事 在我们这个时代前所未有,具体到Vercel身上,从去年10月开始,尤其是一个特定的编程模型出现之后,也就是Opus.5 我们开始看到越来越多的人,涌向我们的平台,我们几乎成了编程代理的,花生酱和果酱,所有人都在被花生酱和果酱淹没,那就是编程代理,而你需要基础设施去部署软件,所以我创办公司时的一个洞察是,会写代码并不会让你特别,把代码部署出去,放到客户面前才让你特别,学习真正开始,是在用户面对你代码的运行版本那一刻,事实上我对GitHub有点困惑,在GitHub之前是SourceForge 再往前有个东西叫FreshMeet 人们曾经为把软件以代码型的形式存起来,而兴奋不已,你可以去任何一个GitHub仓库 但真正跑起来其实很难,我们有这个世界堆满了跑不起来的软件,所以我的想法是,最终赢下世界的人,是那些不只写软件,还能把它部署出去,让它跑起来的人,所以编程代理的兴起之所以让人兴奋,是因为编程代理不会屈从于我们人类,有时会有的那种偏见,就是代码在我机器上能跑,我就把它存在我机器上,因为我对代码在我机器上感到安心,编程代理热爱部署,所以我们就是那层,涂抹在编程代理所写,软件上的部署黄油,而这件事还教会了我们另一件事,因为我们正看着这个世界,在我们眼前划过,那就是云的本质正在改变,你刚才在拿电子邮件,和web服务开玩笑,所以我要提出一个挑战,如果亚马逊今天才创立AWS 我不知道他们还会不会 叫他亚马逊web服务,因为今天人们感兴趣 [04:09:58]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

因为今天人们感兴趣

Apoorv Agrawal:因为今天人们感兴趣,去创建和发送的实体,是一个agent 所以实际上他们会叫他 As Amazon Agent服务,所以我们今天,用这个平台在做的事情,就是为下一个人们,想部署到云上的实体或对象,也就是AI应用和agent 创建一整套基础设施,源语和框架,这方面有一些例子,你知道,我们过去经常谈论,亚马逊的智慧,就是当你上amazon.com的时候,那是一种很棒的体验,我在上面买很多东西,他们发现的一件事是,如果页面加载的非常快,人们就会买的更多,多简单的道理,如果你的前端页面非常快,人们就会买的更多,转化率也会更高,他们不只是观察到了这一点,他们的数据还显示,每多等100毫秒,转化率就下降1% 所以互联网的很大一部分,就是建立在这种 及时请求和响应的理念之上的,现在我们正从我们的agent云上看到,这种情况正在改变,你并不总是能立刻得到回应,所以我们需要为这些漫长的思维流,创建新的基础设施,在这些流程里 agent在世界上行动,为你工作,一开始它需要几秒钟,这已经和我们过去部署的那种,基础设施很不一样了,然后变成了几分钟,然后又变成了几小时,而现在我们看到,有些agent可能要忙上一整天,才会给你报告,才会给你分析,才会帮你把软件建好,我们现在在Vercel上,托管的一些平台,正在替人们创建公司,他们正在取代那些维护,推广,壮大,并扩展这些公司的agent 而且是在镜头前发生的,所以从旧世界的页面,正在转向agent 我们运行的这种计算机 也在发生相当剧烈的变化,另一件让人着迷的事是,云计算的很大一部分,是建立在一个叫 EasyR的了不起的计算产品之上的 EasyR普及了一个概念,如果你想要一台计算机,你只需要刷一下信用卡,就能立刻得到一台,如果你需要100万台计算机,你只需要为100万台计算机付费,这就是弹性算力,而弹性算力,是为人类写的代码而设计的,所以从经济角度看,你能向世界卖出多少算力,是受限于我们有多少程序员,我之前提到过,能创造软件的人数正在扩大,也许是10倍 20倍 100倍,但现在agent正在写软件,他们在写软件,在修软件,在保障软件安全,我们显然也看到了真正智能的模型,在网络安全领域带来的后果,我们有黑客agent 也有好的agent 就像世界上的好警察和好警察一样,所以我们看到对算力的巨大需求,对agent写的代码的巨大需求,另一件我们会经常谈到的事是 token成了新的热门商品,对吧,一直以来 Vercel只允许像素流动,所以你得到的是一个UI 或者某种软件应用,现在我们开始以Token的形式流动智能,这也在改变定价模式和商业模式,你可能听过很多关于SaaS之死,按席位计费模式之死,以及按Token计费模式兴起的讨论 Token衡量的是智能,顺便说一句,这并不是说我们正在从等式的一端,疯狂转向另一端,实际上我仍然非常看好,以人为中心的体验,所以你会去访问品牌体验,你会看到这些agent 在某种丰富的环境里,捣鼓出来的成果,事实上 我甚至预测过,一个更崎岖的网页,更崎岖的互联网会回归,我小时候,有一个特别棒的软件帮我创作,叫Incarta 那是一本活着的百科全书,你选一个主题,它就像一种交互式,内容丰富的体验,比如你想研究吉萨金字塔,那体验就特别酷,现在我们把云和这些东西都做出来了,你上维基百科,看到的是一大墙文字,也许右边配一张照片就算不错了,所以我确实预测过,我们会通过视频生成 3D模型生成,得到更沉浸更疯狂的体验 Versailles上有一些平台,在做特别棒的实时3D渲染,所以以人为中心的体验会很有价值,但我们新的世界观是,我们正在向所谓的代理基础设施转型,代理基础设施有三个边,构成一个漂亮的三角形,第一 代理基础设施,是你需要给你的编程代理,提供的基础设施,就是我跟你说的那个,花生酱和果酱组合,所以如果你在用Claude Code 如果你在用Codex 如果你在用V0 这些软件编程代理,总得部署到某个地方,所以这就是我们所说的代理,基础设施,另一件非常重要的事是,你会构建自己的agent 就在今天,有人来我办公室描绘了一个令人惊叹的愿景,未来的AI原生学校会是什么样,这个人说的很多话都让我强烈共鸣,因为他们是从agent的角度在重新思考教育,它仍然涉及人老师学校学生,但他们要交付的是一个agent 而不是一组互相关联的网页,也许最令人兴奋的一点是,这个想法将由agent来自动化,所以我先快速讲一下第一性原理 事实是编程agent需要基础设施,我知道你问过我们看到的增长数据,其中一个非常有趣的动态是,当你跟编程agent打交道时,这个编程agent对世界,有一套先入为主的认知,它在幕后有一个世界模型,给我们带来巨大顺风的一个因素是,模型已经从互联网上,关于next.js react 我们开源软件的浩瀚知识中,学到了东西,事实上这份报告里提到,比如我们的UI引擎,我们叫它ChatCN 它几乎处于垄断地位,占94.1% 当你决定部署React 或Next.js时 Vercel也几乎处于垄断地位,我很喜欢他们向监管机构,解释这个说法的方式,因为报告说它也是100% 但我猜这算是一种近乎垄断,总之编程agent 在某种程度上已经拿定了主意,这绝不是板上钉钉的,当你给他们特定任务时,这些确实是很好用的工具,比如,如果你在做一个SaaS应用,它极大概率会用Chatien 因为我们创建了,编程agent可以用的基础设施,你可能会问这个问题,我自己也确实问过自己 agent为什么还需要,附用已经存在的软件,这里有一种经济性,有一种效率偏好,对吧,理论上,一个编程代理,每次在你问他事情的时候,都可以重新发明世界,为了做出一个应用,他得先发明整个宇宙,他可以自己写一个Linux内核,他可以自己写网络系统,他可以写macOS 所以压住在开放的基础设施上,其实帮了大忙,因为现在编程代理,有了一个可以往上堆代码的目标,就像乐高积木一样,没错,事实上 Mitchell Hashimoto写过一篇很棒的文章 他是Hashicorp的创始人,最近加入了Versailles的董事会,他把我们现在要进入的世界,叫做积木经济,你得去想,你能给代理提供哪些构建块,如果你想参与其中,也就是说,我怎么才能让Claude Code 或者Codex 或者Grok CLI 选我的技术,你要想的是那些,符合代理人体工学的积木,这是第一点,我提到的另一点是,未来的软件会是代理,比如在Vercel 我们做了一个支持代理,现在能回答93%的用户咨询,这让我们的业务效率大幅提升,也改善了客户体验,所以我们会衡量,客户跟代理聊,跟真人聊,哪个更满意 93%这个数字,也让我们有能力,给多的多的人提供免费支持,所以我们用Vercel交付的那个东西,是一个agent 而不是一个基于知识的超链接网页,所以基本上,我们已经打造出了,构建agent所需的工具,积木和基础设施,我不打算深入技术细节,但我要告诉你一件很有意思的事,这里面有大量和旧互联网时代相似的隐喻,比如说,任何时候你把一个web系统部署上线,通常都会在系统前面放一个CDN CDN市场,像Akma和Fastly这样的公司,他们出现就是为了扩展,加速并保障页面和像素的交付,我们看到同样的事情正在token上发生,我们创建了AI Gateway 这是一个定义类别的产品,它就像token界的CDN 你从Claude 从Anthropic 从Gemini拿到Token 同样需要被观测,他们需要故障转移,他们需要被保护,而且在很多情况下 他们需要被加速和缓存,还有现在正在发生的,特别让人兴奋的事,我们可以对他们做负载均衡,你可能听过一个梗,说问GPT 5.5一个问题有多贵,你对他说谢谢,就激活了大概300块GPU 他回你一句不客气,所以想象一个智能CDN 他说,如果用户对我说,谢谢,我幕后有一个较小的模型,直接就能回一句,不客气,或者直接给个列表,对吧,或者用语义缓存,所以,从我们为互联网第一章,所构建的基础设施,到这个智能体互联网,有大量相似的隐喻,而且我很喜欢CDN这个例子,沙箱我刚才已经讲过了,它就像是agent的ECR 或者说最基本的计算单元,用一个不太技术,或者说比较通俗的解释就是,如果你给模型一台电脑 它就能变得更强大,或者说你能从模型身上,榨出更多IQ点数,所以模型正在被训练去使用电脑 [04:19:53]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

所以模型正在被训练去使用电脑

Apoorv Agrawal:所以模型正在被训练去使用电脑,实际上在后训练阶段,模型会被放进带游乐场的Docker容器里,所以模型就像是在迷你电脑里,先练练手,然后才去见世面,因此当你使用模型时,给它一台电脑,你就能从他身上,获得更好的表现,这跟人类其实挺像的,对吧,我们雇一个普通的脑力劳动者,你加入一家现代公司后,做的第一件事是什么,我们会给这个人一台电脑,也部门说,给你一台笔记本,预装好你的软件,等等,我们对agent做的也是同一件事,我们会说 agent 这是你的电脑,尽情发挥吧,也还会预先给你配好一些软件,让你干活特别高效,现在就像个人电脑,革命一样,它带来了病毒,它带来了网络钓鱼,它带来了尼日利亚王子,承诺你一键就能领取巨额财富 所以Agent也可能落入陷阱,把你的数据偷走,泄露出去,所以我们正在打造一整套安全产品,来保护这些沙箱和电脑,所以你会看到,又会涌现出,整整一类产品和公司,专门为Agent量身定制网络安全,还有其他很多方面,最后一点,也许也是我最兴奋的一点,既然我们聊到了特斯拉全自动驾驶,自动驾驶汽车和vamo 云本身也会变成一辆自动驾驶汽车,如果你有大规模运行软件的经验,你就知道它充满了像值班寻呼这样的麻烦事,那是种很可怕的体验,所以我有个从stripe创始人那借来的议事,他说每次听到鸭子叫,它的皮质纯水平就会飙升,为什么,因为它值班寻呼的铃声,以前就是鸭子叫,那意味着stripe正在崩溃 所以每次听到鸭子叫,他就紧张不安,所以维护软件,并在云端扩展他的平均体验,其实相当戏剧化,比如半夜收到一条告警,某个数据中心当机了 AlphaSoul在很大程度上,把很多这种痛苦自动化掉了,但痛苦依然存在,我不会跟你推销那些不真实的东西,比如你还是得坐下来监控各种东西,你得确保性能不会随着时间推移,而下降,所以这就是我对,云端的自动驾驶汽车的愿景,一切都自我配置,一切都自我优化,我们都会过上很好的生活,因为agent会在幕后,做所有这些工作,他会跑过来跟你说,我刚优化了你所有的软件,我让他快了两倍,这是PR 或者也许我已经把他上线了,而且我测过,他提升了你客户的转化率 所以这就是代理基础设施,这事的第三条腿,说几个特别快的客户例子 Meta已经自己建基础设施,建了很多很多年,很多在这些教室里学习过的人,后来都去了Meta 做出了不起的开发者基础设施,但他们发现Verso的基础设施,有这个优势,他们需要跑得特别快,他们的工程师在用编程代理,就这样Verso进去了,现在跑着Meta超级智能实验室的,很多业务,实际上我们帮Meta跑得更快,靠的是他们不用采购那么多软件,他们基本上就是所谓,氛围编程出来的工具,这些工具让他们训练模型更快,他们上线Meta.ai比原来快得多,靠的就是代理基础设施 Notion也在大力投入他们的第二章,很棒的工具,我天天用,但Notion本身也在变得agentic 这就是我提过的那个预测,未来所有软件都会是一个agent 所以Notion也在用Versailles的基础设施,来加这些AI和agentic能力,比如现在,我们就可以有一个notion转录agent 正在给这门课做笔记,那套基础设施就跑在Vercel上,所以长话短说,我们基本上在建一个,你可以理解成AI或agent界的AWS的东西,而且它是一个全占云,从开发者工具一路到基础设施,现在我们可以进入问答环节了,太好了,谢谢你,这软件正在消亡 Vercel就像一把砍刀,正在森林里开路,这就是人们用来做,氛围编程的东西,你一定听说过这些事,大家都在氛围编程,那些人们已经不再采购的软件,有没有一些例子,比如说上市软件公司的产品,被客户用V0 或Vercel氛围编程做出来 然后替换掉了原来的商业软件,越大越好,对,我一直在想的一件事是,最好的软件永远是那个,最贴合你需求的软件,撒有点奇怪的地方在于,一方面它需要很多很多聪明人,产品经理设计师,聚在一个房间里去说,什么样的通用UI 能让最大数量的客户满意,然后我们把它交给全世界,然后他们希望获得指数级的采用,因为比如说,我给你看一个报销工具,你说对,我可以把我的业务,塞进这个报销工具里,然后我把它给另一个客户说,对,也许你只需要把标签翻译成我的语言,但我也可以把它卖给那个人,但那仍然是最大公约数的软件,他需要这种非常好神的设计过程,去琢磨到底是一组什么样的像素,能让最多的人满意 我觉得现在正在发生的事,我不会把它叫做软件的死亡,我会说如果你用Vercel 软件从来没有跑得这么快,这么有生命力过,我们见过一些例子,这个是我最近从一个创业公司客户那里听来的,他们的首席工程师跟我说,哥们儿,你们的平台太危险了,我的CEO都在自己发布软件了,他用V0氛围编程搞了个东西,把我们原来的停车场管理软件给换了,还省了一大笔钱,你看这个例子,帕洛阿尔托那些聪明的公司,有几个会去做停车场软件的,对吧,不多,所以有一整类软件,我们一直生活在其中的世界,并不理想,那根本算不上高质量的软件,而现在,你离做出一个真正好用的版本,贴合你问题级的那个版本,只差一两个prompt了,我们看到的另一件事是,记录系统或者说数据库保持不变,但我可以创建一个 高度贴合我业务需求的表现层,有件事大家听了可能会意外,我们Vercel内部,把整个Salesforce重新发明了一遍,全部都是,就像我们所有的销售代表一样,当他们需要了解某个客户,某个销售机会,或者需要查看商业智能数据,比如该怎么去推销的时候,这一切都是自动生成的,而且只要两个人组成的团队,就做出了一个新版Salesforce 想想还挺疯狂的,比如说Salesforce有多大,按市值算的话,那可是几千亿,几百亿美元的量级,对吧,现在想想,我直接就能生成一个版本,专门贴合我的业务,不过话说回来,我们现在还在大量使用Salesforce 搭起来的工作流和数据库,所以这不是一个二选一的情况,你可以一步步让软件变得更有可塑性 更易调整,也更贴合你的需求,所以从某个层面看,我觉得人们低估了会有多少现成应用被扔掉,被这种软件生成带来的惊人速度所取代,但在其他层面,我觉得你高估了底层记录系统 ACL系统,访问控制层,这些东西你都是可以附用的,所以那些用正确的agent的接口,把自己开放出来的公司,比如MCP COI和其他API 这些SaaS公司会很好的融入这个世界,而且我想不会被编程代理干掉,对太有意思了,那我们真得请Vercel的创始人,来给软件行业上一课了,你的业务,你刚才那张图表挺漂亮的,自从Opus.5发布以来,也就是2025年第四季度,变化相当大,也许除了业务量,随着编程变得这么厉害,你业务的其他部分还有哪些变化,也许留存率是大家聊得最多的,很多氛围编程应用都在说 你做的定制软件这么厉害,大家还需要它吗,就像周六早上拿来玩玩挺好的,但周三早上你还需要它吗,对我们全都看到了,就像在对着消防水管喝水,对吧,我们看到有些软件,只对一次客户通话有用,这很有意思,我们有很多客户买Versil和V0 因为他们是销售工程师,售前效率被拉高了一大截,他们进客户会议的时候,已经带着一个按客户定制的软件版本了,想象一下这个差别,我给潜在客户放一套欢能片,讲我的软件公司能做什么,还是我直接给他们看一个活生生的,能跑的软件,这就是一次性软件的典型例子,因为没人会幻想,三次通话之后我们又发现了新东西,然后全扔了重来,所以从这个意义上说,你说的对,软件死了,或者说变成一次性的了,或者我更喜欢说,软件现在基本上免费了 但这也确实拉动了大量使用,因为Toby Shopify 管这叫AI的反身性,一旦你知道,你离跟另一个人,用一段高保真,软件原型视力演示来沟通,只差一个prompt的距离,你就再也回不去了,我真心觉得,我很多年前写过一篇文章,叫放弃效率很难,这东西给公司带来的效率,提升太高了,有工程师跟我抱怨,天哪,我再也没法用老办法写代码了,我的脑子已经没法按老方式工作了,但话说回来,咱们也得说清楚,现在还有很多智能体工程,难度依然很大,我们构建的很多基础设施软件,真的很难,有时候我们得召集三个agent 凑够法定人数,再加上一堆聪明人,就位盯着某一行代码,告诉我们它到底对不对,所以还有很多软件,生命周期依然非常长,真正最大的变化,是受众变了 有客户来找我们支持,在X上给我发私信,说我遇到了这个报错,朋友,我压根不知道Vercel是什么 [04:29:52]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

我压根不知道Vercel是什么

Apoorv Agrawal:我压根不知道Vercel是什么,是我的agent 把我带到这儿的,我不数了,当时特别开心,但现在就卡在这儿了,而我帮他们的方式是,嘿,你能把我介绍给你的agent吗,我问他们,你能把对话记录给我看看吗,这样他们就能把它带回给我们工程师,也许我们能把它变成evals 然后搞清楚,我客户的agent是怎么走到这一步的,以前对话要直接的多,会有人把我介绍给工程师,工程师会跟我说,是啊,哥们儿,我去看了文档,你说,这是API 他写错了,这是报错,现在他要经过Cloud了,我们最终会走向一个世界,就是agent和agent 直接通信,客户的agent 给我的agent提交一个功能请求,或缺陷报告,我的agent就说,我该怎么在现有的这些任务里,给他排优先级呢 我们有这个token预算,有这些截止日期,还有我CEO的偏好,他想让我先发那个东西,然后软件就这么长出来了,对我要调出你这边的一张幻灯片,就是那张花生酱和果酱幻灯片,我觉得这个框架太棒了,而你这里最大的成就是,你能给我们拆解一下吗,所以86次里有86次,比如说Cloud选了Versailles的部署选项,还有你的UI组件选项集 Chat C 这怎么,我是说,这看起来像是板上钉钉的事,你们是怎么做到,在UI组件上拿下100% 或90%的市场份额,在部署上拿下100%的,这是不是,这是跟Cloud签的企业交易吗,还是说这东西好到,让agent都像在说,我得实时做一次精英搜索,我就选他们了,确实有那回事,说来也怪,对,是什么,以上全部都有 所以有一个以上全部,包括那笔交易,我这边确实有交易,不过我不能确认,也不能否认存在那种,扩大Versailles访问权限的交易,但我要说的是,一方面是成本和效果,就像我提到的,很多很多年来,我们产出了海量的内容,而且坦白说,是真正高质量的API 对人类和agent都同样好用,对吧,比如SEO那类东西,对,不不,甚至比SEO还早,那我给你举个例子,就是那个Tailwind Versailles 底下用的那个东西,我在它上面压了很重的柱,我不会说我是最早压住它的人,但这项技术在人类开发者圈子里,争议极大,因为它看起来很奇怪,有人用过tailwind吗,举手我看看,好那我解释一下,代码是有审美感的,你看着它 它可能看起来对称,漂亮,舒服,也可能看起来像一堆垃圾 tailwind 某种程度上,把我们推向了一堆垃圾,那个方向,代码行变得特别长,对我这种有严重强迫症的人来说,我得克服偏见,去压住真相,那Tier1给你的东西,是一个叫局部推理的特性,当你设计一个组件的时候,我说的组件是什么意思呢,比如说我在设计这个UI 对吧,比如这个幻灯片UI 它有一堆组件,我们可以把这个叫幻灯片预览组件 Tier1让我能用一种,极其面向未来的方式来设计它,我可以这样去推理它的设计,如果我把这个组件拿给你,你甚至可以把它插到 Google的另一个地方,组件照样完美运行,所以它给代码带来了,经济上的可扩展性,我在上面压了重注,而且我克服了自己 对代码长相的那种本能反感,顺便说一句,如果Telwin那位老兄,听到这期节目,他懂的,他以前就听过我的反馈,所以我觉得,就是从那时候起,我们开始从,以人为中心的代码设计,转向真正对人类,对组织,对经济都更可扩展的设计,所以我设计的很多技术,比如Next.js 都有这种局部推理的特性 React在空间维度上也有这个特性 Facebook团队也得出了同样的结论,随着他们工程师越招越多,他们需要能让代码规模化扩展的系统,所以我们在API设计里放了很多东西 agent们直接就吃透了,原因有很多,比如context window 你不可能把全人类的代码,都塞进一个语言模型的context window里,今天我们有100万,所以代码的这种局部推理特性,变得非常非常重要,有用于训练和锚定的内容,所以当编程代理启动的时候 他会去搜索,对吧,这些agent会创造出这类东西,我提到过,你可以在Vercel上创建自己的Salesforce 同时仍然把Salesforce当作API来用,你可以在Vercel里,无头使用Salesforce 来托管应用,这一侧,所以这套技术战,也很好地融入了那个世界,所以基本上是一系列因素,汇聚在一起,把我们带到了今天这一步,非常可组合,对,可组合性,这个总结很到位,可组合性是这种智能体,可扩展性的关键前提,有意思,还有一张幻灯片让我很感兴趣,就是你做的事情有多少,这涉及的东西非常多,有些独立公司,全职工作就是做其中一件事,从沙箱到聊天,再到工作流,这似乎意味着,你在和整个技术站上的,一堆公司竞争,对,从可能不算裸机 但也就是紧挨着裸机那一层,一直到UI元素,当然还有部署,你是怎么决定,全都自己做的,全都自己做,哪些部分你会给自己打A加,又有哪些可能不到A加,你面临竞争最激烈的地方在哪里,对,这张幻灯片里,我只给你看了A加的产品,我觉得有很多东西,坦白说,我们随着时间推移,会扔掉或者降低优先级,我觉得甚至希望,在他们被大家看到之前,就处理掉,对但更大的设计选择,是全都自己做,这有点像史蒂夫·乔布斯说的,你得从机柜背面开始,把整个东西都做出来,我确实这么认为,我确实这么认为,对真正要紧的东西,你必须做全套 agent 要紧 agent很可能是,最后一种软件形态,而我在做的,就是构建agent所需的工具,和基础设施服务,我们不可能不参与 这个世界上最激动人心,增长最快的经济,这里有几件事,第一件是Vercel的产品开发理念 Vercel的产品开发理念是,我们靠吃自己的狗粮来构建产品,所以AI Gateway 就是这样一个token的CDN 它就构建在Vercel之上,实际上我们差不多把配方开源了,这样你也可以构建自己的,能与之竞争的token网关,比如像Open Router那样的东西,对,你可以再造一个,也确实有公司做出了不同的版本,做了不同的取舍,跟各自的服务,做了不同的集成,它用的是Fluid Compute 那是我们的计算平台,它用到了全球庞大的网络,基本上附用了我们大量CDN的能力,对吧,所以回到你的问题,我为什么要进入这个业务,这么说吧,我能附用火箭发动机的95% 对吧,还是同一个火箭引擎 同一种火箭燃料,就是当初驱动像素,或页面CDN的那套东西 Sandbox就是个绝佳的例子,我跟你说过 Verso平台在极短时间里,经历了疯狂的增长,这种事发生在创业公司,甚至成长级公司身上时,通常的结果就是什么都崩了,我很高兴地报告 Verso几乎什么都没崩,当然没有哪个服务是完美的,但我们的Sandbox 附用了同一套虚拟化底层,平台上每一次部署都是靠它驱动的,所以我们能把自己在扩展算力上的运维经验用起来,这个我前面还引过另一个指标,我是说我们短短几个月就翻了三倍,自一月以来,每日部署量甚至翻了一番,所以我们每次部署都会造出这些临时计算机,用完就销毁,有道理,所以Sandbox基本上就是把那套算力经验和虚拟化经验全部附用了一遍,对我们来说 这也是一个非常顺理成章的赌注,太有意思了,我接下来要问你的这个问题,我其实特别期待问,因为你在产品底层做了太多事,而且做出来的产品显然又那么漂亮,你知道这门课上,我们最常问的一个大问题是,价值会沉淀在哪里,对,从芯片到数据中心到基础设施,甚至到模型之下,模型本身还有agent 对,而且说实话,感觉至少在2026年,就现在这一刻,有大量大量的价值,正在流向模型之下的东西,芯片数据中心,电力散热能源,模型之上,编程模型有一些价值,客户支持和法律等领域,也有一些价值,但很集中,对展开说说,基于你在Vercel上看到的一切,你觉得价值会流向哪里,我的感觉是,你见过那些数据 比如代币经济里有多大,比例流向了编程代理,对吧,编程代理似乎是通往通用人工智能 最有希望的路径之一,或者他们可能就会成为,通往通用人工智能的那条路,所以对我们来说,好就好在我们建好了基础设施,就是编程代理,真正要做有用的事,所需要的那套东西,对,我觉得像这样的机会会有很多,说到底,决定我们是在一个巨大的泡沫里,还是在人类最激动人心的篇章里,取决于我们有没有交付,有用的服务和产品,所以结果就是模型要有用,它需要一个沙箱,需要一个部署平台,还需要一个域名,其实前几天我听到Codex团队说,人们会进入你刚才隐约提到的那个世界,就是我怎么理解agent在做什么,或者说像agent引擎优化 Codex团队告诉我们,很多人想给自己的作品起名字 想给它一个域名,所以他们其实是通过域名,先找到Vercel的,这其实我早期就压住过 [04:39:53]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

这其实我早期就压住过

Apoorv Agrawal:这其实我早期就压住过,要把购买和配置域名,做得极其快速简单,因为DNS简直是地狱,我的直觉是,当一个人有了想法,我们在座都是,很有创业精神的人,很多人会先去,把域名买下来,对,我囤了太多域名,多到我自己,都不知道拿它们干嘛,有时候到续费的时候,我心里还挺难受的,所以我当时就赌,你每年的预算是多少,话在,说出来挺丢人的,就是数目不小,但我跟自己说,这是数字地产,所以值,所以我们当时就赌了一把,想着当你有个想法的时候,你会需要这个东西,你会需要DNS基础设施,你需要域名等等,结果这个赌注回报非常丰厚,因为每当这个软件世界的新用户,冒出一个想法,他们就会过来,我们执着的目标是,能不能成为地球上 任何一个新想法的入口,我觉得任何能帮这些想法落地,变得有用的生意,都会做得非常好,我觉得安全会是这个世界里一个极其重要的考量,我得保持专注,我们的产品线也很有前景,但就是还有太多东西要建了,而且我最近想的很多的,不只是怎么让这些agent有用,还有怎么治理他们,怎么给他们加护栏,怎么让他们安全,怎么保护更广的互联网,所以我们的使命很大一部分就是,我们真的停不下来找工程师,我觉得现在有很多讨论,比如工程师是不是要完了,我可以告诉你,光是为了满足编程agent的这个用力本身,带来的惊人需求,就还有太多东西要建了,很有意思,快问快答,最后几分钟,挑一个你看多,非常看好的生意,再挑一个你看空,根据你所知道的一切 可能撑不下去的生意,做空的话你知道,我早就预言过他们的衰落,我是说现在这已经是明摆着的事了,但我很早就看出来了,比如任何做静态数据,或内容生意的,基本都完蛋了,对吧,当时最典型的例子,就是Stack Overflow 它就是个聚合器,攒了一个编程问答的数据库,我告诉你一个类别吧,因为我不想点名,把具体公司拉出来批,这个类别就是,任何觉得代码稀缺,代码难产的公司,有一整类拖拽式构建器,基本上就是带辅助轮的编程,我一直很讨厌那个类别,因为我从来不喜欢被人看低,我一直觉得那种软件,很居高临下,对太自以为是了,自以为是束手束脚,我就觉得我像个小孩,非得给我塞一个这种小界面,好像代码很吓人似的,所以有一大堆公司,是建在那个地基上的 他们接下来得认真想想,怎么转型诸如此类,还有那些不肯开放的公司,编程代理带来一个惊人的结果,就是他们想直接拿到原始信号,他们想直接杀到数据那里去,他们不想跟销售聊,不想花三个月,聊你的需求是什么,你的痛点在哪里,不,他们就想直接开干,按用量计费,及时注册,马上把token 灌进我的数据流里,这种东西才会赢,但现在互联网经济,有很大一部分,是建立在什么上的呢,我们其实没什么产品,我们有个电子宣传册,你得先跟企业销售代表,谈个三年,然后也许会有软件冒出来,你会忘了,软件生态里,还有多大一块是这样的,所以我看多,所有以token的速度,在跑的公司,对,所以我们做了大量工作,就为了满足这个需求,比如我最近在公司内部,写的一份报告里提到,作为工程师,你被教导要加限流器 限流器对系统的运行健康,非常有用,举个好例子,这又回到那个假想的,帕洛阿尔托房间,聪明人聚在一起说,没有公司每分钟,会部署超过100次,所以行限流写进代码里,每分钟100次,完全是随便定的,如今没人能真正知道,需求或合理配额是多少,你确实需要非常担心滥用KYC这类事情,因为我背后是超级计算机在支撑,所以我不能让任何人立刻收到一张账单,比如你两秒钟就烧掉了,一万亿美元的超级算力,能付一下钱吗,但我跟公司说了,伙计们不再设限流了,当然这算是一种挑衅,再说一次,出于运行健康的考虑,里面确实需要保留一些机制,这和按用量计费的定价模式是相辅相成的 那我为什么要限制你使用更多资源的能力呢,所以现在这是个好问题,我们有庞大的agent平台,一个三个月前还不存在的YC公司,在Verso平台上产生了大量部署,多到让我们都惊讶,哦我都忘了我们还有那个限流,我们根本想象不到,某个基础设施会有这么大的需求,所以非常看好,那些能满足这种需求的公司,结束前最后一个问题,如果你现在不是在打造Versailles 你会去做什么,替朋友问的就是这门课,航天科技,显然,比如我们能尽快上火星吗,对,为什么,为什么,为什么俄罗斯要去火星,我的意思是,我的偏好一直是,我很喜欢多行星物种,这个愿景,我一直把它想成,我是个追求高可用,多可用区,多区域 多层故障转移的人,说得好,所以我生活里,我选旧金山的住处,就是看结构安全性最高,还有内面最棒,最有历史,地震里从没塌过的挡土墙,诸如此类,我就是个搞基础设施的人,所以这些事我不得不想,但另外我对能源也特别兴奋,说实话,我们现在看到的是智能的涌现,它本质上是能量的双向流动,能量进去,智能出来,所以我们在裂变,聚变地热,不管哪方面,能取得任何突破,对我来说,都特别让人激动,太棒了,好那今天就到这里,非常感谢你抽时间 Jing 谢谢,很感谢,推理需求即将暴增,十亿倍,不是一千倍,不是一百万倍,是十亿倍,而让推理需求,暴增十亿倍的那个人,今天就在我们现场 Tuhin 非常感谢你来做客,请大家欢迎,谢谢 Tuhin Basin的创始人和CEO 你走到今天,经历了一段非常漫长风景丰富的旅程,有很多曲折的转弯,跟我们讲讲吧,班上有很多同学想成为创业者,我想我们会从这段旅程中找到灵感,对太好了,谢谢你们邀请我,很高兴见到大家,对我叫Tuhin 我是Basin的CEO 也是联合创始人之一 Basin大概有七年历史了,我从2012年开始就在科技行业工作,我原本来自澳大利亚悉尼,我是来这儿上大学的,其实我的职业生涯是从金融开始的,所以大学毕业后我回了家,在一家澳大利亚投资银行工作,叫麦格利,到那儿的第一天,他们就跟我说,你想不想去纽约做收费公路和机场私有化的项目,于是我就搬到了纽约 做收费公路和机场私有化的工作,干了大概两年,我无聊得要命,就决定回去做工程,那是我本科读的专业,然后我搬到了波士顿,去做一些机器学习方面的研究,那是2012年或者2013年,不对是2011年 2012年,我们当时做的事情,是用传统的机器学习技术,来追踪神经肌肉疾病的愈后,那件事我做了大概一年半,发了几篇论文,然后很快就意识到,如果我要做机器学习,哪怕是在当时,我也应该去旧金山,所以我就搬到了旧金山,以工程师的身份进入了早期科技领域,我觉得可能更重要的是,我有点爱上了早期科技小团队,做产品那种没人在乎你是谁的感觉,那几年我就这么干着,从2015年开始 创办了几家公司都没做成,但是我有了那股劲儿,所以到了2019年,我和我的两个联合创始人,一个叫Phil 一个叫Emil 我们在一起共事了差不多10到15年,这是我这边的问题吗,他们只是把你的水调大了,好的,不错,给你加点能量,对,我跟这些人认识10年15年了,当时我们就有个想法,觉得机器学习会变得非常庞大,那我们就顺着他,在旁边建一个基础设施业务,也许能抓住整个大盘的走势,显然机器学习比我们预想的要大得多,来的也快得多,所以我们过去四年一直在做的,就是生产级推理,为全球增长最快的AI公司提供算力,对,你手里这份客户名单,看的人直流口水 其实你发过一篇帖子,我把你的帖子抄过来了,上面写的是,这些创始人都是Basen 很有机会合作的对象,这些人里你可能认识几位,有些还来上过这门课,这大概就是跟Basen合作的 AI创始人里最顶尖的一批了,那你给我们拆解一下吧,从上面挑一两个例子讲讲,他们跟Basin合作,具体意味着什么,他们跟你们的合作,举个具体例子是什么样的,这对他们的业务,对他们的客户,又带来了什么,好,那我挑两个有意思的,我挑Tanay 排在最上面的,我挑Tanay 他其实就在斯坦福,你认识Tanay的,他就像我兄弟一样,很好,然后我会选拾IV 他们俩做的生意很不一样,他开了一家公司,叫WhisperFlow 我不知道在座有多少人知道WhisperFlow 有多少人听说过WhisperFlow 对,看看,太好了,他会很高兴的 WhisperFlow基本上就是一个语音打字应用,做文本转键盘 [04:49:55]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

语音转键盘

Apoorv Agrawal:语音转键盘,语音转文字,差不多就是这样,他们跑了很多字眼的定制模型,或者是在内部用很特别的方式改过的模型,才能实现那种体验,我们为他们做的就是跑所有的优化,所有基础设施都是我们在跑,这样从你开口说话到文字出现,延迟能压到最低,里面有语言模型,也有音频模型,实际上我觉得中间大概有三四个语言模型,还有两个音频模型才能实现这个效果,这些全都跑在Basin上 Shiv也是我的好朋友,他是一家叫Abridge的公司的CEO Abridge是做医疗的,是一个环境记录器,美国几乎每个医疗系统都在用,和电子病例深度集成,他们大概跑着20个不同的模型 从最基础的语音转文字模型开始,把手术室或者病房里,病人那边发生的事转成文字,再到后面把这一切变成一份,和电子病例深度集成的临床记录,全都包括,再说一遍,几十个模型,从可靠性角度,从速度角度要求都非常多,而且几乎每一个,其实我觉得是每一个模型,都跑在Basic上,我觉得这挺能代表我们想做的事,我们的判断是 AI的规模会大到难以想象,推理,就是AI价值传递的齿轮,而今天大概90%到95%的推理支出,都流向了前沿模型,大概5%流向了定制模型,我们相信那些用AI打造出色应用的人,要想做出能盈利能活下去,别人难以复制的公司 靠的是定制模型,而且我们希望他们都跑在Basement上,他们95%的支出都流向了前沿模型,对 5%流向了开源模型,或者说经过后训练的开源模型,对,明白了,其实在聊这个之前,我想问你一个问题,关于你刚才提到的那两家公司,就是Average和WhisperFlow 这两家都是规模相当可观的业务了,他们为什么要来找你合作,为什么不是通常来说,如果我是个创始人,我会去找我的云服务商,我会去找AWS GCP Azure 或者那些AI云里的新云厂商,比如Corevive, Nebios之类的,为什么是Basen 对,我觉得很大程度上,归结为我们正在构建的软件的,三四个核心支柱,首先显然是性能 你需要这些东西尽可能快的运行,如果你去Corevive Navius Oz GCP 那些优化就得全靠你自己,第二块是可靠性和算力,他们来找我们,是因为他们需要推理,能跨云运行,而且要高度容错,有弹性,我觉得其中一部分就是做到多云,能从多个来源获取算力,我们帮他们解锁了多云,第三块是我们提供的开发者平台,给他们灵活性,安全性,可观测性,以及所有那些让这一切成真的好东西,所以我们实际发现的是,很多人确实会先去你提到的那些厂商,然后他们才意识到,要在算力之上把整套推理技术战,搭起来有多痛苦,然后意识到来Basin才是更好的选择,有意思,我想现在回到你之前说的第二点 95%的token跑在前沿模型上 5%跑在某种后训练模型,或开源模型上,如果我用的是开源模型,或者对开源模型做后训练,那我就是从智能发展的谱系里,分叉出去了,而这个谱系本身还会继续进步,而且我冒的风险是,下一个GPT模型,或者下一个OPUS模型,我们就叫它GPT-6或OPUS-5 会比我刚好训练出来的模型更好,既然那个不用费力的选项,可能几周或几个月后就到了,我为什么还要费劲去分叉到这个特定模型上呢,对你看原因有好几个,我给你一个站得住脚的理由,再给你一个分识技术的理由,可行的理由,或者说商业上成立的理由是,你想啊,如果看一家公司,随便哪家,真正在用这些前沿模型做事的公司,今天开源模型,大概落后闭源模型90天 而很多公司面临的问题是,你能放一张幻灯片讲讲这个吗,继续,好,要我放吗,对,开业模型大概落后前业模型90天,而且你跑开业模型的成本,能比前业模型便宜70%到90% 便宜70%到90% 对,尤其是当你再加上一点,我记得上周你请了Yash来,他大概给你讲过,专门化模型的后训练那套说法,尤其当你把这点考虑进去,你真的能用这些模型做得更好,更快,更便宜,而且他们来找我们,真的是出于商业上成立的理由,当他们真正从,我有产品市场契合,走到我得做成一个规模化业务,得想办法把毛利率,从零一路做到40 50 60 70% 但愿能到你想去的水平,至于分市集俗的理由,我觉得是这样,你看你手里有什么东西 是前沿模型打不垮的,大概就是某个工作流,某个只有你才有的用户信号,如果你一直跟前沿实验室合作,某种程度上,你会把所有的数据,和那些用户信号都交给他们,然后他们就会,我跟一位知名的工程人员聊过,我不说是谁,他把前沿实验室比作东印度公司,他们在印度到处亮相,搞了一堆合作,实际上他们真正在做的是,你把统治那个地方的所有门道,都交给了他们,等你回过神来,他们的后训练模型,就已经在针对那些,对你来说神圣不可侵犯的工作流了,他们只是你知道的,所以要抵御这种情况,保住让你与众不同的东西,你需要在某种程度上拥有自己的智能,这就是为什么,你知道的,他们正在努力,他们正在想办法用开源模型做后训练,真正把自己的技术战打起来 去拥有自己的智能,有意思,再往深说一步,图形看起来,如果我的工作负载量更大,我就更有动力转向开源或后训练模型,你有几个客户,是规模非常大的客户 Abridge Whisperflow Cursor 等等,他们显然都是前沿模型的大客户,那是不是说,你的用户基数越大,就越可能采用这种方式,还是说反过来,是不是小公司更可能采用这个,我觉得规模越大,这件事就越关乎生死存亡,就越需要往这个方向走,因为我觉得你知道的,你做的越大,就越,我的意思是,也许你也可以聊聊这个,但你看看这些企业,当规模做到很大的时候,如果你只是单纯在交易Token 你知道的成本会变得非常非常高,需要的资本也越来越多 我觉得你需要一条通往盈利的路,这时候后训练就变得非常重要了,对,我的意思是那些领先的编程公司,不是前沿模型公司本身的那几家,你知道的,据说毛利率还是负的,所以我想对他们来说,要把token量转向开源,才能成为一个能活下去的生意,这是生死攸关的事,对,那当他们从,比如说Cursor用Anthropic模型,或者GPT OpenAI最新的模型,转向像他们最近做的那样,用后训练模型时,他们有没有注意到性能上的差距,之前Twitter上,关于他们和Composer合作的动静很大,性能会受影响吗,有没有办法把工作负载拆分,让性能不受影响,或者说用户是怎么感受到底层变化的,要知道几乎等于把法拉利的发动机给换掉了,对这个我们内部其实没什么数据,但我觉得总的来说 你当然希望它会变得更好,对吧,你当然希望他们根据自己手里的用户信号,去后训练模型,用户的体验会变得更好,而且但愿这也能把延迟和可靠性,这两方面的性能都拉上去,因为可控性高了很多,明白了,有道理,那Basin的业务到底是什么,我们怎么从用户身上变现,你也知道,现在AI领域有一大堆定价方式,有按结果定价,按token定价,按GPU小时定价,还有其他一些我可能都不知道的,我们处在哪个位置,这对你们最大的客户又是怎么运作的,对,你看目前我们是在算力上加价,我们大部分情况下是相对定价,也就是说,你来用Basen 你选好带上自己的模型,把它加载到Basen的推理站上,然后基本上,你基本上自己选,想在哪种算力上跑它,而Basin的H100 或Basin的B200 比裸的B200要贵,我觉得有意思的是,你可以想想,这算是一种,挺贵的获取裸算力的方式,但理想情况下,你买到的正是软件站,带来的那份价值,也有人按token计价,我们有些客户,说实话,我们现在在这方面,还比较粗糙,但我们正在走向一个世界,尤其是当我们在Basic内部解锁更多后训练工作流之后,叙事会从你为算力付多少钱,变成你为每个Token付多少钱,实际上应用层的公司会更喜欢这种计价方式,尤其是那些从Anthropic或OpenAI转过来的客户,他们能直接对比,看到能省下多少成本,有意思,我想追问一下你刚才说的一个点,你提到了后训练工作流,对,能给我们简单讲讲吗,后训练工作流是什么样的 好,从头到尾,如果可以的话,能不能举个例子,它是怎么运作的,在Basement上是怎么运作的,或者说像Cursor Bridge [04:59:49]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

Bridge

Apoorv Agrawal:Bridge Whisper Flow 这样的大客户是怎么用的,好,我们刚才聊到了一点后训练,对,就在这儿,所以我们是在做训练,作为客户,你真正要做的事情,是设计你的效用函数是什么,你要说的是,嘿,这就是我想用这个,给定模型去优化的目标,所以你需要自己定义这个,这部分我们帮不了你,我们不了解你的产品,我们不了解你的用户,我们不知道你在业务里,要优化什么,所以反过来,由你来决定,你的效用函数是什么,然后一旦你确定了,就开始给我们一批数据,再选一个开源模型,我们会给你全套的交手架,把它变成一个后训练模型,然后一旦你有了这个,它怎么接入推理那一环呢,所以我们基本上拥有整个闭环,你带来你的数据,你带来你的效用函数,你选一个基础模型,为了说的具体一点 你可以这样想,假设你在为一个医疗场景,构建一个语音转文字模型,你选择也许就是错误率,或者转录错误,这是你想要最小化的东西,那就是你的效用函数,你选择你想用的模型,比如说你可以用Kimi K25 然后你给我们一个数据集,我们把这套脚手架都搭好了,能把它变成一个非常非常好的,为此专门优化的后训练Kimi K25 然后我们显然已经把推理,集成的所有环节都预先定义好了,所以那些带着这些需求来找我们的客户,我觉得你会看到越来越多这样的情况,他们带着数据和对自己工作流程的了解来,然后带着一个在Basin上运行的,经过后训练的专用模型离开,他们把所有数据都托付给你,那可是命脉所在,对,对他们来说,把命脉交给Baseton 或者东印度公司 是件很自然的事吗,你知道,我们是西印度公司,我们是,你知道,我们是好人,我们是,我们是,我们是,我们是反抗军,对,对,我们想给反抗军提供武器,所以,这自然吗,我,我觉得没问题,我觉得大多数人都能接受,你知道,我觉得我们跟很多优秀的公司合作过,积累了口碑,品牌在这方面帮了很大的忙,而且你知道我们内部的安全姿态,也极其严格,而且你知道,你看我们同时跟好几家竞争对手合作,能接触到他们的模型和数据,你知道我们在内部划清了界限,确保这些数据之间不会互相泄露,所以这自然吗,我觉得其实没你想的那么糟 你也记得很多这类公司,都在拼命往前赶,速度非常非常非常快,对,而且我觉得他们更关心的是,你能不能解决他们用户的问题,而不是说我们非得,从零开始把什么都做一遍,我觉得他们对Basic给了很多信任,但我想,但愿这份信任是正来的,是靠我们合作的那些优秀客户,还有他们的朋友,那些人已经在用我们处理很多这类事情了,有道理,你们另一个隐含的大赌注是,开源会留在前沿,或者至少比前沿落后三到六个月,你知道前沿开源实验室的经济模式,对,还是位置数,位置数,我刚刚说位置数,对,还不清楚,而且你知道至少西方的开源实验室里,很明显Meta已经决定不再开源他们最新的模型了,这个展开说,开源到底靠什么赚钱 你觉得世界会怎么演变,你最好的猜测是什么,因为这显然是你下的最大的底层赌注之一,对,你看,我觉得Basin的两个大赌注,一个是存在一个应用层,一个独立的应用层,对,那开源模型会不会好到足够,让你继续做后训练,到目前为止,美国大部分情况已经表明,至少在过去两年里,它没能产出最顶尖的开源模型,比如现在最好的开源模型都来自,这太离谱了,中国我觉得,为什么会这样,为什么他们做不出来,为什么美国做不出性能这么好的开源模型,我觉得现在全世界最顶尖的研究人才都在两家公司工作,而且尽管他们的名字可能让人有别的联想,但他们其实并没有很强的动力去产出开源模型,我觉得,那为什么非美国的研究者决定走开源路线 我觉得一开始大概是为了保持存在感,对吧,你看像Munshua 阿里巴巴,还有minimax 他们看到的是一个市场机会,就是去占币源模型的对立面 Meta之前也这么干过,对吧,几年前,然后他们又出了名的,转向了另一边,对,你看开源模型必须存在,我觉得如果美国没有这个的话,多少有点关乎国家安全了,对,好的开源模型,或者说,如果智能的成本,在东方比西方便宜 70%到90% 就像那样,那可能不是什么好结果,对,我确实觉得,你知道,美国最优秀的那些公司,其实在开源这件事上,是相当一致的,谷歌推出了Jama 英伟达正在往Nemetron 那个模型家族,和Reflection AI上,投入大量资金,但愿几年之后,能出一个不错的开源模型,不过我觉得 这是不可避免的,说实话,如果十年后,我们处在一个,没有好的开源模型的世界,那大概会是一件,非常糟糕的事,对,对美国市场来说,但我觉得,我确实相信有足够的投资在发生,所以这事一定会成,你肯定做了吧,我猜你做了 Anthropic 今天早上发了一篇重磅文章,我看到了中美AI关系的未来,当然对Anthropic非常有利,对这件事有什么想法吗,要不给同学们总结一下这篇帖子吧,那你怎么看,我还没读,我一早上连轴转,但我的理解是有两种情形,一种情形是美国处在最前沿,对,另一种是中国紧要不放,不向上下,对,大体上就是这样,而且我觉得,也许你已经读过了,没有,就这些,就是这个意思,他们基本上就是说,要么我们领先,你把它关掉 要么我们不向上下,对,那就是一场战争,对,而他们的建议是,把它关掉,所以关掉,走向另一场战争,没错,听着,他们很厉害,他们做的研究非常出色,我觉得我这一生,一直相信一件事,在提出任何观点之前,你应该先把自己的立场,和激励函数讲清楚,我觉得他们没有做到这一点,对,你看,我不知道该怎么看这件事,我也只是,我就是觉得,我们昨天发了一篇文章,讲的是多模型共存的世界,我们认为智能,不应该被两个人垄断,我觉得在整个人类历史上,当权力过度集中在一两方手里的时候,通常都会出坏事,而且我也在一定程度上,不相信那个论点,就是这两家公司带着巨大的利润动机 就应该成为我们其他人的道德队里面,对,所以比如说当我想,我是不是觉得,所有最好的开源模型都来自中国,这件事很令人担忧,绝对是,而且他们很棒,我们跟那些团队都打过交道,他们非常出色,倒不是说我不信任他们,我只是觉得,对,美国也应该有优秀的开源,对,对,看起来,你觉得美国开源的势头,是在增强还是在减弱,从人才和资源资本的角度看 GPU呢,对,我觉得直到大约一年前,肯定是在减弱的,好,但我觉得现在,我觉得现在又回升了,我看,我觉得这背后是一家,非常,非常重要的公司,而且我觉得今年我们会看到很多,对,往反方向走的情况,对,而且我觉得这是必要的,不然最后就只剩两家公司了,应用层玩家就没了 没错,对,对,对,对,稍微换个话题,你处在一个非常有利的位置,能看到很多不同的硬件,你会在上面跑推理,对吧,其实你跑在两层上,很多不同的供应商,其实我记得你有一张图,我们可以稍微聊一下,但我其实指的是更底下一层,对,我猜你们交付的推理,大部分跑在英伟达的硬件上,因为它是最,大部分,大部分,对,相关,对,但后面还有很长的尾巴,你看 Trainium在最近一次财报电话会上公布了,他们大概有200亿美元的收入运行率 TPU我感觉肯定是个大数字,我们不知道具体是多少,至少他们没披露,然后还有今天早上的Serveris 对,然后还有其他人 Magic Medics Positron 还有我们不知道的那些 Dematrix Samba Nova等等,聊聊异构计算生态吧,你觉得硬件这边会怎么发展,你看,我们其实,我总体上相信多样性,我不能坐在这儿说,我相信多模型共存的世界,然后又说只有一种芯片会存在,那就太虚伪了,但话虽这么说,我们大部分算力集群,跑在英伟达芯片上 TPU很有前景,当然所有新一代的NEO芯片,如果你愿意这么叫的话,也很有前景,我们还没看到谁真的把TRAINING用出规模来,我觉得英伟达的优势,显然就是供应链已经非常成熟,成熟的供应链,而且你知道资本成本非常非常低,跟台积电的关系又非常牢固,我觉得今天要说有谁能真正跟他竞争,多少有点不切实际,对 再往深一层说,我们非常非常依赖的一样东西 [05:09:55]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

我们非常非常依赖的一样东西

Apoorv Agrawal:我们非常非常依赖的一样东西,就是CUDA 以及围绕CUDA的开发者生态,没有别的东西能比得上CUDA CUDA太强了,我觉得这些新架构正在冒出来,推理有两个核心部分,一个是玉田充,一个是解码,你知道过去一直是所有东西,都跑在同一块芯片上,但最终状态大概不会是这样,因为答QuietGrok 还有你提到的很多这些新芯片,都在尝试把,对,这些环节分开,郁田充和解码,解码,还有那些受内存限制的部分,都放在GPU上跑,而计算密集的部分,放在另一块芯片上跑,所以就是把它们分开,所以我觉得未来会走向异构架构,所有这些东西都是这样,我觉得对我们公司来说,现在就是尽量跑得越快越好,我们的客户也一样 ERCU的英伟达GPU的供应,还有能用上像TLTLM这样的东西,它明显就是为英伟达芯片打造的,那是什么,是一个运行室,是跑在英伟达芯片之上的开源运行室,是英伟达自己开发的,还有VLM和SGLAM 这两个也是开源框架,都是英伟达原生的,所以能不能跑得特别快,就是我们最看重的事,而这正是英伟达今天最擅长的地方,明白了,好,所以目前来看,这是一场相当一边倒的压住,对,但对未来抱有乐观期待,也许再往上一层也是这样,你来说说这张图吧,好,你在跟这么多不同的,云厂商合作,对,云厂商,其中一些公司,甚至已经发布了自家的推理平台,对,那其他公司没有理由不跟进,也许聊聊这个 比如通过这门课,我们感觉很多嘉宾都跟我们说,算力非常稀缺,对,可能确实如此,你们是怎么拿到算力的,接下来的策略是什么,对,你看我们跑在18朵云之上,我记得现在其实是20朵了,我们有87个不同的集群,把算力拼接在一起,这是我们最核心的一项技术,就是我们有能力,把来自不同地方的各类GPU拼到一处,让GPU在这种意义上变得可互换,我们这么做的原因有两点,第一是获取渠道,它能带来,你知道现在找GPU非常非常难,如果你再加一个限制,限定他们必须跑在哪些云上,那就更难了,所以我们做的就是,从任何能拿到的地方去GPU 把它们拼在一起 然后对客户屏蔽掉这层复杂性,这是第一点,也是我们策略的核心部分,我们会继续这么做,我们既会租也会自建,租赁与自建,对大部分情况是这样,但我们也会自己建设自己持有,好这个我们待会再聊,对,对,但要说为什么他们会去做这些,而且很多这类平台都有自己的推理服务,这说得通,那个技术战利,那个架在GPU之上的推理技术战利,价值很大,我们欢迎这个,我们愿意跟竞争对手合作,我们没问题,我们对自己提供的价值,有信心,但这说得通,推理的粘性非常,非常强,明白了,我觉得说真的,很多人以为推理是个商品,我是说你显然研究过这些市场,对,它跟当年人们买数据库的样子很像,对,某种程度上,你选了一次 就没法轻易换地方,对,而且今天早上你列出来的某位,很出色的创始人,我刚好跟他聊过,他说推理对我们的粘性这么强,是因为说到底,这是我们交付给客户的产品,对,我们不希望有任何干扰,对,在我们客户正在使用的核心服务里,这方面的颠覆,其实有时候甚至是最大的成本项,比他们的云支出还高,对,推理,就是智能本身,对,所以我猜这么大的一块蛋糕,竞争会非常激烈,绝对的,而且我觉得,一旦你处在token路径上,如果你的推理服务挂了,你的产品就挂了,对,你可别去碰那玩意儿,对,我在租赁与自建这个话题上,做了个标记,对,你能聊聊那件事吗,你知道,我们之前请过Cruzo的Chase来,他给我们详细讲了 自建数据中心那套完整的经济账,对,数据中心把整个东西都自己拥有,你选了另一条路,就是租,到目前为止,是的,目前是这样,对,好,目前是这样,对,再多讲讲,这看起来是个很重要的决定,而且生意的形态会很不一样,对,我们的论点在某种程度上是,技术战里哪一部分最有粘性,对吧,所以我们会说,软件才是这里技术战里最有粘性的部分,我觉得很多跟我们竞争的云厂商会说,能拿到GPU 才是技术战里最有粘性的部分,而且一旦你有了软件部分就简单了,我觉得这两种想法可能都挺傲慢的,他们有点傲慢,觉得软件这部分,他们能很轻松搞定,我们也是百分之百傲慢,觉得我们也能做,在某种程度上,我们这么做是为了速度 而且是因为我们本来,就没有建数据中心的业务,但对我们来说,往前看,有一件事越来越清楚,我要说的是,不管别人,怎么跟你说供应有问题,对,实际情况要严重十倍,你知道,我觉得你在谷歌财报的 GCG里看到了,他们有GCP 你看到这张图了吗,我觉得他们大概有,十倍的积压订单之类的,对,如果你现在出去说,你有一千块GPU 说真的,人家大概会告诉你,得排到明年第二季度了,明年第二季度,那就是12个月以后,也许15个月以后 15个月以后,我们有一个集群,跟现在比,算是小的,在当时算是大的,在其中一个云厂商那里,是B200 Blackwell芯片 B200很棒的芯片,有点旧了,但依然是块很棒的芯片 我们现在这个的单价是,每小时263 其实这个数字本身不重要,因为相对的部分才更重要,这个合同10月份到期续签,他们5月份就已经来找我们了,说新价格是510 哇,明年的价格翻倍了,翻倍了,这没问题,你打算接吗,不,绝对不会,那个这太离谱了,而且我们在这里,还有很多其他语言可以用,不过我觉得,现在变得非常重要的一点是,有一张幻灯片,在Twitter上流传,有一张来自OpenAI的 Numbron的幻灯片,在Twitter上流传,我觉得他也跟 Ultimate的人挺熟的,他做出了O3模型,那张幻灯片,基本上说的是,获取算力的渠道,就是战略优势,对,对推理来说,对我们来说,越来越清楚的是,你看我们现在 我觉得我们所有客户的基础推理服务,规模比OpenAI API还大,比Gemini还大,按处理的token数量算,我们每天大概处理30万一个token 基础推理服务比OpenAI的API服务还大,不是CHPT 是API产品,他们的API产品,好,对至少按上次的报告是这样,而且肯定比Gemini那个大,所以如果按这个趋势外推,两年后我们大概需要15万块B200等效算力,这个算力需求简直离谱,你能给全班同学换算成美元吗,好,大概是70亿美元的算力支出,轻松 70亿美元的算力支出太大了,这是个吓人的数字,对,我们想靠租用拿到这么多算力,恐怕不太可能 唯一能保证拿到算力的办法,就是确保我们跟芯片供应商有牢固的关系,能直接去买芯片,自己把基础设施搭起来,这就是我们要这么做的原因,是为了能拿到足够的算力,去满足我们的推理需求,而且这么做还有经济上的好处,大概能便宜30% 比如,那当然,我觉得你想想云服务商,比如Oracle 他们的毛利率大概就是30% 对,所以自建大概能便宜30% 对,去做这件事,对做集成,对,对,有意思,所以这个业务的形态,随着时间推移会变化很大,对,但你想掌握自己的命运,没有别的路,对,比如说你想想看,现在我要跟你讲第三个风险,但我先跟你说,一共有三个风险,对吧,就是开源,应用层 还有拿不到足够的算力,然后这就是这个业务的核心部分,如果我们不把这块处理好,我们会陷入很大的麻烦,对有道理,你知道其实,接着你刚才那个问题问一下,这个每小时263 续约涨到510 听起来有点离谱,对,你们最后谈到了什么价位,对,我们还没回复呢,好,是9月份的事,我们不用管那个,对,其实我们想问的是,算力稀缺大概什么时候能恢复正常,是12到15个月的事吗,还是好几年的事,还是好几十年的事,你最好的判断是什么,我相信你们肯定做过一些,对,这方面的思考或者经济建模,我倒是好奇你们怎么看,你们那边公开场合的人,是怎么说这个的,我觉得这事永远不会恢复正常 就像你之前说的,如果推理需求是今天的一亿倍,现在有两件事同时在发生,对吧 [05:19:52]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

对吧

Apoorv Agrawal:对吧,一个是应用变得越来越agent化,另一个是模型变得越来越大,这两件事都意味着推理量会大幅增加,也就意味着需要多的多的多的算力,对,我觉得这个类比真的很贴切,就像你每天早上五点出现在肯尼迪机场,根本不用排队,直接就能过,但到了早上八点,队伍就排到门外了,对,我们现在就是排到门外的状态,但肯尼迪机场晚上十一点到凌晨四点会关闭,对,我们没有任何重置期,对,所以它只会不断累积,对,其实这个类比挺有意思的,推理需求在午夜到凌晨4点之间,会降下来吗,你能以某种方式,把这段时间利用起来吗,这个怎么说呢,就像当他,总有一个地方是下午,我的意思是,事情就是这样,对吧,现在是5点,地球某个地方正好是啤酒时间,就像你知道 你总能找到理由喝杯啤酒,因为总有个地方,已经下午5点了,明白了,我觉得推理也是一样的道理,就算欧洲这边需求下降了,中国那边也会涨上去,对,对,对,有道理,我想稍微换个话题,你知道,我们课上一直在讨论的一个重点,就是在座很多同学以后,会去创业,开公司,或者在公司里工作,如果你现在不是在创办Basen 你下一个最好的想法是什么,你会去做什么,你会去建什么,这是个好问题,说实话,我可能会走Cruzo那条路,我会去投资能源和电力,而且我觉得这个建设规模,我们就是需要海量的空间,来放这些算力,我特别兴奋的一个想法,我希望有人能去做,也许在座就有人会去做,就是前几天我从奥克兰开车去旧金山,你总能看到那边的港口,看到那些集装箱 集装箱可以说是历史上,最大的经济驱动力之一,因为它把贸易单位标准化了,所以我的想法,我特别看好的一个方向,就是模块化数据中心,模块化数据中心,就是把算力单位标准化,因为现在谁把计算单元标准化了,我们就能真正把它工业化,比如你去跟现在所有在建数据中心的人聊聊,跟那些掌握电力资源的人聊聊,就会发现每家都不一样,所以只要你能,有意思,你能把,并且有一个统一一致的格式,你就是在为算力创造API 然后一个完整的产业,就会围绕它生长起来,因为这样一来,你就可以让同一批人,到处维护这些东西,然后你就能,你懂得创造出,那大概就是我会去做的事,有意思,好,我相信大家已经记下来了,顺着这个话题,除了这个之外 我们跟每位嘉宾,都会玩这个做多做空的游戏,在现在的创业公司里,有没有哪家,有没有哪个创始人,是你现在特别看好的,或者反过来,有没有哪家,你觉得被高估了,超过了他应得的程度,这个游戏我就不玩了,不过就前一个问题来说,你看我觉得我之前说的那些,对吧,那对不是我是说,我觉得整个建设过程中的任何一环,对,然后至于做空,我觉得我会盯上那些,就是没有在创新的公司,我其实觉得企业们没问题,企业们没问题,对没问题,但我觉得他们得想清楚,怎么把自己独有的东西拿出来,做后训练,然后跑推理,但那些没这么做的,我会非常非常担心,对,对,现在很多学生在想该学什么,尤其是那些刚起步的 你对大家有什么建议,感觉现在就像流沙一样,变化太快,对我也不知道,我其实觉得,你就学你喜欢的就行,没问题,我是说这真的是一个,对你会换职业,换职业,你六个月就能成为任何领域的专家,所以去做有意思的事就行,但我觉得,如果你真的在给模型融资,我现在花很多时间在想,怎么给数据中心融资,好,这是我正在深入的方向,我觉得项目融资这块,其实挺有搞头的,所以那是个值得研究的方向,对很有意思,好我们开放提问,我们还有五分钟,请讲,这显然很有意思,我觉得这个市场太,怎么说呢,太,如果你看过算力交易,是怎么做的,那基本上就是个毒品市场,真的,就像你得认识一个中间人,我而且我,你的那个人是谁,对我们有很多这样的人 你知道吗,我们办公室里有个人,就坐在角落里,他整天就是打电话,到处找人要算力,是ED吗,就是ED 对,而且这真的挺吓人的,所以我很看好,这里肯定会有市场,但我觉得市场还没准备好,你知道这更像是,它还不是一个成熟的市场,我觉得一个好的思考方式是,电力市场就是,你是说它没那么高效,对,有点迟钝,没错,继续说,所以,贝森的核心理念是,计算推理将消灭所有AI 对,那好处是什么,这样做有什么优势,对,我是这么说的,对吧,这个理念的核心是,世界上只有两种人能拿到算力,而他们拥有一切,这就是你知道,这就是其中之一,第二个观点是 我们非常依赖开源模型变得足够好,而且现在开源模型还不够多,这是第二点,第三点是,如果你真的相信通用人工智能这个论点,把它一路推演下去,一直推一直推一直推,那我们所有人都没事可做了,但我要说,也许推理是唯一剩下的市场,没错,是唯一剩下的市场,对没错,没错,请继续,大家都在说我们怎么开源,但在美国我们其实没怎么看到,我已经接受这个现实了,我们在美国确实没怎么看到,你觉得考虑到世界各地的国家安全影响,你还会继续建吗,或者说你怎么能为私营公司,创造人为激励,让他们去建,对,绝对会,我觉得美国可能,我认为他已经开始介入 开始思考这些事情了,我的观点是实际上,你去看英伟达,你去看微软和谷歌,他们其实在开源上,投入了大量工作,我只是觉得我们还没看到成果,还没到收获的时候,但会来的,所以我觉得实际上投资是相当多的,只是我们还没看到,而且我认为政府正在介入,但没错,绝对是这样,我觉得你必须创造人为激励,而且需要形成一个联盟,所有这些事情,才能自上而下的被推动起来,对,你看到刚才那张幻灯片了吧,两天前,中国政府投资了DeepSeek 对,对,总之你继续,有什么能阻止 Anthropic开展他们那些,落后,但依然相当不错的模型,然后既给自己,也给我们的企业提供毛功利,他们是不是还只专注于研究 为什么他们不能这么做 OpenAI已经在这么做了,他们某种程度上确实在这么做,但在很多方面,对他们来说,投入后训练,几乎等于放弃他们自己认定的,那个核心论点,对吧,就是说OpenAI和Antopic 最迷人的一点在于,如果你的论点是通用人工智能就是一切,那你做任何其他事情的理由是什么,他们应该把每一分钱都投到于训练上,对,所以他们某种程度上,已经在这么做了,但他们把资金推向我们的动力永远不会存在,因为这些模型之所以存在,就是为了让他们在最贵的模型上赚最多的钱,他们想尽可能的把能力差距能力论证推到极致,好请讲最后一个问题,关于模块化数据中心这个模式的想法,对,我就是好奇这和虚拟机有什么区别 问题是模块化数据中心和虚拟机有什么区别,对,这是个好问题,虚拟机在技术战里,要高好几层,我在想的是,怎么才能更便宜地,把更多算力建起来,所以从很多方面看,你问的其实是模块化容器,你说的是容器,一旦算力存在了,你就需要它,它其实就在更深的两层,对它是在不同的抽象层,对,我再接一个问题,这边有人吗,请讲,谢谢,我很好奇,你觉得根基在哪里,你觉得技术战更多是内部网络,对,它无处不在,这是最明显的一个,因为你确实在把关注点分开,内核这块还在继续推进,而且规模很大,英伟达里就有很多人,甚至斯坦福,我觉得也有不少人在做ThunderKings 这类东西,那里机会很多,但整个技术战都在变,这也是这个市场最迷人的地方,一切都像流沙一样,你得把以前的东西全扔掉,比如Aliya可能推出一个新的模型架构,然后一切又都重新洗牌了 Aliya 订阅了,对,对你知道他在做什么吗,我我是说我发过,对,好就这些,对,太好了,好非常感谢你,今天聊得很开心,对,感谢你抽出时间,今天我们请到了两位非常出色的嘉宾,他们来自不同的阵营,所谓阵营就是Anthropic 前OpenAI 前Meta 现在是Chad 今天的课程流程是这样,我先做个简短介绍,然后把时间交给两位嘉宾,请他们讲讲自己的工作,他们做的都是非常,非常令人兴奋的工作 最后我们会留一些时间做问答,那么话不多说,我快速介绍一下两位嘉宾 [05:29:55]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

我快速介绍一下两位嘉宾

Apoorv Agrawal:我快速介绍一下两位嘉宾,然后请他们上场,今天的第一位嘉宾是 Eric Kolder Abrams Eric的工作很有意思,他要让所有生物学都跑在Cloud上,他负责Anthropic的生物学和生命科学业务,去年10月推出了Cloud for Life Sciences 他们和BenchLink,CX Genomics,Novo都有很好的合作,我刚听说你上次来上这门课,还是你医医博士最后留下的心理阴影,那是体检物理的期末考试,我现在还有心理阴影,好,感谢你来做客,然后是Josh 你整个职业生涯都在教计算机,做生物学,我们在斯坦福很想你,欢迎你回来,你很早就加入了OpenAI 非常早,差不多快十年前就在OpenAI 后来在Meta 你打造了第一个生命科学产品 现在差不多一半的引用,都在引用你和ESME的工作,你创办了Chai Discovery 要把药物发现变成一个工程问题,就像你说的,分子的CAD套件,你从各路顶尖机构融到了资 OpenEye Anthropic Thrive 估值很高,所以我们非常期待深入聊聊,非常感谢你来做客,我们先从你开始 Josh 我拿到你的幻灯片了,如果你想用的话,谢谢,跟我们讲讲,讲讲你的经历,你并不是医学预科出身,也没有读医学学位,你是怎么,怎么走到今天这一步的,怎么绕了条远路,走到差爱的,其实这么说并不完全准确,医学预科的课我全上过,我本来以为自己会当医生,我家里是医生世家,对,我有一群哥哥姐姐,我小时候他们就已经在医学院了,所以我想做点跟他们不一样的事,于是我去学了编程 编程最让我着迷的一点是,当时我觉得在医学里看不到这种可能,就是你能真正把自己做的事分发出去,对吧,你写一段代码,它可以无限扩展,对吧,你可以直接把它发给很多人,是在高中快毕业的时候,我才真正接触到生物科技,然后我意识到,药物其实也有类似的特性,它是另一种,把医学和医学发现,规模化的方式,所以我一直是更喜欢写代码,而不是泡实验室,但我觉得这两件事,其实是紧密相连的,好,那跟我们讲讲,讲讲你在拆的工作吧,你们是做什么的,你可以花几分钟,带我们过一遍,好,你刚才说得很好,我们在拆剧做的事情,就是搭建一个,面向分子的,计算机辅助设计套件,如果看看接下来会发生什么,看看这些幻灯片能不能放出来,好,我们正在准备的一件事,要我说是在中期内,因为长期来看 我们今天做的很多实验室工作,很可能都会转移到计算机上,它会朝着这个方向走,我们可以在这里展示的一个目标就是,我们希望能设计出抗体分子,现在货批的药物里,大约有一半被称为抗体,而做一款药,要经历一个很大的试错过程,你先找到一个初步的候选分子,然后对它做一大堆修改,才能让它具备成为药物所需要的各种性质,我们最大的假设是,总有一天我们能直接从计算机里零样本,生成这些可以直接用于患者的分子,所以我们创立这家公司的时候,就是带着这个宏大目标,觉得这件事会变成现实,而且一旦它变成现实,对大多数人来说,用这种方式设计药物,就会成为一件理所当然的事,所以我们大概两年前,两年半前创办公司的时候,所有人都说我们疯了,一方面是说这技术能成吗,另一方面是,你们难道不需要自己做药吗,最有野心的生物科技公司 目标通常都是成为制药公司,而我们的野心是,不,我们希望大多数药物都用这种方式设计,我们不会自己生产大多数药物,我们真的想和整个生态深度合作,所以我们相当于同时下了两个相反的赌注,所以我很感激就像你提到的,我们能把那些响亮的名字放进股权结构表,但我觉得从那以后已经取得了巨大的进展,明白了,所以你们会把分子计算机辅助设计套件,提供给像阿斯利康、辉瑞这样的制药公司,对吗,没错,对,世界上一些最大的制药公司,已经在用Chai的模型来设计他们的药物了,明白了,太有意思了,谢谢你 Eric 轮到你了,请跟我们讲讲你的经历,你创办过几家公司,也运营过不少公司,现在在Anthropic 你在忙些什么,好的,我最初受的是数学和物理的训练,后来进入了AI研究领域 这其中的主线是我认为理解智能,是我们这个时代最重大的理论问题,然后实际上是在这里读研究生的时候,我在Cabernet-Bain的实验室,也就是Brain in Silicon Lab 作为一个傲慢的物理学家起步,在那里我第一次真正接触到了生物学,因为我们研究大脑,试图找到可以带回AI领域的原则,那真是一见钟情,我想从那时起,我就通过我创办的公司,越来越深入地走进生物学的世界,接触了分子生物学,生物化学,有机化学,研究生毕业后,我创办了好几家医疗科技和生物科技公司,从那以后就一直待在这个领域里,我想当我运营最后一家公司的时候,那是一家叫Detect的分子诊断公司,我当时回头看了看AI领域正在发生什么,看到了拆棋PT刚刚萌芽的样子 我永远不会忘记当Sonic 3.5出来的时候,能力出现了一次,节约式的提升,我开始让他帮我处理,运营生物科技公司,日常中遇到的各种事情,比如调试实验室里,失败的实验,回应FDA的反馈,诸如此类,我当时非常震惊,那时候他居然就已经有用了,在那一刻,我非常清楚地意识到,这是一项,我们可以用来端到端,加速生命科学领域,研发全过程的技术,我想扎实后聊过这件事,我们各自在做的事情,我一会儿会详细解释,是互补的 Zyentropic 我们想做的事情,就是搞清楚如何端到端地,加速生命科学领域研发的全过程,这包括基础研究,药物开发,而在药物开发内部,你知道,我认为Josh在做的事情,是实际设计药物,这个难题中很大的一块,但在这之后还有很多工作,还有所有的临床开发 监管流程,向生产制造的转移,我们的愿景是训练Cloud 把这一切都做出来,对吧,所以在模型训练层面,我们有一个全站的模型训练计划,让Cloud达到最先进水平,在你能想到的各个方面达到或超过人类专家的表现,支撑这一切的硬核科学领域,对吧,生物信息学,化学,结构生物学,等等,还有设计和开展临床试验,回应监管反馈这些临床和监管方面的事,甚至包括运营一个药物开发项目的战略层面,比如选拔点和药物类型,组织研发计划,决定什么时候推进或砍掉项目,所以我们就是在训练模型,做所有这些事情,而且除此之外,我们认为光有顶尖的前沿模型还不够,我们还得确保模型的能力,能被人们用起来,融入工作流程 连接到你需要的所有工具,所以我们也非常关注产品层,确保我们有面向生命科学专业人士,优化的产品,沿着这个方向,我们有一个类似 Claude Code for Bio的东西,很快就会推出,我们的思路是,把Claude Code在后台的强大能力拿过来,在上面加一个为一线科学家设计的界面,对吧,这样你就能可视化蛋白质和小分子,摆弄这些东西,让Cloud明白你在说什么,然后调动大量算力去跑各种模型,比如Chai之类的,所以我们非常关注模型层和产品层,我们把这两样东西合在一起,看作我们要在整个生命科学领域,推广和规模化的平台,去实现我们的目标,我们的目标就是,让生命科学领域正在发生的一切,实现端到端一个数量级,甚至更快的加速,我觉得生命科学领域非常庞大,这里面有太多不同的部分 我觉得我们聚焦的头两个目标,是加速基础研究和加速治疗药物开发,而且在这些方向上,我们现在都在启动更具体的项目,比如我们最近建了一个湿实验室,把我们的模型和产品放进去实地检验,看看怎么才能最大程度的,加速我们选择去做的,这个特定研究领域,也就是红基因组发现,我觉得我们得亲自试用,自己造的东西,去试,去找它的极限,帮我们搞清楚,该把模型训练和产品开发的力气,往哪使,然后在药物开发这边,我待会儿可以再多讲一点,但我们现在想弄明白的是,除了有模型加产品这个平台之外,我们作为社会还需要做什么,才能扭转现在这条轨迹,在合理的时间范围内,减轻疾病和衰老的负担,我不想卡在我们未来几年,能治好所有病这种话上,对吧 我们可能在那卡很久,但我相信,在anthropic 我们相信了不起的事是可能的,我们当然不会在未来五年内,治好所有病,那种话太离谱了,但我们真的很专注在,怎么扭转这条轨迹,让我们走上,能实现那种结果的路,所以我们在那边,有一大堆更具体的事在推进 Eric 我还以为你会说 通用人工智能就意味着治好所有病,但也许那比通用人工智能还要再晚一点,接着你刚才说的追问一句 Eric 你能不能帮我们,帮全班理解一下,一款药从开始到上市,从头到尾的流程是什么样的,听起来好像分了好几个不同的阶段,也许你可以几乎把横轴当成时间,或者一款药的中位时间,或者你想的话挑个例子也行,然后在这个流程里,在哪个环节,如果有的话,好问题 先铺垫一下背景,平均来说,一款要从头到尾开发出来,从你有了想法那一刻,到你拿到FDA批准,上市那一刻,大概要10到15年,差不多这个范围,对吧,也有更快搞定的例子 [05:39:45]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

也有更快搞定的例子

Apoorv Agrawal:也有更快搞定的例子,我觉得世界纪录,大概接近五六年,那个水平差不多那样,对吧,但那是中位结果,所以确实要花很长时间,而且这个过程里,有好多好多不同的步骤,我觉得我有个一直想吐槽的点是,你看关于药物开发的瓶颈在哪,机会在哪的讨论时,很多人会急着说,瓶颈全在临床试验,对吧,或者说全在药物设计,其实不是集中在某一个环节,它是分散在,要我说五到十个瓶颈里,所以不是无穷无尽的瓶颈,那样说也没用,但也不只是单一一个环节,那样就太过于简单化了,那我们从头走一遍流程,第一步是你得先决定到底要治什么病,一旦确定了疾病和你要针对的患者群体,接下来就要选靶点,靶点就是身体里那个 你想针对它开发药物的分子,你等于是在说我有一个假设,如果我能有效作用于这个靶点,对患者是安全的,而且能治好病或者有帮助,对吧,所以第一步就是找到好靶点,这里面有很多可说的,我想先强调的一点是,治疗药物行业有大问题,叫靶点拥挤,你看任何一年,全世界整个治疗药物市场,在临床阶段推进的,静心增靶点有多少,大概也就30个左右 3-0 就这么多,就冲这一点,如果我们每年只追 30个静心增靶点,那在任何一个,合理的时间框架内,我们都不可能治好所有疾病,对吧,那靶点总数有多少,靶点的宇宙有多大 TAM是多少,非常多,好几千个,大概1万左右吧,这么说有点过于简单了,但人类基因组里,有1万9千个基因,所以理论上,其中任何一个 都可能成为药物靶点,对吧,当然不是所有基因,都能成为靶点,对吧,而且还有一对多的关系,但肯定是在几千,这个量级,所以这是第一步,那这10到15年的时间预算里,有多少,已经花在这第一部分了,其实有点悲观的一点,是时钟其实要等你,选定靶点之后,才开始走,好明白了,但这是整个流程里,很重要的一部分,所以一旦你选定了靶点,接下来就是,朝食大闲伸手的时候了,真正去开发药物,对吧,你选定了靶点,下一步就是要搞清楚,我要开发哪种类型的药物,是基于抗体的药物吗,还是小分子,还是那些新兴的药物类型,比如分子胶,或者其他东西,又或者是基因药物,然后你选定药物类型,这可不是显而易见的事,有时候你有很多选择,但接下来你确实得设计药物了,对吧 这就是临床前阶段,你在做基础科学工作,努力开发一种能结合靶点,对患者安全的药物,对吧,不能有拖把效应,而且不仅如此,还要能被身体合理的代谢处理,不会消失或者转化成别的东西等等,所以我觉得这就是人们通常理解的药物开发的科学阶段,从历史上看,从选定靶点到启动临床研究,这部分平均大约需要四年,所以我觉得很多人说这里没有机会,这是第一个搞错的地方,这里的机会巨大,而且我觉得,我想你也有同感,我觉得我们可以把那四年缩短到接近零,对吧,原则上在理论极限上,对吧,而且我确实认为,我个人的看法是,我们能不能完全做到零样本药物设计,其实没那么重要,一次样本就已经很好了,如果你直接让模型给你一个药 它给你几个候选,你做一轮测试,几周后你就拿到药了,那简直太棒了,对吧,相比之下,我们现在说的是四年,不过我可以让Josh详细讲讲,但即使在药物设计这个阶段内部,也有非常多的不同环节,对吧,你先拿到初步的命中化合物,这就像是,我们只是进入了正确的范围,我们能命中靶点,对吧,然后在那之后,你要做优化,把命中化合物推进成先导化合物,对吧,你要努力获得所有那些,你想要的额外性质,比如它的可制造性怎么样,它有没有拖把效应,它在体内稳定吗,它是不是按你预期的方式,被代谢处理,对吧,所以有所有这些优化工作要做,我觉得这些真的非常适合AI来做,但就是想把这个过程稍微加速一点,你设计出药物,有了候选药物 在行业里通常叫它开发候选药物,有了开发候选药物之后,你要锁定生产工艺,还得满足各种相当高的标准,对生产的严谨性和文档记录都有要求,然后你就准备好开始在人身上做临床研究了,要启动这些试验,你得先从FDA拿到一个叫INDI的东西,拿到INDI之后就进入临床阶段了,这个阶段分三部分,首先是一期临床试验,历史上虽然现在有很多种变体,但一期临床试验主要关注安全性,传统上然后是二期临床试验,这是你第一次看疗效,再往后是三期临床试验,这是最终的验证性研究,用来产出证据,证明你的药在人体上是安全有效的,这也是最终获得FDA批准的基础,与此同时,在这一切进行的过程中,还有大量关于生产转移方面的工作,这就是整个过程 如果说开发药物要四年,那临床阶段呢,从开始一直到FDA审批之前,整个过程大概是6到9年,差不多这样,对吧,时间就是这么分配的,成本则非常集中在临床阶段,但我觉得用AI从这两个环节里,压缩时间机会非常明显,也非常直接,无论是临床前阶段,还是临床阶段,不过这就是个盖栏,对,非常有帮助,谢谢你,周老师你显然已经决定,把精力集中在,你认为杠杆率最高的那部分上,在这个框架里,你处在哪个位置,其他的工作在哪里,你打算怎么压缩时间线,这个问题我有两个答案,我觉得Eric刚才做得非常好,把整个过程拆解成了,这么多不同的阶段,而造一款药真的非常复杂,制药行业之所以有这么多不同阶段,原因之一就是,你怎么知道自己有没有走在正轨上,你确实得把它拆成一个个小关卡,然后逐个通关,但归根结底 我们真正要找的是某种,能真正调解某种疾病的分子物质,造药的过程,本质上就是这样,往大了说我们有临床前阶段,对吧,就是努力找到那个分子,然后是临床阶段,就是努力证明它真的有效,但如果只从宏观上看,其实就是找到一个,能在患者体内起作用的分子 AI之所以这么强大,其中一个点就是,这些东西真的可以重新串联起来,对吧,如果我能设计出更好,效力更强的分子,那但愿我的临床实验也会更容易做,这个领域现在最让人遗憾的一点是,有太多药物,只能把寿命延长一个月,两个月,差不多这样,当然对那些需要这些药的患者来说,这已经很了不起了,对吧,我们也应该继续做这些工作,但当你面对那么微小的变化时,临床试验真的很难做,对吧,要设计一个试验,让你能真正以统计显著性 看到那个效果,并且让药物获批,是非常困难的,如果你有惊人的数据,你的试验一下子就容易多了,我觉得我们其实可以把代码生成,当做一个透镜,看看这里可能发生什么,你想想,哪怕是一年前,人们用大语言模型做代码生成是什么样,你会得到一个初步方案,然后试着调试,再丢给另一个大语言模型去问问题,那是整个迭代过程,最后才能得到能跑的代码,现在你可以零样本,直接生成一个应用,对吧,我觉得这就是零样本药物,发现有可能解锁的东西,这不只是把四年时间压缩到零年,我觉得更重要的是,整体上做出更好的药物,我们聊过靶点和TM 对吧,大家挤在那么一小撮靶点上,也就30来个,但大约80%的以命名疾病,都没有获皮的药物,对吧,这也是一个巨大的问题,所以我觉得做出更好的药物,做出更多的药物,归根结底就是这件事,说了这么多 差异现在专注的地方,因为再说一次,你在建创业公司,总得有个聚焦点,所以我们从分子生成,这个环节起步,因为我们把它看作,所有其他可能性的顶点,我们特别兴奋于你们的工作,原因之一就是,如果我们能加速整个外部循环,也就是现在那些迭代周期,那我们就能从模型里得到更多射门机会,但我认为随着这两件事都变得更好,它们会互相强化,而且我觉得接下来几年,整个事情会是指数级的,有意思,那么最明显的问题就是,为什么是现在,这是个由来已久的问题,我们一直想长生不老,一直都想是什么变了,哪些新技术解锁了这些,为什么现在会加速,说实话我这整个职业生涯都在尝试做这件事,你之前提到过那段经历,从OpenAI到Facebook 我觉得任何人都不该对AI进步了很多,这件事感到意外 模型架构已经发展到了一个更具可扩展性的阶段,算力也大量上线,一切都快多了,而且我们还能构建很多新的数据集,我觉得另一部分原因在于,大家也很愿意拿这些东西做实验,想想差异是怎么定位自己的,对吧,我们把模型带进制药公司,还有另一面就是你可以把东西造出来,但人们也得愿意去试,第一,现在大家对AI真的很开放,但第二压力也很大,看看生命科学领域在地缘政治上发生了什么,实际上任何这类制药论坛,每次我去参加制药相关的会议,现在都只有两个话题,一个是AI 一个是中国,现在美国面临的一个问题是,在药物发现这件事上,中国正在超越我们,怎么说,他们效率高得多,工作更努力,在那里发现药物的成本也更低,这还只是临床前阶段,临床阶段就更不用说了,那边的监管环境 在中国拿到一个药物,做到首次人体试验要容易得多,但如果我们想想,美国在生物科技中的角色 [05:49:53]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

美国在生物科技中的角色

Apoorv Agrawal:美国在生物科技中的角色,有一个原因是,我们迫切需要AI在这里发挥作用,因为中国可以跑得比美国快,但中国跑不过AI 我觉得这会成为一个,巨大的民主化的力量,让我们美国有能力,真正研发出更好的药物,所以我觉得有很多,为什么是现在的理由,既有为什么是现在,也有,我们现在真的需要它成功,所以从世界正在发生的事情来看,我们算是幸运的,它正在发生,对,那对你们两位来说,为什么是现在,有没有技术层面的原因,你会不会说,嘿显然,因为AI和中国需求,现在确实存在,但有没有什么东西变了,大语言模型是不是,给了我们一个飞跃,那是一种超能力吗,在你看来,这种超能力的威力有多大,是那种我们要把15年缩短到15分钟,还是15年缩短到5年,帮我们衡量一下这个尺度 对我觉得到目前为止,我对为什么是现在的第一个回答,就是大语言模型的存在和快速进步,但我也觉得其实有几个趋势正在同时汇聚,对吧在同一时间发生,我们非常幸运,因为事情本来不一定会是这样,但大语言模型是其中之一,还有各种其他大型模型,比如Chai模型,对吧,这些基础模型,它们是互补的,因为正如Josh所说,大语言模型,我把它看作外层循环,它做你做的事情,对吧,作为人类,你用Chai的模型,得到一些设计,然后你思考一下,再到实验室里去测试,对吧,然后你不断迭代,对吧,但愿不需要太多轮迭代,对吧,但现在整个这个过程,都可以由Cloud来完成,而且它正在变得越来越好,对吧,所以你有这两股趋势 底层的基础模型在变得更好,所以一开始你需要的迭代就更少,同时你有有大语言模型,可以来做外层循环,让整个过程变得更快,所以我觉得这是一个很强的趋势,我刚才举了一个,在临床前阶段,使用这些工具的例子,但对于大语言模型,我认为在临床阶段,某种程度上也是一样的,所以这是第一股趋势,另一股趋势,我们非常幸运,它恰好同时发生,就是生物学中数据生成的规模可以非常巨大,对吧,我们有所有这些不同的测量技术,它们正变得越来越成熟,测序到这个时候已经不算什么新鲜事了,但在这之上,对吧,我们有单细胞测序和蛋白质组学,还有高通量的抗体检测技术,以及各种其他检测手段,都在不断为这些提供数据 所以我觉得这些趋势同时发生是很重要的一块,至于下限在哪里,对吧,如果我们处在10到15年的区间,我认为我们有清晰的路径,能把整个药物开发周期,缩短到5年以内,而且我把这当做一个上限,我觉得,你可以想象整个过程,在几年内完成,最终下限,会由临床试验的时长决定,但在这方面,我觉得机会比人们想象的多得多,原因有几个,对吧,比如有人会指出,假设你在做一项,针对骨质疏松的临床试验,传统上你得等一段时间,看有多少人的骨头断了,所以要获得足够的统计功效,你得等一年左右,对吧,这就天真的给这项临床试验设定了一年的下限,但原则上还有其他方法可行,比如如果我们能开发出替代指标,对吧,如果我们采用正确的检测方法 对生物学了解的更多,能从我们测量的身体各项指标中,判断预期效果正在发生,对吧,你可以想象,为临床试验设定不同的终点,从而缩短时间,而且正如扎实所说,我觉得这一点非常重要,首先就是更大的效应量,所以你需要招募的受试者数量,取决于效应量,药物越有效,受试者就越少,整个过程就能越快,所以这就是我得出,那个时间估计的推算过程,对,从历史上看,生命科学领域,一直有两种定位,要么你开发完整的药物,并销售药物,享受卖药带来的收入,要么你做一个工具,或者你卖一个工具,对吧,而且至少,大多数传统生物技术投资者,会把生命科学企业估值成,怎么说呢,来自他们药物的收入流,或自由现金流,折现回今天,然后做一个现金流折现,那就是你的市值 或者说风投愿意付的估值,你决定建一个工具平台,卖给这些人,而且听起来 Eric你说了诗实验室,你要建一个诗实验室,那这意味着什么,你们要在Anthropic开发,完整的药物,然后靠药物变现吗,对,好,问题,我应该纠正一下这个误解,所以,那不是我们的计划,好,去开发药物,我们也在大力建设工具,我们希望行业里的其他人来用,我们施实验室的目的,我一直在讲药物开发,但我们另一个首要目标是,加速基础研究,对吧,把它本身当做目的,所以施实验室,是我们追求那个目标的沙箱,我们确实有一个基础研究团队,就是纯粹在做科学,把我们的工具拿去检验,通过你能想到的一切方式,最大化的利用Cloud 所以诗实验室,确实承担着不同的目的 明白了,这门课上我们讲的最多的东西之一,到目前为止,很大一部分都集中在半导体层,还没有太多深入到应用层,在你们生物学这个领域,历史上价值一直是在卖药那一层,而不是在工具层,如果我说错了,你就正我,但你们两边都在建工具,而且大概有理由相信这次会不一样,为什么这次可能会不一样,我能给的最简单的答案是,工具变得比以往任何时候都更有价值了,如果你看看历史上价值都沉淀在哪里,我们今天市面上有的那些药,其实都极其原始,说实话,用我们今天手头这些工具能发现药物,本身就已经是个奇迹了,人们经常问Chai 你们的竞争对手是谁,答案其实就是酵母小鼠,还有实验室里那些传统工具,现在的药简单到什么程度,就像试图去堵住一个靶点,比如细胞上的某个靶点 然后它们有各种副作用,实际上大多数药,都有很多本不该有的脱靶效应,所以我觉得随着工具变得越来越强大,更多的价值沉淀到工具上,是说得通的,你为什么要为一个,不影响你成功概率的工具付那么多钱,如果我们这里聊的一切,如果Eric说的那些都成真了,时间线缩短,成功概率提高,那么作为一家制药公司,你一旦采用这些AI工具,就应该开始按更高的倍数来估值,因为如果你的成功概率上升,把东西推向市场的成本下降,时间线也缩短,光是采用这些工具,你就变得更有价值了,所以大量的价值,应该沉淀到工具制造者身上,而且工具本身,也比最终产品要可扩展的多,对,我们还观察到的另一件事是,西方最大的那些生物技术公司,都是几十年前,甚至几百年前创立的,他们大多在20世纪,还有几家在19世纪 过去25年里新成立的,只有那么几家,你觉得影响之一,会不会是更民主化,更多创业公司涌现,因为工具太容易获取了,你进去看,这里会有几个二阶效应,第一件事是,今天你只要比制药公司,稍微高效一点,就能创办一家生物科技公司,制药公司是庞大的组织,而你从Cloud里,可能拿到某个靶点洞察,对吧,然后你把一个分子,快速推进到临床试验,你在患者身上拿到一些概念验证,然后制药公司把你收购了,两年后,当你可以直接零样本生成那个分子时,会发生什么,你甚至可以零样本生成一家生物科技公司,对吧,我想那是不是意味着生物科技会消失,我其实不觉得会这样,我觉得生物科技会围绕这个进化,就像今天,如果你能零样本生成一个应用,你就不能只卖一个工具,那太简单了,那就是零样本 你需要想出别的模式,或者更复杂的,价值更大的软件,所以我觉得这里,很难预测会发生什么,因为再说一次,这是指数级发生的,同时有太多事在发生,有很多二阶效应,所以我觉得总体来看,如果一切都停滞不前,你可能会看到,资源向现有巨头集中,但现实中,人们总会找到新机会,以后还会有新的创业公司,不断出现,而且成果会比以往,任何时候都更大,因为我们有了更好的工具,去实现这些事,很有意思,你们有一个非常特殊的视角,你们大概知道,现在开发前沿的所有情况,你们领域目前最大的,还没解决的问题是什么,你们期待这些问题,被模型或者其他方式解决吗,对,我觉得有几个问题,我想特别提一下,第一个,就是像Chai这样的公司,在抗体开发上做的事情,我觉得把同样的方法 用到其他药物类型上,是一个非常未解决的问题,对吧,抗体可能是目前,最有效的一类药物,但有很多靶点和疾病,抗体并不能直接试用,所以我们有小分子,还有其他正在涌现的药物类型,我真的很兴奋,能把应用范围扩展到这些药物类型上,我喜欢这样想,现在有一批靶点,用我们现有的方法是可以成药的,对吧,我们需要往前推进,把这些方法变成工程学科,对吧,就像抗体设计,从过去那种有点像炼金术士工艺,变成了更接近工程学科的东西,所以我觉得这件事用AI完全够得着,但它是一个很难,也很重要的问题,值得去做,另外我想提的一件事,就是扩大高质量新靶点的发现规模,再说一次,我们现在还是挤在相对少数的一批靶点上,我觉得整个领域都在想办法,找出下一个可规模化的大路子 能解锁大量高质量的新靶点去追,而且这方面现在有很多努力正在进行,比如说在虚拟细胞和细胞扰动模型方面,这是一种正在兴起的新技术 [05:59:50]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

这是一种正在兴起的新技术

Apoorv Agrawal:这是一种正在兴起的新技术,还有更传统的基于遗传学的方法,用来在人群规模上分析人类遗传数据,并将其与健康记录关联起来,但我认为作为一个社会,我们确实需要一个可扩展的方式,去找到更多更多的好把点,这个框架非常重要,对 Josh 你还有什么要补充的吗,我完全同意这些观点,可能我想补充的最后一点是更复杂的药物,我之前也稍微提到过,现在很多药物其实都非常简单,我觉得随着我们对它们的控制力越来越强,你可以开始思考我们是什么,我们在叉戟做的事情之一,就是可以把我们正在设计的药物里的很多蛋白质折叠起来,所以这几乎就像是一个原子级显微镜,能看清你身体系统里正在发生什么,如果你有了这个能力 你就可以开始对可能实现的分子类型抱有更大的想象,所以我觉得这也是一个会持续发展的方向,有道理,你们这个领域一旦实现重大突破,生产力会高得惊人,有些公司靠单一药物就创造了数千亿美元的收入,当然也有不少是在数百亿美元这个量级的,你们有没有在关注的一两个项目,就是那种你们觉得,这可能会成为下一个GLP级别的成功,或者有这种潜力的,对,好,问题,我想提一下,现在有一些围绕增加瘦肌肉量的新兴靶点正在出现,单从商业角度来看,我不对社会价值做任何评价,但是,无敌好客,但我要说,我觉得这些药,确实有一些非常重要的医疗用途,不过话说回来,如果有一种药吃了,就能让你一身肌肉,我觉得那肯定卖得特别好,我团队要是听到我说这个,非杀了我不可,但这其实也是我们 拆内部的一个玩笑,你看像Renaissance Rentech这样的公司,他们内部有个Medallion Fund 所以你去Renaissance工作,得到的补偿之一,就是能把钱投进,那个业绩最好的基金,所以我们都在说,要是哪天查一针做药了,我们应该先从这种药做起,只给查一员工用,你来查一上班,然后练出一身肌肉,不错 Josh 你们在关注哪些方向,我觉得睡眠相关的药,也会很有意思,你看GLP-1和减肥药,正在证明的事,它们几乎就是消费级药物,因为患者群体实在太大了,而且我觉得睡眠,也是很多疾病的根源,所以如果我们能找到,办法让人睡得更好,或者摆脱睡眠障碍,我觉得那也很有前景,而且实际上,它的经济逻辑跟GLP-1很像 GLP-1开始是治糖尿病的,后来扩展到减肥,睡眠也一样,你可以从睡眠障碍入手,然后也许就变成 怎么说呢,如果我能睡得更有效率,这种药谁不想喝,所以我觉得,这可能是消费级药物的开端,真的会改变我们的生活方式,太有意思了,这两个例子都相当了不起,全班同学都在想,我们该投点什么,才能练出一身肌肉,睡个好觉,也许我们先从你开始 Josh 挑一个你看好的生意,想法或者创业公司,基于你对这个世界的了解,反过来,你又对什么吃怀疑态度,觉得它炒作大于现实,对我要说的两类,第一类应该不意外,就是制药,你看,如果我们能有更好的药,那你几乎可以把很多制药公司,看成资本聚合者,对吧,他们手里有这些药,创造着数十亿美元的收入,他们有责任,把这些钱再投到更多新药上,而且他们可能会变得高效的多,另一件事,我想说的稍微反主流一点,其实就是实验室实验本身,很多人跟我们聊的时候 都以为,是想让实验消失或者什么的,但实际上想想,如果你能把实验设计的更好,实验的回报率就上去了,所以我觉得,对很多实验室工作来说,这其实会是一个杰温斯悖论,我们会进入一个复兴期,我们其实可以引用Darrell的话,来自那些了不起的文章,想象一下十年的生物医学发现,在接下来一年里就全部发生,要实现这个,得做大量的实验室工作,而AI会来推动这一切,所以但愿会有更多Chaddy的使用,来实现这个,还有Claudia的使用,这些就是我最兴奋的东西,对有什么你看空的吗,其实我是看空的,我之前提到这些东西,某种程度上是在物理世界里的,对吧,我更看空的是那些,纯粹在软件世界里,但不在前沿的东西,比如说,现在生物领域用的很多方法,实际上人们在药物发现里 用基于物理的方法,和基于计算的方法,已经很久了,有些公司已经存在了30年,在这个领域产生了巨大的影响,但AI正变得非常强大,也会吃掉很多这类东西,所以我想你可以总结成 AI在物理世界会变得非常庞大,但你要想的是,怎么把这些东西结合起来,有道理,轮到你了Rick 所以我看多的类别跟Josh最后说的类似,我对这类公司非常兴奋,他们让Cloud能够运行实验成为可能,所以让Cloud运行实验有两种方式,一种是把Cloud接到实验室仪器上,把那些集成都打通,我们绝对在推进这件事,但Cloud现在就能运行实验,只要向合同研究组织,也就是Cloud下单就行,对吧,如果我想做那个,我该怎么做,我会起草一份方案,然后发邮件给某人来回沟通 Core现在就能做到 而且已经在这么做了,所以这些不完全是CRO 但我真正兴奋的是这一类公司,那些高度可扩展AI原生,有真实实验室的实验室公司,对吧,他们以大规模方式生产材料,或运行实验,而且很容易让AI对接,对吧,所以我觉得这个领域里,做得好的公司,比如Plasmasaurus 各种测序都能帮你搞定,还有Adaptive for Twist 对吧,这些公司让大规模做这些事变得非常容易,而且在试试验室这块执行的极其出色,所以这是我很看好的一类公司,太棒了,那你不太看好的呢,我可能有个比较笼统的看法,这话从我们俩嘴里说出来可能有点怪,毕竟我们是卖工具给做治疗药物开发的公司,但我总体上不看好那些商业模式,依赖像制药公司卖工具的公司,当然你显然能在那里做出大生意,但我觉得非常难,相比直接自己去做药 靠卖工具成功的例子非常少,对吧,真正去开始开发药物的门槛,从来没有这么低过,而且还在急剧下降,以至于我们喜欢把它叫做,一条管线加一个人,你可以让一个人,用大量的cloud和基础模型,真正运营一个早期,药物项目的组合,对吧,而且我觉得很快,这个前沿会推进到,一个相对小的团队,就能运营好几个,临床阶段的项目,所以我只是强调,当然你可以在工具模式上,建立伟大的公司,但我认为那条路真的非常非常难,而另一方面,我认为让开发治疗药物这件事,本身民主化,政变得越来越容易,越来越可及,哇这回答真狠,你这是确保没人能开一家,跟你竞争的公司啊,别跟这位竞争,好,你们这个配置确实了不起,就像你说的,非常非常特别的位置,非常特别的位置 如果你不做这个,你会去做什么,你下一个最好的想法是什么,替一个朋友问的,他不会去跟Atropic竞争,我觉得我第一件会做的事,就是我最后说的那个,想办法尽可能高效地跑一批药物项目,因为那个我已经说过了,我再补一个,我觉得搞清楚,怎么把AI跟诗实验室连起来,也是一个很大的前沿方向,对吧,现在Cloud可以通过跟CRO沟通来跑实验,这对今天来说已经很好了,但当Cloud能直接跟实验室仪器对接的时候,我们会达到一个全新的效率水平,对吧,而且我觉得,就像给它装上仪器,对,给它装上手脚,对,正是,而且我觉得这个问题有很多部分,有硬件层,有上面那层,软件协议通信层,但我觉得这里面有,可以产品化的东西去做,有意思,那几乎就像可变成化学,对,正是,就像那种,你知道 合中实验室,你把这东西插上电,然后突然之间,就能控制你的实验室了,有这种实力吗,有证据表明存在这样的商业模式吗,我觉得有不少公司在做这个,主要是创业公司在做类似的事情,但我觉得现在还是早期,我们大概才走了一两年,而我预期这会是一段很多年的旅程,明白了,这听起来比做Anthropic的竞争对手更有前景,你呢 Josh 我觉得其实跟那个非常接近,就是你怎么真正建立起自主药物项目,对吧,我觉得梦想会是走多远,这几乎你甚至应该把它当成一个评估来看,就是说,嘿我们能不能搞出一套基准测试,看看模型在每个项目上能推进多远,然后我觉得这会汇聚成,好吧到了某个节点,模型跨过某个门槛,做出了真正有用的东西,所以我觉得你甚至可以拿药物发现里的前沿难题,很多我们刚才都聊过 然后不断让前沿智能体去攻克它们,然后最终你会取得某个突破,然后尽快把它推向市场,制药行业有个很有意思的地方,它是竞争最激烈的行业之一,有意思,因为你想这些公司在做什么,他们在努力治疗疾病,对吧,而且很多情况下,怎么治疗一种疾病并不明显,甚至你知道做商业层面的判断,比如哪个最值得去追,因为它实在太复杂了,但治疗疾病就是最明显的商业模式,最明显的商业逻辑,这其实也是我对这块,特别兴奋的原因之一,比如我大学里很多朋友会问,下一个Snapchat该做什么,什么公司最值得做,我就说各位,外面有那么多疾病,对吧,我们为什么不试着去,制止看,那对大家肯定是有价值的,所以我觉得,把这些东西写下来,然后看到模型能走多远,然后能成为第一个做到的人,这大概是,另一件最有意思的事 你想做同类首创,大家也常说同类最佳 [06:09:57]

本段:生命科学

# #675.斯坦福2026 年春季 AI 经济学课程:从 GPU 到生命科学,一次听懂 AI 超级周期的九层经济学

目录

大家也常说同类最佳

Apoorv Agrawal:大家也常说同类最佳,但同类最后这个说法,是最近有人跟我提的,我觉得这个概念特别有意思,有意思,如果大家有问题,我们就开放提问,来了,青江,我背景是制药,做小分子,全是药物递送内讨,你听到很多,关于药物发现的讨论,但几乎听不到,关于药物开发的,你能从你的角度讲讲,为什么你觉得,会是这样一机,机会可能在哪里,我觉得有几个原因,首先药物发现里的机会,是比较直白的,这些事执行起来很难,但我觉得每个看到的人,都能说出他们是什么,而开发阶段的机会,不是一两个特别有吸引力,特别容易的事,我觉得很多事并不是明显卡在模型智能上,而是偏运营层面的,你得把所有正确的环节都搭好,所以我的看法是,首先它一开始就没那么光鲜,也没那么显而易见 跟模型智能的关系也没那么直接,我会把这些都归到一起,我还觉得AI社区本身更偏科学属性,对那个阶段的事情经验更少,我觉得这也是一个因素,至于机会有哪些,我觉得很多,所以说几个我比较兴奋的方向,比如优化患者招募,对吧,你可以想象用AI去智能的做实验中心选择,看患病率,入组情况这些,确保选对实验中心尽快把患者招进来,还有实验管理这一块,现在有大量运营开销化,在实验中心监察,往电子数据库里录入和核对记录这些事上,这些应该马上全部自动化,而且就该是Claude干的事,除此之外,我觉得还有更偏科学的部分,这就是发现和开发交汇的地方,你要确保试验从一开始,就有更高的成功概率,还要确保效应量尽可能大,所以我觉得 这是两个非常重要的机会,而且实际上更偏发现端,对,青江,我有个问题,我想这里其实两个问题,但大家都在说,训练已经规模越来越大,比如现在我们处在 10亿美元阶段,会到100亿,可能1000亿,那这会解锁什么,在你做的所有这些事情上,比如我们想一下 AI语言模型,就是给它一本书,然后遮住一段话,它学着去填空,但对你正在构建的那些模型来说,对应的东西是什么,如果你能做一个 1000亿美元的训练运行,那会解锁什么,我知道这是个很宽幻的问题,但是,对,我觉得每一代模型,都会带来稳定的能力提升,所以我的看法是,我们就是在瞄准,某些特定的能力,随着我们做更多训练,能力会变得更好,有时候会有规模效应,有些能力一开始 是平的完全没有,到了某个规模,它们就开始显现了,举几个例子,我们一度发现,模型对蛋白质,几乎没什么理解,对吧,然后到了OPPA 4.6 我们第一次看到,模型开始学到,更多关于蛋白质的东西,对吧,这跟我们在训练里,做的式规模,还有诸如此类的东西有关,但我觉得这里有两股趋势,一个是很多不同能力的渐进式改进,另一个是我们在很多领域看到的规模效应,甚至在生命科学之外的AI领域也有,有时候你就是要等到某个特定的模型世代,才能看到某些东西,请继续,即使在软件领域,单次生成对减程步骤非常有效,比如服务之类的,但我们的经验是,它对生成步骤完全不好使,比如数据库和分布式系统 而生物学看起来是生成步骤的极端情况,那什么样的应用,单次生成真的能起作用,对这是个很好的问题,我觉得这在一定程度上取决于我们,能去攻克的任务有多难,对吧前沿正在往那边推进,你刚才说没法领养本搞定一个数据库,我觉得这说法现在都不一定还成立了,就算你们已经做到了,我也不会意外,对吧我觉得生物学里也是一样的道理,很多人说来好笑,我们刚创办公司的时候,有个投资人帮我们做了很多工作,比如去跟各种专家网络聊,问人家,嘿,你们愿意为这种东西付多少钱,人家就说,哦,零样本生成一个分子,我们可不愿意付多少钱,然后他们问,为什么,他们说因为他不work 我凭什么为他付钱,然后他们说,不不不,咱们假设他能work 他们说,那不可能,然后他们说 行吧,看来我们找对方向了,对吧,所以我觉得很多事情,更多是个时机问题,我觉得这正是现在AI 最让人兴奋的地方,你真的可以大胆做梦,我这边幻灯片上放的那些东西,有可能就是做不到的,对吧,我们不知道,但你能看到这些东西的规模效应,在显现,随着你建更多数据集,投入更多算力,它们就开始变得可行,开始够得着了,所以我觉得更多是,什么时候的问题,而不是能不能的问题,但说实话,我们也不完全确定,我觉得这就是在这个领域,做事带来的那股兴奋感的一部分,但看起来这个循环里,好像也许有点肤色,可以说是那种超级,超级大的半循环,对我觉得这其实也跟上一个问题有关,我觉得你之所以听到,更多关于AI在药物发现里的应用,其中一个原因就是反馈循环更短,比如说如果是在临床开发阶段,那就像是在问 我们要不要用AI跑完整个临床试验,那可能要花很长时间,相比之下设计一个分子,然后在实验室里测试呢,你知道几周就能做完,而且反正每个人都会一次性搞定这种药,练出一身肌肉还能睡得更香,我们今天就到这里吧,各位欢迎下楼去找他们聊聊,非常感谢,真的很感谢 [06:15:22]

返回该播客 打开原文