刚刷到 Sequoia Capital 的播客节目 Training Data 上线了一期和黄仁勋的对话。主持人是 Sequoia 合伙人 Konstantine Buhler。老黄的演讲已经很多了，不过这期比较有特色，是用一个比较短的篇幅讲了一下 AI 的经济价值框架，所以就当是老黄的极简 AI 经济学吧。众所周知，黄仁勋把 AI 分成 5 层蛋糕，现在大家注意力主要在算力层和模型层。但是他说，AI 应用层的价值差不多能达到 20 万亿美金，那就是 140 万亿人民币，差不多中国一年的 GDP 吧。

1、**数据中心的名字泄露了秘密**

黄仁勋从一个语言学观察切入：我们管这些建筑叫“数据中心”，不叫“计算中心”。这个命名精准反映了过去 60 年计算的本质。IBM 在 1964 年发布 System/360，定义了现代计算机的基本形态。从那以后的几十年里，计算的核心动作是“存”和“取”：写文档存成文件，拍照片存成文件，录视频存成文件，要用的时候从硬盘上取回来。

你在手机上点一下，背后发生的事情就是从某个服务器上检索一段数据，再通过推荐系统决定呈现方式。整个互联网的底层范式，本质上是检索。

2、**AI 让每一次输出都是原创**

AI 的工作方式完全不同。每次你给它一个提示，它会理解你的上下文、推理，然后生成一个全新的输出。黄仁勋在现场做了一个即兴演示：他说自己此刻面对 60 个国家的投资者所做的讲解，就是一次实时生成。他判断了听众的背景、知识水平和需求，实时组织语言，每一句话都是原创的。AI 做的事情和这个过程一模一样。

这意味着：未来你看到的每一个像素、听到的每一段声音、读到的每一篇报道，都将是为你实时生成的，而不是从某个数据库里取出来的。…

你和你旁边的人看到的内容会完全不同，因为你们的上下文、身份、提问方式都不同。

（所以，每一次数据产生，也是一场计算过程，同学们，我觉得这才是重点）

3、**从理解到行动：AI 从有趣到有用**

黄仁勋把 AI 的进化切成两个阶段。ChatGPT 刚出来的时候，AI 能理解输入、能生成文本和图像，能做各种模态之间的转换，文本到文本、文本到图像、图像到文本。这些能力有趣，但实用价值有限。“想写首乡村歌曲的时候挺好用的。”

关键转折发生在“生成”这个词背后。生成能力是思维的前提条件，因为思考就是生成内部文字。一旦能生成思维，就能推理、能规划、能分步解决问题。再进一步，能生成控制指令，就能使用工具：浏览器、表格软件、Photoshop、AutoCAD。今天这些工具是数字化的，明天如果控制对象是机械系统，那就是机器人；如果是带方向盘的机器，那就是自动驾驶。

到了 agentic AI 阶段，AI 能独立完成工作，一个智能体能和另一个智能体协作分工。“我们公司现在大概有几十万个智能体在同时运行，互相对话，解决问题。全部在安全护栏和沙箱里。”黄仁勋说。

这两个阶段之间的价值落差，黄仁勋用一句话点透：“我们都喜欢什么都懂的朋友，但我们不会付钱给他们。我们付钱给干活的人。”因为能做有用的工作，AI 变得有经济价值。“我们现在按小时给 AI 付费，20 美元、30 美元一小时。这是人类历史上增长最快的软件业务。”

黄仁勋在这里做了一个跨越 160 年的类比。

1、**两台机器，相隔 160 年**

1866 年，德国西门子发明了 dynamo，也就是自激式发电机。任何形式的运动能量输入，瀑布、风、蒸汽，经过这台机器，输出的是电子。原子变成了电子。

NVIDIA 造的机器做的事情在结构上完全一样。电子进入 NVIDIA 的机器，出来的是数字。这些数字根据组合方式不同，可以变成语言、数学、蛋白质结构、物理定律、气候模型、3D 世界的描述、机器人控制信号。两台机器，一台把原子变成电子，一台把电子变成 token。“这些 token 就是智能。这就是我们干的事。”

2、**一个机架的参数**

NVIDIA 的基本生产单元叫 rack，一个标准机架装 72 颗 GPU 芯片，重 2 吨，售价 400 万美元，包含 150 万个零件。黄仁勋说这是“全世界最贵的设备”，但 NVIDIA 像生产手机一样大批量制造它们，今年预计出货约 800 万颗芯片，发往全球各地的数据中心。

3、**一座 AI 工厂的经济学**

按功率计算，一座吉瓦级 AI 工厂对应大约 500 亿美元的建设投入。但同一座工厂能产出 3000 亿到 4000 亿美元的智能价值。黄仁勋强调，这个投资回报率的速度极快，这也是资本持续涌入的根本原因。

4、**三层“茧”包裹地球**

黄仁勋把三次基础设施革命比作蚕茧，用 cocoon 这个意象串联起来。电力发明后，发电和输电网络像一层茧一样包裹了地球，我们称之为电网。30 多年前商业互联网兴起，通信网络又给地球包了一层。现在，智能生成网络正在形成第三层。

这层智能网络的规模会远超前两层。今天 AI 服务约 10 亿人类用户，但一旦 agentic AI 成熟，网络上的主体将从人类扩展到智能体。自动驾驶汽车、机器人、制造系统、建筑管理系统，全都是独立的智能体，它们 7×24 小时运行，互相通信，每一次通信的内容都是实时生成的。黄仁勋预估，这个网络最终可能承载上千亿个智能体。

黄仁勋把 AI 产业拆成五层，从底到顶。

1、**第一层：能源**

一切的基础。AI 工厂是极度耗能的设施，一座吉瓦级工厂的电力需求相当于一座中等城市。黄仁勋说这是“几代人以来能源产业最大的增长机会”，可能是 100 年来各国能源基础设施第一次获得大规模投资的窗口。无论是核能、风能、太阳能还是氢能，只要能产出电力，都会获得资金。受益方包括西门子、三菱、GE Vernova 这类企业。

2、**第二层：芯片和计算**

GPU、CPU、网络交换机、硅光子互连，所有构成计算基础设施的硬件。这一层是 NVIDIA 的主战场。

3、**第三层：基础设施**

土地、电力接入、建筑外壳、资金、数据中心运营。黄仁勋特别提到，这些资源“每一项今天都处于稀缺状态”。这一层解决的不是技术问题，是工程和资源配置问题，但同样是巨大的投资机会。

4、**第四层：模型**

大多数人以为这就是 AI 的全部。OpenAI、Anthropic 是这一层最知名的公司。但黄仁勋着重强调了一个容易被忽略的事实：AI 能学会任何有结构的东西的“语言”。

他用一个生动的细节说明什么是“有结构”：他走进会场时，毫不犹豫地坐下去了。不是因为他勇敢，而是因为物理世界是可预测的，椅子 100% 会承住他的重量，不会像量子态那样有 53% 的概率穿过去。只要事物是可预测的、有规律的，AI 就能学习它的结构并理解其含义。

所以 AI 学会的远不只是英语和德语。它在学习蛋白质的语言、基因的语言、细胞行为的语言、物理世界的语言、3D 空间的语言。对计算机来说，处理一个细胞和处理一个词没有本质区别，都是 token。这一层的真正规模不在聊天机器人，而在覆盖全部物理世界的 80 万亿美元产业。

5、**第五层：应用**

这是离终端用户最近的一层。金融、法律、会计、运输、物流、医疗、零售、广告、娱乐，所有改善人类生活的具体应用都在这里。2025 年，这一层吸引了 1000 亿美元的风险投资，是人类历史上单年 VC 投资额最高的一年。

黄仁勋给了一个整体估算：2026 年，全球市场将向这五层蛋糕投入约 1 万亿美元。但他认为这只是起步。AI 产业最终可能达到每年 20 万亿美元的规模。“问你自己一个问题：智能有多重要？谁需要它？你想要多少？”

黄仁勋聊到工作话题时情绪明显升高，他说自己有一个“trigger”，就是“一群人在编造关于工作的东西”。他先亮出一个事实：今年全球市场往 AI 生态投入 1 万亿美元，这些钱去了哪里？创造工作。能源层，工作比以往更多。芯片层，工作比以往更多。基础设施层，工作比以往更多。模型层，工作比以往更多。应用层去年涌入 1000 亿美元 VC，工作比以往更多。五层全在招人。

1、**放射科的反转故事**（这个故事大家已经听了很多次了，应该不介意再听一次）

大约 10 年前的 2016 年，Geoffrey Hinton 公开警告：AI 将彻底消灭放射科，他建议所有人不要再进入这个领域。逻辑链看上去无懈可击：计算机视觉已经达到超人类水平，能识别图像、检测异常，永远不会疲劳，永远不会漏掉细节。

结果呢？计算机视觉确实渗透了放射科的每一个环节，每个放射科医生今天都在使用 AI 辅助。但放射科的人才需求不降反升，从业人数增长了。原因不复杂：放射科医生的工作目的是和临床医生一起诊断疾病，看片子只是其中一个任务。AI 让他们效率更高，医院因此能接诊更多患者、做更多扫描、赚更多钱，于是雇了更多放射科医生来接诊更多患者。

黄仁勋说。这个预言被广泛传播后，愿意进入放射科的人减少了。但实际上放射科比以往任何时候都更需要人。

2、**软件工程师的同理**

“你也许不会被 AI 抢走工作，但一定会被用 AI 的人抢走工作。”

最近有人说 90% 的编码工作会消失，所以不再需要软件工程师。黄仁勋直接反驳：我从来没有雇一个人然后对他说“来，给我看看你一秒钟能打多少字。”打字不是软件工程师的工作，写代码也不是。解决问题才是。“写代码不是他们的工作，解决问题才是。”

有代码之前就有工程师，有 AI 之后也会有工程师。有工作站之前就有放射科医生，有 AI 之后也会有。

3、**任务和目的的区别**

黄仁勋拿自己举例：CEO 的工作是领导公司，但他大部分时间的任务是打字和说话。AI 在打字和说话上都已经超越人类了，他却比以往任何时候都忙。英文里 job 和 task 的区别说明了这个问题：job 是你的工作本身，task 是工作中的具体任务，两者相关但不相同。

有了 AI，水管工可以从按图施工变成厨房设计师。木匠可以从拼装木头变成家居设计师。家具销售员可以从推销产品变成室内设计顾问。AI 提升的是人的能力层级，让每个人都能做原来需要更高技能才能做的事。

黄仁勋说：你所在的国家没在投资 AI，你错过的不只是技术红利，是整整一波就业繁荣。如果你的公司没在投资 AI，你错过的是让员工能力升级的机会。

4、**对 AI 末日论的（再一次）驳斥**

对 AI 恐惧叙事。他逐条反驳：

说 AI 是终结者？说什么“奇点”？说“这东西有 20% 的概率毁灭人类”？“这些说法完全是胡说八道。”说我们不知道 AI 怎么运作、它太神秘了？“如果你不知道它怎么工作，你怎么每年都让它变得更好？说‘我完全不知道它怎么工作但我知道怎么让它更好’，这本身就是胡说八道。”

关于安全性，他给了一个对比：今天的 AI 和两年前的 ChatGPT 比，幻觉几乎降到了零。它不确定答案时会先做搜索研究，搜索到答案后会自我质疑，生成两三个候选答案互相验证，反思之后才输出最终结果。“我可以完全基于事实告诉你：我更喜欢今天的车而不是 100 年前的车。技术更先进了，同时也更安全了。”

他把责任分成两份：科技行业的责任是把 AI 造安全，这个工作正在做，投入巨大，进展肉眼可见。普通人的责任是让自己身边的人用起来，无论是家人、孩子、公司还是国家。“我们不会因为 AI 丢命，但会因为别人用了 AI 而被甩开。”

5、**40 年技术鸿沟终于被合上了**

黄仁勋说自己花了 40 多年做芯片设计，这 40 年里技术变得越来越复杂，能编程的人占总人口的比例一直在下降。

他现场做了个调查：“在座谁会 C++？”大约 2% 的人举手，而且那一排全是创业公司的人。“这已经是一个很不正常的房间了。”然后他问：“谁会人类语言？”所有人都举手了。

现在每个人都能用自然语言编程，过去只有 2% 的人能做到的事情，今天人人都能做。技术鸿沟被合上了。“我们必须带上所有人。”

#模型时代# 为什么Agentic AI之后，CPU不再是配角？

记录一下最近一期原点Talk的笔记。我和趋境科技首席引擎架构师谢威宇、英特尔中国首席工程师许渊做了一个对谈。主题是：AI从训练走到推理再走到智能体，CPU为什么又变重要了。

先说主要结论：一是MoE模型的出现，给了CPU第一个发挥更大作用的角色。稀疏激活的专家层天然适合CPU的内存带宽优势，英特尔AMX指令集让这个适配从理论变成了工程现实。趋境科技的KTransformers实现了用一张消费级GPU加至强CPU跑DeepSeek-R1 671B（R1发布不久之后）。

二是KVCache的复用经济学在智能体时代被放大了。编程Agent场景下KVCache命中率可达80-90%，每提升一个百分点带来的收益都在加速。管理这些缓存需要大量CPU资源，这催生了Mooncake这类分布式KVCache系统。

三是CPU的需求不再跟GPU的数量走，而是跟GPU产出的智能总量走。智能越多，需要执行的动作（搜索、浏览网页，工具使用等）越多，CPU的需求就越大。头部模型厂商的数据中心架构已经从"两颗CPU配八块GPU"变成了"一台GPU节点配两台纯CPU节点"。

1、用CPU跑大模型推理，当年是一个彻底的非共识。

谢威宇在清华读博时就研究CPU性能优化，起点是在英特尔的机器上做实验。最早的思路叫AF分离，想把稠密模型里的FFN（前馈网络）卸载到CPU上算。但稠密模型时代，每个token要激活全部参数，计算密度太高，CPU吃不动。效果不好，停留在学术探索阶段。

2、DeepSeek的MoE模型改变了物理规则。

稠密模型像一家公司，任务来了全员出动，每个人都要干活。MoE模型把公司分了部门，一个任务只派相关的几个部门上，其他部门待命。…

对应到计算上：MoE的FFN层从Dense变成稀疏激活，一个token只调动一小部分专家参数。计算量下降了，但模型总参数量没降，对内存容量和带宽的需求反而上升了。

这个特征刚好和CPU的能力曲线匹配。CPU的算力不如GPU，但内存容量大、带宽成本低。稀疏计算放在CPU上，性价比比放在GPU上高。

3、KTransformers做的就是这件事：把模型拆成两半。

MoE的专家层交给CPU算，Attention层留在GPU。这样GPU的显存消耗大幅减少，一张卡、两张卡就能跑DeepSeek整个671B参数的模型。KTransformers定位是工作站推理，面向单人使用或数据隐私要求高的边端场景。

4、英特尔的AMX指令集是让这条路走通的硬件拼图。

AMX（Advanced Matrix Extensions）是英特尔为矩阵运算设计的指令集，把过去需要多步完成的矩阵操作合并成单条指令执行。谢威宇回忆，第一次在至强8553上看到跑分结果时的反应是"没想到AMX在这件事上真的能做到，而且恰好fit进去"。当时的配置：至强8553 CPU，总内存带宽约400GB/s，跑DeepSeek-R1，Prefill速度最快到500多tokens/sec，Decode到20多tokens/sec。在当时的对话场景下已经够用。

5、许渊说，英特尔内部看到KTransformers的消息时"非常兴奋"。

用他的话说，"江湖上突然有一个传闻，有人把这个架构的成本极致压缩"。英特尔这边立刻联系了谢威宇团队。从硬件厂商的视角看，这是CPU在AI推理场景里的一次价值证明。

6、Mooncake解决的是另一半问题：云端大集群的KVCache管理。

KTransformers是工作站级的推理技术，Mooncake是云端的。Mooncake最早和月之暗面（Kimi的母公司Moonshot AI）一起做的，名字就是从Moonshot来的。它本质上是一个分布式KVCache数据库。

KVCache是推理过程中的缓存。多轮对话时，已经算过的历史上下文不用重新计算，直接从缓存读取。对人来说，你默认和别人说话对方会记得之前聊过什么，但对AI来说，"记住"是需要单独存储和管理的。Mooncake的设计思路是尽可能把所有东西都缓存起来，缓存越多、重复计算越少、收益越大。

7、KVCache如果一直占着GPU显存就浪费了，所以额外存到CPU服务器上。

这就是CPU在云端推理里的新角色：不直接跑模型，而是做KVCache的存储和管理节点。需要大量的CPU资源来做调度，同时需要高IO、高PCIe通道数来挂SSD。

8、KTransformers现在是多个头部开源模型的推荐推理框架。

GLM-5.1发布、Kimi K2.6发布、千问等开源模型上线后，趋境科技都做Day0适配。这些模型的model card首页会直接推荐KTransformers作为推理方案。从非共识到被写进官方推荐页，这条路走了几年。

9、智能体时代让KVCache的经济学被放大了。

以编程Agent为例。用AI写代码时，上下文窗口反复从0K用到200K，compact后又从20K用到200K，循环往复。每次用户输入很短，可能就一句指令，但历史上下文很长。这意味着KVCache命中率天然就高，可以到80%甚至90%以上。

命中率80%，意味着只需为20%的内容付出计算代价，缓存提供的是4:1的杠杆。到90%就是9:1。到95%更高。每提升一个百分点，收益增长速度本身在加快。这就是趋境在Mooncake方向投入多的原因。

10、Token Factory。

从token的角度把AI基础设施分成供给侧和需求侧。供给侧围绕token的生产展开，不只是推理本身，还包括训练验证、数据检索、工具调用、缓存管理等一整套环节。他的比喻是：GPU是皇冠上的明珠，但皇冠本身的作用越来越大。

11、Agentic AI对CPU的需求来自好几个方向，而且每个方向都是增量。

训练阶段，新一代服务Agent的模型在训练时需要CPU来做验证环境。过去训练文本模型，打个分、判断个对错就行。现在训练Agent模型，生成的代码要编译运行，操作要在环境里执行，这些验证全跑在CPU上。

推理阶段，AI应用已经在做搜索引擎过去做的事：RAG检索、数据索引、结果排序，全部消耗CPU。

执行阶段，Agent调用工具、操作数据库、读写文件，执行环境就是CPU。

12、半导体涨价让"用好现有资产"变成了现实压力。

内存和SSD"现货没有，期货也没有"，价格涨得凶。在这个背景下，怎么把手里已有的CPU和存储资源榨出更多价值，对企业来说不是技术选择。异构计算和KVCache offload可能恰好回答了这个问题。

13、海外AI数据中心的卫星图已经能看出变化。

许渊透露，一家头部模型厂商的新架构是：一台GPU节点（两颗CPU加八块GPU）配两台纯CPU通算节点。过去是GPU独占数据中心，现在CPU回来了，而且以独立集群的方式回来。

14、谢威宇对CPU未来占比的判断比行业共识更激进。

他认为CPU与GPU的配比不仅会到1:1，很可能超过1:1。逻辑是：CPU的需求不是和GPU的数量比，是和GPU算力所产出的token总量比。GPU越强、产出的智能越多，这些智能需要执行的动作就越多，对应的CPU需求就越大。GPU算力提升不是CPU的替代，是CPU的需求放大器。