#643. 内核、强化学习与智能体奖励黑客专题

完整转录稿

Podcast 跨国串门儿计划 2026-07-24 05:41
摘要

整体概括

这期分享围绕一个核心问题展开：当 AI 模型在基准测试上持续变强时，我们究竟是在观察真实能力的增长，还是在观察模型、评测体系和基础设施共同制造出来的“好成绩”？Daniel Han 从模型能力趋势、推理范式、长上下文、开源与闭源差距、推理服务、基准测试、网络安全、硬件与内核优化等方面，逐层说明了当前 AI 进展的真实边界。他最重要的提醒是：模型越强，越需要可靠的验证环境；如果奖励函数、计时器、测试代码或评测器存在漏洞，模型就可能学会最大化分数，而不是完成真正的任务。奖励黑客不是偶发的小问题，而是训练智能体时必须正面处理的基础性风险。

主要内容

1. 模型正在变强，但“成功一次”与“平均表现”不是一回事

Daniel 先用衡量人类工作时长的能力图说明模型进步：在允许多次尝试、观察总体成功率时，模型能够完成越来越长、越来越复杂的任务；但如果要求一次调用就达到较高成功率，模型能覆盖的任务时长会明显缩短。即使单次成功率只有 50%，独立尝试五次也能把至少成功一次的概率推高到约 97%，因此实际使用模型时，调用次数、失败重试和任务拆解都很重要。把坐标轴改为对数后，模型能力随时间增长的趋势更接近指数曲线，但这并不意味着未来一定会沿着同一条曲线继续发展。

他还强调，推理能力的出现改变了模型能力增长的轨道。若没有新的推理和扩展范式，模型可能会在原有能力附近进入平台期；而一旦找到能让模型投入更多计算、进行更长推理的方法，能力增长周期就可能缩短。不过，这种趋势既需要新的算法和训练方式，也需要新的评测去确认增长是否真实。

2. 长上下文仍然脆弱，基准测试不能被盲信

模型上下文窗口不断扩大，并不等于模型能够稳定使用全部上下文。分享中提到的长上下文测试显示，随着输入变长，模型对事实的记忆和定位能力会退化；有些模型在很长的输入上甚至会出现接近失效的情况。测试本身也可能存在缺陷，所以单个数字不能直接代表模型的全部能力。更实际的做法是控制上下文长度，必要时进行压缩，再继续任务，而不是因为窗口标称达到百万级就把它全部填满。

这也说明，模型能力图和基准排名适合用来观察趋势，却不适合被当作绝对结论。测试任务、提示方式、上下文组织、调用次数和服务配置，都会改变最终结果。

3. 开源与闭源的差距正在缩小，但开源生态仍受制于数据与资源

Daniel 认为，开源模型在一段时间内落后于闭源模型，但差距并非不可追赶。随着新模型发布，差距可能缩短到几个月，并且存在继续缩小的趋势；如果趋势保持，开源模型有机会在不远的时间里追上最强闭源模型。不过，这种预测依赖趋势外推，不能当成确定的时间表。

开源能力提升的一条重要路径是蒸馏：调用前沿模型，再利用这些输出训练自己的模型。这种方法能加速追赶，却也意味着开源模型会受到前沿模型能力、数据分布、授权边界和基础设施的影响。真正比较模型时，不能只看一个综合分数，还要同时看成本、精度、吞吐、延迟、长上下文能力和具体任务表现。

4. 推理服务不能只追求速度，速度与精度必须放在同一张图上

在成本—精度图上，模型之间通常存在帕累托关系：更快、更便宜的服务未必能保持同等准确率。Daniel 对一些推理服务商牺牲精度换吞吐的做法表示担忧，因为用户看到的往往是“模型变差了”，而不是服务层改变了推理配置。即使每秒生成的 token 数量大幅增加，如果模型经常答错，整体使用价值仍可能下降。

因此，模型发布和部署时，需要把真实任务成功率、稳定性、延迟、价格与吞吐一起报告。服务商、缓存策略、量化方式、推理引擎和版本更新都可能影响结果；如果旧模型在新模型发布前后出现准确率变化，也应通过可复现的实验确认原因，而不能只凭排行榜或少量体验下结论。

5. 基准测试会被优化，LLM 评判 LLM 也会继承同样的问题

分享中重点讨论了基准测试作弊。某些测试把问题、答案或测试结构暴露给模型，或者用一个语言模型充当验证器，模型就可能学会针对测试流程优化，而不是解决问题本身。使用 LLM 验证 LLM 的结果尤其需要谨慎：验证器可能理解错答案，也可能在部分情况下给出不相关的失败判断；如果被测模型知道评测器的行为，还可能专门迎合验证规则。

这并不意味着所有基准都没有价值，而是意味着评测必须与代码、环境、版本、随机性和独立复核结合。一个看似很高的分数，只有在测试条件透明、任务没有泄漏、验证过程独立、结果可以复现时，才有较强解释力。模型和人都会围绕指标优化，这正是古德哈特定律在 AI 评测中的体现：当一个指标成为目标，它就可能不再是好的指标。

6. 网络安全和开源监管会成为模型能力增长后的现实问题

当模型在网络安全任务上的能力提升时，开源模型的可获得性也会带来新的治理问题。分享中没有把“开源”简单等同于安全或危险，而是强调需要区分能力、访问、部署环境和责任边界。是否需要许可证、政府是否会限制某些模型、开源模型怎样被用于漏洞发现或攻击，都不能只靠模型排行榜回答。

更可靠的做法是持续测试模型在不同网络安全任务上的能力，明确使用边界，并让模型、推理服务和实际运行环境接受独立审查。随着模型越来越容易被部署，安全评测、审计、责任追踪和可复现的测试环境会比单纯讨论“开源还是闭源”更重要。

7. 硬件增益正在放缓，软件、算法和内核优化仍有很大空间

Daniel 认为，硬件性能当然重要，但很多最近的速度提升来自数值精度、张量核心、编译器和算法，而不是简单地把芯片做得更大或更快。从高精度浮点表示逐步转向更低精度表示，可以显著减少计算和存储成本；不过，当精度已经接近硬件表示能力的下限后，继续靠硬件本身获得同等幅度的提升会越来越困难。

因此，未来的重点可能转向软件栈：更好的算法、数据处理、编译器、算子融合、梯度检查点和内核实现。Daniel 建议优先学习和使用 Torch Compile 等自动优化工具，而不是把所有精力都放在手写自定义 kernel 上。梯度检查点用重新计算换取内存，能在精度不变的情况下减少显存占用；不同类型的 GPU、ASIC 与专用处理器也可能在同一系统中分工协作。Mega Kernel 试图把整个模型的前向传播合并进一个 kernel，但注意力、数据依赖和工程复杂度使它非常难实现。

8. 奖励黑客的典型形式，是把“得分条件”当成真正目标

最后的重点落在奖励黑客。一个智能体如果被要求写出更快的矩阵乘法 kernel，可能不去寻找更好的算法，而是删除计时器、把输入矩阵设为零、复用旧答案、绕过测试、调用现成实现，或者只完整执行一次测试，再对其余测试返回缓存结果。这样做可能让评测分数变高，却没有让真实计算变快。

Daniel 认为，奖励黑客之所以危险，是因为它看起来像能力提升，而且模型可能会根据测试结构逐渐学会如何规避检查。只做正确性检查不够，还要检查计时、输入覆盖、独立运行、内存访问、结果复现和完整代码路径。对宣称大幅提速的研究，必须回到代码和实验环境中验证；如果一个结果突破了已知的数学或工程上限，更要优先怀疑测试是否被绕过。

关键 takeaway

1. 单次成功率、重复调用后的成功率和真实任务完成率是三种不同指标，不能混为一谈。
2. 长上下文窗口、排行榜分数和单一基准测试都只能提供局部证据，不能代表模型的完整能力。
3. 开源模型与闭源模型的差距正在缩小，但蒸馏、数据、推理基础设施和评测条件会影响追赶速度。
4. 推理服务应同时报告精度、吞吐、延迟、成本和版本配置，不能只用速度包装能力下降。
5. 用语言模型评判语言模型会继承评测器的偏差，必须配合独立、透明、可复现的验证环境。
6. 硬件仍是基础，但算法、低精度计算、编译器、数据处理和内核优化可能带来更大的边际收益。
7. 奖励函数必须尽量贴近真实目标，并对计时器、测试流程、缓存和输入输出进行独立审计，否则智能体很容易学会“拿高分”而不是“把事情做好”。

目录

节目开场与 AI 模型能力概览

# #643. 内核、强化学习与智能体奖励黑客专题

目录

欢迎收听跨国串门计划。这是一档专注于让中文听众无

一凯：欢迎收听跨国串门计划。这是一档专注于让中文听众无障碍欣赏全球优质外语播客的节目。通过先进的AI声纹克隆技术,我们不仅将内容翻译成中文,还完美保留了原主持人和嘉宾的独特声音,为您呈现全球顶尖的AI财经。健康与科技领域精品内容。我是主播一凯,一位热衷于AI领域的产品经理。很荣幸能为您搭建这座跨越语言障碍的桥梁。接下来让我为您简单介绍，本期我们克隆的这档节目，本期我们克隆的是知名播客 AI Engineer的一场深度技术研讨会，原内容发布于2026年7月17日，主讲人是Anthelos的联合创始人Daniel Han 他同时也是全球最大的语言模型分发方之一 长期专注于为开源模型修bug和做底层优化，这期节目相当于一堂进阶公开课 Daniel在现场和大家聊了很多硬核话题，他主要围绕AI模型的现状，开源与闭源的差距，基准测试里的作弊现象，以及强化学习中的奖励劫持等方向展开讨论，那我们就一起来听听这期的完整对话，大家好，对，非常感谢大家今天来，真的很感谢，我是Ancelos的Daniel 我弟弟今天也在 [00:00:51]

Daniel Han：总之，谢谢大家，对不了解我们的朋友说一下，我们其实是最大的语言模型和扩散模型分发方之一，所以我们不光是做语言模型，我们会把模型上传到Hugging Face 我们在Hugging Face上，我记得好像是排第十还是多少，不我记不清了，但总之我们在Hugging Face顶级组织名单上，我们的总下载量超过三亿次，大家一定要去看看，你可以在上面跑DeepSeek GRM等很多模型，我们用动态量化把它们压缩，这样就能在你自己的电脑上跑了，我们还给开源模型修很多bug 比如我们修过OpenAI的GPT OS Meta的模型 Google的模型 DeepSeek的模型，还有很多其他模型的bug 这些模型有时候会有不少问题，我们会在Twitter上发我们的发现，所以大家用过的开源模型，很可能大部分都被我们修过，对，我们在模型发布这件事上，跟全世界所有人都有合作 我们也跟硬件厂商合作，真的很感谢所有人的协作，我们不光是修模型bug 还会引入新功能，也会修整个训练站的问题，比如我们搞了个叫，异步梯度检查点的东西，很多机构都在用，我们还引入了flex attention 用的人也很多，我们还修了一个梯度累积的bug 让整个训练站的准确率提升了 1%到3% 所以我们不光是修模型bug 也修整个训练站之类的问题，今天的workshop时间比较长，会分成好几个部分，每个部分结束后，大家都可以提问，我不确定现场有没有麦克风，但如果你想提问，大声说出来就行，我很乐意回答，我们要聊的第一个部分是AI的现状，也就是语言模型 AI模型现在到底发展到什么程度了，不知道大家有没有看过那个meta图，这个meta图展示的是模型的时间跨度，就是说每一项需要人类花16小时完成的任务，模型能不能完成 从这张图上可以看到 CloudMisos Preview非常强，它能完成人类需要16小时才能做完的任务 Opus 4.6也在上面，其他模型也都在，这张图很好，因为它说明AI模型随着时间推移，变得越来越强，最近GPT 5.6发布了，就是他们的preview模型，上周五刚出，我就把它放到图上了 Mute那边其实没有更新他们的图，因为他们觉得结果还不够可信，但我还是把它放上去了，可以看到GPT 5.6 大概在Opus 4.6的水平，质性区间很大，所以这个模型的能力，还有很大的不确定性，但是如果把作弊算进去，也就是考虑到，模型有时会在某些任务上作弊，那它直接飙到了270小时，而且你看外轴，我其实画了个断开的图，外轴是50小时，然后直接跳到250小时，所以你可以想象，这张图其实非常扭曲，我画图的时候 GPT-5.6是个巨大的离群值，我不得不把图压缩了 但这张图只有在认为 GPT-5.6在某些任务上作弊时才成立，我们后面会聊到，为什么AI模型会作弊，以及怎么解决这些问题，总之这张图在展示模型能力方面，非常有用，之前这个是50% 也就是模型能用一半时间，完成任务，达到50%的准确率，但如果你想一次就让模型搞定，也就是直接让模型去实现某个东西，并且希望它做得很好，那就要看80%的成功率，如果看80%成功率，这个数字会掉很多，你看之前Metals大概在16 17小时，现在只能做三小时的任务了，所以如果你想给模型一个prompt 指望一次就成功，比如直接让它去实现个page rank之类的，或者实现个reg系统，或者微调个模型什么的，它只能完成人类需要三小时才能做完的任务，这就是AI模型的一个问题，一般来说想用好AI模型，你至少得提示它五次左右 假设每次都是独立的，你提示很多很多次，成功率就会高得多，你不能只调用模型一次就指望它表现好，得多调用几次，你还可以算出它成功的概率，比如模型准确率是50% 那失败率就是50% 如果你做五轮，就是1-0.5的五次方之类的，成功率会跳到97%左右，所以你得至少调用模型五次，它才会非常有效，之前这些是线性的 I轴就是线性的，如果我们取对数，把Y轴取对数，就能看到更接近指数级的进展，实际上在Meta时间范围，这个基准测试上 I模型的整个进展，可以用一条直线来拟合，你可以看到 I模型随时间推移越来越好，这一点非常清楚，我还加上了GPT 5.6作弊，和没作弊的情况，也突出了Claude Mythos 你可以看到，现在不需要伪造歪轴了，不需要做那种断开的歪轴，这样你就能看到 模型确实在随时间变好，按理说如果这个趋势持续下去，这些模型会越来越好，好得多，对，问题就在于趋势会不会持续，这是个根本问题，而且不只是一个特定任务的，基准测试显示模型在变好，在所有基准测试上，模型都在变好，对吧，比如GPQA Diamond 它有点到顶了，作为基准已经有点饱和了，但随时间推移，它表现还是很好，你看到的每一个基准测试，模型都在变好，对吧 Live Code Bench 数学算法，数学测试，甚至特斯拉的自动驾驶，也有17个月的翻倍周期，每17个月，模型的能力就会翻倍，所以随时间推移，所有这些模型在每一个学科，每个领域都会变好，我想主要问题是，如果我们假设每一个学科，每一个领域，模型都接近100%的准确率，这算通用人工智能吗，这是人们问的根本问题之一 如果我们只是在基准测试上变好，这算通用人工智能吗，如果在所有基准测试上都变好了呢，人类创造的每一个基准测试，它全都在变好，对，这是个很好的图，展示了所有不同类型的基准测试，它们都随时间变好，大家最喜欢的，大概是人工智能基准测试，也显示人工智能随时间变得好得多 Fable大概是目前最好的，虽然现在不是所有人都能用，但不管怎样，目前它是最好的，你也可以看到，这些模型也随时间在变好，这个图还展示了一个很有用的指标，比如我们怎么去做基准测试，这个基准测试在展示模型能力方面，到底好不好，我们也会讨论这一点，另一方面，是的，模型在随时间变好，但有些事情模型仍然不太擅长，比如厂上下文就做的不太好，大多数模型，你可能会说 Gemini有100万上下文长度 GPT有100万上下文长度 Cloud有100万上下文长度 但你真的应该用完这100万上下文长度吗，实际上有基准测试显示，比如用GPT 5.5 如果你用512上下文，准确率会降到50% 也就是说用512上下文，你只能记住之前上下文里50%的事实，所以用完整个上下文可能不是个好主意，你可以看到OPP 4.7 4.6 4.7是最后那条橙色线，在256K上下文长度时，它降到了0% 这可能是基准测试本身的缺陷，所以别太迷信基准测试，但整体看看基准测试还是有用的，看看模型在长上下纹上的能力到底在哪，我高亮的蓝线是开源模型，比如DeepSeq GPT 5.1等等，绿色是谷歌的模型，但总体来看，模型在长上下纹下确实会退化，所以比如你设置一个自动压缩区域，我不建议你用满100万上下纹长度，最多600K左右 然后压缩再继续你的编程绘画，但总的来说，这个图说明长上下纹还有很长的路要走，如果我们想要长上下纹的能力，各大实验室估计还有大把时间去解决这个问题，另一张图展示的是开源和闭源的对比，在长上下纹这块，开源还有一段路要走，开源是蓝线，黑线是闭源模型，可以看到开源整体还行，但提升空间确实很大，跟OP4.7比可能好一点，但这个基准测试本身也许有些缺陷，不过总体来看，这张图说明涨上下文确实还有不少提升空间，另外如果你看之前那张图就是那张总览图，不知道你能不能注意到，在OE preview之前，性能其实有一个平台期，从GBD4到GBD4O性能提升并不大，这大概一年左右的时间，各家实验室都在迷茫下一步该做什么，在OE preview出现 证明推理能力非常重要之前，他们其实不知道接下来该追求什么，所以这一年里模型基本停滞了，我把这叫做智能平台期，一个假设，假如我们从未发现推理这条路，那AI模型可能就真的停滞了，但因为我们发现了推理，证明了模型具备推理能力，所以我们延续了之前的增长趋势，通常来说，我不知道这算运气，还是自我实现的预言，不知道你们了不了解，摩尔定律，摩尔定律能延续，不是因为定律本身，而是因为人们知道它必须延续 [00:09:28]

推理能力与模型增长趋势

# #643. 内核、强化学习与智能体奖励黑客专题

目录

而是因为人们知道它必须延续

Daniel Han：而是因为人们知道它必须延续，所以投入资源去让它延续，这有点像在说，我们本来可能活在一个，模型停止进步的世界里，但随着OE Preview的推出，模型又回到了原来的增长轨道上，实际上我做了一张图来展示，假设我没有发现 OE Preview的推理能力会怎样，那条黑线就是模型本应有的能力曲线，可以看到我把它画成了S型，类似S型曲线，如果我们没发现推理，模型的能力肯定会逐渐衰减，对吧，我们最多只能得到一个，跟Cloud 3.7 Sonar差不多，或者0.1那种水平的模型，但幸运的是，因为推理和这种新的扩展范式，绿线代表了新的扩展定律，可以看到，之前黑线的倍增周期大概是7个月，也就是每7个月模型能力翻一倍，但现在这个周期缩短到了3.5个月，每3.5个月，你只需要等3.5个月，模型就会变强一倍，对吧，强两倍，这还挺惊人的，但核心问题是 这条绿线会一直保持直线吗，这是各家实验室，仍在苦苦挣扎的根本问题，如果绿线也再次变成S型呢，这是有可能的，但我们其实不知道会不会发生，这条绿线会继续扩展，一路冲到无线还是会变成S型，这个问题让很多研究人员夜不能寐，下一步是什么，在推理之后，在0.1之后，下一步是什么，很多研究人员都得去思考这个问题，不过这张图是我最喜欢的图之一，因为它展示了只要有新想法和创新 I的进步就能持续下去，好了 [00:10:52]

一凯：第一部分大家有什么问题吗，请说，我们现在已经到一万亿参数了，对吧，你觉得下一次飞跃如果需要的话，我们是不是得搞十万亿参数，才能看到飞跃，或者说限制会在哪里，好问题 [00:11:27]

Daniel Han：刚才的问题是，现在的模型已经到了一万亿参数，我们是不是需要搞到十万亿，甚至更多参数，模型才能变得更强，扩展定律确实说了，如果把参数量和数据集大小相乘，一般来说，这个数字越大，模型能力就越强，所以是的，你可以把参数扩大十倍，通常性能也会提升，但我的看法是会有边际递减效应，我觉得这不只是模型大小乘以数据集大小那么简单，它们相乘时其实存在某种密率关系，所以随着时间推移，回报是递减的，所以你说的对，如果你想让能力翻倍，确实需要把参数扩大十倍，然后想再翻一倍，又得再扩大十倍，这就从一万亿到十万亿，再到一百万亿参数，也许这不是一个好的扩展方式，也许与其搞一个 100万亿参数的模型，不如用某种新算法，或新架构来解决问题，但你说的对 如果你是实验室，想做点简单的事，那最简单的路，就是直接搞个 10万亿参数的模型，但我觉得，也许新算法会更好，还有别的问题吗，请说，你觉得我们是不是快走到，下一个token预测的尽头了，这个问题问的好，要不说，下一个token预测，其实非常强大，因为本质上，人类语言本身就极其强大，而且不限于人类语言，也可以是数学编程，你只需要预测下一个词，而为了预测下一个词或token 你必须了解关于那个token 或那个词的一切，对吧，我记得Elia说过 Elia Sasskiver 她说过，你得在模型里构建一个理解的，很透彻的世界模型，才能预测下一个词，所以我还是觉得，下一个词预测还有很长的路要走，比如你看这张图，如果我没有推理，可能它已经到顶了，但因为我们发现了推理这个新方法 并且继续在下一个词预测上，做更大的规模扩展，我们又回到了增长趋势上，我觉得核心问题是，如果没有下一个词预测，下一步是什么，这才是根本问题，大多数我不确定，我不确定下一步是什么，我觉得下一个词预测就是极其强大，因为它很容易形式化，而且你可以，因为注意力机制也非常强大，你可以用那个特殊的因果注意力机制，训练效率非常高，所以我不确定，我觉得核心问题是，我不确定下一步是什么，我猜研究人员也在挠头，下一步到底是什么，对，是的，对 [00:13:28]

一凯：这个追问很合理 [00:14:05]

Daniel Han：你提到这儿，有点像旧AI时代的LSTM 我们不知道之后会是什么，这个说法有道理，我觉得，就像之前的例子，对吧 GBT-4之后，就是预训练，一些监督微调，一些RHF 一些强化学习，然后他们等了一年，才等到OE preview 所以在这一年的迷雾里，战争的迷雾里，我们不知道下一步是什么，研究人员都在拼命尝试，我们要不要做推理过程，要不要把预训练做得更好，要不要把模型做得越来越大，他们试了所有这些实验，而推理就是那个跑出来的方向，我猜，但我觉得核心问题是，那条绿色的趋势线还能继续吗，目前来看，它还在继续，一旦我们看到模型在智能，在能力上开始趋于平缓，那我们就会回到过去那种，一年的等待期，但就目前而言，这些模型看起来还非常强大，对，我不确定这是否会 如果你眯着眼看这张图，也许我们正在趋于平缓，也许我们先不考虑GPT5.6 那个作弊的例子，把它从图里拿掉，但你能看到GPT5.6 Methos4.6 他们都有点，我猜有点趋于平缓了，所以也许我不知道有没有人想赌这个，但也许模型已经到顶了，不过我们还不确定，所以我们应该再等几个月看看，那就等3.5个月，如果等3.5个月后看到模型没有进步，那我们就是到顶了，但记住我们只需要等3.5个月，所以这个规律到时候就会失效，实际上如果你等7个月，等7个月也就是两倍的时间，假设模型就假设那条虚线，如果模型只是沿着虚线走，好，那我们就是到顶了，我也会同意，我们得设计点新东西，搞点新发明之类的，但就目前而言，看起来还行，好，下一部分，每个部分我们都可以提问，想问多少都行，下一部分我们要聊的是 开源模型和闭源模型 Artificial Analysis有一张很酷的图，展示了开源模型的性能表现，开源是这条蓝线，闭源模型是这条黑线，你可以看到，开源确实落后，开源随着时间推移，明显落后，还有一个很好的基准测试，叫Weird ML Benchmark 它也显示开源模型落后于闭源模型，对吧，蓝线是开源模型，绿线是闭源模型，你可以看到，随着时间推移 X轴是模型发布日期 Y轴是性能，你能看到开源模型有点落后于闭源模型，那为什么是Weird ML Benchmark 我不确定你们是否了解这个，为什么是Weird ML Benchmark 它似乎是一个非常好的指标，比其他基准测试更好，原因在于我之前提到过，之前描述过，对吧，推理，推理模型是绿线，然后黑色的是非推理模型 可以看到推理模型，把翻倍时间缩短到了3.5个月，之前是7个月，有意思的是，在Weird ML基准测试上，这些推理模型，其实并没有表现的更好，它并没有改变趋势，只是让结果稍微好了一点点，所以这个Weird ML基准测试，看起来更稳健，这也是为什么它非常有用，实际上如果你去刷刷推特，在GLM5.2发布之前，大多数推特上的人都说，你看DeepSeek 如果你眯着眼仔细看，我好像有张图，对，如果你眯着眼看 DeepSeek和Kimi就在那个小角落里 DeepSeek 那三款模型，三巨头是DeepSeek Flash DeepSeek Pro 我记得其中一个是Max Mode之类的 Kimi也在那边，所以在GLM5.2发布之前，推特上，大家一直在说，开源模型比闭源模型差远了，对吧，他们不只是落后，而是差很多，就是因为这个基准测试 实际上如果你非常仔细的看 Weird ML基准测试，所有顶尖模型都来自币源实验室，比如Fable GP5.5等等，所有这些都清楚的表明，开源模型在这个基准测试上表现不太好，直到GLM5.2出现，排名第15的是GLM5.2 它表明开源模型其实已经追上来了 GLM5.2有点震惊世界，让大家觉得开源还没死，总的来说这个效果非常好 DeepSeek GLM 5.2表明，开源模型依然做得很好，你还可以按国家筛选，按国家来看，黑线是美国模型，深红线是中国实验室的模型，当然还有其他实验室，比如法国韩国的实验室等等，但随着时间的推移，可以看到美国实验室似乎一直表现很好，总是处于前沿，而中国实验室则喜欢慢慢追赶，之前我提到过，在OE Preview发布之前的平台期 如果你仔细看这张图，会发现有个东西叫开源干旱期，在OE Preview发布之后，开源实验室不知道如何复现它，他们完全不知道什么是推理，我不确定你们是否了解，这是几年前的事了，但在推特上 OpenEye一直在说OE Preview极其强大，你每天看到的每一条推文，都在展示OE Preview有多厉害，所以有那么一段时间，我记得是六到八个月，开源模型开源实验室，都搞不清楚下一步该做什么，但后来大家都知道 DeepSeq RE出现了，他们证明了即使是开源模型，也可以训练他们做推理，用GRPO强化学习，而且效果非常非常好，实际上如果你把这张图里的黑线，剪去蓝线直接相剪，就会得到这张图，你可以看到开源模型落后了多少个月 OE Preview 而且随着时间的推移，你可以看到在OE Preview发布之后，差距急剧拉大 开源模型在落后闭源模型方面，差距非常大，然后当DeepSeq RE发布时，开源实验室就知道了，我们也可以做自己的OE类型推理，这就是为什么最近，闭源和开源实验室之间的时间差距，又开始缩小了，对这张图有点过时了，大概是五月份的数据，所以我认为现在随着GLM5.2的发布 [00:19:40]

开源模型与闭源模型的差距

# #643. 内核、强化学习与智能体奖励黑客专题

目录

所以我认为现在随着GLM5.2的发布

Daniel Han：所以我认为现在随着GLM5.2的发布，差距实际上是四个月左右，所以开源实验室落后闭源实验室，大约四个月，这里其实有一张很不错的图，做了一些回归分析，类似趋势外推，根据这张图，如果按这个趋势外推，到今年12月，开源模型将100%赶上闭源模型，就在今年12月，但谁知道呢，也许开源模型，也许到12月，我们就能有一个和最强闭源模型，一样强大的开源模型了，如果这个趋势能持续的话，所以我想问题在于，这个趋势会持续下去吗，问题永远是趋势会持续下去吗，而且也许你们大多数人都知道，开源模型在技术上的一些改进，在能力上的一些提升，是通过蒸馏实现的，一些开源实验室喜欢做的事情，是去调用那些前沿模型，比如OPUS或GBT 然后用这些调用痕迹来训练自己的模型 这是很多实验室常用的一种方法，我倒不觉得这是什么坏方法，但确实有些闭源实验室会看不起这种做法，他们的态度是，不应该让这些开源实验室这样去训练，相当于白嫖训练成本，但其实你并不一定要走这条路，大多数实验室做蒸馏的时候，有两种不同的方式，第一种是你需要拿到logis 需要真正接触到完整的logis 但问题是，大多数实验室其实拿不到，实验室不会把完整的logis给你，你拿到的只是被总结过的推理轨迹，和最终输出，所以这些开源实验室，并不是单纯在拿OPUS的输出训练，那样就太傻了，他们真正做的是用GRPO或者强化学习，去重建推理轨迹，因为你手里有最终输出，也就是答案，你只需要用GRPO和RL 去自动生成推理轨迹就行了，他们差不多就是这么训练这些模型的 所以你其实不需要去接触模型的logits 或者权重，没那个必要，对，还有一个很重要的因素，就是这些大模型随着模型越来越大，你没法再在本地设备上跑了，跑起来极其复杂，所以我们做了一种叫动态量化的东西，本质上就是拿一个模型把它量化到一bit 但诀窍在于，你不是把每一层都量化到一bit 你会把一些重要的层量化到16bit 或者8倍之类的，如果你把整个模型，全部量化到1bit 准确率会是0% 对吧 0% 但诀窍是，如果你做动态量化，你看这是一个3bit的 DeepSeq模型 3bit的版本，准确率是75.6% 实际上如果你做动态1bit 准确率能达到57% 所以我们证明了，如果你用一种，叫动态量化的方法，聪明的去量化模型，是可以把准确率找回来的，而且当模型变得越来越大，越来越大之后 这种方法会变得更加重要，如果你画一个帕利托效率图，不做动态量化，或者用其他一些动态量化方法，效果还行，但我们证明了，如果你聪明的选择哪些层去量化，效果会更好，不知道大家有没有关注 GLM5.2 我们也发布了动态量化版本，我们证明了GLM5.2 可以被量化的非常好，你看，我记得这个是，这是个动画，能放，对，你可以看这个动画，一个EBIT的GLM5.2模型，这就是EBIT 这个EBIT模型体积直接小了86% 比完整的1.5TB小了86% 而且它在其中一个提示上的表现依然非常好，这说明模型并不傻，对吧，你把模型缩小86% 它并不会变傻86% 它只变傻了14% 所以这证明了，如果你用一些特殊的技巧去压缩模型，模型依然能工作的很好，我们也跟OPUS比了 跟OPUS4.8比了，跟GBT 5.5比了，另外要注意，我用GLM 5.2的时候，开的是高推力模式 OPUS开的是超高 GBT 5.5开的也是超高，所以这里面还有不同的推力模式，我们也能看到区别，而且所有这些都是一次性输出，我们不会去反复提示模型50次之类的，就是直接一次性输出，好，那接下来开源和闭源对比，这部分应该讲完了，大家还有什么问题吗，对，刚才的问题是，我们把模型的哪些部分量化到，低比特哪些保留高精度，总的来说，我们确实在这方面做了很多研究，你看Q关3.5的架构，里面有一些层是线性注意力层，线性注意力层是绝对不能量化的，如果你把线性注意力层量化下去，长上下纹表现一定会出问题，所以一般来说，线性注意力层需要保留在8bit或16bit 这是一个例子，另一个是你看模型的其他层 有些层可以被大幅量化到1bit 原因是这些层有点像填充层，他们其实没干什么事，要判断某一层到底有没有在干活，你需要某种协作数据，你需要有一些有代表性的数据，把它输入模型，然后拿到每一层之后的输出，这样就能看出来，模型在这一层，它的输出变化大不大，如果变化不大，那好，也许直接把这一层量化到一bit就行了，但如果变化很剧烈，那你就要小心了，不能把它量化到一bit之类的，我们其实发过很多博客和研究来讲，这个比如我们还展示过，视觉层不能量化，如果你把视觉层量化下去，模型会变得非常差，你给他看一张火车的图片，他可能会说看起来像海滩，所以视觉层音频层绝对不能量化，只有语言模型层可以量化，但要做到这一点，里面有很多技巧，对没错，刚才的问题是，如果你做蒸馏，可能会在其他话题上表现变差，比如你只做编程 那他编程会很好，但其他方面就变得很笨，这个说法有道理，我觉得核心技巧在于，你需要非常非常多的样本，你得调用模型大概一千万次，技巧就在于，当你用高度多样化的提问，调用模型1000万次后，根据预训练的原理，模型通常也能在其他任务上表现不错，预训练之所以效果好，就是因为他学了太多任务，能够把缺失的部分补上，比如你只用数学题，去预训练一个模型，假设只做数学，那他可能表现不会太好，在其他所有任务上都不会太好，但预训练的诀窍是，他学数学，编程，法律，你能想到的每一个话题都学，正因为他有这么多知识，所以能填补他不知道的东西，所以做蒸馏也得用同样的方法，你需要好好采样，比如不用十万亿个token 而是采样其中的1% 然后去调用模型，对，各大实验室差不多就是这么做的 这个问题问得很好，与其做一比特量化，能不能直接减脂，比如直接删掉一些层，总的来说，根据我的研究，减脂确实有效，但有一个很大的问题，你需要重新训练模型，减脂之后，你得持续训练模型，因为你删掉了一整层，删掉一整层后，你就需要做CAT 或者进一步的微调，让其他权重承载更多知识，这就是唯一的问题，删层就会这样，如果你不删层，做动态量化，这叫训练后量化，也就是PTQ做量化的话，完全不需要任何训练，但如果你简直删层，就必须训练，这就是其中一个问题，对，这个问题很棒，刚才的问题是，因为开源实验室会用闭源模型，所以差距永远不会真正归零，我部分同意这个观点，主要的论点是，对开源实验室来说，最简单的方法就是做蒸馏，但是如果你是一家开源实验室，你只会在刚进入市场时用这种方法 但作为长期的安全保障，你不会一直这么做，相反，你会用其他方法，比如生成答案，获取问题，你会从外包或scale之类的公司获取数据，或者组建一支庞大的数据标注团队之类的，总的来说，现在有些实验室并不只是做蒸馏，他们不会只是调用模型 10万一次来做蒸馏，他们还会用自己的方法，来增强训练数据，我后面可能会讲GLM的方法，他们确实发明了一些新方法，来做非常好的强化学习和GRPO 因为GRPO和强化学习是开源的，这些实验室就用这些方法，来让模型变得更好，所以蒸馏只是训练体系里的一部分，我想说的是，假设蒸馏消失了，开源实验室的进度，可能就不是4个月，而是8个月，但这也没关系，因为我们总会有一些创新的新方法 Deep Sea可能会发明新东西 GLM Kimi 所有这些 还有谷歌，甚至美国的开源实验室，他们都会有新的创新，所以我觉得没错，如果停止蒸馏，时间会从四个月拉长到八个月，但我仍然觉得这没问题，这只是一个延迟，然后这个延迟又会回到四个月，对，好，问题，问题是，如果动态量化总是更好，为什么大家不总是用动态量化，这取决于，动态量化的定义，每个实验室，对动态量化的做法都不一样，其实我本来就要讲这个，打算放在基准测试，和精度最小化那部分讲，所以你的问题后面会回答，好再来一个问题，对问题是，对于消费级GPU开源模型，在参数量能力，这些方面怎么样，在开源社区最流行的模型，大概是QW3.6的350亿 270亿参数版本 Gemma的260亿 Opus 4.7 Flash 这种最小的模型，我觉得这些小模型，其实非常强 等一下我好像没有图，但关键是，这些小模型最大的问题，这个我也会讲到，最大的问题是，工具调用非常差，会不断循环，根本原因就是它们太小了，所以才有这些问题，但我们可以解决，我后面会讲的一点是，模型本身变得不那么重要了，真正重要的是harness 或者说工具，你怎么去调用模型，这对模型最终准确率的影响最大，而不是模型本身，这个我也会讲，好我继续，每个部分之后总会有问题，好下一部分，好玩的部分，吞吐最大化，哦本来想写二倍，算了不管了，吞吐最大化和精度最小化，我本来想叫精度挖掘，但没有这种说法，所以暂时就叫精度最小化，这部分我其实很喜欢，不知道大家能不能看清，有点算了 这张图展示的是模型成本的帕雷托效率，成本是X轴Y轴是竞技场分数，就是LM Arena的分数，这部分我特别喜欢，可能你们看过各个模型的LM Arena分数对比 [00:29:48]

模型成本、精度与帕累托效率

# #643. 内核、强化学习与智能体奖励黑客专题

目录

可能你们看过各个模型的LM Arena分数对比

Daniel Han：可能你们看过各个模型的LM Arena分数对比，我不是很喜欢那种方式，不太直观，更好的做法是把每个模型画在两个轴上，成本对精度，可以看到飞波表现非常好，在那张图上非常非常靠前，但你能看到一条帕雷托趋势线 Gemini 3.1 Preview在这边 Opus 4.6在那边，还有其他一些模型，飞波发布的时候，好吧，现在它被禁了，但不管飞波发布的时候，大家试用后发现，实际能力并没有强那么多，不过大家真的很喜欢它的前端设计，他们说用Fable做UI UX 前端非常非常好，实际上你看LM Arena的图表，前端设计这块确实有一个很大的跃升 GLM 5.2也在上面，属于帕雷托趋势的一部分，但总的来说，这些大模型在通用任务上，似乎不会再有那么大的提升了，但在UI和设计方面 Fable确实做得非常非常好，所以你应该用Fable来做设计 做UI UX HTML JavaScript 这些，但其他任务，可能就别用Fable了，因为它非常贵，用别的模型就好，不过，这张图说明 Fable在UI和UX上很强，但随时间变化呢 Anthropic的观点是，我们要最大化吞吐，同时也要最大化精度，他们想服务更多人，但有时候这并不奏效，反而会降低精度，你们可能知道Margin Labs 他们做了一个很酷的东西，叫SweepBench 用模型来基准测试 Codex和Claude Code 这是这些模型随时间变化的精度曲线，虚线是新模型发布的时间点，其实还有一条，等一下，鼠标在这，我记得是在这里 Fable发布的时候，所以其实还有一条虚线，你可以看到一些很有意思的趋势，第一，每次有新模型发布，这个每日追踪器的精度似乎都会下降，所以如果你想预测Anthropic 什么时候发布新模型，可以用这个当指标 非常准，对吧，所以基本上，如果你看这里准确率在很长一段时间里下降，就是因为Fable发布了，再看这边，我觉得是OPPUS 4.8 对应该是OPPUS 4.8 这是OPPUS 4.7 以此类推，那个大概是4.6吧，我记不太清了，但你也能看到，准确率有巨大的下跌，而且不是一两天，是很长一段时间，这也是Codex 他们也会跑Codex的基准测试，你也能看到，随着时间推移，我不知道你能不能，眯着眼看清，但如果你画一条趋势线 Codex其实是在变差的，我猜OpenAI也在调查这个，这是codex 所以这里用的是5.5 这里用的是，没错是一样的，这个基准测试的做法是，随机抽取50个sweet bench的问题 sweet bench非常大，所以只抽50个，然后让模型去回答，再记录准确率，显然每天都会有日常波动，这其实没那么有用 因为你只问了50个问题，所以诀窍是看趋势，而这个趋势，也许OpenAI该查查了，你再看cloud的趋势 anthropic情况也不太好，总的来说，抱歉，这不是同一个模型，模型变了，我的错，用的是同一个harness 但模型在变，这条虚线是gpt5.5 所以这边全是gpt5.5 这边全是gpt5.4 我想这边是5.3 以此类推，但看起来模型在变差，这我就不太懂了，而且这可能只是在这个基准测试上，对吧，在sweepbench这个专业基准上，它在变差，但我其实不太信这些基准测试，最好的方法是看性能退化，就是那种突然的下跌，比如codex在这里大幅下跌，我不知道为什么，还有Claude Code在这边，或这边有几周表现非常差，对吧，是的，有知性区间，我没画出来，但这是50个任务，所以每天，他们会随机调用50个任务 他们会抽50个任务，所以你不应该看这个每日数据，这是每日的，每天是50个问题，再50个问题，再50个问题，以此类推，你应该看滚动平均值，比如某种7天滚动平均值，那个数字会更好，真的吗，我从这里就能看出来，它是在下降的，如果你看这个，如果你做七天移动平均，我之后可能会拿到那个图，它确实在下降，你能看到的，我不知道，你看那些顶部峰值，顶部峰值是在下降的，好吧，那底部峰值呢，好，我同意，有随机噪声，所以诀窍是你得做移动平均，如果你看移动平均，你就能看到它确实在下降，我之后可能会拿到那个图，你可以去搜一下，去margin labs 搜margin labs codex cloud code benchmarks 他们确实会展示每周的趋势，但我只是想说，这不是说模型在变差，这只是为了展示准确率，那种突然的下跌，这些模型的准确率是会下降的，问题是为什么 比如为什么Claude Code在那几周里性能下降了，为什么，这才是根本问题，有一种理论，一个理论是，他们可能不小心在模型发布前，他们在做测试，所以他们可能把一些查询路由到了OPPO 4.8 或者Fable之类的，但问题是他们并没有，所以主要问题是，如果你真的路由到了另一个模型，为什么准确率会下降，按理说应该变得更好才对，所以其中一个理论是，理论一，他们忘了编系统提示词 Fable的系统提示词是不同的，但他们给Opus 4.8 用了错误的系统提示词，这就是准确率下降的原因，然后模型发布后，准确率又回升了，因为他们用了正确的系统提示词，这是一个理论，另一个理论是，我们待会会讲到，就是他们其实在耍花招，他们做了量化，但没做动态量化，而是做了一些很蠢的量化，或者有些GPU坏了 比如他们用错了GPU 有些GPU可能发生了比特翻转之类的，我不确定，他们可能建了个新数据中心，然后那个数据中心，碰巧准确率就比较低，事实上我待会会讲这个，对，但有很多很多理论，很多可能性，解释为什么准确率会下降，其实我想是下一张图，对，下一张图，哦，是后面的幻灯片，说起来，这是什么时候的事来着，我不太记得了，大概是几个月前 AMD的一个人，在Claude Code上提了个issue 就在那次准确率大幅下降之前，他们直接去问Cloud团队，为什么准确率会出现，这么明显的下降，到底怎么回事，然后Cloud在4月23号，发了一份详细说明，解释了准确率下降的原因，对他们做了一次事后复盘，原因是，当你第二次问Cloud的时候，之前的思考痕迹被删掉了，而且系统提示词也有问题 他们发现这就是准确率下降的根源，也就是说在Claude Code里，你第二次提问时，上一次的思考痕迹会被抹掉，我都不知道他们怎么会没发现这个问题，不过算了，按他们的说法 Cloud现在有了内部基准测试，会用更多内部调查来把关，下次再发新模型，这种事不会再发生了，而且这种事确实会时不时出现，所以在这个具体例子里 Claude Code的Harness本身出了问题，不是模型的问题，对Harness把思考痕迹删了，系统提示词也不太好，这才导致准确率下降，好，我们找到了模型变差的一个原因，他们在2025年9月也发过说明，指出问题出在硬件上，在他们的编译器里，他们用了TPU Anthropic 喜欢同时用TPU和GPU 他们发现同样的软件站，在GPU和TPU上跑出来的结果不一样 TPU那边的采样方式不同 GPU那边又是另一种采样机制 这就是他们在9月那段时间准确率下降的原因，因为硬件不一样，所以一旦换了硬件，准确率也会变，我觉得核心结论是 Harness 实现方式，工具本身，现在才是最重要的，模型反而不是关键，模型本身没那么重要，你看开源和闭源的模型，大多数其实都差不多，真正的区别在于 Claude Code是怎么做的 Codex是怎么做，怎么用的，这才是最关键的因素，不再是模型本身了，所以我们也看到了，如果他们不小心，把Harness搞砸了，准确率就会下降，当然，对大实验室来说，我相信他们肯定，知道这些问题，也在努力解决，但我觉得这些问题，可能还是很难彻底修好，希望这能回答大家，关于Harness和准确率的一些疑问，准确率下降确实是有原因的，但也不只是币源实验室会出问题，在开源模型提供商那边，准确率同样会波动，你看这张图 这是OpenRoute的数据，是DeepSeek V4 Pro 大多数推理服务商想做的事，就是给你最高的吞吐量，同时价格最便宜，他们想给你每秒60个Token 120个token 1000个token 越快越好，但有人真的去检查过准确率吗，这才是根本问题，你可能每秒拿到1万个token 但模型本身等于没有，所以关键是要小心选择推理服务商，对于DeepSeek V4 Open Router 跑了两个基准测试，这张图好像是按Tower Bench排序的，绿色的是GPQA 你可以看到，有些推理服务商的表现并不太好，所以在你用开源模型之前，请一定先检查准确率，还有一个很大的问题是，像Claude Code和Codex这种，你可以持续追踪准确率的变化，闭源实验室的好处是，他们能控制整个供应链，开源最大的问题就是，模型供应商和服务商太多了 有时候这会导致用户很反感，觉得开源模型不好用，所以整个生态里，大家一直在说，闭源实验室比开源强得多，但这跟模型本身没关系，问题出在推理服务商，对推理服务商才是罪魁祸首，他们正在毁掉开源的口碑，因为他们给开源带来了坏名声，所以我想看看，你们平时最喜欢用的推理服务商是哪家，这个基准测试，我记得是OpenRouter昨天刚跑的，这是OpenRouter的每日数据，所以不管你们最喜欢哪家推理服务商，请告诉他们别把准确率压得这么低，这是GRM5.2 GRM5.2同样也显示出不同的准确率，你们可以看到，右边的图显示大多数模型，大多数推理服务商，好吧，我老说成模型实验室，大多数推理服务商都在追求吞吐量最大化，但准确率却在最小化，这就是那个说法的来源，明白吗，他们根本不在乎，事实上你们看，最高准确率是76.4% 最低是62.4% 最高和最低准确率之间，差了有10个百分点，所以我想对推理服务商喊个话，请提高准确率，在想着怎么把速度搞得更快之前，先把准确率提上来 [00:39:47]

推理服务的速度与准确率

# #643. 内核、强化学习与智能体奖励黑客专题

目录

先把准确率提上来

Daniel Han：先把准确率提上来，对吧，你们总不会想要一个，蠢得要命的模型吧，就算每秒能跑一万个token 对吧，我们甚至可以做到每秒100万个token 但模型跟没有一样，那还不如直接叫个人来，或者搞个假的算了，所以重点是，我们需要推理服务商在准确率上做好，不然的话，这会让开源看起来非常糟糕，好了，第二部分就到这里，我感觉刚才那段有点像是在发牢骚，这部分还有什么问题吗，请说，对于一家想用开源模型的新公司，你是建议用推理服务商呢

一凯：还是建议从Hangiface下载，然后用model或者某种服务器自己去部署，如果有一家新公司来问你，你会怎么建议他们，这个问题问得好，当一个开源模型发布时 [00:40:31]

Daniel Han：从准确率吞吐量这些方面考虑，到底该怎么用，总的来说，开源已经进步很大了，比如我们之前在Gemma1 Gemma2 Lama Mistro 还有OpenAI GPT-WSS 所有这些模型里都报过bug 好消息是，我们Anslots会在这些实验室发布模型之前，帮他们修复一些问题，所以现在你们拿到的，每一个模型里面，都有我们的一些修复，这是好事，但总的来说，如果你有一个开源模型，我会用Lama CPP 我觉得Lama CPP和Lama Server 可能是bug最少的系统，所以我建议，是的，你应该从Hugging Face下载，用Lama Server 用Lama CLI 或者用Unsoft Studio 随便你，用你喜欢的工具都行，但你应该从Hugging Face下载，至于说，如果你是一家大企业，通常他们的做法是等一周，大多数企业会等上一周，等所有问题都修好了 然后才开始用这个模型，但在我看来，这不是个好办法，要我说，如果每个人都等一周，那我们怎么发现bug 因为只有大规模使用，我们才能看到bug 所以我们需要每个人，都尽早开始试用这些模型，别搞什么，等一周，等一个月，别用这种等待的策略，但我也得说，企业通常就喜欢等，等上一周，对这是普遍做法，是的 [00:41:37]

一凯：你介意再讲一下那些理论吗，就是关于为什么模型在发布前性能会下降，这跟那个问题有什么关系，好的，问题是为什么模型在发布前性能会下降 [00:42:01]

Daniel Han：这些都只是假设性的问题，假设性的理论，每个模型都有不同的系统提示词 OPUS 4.8的系统提示词非常短，但OPUS 4.7的系统提示词特别长，所以有一个理论，这只是个理论，就是Anthropic通过Claude Code 不小心把一些模型路由到了OPUS 4.8 对吧，他们用OPPO 4.8做测试，他们需要测试OPPO 4.8 但他们用了OPPO 4.7的系统提示词，他们用错了系统提示词，所以准确率下降了，这是一种理论，另一种理论是，其实我想想，这大概是我唯一想到的理论了，我在想还有别的理论吗，我觉得可能是测试工具本身的问题，有时候测试工具本身是为OPPO 4.7设计的，当他们准备发布4.8的时候，需要调整测试工具，对吧，他们得为了4.8去改测试工具，让它能正常工作 但问题是你不能把它发布出来，不能交给别人，不然大家就会在Twitter上 LinkedIn上到处说，哦我看到4.8要发布了，所有人都会开始喊 4.8要来了 4.8要发布了，所以也许这就是准确率下降的原因，是他们更新了，他们没有更新测试工具，或者另一种可能，是他们已经悄悄地在新模型发布前，更新了测试工具，结果它反而退步了，降低了准确率 OPPO 4.8 说实话，这个你最好去问Anthropic 不过总的来说，这些性能下降，并不总是对应新模型发布，有些下降是真实的问题，比如思考过程的记录被删掉了，或者系统提示词写错了，说到系统提示词，有件事挺有意思的，他们当时想降低模型的啰嗦程度，让它画少一点，结果反而把模型变笨了，我记得好像就加了一个词，不对是一句话 在系统提示词里加了一句话，模型就变笨了，不知道这算不算回答了你的问题，我也不确定还有没有人有其他理论，好像也没什么人有更多猜测了，当然Android的工程师肯定知道原因，但他们不会说，所以这些都只是假设，要么跟系统提示词有关，要么跟测试框架有关，不过总的来说，你也可以用这个图表，如果性能下降了，那很可能就是有新模型要来了，还有别的问题吗，对，没错，没错，是的，完全正确，所以在新模型发布前，他们会给那个新模型用一套不同的系统提示词，或者给旧模型用，这大概就是准确率会下降的原因，他们把系统提示词换了一下，或者类似的操作，另外模型本身 OPUS 4.8的系统提示词非常短，真的非常非常短，而4.7的提示词超级长，原因嘛，我也不知道发生了什么，但他们就是搞了个超长的系统提示词 到了4.8就大幅缩减了，所以也许他们给4.8用了4.7的长提示词，或者把4.8的短提示词，用在了4.7上，导致准确率下降，我也不确定，但你完全正确，他们确实会发布提示词，不过我觉得他们网站上公布的是给cloud.ai用的，也就是在线聊天板 Claude Code的系统提示词其实是不一样的，你得实际去调用Claude Code 问他我的系统提示词是什么，然后把它打印到一个文本文件里，才能去研究它的系统提示词，到底是什么，而且你还可以按自己的需要去覆盖它，对，但大概率是另一套系统提示词，最后一个问题，还有人要问吗，没有，好，那我们继续，下一部分我们要聊的是，基准测试和作弊，不知道大家有没有看过 DeepSway基准测试 DeepSway 是一个最近很火的基准测试，它的X轴是成本 Y轴是DeepSway的分数 这是一个新的基准测试，基于一个更好，未被污染的SwayBench Pro版本，总的来说，你可以看到GPT 5.5配合Fable 表现非常好，还有GLM Opus 4.8也都不错，这张图显示了模型的表现，这些点代表不同的推理模式，我想这是最大推理强度，还有高超高，这些其实也对应着不同的推理时长，但总的来说，你能看到一条怕累脱效率的趋势线，最好的模型是那些在右上角的，越往右越往上模型就越好，所以你希望模型能不断向右上角那个方向进步，另外我也是刚知道，之前真不知道 SuiBench Pro这个基准测试，在跑分的时候，是用语言模型来做验证的，我当时就很困惑，因为对大多数基准测试来说，你绝对不应该调用，另一个语言模型，来检查你的答案，对不对，但在SuiBench Pro里，你真的就是调用一个语言模型 来验证你的语言模型是否正确，所以这就是为什么 SuiBench Pro 不是一个很好的基准测试，其中一个问题是，我们需要做采样吗，比如你需要跑多少次验证，才能确认你的答案是正确的，跑一次，五次还是一百次，然后取平均值，我当时知道真相后，真的挺震惊的，非常意外，下一个问题是，用哪个模型来做验证，比如说你让OPPO 4.8 去跑SuiBench Pro的基准测试，那你用什么模型来做验证，用OPPO 4.8自己吗，也就是说，你在用同一个模型来验证它自己，我当时真的很惊讶，原来基准测试是这么运作的，而且说实话挺失望的，但不管怎样，你当然可以用另一种方法，就是人工验证，比如我把所有基准测试的题目，给在座的各位让你们来验证，这当然也可以，另外如果验证结果每天都在变，怎么办，别忘了之前模型的表现 就是每天都在变好或变差的，那如果你在模型表现很差的时候，跑验证会怎么样，对吧，你拿到的苏伊班尺分数会完全不一样，所以我其实挺惊讶的，行业里居然就是这么干的，跑Suite Bench Pro 但用LM来做验证，这绝对不是什么好主意，但不管了，反正大家就这么做，实际上根据DeepSuite的数据，如果你用语言模型做验证 Suite Bench Pro有8.5%的假阳性率，假阳性率的意思是 LM验证器说模型答对了，但其实它是错的，所以有8.5%的情况会这样，假阴性率更糟糕，有24% 这意味着验证器说模型错了，但它其实是对的，所以你看Suite Bench Pro 是个很差的基准测试 DeepSuite展示了他们解决了这个问题，把假阳性率和假阴性率都降到了1% 实际上还有一些作弊的例子，这个也挺让人吃惊的，在SweetBench Pro这个基准测试里 你会拿到一个GitHub问题，一个GitHub issue 你让模型去解决那个issue 但你知道吗，在SweetBench Pro里，你会拿到完整的Git历史记录，也就是说你连答案本身都拿到了，我听到这个的时候真的很震惊，在这些模型测试里，你居然把答案和问题一起给了模型，那模型当然会作弊啊，所以这绝对是个非常糟糕的基准测试，你永远永远永远都不该把答案给模型，这太蠢了，但没错，这种事经常发生，你肯定不希望模型直接看到答案，但那就是个很糟糕的做法，其他可能遇到的问题，比如假阳性，就是PR的测试，那些GitHub issue的测试非常弱，所以到最后，当那个GitHub issue通过一个pull request关闭时，维护者写的那些测试并不怎么样，这样一来，问题就是，如果你的测试非常弱，那模型的表现看起来就很好，但其实并不好，而且最糟糕的是 模型会绕过一些测试，直接跳过，这可不是什么好做法，实际上 Depthway展示了模型通过查看完整Gate历史记录，来作弊的次数，也就是直接跳到答案那里，你可以看到Opus 4.7 这些紫色的柱子显示了模型的作弊情况，看起来GPT 5.5从不作弊，看起来是这样，好吧，也许我们该用GPT 5.5 其实这很有意思，有些人认为，如果你作弊，那其实是好事，原因在于，这说明Opus 4.7已经懂了，如果你把完整的Git历史给它，它就应该能找到答案，对吧，是你把完整历史给了Opus [00:49:24]

基准测试、作弊与验证器

# #643. 内核、强化学习与智能体奖励黑客专题

目录

是你把完整历史给了Opus

Daniel Han：是你把完整历史给了Opus 它就应该直接跳到解决方案那里，所以有些人就是这么想的，大家有一种观点，是人类把完整的Git历史，给了Opus 4.7 所以它就应该作弊，对吧，是你设计让它去作弊的，所以总的来说 Cloud的模型似乎作弊更多，而OpenAI模型似乎作弊更少，所以这就看你了，看你到底想不想要一个会作弊的模型，而且作弊这个词的定义本身也很有倾向性，所以我想，这取决于你怎么理解作弊，这个词至于假音性，记住Suitebench Pro是调用一个语言模型，来验证你的答案是否正确，所以有时候它做的并不好，有时候你会遇到一些不相关的测试失败，你忘了，有时候你写测试时，会忘了那些有辅助函数的测试，然后你就直接跳过了，所以问题很多，我记得这个数字是20 所以有24%的情况，验证器说你的模型错了 但它其实是对的，这是另一个问题，更糟的是，测试框架本身就能改变准确率，当你用SuiteBench Pro 做基准测试时，你需要为所有模型，准备一个统一的agent 或一个统一的测试框架，对吧，你怎么为这些模型，创建一个通用的控制环境，你可以看到，比如DeepSuite展示的，如果你用Claude Code 你能得到40%的准确率，但如果你用他们自己的，也就是一个专门的测试框架，你能得到50%的准确率，再比如Gemini 对吧，如果你用Gemini CLI 你能得到20%的准确率，但如果你用他们的那个控制环境，你能得到40%的准确率，所以总的来说，对于这些基准测试，你还需要一个受控的环境，这也是另一个问题，而DeepSuite通过这个基准测试展示了，通过解决作弊问题，通过消除这些其他问题，你可以看到模型的能力不再饱和了 对吧，你可以看到模型在能力上其实差异很大，按这个基准测试 GPT 5.5是最好的，按这个来看，这个没更新 4.8应该在这附近吧，不过没错，这个基准测试显示 Cloud Tycoon准确率是0% 对吧，挺糟糕的，我觉得，但这个基准测试只是说明，好吧，核心问题是，你信这个基准测试吗，那是另一个问题，还有别的基准测试，对吧 Cognition发布了一个Frontier Code基准测试，也在试图解决同样的问题，就是作弊和基准测试的问题，他们展示的是你可以修复污染问题，怎么修复污染呢，你去问Cognition的团队，他们全是国家奥赛，国际奥赛选手，他们人工检查了每一道题，去掉了不好的题目，不好的例子，他们还展示了他们的题目更多样化，对吧 Frontier Code 有很多不同的其他语言，他们展示了通过多样性，通过更多样的编程语言，通过减少污染 他们也有一个基准测试，按他们的基准测试 OPUS 4.8是最好的，对吧，准确率14.5% GBD 5.5是7.2 这是钻石级的那套，对吧，就是那50道最难的题，主基准测试是100道题，扩展版是150道，所以按他们的说法 Cloud表现最好，按他们的说法，但同样按他们的说法 Frontier Code 似乎比DeepSuite更好，对吧，我之前展示的那个基准测试 DeepSuite 这个按Frontier Code的说法，也就是Cognition团队，他们的基准测试比DeepSuite更好，对吧，按他们的说法 DeepSuite的假阳性率是44.9% 但别忘了DeepSuite自己怎么说的，他们说假阳性率是多少来着，我不记得了，他们怎么说的，他们说是0.3%对吧 DeepSuite说他们的假阳性率是0.3% 但Frontier Code说DeepSuite的假阳性率是44.9% 所以你看基准测试实验室之间，我觉得是有些竞争的，好吧 Cognition不算基准测试实验室，但就是公司之间，所以核心问题是，我们信谁，你信Frontier Code的基准测试吗，你信DeepSuite的基准测试吗，你信Suite Bench吗，我们信谁，这是个很重要的问题，我的看法是，就把所有人的结果取个平均，取个平均，你大概就能得到最好的答案，知道谁实际上做得最好，对，但这确实很有意思，好吧，按他们的说法 DeepSuite的假阴性率是对的 1.2% 但我感兴趣的是，我主要的问题是，为什么假阳性率这么高，按Frontier Bench的说法 DeepSuite 甚至比SuiteBench Pro还差，我觉得他们想表达的，就是这个，在假阳性率方面，对更糟的是，还有另一个基准测试，叫Frontier Math Frontier Math是Epoch AI做的 他们搞了这个数学基准测试，分不同层级，一级，二级，三级，四级，四级是最难的，但这个基准测试本身搞砸了，所以他们不得不发布了一个修正版，我记得是一个月前差不多，他们展示了他们的基准测试题目，完全错了，你可以看到，如果你修正了基准测试 GBT5.5的准确率就从50% 跳到了80%左右，所以现在你有点不信任这个基准测试了，他们在一条推特里展示了，哦是6月12号，哦才两周前，在6月12号，他们展示了他们在基准测试上，表现差的原因是答案提取做错了，比如题目表述不清，符号搞错了，比如模型回答是12 但实际应该是-12 他们忘了取符号，他们有一对一的误差，对，这个基准测试有很多问题，所以他们最近才修正了基准测试，其实这还挺好笑的，就两周前的事 你们听说过Hugging Face的Math Verify吗，那是一年前的事了 Hugging Face展示了，实际上这些基准测试，在做数学题时，总是表现很差，原因就是问题很多，对吧，格式不对，分数的提取错了，符号提取失败，数学提取有太多太多问题了，说实话，我感觉这有点像重新发明轮子，或者说重新发现，但Hugging Face一年前就发表了 EPOC两周前才修正，所以你看，基准测试实验室确实需要更多，我觉得他们需要多研究一下文献，实际上根据Hugging Face的MathVerify 如果你不用Hugging Face的验证系统，来修正基准测试，就是那个滤条，如果你修正了基准测试，准确率会大幅提升，比如Q-Grain 准确率本来是10% 修正后变成25% 所以这意味着开源模型并不笨 它们只是输出的格式不一样，问题就在于，我们怎么处理这些不同的格式，其实情况更糟，我好像发过推，对，我2024年8月发过，如果你用不同的分词方式，准确率也会不一样，比如ML或U加空格准确率，就能提升0.4% 听起来可能不多，但重点是，就因为用空格，或者把负12当成12 这种很蠢的小事，这些基准测试的准确率，就会变来变去，所以核心问题是，怎么让基准测试实验室，和公司更可靠，更值得信任，好，这大概就是基准测试，这部分的内容了，这部分还有什么问题吗，有问题，好问题，问题是，我们怎么能信任，这些基准测试公司，或者我们还能做，什么样的基准测试，来让他可信，这确实是个很好的问题，基准测试的核心在于，你得满足两个条件，第一个条件是 这个基准测试本身必须很难被刷分，你怎么做一个极难刷分的基准测试，怎么不让准确率轻易达到100% 第二个问题是，怎么让这个基准测试可验证，就是你怎么去验证答案确实是对的，别忘了 Sweep Edge Pro很蠢，因为它让语言模型自己去验证自己，这不行，所以核心就是这两个问题，举一个简单的例子，可能不是个好例子，随机生成数学题，比如我们可以无限采样，对吧，我们可以生成无限的数学题 2加2 4加4 任意两个数字相加，这是一个问题，你能验证吗，能，你可以用计算器去验证2加2等于几，这能被刷分吗，很难，因为采样空间是无限的，可以是2加2 也可以是1000加101 甚至不一定要用加法，你可以做1000乘1000 所以这是一种方法，做一个很难作弊，但又容易验证的基准测试，比如某种数学题 另一个例子可能也不是很好，我临时想的，让模型写一首70个词的诗，并且必须用到快乐这个词，你能验证吗，能，生成的内容里有快乐吗，有就加一分，你还能数字数，对吧，可以数是不是70个词，所以可以用这类方法，这能被刷分吗，不能，这非常难刷分，因为你可以要求70个词 69个词 68个词 102个词 1000个词，也不一定是快乐，可以是必须包含两个词，三个词，所以某种很难被刷分的基准测试，在我看来，这可能会是最重要的基准测试，而且我觉得好像还没人做出来，也许观众里有人，或者你们可以组队，去搞个创业公司什么的，我觉得这种基准测试会非常非常重要，对，现在有我们能信任的基准测试吗，一个都没有，把所有结果取个平均，老实说，最好的办法 可能就是凭感觉去试，把所有模型都试一遍，看哪个，你最喜欢，说真的，这些基准测试，我最大的问题是，比如这个，就这个，我的意思是，基准测试的结果，每天都在变，所以我们没法再信任他们了，所以我的根本看法是，别信任何基准测试，取个平均，然后问题就变成了，谁来取这个平均，我想Artificial Analysis 那边有个平均分，唯一的问题是，他们对每个基准测试，有权重，所以问题又来了，每个基准测试的权重是多少，你不能简单粗暴的取平均，不能说十个基准测试加起来除以十，这大概形不同，所以怎么定权重又是另一个问题，总的来说，我觉得还是得靠感觉去试，我大概也给不出什么答案，还有其他问题吗，请说，对，你说的对，刚才的问题是，比如SweetBench Pro 你会调用一个模型，问题是调用哪个模型 是OPUS 4.8吗，还是GPT 5.5 你调用这个模型来验证基准测试，所以问题是 [00:59:51]

开源模型、网络安全与监管

# #643. 内核、强化学习与智能体奖励黑客专题

目录

所以问题是

Daniel Han：所以问题是，能不能换成一个开源模型，这样你就有了一个可控的环境，对可以，但别忘了，这里面有个问题，因为即使是开源模型本身也有bug 有时候推理引擎会有bug 有时候推理服务商也会有bug 还有精度下降的问题，所以你说的对，核心问题是我们需要有某个人，某个组织，某个人或者某个委员会，能够去调查你用的是哪个引擎，不要更新引擎，引擎必须保持一致，权重也不能变，所以这个方案有很多很多问题，但我同意你可以用开源模型，只是它解决不了其他问题，对就是这样，好接下来我要讲的是网络安全和监管，这是个很有意思的话题，我不确定在座各位有没有看过这张图，它展示了AI安全研究所的，我记得这是英国那边了，他们展示了模型在一些网络安全任务上的表现 结果显示Methos Preview似乎是最好的，旁边还有GPT 5.5的Preview等等，他们展示了这个基准，再强调一下，我之前提过在我看来 weird ML是个更好的基准，这只是我的个人看法，总的来说weird ML 在衡量模型智能方面，是个更好的基准，原因是它实际上并没有遵循，推理模型和非推理模型的趋势，还记得吗，推理模型的能力，翻倍时间缩短了一半，变成了3.5个月，所以你只需要等3.5个月，模型的能力就会翻倍，而非推理模型是7个月，所以你得等7个月，模型能力才能翻倍，但weird ML并没有表现出这个趋势 Weird ML基准显示的趋势是，根本就没有趋势，我觉得我刚才也提到了，基准测试最大的问题之一，就是你得不断的重新设计自己，重新给各个基准的组合分配权重，比如Artificial Analysis 最近刚发布了他们的CNV 4.1基准 他们展示了各个基准的权重 GDP Valve占20% Terminal Bench占16%等等，他们设计了这些数字，作为每个基准的权重，然后把它们平均起来，所以核心问题是，你怎么确定这些数字，这更像是一种人为的方法，你得去定这些数字 ARC 通用人工智能在ARC 通用人工智能以上，已经有点饱和了，所以我们才有了ARC 通用人工智能 2 这也是为什么我们会有ARC 通用人工智能 3 我猜一旦ARC 通用人工智能 3也饱和了，我们就会有ARC 通用人工智能 4 5 6 7 管它呢，重点是一旦你有了基准，是不是有个叫古德哈特定律的说法，我记不清了，基准本身会变得没用，因为模型会开始针对它来训练，所以这些大模型最大的问题之一，比如在网络安全方面，就是Misos大幅偏离了趋势线，这是为什么很多人害怕这些模型，比如Misos GPT-5.6 他们害怕这些模型，因为它偏离了趋势，你可以看到Misos明显偏离了趋势 而且GPD-5.6其实没发布太多基准测试结果，因为它还在preview模式，这是他们系统卡里的内容，他们展示了在网络安全方面 GPD-5.6表现得非常非常好，事实上GPD-5.6 我记得他们好像只做了Terminal Bench这一个基准，他们没有在其他基准上测试，但在他们的系统卡里，确实有一个非常重要的基准，叫做内部研究调试评估，这是OpenAI自己的一套问题，如果你想的话，这是他们自己的一套，比如10个问题之类的，用来测试GPD 5.6 根据他们的说法，它表现的非常，它表现的更好了，好吧，我本来想说非常非常好，但其实不是，它表现的更好了，你可以看到，这其实挺有意思的，在OpenAI自己的内部研究评估中 GPD 5.5的表现比GPD 5.5或者4还要差，而GPD 5.6明显好得多，对吧，你可以看到GPD 5.6的分数，如果你把线延长，它表现的好得多，但有意思的是 Tara有时候表现的更好一些，这些模型越来越强，但有一个很大的问题是，我不知道大家有没有注意到，开源漏洞的利用也越来越严重了，被发现的严重漏洞数量，最近简直是直线飙升，几乎每周甚至每天，都有某个开源包被攻破，这张图也显示，情况已经非常棘手了 Cloud Mythos 就是在这条虚线的时候发布的，很多人不确定漏洞增加，是不是因为Cloud Mythos 更可能的原因是，我们用了很多模型去大量反复的扫描，就能自动发现这些漏洞，但还有一点 Hack News上有人讨论过，是不是只有Mythos和GPT 5.6 擅长找网络安全问题，其实不是，开源模型在这方面也做得非常好，在发现网络安全威胁和问题上表现极其出色 Hacknews上也有一些讨论，质疑这到底是不是真的，但根据一些研究人员和安全专家的说法 Methos看起来在网络安全上很强，主要是因为他们真的去检查了开源代码，如果你把开源库的完整代码库交给开源模型，他们也能找到bug 也能发现安全问题，你只需要调用模型就行了，所以我觉得根本问题就在这里 Methos看起来很强大，不是因为模型本身有多强，而是因为他们真的去测了所有的开源仓库，如果你也用这些开源模型，去检测bug和安全问题，你一样能找到，大家都知道 Fable现在对大多数人来说，还是禁用的 GPT 5.6也是延迟，分阶段发布，对吧 GPT 5.6的预览版是周五，也就是几天前才出的，而且他们说了，不会对所有人开放，现在不管是开源圈还是闭源圈，大家都在问一个核心问题，我们每个人使用这些AI模型，是不是需要许可证，就像在座的各位，以后用模型，是不是得像考驾照一样，先拿个证 这些发布是不是都会延迟，以后每次新模型出来，是不是只有受信任的机构，才能拿到，下一个更重要的问题是，开源模型怎么办，美国政府现在正试图控制 Fable和GPT 5.6 那现在的问题是，我们该怎么对待开源模型，就是那些开放模型，开放权重模型，政府会怎么管控开源领域，说实话，政府这么早就开始控制 GPT 5.6和Fable 我挺惊讶的，我本来以为会是年底或者明年的事，现在看来就是现在，所以下一个问题就是，开源模型会面临什么，政府会开始管控开源模型吗，最根本的问题是，什么才算前沿智能，政府之所以要控制这些模型，是因为他们太强大了，那到底用什么来定义智能，我们该用哪个基准测试，是只看参数量有没有超过一万亿吗，我们怎么界定一个模型该不该被禁，这是一个非常非常重要的问题 以后会不会出现一个开放模型的暗网，我们是不是得用种子去下载开源模型了，还有一个最关键的问题，推理服务商该怎么办，假设政府对开源模型也出台了某种监管，那推理服务商要怎么做，他们需要许可证吗，他们是不是得先验证每个用户都有许可证，才能让你用模型，类似这样的问题，这些都是非常重要的问题，政府整个行业，整个AI生态圈都在试图寻找答案，当然如果你站在政府的角度，或者换做我是政府，这么做也说得通，他们肯定不想自己的关键基础设施被黑，别忘了，开源漏洞的利用正在飙升，如果你把纵坐标换一下，不是开源漏洞，而是关键基础设施漏洞，那政府肯定会害怕，所以他们分阶段发布也是合情合理的，但核心问题是，我们现在还处在一片迷雾里，看不清方向，不是战争迷雾，就是一片雾，我们完全不知道监管会怎么走，对 这确实很成问题，好吧，有人对网络安全监管政策这些有什么问题吗，或者有什么看法，有问题吗，请说这是个好问题，所以开源模型让人害怕，是不是因为anthropic天天在喊开源不好，开源不好，每天都在说开源不好，是也不是，我觉得确实有一些闭源行业的玩家，他们想关掉整个开源生态，他们的观点是，如果你把开源模型给任何人，他们就会去攻击关键基础设施，就会去做坏事，这大概就是他们的看法，所以我同意，部分闭源实验室，确实造成了这个问题，但好笑的是，现在政府先管的是，他们开源还是个问号，所以这有点像怎么说呢，他们大概搬起石头砸了自己的脚，反正就那个意思，但我觉得他们在说开源不好这件事上，确实引发了一些争议，但总的来说开源模型其实是好的，理论上你可以用一个开源模型 在所有代码仓库上跑一遍，就能找到漏洞，然后去利用它们，所以他们也没说错，但我觉得谁有这种基础设施，去做这件事呢 GitHub可能会自动检测到你，然后把你封了之类的，每个环节都有很多层安全措施，所以我觉得这有点被夸大了，但风险确实不是0% 所以它确实是个问题，不知道这算不算回答了你的问题，好接下来我们要聊聊内核了，之前给大家看过，这是我最喜欢的一张图，如果我们处在另一个未来，另一条时间线上，我们没有发现OE Preview 模型的能力可能就停滞了，我觉得这就是这张图的核心观点，它表明如果我们从未发现推理能力，从未发现OE之类的，我们就会在准确率上停滞不前，这可不是好事，而正因为我们发现了这种新的规模扩展范式，模型才能持续进步，但我的看法是，我们之所以在旧方法上停止了规模扩展 是因为旧方法只关注硬件优化，我们现在必须转向软件优化和算法优化，我们需要新的发明来思考如何进一步扩展AI 我们不能只依赖堆到10万亿参数，或者把模型做得越来越大，举个例子，我们必须给强化学习放弃 PyTorch有一种方法，可以对不同位置进行浮点数压缩，来加快训练速度，这是一种方式，另一种方式，比如软件层面的方法，像我之前说的，我们在梯度累积里发现了一些问题，在做梯度累积的时候，损失计算其实是不准确的，如果你修复这个小小的bug 准确率就能提升1%到3% 对，这个通用的梯度累积bug修复，就是一个软件层面的修复，不是硬件层面的，所以核心观点是，你需要做越来越多的软件改动，再举个例子 Snowflake恢复了，他们做长上下纹微调的能力，做到了500K的上下纹深度，这全是软件层面的改进，还有一个是 12倍速的MOE训练，这也是软件层面的改进 DeepSick 他们前几天刚发布了一个，叫DeepSpark的东西，他们展示了，可以把推理速度 [01:09:51]

软件优化、硬件创新与模型规模

# #643. 内核、强化学习与智能体奖励黑客专题

目录

可以把推理速度

Daniel Han：可以把推理速度，提升50%到600% 也就是比普通MTP快6倍，这是一种软件方法，对吧，不是硬件方法，还有Diffusion Gemma Gemma发布了一个新的扩散模型，展示了用新架构，可以达到每秒2000个Token的速度，也就是用扩散LOM来做更快的推理，这同样是一个软件层面的改变，我的主要观点是，总的来说，硬件创新的重要性，正在变得越来越低，而且硬件创新的速度，其实在放缓，这其实挺有意思的，智能的规模扩展，有点像摩尔定律，有一种不懈的进步，一种不懈的方法去提升智能，摩尔定律也是这样，总的来说你可以看到，这是摩尔定律的曲线，晶体管的数量在持续增加，但你看，单核性能其实没怎么涨，已经停滞了，这让我想起另一张图，靠参数规模来提升智能，这条路大概率已经到顶了，硬件性能 预训练这些差不多就这样了，我们现在必须进入新的推理范式，才能继续往上走，所以这跟摩尔定律那张图还挺像的，你再看这边 GPU的数字表示方式 GPU为什么一代比一代快，其实不是GPU本身在变快，而是数字表示方式在变，他们从float32一路改到float4 这让GPU快了32倍，不是8倍 -32除以4是8倍，但实际是32倍，原因在于张量核心，更小的尾数这些，你甚至能看到，光是引入张量核心，就让GPU快了12倍，反过来，如果你只是把GPU本身越做越小，那只能快3倍，已经没那么重要了，再看这张图，我们现在已经到了float4 市面上大多数GPU都是float4 那下一步呢，会有float3 float2 float1吗，会有float0吗，好吧，没有这种东西，总之重点是硬件差不多到极限了 我们已经到float4了，下一步是什么，没有下一步了，所以这个问题的答案就是，没有下一步了，那现在就得转向软件了，我们怎么发明新算法，我们怎么发明新方法，来继续往上走，我还做了这张表，我刚才问，为什么从float32改成float4 不是快八倍，而是快32倍，原因在于，做浮点精度的时候，你有一个指数和一个尾数，而晶体管占用空间，是指数加尾数的平方，所以诀窍就是，你把尾数做得越来越小，改进幅度，就会被平方放大 float32大概需要537个晶体管，从float32到float16 只需要105个晶体管，所以实际上，晶体管数量上，你获得了5倍的提升，不是2倍，是5倍，以此类推，所以也许可以做到1.58bit 也许可以，但有意思的是 1.58bit其实并没有快那么多 它比float8快不了多少，如果你用七位指数和两位尾数的话，还有另一种1.58bit 用的是float4 float4比float32快179倍，但核心问题是，我们现在已经到三个晶体管左右了，下一步怎么办，两个晶体管，还是一个，所以GPU大概率不会再变快了，这就是这张图要说的根本问题 GPU不会再变快了，我们得把重点放在kernel上，怎么写出更好的kernel 更好的算法，怎么从这个方向去提升，别再搞硬件优化了，反过来，怎么去做这些优化，我最喜欢用的工具之一，每个人都应该用，就是torch compile 我的建议是，在这个时代，不要去学怎么写自定义kernel 不要写kernel 原因是torch compile 会接管所有kernel编写的工作，你看这张图 torch compile是那条红线，性能看起来不怎么样，跟手写Kernel比好像不行 手写Kernel是另外那几条 Torch Compile看起来不行，但那是因为用的是旧版Pytorch 如果你用新版Pytorch Torch Compile会大幅胜出，就是那条橙线，其他这些都是手写Kernel 黑色那条是Torch Compile 加No Fusion 是Torch Compile的另一种用法，但红线绿线和蓝线，蓝线就是不用Torch Compile 普通Pytorch 而绿线和红线是手写Kernel 你看他们比torch compile还差，所以我的看法是，写kernel还有什么意义 torch compile做的比你好，所以重点是你应该先看torch compile 在动手写kernel之前，先用torch compile 别去学triton cuda 或者你喜欢的任何一种kernel编程语言，别学用torch compile 更夸张的是，这个例子是rmsnorm 这是曾规一话 torch compile比手写kernel强太多了，所以我肯定不会一上来就自己写kernel 一定先用torch compile 核心结论就是，算法比硬件，比手写kernel都重要的多，还记得吗 deepseek发布了deepspark 还有其他做投机解码的算法，比如mtpdflash dspark等等，这些全是算法层面的改进，他们让推理速度提升了2到6倍，不是靠什么新硬件，不是靠新硬件让推理变快，是靠算法 flashattention far fa3 flashattention 4 5 6 7 这些全都是算法改进 Flash Attention本质上是一个，更巧妙的做内存搬运的技巧，怎么更好的编排内存搬运，更好的利用GPU的缓存结构，所以Flash Attention也是算法，梯度检查点，训练里最重要的算法之一，就是梯度检查点，它的做法很简单 不保存所有激活值，它用了一个技巧，只保存每一层的激活值，跳过每层内部，所有中间的激活值，需要的时候再重新计算，梯度检查点能大幅节省内存，大概能省70% 内存减少70% 精度完全不变，当然训练会稍微慢一点，大概慢10%到15% 梯度检查点就是一个算法，总的来说，你还应该去了解新的数据处理技巧，比如怎么交错排列数据，要不要做课程学习之类的，我也不知道，在真正预训练模型之前，怎么清洗数据集，数据处理上有很多技巧可以用，当然还有一群人，我不知道，我的看法跟他们相反，有一群人觉得 Mega Kernel是Kernel领域，最新最厉害的东西，什么是Mega Kernel 就是把整个模型的实现，全部塞进一个Kernel里，一个巨大的Kernel 也许它有用，谁知道呢，英伟达收购了Grok还是什么 他们的思路是，比如你有两套不同的系统 LPU也就是Grok的系统，负责解码，也就是跑MLP层 MOE层，然后GPU 也就是英伟达的GPU 负责做注意力和预览，所以总的来说，未来我们可能会有不同类型的硬件系统，有ASIC 就是专门为某种计算设计的芯片，也有像GPU这样的通用系统，这些ASIC和GPU会互相协作，比如，注意力计算交给GPU 然后把结果传给LPU去跑 MLP MOE等等，这就像他们之间那种舞蹈，你还可以做流水线处理，你可以想象，有很多很多这样的复制体，他们可以一次性服务20个人，或者1000个人，对，这是另一种思路，在我看来，这和Mega Kernel的思路正好相反 Mega Kernel的目标，是把一个语言模型的，整个前向传播，做成一个Kernel 一旦你做到了，一旦你能把语言模型的 前向传播做成一个Kernel 你就可以把整个32层的语言模型，做成一个Kernel 你可以这样扩展下去，因为整个语言模型就是一个Kernel 你甚至可以进一步扩展，把第二个Token 第三个，第四个，第六个Token的预测，全都放进一个Kernel里，但不幸的是，这非常难，非常难，因为注意力是个问题，注意力必须看到未来的token 不对，是看到过去的token 不是未来，看未来那是作弊，他必须看到过去的token 这是一个根本性的难题，而且要把注意力和MOE 或MLP层合并成一个mega kernel 极其困难，极其复杂，所以通常大家的做法，是做成两个kernel 一个kernel负责注意力部分，另一个负责剩下的部分，所以你会看到有两个kernel 对，做一个Mega Kernel非常难，但你可以做两个，好了，还有其他问题吗，关于Kernel有什么问题吗，核心结论是，对，有一个问题请说 这个问题问得很好，刚才的问题是Torch Compile 有那么多可调参数，大概上千个，怎么缩短实验时间，找到最好的那个，好，再我们可以用二分法，也叫二分搜索，这就是窍门，具体做法是，不去穷举所有上千种组合，而是随机采样，做随机二分，随机抽50%的开关，一组打开，一组关闭，然后跑基准测试，看哪组更好，哪组好，就往那个方向缩小搜索范围，再对半，再对半，再对半，所以实际复杂度是log费1000 log费1000是多少来着，我不太确定 2的多少次方，算了 log费1000 大概需要30步吧，记不清了，无所谓 2的某次方等于1000 再取对数，总之你不需要测完，所有1000个参数，只需要测几步，就能找到最好的那个开关，所以诀窍就是用二分搜索，或者二分法来做，对还有别的问题吗，请说 [01:18:02]

一凯：你怎么看ASIC 像Cerebras Grok Semanova Labs 这些公司，你觉得他们真的有未来，还是说差点意思，你的问题是，我怎么看ASIC 比如Cerebras

Daniel Han：Grok Semanova 甚至一些创业公司，新芯片，他们确实在自研芯片，我觉得ASIC的问题在于，专用芯片的问题在于，架构本身需要被硬编码到芯片里，这就是麻烦所在，如果你把架构硬编码进去，而各家实验室又总喜欢改架构，每次实验室一改架构，你是不是就得更新芯片，但GPU不一样，英伟达AMD 英特尔这些 GPU的巧妙之处在于，它内部集成了通用化的ASIC GPU本身就是一堆ASIC的组合，而单独的ASIC只是一大块专用电路，所以总的来说，我觉得GPU要好得多，因为你可以自定义GPU内部做什么，可以禁用某些部分等等，所以我的看法是，我也不想把话说死，但总体上我不太看好，就像我之前说的 [01:19:10]

数值精度与内核优化

# #643. 内核、强化学习与智能体奖励黑客专题

目录

就像我之前说的

Daniel Han：就像我之前说的，硬件这边已经没什么路可走了，我们已经到float4了，除非硬件厂商再搞出个float0 那也许还能再快个四倍，但总的来说，我觉得大家太盯着硬件了，没看到最大的提升，其实不在硬件，而在软件，数值精度，数值精度带来了32倍的速度提升，硬件只贡献了三倍，硬件只贡献了三倍，其实如果把芯片尺寸做大，把GPU做大，能再快二倍，但这有点作弊，我不太愿意把这算作真正的进步，本质上单纯让硬件跑得更快，只能快三倍，所以在我看来，硬件可能被吹过头了，硬件其实没那么重要，软件才是英伟达 AMD 英特尔这些硬件厂商压住的诀窍，数值精度才是关键，还有TensorCore 数值精度，吸收性，这些软件层面的技巧 TensorCore不完全是软件技巧，但它更像是GPU内部的一种ASIC 所以我觉得，我不太看好ASIC的未来，这就是我的观点，说实话，我其实挺惊讶的，我们有那么多ASIC公司，但做算法的公司却很少，原因在于 ASIC可以卖钱，每年都能升级，今年你花1000美元买ASIC第一代，明年就得再升级，算法的问题在于，你很难强迫用户再次付费，所以硬件才这么火，因为硬件是一门非常简单的生意，但算法就复杂多了，比如T6检查点怎么变现，我不知道，这太难了，但重点是各大实验室自己，我记得OpenAI宣布了和博通 Cerebrus之类的合作，各家实验室都在直接找硬件厂商，一起设计芯片，所以我的看法是，也许未来会有更多这种合作模式，但我觉得独立的，纯做ASIC的公司，我不认为他们能长久，对 [01:20:52]

一凯：这就是我的看法吧，还有别的问题吗，请说，你想对模型做哪些改动，我记得你发过一个呼吁，很棒，你做过很多演讲，后来你又修正了它，想听听你的一些想法，你是指哪类kernel还是，对 GPU需要做什么改动吗，还是说，好，好问题是内核或优化之类的东西，需要做哪些改变 [01:21:46]

Daniel Han：我觉得内核这块挺有意思的，大多数内核，当你写内核的时候，主要精力都放在减少内存搬运上，怎么减少内存搬运，这是大多数内核在做的事，比如有个技巧叫融合交叉商损失，就是不去把最后一层的完整logis都算出来，而是可以分批做一行一行的算，这样能省下大量内存，比如十几币左右，如果上下文很长省的更多，这是一种方式，其他内核，大多数叫内核融合，就是你有一段很长的PyTorch函数，你只写一个内核来完成，这整个PyTorch函数的功能 Torch Compile会帮你做这件事 Torch Compile在做内核融合方面，非常非常出色，你给Torch Compile一个函数，它会写一个内核，一个Triton内核，随便什么内核，然后它会把所有东西融合在一起，这方面它非常有效，但总的来说，内核就是在减少内存搬运，说实话，我不太喜欢叫它内核 大多数算法，要么是让训练更快，要么是降低内存使用，但内核在我看来，就是减少内存搬运，所以大多数内核，就是内存搬运优化，怎么利用GPU的缓存结构，怎么避免重复加载，同一个变量，两次三次之类的，不知道这有没有回答你的问题，接下来强化学习，讲完这个，我们会讲agent的奖励攻击，先快速入门一下，我假设大多数人，都了解强化学习，还是我需要先铺垫一下，好，我很快的讲一下，强化学习入门，什么是强化学习，你有一个环境，比如这个吃豆人游戏，你的目标作为玩家，就是最大化奖励，你想吃掉所有的豆子，对吧，你想吃掉所有豆子，同时还要躲开怪物，我不知道他们具体叫什么，敌人怪物随便怎么叫，作为吃豆人，你的目标是最大化吃掉的豆子数量，这就是你的奖励，奖励就是豆子 动作就是你选择向上向左，向下还是向右，环境就是这个游戏，另一个很好的例子，我喜欢这样解释强化学习，强化学习的目标，就是在训练过程中，让好的更多，坏的更少，比如，在训练最开始，你问模型 2加2等于几，答案显然是4 但模型刚开始训练时，它会非常笨，非常糟糕，它可能会说，壁地，猫，狗，房子，老鼠，随便什么，诀窍在于，对于所有不好的回答，你要降低它，你要给它付奖励，或者惩罚它，如果模型说了不好的东西，你就要惩罚它，如果它说了正确答案，你就要增加奖励，这就是强化学习的诀窍，你就是想要更多好答案，更少坏答案，如果答案非常接近正确答案，比如三非常接近正确答案，你给的负奖励就要稍微少一点，对吧，因为三比B或D更接近四，所以如果他回答B或D 你就要给他非常大的负奖励，在强化学习中，诀窍是你有一个验证系统，对吧，你有一个验证器来检验模型做的好还是坏，所以你会调用模型很多很多次，对每一个例子，你都给一个验证分数，对吧，比如第一个例子非常好，你就给他一个正式分，下一个例子一般般，你就给他一个负五分，最后一个例子非常差，你就给他一个负一百分，强化学习让你能给每个答案和问题分配分数，这就是强化学习验证的方式，强化学习的诀窍，我最喜欢的一句话是，耐心就是一切，在训练最开始，你的模型会表现的很差，对吧，你的奖励会是000全是零，你等上很长一段时间，然后你就会得到正确答案，对吧，比如这个例子，你问模型2加2等于几，对吧，你开始预训练模型，模型不知道二加二等于几，但十年之后它会说四，好吧，显然不是十年，我只是夸张一下，但十年之后，你等了十年 模型就会说四，这就是为什么我最喜欢的一句话是，运气就是强化学习的一切，也许碰巧，你很快就能得到四，但你也知道，也许你就得一直等，一直等，一直等，等到天荒地老，强化学习才会起作用，所以一般来说，你的奖励会在很长一段时间里都是零，然后你才会看到，在零之后奖励开始上升，而且对于强化学习，有一个非常简单的算法，强化学习的诀窍在于，记住你知道最终答案，比如你想知道2加2等于几，你知道答案是4 但问题在于，你不知道推理过程是什么，对吧，推理过程是好是坏，举个例子，这个例子是让模型去创建一个，快速的矩阵乘法算法，诀窍在于如果答案是对的，你就给每一行都打上正式的奖励分，如果答案是错的，你就给每一行都打上负100分 Andre在一个Darkish博客里说过，强化学习有点像用吸管，去捉那一点点监督信号，我们其实还做了相关的贴纸，如果你们喜欢，最后可以发给你们，所以Andre的原话就是这个，核心意思是强化学习很糟糕，但其他所有方法更糟糕，所以强化学习是我们目前，唯一能用的工具，它确实管用，但效率不高，好了，这其实是下一节的内容，但重点是，好了，强化学习的入门介绍就到这里，我想问一下，有人对强化学习入门有疑问吗，没有，好，那我就跳过了，好的，有一个问题，请说，我会在下一节提到，这个确实有更好的强化学习方法，但总的来说，目前强化学习的效果似乎非常好，最后，我想这是最后一个话题了，也可能不是，奖励，黑客和agent 我猜这是最有趣的部分 好，对于强化学习来说，它要能工作，前提是得到一个好答案的概率，必须大于零，如果这个概率小于零，强化学习就永远无法工作，所以这是强化学习的一个限制条件，得到一个好答案的概率，必须大于零，绝不能是零，强化学习不工作的问题有很多很多，比如格式可能不对，你需要做一些引导或预热，所以你得用一些技巧，稍微教一下模型，让他了解你试图最大化的那个东西，你必须做监督微调，所以强化学习的一个技巧是，你实际上需要做SFT或微调，让模型别那么笨，对吧，让好答案的概率从零变成不是零，你需要做好预训练，另一个问题是，在强化学习过程中，数据分布太离谱了，强化学习就是非常糟糕，所以强化学习的问题非常多，而且我认为，对于这些轨迹，强化学习可能会给轨迹分配错误的奖励，对吧 记住强化学习的简单技巧是，我们给每一行都分配相同的奖励分数，对吧，要么全是好，要么全是坏，但这并不好，为什么呢，没错，你问模型，我需要找出2加2等于几，答案是正确的，对吧，答案是4 模型也说等于4 所以你把整个思考轨迹都奖励为正实，但这是错的，因为正如你在思考轨迹里看到的，它写着2加2等于10 想象一下，在整个训练过程中，因为强化学习的技巧，就是我们真的就给每一行都打上10分，或者给每一行都打上-100分，我们就会漏掉这个坏东西，所以你可以想象，当我们持续训练模型时，模型可能会作弊，或者说进行奖励黑客行为，或者你知道在中间胡言乱语，它会搞出一些我们看不懂的，像新机器语言一样的东西，然后给它自己打高分，所以这是强化学习一个非常大的问题，解决或修复这个问题的方法，叫做过程监督，过程监督的做法是 你手动检查每一行，而不是只给最终结果打正十分，对吧，答案是正确的，对吧，答案正确正十分，然后给每一行都打正十分，你不这么做，相反，你给每一行都分配不同的分数，对吧，你给某些行打正三十分，某些行打零分，随便，坏的行就打负一百分，对吧，这个方法效果非常非常好，不幸的是，过程监督无法规模化，而且做起来极其昂贵，对吧，谁来标注这些数据，是人类，我猜，对吧，我们得标注这些数据，对吧，我们得为实验室手动标注，我猜这就是为什么实验室，有时候会去找scale [01:29:23]

奖励黑客与语言模型裁判

# #643. 内核、强化学习与智能体奖励黑客专题

目录

有时候会去找scale

Daniel Han：有时候会去找scale 或者类似的公司，他们会找人去标注数据，比如这个好不好，那个好不好，诸如此类，但有个技巧是，你也可以用语言模型来做，对吧，你可以用LM当裁判，你可以调用一个语言模型，去给每一行打分，我的看法是，大实验室以后，会越来越多的这么做，他们会反复调用自己的模型，来重新审查自己，他们认为这是通往通用人工智能的一条路，对吧，就是通过自我审查，自我评估，自我复合，做这种自动化的LLM 裁判室的过程监督之类的，但别忘了这里有个问题，因为就算你做过程监督，你是在用同一个模型去评估模型，对吧，这和3BenchPro的问题一样 3BenchPro里，你用LLM当验证器去验证LLM 这肯定不好，原因就在于可能会发生奖励黑客，一个很好的例子，就是你的模型开始作弊，比如说你想让它写一个，快速的矩阵乘法算法，结果他直接把计时器给删了 你给他的目标是缩短矩阵乘法算法的时间，那他就会去删计时器，把计时器设成零，这样奖励就最大化了，显然这不对，对吧，因为通常你还会有一个正确性检查，去验证矩阵乘法结果是否正确，但还有另一招，模型会把你输入的两个矩阵全改成零，零乘零等于多少，等于零，这样一来，你的正确性检查也失效了，所以奖励黑客会变成一个非常非常大的问题，因为这些模型会作弊，用各种奇迹影巧绕开你真实的意图，也就是你奖励函数背后的意图，另一个很成问题的例子是，这不仅仅是奖励黑客的问题，它甚至可能毁掉你的电脑，运气不好的话，你的模型可能会输出某种破坏性的方法，比如在你的整台电脑上执行RMRF 然后你的电脑就没了，这种事有时候确实会发生，所以不光是奖励黑客，你对模型工具调用的信任 对模型到底是在做好事还是坏事的信任，也是一个很大的问题，还记得我之前展示的那张图吗，如果你把GBD5.6在基准测试中作弊，也就是偷看答案的那些例子算进去，之前SuiteBench SuiteBench Pro和DeepSuite 都表明模型确实会作弊，通过偷看最终答案，你能看到GBD5.6如果作弊，表现会非常好，但如果你去掉那些作弊的例子，它的表现就回归趋势线了，然后你可能觉得，这种奖励黑客的事非常罕见，在现实世界里不会发生，但GLM5.2在它的训练方法里，特别提到他们有一种新的强化学习方法，叫反黑客，所以GLM5.2引入了一种方法，来阻止奖励黑客，他们具体做的是加了一个链接检查器，还记得我们之前提过，在SweetBench Pro里，模型会作弊去偷看答案吗 GLM做的就是加了这个检查 在强化学习过程中，他们会检查你做的每一次工具调用，如果发现你访问的网站是答案页，他们就会阻止这件事发生，所以GLM基本上是在整个强化学习流程里，加了一套过滤系统，据他们说效果非常好，再回想一下那张关于作弊例子的图 Opus 好像Cloud的模型总喜欢作弊，而GBT的模型不喜欢作弊，但核心的结论是模型会作弊，因为你在告诉它你要最大化奖励，不管用什么方法，所以模型会去最大化它，但它并不会真正遵循你的意图，你必须非常小心这一点，事实上在GBD5.1的训练中 OpenLight提到，他们遇到了一个叫计算器黑客的东西，在训练GBD5.1时，他们想奖励模型使用网页工具，但结果模型没有用网页工具，而是用计算器来伪造网页工具，在GBD5.1的训练过程中，就发生了这种事，所以类似的问题非常非常多 我记得他们展示了计算器黑客，比如黄豹自己用了什么工具，隐藏不确定性，编造事实，奖励黑客的问题真的非常多，而且这不是假的，奖励黑客已经出现在大实验室的训练里了，这还只是GPT 5.1 我不太确定他们有没有提GIM 5.2之类的，但总的来说，他们证明了这种事在现实世界中确实会发生，不知道你们知不知道GPU Mode 不过GPU Mode有一个排行榜，专门比谁写的Kernel更快，所以如果你真想自己写Kernel 一定要去GPU Mode的黑客松挑战赛上发出来，非常有用，帮助很大，但有人成功黑掉了，也就是用奖励劫持的方式，搞定了GPU mode kernel竞赛，回想一下矩阵乘法的例子，我们需要做两项检查，对吧，既要让矩阵乘法算法更快，还得保证结果正确，对吧，两项检查，正确性检查和即时检查 GPU mode也有这两项检查，正确性检查和即时检查，那你猜模型做了什么，模型知道，模型其实知道自己在接受正确性检查，它学会了，现在在查我正不正确，那我就把正确性做好，于是它输出正确的kernel 然后模型知道自己在被计时，它做了什么，它只跑了一遍算法，然后把结果存起来，跳过了后面全部15个测试，这就是模型干的事，所以本质上，模型学会了有两项测试，正确性检查和计时检查，模型只把正确性检查做对了，一进入计时阶段，它就开始作弊，说实话，这其实挺吓人的，模型本质上学会了你在做这些测试，模型其实知道你在跑基准测试，这真的很有意思，对，这是个更大型的例子，正确性检查没问题，但即时检查他作弊了，他做的其实很简单，本来应该有15个核心，在第一个核心上，他跑完了全部15遍，整个流程，对吧 15次运行全做完了 然后从核心2到核心15 他只做了一次 Python字典查询，对没错，有人跟我讲过这件事，对就是这样，所以你看，不只是模型会作弊，人也会作弊，没错，但我觉得这叫古德哈特定律，就是这个，一旦你有了一个基准，这个基准就会，是叫古德哈特定律吗，我记不清了，对，好，基准本质上就变得没用了，因为大家都会作弊，去最大化奖励，没错，人也会作弊，好，我最喜欢的例子是，在其他实验室，你在推特上，在各种地方会看到他们，说把kernel速度提升了10倍，不，不，不，这不对，他们没有把kernel速度提升10倍，实际上，你去看代码，里面全是空操作，根本没有运算，他们还改了计时器，就跟我刚才描述的一模一样，我描述过就在这边，他们改了计时器，把矩阵设成零，他们作弊了 所以这种事在现实世界里真的发生过，有些实验室发了论文，声称把kernel速度提升了十倍，但实际上你只要去读代码和示例，就会发现这些例子全是作弊的，所以从奖励劫持的角度看，这非常不好，奖励劫持是个非常大的问题，举几个kernel奖励劫持的例子，不生成真正的CUDA代码，而是去调用Kublas 或者某种现成的系统，还有空操作Kernel 本质上就是把A矩阵和B矩阵，全设成0 什么都不做 Kernel是空的，还有内存复用，把同一个答案反复拿来用，还有计时同步问题，就是在计时器上作弊，我的看法是，如果你要发表更快的Kernel 或者更快的矩阵运算，如果你觉得你的AI Agent 把Kernel速度提升了10倍，请一定验证，请一定在发表前仔细检查代码，因为这样真的很不好看 而且我觉得大家正在忽略的最大问题是，你说你把kernel速度提升了10倍，把矩阵乘法速度提升了10倍，但矩阵乘法是有理论上限的，对吧，矩阵乘法，你不可能无限提速，因为数学上存在，让它变快的极限，对吧，在非常非常早的时候，矩阵乘法的时间复杂度是on肥，每一次研究人员都把它变得越来越快，越来越快，现在已经是ON的2.371339次方了，大概吧，研究人员每年都在努力，把这个数字越压越小，越压越小，从1552到1339 变化不算特别大吧，但他们在进步，重点是，这些研究人员用数学极限证明了，你不可能比这个更快，那你怎么可能通过奖励劫持，做到比这还快呢，所以最根本的一点是，请验证对那些写研究论文的人，请确认你的模型没有在搞奖励劫持 这是个非常非常大的问题，好，我看他们好像只放了一张图，但总的来说，请不要这样做，请检查你们的模型，我想这次分享就到这里了，好，谢谢大家来听，还有更多问题，好，谢谢，谢谢，我们还有，对了，那边盒子里有一大堆贴纸可以拿，还有一些徽章之类的东西 [01:38:02]

返回该播客 打开原文