目录
- Basis办公室里的轻声细语与长时程智能体 [00:00:00 - 00:10:00]
- 推理模型与自主智能体的演进 [00:10:00 - 00:20:00]
- 可验证奖励与现实工作的反馈回路 [00:20:00 - 00:30:00]
- 行为规范：让智能体遵循正确过程 [00:30:00 - 00:40:00]
- 评判器、上下文工程与开源实践 [00:40:00 - 00:50:00]
- 本体、团队角色与自我改进 [00:50:00 - 01:00:00]
- 从苦涩的教训到AI开发者建议 [01:00:00 - 01:08:33]
Basis办公室里的轻声细语与长时程智能体
一凯：欢迎收听跨国串门计划。这是一档专注于让中文听众无障碍欣赏全球优质外语播客的节目。通过先进的AI声纹克隆技术,我们不仅将内容翻译成中文,还完美保留了原主持人和嘉宾的独特声音,为您呈现全球顶尖的AI财经、健康与科技领域精品内容。我是主播一凯，一位热衷于AI领域的产品经理，很荣幸能为您搭建这座跨越语言障碍的桥梁，接下来让我为您简单介绍本期我们克隆的这档节目，本期我们克隆的是知名播客 The Mad Podcast with Matt Turck的一期深度对谈，主持人Matt Turck是FirstMark的合伙人，长期关注AI与前沿科技投资，嘉宾Mitch Choyanovsky 是AI独角兽公司Basis的联合创始人，这家公司专注于让智能体，自主完成复杂的会计工作，比如端到端准备纳税申报表，这期节目围绕如何构建，长时程自主智能体展开 Mitch分享了他从编程Agent 到现实世界应用中的，大量实战经验与思考，那我们就一起来听听 [00:00:52]
Matt Turck：这一期完整的对话，人类早就习惯，跟非确定性系统打交道了，只不过这些系统，通常是他们的同事，而不是他们的电脑，而且在很多方面，公司也好流程也好，核心问题都是，你怎么设计一个系统，让非确定性的实体，协同起来解决一个问题，一旦你意识到这一点，那这就有点像智能体设计了，假设你有一百个评估，全过了，看起来不错，但你有信心说，这就能泛化到现实世界，泛化到生产环境吗，我们的答案是，不能，就算一百次里一百次都做对了，如果一个人只是靠查维基百科才做对的，那公司根本不会雇他，所以他们也不该雇我们，你会看到有人对一段抽象的不够好的代码文件惊慌失措，可他们的上下文简直是一团糟，英文更金贵，因为英文影响性能，代码不影响性能，大家好 [00:01:16]
Mitch Choyanovsky：我是FirstMark 的 Matt Turck 欢迎收听The Mad Podcast 每个人都在构建AI Agent 但除了编程之外，大多数agent还无法可靠的完成真正的工作，我今天的嘉宾是一位站在破解这个问题最前沿的AI 构建者 Mitch Choyanovsky是Basis的联合创始人，这是一家AI独角兽公司，他们的agent能自主运行数小时，有时甚至数天已经能够端到端地完成非常复杂的任务，比如准备整套纳税申报表，这是一期真正具有参考价值的节目，讲的是如何构建长时程自主智能体 Mitch分享了他在这个过程中学到的很多经验，请欣赏我与极具洞察力的Mitch Choyanovsky的对话，我想从一个场景开始，我在准备这期节目的时候看到了我们的朋友 The Information的Stephanie Balazolo拍的一段视频 她描述了走进Basis办公室，看到一群人对着麦克风非常轻声细语的说话的场景，所以也许对顶尖的AI 构建者，或者天天泡在X上的人来说，这已经是人人都懂的事了，但我相信对绝大多数人来说，还是想请你描述一下，你们对着那些麦克风轻声细语，到底是在做什么，对 [00:03:00]
Matt Turck：我觉得最好的建议之一，不是针对构建Agent 而是针对一般性的使用AI 就是你得给它尽可能多的上下文，因为它本质上总是会缺少某些上下文，说话比写下来快太多了，事实上，当你试图写下来的时候，你其实是在试图总结脑子里那些乱七八糟的想法，所以那才特别花时间，而且这对你或我来说是有用的，因为如果谁把一堆胡言乱语直接当成slack私信发给你，那很不礼貌，但对agent来说他们不在乎，实际上他们反而更喜欢这样，所以能把自己的想法轻声说出来，效率会高得多，因为你不想大喊大叫，而且现在有这些麦克风，让你可以非常非常轻的说话，还能完整清晰的捕捉到，所以这就是我们这么做的原因，有时候刚加入公司的人看到，会觉得有点奇怪 但过了一两个月，他们就回不去了，那你是轻声说给什么听，说给Cursor还是别的，对，说给每个人自己用的工具，我们这边不同的人，用不同的东西，但没错 Codex Claude、Cursor 或者大家各自用的什么，而且不只是工程岗，对吧，所有部门都是这样，如果你想推进某件事，想描述你想要什么，都用这个，好的，太好了，那么我今天想做的是 [00:04:26]
Mitch Choyanovsky：围绕构建长时程智能体，这个主题，做一期有参考价值的对话，这部分是基于你在 X上发的一条很棒的帖子，更重要的是基于你刚和 Brain Trust合作发布的一个新开源项目，这些我们都会聊到，但为了让大家有个背景了解，用两三句话介绍一下 Basis你会怎么描述它，好Basis构建Agent
Matt Turck：来端到端地完成会计工作，会计很难，它不是那种纯粹的文本，进文本出，它要求AI有能力，在很长一段时间内执行大量操作 并且在那段时间里保持连贯，才能得到好的结果，这就是为什么我们一直非常专注于，怎么真正构建出，能规模化做这种工作的Agent 你选会计，是因为从构建agent的角度看 它特别有意思，还是反过来，好问题，可能恰恰相反，不过我也确实觉得，从智能体的角度来看，这其实很有意思，会计有意思的原因很多，它是这个国家最大的知识工作职业之一，如果不是最大的话，全国加起来有超过300万名会计师，而我觉得会计最酷的地方在于，大多数人其实并不真正思考会计，他们不会想，哦对，这玩意为什么存在，可能大多数听众从来没想过，会计为什么会存在，我知道我们接下来要聊智能体，也许我们花30秒，就为了让各位觉得会计有多酷，你想想现实世界发生了多少事情，各种经济活动，对吧，比如我刚才喝了瓶水，那个装瓶商，得决定从那个工厂，还是那个供应商进货，或者决定开一家新店，雇一个销售，而这些都是经济决策，源于对现实世界的理解，现实世界里有什么，钱在流动 有人签合同，有人交付库存，就是所有这些事件在发生，而现代资本主义的很大一部分，依赖于所有这些参与者，能基于这些事件做决策，对吧，比如那家公司的CEO 还有IRS 显然要决定挣多少税，银行要决定放多少信贷投资者，对吧，所有这些人都关心现实世界，但他们没法理解它，因为它太庞大了，而且它涉及所有这些，非结构化的难以解析的信息，而会计实际上就是，把这一切压缩成结构化形式的艺术，让人们可以查看，理解并做决策，所以关于会计，你可以从原层面说 它有点像一种经济智能，因为它真的是，对所有存在信息的压缩活动，所以我觉得这是一个非常酷的问题，还是同一个话题，关于背景了解，我们要聊长时程智能体，我想问现在长时程到底算什么，这个范畴一直在变，什么算长时程，对也许我可以先给出我对智能体的快速定义，我知道现在可能大家都知道了，但我觉得这是我在面试里，喜欢问的常见问题 我倾向于把智能体理解为一种AI 或者说某种推理过程，它拥有自主决策去做不同事情的能动性，所以按定义它是一个连续谱，因为你可以有不同程度的自主性，对吧，你受限于你所处的环境，而我认为长时程同样是一个连续谱，你赋予智能体做决策的自主性，让它能在更长时间内保持连贯，对吧，比如说你让一个智能体去帮你查天气，它可能在某种意义上算智能体，因为它有自主性去决定调用哪个工具，或者输入什么谷歌搜索词，但它不需要做太多工作，就能在时间上保持连贯，因为你就是查个天气，但如果你让一个智能体，去比如说完成一个完整的功能，比如在你的代码仓库里实现某个功能，或者让它去做一个大的Excel工作簿，那现在它可能就得运行超过一分钟了，我们说的是十分钟，二十分钟，三十分钟，甚至可能更长 而一旦你开始进入这种规模，你就会碰到LM工作方式的根本限制，我总喜欢说LM有非常大的工作记忆，但默认情况下没有短期或长期记忆，所以你必须利用LM的这些强项，去弥补他们没有好的，或者说实际上没有任何，真正的短期或长期记忆，这个事实我们可以再细聊，就是通过使用Harness 和所有这些进步，让他们能在时间上保持连贯，所以我觉得一旦你开始进入那种，为了让他保持连贯而费心思的阶段，因为你已经超出了，他拥有的工作记忆容量，我大概会说，那就是我开始称之为，长时程的起点，太好了，还是接着这个话题 [00:08:20]
Mitch Choyanovsky：我们这里聊的是自主智能体，我很好奇，也许举个例子，自主在Basis语境下意味着什么，我听说你们现在可以让智能体端到端处理纳税申报，那也许请你在高层次上带我们看看
Matt Turck：从步骤上，时间上，那是什么样的，智能体在概念上做什么，当你真正做到自主，或者说做一件时程特别长的事，比如端到端地，完成一份纳税申报 那就意味着你手头有大量完成这项工作所需的信息，同时你也有工具去获取更多信息，比如说想象你再做一份，复杂的1065表，你手上有各种W-2 1099之类的文件，还有从公司那边拿到的，其他材料，然后呢根据你具体在做什么，你可能已经有试算平衡表了，那通常就是启动一份，纳税申报所需要的材料，或者你面对的是连账都还没做完的账簿，而这个agent就得自己去琢磨，基于这一堆乱七八糟的东西，他要怎么下手，他能做到什么程度，这时候就开始涉及一些关于行为规范的问题了 [00:09:25]
推理模型与自主智能体的演进
Matt Turck：这时候就开始涉及一些关于行为规范的问题了，这个我们后面可以聊，比如说要得到一套扎实的试算平衡表，好的做法是什么样的，要正确提取出K1和K3 好让你对结果有信心，好的标准又是什么，而所谓自主意味着他不会跑回来问用户，这样对吗，我需要这个我需要那个，而是从开工一路做到，我完成了而且我完成了，不是说点个按钮就完事没人检查那种，恰恰相反，他更接近你能想象的一个税务申报员的做法，或者说像初级工程师，交第一版成果那样，我完成了，这是我做的几个重大决策，这是我的假设，这些是你需要去核对的点，咱们一起过一遍，对吧，你想想工程领域，一个工程师给你递一个PR 没人喜欢收到一个一千行的PR 然后对方说，做完了，我保证，那种你根本不想审，但如果对方递给你的，是一个拆得很漂亮的分层提交 你能很轻松的看懂，那这个改动具体是什么，这个diff是什么，我在这里做了一个大的架构假设，我这么改是因为什么，那你可以优化的，就不只是把活干完，还包括让你的reviewer 轻松理解你做的这些决策，这在软件工程里，显然非常成立，而且我觉得在大多数职业里都成立，尤其是会计，这个我们后面可以细聊，所以对我来说 [00:10:51]
Mitch Choyanovsky：这就是自主的含义，我觉得对听众来说，花几分钟聊聊agent的历史，会很有意思，也很有帮助，过去两三年，我们听了太多不同的东西，不同的术语，有些项目成了，有些项目没成，所以我觉得往回到一点，会很有帮助，在AI领域可能感觉像是史前时代，但实际上也就是三年前，四年前的事，也许从2022年的React框架说起，不是软件工程那个，而是推理与行动，我记得那是2022年的一篇论文，核心观点是 Agent是推理和行动的结合，你刚才也提到了，根本问题是，现在本质上还是这样吗 [00:11:12]
Matt Turck：当然上面叠加了极高的复杂度，但agent的基本理论还是那个吗，我觉得在现代LM的范式下，是的，大体上差不多，要我说，其实本质是一样的，但它往外延伸了 我记不太清，当时那篇论文里，有没有提到这一点，就是需要用推理，来调节自己的状态，我老爱给公司里的人打一个比方，不管是不是技术背景的人，只要是刚接触Agent 我都会用电影记忆碎片来类比，没看过的话，记忆碎片，讲的是一个人，有短期记忆丧失，他每天早上醒来，知道自己是谁，知道自己是个人，知道一些基本的东西，但过去几年发生了什么，他完全不知道，为了朝着某个目标推进 可能是买点日用品，也可能是复仇什么的，他必须给自己写下来，然后第二天醒来，他读自己的笔记，把信息一点点攒起来，他就是这么积累知识的，顺便说一句，这是克里斯托夫诺兰早期的电影，现在大家都痴迷奥德赛，这算是他早期的作品之一，对，我还是觉得致命魔术，是诺兰最好的电影，不过，不过对，但总之，我觉得这就是你的观点，它确实关乎推理 但我觉得，而且我不觉得论文里提到了这一点，就是推理一方面是，关于走哪条路才对，不管任务是什么，比如我做税务是这么做还是那么做，那当然，但另一方面还有推理是，我怎么确保我的下一步推理，有它需要的东西，能好好跟世界交互，这在短时程里很容易，因为你还在context window之内，但一旦你开始进入更长的时程，超出了context window 或者开始出现上下文腐烂，你就需要用推理，甚至有点强行的靠推理，去搭建你的环境，不管是靠suburgence 还是compaction 我们后面会细聊，但我觉得，那才是推理，变得极其重要的地方，好太好了 [00:12:58]
Mitch Choyanovsky：那2022年之后的下一步，大概就是2023年的baby 通用人工智能了，当时所有人都觉得，那是巨大的进步，但那个项目算是失败了，我的意思是，那是个很漂亮的实验，但在实践里没怎么跑通，那为什么呢，我猜当时大家聊的，很多的是复合错误，就是如果你有很多很多步，而agent开始走偏，那错误就会不断累积，从你的角度看是这样吗，对我觉得那时候我记得没错的话 [00:13:36]
Matt Turck：应该是gpt4可能当时是4 turbo当时的模型，首先如果是turbo之前的版本 context window非常小，所以你要想保持连贯，你至少得在上下文里有足够多的东西，能让你组织起自己的环境，所以他们没有那个条件，而且就算context window变大了，我觉得到babyagi出来的时候，模型也还没法在超过大概两万个token之后，保持注意力，他们就是不够聪明，甚至一直到OP3模型才开始在十万个token左右变聪明，所以babyagi没有那个条件，然后还有显然我后面会细讲，他们就是不太会推理，如果你不擅长推理，那你就会有大量的复合错误，因为你会犯一个错，就在你逐token生成的过程中，然后突然就开始不断累积，而你又没有自我意识，没法以任何有意义的方式，真正自愈 所以那之后的大突破，就是推理模型，对，我会说当我想，那些真正让我们觉得，卧槽的时刻是什么，我不知道能不能说脏话，但对，那些真正让我们觉得，卧槽的时刻 至少对我个人来说，大概是，或者说至少那些，真正发生范式转变的时刻，这样的时刻其实不多，我会说是Claude Opus 3 我觉得它被低估了，但我觉得它是第一个，真正能在涨上下文里，真正理解的模型，以前你要是往GPT4 Turbo里塞8万个token 他根本理解不了 OPUS 3是真的理解了，这很了不起，我觉得是那个，我觉得是O1 显然大家都在聊那个，然后O1之后，我觉得是O3 因为我觉得O3证明了，你不仅能扩展推理时的推理量，而且通过更好的训练，更多的算力，更好的数据等等，在后训练阶段，你还能让推理质量更高，更高效，更好，所以它在推理时用的每一个增量token 质量都更高，这在OE出来的时候并不是显而易见的，所以我觉得那些对我来说就是大突破，有没有一种可能 [00:15:08]
Mitch Choyanovsky：这些模型实际上是被训练成，在循环里运行的Agent 有一条推理链，他们试一个东西回溯再试另一个
Matt Turck：这是不是他们对agent来说效果更好的根本原因，我觉得有好几方面，我觉得一方面是因为模型能够，它有点像在调节，它投入到过程中每一步的计算量，在任何一条trajectory里 都有很多决策特别难，也有一些特别容易，你不可能用一个巨大的参数模型，服务成本超级高，然后在每一步推理时，都把那么多算力全用上，所以推理的能力，让你能去调节这个量，而且我觉得就像你指出的，做一种可能涌现出来的行为，如果你真的是个很好的推理者，而且你能把推理量调得很大，比如你去看现代推理模型，在简单步骤和困难步骤上，用的算力差别是很大的，你会变得更擅长自愈，因为你会停下来，把所有事情想一遍，更多的用那种思考，而不是全靠本能形式，而本能形式，正是你只做主token生成时发生的事，在你的X帖子里 [00:16:21]
Mitch Choyanovsky：你提到OpenAI在2023年做了一件事，他们发表了一篇叫 Let's verify step by step的论文，人类标注了大约80万个推理步骤，那当时是怎么回事，目标是什么 [00:17:00]
Matt Turck：对那篇论文是那时候出来的，我记不太清确切的时间线了, 但基本上当时有很多传言, 大家可能还记得的information那篇文章, 说什么strawberry解决了数学题之类的, 我觉得甚至在那些传言出来之前, 文献里就已经有一些苗头了, 比如这篇, 也可能是在传言之后, 我其实记不清了, 就是说数学这类问题, 或者说这些你能验证的问题, 可能是训练模型去做好不同任务的好方法, 我纯粹是猜测, 因为我不在实验室里, 但当时有个问题, 贯穿了MML的很多历史, 你是只根据他答没答对来给奖励，还是看他是不是像个好数学家那样去解题，有意思的是，那篇论文里他们证明了，如果你基于过程，而不是只看结果来给奖励，在那个样本里效果确实更好，但那显然很贵，因为需要数学家去给他们的解题思路打分，对吧，而如果你往后快进一点，看DeepSeek RE那篇论文，他们实际上讲清楚了 我觉得当时所有实验室都在做的事，至少OpenAI在做的事，就是RLVR 从可验证奖励中强化学习，那基本没什么过程监督，本质上就是说，嘿你结果对了吗，对了好 [00:18:07]
Mitch Choyanovsky：我给你奖励中，然后把它规模化，结果显然效果很好，还是在智能体最近的演进里，或者就是去年吧，有个现在很出名的指标图表 显示长时程智能体的能力，大概每七个月翻一倍
Matt Turck：你在2026年还在观察到这个趋势吗，对绝对的，我觉得那个指标图表 现在有点不太准了，因为太难衡量了，而且那个基线本来就很低，对吧，基线确实很低，基线确实很低，而且我对他们的数据集不太熟 但我的理解是，样本量有点小，所以那个指标的具体情况，我不太清楚，但我觉得从感觉上来说，绝对是这样，模型因为变得更聪明，能保持连贯的时间更长了，但现在他们也被专门训练，去做这件事，对吧，也就是说他们被训练的是，怎么对自己有好的心智理论，因为如果你要外包给子智能体，对吧，或者你要给自己写笔记，回到记忆碎片的类比，对吧，你得想，我明天醒来会读这些笔记，我该怎么写，才能让信息密度最高，让未来的我能看懂，这需要一种心智理论，所以随着这些模型，越来越多的被训练，去做这类工作，这非常非常不像人类，因为人类其实很擅长这个，我们不需要为自己写东西，我们的大脑替我们做了，你会看到它走得更远，我觉得我们其实还早得很，你看看那些进展，比如Fable 5 5.6Sol那些，好想再深入聊聊你刚才提到的
Mitch Choyanovsky：我觉得2026年智能体的一个大背景是，要讲自主智能体的演进，就不能不提可验证奖励，那跟我们说说它是什么，在整个途径里处在什么位置，然后也许再说说 [00:19:41]
Matt Turck：为什么编程成了第一个成功的自主智能体用力，以及它跟可验证奖励有什么关系
可验证奖励与现实工作的反馈回路
Matt Turck：以及它跟可验证奖励有什么关系，这事挺有意思的，我觉得大家有点理解偏了，我这么说带点猜测的成分，因为我也不完全清楚 但编程确实在某种意义上，是可验证的，我能知道代码跑没跑通，所以我可以用这个来训练，比如你这个问题，做对没有，做错没有，诸如此类，这很有用，但模型编程能力强，一部分是这个原因，另一部分我觉得是，编程本身的几个特点，第一，编程在运行时是可验证的，我觉得这点非常重要，因为说到底 Agent需要拿到信号，知道自己干的怎么样，你想，如果你是个工程师，写完代码却永远跑不了，那就算你是全世界最牛的工程师，也总会在某个地方出个语法错误，所以我觉得编程在运行时，这么容易验证，至少有一部分是能在运行时验证的，这对它成为首选场景显然非常有价值，而且成本低，对吧，在环境里很容易做，而且完全是文本形式的，所以哪都能用，你就在自己电脑上直接跑一下就行，所以我觉得编程的这些特点，才是agent能做的这么好的大量原因，我觉得还有一点 这个我们可能都见过，你想想大概一年前，一年半前 Agent编程有多强，他们能去实现你交代的东西，但他们没有那种品位，没有那种什么才是好软件的判断力，因为就算你用可验证奖励去训练他们，比如这个单元测试过了没有，你能通过世界上所有的测试，也不代表你把应用搭对了，不代表你的数据库建的好，不代表你把文件拆分的合理，对吧，说到底编程是主观的，它是一门艺术，你没法用可验证奖励去解决一门艺术，所以我其实觉得这里面有很大一部分，是训练数据的量和质，各家实验室在编程这块的训练数据，显然已经做得相当好了，他们花了很多精力确保数据质量很高，保证模型是在高质量代码上训练的，所以我觉得这是另一部分原因，也许是因为实验室里显然全是工程师，这事更容易被放在心上，而且显然也是他们战略的一部分，所以他们更上心 确保预训练和后训练的数据集里，都有大量高质量代码，这才让agent不只是会写代码，而是开始真正擅长做工程，所以我觉得是所有这些因素加在一起 可验证奖励可能只是起点，让后面那些事能发生，但其他那些因素，分量一样重，甚至更重，好这就引出了你论点的核心，你做的是一个编程之外的领域 [00:22:06]
Mitch Choyanovsky：也就是为现实世界构建，长时程自主智能体，姑且这么说吧，编程之外的领域，好那为什么Agent会挣扎，你提到了三个原因，也许你可以说说这三个原因是什么，然后我们一个一个展开
Matt Turck：对我觉得agent挣扎的原因有很多，第一他们不一定知道好长什么样，第二他们可能不容易在运行时自我验证，就像我们刚才聊编程师说的那样，我觉得还有一点，这个可能不算agent本身的挣扎，更像是用户体验层面的问题，就是编程这件事，工程师本身就扎在细节里，所以有个差别，如果你在跑一个长时程编程Agent 而工程师没有亲自在代码里，没有扎进细节里，反而被抽象出去了，那你对质量的要求，你做决策的方式，可能就需要一个，比编程更高的标准，程序员能接受比较低的标准，这一点从来都是这样，所以我觉得，所有这些因素叠加在一起，才造成了这个局面，而且就算是编程 Agent也还没到，能在长时间内，保持连贯的人类水平，这很明显，因为他们没法像，一个初级工程师那样 在一个项目上连续干两周，所以他们做不到，这比人类还差，哪怕只是起步阶段，而且写这些系统的人，也不一定对，长什么样有直觉，那你们是怎么解决这个问题的，比如对一份纳税申报来说，通过测试意味着什么，它不像代码，不需要编译，好消息是，有些东西是可以编译的，不是全部，但显然有些是可以测试的，要么被告 要么不被告，对，我觉得这个问题的答案就是，你得看人类是怎么做的，会计这个行业有个好处，其他一些职业也有这个特点，但会计是那种，你真的必须力求正确的职业，正因如此，它里面有大量的判断和流程，我们有一句话，我在设计那边也常讲，就是人类其实早就习惯，跟非确定性系统打交道了，只不过那些系统，通常是他们的同事，而不是他们的电脑，而且在很多方面，公司也好流程也好，核心问题就是，你怎么为一个由非确定性实体，也就是人组成的系统做设计，让他们协作去解决一个问题，一旦你意识到这一点，你就会发现，这其实就有点像智能体设计了，所以我觉得，如果你要思考，什么是好的智能体设计，什么可以被验证，你就该看看人类是怎么组织的，你看人类怎么做纳税申报，他们有验证步骤，有独立复合 有可以确定性验证的东西，比如你可以说，试算平衡表加起来要等于0 对吧，这是很明显的检查，你还可以检查 Excel里有没有报错，这也是很明显的，所以有很多类似的事情，对人类来说是显而易见的，但你需要确保它们被正确的编码，还有一些东西可能不那么能确定性验证，但会计师一看就会觉得，哦这不对，比如你删掉了这个Excel里的某个标签页，或者你没有引用某个东西，诸如此类，所以你可以开始从这些不能确定性验证，但会计师一眼就能看出问题的事情上，构建出有效的验证器，然后你就可以开始考虑用评判模型 或者其他形式的验证来获取那个信号，既用在你的评估里，也用在运行时，这是其中一点，我记得你在X的帖子里提到，数据稀缺是个问题，你能展开讲讲吗 比如说我们姑且假设，你不仅有合成数据，还有全国每一份真实的纳税申报表，实际上出于隐私原因你做不到，就算你真的有了，然后你说，好我用这个来获取数据，不是用来训练，而是用来验证智能体做的怎么样，这个数据量跟合成地生成数学题相比，简直微不足道，后者你可以生成几十万几百万道，所以就算你拥有了全世界所有的数据，你也无法规模化，所以你想怎么合成生成这些数据，而合成生成这件事真的很难，因为你合成的不是文本而是工件，这些工件必须真实且多样，于是你又遇到了所有关于数据的问题，数据多样性，各种你需要的东西，我毫不怀疑这个问题会随着时间被解决，但今天还没解决，所以在数据生成的可能性，实际能做到什么，以及模型具备的潜在能力之间，存在一个差距，这可能就回到了 我们在帖子里聊的那些东西，那你怎么看待反馈回路的长度，对这是另一件事，长度可能非常长，取决于你在做什么，做一份1065表格，一个人可能要花 20多个小时的实际工作时间，我不是说花了一天，我是说实打实坐下来干活的时间，而且对于非常复杂的申报，时间可能还要涨得多，所以就算你拥有，全世界所有的数据，你也不可能拥有 你也没法拥有所需的反馈回路，去跑你想跑的那种改进循环，把智能体训练到真正优秀，再把它说的具体一点，比如编制一份纳税申报表，大概会涉及多少步骤，天哪，步骤太多了，在编制一份纳税申报表的过程中，对给你个概念，比如你很容易就有500份 1000份文档，你得想清楚，怎么把这些文档互相映射，搞清楚什么重要，每份文档 可能都得做大量不同的研究，你还得想他们整体是什么意思，你把他们都编进某些工作部里，至少现在是，就是那种大型Excel 要做的事非常多，所以你说步骤推理步骤的话，轻松就是几千步，而且取决于你怎么搭系统，如果你开始为不同的事派生子Agent 这你基本必须做，那步骤数还会涨，这还没算其他测试时计算的方法，比如你可以这么做，假设有个税务问题要解决，难道离谱，只有专家才解得出来，那也许与其让Agent 自己派一个子Agent 你派五个让他们投票，所以就是有很多别的办法，往问题上砸更多算力，所以看你做什么 [00:27:21]
Mitch Choyanovsky：步骤数最后会相当大，好很好，那我复述一下，你面对的是非常复杂的流程，步骤几多几多，你没有多少数据来判断，哪里对哪里错，甚至什么是对，什么是错都不总是清楚，虽然至少对问题的某些部分，你能明确说这对不对，但不是总能，所以这是非常复杂的问题，这就引出了你们处理它的方式，特别是有个概念是，你不能只依赖结果 [00:28:00]
Matt Turck：你得依赖过程，那依赖结果到底有什么问题，对，依赖结果的问题在于，如果你有一个几千步的轨迹，哪怕就一个小时的，你会有评估集，告诉你好的表现长什么样，它可以完全可验证，比如数字对不对得上，也可以有部分是用LM当裁判，比如有某种评分准则之类的，假设你有一百个评估都过了，看起来很好，那你有信心，它现在能泛化到现实世界，到生产环境吗，我们的答案是不能，你确实没法有那个信心，所以你不该只依赖那个，就像如果一个工程师，跑来跟你说，嘿我所有测试都过了，端到单元测试什么的，那意味着，他们把数据库架构对了吗，不一定，那并不能告诉你，这个有很多办法，能通过所谓的结果，但过程其实没做对，所以我们发现的是，尤其回到我前面说的，把人组织做类比，从人类怎么做工作里，有大量可学的 所以我觉得，把这些经验扔掉，说苦涩的教训，扔掉这些经验，我们就让Agent 在运行时发展出一套，全新的做纳税申报的方法，这是个错误，因为苦涩的教训什么的，会比人类几百年积累的，关于正确过程的经验更好，也许有一天会是这样，我不是说永远不会，而且我确实觉得有可能，回到我们之前聊的，数据植物学那套，我觉得如果你往一个，基于结果的流程里，砸足够多的数据和算力，你最终能到那，但不是近期，所以如果你近期到不了，而模型里又有那些潜在能力，你真正要做的是想，把人类做事好的过程 [00:29:21]
行为规范：让智能体遵循正确过程
Matt Turck：把人类做事好的过程，长什么样的经验拿过来，你不能照搬，因为关于好的智能体设计，你得想很多，现在的模型开箱，即用并不是特别擅长，长时程连贯，那方面关于行为规范，其实有大量工作要做，你可以转而设置某些评估，或者未来可能的奖励函数，来看他有没有正确遵循过程，也许我在帖子里提过的例子，我直接跟听众说，假设你在做最基础的税务研究，你问他一个税务问题 Agent肯定能答对，他可能从预训练知识里就知道，也可能读个博客就答对了，但真正的会计师，不会信这个，他们会要求你引用主要来源，所以哪怕你一百次里一百次都对，如果一个人只是靠上维几百颗答对的，会计师不会雇他，所以他们也不该雇我们，所以我们觉得特别重要的是，不，我们的Agent 不是靠预训练知识，或读博客学的，他们会去查真正的法规原文 用主要来源核实信息，这也是你理想中，希望真正的税务会计师，做的事，所以你们创造了，行为规范这个概念，那给我们讲讲，那是什么非常实际的讲，是个markdown文件吗，长什么样，对 最初的想法，其实是我联合创始人 Matt提出来的，差不多两年前，我们当时在聊auto GPT 那时候甚至在我们，还没有今天这种意义上的完整Agent 选择还很受限的时候，你就已经得想，好在这个岔路口，你想让他做什么样的选择，所以MAT 我们内部其实一开始叫它原行为，因为想法是，你在定义一个行为，但它是在原层面，因为它横跨Agent 在所有这些不同轨迹里，会有的所有行为，所以想法是，与其去写prompt 你得先对其原行为是什么，这其实就是这个概念最初的用途，我发誓，真的是两年前，后来慢慢演变，我们最后就叫它行为，因为简单一点，想法是，你有一个markdown文件，在里面写下，你希望agent怎么表现，就这么简单，它可以有不同的精细度，比如说，有个很具体的要求 像你得去看主要来源，也许你想更具体一点，比如，不你应该总是去看IRS的网站，另一个例子，想象你在做PowerPoint 一个行为是，在你返回PowerPoint之前，你应该把它渲染成图片，这样你就能知道，有没有格式问题，然后你把它写进markdown文件，理想情况下，这个markdown文件是自包含的，其他人可以看，然后对其说，对这就是我们想要的行为，部分原因是，行为其实是主观的练习，这个我们后面可以多聊，它既是产品的事，也是智能的事，然后它也是judge可以看的东西 judge可以看一条轨迹，说h Agent 有没有表现出这个行为，或者需要他表现出，这个行为的条件，有没有发生，如果有，他到底有没有表现出那个行为，然后你就可以据此打分，那谁来写这些markdown文件 或者谁来监督写的过程，人类，对吧，那些人类是会计师吗，这是个好问题，有点看情况，我觉得这是会计师和机器学习研究人员的联合努力，在应用层面 因为你不只是说，行为是你应该去那个网站，你可能会说，行为是对这种类型的研究，你应该派生一个，带完整历史的子Agent 因为你需要建立那个上下文，这里面有很多智能体机制在起作用，所以你会遇到这种情况，对人类来说，好的流程是什么，但你需要把它翻译成agent的语言，然后做决定，这里有个结合，你同时也在讨论agent的机制是什么，所以我会说，这是会计师和机器学习研究人员的双重努力，我们其实有一个完整的团队，叫accounting product operations 里面是会计师，他们做的事情，本质上是和研究团队紧密合作 构建评估标准，既有基于结果的评估标准，也有行为类的，那你怎么权衡精确性和确保系统不崩溃，你提到去查IRS网站，有没有可能在某个时候，你该做的其实是，你的规则是去IRS网站，但两年后信息的位置变了，不这是一个非常好的问题，而这恰恰就是为什么 行为规范实际上并不会展示给agent看，所以行为规范可能会说，嘿你应该去IRS网站，但这并不意味着agent被告知，要去IRS网站，对吧，他可能会也可能不会，这有点取决于情况，但关键是，我的想法是，作为agent的工程师，系统工程师，你要决定对具体情况，具体到什么程度，显然你更希望不要那么具体，对吧，我觉得擅长构建agent的人都知道，在边缘情况下，给出原则，给出为什么，给出更多上下文，让agent自己去搞清楚，效果要好得多，所以对于行为规范，你其实不想定义所有可能发生的事，而是要说，不不不，我们知道，比如说假设你在做powerpoint 在把文件交给用户之前，拍一张powerpoint的照片，能抓住问题，我们确切知道这一点，对吧，所以我们作为agent工程师，要表明立场 说在agent你要做的所有不同事情里，这是我要给你打分的那件事，然后也许你在那里会更具体一点，如果你愿意，你可以更具体，比如用这个确切的工具，但理想情况下你不必这样，这取决于你的系统是怎么构建的，所以我觉得你的具体程度取决于，也许你试图推动的具体结果是什么，以及那个结果在多大程度上，能泛化到各种情况里，比如说如果你在制作PowerPoint 当然拍张照片会让效果更好，但假设你的Agent 其实是个超快的Agent 那拍照是要花时间的，所以也许对一个超快的Agent 你不想让他给PowerPoint拍照，因为这样它从30秒变成了一分钟，但如果你有一个要跑20分钟的ASIC Agent 那就是从20分钟变成20分30秒，每次都拍，所以这就回到了我关于产品层面的观点，这不仅仅是智能的问题，这是一个主观的练习，关于你希望Agent在生产环境中，大体上如何表现 而且实际上我认为这就是，为什么它对产品构建如此关键，我们几分钟前聊到OpenAI 在2023年做的那件事，需要80万个人工标注，你们在2026年做的事情有什么不同，对好问题，所以我们目前至少现在，并没有主动去奖励底层模型 我们现在没有通过奖励这个过程，来后训练我们自己的模型，我确实认为那是一个非常有趣的研究方向，我们待会可以聊，但那不是我们现在正在做的事情，那是我们另外在单独研究的东西，不过那更多是面向未来的，所以如果你退一步看，把构建agent和上下文工程的工作类比成，直接训练一个模型，是很有用的，我觉得当人们想到上下文的时候，人们会说提示词上下文，我觉得人们通常的心智模型是，我写了一些英文告诉模型该做什么，我认为那是错误的心智框架，我喜欢的框架是把它想成训练数据，只不过你是在运行时训练模型，它就是训练数据，而且因为模型是在推理时学习的，训练数据的总量要低得多，对吧，比如你系统里Agent 会在它的轨迹中逐步学习，或发现的所有上下文，显然比你在后训练，一个模型时，用的数据量，要低好几个数量级，所以 你本质上，是在拿这些数据，努力确保，它有最高的质量，让agent表现出，你想要它表现的行为，显然，数据只是其中一部分，显然还有harness 有什么工具，有什么能力，环境，所有这些，当然还有你用哪个模型，诸如此类，所以这里的区别是，我们拿这个信号，去改进，整个agent系统，这需要的数据规模 比我们拿这个信号，更直接的用强化学习的方式，去奖励底层模型要小得多，你几分钟前提到了一个judge 也许给我们讲讲，你是怎么训练那个judge 去做他该做的事的，或者你是怎么指示那个judge 去做他该做的事的，然后我想还有个显而易见的问题，谁来评判judge 对，我觉得这不仅是行为评估的问题，其实基于结果的评估也一样，这是个好问题 真希望我们有更多时间深入了，现实是我们确实没有那么多时间和资源，去把每个评判器都打磨到完美，但我可以给你讲个大概，一般来说，你要做的是先建立一种直觉，判断这个评判器的品位，对不对，而且我觉得，后续练研究里有个挺有意思的方向，就是研究评判器本身，还有他们的品位，今天你需要把评判器设置好，让它有做决策所需的信息，有合适的框架，还得有相应的数据和心态，我给你举个行为方面的例子，你可以想象，这可能会相当复杂，目前至少行为评判的成本相对较高，因为它是个相当高级的评判器，它本身也是个Agent 它不是传统意义上的评判器，它真的是个Agent 因为它要看整个轨迹，所以成本很高，你可以想象未来，像Brain Trust这些公司，已经开始在想，怎么更好的标注轨迹，这样就能更容易的 把轨迹过滤到，只保留可能相关的部分，交给评判器，而不是让它看整个轨迹，但如果你有一条轨迹，尤其是长时程的，可能有很多子 Agent的轨迹，你作为评判器就得想，我要看轨迹的哪部分，我怎么理解它，你大概需要某种形式的地图，我到底在评判谁，想象一个深度为期的agent的系统，你可能真的有七层子Agent 我是在评判根结点做的对不对，还是在评判其中某个别的Agent 所以你真的需要好好设计提示词，可能还要调优评判器，让他清楚该去哪里评判，理解行为本身，也就是条件是什么，然后知道怎么判断，这个行为有没有发生 [00:38:52]
Mitch Choyanovsky：这种方法有什么权衡吗，我想到的是，没错，有人类验证的流程，能保证，或者至少有助于确保一种严谨的方法，不太容易失败，但与此同时，你也不会得到那种第 37 手势的结果，就是AI其实能做得更好，更高效，比如跳过某一步，直接快进那三步，这种权衡是不是一直存在，这是个好问题 [00:39:31]
Matt Turck：首先我想确保所有听众都清楚一点，把行为写下来成本很高
评判器、上下文工程与开源实践
Matt Turck：把行为写下来成本很高，因为一旦写下来，你就得维护这个状态，你得让它保持最新，如果你是通过上下文，让模型或agent表现出这个行为，那你就可能有重复的状态，取决于你怎么看，正因为有这种维护负担，你理想情况下，希望行为规范越少越好，所以不是说你看看，做一份纳税申报需要什么，然后说来把所有最佳事件都写下来，看看它有没有照做，而是你挑出几个，你认为最重要的，对生产环境泛化影响最大的，最有影响力的，你只关心这些，不是全部，所以我觉得这是很重要的一点，理想情况下，如果你做得对，理论上还是给第 37 手留了空间的，但我觉得还有另一层，就是你到底在向别人卖什么，就像你要招一个工程师，在你的公司里，你有一套流程，我随便举个例子，你先画个快速架构图，跟CTO聊一下，得到批准，然后提个PR 把PR拆成10个更小的PR 组成一个站，然后合并进去，确保有意图测试，再部署，这就是流程，想象一个工程师，跑过来跟你说，嘿这是我一千行的PR 我现在就要合并进生产环境，如果他比你想的更好呢，如果他是第 37 手呢，他可能比CTO 想出来的方案更好，但那不代表他就是好的，不是说结果更好 CTO或公司就会满意，因为归根结底，你干活不是因为，某一份单独的工作有多出色，而是因为，你能把它规模化到公司，到系统到组织，所以客户从我们这里买的，不是这会是史上，最好的纳税申报，他们买的是那份信心，最好看的那份，对最好看的那份，或者像那种第37首，试算平衡表在这之类的，对吧，他们买的是稳定可靠，能放心信任的东西，就像对人一样，他们可以慢慢学着越来越信任，然后随着时间逐步授予更多自主权，对吧，我觉得那种信任和可靠性 才是你部署到现实世界需要的东西，你不需要第37首 那可能在奥赛数学竞赛里需要，但不是在现实经济里干活，对听你讲的时候，我觉得特别有意思的一点是，你做这一切，其实对底层模型内部怎么运作，并没有真正的洞察 [00:41:52]
Mitch Choyanovsky：你跟我们所有人一样，对吧，你基本是在猜，从模型的行为表现，通过各种产物，还有看工具调用来推断，那这怎么运作，然后能不能跟我们讲讲，每次模型更新换代 [00:42:05]
Matt Turck：或者新版本发布的时候，你是不是得用新模型的眼光，重新审视你之前做的所有东西，这其实可能得回到Claude Opus 3 O1 O3的时候，因为我确实觉得，构建agent的时候 有一件事特别重要，尤其是围绕他建公司的话，就是你不应该太惊讶，你应该有一个世界模型，事情变了，你就更新你的模型，但要成功，你不能一直更新模型，你得有先见之明，而且我确实觉得，如果你真正内化了一些概念，对吧，先别管内部机制，先忘掉这个LM 你有一个魔法盒，你有这个魔法盒，或者我有时喜欢叫他外星人，你可以往这个外星人里塞海量数据，他能在推理时，在那个魔法盒内部进行推理和学习，然后给你返回输出，而且现在工具调用显然已经能用了，你可以把它接入系统的其他部分，你真正需要知道的就这些，我觉得一旦你真正理解了这意味着什么，并把它推到逻辑终点，很多东西就会自然浮现，因为你开始明白，你会想好等等，如果我有一个能这么干的魔法盒，那是不是意味着，他能决定去调用另一个魔法盒，你知道那是不是意味着，他有可能把好几个串在一起 对吧，那是不是意味着它能利用，显然在那一刻，它是个魔法盒，但它有某种状态，我们知道这点，它有激活状态，缓存就是这么运作的，所以存在某种激活状态，它必然会偏向当前这条轨迹，所以也许做审查的时候，你想要一条不相关的轨迹，对吧，就像一个全新的盒子，它同样聪明 我觉得如果你建立起这类LM 直觉，再结合一些组织设计和管理的基本原则，我想你就能慢慢触到 Agent构建的前沿了，有意思，那实际操作上，你怎么建立这种LM 直觉，是靠一直读论文，还是跟研究者聊，或者去感受最先进水平，往哪个方向走，对我觉得其实都不是这些，我觉得关键权在于，我是说读论文确实有用，但我真觉得，很多人在那上面用力过猛了，好多人觉得 对我看到了这条推文，我看到了这个，好像就是下一个酷东西，我觉得问题在于，如果没有对事物运作方式，和可能性的根本性理解，就很容易觉得，一切都在剧烈变化，但实际上并没有，从O3以来，事情真的没怎么变，我会说 O3之后，几乎所有东西都相对的，我不想说在趋势之内，然后好像，我早就知道这个趋势，但我会说，都在同一个范式里，从O3到现在，没有发生过范式级别的转变，我觉得理解它，学习它最好的方式，就是大量的，在自己的工作中去用它们，尤其是在编程里，试着去理解一些东西，一个好的心智模型是，比如说我试着让一个agent帮我改一个功能，他没按我想要的方式做，那为什么，真正的限制因素是什么，这有点像那个著名的埃隆马斯克思维，就是说好你找到主要的限制因素，然后把它搞清楚 我觉得如果你把类似的思维用在agent上，去理解他为什么没能自动化这件事，是他真的不够聪明吗，大概不是，他们挺聪明的，他们已经聪明了好一阵子了，所以一旦你把这种思维用在自己的工作上，我发现这对建立直觉非常有用，而且我在面试的人身上，也看到了这一点，很多agent直觉最好的人，确实很多人有机器学习背景，但那些没有背景的人里，很多都是特别擅长，自动化自己工作的人，特别擅长思考这件事，特别擅长理解要构建的系统是什么，比如我大概一年半前，在Data Driven做过一个，关于本体论的演讲，我觉得有很多人在自己的数据里，自己的仓库里思考本体论 那些在积极思考的人，不只是怎么给模型写prompt 而是怎么构建一个系统，他们就开始建立起非常好的直觉，那我们一定要在对话结束前，聊到这个，你具体和Brain Trust开源了什么，人们通过什么项目找到它，它的起源是什么，为什么你特别选择和Brain Trust合作，如果我们回到，行为规范这个概念，这个想法是，你其实可以用markdown写下来 它实际上既是规格说明，又是评分标准，我们叫它规格说明，也有人问过，这不就是评分标准吗，是的，它两者都是，它之所以两者都是，是因为它不仅用来给agent打分，或可能给奖励，也用来对齐人类，我觉得这是一个被低估的点，你希望agent怎么表现，就像我们之前聊到的，其实是一个主观问题，所以内部来说，你需要建立流程，让大家达成一致，比如，这就是产品，对吧，你希望agent怎么表现，回到那个快速powerpoint验证的例子，所以你希望有一个标准，把那个写下来，这个项目之所以产生，是因为我碰巧，和BrainTrust的CEOAnchor喝咖啡，说实话我忘了为什么了，但我跟他说，我还在跟你说，我在跟他解释这个概念，我聊这个是因为，我们在内部做这件事，我觉得非常酷，他听了挺兴奋的，而且我内部，一直在想的一件事是 我觉得我们做了很多，真正前沿的工作，但我们不怎么对外说，因为说实话，我们一直在工作，对就在我们开始录音之前，你还在给我看，你和你联合创始人 [00:47:10]
Mitch Choyanovsky：Matt之间的一些内部消息，如果我可以透露的话 Matt凌晨4点给你发了一条slack 然后那些提示因素，对那是昨晚的事，所以我们录的时候是周日晚上
Matt Turck：然后你让我看了，你早上6点回复那条slack 所以是的，对 Bases的联合创始人之间，真是996拉满，对对对，我们确实没有996 对Matt和我来说，是7分之24 对公司的其他人来说，大家工作很努力，但绝对不是996 所以我们想多聊聊，分享我们在做的事，我们也没有太多资源，去大规模宣传，所以我们聊的时候，我就说，我觉得这对Brain Trust 真的很有用，说实话，对整个行业也是，因为如果你有一个标准，人们可以定义它，然后自动被吸收进，可观测性平台，监控平台，对，可能没那么先进的人来说，他也可以开箱挤用地，提供评判器，或者定义行为的方式，你不需要自己配置评判器，可以直接让他帮你评判，然后看结果，所以他听了挺兴奋的，这就是合作的由来，开源仓库里就是这些内容，里面有几个小例子，有一个你可以直接用的视力评判器，还有实际写好的行为视力，你可以借鉴，然后构建自己的，我觉得思考，如果采用这个标准是有用的，但我觉得也许更重要的是，思考如何采用这种思维方式 不要认为一个运行10小时的Agent 是黑盒，他不是，他产生大量数据，如果你不理解他是怎么做工作的，你很可能是在坑你的客户，那你希望人们拿这个开源项目做什么，大概是贡献代码，或者用在他们自己的场景里，它怎么才能成为行业标准，对这是个好问题，我其实不知道，我觉得最酷的事情是，大家往里面贡献想法，我觉得还有很多工作要做，这才刚刚开始，我之前提了几件事 但还有很多事要做，第一怎么做出好的评判器，第二怎么正确的标注和拆解轨迹，让评判器更容易理解，因为以目前的成本，你没法在所有生产环境里跑这个，因为你得对每一条轨迹都跑评判器，但在行为之上构建那些工作，我觉得有很多可以做的，另外我们特意让标准相对灵活，类似skills 它就是一个markdown文件，没有过度拟合，不是说你必须用这五个词，你可以写得很宽泛，也可以写得很具体，只要它自包含到评判器，能看着这个行为，就知道它被展示的条件满足了吗，如果满足了，它到底展示了还是没展示 只要满足这一点，就有很大的自由度，所以我们希望它是灵活的，那AI 构建者在构建自主，尝试成agent时，还应该考虑什么，我们聊了评判器，聊了行为 [00:49:45]
Mitch Choyanovsky：你刚才提到了ontology
本体、团队角色与自我改进
Mitch Choyanovsky：你刚才提到了ontology 你在data driven的演讲里也提到过，我经常看到你把它说成 Agent生存的世界，它在整个图形里处于什么位置，对，它们非常重要
Matt Turck：很多人听到想到agent的时候，他们的心智模型，总是会跳到编程Agent 因为那是每个人的经验，至少听这个播客的人，大家会经常想到编程Agent 编程agent有意思，因为他们显然有一个随服的harness 他们有特定的工具，有编码在上下文里的特定行为，对吧，顺便说codex是开源的，我强烈建议大家去看看那个开源仓库，但他们不控制自己的运行时训练数据，对吧，因为他们的运行时训练数据，回到我之前的类比，就是他们的上下文，实际上是他们正在工作的那个代码仓库，所以你可以让codex 同一个Agent 在一个代码库上表现还行，在另一个代码库上表现经验，因为那个代码库，有更好的运行时训练数据，对吧，也就是说它可能有好的skills 或者好的关于如何在代码库中，操作的上下文，因为那里没有矛盾，和混乱之类的东西，所以你的代码库的ontology 对工程师来说一直很重要，对真正好的agent来说，随着时间的推移，它同样重要，甚至更重要，如果你考虑非编程Agent 我觉得这还会再上一个层次，因为在编程里，你不拥有运行时训练数据，在非编程里，你拥有，对吧，比如一个basis Agent 看到的大部分数据，是basis拥有的，对吧，那是我们必须确保，运行良好的训练数据，再说一次，我说训练数据，其实指的是，人工精心编写的上下文，对吧，或者是更广泛的，渐进式披露体系里的一部分，有些可能是手写的，有些可能不是，总之就是这些，因为智能体每次都是从零开始，所以把那个本体设计的对智能体友好，是做出能长时间运行的东西的关键，这既包括那些静态的数据，比如所有智能体都有的skill之类的东西，也包括一旦你进入真正长的时程 比如一个有状态智能体要运行几个月，从几天到几个月，这时候你突然就有了一个本体，回到记忆碎片那个例子，就是智能体给自己留下的信息，如果你只运行几个小时，那可能只是几条笔记，如果运行几个月，那就是一整个文件夹了，对吧，你积累了那么多知识和上下文，描述了智能体的全部经历，然后这个新智能体，好吧，也不算全新，它带着高度压缩的上下文启动，必须把自己恢复到，完整经历过的那个心智状态，所以你设计的本体，要让它容易做到这一点，你编码的行为，要确保它做得好，这些才是让它 真正出色运转的关键，那设计本体到底是什么意思，本体在实践中是什么，是图数据库吗，是一系列关系吗，对，它可以是很多不同的形式，有各种不同的格式，我觉得最简单的理解方式 其实就是把它想成一个文件系统，里面有一定的结构，显然大多数人用的是虚拟文件系统，所以灵活性很大，文件跟文件夹上，可以挂各种原数据，对吧，你也可以有节点和连接器，用某种图数据库，如果你想要的话，显然嵌入也会用上，就是有太多不同的数据来源，可以用来丰富它，而且现在模型越来越便宜，越来越多的这类工作，其实可以直接用推理来做，而不是靠确定性的东西，比如图或者嵌入，如果Luna的成本趋近于零，那你就可以在整个本体上，跑一堆Luna 帮智能体把东西总结好，诸如此类，所以这就是我理解它的方式，可能还有一点，本体不只是文件夹的结构，传统意义上的本体，它也是语言，对吧，就是对象和概念是什么，因为归根结底，如果你在运行时被训练 你得确保不会把概念混在一起，让一切大体上说得通，所以这就是我说的定义世界，对吧，你在定义智能体，在探索周围世界时，可以预期看到什么，你某处提到过，给智能体的内部文档 [00:53:40]
Mitch Choyanovsky：必须像代码库一样对待，删掉关键段落，智能体就崩了，就像删掉一行代码一样，那个文档是在本体之外，智能体像调用工具一样去搜索的，这到底怎么运作，最佳实践是什么，对
Matt Turck：这是个好问题，我先把这两件事分开，刚才我讲本体和历史信息的时候，更多指的是Basis产品内部生产环境里的东西，至于内部使用智能体，比如编程Agent 或者我们可能做的其他内部智能体，那就有点意思了，因为取决于你怎么搭建，你的环境可能没那么受本体控制，因为就像你说的，在现实世界里，你得去访问 linear gon python 这些不同的系统，所以我觉得内部智能体的一个关键，就是非常清楚什么是权威的，什么不是权威的，就像我是一个刚加入组织的人，我可以去听所有的共录音，但我们今天的销售策略是什么，如果你听两年前的共，你会得到很多背景，但你不会知道，现在的销售策略是什么，必须有一份权威的文档，在实践中，人类很多时候是靠跟人聊天，学会这些的，你慢慢就懂了，但对智能体来说，这很难获得，更重要的是，如果你想要真正的组织智能 你不想让一个智能体，从一个人那里听到一种说法，从另一个人那里，听到另一种说法，或者让他们有不同的书面记录，比如现在的销售话术是什么，我们怎么做deck 我们怎么写邮件，你需要一个统一的权威来源，所以我觉得，对于真正的智能体原生公司，尤其是蔚来，今天我觉得还早，但蔚来尤其如此，清楚知道公司的权威内容是什么 把它组织成一个合理的本体，并确保它像代码一样持续更新，我认为这最终会成为公司内部，人类最重要的职责之一，在Basis团队里，你们招的岗位，两年前根本不存在，比如语言架构师，智能体管理者，这些人是谁，他们做什么，什么样的背景适合，对，我们需要很多这样的人，如果你在听这期节目，想加入的话，请直接联系我，好，问题，我们还在摸索中 这不容易，我目前知道的是，你需要，这个说法最近可能有点流行，但我觉得真正重要的一项能力，是好的系统思维，好的，系统思维从哪来，来自那些，必须思考某种抽象，某个系统，并且把它设计成，能在大量场景下，都表现良好的人，所以显然，如果你是个真正优秀的工程师，工程本身就是系统思维，不过我觉得，历史上大多数工程工作，其实并不真正基于系统思维，更多是偏执行导向的，但如果你想想最难的工程，比如我在设计这个东西长什么样，或者我在选正确的抽象层，那确实非常依赖系统思维，但这不是唯一需要这种思维的职业，我觉得法律其实也类似，很多方面我在想，也许美国的开国先贤们，会是很棒的上下文工程师，或智能体管理者，因为你得写一段英文，这段英文将来要被律师，法官们在实际运行中解读无数次 所以如果你在写一条法律，我不是说那种政客式的，而是你真的在认真写一条法律，你就是在尝试用英文写出一个抽象层次，恰到好处，能覆盖所有情况的东西，你还得对司法系统有心智理论，去想他们会怎么解读它，有意思的是，你会在某些机场看到那种告示牌，不要带枪，不要带刀，不要带剑，不要带这个那个，你列了30样东西，这正是你说的脆弱规则的问题，所以同样一件事，你可以列50条脆弱规则，也可以写出一个恰到好处的抽象，刚好把它全部覆盖，所以我觉得，任何需要你以这种方式思考抽象的领域 都是成为好的系统工程师的好训练，我觉得那些管理过世界上最复杂Excel模型的人，说实话也没太大区别，所以我觉得适合的背景其实很多，我记得你在data driven演讲时 [00:57:22]
Mitch Choyanovsky：讲到了你们的部署智能团队，你说在企业里部署智能体，就像让300个聪明绝顶，但毫无背景的外星员工入职，所以才有了部署智能团队，那这些人做什么，他们还在吗
Matt Turck：还是这个概念已经演变了，不不当然还在DI团队很棒，我觉得我不该这么说，我得去谷歌一下，但部署智能这个词，绝对是我们发明的，我知道，因为你去谷歌搜这个词，我们公司排第一个，这名字挺酷的，我不知道有没有别人，也用了这个名字，我觉得它其实还没真正流行起来，但这个想法的本质是，它其实不是FDE 不是那种工程师进来，给你定制开发东西，也不是现在某些公司，我就不点名了，那种所谓的智能体产品经理，就是一些挂着片头线的人，用智能体构建工具，帮你搭一个智能体，它两者都不是，它是这样一群人，他们对这个职业，有很深的同理心，和理解，知道建立好的流程，需要什么，知道当你突然，可以把某些事情，外包给智能体师，怎样才能成功，所以DI团队的工作，是去和我们的，会计事务所客户合作，帮他们过渡到，这个新时代，我们给了他们魔法 但如果我们不教他们，怎么用好这个魔法，不只是日常怎么用，而是他如何改变，事务所的本质，他如何改变，他们能接什么业务，招什么人，他们怎么扩张，成为人人都想成为的，那种未来事务所，这就是DI团队，和客户紧密合作要做的事，因为如果让他们自己去学，自己去做，那不公平，相反，他们带来了关于自己事务所的，大量知识，过去怎么运作的 当然还有他们的人，我们把这些和我们关于，如何部署智能体的知识，结合起来，我觉得合在一起，就能打造出真正前沿的会计事务所，说到前沿，也许我们该开始收尾了 [00:59:08]
Mitch Choyanovsky：我想花点时间聊聊这个话题 2026年一个大主题，显然是自我改进，这在basis和自主智能体的，图景里处于什么位置，我记得你讲过，智能体会对其他智能体发展出
Matt Turck：新制理论，那从系统层面给我们描绘一下，自我改进是什么样的，对我们内部其实在帖子里，我聊过一些研究方向，我们一个重要的研究方向就是，怎么真正把闭环合上，我们喜欢这么叫它 从Hey Agent犯了错，或者表现不好，或者怎样到我们已经改进了系统，去解决这个问题，我觉得闭环这件事会来得很快，我不敢说整个闭环都能合上
从苦涩的教训到AI开发者建议
Matt Turck：我不敢说整个闭环都能合上，但我觉得到年底应该会相当接近，我觉得随着agent对自身进而对其他agent的心智理论越来越好，会有两件事同时发生，一个是在运行时，他们越来越擅长编排 Agent 也擅长给自己调节运行环境，但这也意味着他们正在成为更好的上下文工程师，对吧，他们正在成为更好的框架工程师，现在他们在工程化agent的系统这件事上，比工程化大多数软件要差得远得多，差得远，因为这类工作本质上太新了，在他们的训练数据里见得不多，所以他们的直觉非常差，其实我觉得很多做agent的人犯的错是，他们有一种奇怪的直觉，觉得上下文里或者agent里的垃圾内容，好像比代码里的垃圾内容更能被容忍，你会看到有人对某个抽象的，不够好的代码文件大惊小怪，可他们的上下文简直是一团糟，这挺滑稽的 因为上下文其实才影响运行时的表现，代码的组织方式，并不影响运行时的表现，所以我觉得很多，显然因为长期养成的习惯，很多工程师，把代码看得比英文更金贵，可实际上英文更金贵，因为英文影响表现，代码不影响表现，对吧，如果逻辑一样，假设逻辑相同，它就不影响表现，所以我觉得随着agent变强，随着他们更擅长这类工程，就是怎么构建agent的系统，你才能真正开始把币还合上，因为要合上闭环，对吧，你需要拿到你收到的信号，而且你需要大量信号，行为规范的一个作用，行为规范的意义之一，就是获得更多信号，而如果你只有基于结果的评估，你的信号就非常稀疏，那你怎么把所有这些信号，真正用来改进系统，对吧，你把它扩散到整个系统里，今天这件事可以由一个agent来做，比如更新上下文，改变工具的性质 更新框架等等，我觉得你大概能用一种可泛化，但不过拟合的方式，如果你想让系统过拟合到某个信号上，今天就能做 但如果你想让它以可泛化的方式来做，那agent还需要再强一点，这方面还有更多工作要做，那模型层面的自我改进呢，我记得你之前提到，你们还没有在模型本身上 [01:01:54]
Mitch Choyanovsky：做太多强化学习，你们主要做的是框架层面的工作，如果我没理解错的话，但这是不是下一个大赌注，开始对行为遵从，做真正的强化学习，对这是个好问题，我的思考方式是 [01:02:08]
Matt Turck：强化学习的难点，在于决定你的奖励函数是什么，然后决定你打算，怎么把奖励分配到，发生的那些事情上，对吧，所以这正是我们正在做的活跃研究，因为行为规范就是一个信号来源，对吧，你可以用它来打造一个奖励函数，其他一些生产监控的工作，还有你构建的一些评估，也是一样，所以怎么构建好的信号，做研究，理解它意味着什么，尤其是在一个，不能完美验证的领域里，这就是我们在做的工作，至于你拿到那个信号之后，是把它通过权重扩散出去，通过正式的强化学习，还是通过框架扩散出去，通过随便你怎么叫的东西，比如非正式强化学习，或者框架工程，我觉得这和信号本身的开发，是两回事，但我觉得信号的开发，才是真正难的部分，那才是我们真正专注的地方，而今天我们不会直接动权重 我们不去动权重，主要原因是，模型在自我编排方面的进步，带来的性能提升，远远超过直接更新模型，能带来的好处，我觉得那可能也会有一些增益，我们等着看吧，但我觉得，这就是你还不去动权重的理由之一，我确实觉得，那也是一个非常有意思的研究方向，我们之后会开始探索，所以对我们来说，在我们这个层面，在应用层面，这就是我们在做的研究，但我猜，要让模型真正在经济里干实活，那是唯一能到达的路，我不相信，如果你训练一个模型，你把预训练计算量往上加，把基于完美可验证奖励的，后训练量也往上加，突然就会产出一个，能可靠完成纳税申报的模型，他可能会做出一份非常好的，但问题不是他做的好不好，问题是他能不能达到一个，和他一起干活的人，所期望的质量，可靠性，可扩展性水平 [01:03:15]
Mitch Choyanovsky：不过你担心苦涩的教训吗，就是你在对话前面提到过的那个，你觉得你们和其他人，在框架层面做的这些出色工作，最终会被模型本身吞掉吗，我猜肯定会被吞掉，对 [01:04:09]
Matt Turck：我不担心，这绝对是未来，毫无疑问，事实上，如果你看我的帖子，我暗示过这一点，我记得我说过，行为规范，目前还不会展示给智能体看，原因就是，如果你真的信奉苦涩的教训，那未来这种上下文工程的想法，会整个消失，你只需要说，嘿，我要这些行为，它就能直接做到，所以我绝对认为，它会被吞掉，没有疑问，至于要多久才会被吞掉，我不太确定，我觉得大概五年以内吧，我不觉得两年内会，但我觉得五年内很可能，所以对我们来说，我们现在处于超大规模扩张模式，我们没法等苦涩的教训到来，再去准确完成纳税申报，所以我觉得那会是关键之一，不过我也觉得，这个纯属猜测了，我怀疑某些类型的过程奖励，对这种工作来说，最终可能会变得相当重要，因为能帮实验室优化，他们长期使用的算力，因为我不确定 你是不是想让经济里的每一个职业都来一次，第 37 手，我们已经积累了很多经验了，没必要那样做，这是我的猜测，那你觉得做自己的强化学习 [01:05:15]
Mitch Choyanovsky：算不算一种护城河用来抵御被模型性能吞掉的风险，我是说当你思考未来应用性AI公司的时候，总的来说，如果有人现在正想创办公司
Matt Turck：我建议这么想，技术护城河不是真正的护城河 Basis的长期终值没有任何一部分，是来自我们发现了别人，没发现的什么秘密强化学习技巧，所以那不重要，重要的是，现在我们显然非常擅长，构建长时程智能体，他们可靠能部署到生产环境，而且我们会继续保持这个领域最强，这让我们能赢得市场份额，深度嵌入客户，这也是为什么我们跑得特别快，因为我们想做的，就是在通用人工智能到来之前，随便你怎么叫他去把业务铺开，所以我觉得未来存在的护城河，大部分会是商业护城河，在通用人工智能时代是这样，我认为在通用人工智能之前也是这样，我不觉得Salesforce能写出，比我更好的SQL查询 Salesforce的护城河跟它的技术没关系，对吧，它靠的是商业地位，是它拥有的权利，是它掌握的工作流 是深度嵌入带来的所有这些不同的东西，那才是重要的，不是技术，技术只是暂时的撬动点，让像我们这样三年前还不存在的公司，突然能做所有这些工作，不过我也觉得，在很长一段时间里，也许就像你说的，它不会完全变成大宗商品，因为就像你有一群天才人类，不代表所有天才人类，做纳税申报的能力都一样，归根结底，有些事情你在意的点，或者判断标准是主观的，而且我确实觉得，把我们正在做的这件事的，专业能力建立起来，对我们能在可预见的未来，交付真正高质量的服务，是非常重要的，好的 Mitch讲的真的太精彩了 [01:06:33]
Mitch Choyanovsky：最后对今天做AI的开发者，特别是做智能体的人，有什么建议吗，除了你刚才讲的那些该做的不该做的，经验教训之外，还有什么想到的，我觉得最大的教训要我说 [01:07:12]
Matt Turck：就是人很容易看着这个世界变化这么快，然后说事情就是这里冒一个，那里冒一个，就像在推特上得了多动症一样，太疯狂了，中国实验室每天都有新东西发布，然后觉得自己没法做第一性原理的决策，但我其实觉得，如果你把新世界看作一个底层的范式转变，就像云计算那样的底层范式转变，然后你试着去推演，好你有这些东西了，如果智能变强了X倍，或者没变强，那意味着什么，我觉得这样你能构建出连贯的多的系统，也能在技术和商业层面，做出好得多的战略决策，事情在变，但范式并没有在变，至少没那么剧烈，所以我觉得真正理解这一点，对在这个世界里做建设
Mitch Choyanovsky：是非常非常关键的 Mitch真的太棒了，非常感谢你分享这一切，我们很感激，应该的，非常感谢你邀请我，嗨我是Matt Turk 感谢收听本期The Mad Podcast 如果你喜欢这期节目，我们非常感激你能考虑订阅，如果还没订阅的话，或者在你收听，收看本期节目的平台上，留下好评或评论，这真的能帮我们把播客做起来，也能请到更多优秀的嘉宾，谢谢我们下期见 [01:08:05]