目录
- 开场与辩论规则：循环的必然性 [00:00:00 - 00:10:00]
- 循环的工程基础：验证、成本与反馈 [00:10:00 - 00:20:00]
- Ralph Loop与上下文：如何构建可靠循环 [00:20:00 - 00:30:00]
- 验证、经济性与共享记忆 [00:30:00 - 00:40:00]
- 软件工厂的边界与工程责任 [00:40:00 - 00:50:00]
- 总结陈词：类型系统与供应链 [00:50:00 - 00:51:42]
开场与辩论规则：循环的必然性
# 开场与辩论规则：循环的必然性
目录
- 开场与辩论规则：循环的必然性 [00:00:00 - 00:10:00]
开场与辩论规则：循环的必然性
一凯：欢迎收听跨国串门计划,这是一档专注于让中文听众无障碍欣赏全球优质外语播客的节目。。通过先进的AI声纹克隆技术,我们不仅将内容翻译成中文,还完美保留了原主持人和嘉宾的独特声音,为您呈现全。球顶尖的AI财经,健康与科技领域精品内容。我是主播一凯,一位热衷于AI领域的产品经理,很荣幸能为您搭建这座跨越语言障碍的桥梁。。接下来让我为您简单介绍本期我们克隆的这档节目本期我们克隆的是知名播客IEEngineer在2026年7。月的一场特别辩论节目由InsecureAgents的主持人AliHao主持台上四位嘉宾分别是Keyca。rd的CEOIanLivingstoneRalphLoop的创造者JalphHuntleySentry。的开发者GregStracha以及HumanLayer的CEODexHorthy他们采用牛津辩论制围绕。循环背后的炒作与实际效果之间是否存在差距这个核心议题展开了一场既犀利又充满火花的交锋那我们就一起来听听这期的完整对话。 [00:01:09]
Ali How：好欢迎来到TheGreatLoopsDebate我是AliHaoInsecureAgentsBooke。r的主持人同时也是Keycard的技术团队成员今天非常激动能在这里为大家带来这场关于循环的辩论台上可能。有一些熟悉的面孔去年11月在AICode和我们一起做过MCP辩论那次太好玩了我们就想也许可以再来一次不。过这次我们要辩论的是循环而且这次不光是Ian对Dex我们还给他们各自招募了一些队友所以今天和我一起在台。上辩论循环的由IanLivingstone,KeycardCEO兼联合创始人由JeffreyHuntl。ey,RalphLoop的创造者GregStrutcher,Sentry的开发者还有大家都认识的Dex。Horthy,HumanLayer的CEO非常激动能请到这些了不起的人他们都非常接近循环工程和软件工厂。来辩论这个话题你可能会想我们今天到底在辩论什么循环工程和软件工厂不是已经被广泛宣传和理解了吗我们好像都。同意这是行业的发展方向那还有什么可辩论的问得好我们今天在这里辩论的核心论点是循环背后的炒作和实际有效的。东西之间到底有没有差距我们也可以辩论现在是不是我们走向完全自主软件工厂的最大拐点所以非常激动能在今天的。辩论中涵盖这些内容循环的历史我们会辩论循环的解剖结构比如什么才是一个好的循环我们也会辩论循环的未来循环。工程的未来以及我们需要看到什么才能让软件工厂真正成为每个组织都能构建的东西今天的赛制是牛津辩论制所以这。次我们给辩论加了一点结构这一轮每个人都会有固定的时间窗口来发言这样就不会有人超时而评判胜负的实际操作方。式我们会实时评判胜出的队伍将是改变最多人想法的那一方所以我想请在座的每一位观众现在花一分钟想想你站在哪。一边记住你的选择到最后我会请你们举手然后说好我改主意了我现在是DEX队或者我改主意了我现在是EN队为了。帮你们做决定我先介绍两边的观点先说第一对线和Jeff的队伍他们的立场是没有差距循环绝对配得上今天的炒作。人们可以轻松上手构建他们他们是沿着自主化曲线迈向真正软件工厂的重要一步Lin和Jeff队的关键看点是循。环是工程的核心单元有了正确的规范基础设施和测试循环是非常高效的而且相关的最佳实践已经出现对于Dex和G。reg对他们这方认为循环背后的炒作和实际有效的东西之间存在差距我们今天做循环的方式是错的循环不是什么银。弹也没有魔法关键看点炒作起来了但规范还没跟上一个软件工厂可以运行那些由机械规范把关有测试覆盖的意图明确。的切片但它无法自主决定自己是否构建了正确的东西所以本质上你仍然需要工程师在循环里现在你们对双方的观点有。了一点了解花一分钟消化一下想想。 [00:04:25]
Geoff Huntley：好我站在哪边我是DEX队还是EN队然后我会再问你们一次那么接下来我们进入辩论的开场每队的每位成员将进行。四分钟的独白阐述他们为什么捍卫自己的立场首先我们有请JeffJeff给你四分钟时间你为什么为什么你今天。支持循环因为这在某种程度上是不可避免的回想两年半前我在Canva做技术主管看到所有工程师都在不停地pr。ompt再prompt他们就在那个循环里我当时就想等等这东西可以编程这是可以程序化的然后它就真的变得不。可避免了循环这东西虽然Ralph可能有点像个梗但背后其实是有深入思考的本质上就是把它当成一种新的CPU。架构去搞清楚它的行为模式怎么操作通过这种方式我把它简化成了一个P处理循环不过这可不是什么万能灵药我最大。的担忧是明年这个时候的会议上我们会看到一大堆演讲讲软件工厂怎么失败循环怎么失败这些都是我们还没搞明白的。东西还记得Kubernetes早期吗那时候人人都在搞Kubernetes所以它来了它不可避免它会一直存。在用程序控制机器自动化你的工作职能这绝对是雇主对你的期望我自己是回不去手写代码的日子了我已经两年半没手。动写过代码了我会让代码自主地从一个代码库迁移到另一个代码库我在Galant里找到个东西然后想哦我在用T。ypeScript于是我就跑个循环让它自动移植过去甚至对产品经理做研究的产品经理来说我们很容易只从软件。工程师的角度去理解它我们可以只关注软件工程但想想这个场景你想对所有列举工单做产品管理研究这就有个明确的。终点当你遍历完所有列举工单时就结束了所以这很简单这里面有很多细微差别但如果你做过任何产品管理研究并且开。始跑这些循环能够压缩时间压缩做研究的时间那它就是不可避免的我们有了这个新的可编程基础我们得搞清楚怎么用。它在哪用好它我知道我本该辩论说它就是一切是所有但所有事情都没有万能灵药我们会在接下来一年里搞清楚怎么有。效使用它谢谢好接下来有请Dex告诉我们。 [00:07:00]
Dex Horthy：为什么循环的炒作和循环本身之间存在差距好的对了这次辩论里人身攻击的规则是什么是鼓励的吗还是你的四分钟独。白你想干什么都行规则就是这样有意思这让我想起去年的辩论我们当时也是各种争论也许到最后我会被Jeff说服。但Jeff也会被我说服说不定我们最后会互换立场对我觉得基本的观点不是循环是好是坏你提到Kubernet。es很有意思因为Kubernetes这东西我们花了七八年才搞对对在那之前是云基础设施你甚至可以说我们花。了七八年搞云基础设施才走到Kubernetes然后又花了七八年才让它真正能被所有人用起来而Kubern。etes本身就是建立在循环之上的它建立在控制循环之上但它们是确定性的循环我们实际上已经搞清楚了哪些类型。的小型孤立任务可以由一个系统来负责我觉得这其实是循环最大的价值所在你可以选定一个小的期望的最终状态然后。输入世界的当前状态让一个agent或确定性系统朝着那个期望状态前进我对炒作最大的质疑是我们早就处在一个。看看你能不能做到不用再读代码的世界里了甚至在循环出现之前就是只管prompt只管上而这种我连promp。t都不用了我站在更高一层的想法意味着我在代码架构上退得更靠后了我认为炒作跑在纪律前面我最大的观点是我们。都在寻找魔法你们都在找万能灵药我们都在找能带走工作中最讨厌那部分的东西也就是代码审查有些人喜欢好的Po。llRequest确实有趣但我们似乎可以靠Prompt来摆脱模型面临的这个挑战代码看起来挺漂亮如果你审。查过一个完全关灯式的没人在发给你之前读过代码的PR我敢肯定你有过这种体验大概不是什么好体验我看到很多人。尝试用AI解决这个问题比如我们有审查机器人有各种东西但在我看来这似乎没起作用我没在任何公开讨论或私下交。流中看到证据证明我们已经到了可以就这样提升抽象层次的地步我反而觉得我们需要降低抽象层次所以我认为循环有。好的方面我们应该做但炒作让我们觉得这有个神奇的答案而它需要比推特上让你相信的要多得多的思考和谨慎很好说得好好我把话头交回给你。 [00:09:31]
Ian Livingstone：Yan为支持循环的一方发言绝对的首先我得说我是冲着Dex来的但说真的我们先退一步聊聊到底什么是软件工程。干脆把工程两个字也拿掉就聊开发构建一个系统不管是50年前1000年前还是今天核心都是一个循环我尝试我学。习我应用我们真正在讨论的无非是怎么加快这个过程对吧我们其实是在把过程中原本属于人的判断也就是生成东西的速度。 [00:10:00]
循环的工程基础：验证、成本与反馈
# 循环的工程基础：验证、成本与反馈
目录
- 循环的工程基础：验证、成本与反馈 [00:10:00 - 00:20:00]
循环的工程基础：验证、成本与反馈
Ian Livingstone：从人打字这个环节里抽出来你看Type补全就是自动补全的一种形式这些东西说到底不就是Type补全的超级加。强版只不过现在我们给的不再是敲一下Tab而是一个更高层次的意图所以我的前提是循环本来就是一切构建工作的。核心30年前我们构建软件的方式核心也是循环CI斜杠CDPORequest设计评审客户反馈这些不都是在驱。动一个循环吗问题在于这个过程中那些非常主观需要推理的部分有多少能从人脑里搬出来放进这些非确定性模型里对。我们所有人来说底层的核心问题其实是可验证性软件是这个世界上最可验证的东西之一因为归根结底大多数事情最终。都能变成真或假非此即彼我真正想表达的观点是随着人类越来越少的直接与软件交互也就是人怎么理解软件在做什么。怎么跟软件互动怎么用判断力去操作软件软件需要做成什么样的主观性会随着人机交互界面的减少而降低变成一个更。容易验证的问题因为它会被更严格的限定在特定的API上所以随着时间的推移一方面是软件开发的核心本来就是循。环驱动的Lint不就是个反馈循环吗它创造了一个可验证的东西另一方面随着人越来越少的直接操作软件UI和U。X变少我们理解这些东西的主观性也变少你就会变得更依赖循环驱动也会变得比以前更容易验证很棒。 [00:11:30]
Greg Pstrucha：说的确实很有道理好Greg你来为反方收个尾巴就是认为炒作和实际之间存在差距的那一方没问题我想这样开头现。在炒作很多风沫很多我刷着推特看着大家在聊的东西心里会想我是不是错过了什么我是不是做错了我是不是用AI的。姿势不对我该不该赶紧跟上这种感觉压力很大对我来说这可以归结为两点第一点是当你用AI生成代码时不管用不用。循环你对产出满意吗你觉得铲除的质量达到了你做这件事达到理想状态所需要的水平吗如果是我很想向你学习我还没。到那个程度我觉得我们改进这个问题的最好方式一方面是模型智能的提升另一方面也是在座各位似乎都同意的就是语。义验证能静态做的就尽量静态做这是我非常依赖的一个重点但在实践中我最终读到的代码哪怕是经过了语义验证依然。很烂我还是得自己花大量精力去迭代还是得引导它走向正确的架构或者告诉它哪里该简化这是很大的一步你可以通过。往问题上砸更多token来帮自己解决很多事但当下这种炒作驱动的话语会让你相信一件事你可以在循环上叠循环。再叠循环靠砸更多token来把质量问题给编排掉这就引出了我的第二点也就是我们今天使用agent这种方式。的经济可行性我不认为这是可持续的我不认为当你在公司里尤其是一家大公司时你不得不问自己一个工程师的合理预。算是多少是一个月一万美元的token开销还是十万还是一百万美元到了某个点这套模式就会开始崩以我们今天的。做法这是不可持续的话虽如此我自己也在用agent的写代码也会在某些特定流程里用循环这得看情况是有细微差。别的你知道推特上没有细微差别但这个讨论本身是有细微差别的确实有一些特定的任务和工作你已经可以用循环来做并且能得到相当不错的结果。 [00:13:31]
Ali How：谢谢好既然我们已经听完了台上每位辩手对各自立场和观点的阐述接下来就进入正式的辩论环节辩论的第一部分我们。会聚焦在循环的历史以及为什么现在对循环工程和软件工厂来说是一个重大的转折点或者为什么不是我知道有人提到。过视觉模型进步很大所以他们现在能验证agent之前无法完成的工作contextwindow也变大了所以。记忆能力也提升了我们现在可以在循环中追踪工作进度这在以前可能做不到所以我们先来看看循环的历史循环是从哪。里开始的是JeffHundley提出的RoughLoop吗我们会深入探讨这些问题并在这里展开辩论接下来。的问题会非常有针对性只指定某一个人来回答每个人有2分30秒的回应时间我们的第一个问题是Anthropi。c吸收了Jeff的RoughLoop概念把它整合进了自己的平台并创建了三个命令LookBacktoGo。alGoal命令的设计初衷是让Agent持续运行直到某个条件为真Agent非常执着这个命令的全部意义就。是让他不断尝试各种方法去解决一个任务直到完成为止Ian作为在座的安全专家你有多大信心。 [00:14:50]
Ian Livingstone：认为Agent在无情地追求目标时能始终与任务对齐不逾越他们被赋予的权限我的意思是如果有什么证据的话那就。是我完全不相信这能做到事实上我们看到的是随着我们扩展这些模型以及使用强化学习他们天生就极其擅长追求目标。所以我们现在看到他们正在发现各种漏洞弱点和逃逸方法而这些是人类花了成百上千甚至成千上万个小时尝试了无数。次攻击都从未发现所以我根本不认为模型本身在任何情况下能让自己保持对齐和安全而且安全这个词我不太喜欢用因。为它暗示了太多东西所以我不太相信模型本身能做到这一点我不认为它能推理我也不完全相信一个模型能分辨好坏我。无法判断它是在做恶意的事还是只是没对齐它没有生命犯了错也不会窒息它不会去想如果我做错了就没人爱我没人想。跟我做朋友了如果我做对了就会有人表扬我它看起来可能是那样但它本质上只是一个规模化的概率分布所以就算你犯。错我也还是会做你朋友的我知道就算看起来不像真的Dex等下也会给我一个拥抱所以总的来说我不认为这种能力来。自模型本身也不来自循环关键在于你围绕它构建的基础设施以及你如何让这些基础设施真正帮你利用好这些循环随着。模型变得更好随着我们为支持这些反馈循环循环自动化和软件开发或者软件工厂不管我们想用什么词来称呼这套建立。在概率分布之上的东西而构建的底层基础设施和平台变得更好我们将能获得更强的保障但我绝不认为也永远不会相信。某种对其技术或强化学习能让一个模型在任何情况下都百分之百安全如果说有什么证据的话那就是随着这些模型变得。更好最重要的一点是他们实际上会变得更擅长追求目标也更擅长寻找漏洞来实现他们的最终目标。 [00:17:03]
Ali How：不我完全同意这一点要保护环境安全最实在的做法就是不要把密钥存成文件如果你见过那种情况就是他想部署一个w。eb服务之类的但token权限不够他就会开始在文件系统里到处找权限更高的token凭证你绝对不会想挡在。一个一心想完成目标的agent面前的好的下一个NTT给Joff。
Geoff Huntley：Joff你去年发的那个帖子说Ralph最适合Greenfield项目但如今工程师们似乎在现有代码库上运。行循环用来改善延迟跑评估或者重构后端代码的某些部分是什么变化让循环在今天突然变得更通用了模型变得多好并。不重要朋友们至少在过去一年里模型已经足够好了真正改变的是人们对这一点的理解社会只能以一定的速度去适应比。如我猜是圣诞假期因为模型是在去年11月发布的到了12月并没有真正的新模型出来区别在于人们有时间了他们能。真正坐下来研究它他们意识到这些东西真的变得非常好了所以原因很简单就是因为它管用朋友们这些LM生成的代码。比你实际能招到的人写得更好想想看在广大的软件开发者或程序员群体中这些LM生成的代码比大多数创始人实际能。招到的任何一个开发者都要好这很可悲但却是事实那么为什么要用循环原因非常简单因为如果你把它放在循环里跑它。的成本是每小时10.42美元这是DEX大概一年前算出来的对8月份我们搞了黑客松我们把所有赞助商的工具都。复制了一遍我们用TypeScript重写了一堆Python库对具体来说循环这东西我遇到过太多工程经理和。创始人了他们的技术站特别复杂跑着四五种不同的编程语言然后他们跑一个循环在这些技术站上下了测试突然之间复。杂度就变成了只需要管一个技术站它就是管用去YouTube上看看现在有那么多软件开发者他们之所以能成为软。件开发者是因为软件开发这个职业已经被商品化了这里面有些东西值得深思他们就在YouTube上发视频说嘿看。看RalphLu因为我睡了一觉醒来他就跑通了虽然这有点像个梗但他很抓人而且确实管用不过他也有问题我最初。说过他应该只用在Greenfield项目上因为那时候模型还比较差所以得花个三五天但至少在软件领域这几乎。是不可避免的因为他太容易被验证了而且生成的代码质量比大多数人能招到和买到的人写的都要好现在说到你提的架。构和品位这正是工程这个词的含义也就是循环工程你的工作实际上是把你所在领域的知识编码化来阻止agent提。交代码比如用pre-commithooks。 [00:20:00]
Ralph Loop与上下文：如何构建可靠循环
# Ralph Loop与上下文：如何构建可靠循环
目录
- Ralph Loop与上下文：如何构建可靠循环 [00:20:00 - 00:30:00]
Ralph Loop与上下文：如何构建可靠循环
Geoff Huntley：这东西太棒了作为人类我讨厌他们因为他们会拖慢提交速度但agent不在乎所以你可以写一个pre-comm。ithook让他输出一段prompt告诉他比如这个边界不能依赖那个东西这就是反馈一个反馈循环所以这里的。工程就是阻止循环直到它满足你的工程标准和领域需求可以是代码格式化可以是静态源分析器也可以是确定性系统测。试模拟器我们得戴上工程师的帽子我们现在有点像火车司机了我们的工作就是让火车保持在轨道上因为坦白说模型是。醉的对吧你不能信任他们但我们接受这一点然后通过工程手段去消除那些故障域我们把这些故障都解决掉那么说到一。个转折点我记得Boris去年11月第一次发帖提到Ralph的时候所有人都在问Ralph是什么鬼现在Ra。lph差不多有一年半了吧我是在6月19号看到的到现在一年零两周。 [00:21:01]
Ali How：对但你在那之前已经做了好几个月了对所以这事有点奇怪因为当时所有YC的创业公司都在自主的压缩时间来构建他。们的MVP如果你是个创业者这其实也挺吓人的如果有一家新入局的创业公司他们用自主的方式构建产品运营成本低。得多而且质量还很好他们很容易就能达成目标这也加剧了一些狂热情绪因为在商业世界里竞争会更快地来到你门前好。我们进入下一个问题这个问题是给Greg的就像我之前说的现在似乎是循环的一个重大转折点和Jeff一年前发。布RoughLoops相比甚至和我们在2025年底2026年初看到的广泛采用相比它之所以能活起来可能是。因为现在新的能力站模型能更好的处理图像了他们需要更好的验证ContextWindow变大了推理模型也改进了Greg。 [00:22:00]
Greg Pstrucha：有了所有这些进步为什么在你看来我们今天使用循环的方式仍然是错的要我说我觉得模型智能程度已经没那么重要了。我认为归根结底我同意你的看法在于语义验证也就是真正能闭合反馈循环的能力不管你怎么叫它就是能真正验证ag。ent的输出是否正确我觉得在一定程度上你可以做到但我不认为你能全面做到至少现在还不行我觉得对于那些可以。被确定性验证的东西你可以做到一定程度你可以在系统里引入更好的类型检查更好的代码检查工具可以做模拟测试等。等你可以不断往上加只要这些验证手段的成本够低我觉得就没问题但一旦你开始在你的验证流程里加入更多非确定性。我觉得它的正确性就会越来越低它会开始贡献更多错误你知道就像你给agent一个prompt它有5%的概率。会出错然后你开始循环那么突然之间经过10次20次循环它正确的概率就变成50%了甚至更低这就是我的意思而。且这么做还花了很多钱我会一直回到这件事的经济可行性上来但为了找点证据我很确定大多数大型AI公司现在还在。用Sentry这是为什么呢他们用它也只是为了抓一些简单的bug不是安全漏洞也不是性能衰退之类的问题这些。问题在我们现在循环的方式里依然存在我们还没解决这些问题。 [00:23:26]
Ali How：谢谢下一个问题给DexraFloop开创了在每次迭代中注入新鲜上下文以避免上下文腐化的想法现在Cont。extWindow变得大多了这让这件事更容易管理了Dex关于上下文腐化和上下文工程我们是不是已经走出困。境了我会回答你的问题但后面会有开放讨论环节因为我还有问题想问Jeff我们这次想用牛津辩论的形式让讨论更。有结构避免变成那种你不想让它变成一场乱糟糟的瞎聊大会对他就是想防止你和我那种情况一开口就停不下来是没错。已经开始了对我这次是想管住你们俩好我尽快回答完这个问题。 [00:24:11]
Geoff Huntley：然后就开始找Jeff的差行你的时间你想说什么都行完全没问题好Ralph当年最酷的地方就是你不断清空co。ntextwindow从token的角度看可能不算完全高效但好处是你可以让一个东西跑一整晚它永远不会溢。出如果你只是一直往里塞消息contextwindow迟早会爆但如果你重新启动告诉它这是我希望达到的状态。去检查代码看看现在是什么情况然后做下一步来接近目标这是一种很干净的方式让你的大部分工作都待在我们所说的。contextwindow的智能区里你让他只做一件事然后清空重来现在contextwindow变大了我。想更新一下说法我在迈阿密讲过这个但视频还在制作中愚钝区这个概念说到底更像是一副辅助轮如果你已经每周跟C。loud聊70个小时持续两三个月你大概就不需要再去想智能区和愚钝区的区别了因为你的直觉已经建立起来了它。只是一个指引这也是为什么我们教别人如果你刚开始用AI尽量把token数控制在10万左右对于更大的百万级。contextwindow我们大概把这个数字上调到20万token但我自己在处理最难的问题时还是习惯控。制在6万以下也有一些时候我会超过30万就是跟agent随便聊懒得去做压缩懒得开心的这就是你的直觉有一个。很明显的信号说明你已经进入愚钝区了某些情况下你已经用了20万token模型完成了一些工作正在试图让测试。通过但就是过不了他开始搞各种奇怪的歪招你去看他的思考轨迹他会说那是个测试但那是别的东西的测试我不需要修。它那是之前就有的问题你心想不不是这样的就是这一刻这种挫败感你发现他在胡乱挣扎想搞定某件事我觉得很多人用。这些模型几个月之后都会培养出这种直觉但如果你还没有那这就是我们的指引所以contextwindow确实。在变好在变大绕循环那种每次迭代尽量少做的核心动机现在就没那么强了更重要的是你能往系统里灌的反馈越多它能。自主完成的事就越多如果你能用确定性的方式去做决策去构建小的prompt交给agent而且你不需要记得去。做这件事不需要告诉他去检查PR评论然后修掉然后等着然后有人又留了新评论你三小时后回来再说再去看看评论如。果你能把这个过程自动化那就太棒了。 [00:26:40]
Ali How：我觉得这就是今天真正有效的循环类工作的核心我想问Jeff时间到了抱歉我得开始严格按流程走了好接下来我们。要聊的是一个好的循环到底有什么构成好验证是让循环变好的一个要素但这里有个矛盾大家一边说我们的工作不再是。写prompt而是写循环一边又说。 [00:27:00]
Geoff Huntley：如果循环里的prompt很烂agent就会作弊通过修改测试来达成目标而不是真正去通过测试JF你怎么防止。模型在验证自己工作的时候作弊我大量利用pre-commithooks各位我通过分析已完成的工作来施加反。向压力我做的另一件事是Dex提到Ralph的时候其中一点是大家都在尝试做压缩你可以把压缩想象成一种有损。函数就像把视频上传到YouTube然后下载再上传100次你会在这个过程中丢失保证度而且这本身已经是一个。非确定性概率性的系统了所以REF诞生的理论是好存在一个余顿区我想做的是确定性的分配它需要的一切因为如果。没有分配那它可操作的搜索空间本质上就没有被约束但同时也要留一点余量留一点余量所以当我用到100K的时候。即使有百万级的contextwindow我也会紧张的冒汗这一点非常重要很多人觉得他们想在公司里用LLM。他们会说我有这些数据这很好但你要用循环来批处理这些数据我想让你把contextwindow想象成还记得。720K的软盘吗你实际上只有大约八分之一一张软盘大小的可用内存能真正给LLM用所以你必须批处理你大概只。能分配如果你拿星球大战第一部电影的剧本来做token化你实际上只能在内存里放两部这样的电影剧本cont。extwindow就满了这大概相当于150kb的文本电影剧本所以一定要非常小心我长期以来做的一件事而且。这很傻就是我会裸跑模型不带任何skill或markdown实际上当新模型发布时我会去掉所有的skill。所有的markdown和一切东西因为模型其实有自己的品位和偏好比如GPT55刚出来的时候如果你用大写字。母对它吼它会变得软弱胆小但如果你用Anthropic的模型它希望你吼它去看看模型卡吧各位对于继承者来说。模型有独特的品味所以让它保持在正轨上这其实是功臣这真的是功臣谢谢大概十天前Jeff创造了收敛功臣这个词。他说这是你的循环停止的地方是你的循环草位作为一个离散的代测系统组合在一起直到它收敛。 [00:29:31]
Greg Pstrucha：我们目前使用循环的方式有什么问题我们如何确保循环组合在一起不会只是产生更多垃圾我们得去读代码我想强调一。下Jeff今天早些时候做的一个实验我记得是叫LOOM我们当时让Ralph循环去尝试构建一个未来的软件平。台我记得你构建了AWS构建了GitHub然后你意识到我们该如何在模型还不擅长的方面给它反馈比如UI测试之类的。 [00:30:00]
验证、经济性与共享记忆
# 验证、经济性与共享记忆
目录
- 验证、经济性与共享记忆 [00:30:00 - 00:40:00]
验证、经济性与共享记忆
Greg Pstrucha：那么你创建一个循环来判断这个UI好不好的方式是给模型像Postal这样的工具这样我们就可以部署多个不同。的实验看看用户用了哪个然后模型不用看截图和PNG它可以看数据然后发现好这个表现更好那这肯定就是按钮该用。的颜色这样一来你甚至把人类的视觉品位也从等式中移除了这一切听起来都很酷但回到那个问题我们如何确保循环不。会把垃圾组合在一起我觉得你做不到这恰恰是炒作跑在纪律前面的完美例子我想问JeffLoom现在怎么样了他。还在那儿在GitHub上他还在那儿但你还在做吗已经停了六个月了因为我一直在研究工程上的验证方法对你当时。跟我说了什么你说Loom不会成功除非我们有了更好的编程语言或者有了更好好得多的模型对我来说这就是炒作跑。在纪律前面的教科书式案例我们对这些东西都非常兴奋顺便说一句每个人都应该做Jeff做的事Lume很棒去实。验去尝试推动边界因为只有这样你才能知道边界在哪什么是可能的否则你只会用你的旧技能去套每一个新模型然后假。设它们有同样的局限性但这也是一个关键点我不知道我想说什么就是这东西现在还不行那东西现在还不行它总有一天。会醒这有必然性但再说一次这是今天什么醒和什么是炒作的区别所以我不知道这是否完全回答了你的问题但答案是不。让循环把垃圾组合在一起不产生更多垃圾的方法。 [00:31:41]
Ali How：就是去读另一端产出的东西并确保它不是垃圾有道理不是那些实验室都没搞定那你凭什么觉得你能搞定没错对吧而现。在我们都在试图弄清楚怎么让这一切运转起来确实怀疑论者说循环会悄悄地失败他们要么在你的账单上。 [00:32:01]
Greg Pstrucha：永远螺旋下去要么agent会在一项半成品的工作上过早宣布胜利高管们已经开始质疑token支出了Greg。一个循环什么时候能回本这种情况实际上有多常见我倒不觉得他们会悄悄失败他们失败起来动静非常大尤其是你看构。建结果的时候但确实有些场景像我说的我会做循环或者说更偏工程这块有些情况下做循环非常有价值或者说你明确决。定愿意为它付这个成本这本身就很有价值举个具体例子我们会在PR提交后做安全扫描本地也扫PR合入之后还会扫。因为他们总能发现一些我们确实忽略了的真实问题在代码审查这件事上它们某种程度上比人强但这很贵跑完我们想要。的所有检查我记得每个PR大概要花5美元左右不过这是我们明确做的决定觉得值得还有一些情况比如那些定义的非。常非常清晰的系统像Next.jsRewrite的各种实验或者用Rust重写BAN或者跑浏览器这些场景背。后有多年积累的测试套件和规范你能非常非常可靠地验证结果那做循环去达到这些结果看起来是可行的据我所知Ru。st重写般的效果就相当不错所以肯定有试用的场景还有一些我经常用的场景比如做原型我经常给Sentry做那。种我们该不该做的产品原型这些原型用完就扔我会直接猛冲一把然后忘掉它如果我们觉得喜欢我才会开始读代码然后。会被吓到接着我们会回到原点重新梳理我们到底想做什么再朝着那个方案去推进但这个过程中人的参与会多得多所以。总的来说我觉得循环有它的位置但就像Dex说的我真正有意见的是炒作炒作跑在了纪律前面这是他说的我也非常同。意一点就是你应该自己去试自己去实验看看什么对你真的管用看看结果到底怎么样还有少刷点Twitter。 [00:34:06]
Ali How：我觉得现在这个时代对身心健康有好处说得很好一个好的有成本意识的循环必须追踪状态知道自己已经试过什么这些。记忆存在词盘上的某个地方而且越来越多的放在共享记忆存储里多个agent都能读写尤其是当你从单人模式切换。到多agent协作模式的时候这就会带来一个访问控制问题。
Ian Livingstone：你分不清哪段记忆是哪个agent写的谁可以读做概念验证可能还行但生产环境绝对不行矛盾就在这里共享记忆是。循环用来互相学习更快收敛的东西但如果为了解决访问控制问题而按agent隔离就会把它们隔开扼杀掉这种共享。学习我们怎么解决共享记忆存储的访问控制问题让循环能更快收敛好问题要是有人在做一个能帮上忙的产品就好了要。是有人在琢磨这事就好了说真的这首先是个没解决的问题我们得诚实地说现有的访问控制系统不是为这个时代设计的。现在机器在替我们中大约一半的人行动和推理但大体上我觉得这个基础的一些雏形开始出现了如果我们暂时把Clo。udAM和其他东西放一边Markdown其实就很好用所以如果我们把记忆定义为用于对话的Markdown。真正的问题就变成了哪些东西以及我怎么共享这些Markdown文件并把它当作记忆来用然后我怎么给这些东西。加上访问控制如果我们用这个模型我觉得其实今天大部分基础已经有了只是用起来还不太顺手举个好例子我最近发了。条推文我在玩Notion我们在Keycard大量用Notion但我真的只想把我所有Notion里的东西。变成Markdown文件来用因为这样agent处理起来会容易得多不用走MCP我有点CLI狂热当时就在研。究这个所以我觉得我们真正缺的是Dex和我上次聊MCP时也争论过真正的挑战在于我怎么把一个世界呈现给ag。ent让我自己能理解然后我怎么界定在任何一个时间点谁能访问什么以及怎么让任何人都能轻松做到这件事我不觉。得我们真的攻克了这个问题但确实有一些模式的雏形开始出现而且很有道理好聊完了循环的解剖结构。 [00:36:26]
Ali How：我们来辩论一下循环的未来比如我们现在是不是已经为软件工厂做好了充分准备循环工程是不是已经发展得足够好我。们准备好迎接完整的软件工厂了我们从这个问题开始如果循环只对可验证的任务有用那就意味着完全自主的软件工厂。必须能验证它做的每一件事Greg这现实吗。
Greg Pstrucha：好的工程工作中还有哪些部分比如决定该构建什么抽象是否合理哪些取舍可以接受这现实吗我觉得如果算力免费那倒。是个不错的起点但我想我们正在接近这样一个阶段或者我换个说法你作为人类在循环里做的决策是设计架构这类重要。的决策我是不放心交给agent去做的而且我目前还看不到这种未来会成为现实我觉得原因在于当你去看大型组织。的时候任何有多年经验的工程师都会告诉你重要的不只是你该做什么还有你不该做什么哪些才是正确的取舍哪些地方。值得投入复杂性哪些地方又该追求最大程度的简单就我的经验来看agent偏爱复杂性他们会无休止地往技术站上。堆东西所以我觉得我们在移动目标我们正在接近这样一个随着我们加入更多验证更多语义验证他们能做到的事情确实。多了很多很多我并不否认这一点但我确实希望在真正的架构决策上。 [00:37:50]
Ali How：留在循环里而且我不认为他们短期内能接手这件事谢谢Shopify的工程负责人在Cursor的Compil。e大会上告诉大家你的工作就是写循环Seminger发推说每月提醒一次你不应该再手动prompt编成ag。ent了你应该设计循环来prompt你的agent那条推文的浏览量是800万Jeff你在最初那篇Ral。ph博客文章里说过循环需要资深经验而且有时最多只能做到90%。 [00:38:20]
Geoff Huntley：那么只管写循环这个建议对3000人甚至800万人来说安全吗还是说只适合那些一开始就真正学会了调循环的人。对这件事挺有意思的面向这么广的受众真的很难量身定制地去教什么该做什么不该做所以我只能写给我最初写的时候。是写给我的同行或景仰的人看的不知怎的我脑子里突然意识到一切都变了游戏规则变了但我当时真的很在意函数式编。程领域里一些最优秀的人那些真正的同行我记得FlyuThomasPatek那篇文章让他也豁然开朗他还专门。写了篇播客这么说所以我开始为我的同行和我景仰的人写作要把它传播给全世界很难但同样你去YouTube上看。有人在做他们以前从没做过的东西睡一觉醒来就有了一个全新的Discord机器人这很神奇我希望大家记住这其。实是一种分配模式本质上是一种编排模式它被浓缩成一个用CAT实现的whiletrue循环因为CAT是最简。单的教学原语你想教别人东西就得让它特别简单特别简单所以CAT一个Prompt也就是你设计好Prompt。是什么用文件系统做状态回收ContextWindow运行循环可能有点那个但它就是性价比高就是管用但这整。个框架的前提是上面应该有一个类似PID控制器的东西或者某种工厂某种判定器来决定一个循环。 [00:40:01]
软件工厂的边界与工程责任
# 软件工厂的边界与工程责任
目录
- 软件工厂的边界与工程责任 [00:40:00 - 00:50:00]
软件工厂的边界与工程责任
Geoff Huntley：该不该继续这真的很难它安全还是不安全安全这个词挺有意思的谁都不该在本地笔记本上用编程工具这跟AI没关系。是因为NPM供应链攻击这一直都是事实我花了七年想解决这个问题现在大家又开始关注了觉得AI可能不安全会运。行不安全的命令但你们日常的软件开发时间你们的工作环境本来就不安全各位所以先把那个修好然后这些技术才会开始变得安全谢谢Dex。
Ali How：你发推说大多数工程师用编程agent能提速两到三倍这是现实的如果你试图追求100倍提速就会迷失在优化的。收益递减问题里而且你可能永远达不到那种改变人生的10倍提速而保持务实是有可能做到的如果只能做到2到3倍。我们怎么可能最终实现完全自主的软件工厂。
Dex Horthy：对我觉得这个问题问得很好这里面其实有个混合的情况对吧我们在讨论什么真正管用什么只是炒作我想特别强调一点。你应该去尝试去推动边界去做那些今天可能还不太行的东西但你不能因为在推特上看到某个东西跑通了就觉得你所有。的工作方式都要跟着变不要把我们学到的东西全扔掉不要刻意抛弃我们整个社区花了几十年建立起来的软件工程积累。这又回到我眼中最大的一个反模式很多人设计打造自己的软件工厂时会说好我要闭关三个月读一堆博客然后搞出我的。软件工厂它会是终极的软件工厂是我们未来交付一切的方式然后三个月后你回来发现你根本没碰过实际问题也没把它。交到任何人手里它就跟任何产品一样你再建一个软件工厂你再为你的同事打造产品为五个十个五百个五千个工程师打。造产品正确的做法是从小处开始迭代搞清楚什么管用去尝试有些可能不行有些可能行但我们学习AI以及如何有效使。用它的方式是靠积累直觉所以你应该去试一堆可能不会成功的东西但你要承认这一点不要硬推着穿过那道边界所以我。的建议是与其试图端到端地自动化一切不如在你的系统里逐步建立这些小型的增量循环然后某天你醒来会发现自己的。速度已经快了两到三倍同时你还能读懂代码还能掌控架构你不需要为了达到这个状态就把我们学到的一切我们知道的。一切你所有的直觉都扔掉所以我想提醒大家先去想办法快两倍三倍因为试图一步快一百倍你会把一切都搞砸而且你能。想象吗如果世界上每个软件工程师都快了两到三倍并且产出质量接近人类水平达到99%的人类水准那会改变世界上。每一家企业每一家创业公司会彻底改变整个算法而我们却试图走得太远瞄准你能做到的事迭代的构建你会学到很多等下一代模型出来。 [00:43:01]
Ali How：你能快五倍十倍的时候你已经准备好了谢谢说到验证这不只是验证工作成果还涉及验证是谁做的雇主们已经明确表示。人类要对交付的代码负责不管是不是agent写的但今天一次commit只能有一个人或一个agent签名。
Ian Livingstone：Yin如果我们连谁做的替谁做的都搞不清楚我们真的准备好让软件工厂来编写和审查所有代码了吗我觉得对其实我。两周前就在琢磨这个问题首先我们确实有个问题GET只允许一次commit有一个签名者这个得改第二还有SO。CR和合规方面的一些事情对吧但我觉得更重要的是思考agent的方式应该跟我们在大组织里思考服务归属的方。式差不多就是说在某个节点上总得有一个人为agent的行为负责不可能存在一个世界agent自己是独立实体。自己能承担责任还能有什么法律责任唯一能承担责任的是能承担后果的人对吧这最终必须落在一个人类身上所以如果。一个人设计了一个循环那个循环产出了糟糕的软件你猜谁要为这个责任负责是那个人对吧社会如果没有责任归属就运。转不了根本行不通造成损害就得有后果做出糟糕决策就得有后果至于后果是什么显然会根据造成的损害有一个梯度没。有这个一切都不成立所以我大致会说不存在人类永远不用负责的世界永远存在一个人类承担责任的维度问题是不管是。个人还是公司公司就是一群人问题是这会怎么改变我们今天的系统运作方式今天用Git我可以给一次Commit。签名说是我做的它归属到我的公钥这对上一代我们思考软件的方式来说没问题现在未来当我让一个agent替我去。做某件事它生成一个循环生成一堆代码上了生产环境我必须为最初指派这件事这个意图的行为承担责任而我们目前根。本没有所需的底层机制来做到这一点不过我觉得这会很快改变这不是什么我们难以突破的超级难题但我们必须重新思。考在整个供应链和SGLC中归属权的处理方式而且这不是新问题对吧供应链安全一直是个问题实际上它是我们在使。用agents面临的最大挑战之一我们一直希望在供应链中拥有更具确定性的路径和签名链而现在的问题只是你怎么对第一方代码和第三方代码。 [00:45:22]
Ali How：都做到这一点坦率地说就直说了我们这个行业其实挺闹剧的我们个人层面根本没什么真正的责任我们管自己叫工程师。但我们其实不是真正的工程师确实有些事会变得非常复杂各位也许我们需要重新审视这些话题主辩论环节结束现在进。入总结每对每位成员有两分钟时间做最后陈述然后我们再决定谁是赢家Greg你先来好没问题有意思的是。
Greg Pstrucha：我们其实在很多点上看法一致但辩论就是这样我觉得我一直想强调的最大一点是我们现在在哪我们想去哪以及你从无。处不在的炒作循环里实际听到的是什么我想在这一点上再强调一下降温我其实想说多尝试自己思考别扎进那个泡沫里。别跟着炒作走因为你自己动手才能找到什么对你真正有用才能找到系统在什么地方最容易出问题人类学习的最好方式。从来都是实践不是看YouTube说到底这就是我想做的我对让整个循环完全自动跑起来这件事稍微有点怀疑因为。我看到的质量结果达不到我的要求但总体上我是乐观的我乐观是因为我看到我现在能做的事情多了很多能解决的问题。类型一年前我根本解决不了更别说更早以前了而且情况还会越来越好但我也不担心我的软件工程职业生涯我不觉得我。们会消失我觉得我们仍然是整个软件工厂或者下一个什么炒作泡沫里。 [00:46:50]
Ian Livingstone：很重要的一环Ian你接着来我很乐意火车已经出站了这些东西确实有用而且带来了实实在在的生产力提升对吧更多。的事情被完成了不是说完成的所有事都是好的但更多事情被完成了而且其中相当一部分确实是好的对吧这点我们应该。能达成共识其次现在我们有了竞争态势一家公司已经不可能再坐在那里说我们不碰循环这套东西对吧我不碰编程ag。ent这套东西那种日子结束了已经过去了火车已经出站了一旦火车出站全世界每个人都会说天哪我得稳住阵脚我们。得跟上别人而且他们必须跟上因为我们生活在一个竞争非常激烈的资本主义社会这有点扯到政治了但现实就是这样说。到底问题不在于它会不会发生而在于它什么时候发生以及随着时间推移程度有多深我觉得除了跟上时代你别无选择我。们都像是坐在一艘火箭上我们其实不知道它的轨迹是什么只知道它感觉非常快加速度惊人有时候我们遥遥领先有时候。我们有远远落后但我觉得你别无选择必须做到两点第一搞清楚循环是什么第二搞清楚在你的代码库里哪里能用上它总。有些地方比如这是高度可验证的这是计算机能解决的问题用人力不太划算连接器就是个好例子过去十年有多少公司赚。钱本质上就是靠做连接器工厂现在那里的价值不大了对吧如果你能自动化创建连接器所以软件里有些地方你今天就可。以应用循环获得真正的价值也有些地方你可能不应该用你应该自己决定用在哪很可能就是你正在创造的。 [00:48:31]
Dex Horthy：核心价值所在对吧我大致就是这么想的火车已经出站了生产力曲线驱动着社会投资回报率也就是我们作为一个社会生。产力提高了多少驱动着GDP驱动GDP的最终是前流向哪里资本如何配置Dex轮到你了我热切期待那个关灯软件。工厂可行的世界我很想要一个我们不用读代码就能搞定一切的世界如果你看了我周二的演讲我认为这其实是一个目前。只能在模型层面解决的问题我不觉得Harness能做到很遗憾因为我喜欢构建Harness做上下文工程所以。我的建议是关注Jeff等Lume真正能用的时候告诉我在那之前用循环但别那么用说得太好了我想说的太多了。 [00:49:21]
Geoff Huntley：各位软件工厂代表了我们未来的方向它本质上就像一台永动机对吧就是个白日梦现在很多公司才刚刚成立刚刚拿到融。资别以为你能直接把这套东西搬到自己公司里用因为市场上根本还没解决这个问题不过我想补充一点独白如果你是用。Python跑循环或者建工厂那会是一场闹剧用Ruby也一样是闹剧各位静态类型本身就是一种验证形式我建议。你们做几个分类做几个实验试着跑跑循环用Ruby建个应用然后再用这些循环去修改它你就会看到可维护性有多灾。难然后我们再试试用Haskell。 [00:50:01]
总结陈词：类型系统与供应链
# 总结陈词：类型系统与供应链
目录
- 总结陈词：类型系统与供应链 [00:50:00 - 00:51:43]
总结陈词：类型系统与供应链
Geoff Huntley：我不在乎你会不会Haskell你懂不懂Haskell根本不重要我们懂Haskell而且你可以直接pro。mptagent让它像给你儿子女儿解释一样讲给你听所以我觉得现在代码甚至不一定需要可读但这是非常前沿的。思考它需要可解释我在这里尝试的是不同领域的验证但有一点是确定的类型系统很重要非常非常重要Rust就很好。因为它的生态系统对某些类型的建模方式很好既然提到了供应链我必须说一句到现在已经十个月了我几乎不用任何开。源软件几乎不用我直接按自己的需求生成代码然后当供应链攻击发生的时候我的反应就是没影响到我所有软件都有安。全漏洞但关键是要尽量缩小爆炸半径问题是如果你跟一个开源项目打交道负责人维护者什么的你没法对一个人做追责那可不是通用人工智能。 [00:51:00]
Ali How：你要尽可能把自己所有的源代码都vendor化这样Agent才能真正用循环或其他prompting去修改。它你必须掌控自己的供应链太棒了非常感谢可惜我们只能到此为止了不过现在可以决定谁是赢家了现场的观众举手表。决一下如果你的想法被改变了现在站Dex这边请举手来吧好如果你的想法被改变了现在站Ian和Jeff这边对。灯光太亮我有点看不清你们觉得怎么样很接近确实很接近根本看不清灯光太亮好吧这是一场精彩的辩论非常感谢大家的收听我们下次再见。