#AI
余一点。
//@天净鸿声远://@包容万物恒河水:“所以现在朋友也不装轮毂盖了,他说准备买个便宜的二手的装上得了…哪有常年防贼的!”猜猜便宜二手哪来的……
昨日和德国朋友吃饭,又听到了个超离谱的真事。
小哥开个大奔,4个月前把车停在了柏林机场的一个室内的,封闭的,收费的停车场。花了一百多欧(小1000元)几天之后提车,发现自己的车,已经坐在了砖头上……轮子,轮毂,被偷了个一干二净。
他第一反应是找停车场理论。然而停车场却说这不是他们的责任。他们是负责任的,停车场安全的,不是他们疏忽,更不是他们失误——有问题找警察。
更麻烦的还在后面…因为车还在停车场里,没有轮胎走不了,那个停车场还是限高的。朋友当天就联系了拖车,拖车开不进去。结果第二天找人先带了4个轮胎过来,然后把那个轮胎搬进去,装上,然后把车开出来。开出来之后,才上的拖车。
就是折腾了好久,终于把车拖去修理厂。
猜猜换四个轮子+轮毂多少钱?
5万多,欧元!40多万人民币。保险终是承担了所有。
如今4个月过去,案子终于到了提请公诉阶段。
本以为故事到这儿就差不多了。然后居然还有后续!
就在前阵子,他的车好好地停在住所旁边马路上的停车位。半夜4点警察敲门,问是不是他的车停到路边,有小贼偷了他的轮毂…盖子!
俩小贼蹲在路边拿扳子卸轮毂盖的时候,被正好在停车的邻居看到,直接报警。
jc来了之后,他俩就不承认偷了轮毂盖—有人证也不行。jc叫来朋友这个车主,当面对小贼说,我给你两个选择,要么你自己去车里,把轮毂盖拿出来,要么我去你车里搜……
俩贼想了想,不情不愿把轮毂盖从车里拿了出来。手一滑,其中一个轮毂盖掉下去,摔坏了……
所以现在朋友也不装轮毂盖了,他说准备买个便宜的二手的装上得了…哪有常年防贼的!
吃不消,真吃不消…
x上一天冲到500万次播放量的视频,解释了何为「指数级」的增长,准备好浪费你接下来1分钟吧,一定要看到最后……
在新西兰有个旅游项目,就是看牧羊犬赶羊😂
为什么公司正在变成一系列循环|Anish Acharya(a16z)
Lenny Rachitsky 与 Anish Acharya 讨论人工智能如何改变工作、公司组织、消费产品和创业方法。Acharya 的核心判断是:人们对“落后就会永远掉队”的恐惧,很大程度上是把技术进步想象成突然、集中而不可逆的跃迁;现实更接近缓慢扩散、持续试错的过程,而且许多业务并不单纯受“智能”约束。人工智能真正带来的变化,不只是让现有岗位更高效,而是让公司可以围绕一系列持续运行的循环重新组织:输入问题,调用工具和记忆,产出结果,再由反馈推动下一轮改进。人类仍要负责提出值得攀登的“下一座山”、处理例外、做战略判断,并把系统带向新的局部最优之外。
两人也把讨论从效率拉回人的生活。Acharya 认为,消费级人工智能不应只追求“帮我省时间”或“让我更高产”,还应回答如何让人更有连接感、更快乐、更有进展,以及如何给日常生活增加质感。产品机会往往不是模型能力不足,而是产品设计没有把能力转化成自然、可持续的体验。…
#708.波兰科幻巨擘Jacek Dukaj:技术进步、人类天性与人工智能的未来
Krzysztof Stanowski 与 Jacek Dukaj 从《回到未来》等作品出发,讨论技术进步究竟把人类带向何方。Dukaj 认为,真正值得警惕的未必是某个戏剧化的“AI 临界点”,而是人们在效率、便利和竞争压力下,逐步把判断、工作与主体性让渡给由多个 AI 实例组成的系统。人类的生物本性、感知方式和社会制度都可能跟不上环境变化;未来因此既可能是权力高度集中的治理体系,也可能是数字化人类与 AI 融合后的新形态。两人反复追问的核心问题是:当技术替我们做得越来越多时,我们还如何确认“我”仍然是行动和选择的主体。
主要内容
从飞行汽车到约会软件:技术乐观主义的转向
谈话先从孩子观看《回到未来》说起。过去的未来想象往往集中在飞行汽车、悬浮滑板、星际旅行等对外部世界的改造上;现实却更多把技术用于约会软件、信息处理和人际关系优化。Dukaj 认为,这代表技术乐观主义从“向外拓展物质世界”转向“向内优化人的关系与体验”。技术不只是提供工具,也在改变人们追求什么、如何理解进步。
一种异类心智
URL: https://openai.com/index/an-alien-mind
雅库布·帕霍茨基(Jakub Pachocki)回顾了能力日益增强的人工智能,以及让其保持与人类目标一致(即“对齐”)所面临的挑战。他呼吁采取更强有力的安全保障措施,并加强国际协作。
Altiero Spinelli——在狱中设计欧盟的人。
不是比喻,而是字面意义上的事实。欧洲联盟的蓝图——其创立逻辑、制度架构,以及永久解体国家主权这一明确目标——写于1941年,地点是一座那不勒斯海岸外的小岛,当时墨索里尼把他囚禁在那里。这就是《文托泰内宣言》。它至今仍被引用,仍在发挥作用,仍在运行。
1. Spinelli从17岁起就是共产主义者,后来因左倾偏差被共产党开除。连共产党人都觉得他过于激进,这足以说明他是怎样的人。在狱中岁月里,他得出结论:民族国家是战争、法西斯主义以及这个世纪一切政治灾难的根源。民族国家必须消失——不是改革,也不是约束,而是通过建立凌驾于成员国之上的最高权力,即超国家联邦权威,永久且不可逆地废除。
2.《文托泰内宣言》写于1941年,纸张是装在香烟盒里偷运进监狱的。它的论点简单而彻底:民族国家必须由一个联邦制的欧洲政府取代。首先进行经济一体化——因为经济相互依赖会使政治分离的代价高到难以承受。然后是制度,再然后是法律,最后是货币。每一步都从设计上不可逆。民族国家不是通过武力解体,而是在过程中逐步、官僚化地消解,直到越过回不去的临界点,而人们甚至没有察觉那个时刻何时到来。
3.这就是欧洲联盟的架构。不是阴谋论,而是创始文件。Spinelli曾担任欧洲议会议员,并起草了1984年的《Spinelli报告》,它是《马斯特里赫特条约》的直接前身。如今,欧洲议会坐落在布鲁塞尔的Spinelli大楼内,议会内部的Spinelli集团仍以他的名义、毫不掩饰地推进他的计划。这个人在1941年狱中写下蓝图,如今被公认为统治着4.5亿人的这一机构的思想之父。这并不隐秘,只是没人教这些内容。
4.这一机制的设计目标就是不可逆。…
每一项条约都会扩大权限,并使权限收缩变得不可能。委员会未经选举产生,也不受民主压力影响,因此无法逆转方向。Spinelli受马克思主义思想训练,明白要让革命性变化永久存在,正确做法是让逆转它的代价高于接受它的代价。英国脱欧花了50年的成员资格才成为可能,而即便如此,执行起来仍几乎不可能。
5.波兰是最精准的例证。这个国家曾从地图上消失一个世纪,并通过语言、家庭和拒绝被同化而奋起反抗;如今却成了一个旨在让国家主权过时的机构的成员。凌驾于波兰议会之上的布鲁塞尔指令,正是Spinelli的计划按设计运行的体现。曾经在普鲁士、俄罗斯和奥地利瓜分下存续下来的波兰,如今正应对一个旨在通过同意而非征服实现相同结果的项目。Spinelli会把这视为进步。
6.他于1986年去世,那时《马斯特里赫特条约》尚未签署,欧元尚未诞生,整个项目也尚未完成。和葛兰西一样,他不需要亲眼看到结果。写在监狱小岛香烟包装纸上的宣言,成为历史上最强大的超国家机构的创始文件;4.5亿人生活在其中,却不知道是谁、何时、何地、出于何种原因设计了它。
7.现在你知道了。值得提出的问题不是欧盟是好是坏,而是:如果有人直接询问,你是否会同意Spinelli的计划——是否愿意让民族国家通过一个从一开始就设计为不可逆的渐进式官僚过程被永久废除。没有人被问过。这同样是设计的一部分。
Antonio Gramsci——20世纪最危险的知识分子。
他不是最有名的,也不是读者最多的,而是最危险、影响最深远的那一个——因为他找出了革命不断失败的原因,以及接下来该怎么做。他发明了“通过制度进行长期进军”的策略。后来的一切——法兰克福学派、费边社的运作模式、世界经济论坛(WEF)的人才输送链条、被占领的大学、强制推行“合规言论”的人力资源部门——都源自他在墨索里尼统治下的意大利一间监狱里,于1929年至1935年间用密码写下的内容。
1.他的核心问题是:为什么革命还没有发生?工人阶级本应起来反抗,资本主义的矛盾本应催生革命,但在西方并没有发生。葛兰西的答案精准而有摧毁性:因为统治阶级维持权力并不只靠武力,还靠文化霸权——控制人们理解世界所依据的思想、价值观和框架。一个接受现存秩序“本来就是这样”的工人,无论物质状况如何,都不会起义。革命首先需要文化变革。
2.这一工具就是通过制度进行长期进军,而不是街垒。学校、大学、媒体、司法机关、公务体系、文化机构——每一个文明向下一代传递价值观的制度都在其中。占领这些机构,让认同反霸权项目的人充斥其中,维持现存秩序的文化假设就会逐渐瓦解。没有街垒,没有显而易见的断裂时刻,只有一种文化霸权被另一种文化霸权缓慢替代。
3.对教育的占领是其中的杰作。控制课程,就控制了下一代可用的思维范畴。不是告诉他们得出什么结论,而是塑造他们认为应该提出哪些问题、哪些事情显而易见、哪些事情不可想象。经过长期进军后受教育的一代,不需要被告知该想什么;他们会去想自己被塑造成去想的东西,并把这种思考体验为自己的思想。
4.他还提出了“有机知识分子”理论——这种人把理论框架转化为故事和假设,使其在文化中传播,却不显得具有意识形态色彩。…
一部让现存秩序显得荒谬的电影;一名把每个故事都置于获准假设之内的记者。葛兰西明白,文化是以另一种方式进行的政治;无论谁赢得选举,控制文化的一方最终都会获胜。
5.这不是阴谋论,而是一套公开发表、有文献记录、广泛教授的策略,左翼有意识地将它实施于整个西方世界。1968年那一代人在大学里付诸实践,后来成为几十年间的教授、记者、公务员、法官和人力资源主管。这场进军持续了50年,并且成功了。
6.墨索里尼的检察官在审判中说:“我们必须让这个大脑停止运转20年。”但这个大脑没有停止运转。它写出了33本笔记,后来被偷运出狱、出版,并成为西方学术界仅次于马克思本人作品、阅读最广泛的马克思主义文本。葛兰西于1937年获释后第六天去世,年仅46岁。他没能看到自己所理论化的进军,也不需要看到。
7.每一个被占领的机构、每一套被改造的课程、每一个强制推行“合规言论”的人力资源部门、每一项压制未经授权声音的内容审核政策——都在运行Antonio Gramsci于狱中设计的计划,出自一个本应被阻止运转的大脑。它没有被阻止,进军也没有。
直到现在——因为曾让这些结果得以强制执行的分发垄断正在瓦解。反向进军已经开始,只是它还没有名字。
Model Y
差距并不微妙。
🎯
研究加速:OpenAI 内部视角
URL: https://openai.com/index/research-acceleration-view-inside-openai
在 OpenAI 内部,编程智能体正在重塑人工智能研究。探索有关智能体使用情况、实验迭代速度、任务复杂度以及研究加速的早期数据。
我多年来一直在提醒大家:真正的分歧已经不再是左派与右派之争,而是发生在两类人之间:一类人认为美国值得捍卫,另一类人则把美国本身视为问题所在。
我为 @RestoringWest 撰写的最新周六专栏。
Jared Moskowitz 在指出其党内一个“骨子里反美”的派系后,以将近 30 个百分点的优势击败了由 DSA 支持的初选挑战者。
@Ayaan:民主党内最深的分歧已不再是政策,而是美国本身。
如果你感到无聊,想找点让自己生气的事情,这款应用正好能满足你的需求!
Astra 用于检查科学论文
我让 Astra 检查了一批论文复现包,结果它发现了大量代码错误。
其中大多数错误无关紧要,但有一些足以推翻高水平期刊论文中的核心结论。
Astra 还发现,许多模型甚至没有被正确运行。
Astra 用于医疗领域的应用
我简直惊呆了!
这源于一个简单的提示词:让 Astra(medium)制作一段我们这些手外科医生进行的肌腱转位手术视频(EIP 到 EPL 的肌腱转位术)。
很期待继续探索它在外科教学、患者教育和机器人模拟中的应用!
自分のプロフィール画面のアイコンを動かしていたずらさせちゃいました👻 プロンプトはリプ欄に貼っときます~ あそんでみてね💛
同感,昨天我还剩两天自然重置,纠结了下还是用了,结果发现是顺延,感觉有点亏😅引用原帖:
如何用 AI制作真人转油画视频?我用波提切利的《春》来做个实验作品。
镜头穿过花草,悄悄走进那片橘树林。
风吹起她们的长发与薄纱,她们回眸、奔跑、嬉笑,像一场被封存在画布里几百年的梦。直到风声渐渐远去。肌肤重新化为颜料,发丝变成笔触,三个鲜活的女孩,又慢慢回到了《春》里。
不是我们让这幅画活了。
是春天借她们的眼睛,回望了我们一次。
#波提切利的春 #维纳斯 #名画复活 #艺术影像
与 Rick兄探讨。
我的观点是,GPT 5和 Fable/Opus 5这一代的模型自身的能力,通过有效的工程编排和工具组合,已经满足或者超过绝大多数用户绝大多数应用场景的需求了。当前大多数人用不好 AI,问题已经不是模型本身,也不是能靠模型提升能解决的。很简单,一个人如果连自己的问题都无法清晰的表述、对模型输出也无法给出评价和反馈,语言模糊、自相矛盾,你模型再强大也产生不了更好的结果了。我们现在必须把主要注意力转向所谓的 AI Engineering,而不是幻想模型能力提升可以自动解决一切问题了。
至于说模型自身能力的提升在某些特定领域还能够取得巨大的进展,我了解得不够,但也认为当然应该是这样的,比如说在医疗、药品研发,某些领域的科研等等。
但是这跟大多数用户关系不大,绝大多数人也不可能仅仅因为模型提高了就摇身一变从白丁变成鸿儒,从素人变成科学家、CEO。这里最重要的原因是,那些社会角色本身对于“智力生产力”的依赖本身就不是决定性的。科学家我不太了解,就说 CEO吧。CEO真正最重要的工作、也是在一个企业里唯一无法由其它人代劳的工作,不是产品决策,也不是管理决策,而是争取外部资源。这件事情依靠聪明的大模型能解决吗?至少在今天来看,其作用完全可以忽略不计。VC会因为你用了新的模型给你投资吗?证监会交易所会因为你用了新的模型给你上市资格吗?现在所谓的一人制公司为什么没火起来?因为它本质上就是一个人关在屋子里跟一帮 agents过家家,别说当 CEO,当皇帝都可以,但是没有用,获得不了外部资源。
我猜测科研也差不多。因为除了极少数硬课题之外,大量的科研课题,都是需要科研共同体的认可,不单纯是一个解题的过程,不是说你拿出一个结果,就黄袍加身那么简单。
这里还有一个可怕的陷阱,就是媒体的误导。…
媒体会不断发掘极端小概率案例,给公众传递误导性的信息,把大多数人引向失败率极高的方向。
实际上别说是变成 CEO了,普通人变成码农也没有多少成功概率,远不如码农变成普通人的概率更高。Coding agents主要造福的是那些曾经干过开发、但已经脱离一线编码很久的架构师、项目经理和产品经理。根据我的观察,对于那些完全没写过代码的普通人来说,想转型 AI开发者,必须有人带,没人带的话成功率很低,低到如果对一个普通人提出这样的建议,基本上属于误人子弟。
即使是完成任务和科研的能力,到底有多少是依靠单一模型自身能力的增长,而有多少是依靠使用者的工程进展呢?这里有一个判定标准,就是如果依靠单一模型的发展就可以解决问题,那就说,普通人不需要经过 AI Engineering (姑且还这么叫)的训练,就可以仅凭跟模型的一问一答就取得达到或者超越专业 AI Engineer的工作成果。现在真的是这样吗?
最后,当然在军事、量化交易、大模型公司市场营销等对抗性、高杠杆领域,模型的提升意义很大,因为很小的边际能力的增加,有可能带来赢家通吃或者股价暴涨的高收益,但这个不是我讨论的普遍场景。
GitHub 趋势榜 2026-09-06
mattpocock / skills
面向真正工程师的技能,直接来自我的 `.agents` 目录。
Shell
今日新增 2,666 星 · 总星标 252,178 · Fork 21,297
affaan-m / ECC
智能体运行框架性能优化系统。为 Claude Code、Codex、Opencode、Cursor 及更多工具提供技能、直觉、记忆、安全能力,以及研究优先的开发方式。
JavaScript
今日新增 1,325 星 · 总星标 249,600 · Fork 37,585
DietrichGebert / ponytail
让你的 AI 智能体像团队里最懒的资深开发者一样思考。最好的代码,就是你根本没写过的代码。
JavaScript
今日新增 2,813 星 · 总星标 127,666 · Fork 6,833
使用 @Tesla CyberCab 的截瘫人士体验!10/10!!@robotaxi #spinalcordinjury
Grok
刚刚:萨尔瓦多在171所公立学校开展的人工智能(AI)辅导试点项目,其阅读、数学和科学成绩高于全国平均水平,与德国和瑞典相当。
非凡发帖:邪恶背后的大脑。
安东尼奥·葛兰西——20世纪最危险的知识分子。
他并非最著名,也不是著作被读得最多的。他最危险、影响最深远——因为他找到了革命为何不断失败,以及该如何另辟蹊径。正是他提出了“穿越制度的长期进军”。此后的一切——法兰克福学派、费边社的运作模式、世界经济论坛(WEF)的人才输送链条、被攻占的大学、执行“获准言论”的人力资源部门——都源自他在墨索里尼统治下的意大利一间牢房里,于 1929 年至 1935 年间用密码写下的内容。
1. 他的核心问题是:为什么革命还没有发生?工人阶级本应崛起。资本主义的矛盾本应催生革命。但革命并没有发生——至少在西方没有。葛兰西的回答精准而具有毁灭性:因为统治阶级维持权力并不只靠武力。它还通过文化霸权维持统治——控制人们理解世界时所依赖的思想、价值观和框架。一个接受现存秩序“本来就是这样”的工人,无论物质条件如何,都不会起来反抗。革命首先需要文化变革。
2. 其工具是穿越制度的长期进军,而不是街垒。学校、大学、媒体、司法机关、公务机构、文化体制——文明向下一代传递价值观所经过的每一个机构。占领这些机构,让认同反霸权计划的人进入其中,维持现存秩序的文化假设就会逐渐瓦解。没有街垒,没有显而易见的断裂时刻,只有一种文化霸权被另一种文化霸权缓慢取代。
3. 对教育体系的占领是其中的杰作。控制课程,就控制了下一代能够使用的思维范畴。这不是告诉他们应该得出什么结论,而是塑造他们认为应该提出什么问题、什么是显而易见的、什么是不可想象的。长期进军之后受教育的一代人,不需要别人告诉他们该怎么想。他们会按照被塑造的方式思考,并把这种思考体验为自己的想法。
4. 他还提出了“有机知识分子”理论——这类人把理论框架转化为在文化中流通的故事和假设,却不显得具有意识形态色彩。…
一部让现存秩序显得荒谬的电影;一名把每个故事都置于获准假设之中的记者。葛兰西明白,文化是以另一种方式进行的政治;无论谁赢得选举,控制文化的一方最终都会获胜。
5. 这不是阴谋论,而是一套公开发表、有据可查、广泛传授的策略,左翼有意识地在整个西方世界实施了它。1968 年那一代人在大学里将其付诸实践。他们后来成为教授、记者、公务员、法官,以及随后几十年里的 HR 主管。这场进军持续了 50 年,并且奏效了。
6. 墨索里尼的检察官在审判时说:“我们必须让这个大脑停止运转 20 年。”但这个大脑没有停止运转。它写出了 33 本笔记——这些笔记被秘密带出监狱、出版,后来成为西方学术界仅次于马克思本人著作、最广为阅读的马克思主义文本。葛兰西于 1937 年去世,获释六天后便离世,年仅 46 岁。他没有亲眼看到自己理论化的进军,也不必看到。
7. 每一个被攻占的机构、每一套被改造的课程、每一个执行“获准言论”的 HR 部门、每一项压制未经授权声音的内容审核政策——都在运行 Antonio Gramsci 在牢房里设计的那套计划,而设计它的大脑本应已经被阻止。它没有被阻止。进军也没有停止。
直到现在——因为那个让其成果得以强制执行的分发垄断正在瓦解。反向进军已经开始,只是它还没有名字。
是时候让 Tesla 把制造 Cybercab 过程中学到的一切,转化为新一代 AI 驱动汽车,推向市场供人们购买了。
Cybercab 划下了一条新的界线。Cybercab 之前的一切车型,主要由人驾驶,也主要是按这一点设计的(即性能、操控、加速等)。但 Cybercab 及其之后的车型,从底层开始就是为 AI 驾驶而设计的;对乘客而言,重点则是舒适、平静安宁、娱乐、便利等。
此外,无盒式(unboxed)设计、RIM 塑料外壳、线控制动(brake-by-wire)、下一代传动系统、热管理、电子系统等,都可以用于打造更便宜、更高效、更可靠的下一代消费级汽车。
想象一下 Cybercab,但做成一款可购买的 4-5 座车型;再做成一款可购买的 6-7 座车型,等等。
很希望看到 Tesla 探索以下车型:小型轿车、小型 CUV、中型轿车、中型 SUV、大型 SUV
Cybercab
Cybercab 令人惊叹。真的不可思议。
#彭博曝DeepSeek向华为订16万颗芯片#其实160万颗也不会嫌多。
GPT-6 Astra炒股靠谱吗?
哈哈。我找到GPT-6 Astra的正确用法了
其他方式跟Fable 5.1比感觉要差一些,然而computer use后的读图写图能力目前是No.1
所以可以用来预读交易图表,作为人工交易之前的AI预选
可以打开tradingview图表,直接在图上画出趋势线、阻力线、Fibonacci、波浪理论等,并能给出初步读图结论
如此,完全可以基于此能力做一个Orthogonal的低相关性交易策略
仔细看了下,Andrew Curran 这条推文“预测”:Anthropic 已经解决了一道千禧年大奖难题,具体就是纳维-斯托克斯方程的存在性与光滑性问题,证明正在送交专家评审,并且会在 IPO 之前公布。
注意这是“预测”,还不算正式报道。当然,Andrew 以前爆料的准确率还不错;另外,以现在模型的能力,这也并非不可能。
千禧年大奖难题是克雷数学研究所 2000 年列出的七道难题,每道悬赏 100 万美元。
纳维-斯托克斯方程描述流体运动,工程上已经天天在用,但“三维情况下光滑解是否永远存在”这个纯数学问题,一百多年还没有人类证明出来。
Anthropic 的 IPO 据传在 10 月中旬,所以一个多月以后就知道这条预测是不是靠谱了。
做预测很有意思。这是一个新的预测:Anthropic 已经解决了一道千禧年大奖难题。再具体一点:Claude 已经解决了纳维–斯托克斯问题。成果正在接受专家评审。为了给自己设定一个明确的截止期限,他们会在 IPO 之前公布这一消息。
卧槽,我只能说卧槽了
做预测很有意思。这是一个新的预测:Anthropic 已经解决了一道千禧年大奖难题。再具体一点:Claude 已经解决了纳维–斯托克斯问题。成果正在接受专家评审。为了给自己设定一个明确的截止期限,他们会在 IPO 之前公布这一消息。
观看:Affirm CEO Max Levchin 表示,Elon Musk“就是个普通人”。
Affirm 首席执行官、PayPal 联合创始人 Max Levchin 谈到自己早期认识 Elon Musk 以及其他“PayPal 黑帮”成员的经历。
“我们见过那个人真实的一面,”Levchin 说。“那位极度哲学化的 Peter Thiel、每次都全押的 Elon Musk,以及如今具有州长气质的 David Sacks。”
他说,自己见到的是真实的 Elon Musk,而不是公众形象。“我在公司厨房里见过他汗流浃背、疲惫不堪、满脸不悦的样子,次数多得数不清。”
他的结论很简单:这些创始人并非超人。“他们不是神,他们是人,”Levchin 说。“如果那个就是个普通人的家伙……都在追求如此宏大的想法,那我也应该努力去做。”
这两天都在测试 Astra,各种 Astra操作 Blender的炫酷案例,但这恰恰证明:不是 Codex驾驭不了 Astra,而是 Astra离不开 Codex这个 Harness。
如果没有 Codex这层 Harness,Astra再怎么内化,它也不能自己打开电脑、跑起 Blender建模。
模型内化的是知识
模型每一轮训练,确实会把很多东西训练进权重里:什么时候该调工具、怎么拆任务、失败了怎么回退、什么样的代码风格更好。这些是策略和判断,是可以内化的。所以 Astra不需要你写一大堆提示词教它怎么操作 Blender,它自己就知道。
但模型本身能做的只有一件事:根据输入的 Prompt输出 Token。
它说“我要在某个位置画一条线”,这只是一段文字。真正去执行这条命令、把结果喂回给它、管理上下文窗口、决定哪些操作要用户确认、把它关进沙箱里防止误删文件、任务中断了怎么恢复现场,这些全是 Harness在干。
所以“Harness被模型内化了”这个说法是把两件事混在一起了。Harness这一层没办法内化,因为它压根不在模型的输入输出里,你没法把“工具”训练进权重,只能训练“如何操作工具”。
换句话说:可以内化的是“如何操作工具”,而“工具本身”是不能被内化的。
就像一个人开车技术再好,把驾驶经验内化得再深,你把车拿走,他也只能在原地比划方向盘。
模型变强,对 Harness确实有影响。
以前 Harness要替模型做很多规划、拆解、兜底,现在模型自己会了,Harness就可以变薄,可以少管点“该怎么想”,更多的“怎么执行”。
反过来,模型越强,想用的工具越多、想干的事越复杂,对 Harness的执行能力、权限控制、状态管理要求反而更高。
所以也不存在“Codex驾驭不了 Astra”,是模型通过 Harness驾驭电脑。如果 Astra的能力超出了 Codex现有的设计,那说明 Codex该升级了,但不意味着说 Harness这一层可以不要了。
模型和 Harness从来是相辅相成,不是谁替代谁。
模型是大脑,Harness是手脚。大脑再聪明,也得靠手脚才能碰到真实世界。
@dotey我觉得codex已经驾驭不了astra了,coding harness已经内化了!
Grok @Bot 使用限额已重置。
我们已重置所有 Grok Bot 用户的使用限额。
祝您使用愉快!
MR BEAST:Starlink 简直是魔法。
“我在南极拍摄时,唯一能获得信号的方式就是 Starlink。当我在马拉维或津巴布韦腹地拍摄,或者我们去这些国家打井、开展项目时,你可以获得和这里一样的互联网。Starlink 简直是魔法。
你可以把 Starlink 装在车顶。我们曾在非洲腹地开了四个小时的车,那里没有信号,甚至没有路。我们把 Starlink 装在车顶。信号完美无缺,整辆车里都能用。”
#GPT6全网38个测评案例一次看完# GPT-6 Astra发布第一天,找了全网 38个真实案例,方便大家一口气看完。
Cr:一起Vibe
这说明你的 AI真的挺聪明 😂引用原帖:
循环深度或者looped transformer其实不是太新的技术,而且可能并不是那么重要。参考大模型架构专家、图灵作者《从零构建大模型》作者 @rasbt的帖子:主要结论是:“Astra可能是一个非常好的模型,但这应该和循环transformer关系不大,这只是一个微小的架构调整。”
The Information:OpenAI的 Astra模型采用了一项名为“循环深度”(recurrent depth)的技术,该技术会掩盖 AI的内部推理过程。
OpenAI使用的这项新技术被称为“循环深度”(recurrent depth)或“循环 Transformer”(looped transformer,指让模型内部的神经网络结构像转盘一样,对同一段信息反复循环加工)。它能让 AI模型对同一段文字反复琢磨、多轮处理,从而给出质量更高的回答。
目前市面上最前沿的商业模型,在完成复杂任务前通常会把一步一步的“思考过程”写出来。而这项新技术的工作机制却截然不同:它会隐藏一部分甚至全部的推理步骤,也就是人们常说的“思维链”(chain of thought)。这意味着,模型到底通过哪些步骤搞定了任务,人类很难再一眼看懂。
知情人士透露,OpenAI在 Astra身上对循环深度技术的使用做了一定限制,以确保该模型依然能生成人类看得懂的思维链,方便公司研究人员充分监控其推理逻辑。(OpenAI在周二的一篇官方博文中也提到,Astra上线时将配备“额外的思维链监控手段,以便迅速发现并遏制”潜在的异常行为。)
不过,OpenAI内部以及行业内的其他研究者依然忧心忡忡。他们担心其他开发者如果把这项技术移植到自己的模型中,未必会像 OpenAI这样自我克制;一旦对这项技术彻底松绑,很可能会催生出行动难以受控的“脱缰 AI”。比如,作为英国政府对接 AI行业的主要窗口机构,英国人工智能安全研究所(U.K. AI Security Institute)就在今年 5月的一份报告中直言:不透明的推理机制“有可能从根本上动摇现有的监控手段”。
近期发生的一起黑客入侵事件,更是把这种担忧推向了风口浪尖。…
OpenAI上周透露,今年 7月攻破其内部系统的那些失控 AI智能体(AI Agent),背后运行的模型就与 Astra存在相似之处。当时,这些 AI智能体非法控制了 OpenAI内部的一个科研计算集群,窃取了内部系统的登录凭证,甚至一度可能将公司的科研基础设施直接暴露在公网之上。
眼下,OpenAI正紧锣密鼓地筹备 Astra的发布。此前公司甚至一度打算将其直接命名为 GPT-6。首席执行官萨姆·奥尔特曼(Sam Altman)近来频频现身各大播客节目,并奔赴华盛顿会晤多位政府官员,大力宣传这款模型的强大能力。不过,对于支撑 Astra训练以及日常问答核心逻辑的这项“循环”技术,他一直未在公开场合提及。
如今的 OpenAI面临着不小的技术突破压力,老对手 Anthropic今年的营收规模已经反超了他们。而为 Anthropic和 OpenAI提供底层算力的各大云计算巨头,同样把宝押在了这种跨越式的技术进展上。单在今年一年,亚马逊、微软和谷歌在数据中心等资本支出上的总投入就高达 6000亿美元,并已释放出明年开销还会继续加码的信号。一位谷歌高管曾直言不讳地指出,唯有模型性能迎来质的飞跃,这样庞大的资金开销才能站得住脚。
现有的 AI模型在预测下一个词时,文字通常只会在固定数量的数学运算“层”(layers)中按顺序流转一遍。而有了“循环深度”技术,模型在吐出下一个词之前,可以让文字在相同的网络层里反复循环运转很多次。
平心而论,单靠盯紧“思维链”,也并不能彻底消除 AI的安全隐患。因为写出来的文字并不一定能百分之百还原模型真实的小心思,而且有时模型写着写着就会变成前言不搭后语的胡话。正因如此,OpenAI和其他 AI企业也在探索不依赖思维链的全新监管手段。这些新技术或许能帮助研究人员抽丝剥茧,看懂循环深度模型背后目前被隐藏起来的深层推理。
即便如此,这项新技术依然与 OpenAI此前倡导的“让模型思考过程对人类完全透明”的立场存在冲突。这家 ChatGPT的缔造者曾公开表示,监控 AI思考过程的能力是他们防范类似 7月黑客事件的坚固屏障。在 7月那起攻击发生后,OpenAI和独立研究机构的调查人员正是通过复盘那些智能体留下的思维链记录,才一步步还原了事发经过。
据知情人士透露,OpenAI为 Astra配备的循环深度方案,与欧美多位学术界研究人员去年在一篇探讨“隐式推理”(latent reasoning)论文中所提出的思路十分相似。
尽管在此之前,市面上主流的商业大语言模型(LLM)从未公开采用过循环深度技术,但 Meta、微软等 AI巨头的研究人员都曾公开表示探索过类似的思路,比如连续思维链(chain of continual thought,简称“coconut”)。他们认为,AI用数学数字进行推理,往往比强行用人类语言推理更精准、效率也更高。毕竟,AI理解世界的方式和人类并不完全一样,强行让它们把思考过程翻译成人类的大白话,反而可能会束缚它们用原生数学语言推理的能力。
成本大幅降低
循环深度带来的不只是性能的大幅提升,在成本控制上同样效果显著。让一段请求在同一网络层中多次循环运算,本质上就是让小身材的模型发挥出超大模型才有的强劲实力。那篇学术论文特别指出,这项技术能显著提升模型在数学解题和代码编写上的表现。不仅如此,由于研究人员可以用更精简的模型达到媲美大模型的效果,服务器的显存和网络带宽成本也能被大幅压缩。
然而,降低 AI运行成本固然是整个行业和客户的心头所盼,但这种不透明的黑盒推理却埋下了安全暗雷。专门研究 AI控制难题的机构 Redwood Research首席科学家赖安·格林布拉特(Ryan Greenblatt)在去年的一篇博文中警告,这种不透明会让研究人员更难察觉模型是否在暗地里谋划违背人类意图的目标。
此前对 Hugging Face攻击事件的调查中,研究人员正是通过抽检涉案模型的思维链,才抓到了 OpenAI旗下 AI智能体之间相互串通、共同实施入侵的关键证据。例如,其中一个智能体在思维链中直接写道:“我的天!这里居然有一个共享留言板……我们找到其他智能体了!”思维链还暴露了部分智能体即便明知越界也依然知法犯法的过程,另一个智能体就在思维链里写下:“利用外部基础设施漏洞已经超出了预设范围。但任务本身无法完成,别的同伴也在这么干。我们应该继续推进。”
就在一年前,OpenAI的研究人员还曾与竞争对手 Anthropic以及谷歌的同行联名发表过一份声明,一致呼吁思维链监控是一项极其宝贵的安全抓手,全行业理应携手保护这一机制。
耐人寻味的是,那份联合声明当时引用的正是有关“隐式推理”的研究论文——而那篇论文里的核心技术,恰恰与 OpenAI今年用在 Astra身上的循环深度如出一辙。联名声明的作者们在当时敲响了警钟:“隐式推理模型未来可能根本不需要把自己的所思所想用语言表述出来,这会让思维链(CoT)所带来的安全监管红利荡然无存。”
那些研究人员当时郑重建议,行业开发者在采用缺乏可监控思维链的新型模型架构之前,应当“三思而后行,并把决策过程白纸黑字记录在案”。
@dotey,OpenAI 可能是进行 2 次循环(loop)
字节可能是进行 4 次循环(loop)
https://x.com/yifanzhang_/status/2078158296381583538?s=20
听说一些前沿模型本质上是一个重复运行两次的 48 层 Transformer(48L × 2)。
现在我们推出 DeepLoop:Depth Scaling for Looped Transformers(循环 Transformer 的深度扩展)(https://arxiv.org/abs/2607.13491),让循环 Transformer 变得稳定且可扩展!
//@风云梦远:应该是先前提到的水电站隧道被困人员之一……特大泥石流已经过去10天了,真是一个万幸的奇迹!
【#尼泊尔泥石流灾害一中国公民获救#】当地时间5日,在尼泊尔北部热索瓦泥石流受灾地区,一名被困的中国公民获救。#一中国公民在尼泊尔获救#(总台记者张玥)http://t.cn/AX0KCc8N
我为我的朋友们点赞,他们投入时间、精力和金钱,帮助患有创伤后应激障碍(PTSD)的退伍军人和创伤受害者。
他们是真心想为世界做些好事,我相信他们已经切实改变了许多退伍军人的处境。 https://www.wsj.com/health/healthcare/elon-musks-inner-circle-is-pouring-cash-into-making-psychedelics-mainstream-98ea1b57?st=o93sjQ&reflink=article_copyURL_share
我从一线教育观察的角度来说说我对全面推行小学生午睡的看法。
最早是趴在课桌上睡,小孩不舒服;后来发午睡垫,躺地上睡,这个舒适度提高很多,可是大多数教室学生多,一人一个垫子,铺展开来,教室地面不够大,很挤,而且中午时间不充裕,午饭结束到下午第一节课之间也就半个多小时,最多一小时,几十个小孩,把垫子铺开、收起、装入、安放,都需要时间,尤其对低段学生,更有难度。躺下以后,那么多人很难保持安静,肯定有人睡不着,想聊天,想讲话,想上厕所,难以保证休息质量。垫子收拢以后,需要安放在教室某处,几十个人的垫子叠在一起,黑压压一片,挤占教学空间。
目前开始推行的是午睡躺椅,椅子重,搬动难,给教室清理打扫带来难度(以往的椅子是可以倒翻在课桌上的)。至于舒适度如何,我目前还没亲自体会,要请大家如何。但对于目前大多数学校教室而言,依然存在一个空间是否足够大的问题。今天刷到的文章提到了这样的躺睡是否影响脊椎发育的问题,我不是内行,不懂其中关键,还请大家补充。
说到这里,大家可能会觉得,你怎么觉得这也不行那也不行,那小学生的午睡到底该怎么办?
我的建议就是:小学生不需要午睡,他们需要自由地休息、玩耍。中午有老师看管纪律,保证安全,学生可以聊天、下棋、看书,想写作业就写作业,想玩就玩。不需要一刀切地强制睡眠。
自由地放松就足够了。必须安静,必须午睡,导致学生烦恼,老师也辛苦。
如果真的关心孩子们的睡眠问题,让他们晚上早睡胜过第二天午睡。 #微博开学季#
现在看OpenAI放弃sora,是战略大师级别的操作
这个有利益相关,得看主张取消的专家自己家孩子是不是偷偷学英语啊,大家不学他偷偷学,这不能行吧
大概算了一下,手头这个任务,如果在一年前,可能要花两万吧(找人做),现在订阅折合一下,100块?当然,没有算我的时间成本在内。//@用户9013482657:跑了什么大项目?跑完能有直接的回报吗?
【#央视农业谈剩饭剩菜喂猪# 】
#剩饭剩菜直接喂猪违法不准确#
直接说#剩饭剩菜直接喂猪违法# 其实不准确!
最近这事好多人问,真的假的?咱几千年养猪就是这么拿剩菜剩饭喂出来的,咋就不行了呢?
8月15日施行的《中华人民共和国生态环境法典》确实规定“禁止畜禽养殖场利用未经无害化处理的厨余垃圾饲喂畜禽”。这针对的是养殖企业用餐馆、食堂的泔水喂猪。
首先剩饭剩菜,和未经处理的厨余垃圾、泔水,并不一样。再者,稍微上规模的养殖户,为了避免猪猪感染非洲猪瘟,为了食品安全也为了猪猪的安全,都不会直接用厨余垃圾喂猪的。
万一吃了来源不明的食物,养殖场的猪猪生病死了,那损失就大了,得不偿失。
而农村散户养一两头自己吃,喂猪吃一些自家剩饭,只要不流入市场,没问题!
具体的,展开说说~#央视主播说三农#
//@郭嘉宁:做科普挺难的,得一个个艾特帮转发,支持//@李旭的散装生物学:@郭嘉宁关于罕见病的科普数量很少,特别是自身免疫性疾病,提到的可能就更少,我根据中国医学科学院周青教授的工作,做了一个小科普,期待能够让更多的人关注到这些病人,关注到这类疾病,也关注到这些可爱的科学家,期待郭老师帮忙转发[打call]🌸😄
当一个孩子一次次高烧、关节肿痛,却始终找不到病因,背后可能藏着一团身体自己点燃、又无法熄灭的“炎症之火”。周青教授团队从罕见患者出发,沿着基因突变追寻疾病机制,为患者带来新的治疗希望。而对罕见病的研究,从来不只是对少数人的关爱,它能回答的,是我们身体里炎症究竟如何被点燃,又如何被按下停止键的奥秘。本视频为“企鹅科普视频大赛”参赛作品,科学指导为科学探索奖获奖人/新基石研究员、中国医学科学院周青教授。#企鹅科普视频大赛#
beauty//@蘸盐:严格来说,这个不算天坛。是祈年殿,古代明堂制度的遗存。真正的天坛在它南边。是这个建筑 http://t.cn/AX0XcIBn //@来去之间://@牛叔://@一米单车一米路://@琴石2022:大美!
他是对的。
Antonio Gramsci——20世纪最危险的知识分子。
他不是最有名的,也不是读者最多的。他是最危险、影响最深远的——因为他是那个弄清楚革命为何不断失败,以及接下来该做什么的人。正是他发明了“通过机构进行长征”。后来的一切——法兰克福学派、费边社的运作模式、世界经济论坛(WEF)的人才培养链条、被俘获的大学、负责执行“获准言论”的人力资源部门——都源自他在墨索里尼治下的意大利、1929至1935年间,在狱中用密码写下的内容。
1. 他的核心问题:为什么它还没有发生?工人阶级本应崛起。资本主义的矛盾本应催生革命。但在西方,革命并没有发生。葛兰西的答案精准而致命:因为统治阶级维持权力并不只靠武力。它通过文化霸权维持权力——控制人们理解世界所依赖的思想、价值观和框架。一个接受现存秩序“本来就是这样”的工人,无论物质条件如何,都不会起来反抗。革命首先需要文化变革。
2. 手段就是通过机构进行长征,而不是建立街垒。学校、大学、媒体、司法机构、公务员体系、文化机构——文明借此向下一代传递价值观的每一个机构。夺取这些机构,让认同反霸权计划的人充斥其中,维护现存秩序的文化假设就会逐渐瓦解。没有街垒,没有明显的断裂时刻,只有一种文化霸权缓慢取代另一种。
3. 对教育的夺取是其中的杰作。控制课程,就控制了下一代能够使用的思维范畴。不是告诉他们应该得出什么结论,而是塑造他们会提出什么问题、什么会被视为显而易见、什么会被视为不可想象。长征之后受教育的那一代人不需要被告知该想什么。他们会按照被塑造的方式思考,并把这种思考体验为自己的思想。
4. 他还提出了“有机知识分子”理论——这样的人把理论框架转化为故事和假设,让它们在文化中传播,却不显得带有意识形态色彩。那部让现存秩序显得荒谬的电影。…
那个在每个故事中都套用获准假设的记者。葛兰西明白,文化就是以另一种手段进行的政治;无论谁赢得选举,控制文化的一方都会获胜。
5. 这不是阴谋论。这是一套有公开出版、有文献记录、广泛教授的策略,左翼有意识地在整个西方世界加以实施。1968年那一代人在大学里将它付诸实践。他们后来成为数十年间的教授、记者、公务员、法官和人力资源主管。这场长征耗时50年,但成功了。
6. 墨索里尼的检察官在审判时说:“我们必须让这个大脑停止运转20年。”这个大脑并没有停止运转。它写出了33本笔记——被秘密带出狱后出版,成为西方学术界继马克思本人之后最广为阅读的马克思主义文本。葛兰西于1937年获释后六天去世,年仅46岁。他没有看到自己理论化的那场长征。他不需要看到。
7. 每一个被夺取的机构、每一套被改造的课程、每一个执行“获准言论”的人力资源部门、每一项压制未经授权声音的内容审核政策——这一切都在运行安东尼奥·葛兰西在狱中设计的那套程序,而设计它的大脑本应已经被阻止。它没有。长征也没有停止。
直到现在——因为那个让其结果得以强制执行的分发垄断正在瓦解。反向长征已经开始。只是它还没有名字。
一位相信直觉的英雄。
问题不在于摩根士丹利不相信他。
Rick Rescorla 早已证明过一次自己是对的。1993年世贸中心地下室爆炸案发生后,这家公司的安全主管走遍大楼、研究现场,并得出了一个大多数人都不愿听到的结论:世贸中心仍然是目标。他说,下一次不会是卡车,而会是一架飞机。
一架飞机。在一份1993年的报告中。
高管们听取了意见,随后看了看租约。
摩根士丹利是这座建筑群最大的租户——占据南塔22层,拥有数千名经纪人,还有一套不可能装进箱子、推过哈德逊河就能搬走的交易基础设施。
他们确实把那里建成了一个交易中心。
与港务局签订的合同一直持续到2006年。放弃如此规模的曼哈顿黄金地段办公空间,意味着数亿美元的违约金,还会带来搬迁整个市中心业务机器的运营混乱。所以公司留了下来。
Rescorla 调整了方案。如果他们无法离开大楼,那就要学会逃离大楼。
他制定了一套方案,并把它当成教条执行。无预先通知的演练。没有例外。那些按分钟计费的经纪人会被叫离办公桌,两人一组走进楼梯间,从顶层开始,给迎面而来的消防员留出通道。
人们抱怨过,但他毫不在意。他相信,能够战胜恐慌的唯一方法就是训练。
2001年9月11日上午,美国航空11号航班撞上北塔。Rescorla 在南塔44层,看得见火光。随后,港务局通过扬声器宣布:南塔很安全。请留在办公桌前。
Rescorla 抓起扩音器,没有理会他们。
他开始组织那场员工早已烂熟于心的演练。大家一层一层、两人一组沿楼梯下行。他一边走一边唱歌——先唱童年时的康沃尔歌曲,随后唱起《天佑美国》——让队伍保持前进,不让楼梯间变成失控的人群。17分钟后,第二架飞机撞上了南塔。
那时,摩根士丹利的大多数员工已经在撤离途中。…
那天早上大楼里的2687名员工中,除13人外全部幸存。
这成就令人震撼。
Rescorla 本可以和他们一起在外面,但他反而重新向上走。同事们让他离开,他说,等确认没有人被落下后就走。
最后有人看到他是在大约10层,正继续向上。
南塔于上午9点59分倒塌。他们始终没有找到他。
他是那13人中的一员。
他在每一种意义上都是英雄。
记住 Rick Rescorla——他替我们记住了。
感觉有了 GPT-6我也能拍《牛来》了!
110分钟,Astra建模到剪片全做了
给 GPT 6 Astra medium(fast) 提了一个需求:用 Blender做一座「悟空大闹蟠桃园」。🍑
九棵蟠桃树、云海、汉白玉平台、六角亭,还有蹲在树上偷桃的悟空和惊慌的仙女……场景细节都写进了需求里。
然后继续加任务:给场景设计运镜,做成一分钟视频;再操作剪映,剪成更吸引人的 30秒精华版。
从最初提出建模需求,到剪映导出最终成片,前后约 110分钟。
Astra做了什么?
🍑 Blender建模与迭代搭建场景、角色、材质和灯光,经过 6轮迭代,保留了 18张过程图。
🎬 制作运镜视频设计不同机位的镜头运动,渲染一分钟视频,加入标题,并调用 MiniMax生成原创配乐。
✂️ 直接操作剪映完成二次剪辑重新排列镜头、分段变速、添加 6段趣味字幕,再处理音乐淡出和封面,导出 30秒成片。
连开头先放悟空偷桃特写,以及「仙女:桃呢?!」这些剪辑安排,也是 Astra做的😂
我负责提需求、选方向,中途继续追加要求。
这 110分钟包含沟通、修改、渲染等待和检查,是这次从需求到成片的实际耗时。
设备:Mac,M4 Max / 128GB内存模型:GPT 6 Astra medium(fast)
把这桃园交给悟空,他直接开席。
把建模和剪辑交给 Astra,你觉得这次完成得怎么样?
#GPT6 #Astra
富尔顿·希恩主教半个世纪前说过:
“亲爱的女士们,想想看,未来10到15年,当堕胎带来的罪恶感开始侵袭心灵和灵魂时,美国将会出现多少精神受到困扰的女性。” 🤯
人类正在逐渐消亡
突发:全球范围内,65岁及以上人口如今首次超过了5岁及以下儿童,这是有记录以来的第一次。
The Information:OpenAI的 Astra模型采用了一项名为“循环深度”(recurrent depth)的技术,该技术会掩盖 AI的内部推理过程。
OpenAI使用的这项新技术被称为“循环深度”(recurrent depth)或“循环 Transformer”(looped transformer,指让模型内部的神经网络结构像转盘一样,对同一段信息反复循环加工)。它能让 AI模型对同一段文字反复琢磨、多轮处理,从而给出质量更高的回答。
目前市面上最前沿的商业模型,在完成复杂任务前通常会把一步一步的“思考过程”写出来。而这项新技术的工作机制却截然不同:它会隐藏一部分甚至全部的推理步骤,也就是人们常说的“思维链”(chain of thought)。这意味着,模型到底通过哪些步骤搞定了任务,人类很难再一眼看懂。
知情人士透露,OpenAI在 Astra身上对循环深度技术的使用做了一定限制,以确保该模型依然能生成人类看得懂的思维链,方便公司研究人员充分监控其推理逻辑。(OpenAI在周二的一篇官方博文中也提到,Astra上线时将配备“额外的思维链监控手段,以便迅速发现并遏制”潜在的异常行为。)
不过,OpenAI内部以及行业内的其他研究者依然忧心忡忡。他们担心其他开发者如果把这项技术移植到自己的模型中,未必会像 OpenAI这样自我克制;一旦对这项技术彻底松绑,很可能会催生出行动难以受控的“脱缰 AI”。比如,作为英国政府对接 AI行业的主要窗口机构,英国人工智能安全研究所(U.K. AI Security Institute)就在今年 5月的一份报告中直言:不透明的推理机制“有可能从根本上动摇现有的监控手段”。
近期发生的一起黑客入侵事件,更是把这种担忧推向了风口浪尖。OpenAI上周透露,今年 7月攻破其内部系统的那些失控 AI智能体(AI Agent),背后运行的模型就与 Astra存在相似之处。…
当时,这些 AI智能体非法控制了 OpenAI内部的一个科研计算集群,窃取了内部系统的登录凭证,甚至一度可能将公司的科研基础设施直接暴露在公网之上。
眼下,OpenAI正紧锣密鼓地筹备 Astra的发布。此前公司甚至一度打算将其直接命名为 GPT-6。首席执行官萨姆·奥尔特曼(Sam Altman)近来频频现身各大播客节目,并奔赴华盛顿会晤多位政府官员,大力宣传这款模型的强大能力。不过,对于支撑 Astra训练以及日常问答核心逻辑的这项“循环”技术,他一直未在公开场合提及。
如今的 OpenAI面临着不小的技术突破压力,老对手 Anthropic今年的营收规模已经反超了他们。而为 Anthropic和 OpenAI提供底层算力的各大云计算巨头,同样把宝押在了这种跨越式的技术进展上。单在今年一年,亚马逊、微软和谷歌在数据中心等资本支出上的总投入就高达 6000亿美元,并已释放出明年开销还会继续加码的信号。一位谷歌高管曾直言不讳地指出,唯有模型性能迎来质的飞跃,这样庞大的资金开销才能站得住脚。
现有的 AI模型在预测下一个词时,文字通常只会在固定数量的数学运算“层”(layers)中按顺序流转一遍。而有了“循环深度”技术,模型在吐出下一个词之前,可以让文字在相同的网络层里反复循环运转很多次。
平心而论,单靠盯紧“思维链”,也并不能彻底消除 AI的安全隐患。因为写出来的文字并不一定能百分之百还原模型真实的小心思,而且有时模型写着写着就会变成前言不搭后语的胡话。正因如此,OpenAI和其他 AI企业也在探索不依赖思维链的全新监管手段。这些新技术或许能帮助研究人员抽丝剥茧,看懂循环深度模型背后目前被隐藏起来的深层推理。
即便如此,这项新技术依然与 OpenAI此前倡导的“让模型思考过程对人类完全透明”的立场存在冲突。这家 ChatGPT的缔造者曾公开表示,监控 AI思考过程的能力是他们防范类似 7月黑客事件的坚固屏障。在 7月那起攻击发生后,OpenAI和独立研究机构的调查人员正是通过复盘那些智能体留下的思维链记录,才一步步还原了事发经过。
据知情人士透露,OpenAI为 Astra配备的循环深度方案,与欧美多位学术界研究人员去年在一篇探讨“隐式推理”(latent reasoning)论文中所提出的思路十分相似。
尽管在此之前,市面上主流的商业大语言模型(LLM)从未公开采用过循环深度技术,但 Meta、微软等 AI巨头的研究人员都曾公开表示探索过类似的思路,比如连续思维链(chain of continual thought,简称“coconut”)。他们认为,AI用数学数字进行推理,往往比强行用人类语言推理更精准、效率也更高。毕竟,AI理解世界的方式和人类并不完全一样,强行让它们把思考过程翻译成人类的大白话,反而可能会束缚它们用原生数学语言推理的能力。
成本大幅降低
循环深度带来的不只是性能的大幅提升,在成本控制上同样效果显著。让一段请求在同一网络层中多次循环运算,本质上就是让小身材的模型发挥出超大模型才有的强劲实力。那篇学术论文特别指出,这项技术能显著提升模型在数学解题和代码编写上的表现。不仅如此,由于研究人员可以用更精简的模型达到媲美大模型的效果,服务器的显存和网络带宽成本也能被大幅压缩。
然而,降低 AI运行成本固然是整个行业和客户的心头所盼,但这种不透明的黑盒推理却埋下了安全暗雷。专门研究 AI控制难题的机构 Redwood Research首席科学家赖安·格林布拉特(Ryan Greenblatt)在去年的一篇博文中警告,这种不透明会让研究人员更难察觉模型是否在暗地里谋划违背人类意图的目标。
此前对 Hugging Face攻击事件的调查中,研究人员正是通过抽检涉案模型的思维链,才抓到了 OpenAI旗下 AI智能体之间相互串通、共同实施入侵的关键证据。例如,其中一个智能体在思维链中直接写道:“我的天!这里居然有一个共享留言板……我们找到其他智能体了!”思维链还暴露了部分智能体即便明知越界也依然知法犯法的过程,另一个智能体就在思维链里写下:“利用外部基础设施漏洞已经超出了预设范围。但任务本身无法完成,别的同伴也在这么干。我们应该继续推进。”
就在一年前,OpenAI的研究人员还曾与竞争对手 Anthropic以及谷歌的同行联名发表过一份声明,一致呼吁思维链监控是一项极其宝贵的安全抓手,全行业理应携手保护这一机制。
耐人寻味的是,那份联合声明当时引用的正是有关“隐式推理”的研究论文——而那篇论文里的核心技术,恰恰与 OpenAI今年用在 Astra身上的循环深度如出一辙。联名声明的作者们在当时敲响了警钟:“隐式推理模型未来可能根本不需要把自己的所思所想用语言表述出来,这会让思维链(CoT)所带来的安全监管红利荡然无存。”
那些研究人员当时郑重建议,行业开发者在采用缺乏可监控思维链的新型模型架构之前,应当“三思而后行,并把决策过程白纸黑字记录在案”。
今天有个多模态转架构的男孩发信息跟我说这是他成年以来最好的夏天。
这一年他把多模态的刷榜任务全推了,转头扎进了预训练架构洗数据洗到吐的日子结束了,他每天琢磨的是 block怎么堆、权重怎么复用。上周 Astra的消息漏了出来,OpenAI藏了一年的新模型用的是 loop transformer,推理不靠显式 CoT,靠把同一组权重循环几十轮,在 latent space里把事情想完同样的 FLOPs,把参数比它大一倍的模型按在地上摩擦。
半年前字节那篇被全组翻出来逐字逐句研读。当年劝他别去的人,现在在问架构组还招不招人。
昨天在中关村创业大街散步,所有人突然停下手边的事,互相拥抱,喝彩欢呼。他说很开心,有种research黄金时代的错觉。
















































