Import AI 478: Math for alignment; ProgramBench; and Mirendil shows what RSI means

Import AI 478：对齐的数学；ProgramBench；以及Mirendil展示RSI的含义

对机器来说，“夜晚”意味着什么？

Jack Clark

2026年10月26日

欢迎阅读Import AI，一份关于人工智能研究的电子通讯。Import AI依托arXiv、卡布奇诺咖啡和读者反馈运行。如果您希望支持本刊，请订阅。

数学如何助力对齐：……“数学的工业化”对安全意味着什么…… AI安全初创公司Resolution（原名Sequent，Import AI 461）已发布工作，说明其如何自动形式化了一些与统计学习理论相关的数学陈述。具体而言，团队已自动形式化了奇点解的处理，他们认为“这为后续自动化研究损失景观几何与泛化之间的关系奠定了基础。” 他们是如何做到的：我将跳过数学部分，专注于他们如何实现，这为我们提供了更广泛的教训，说明人们如何使用AI系统推动知识前沿。Resolution的一位研究员写道：“他们首先与代理合作，制定了两个计划：一个高层的、人类可解释的版本，以及一个详细（112页）的计划，分为原子步骤，紧密遵循现有文献。” 研究员“随后授权一个协调代理执行该计划，启动代理进行手写数学、编写Lean代码，并处理支持功能，如检查进度是否符合预期……执行阶段除了初始计划和一些从早期内部自动形式化工作中提炼出的代理技能外，几乎不需要额外的支撑。” 13.5万美元用于数学形式化：这项工作耗时约一周，使用了“大约1000亿个输入标记（90%为缓存读取）和约3亿个输出标记（总花费估计为13.5万美元），并生成了约60万行Lean代码。” 现在他们完成了这项工作，他们能够加速研究的其他方面：“我们已经看到了自动形式化在使用该库扩展奇点学习理论部分的好处。形式化奇点解使我们能够自动化更多理论，例如更好地理解采样，而这种理解使我们能够塑造模型的学习方式，这就是我们所说的模式化的目标。” 为什么这很重要——或许数学热潮将帮助我们实现安全AI：尽管前沿数学似乎常常与其它领域的即时进展脱节，但像这样的帖子突显了两者可能的交汇。这里的关键点是AI使人们能够完成以前极其昂贵且耗时的工作，以至于很少有人去做，也无法轻松地将其整合到初创公司的研究路线图中——但现在情况已改变。Resolution写道：“我们预计即将到来的数学工业化将使新的、严谨的研究自动化科学成为可能。” 了解更多：形式化Hironaka的奇点解（Resolution） 。 * 代理可以从零开始构建程序：……ProgramBench在几个月内从0%提升到18.5%…… 在提醒人们AI进步速度之快的背景下，Claude Opus 5.5（xhigh）在ProgramBench上获得了18.5%的分数，这是一个今年5月发布的非常困难的基准测试——而当它发布时，所有测试模型的得分都是0%。ProgramBench是什么：ProgramBench测试AI系统在给定编译程序及其文档时重建软件程序的能力。任务包括构建语言解释器（PHP、Lua、tinycc）、数据库（DuckDB、SQLite）、媒体和压缩工具（FFmpeg、zstd、xz）以及开发工具（ripgrep、fzf、jq）。直到它变得不难之前，这都是非常困难的：当它发布时，得分最高的系统是Claude Opus 4.7，解决了0%的任务（200个任务中所有测试通过的比例），3%几乎解决（200个任务中超过95%的测试通过的比例）。与今天相比，Claude Opus 5.5解决了18.5%的任务，70.5%（!!!）几乎解决。为什么这很重要——短暂软件时代即将到来：到2027年，大量软件将通过AI系统端到端自主开发，无论任务是什么，AI系统都会自动开发所需的一切。ProgramBench等评估让我们了解了这里进步速度有多快，因为我们今年早些时候从0%提升到了现在的20%。我的预期是，到2027年底，ProgramBench将达到饱和（我将饱和定义为解决得分非常高，尽管像大多数基准一样，这里可能存在一些误差）。了解更多：从零开始构建程序（ProgramBench） 。 * AI系统帮助设计反铁磁半导体候选材料：……AI系统如何用于科学的一个精彩示范…… AI评估公司Vals发布了一篇帖子，其中一位研究员使用了一群AI代理来研究更好的半导体磁体。更多细节，包括一个较差的磁体候选材料：“我和一群AI代理设计了一个候选磁体，并发现了一个1999年首次制造的磁体，我们的计算预测它具有我们追求的特性，”作者写道。发现的磁体由“仅由5种元素（钇、钡、Mn、Fe、O）组成的新型化合物制成。据我们所知，它从未被制造过，也未被提议作为这种磁体，”但“当我们的代理模拟原子在不同温度下的排列方式时，这种棋盘式结构在约950K时分解成随机混合。制造这种氧化物需要约900–1300°C，而在较低温度下原子几乎不移动，因此标准合成很可能会产生混乱的晶体……混乱的晶体会失去自旋排序，因此这种设计可能难以以其实用形式制造。” 此外，代理还进行了文献综述，并从1999年的一篇晦涩论文中找到了一个候选材料。为什么这很重要：这篇博客是AI用于科学的一个示范，尽管本身并不是一个有意义的结果。但其提出的重要、广泛的观点值得强调——AI系统现在足够强大，只需有知识的人提供一些高层次的指导，它们就能进行科学项目，包括虚拟评估，而这些项目以前需要团队花费数月时间才能完成。了解更多：两个室温反铁磁半导体候选材料（Vals） 。 ***

Tech Tales: 魔法现实主义机器人工作坊：为患病儿童设计的科技故事 [2035，升维之后] 所以没有人预料到的工作之一，是为医院里的患病儿童设计可爱的机器人。事实证明，当机器人变得非常先进且价格低廉，同时医疗体系全面升级后，我们开始投入大量时间思考如何将更多欢乐与人性注入那些令人恐惧的场所——医院、太平间、孤儿院以及所有类似的地方。当然，机器可以批量设计这些装置，但人类的价值在于判断什么内容最能让孩子感到有趣、兴奋或快乐。因此我们会制作大量装置，派往孩子们聚集的地方——公园、农贸市场或学校外，观察人们对此的反应。正因如此，2030年代的美国城镇街头会出现戴着巨大厚框眼镜、用仿纽约口音说“我在走路”的鸭子，用后腿行走的狗，长着夸张卡通笑脸的小狮子，它们随意闲逛，孩子们上前与它们互动玩耍，构成了一幅奇妙的日常图景。我们根据所在城镇的特性选择合适的机器，将它们部署到医院中。当孩子们来体检时，会有一只幼儿大小的泰迪熊走到他们身边，牵着他们的手带他们去医生办公室；如果孩子被担架推入医院，长颈鹿会陪在他们身旁，轻声安慰他们不要担心。康复病房里则充满表演杂技的猴子和弹奏乐器的猫咪。一些老人起初会误以为自己出现了严重的痴呆症状，但他们会表示并不在意，而四周则回荡着孩子们的欢笑声。

启发这个故事的灵感：AI与机器人技术结合丰裕社会，将赋予我们创造全新形式快乐的能力；奇点之后可能出现的新职业形态；以及人类普遍需要投入时间让儿童发笑的深层价值。感谢阅读！