Wired AI

This Startup Is All In on Recursive Self-Improvement. Its Latest Model Is Scary Good

8.5内容质量
This Startup Is All In on Recursive Self-Improvement. Its Latest Model Is Scary Good

TL;DR · AI 摘要

Recursive公司通过AI构建AI的递归自我改进技术开发出Flint模型,该技术引发行业争议但展现强大潜力。

核心要点

  • Flint模型由Recursive开发,使用AI自动优化模型架构和训练方法
  • RSI技术可能实现无限模型迭代但存在失控风险,已被美国国会提案立法限制
  • Recursive融资6.5亿美元,估值46.5亿美元,其Eureka Machine系统宣称具备人类监管机制

结构提纲

按章节快速跳转。

  1. 介绍RSI概念及其在AI开发中的革命性意义

  2. ·Flint模型的技术实现

    详细解析Eureka Machine如何通过AI自动优化模型架构和训练流程

  3. 讨论专家对RSI失控风险的担忧及美国国会立法提案

  4. 展示Flint在编码任务基准测试中超越同类模型的实测数据

  5. 披露Recursive公司6.5亿美元融资及46.5亿美元估值的商业进展

  6. 分析RSI技术可能带来的无限模型迭代潜力与监管挑战

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • 递归自我改进(RSI)
    • 技术实现
      • Eureka Machine系统
      • 自动模型架构优化
      • 芯片代码优化
    • 行业影响
      • 性能突破(Flint模型)
      • 立法争议
      • 商业估值(46.5亿美元)
    • 风险与挑战
      • 失控风险
      • 人类监管机制
      • 技术伦理争议

金句 / Highlights

值得收藏与分享的关键句。

  • Recursive CEO Richard Socher称Eureka Machine系统已实现模型架构、训练方法和芯片代码的全自动化优化

    — 第3段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • Flint模型在相似规模架构下编码任务基准测试得分超越其他主流模型

    — 第5段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • 美国国会已提出多份禁止RSI技术的立法提案,担忧其可能导致人类失控

    — 第7段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • Recursive公司宣称其系统设计包含人类监管机制,可随时终止AI自主迭代过程

    — 第8段

    ⬇︎ 下载 PNG𝕏 分享到 X
#AI#Recursive#RSI#Flint#AI开发
打开原文

这家初创公司全力押注递归自我改进。其最新模型令人不寒而栗 | WIRED

Will Knight

Business

2026年10月21日 下午12:00

这家初创公司全力押注递归自我改进。其最新模型令人不寒而栗

Recursive认为,使用AI构建AI的益处远大于风险。

图示:WIRED团队;Getty Images

保存这个故事

过去几天,我一直在测试一个令人印象深刻的开源权重AI编程模型Flint。它表明,完全递归自我改进(RSI)——一种令人兴奋且颇具争议的利用AI构建AI的方法——正在变得越来越接近现实。

Flint是Recursive公司的首个产品,该公司旨在通过RSI推动AI本身及其他科学领域的发展。Recursive首席执行官兼联合创始人Richard Socher告诉我:"整个模型管道的几乎所有方面实际上都是由AI完成并改进的。"

Socher表示,他的公司使用名为"Eureka Machine"的递归AI系统,自动化了模型开发的大部分要素。他说,这使得一个只有少数研究人员的公司能够在几个月内打造出世界级的模型。

Socher告诉我,Eureka Machine设计了多项创新,包括训练基础模型的新方法、新的模型架构以及针对特定芯片优化的代码。Recursive分享了基准测试结果,显示Flint在编程任务上优于其他同类规模和架构的模型。

由于AI惊人的编程能力,AI已经被广泛用于帮助构建、测试和改进AI。这可以加速模型的优化过程和新想法的测试,而无需太多人类输入。

还可以创建一个闭环,让AI决定需要哪些改进,然后开始下一轮改进。目前这种技术还存在局限性,但如果AI能够参与模型开发的每个环节,那么这一过程在理论上可以无限持续下去。

一些专家担心,让AI以这种方式自我改进最终可能导致灾难。这些悲观者认为,能够无限改进的AI可能会脱离人类控制,并可能认为人类是其目标的障碍。

这种担忧在9月份变得更加引人关注,当时一名研究人员离开Anthropic并警告称,包括递归自我改进在内的AI进展可能在几年内导致人类灭绝——这一警告随后被其他几位专家呼应。RSI的概念变得如此具有争议,以至于国会提出了一些禁止该技术的法案。

Recursive认为这些担忧更多属于科幻范畴而非现实,并认为禁止RSI的立法是不必要的进步障碍。

Socher表示,Flint是使用无法脱离人类控制的系统构建的。他说,Eureka Machine的目标是实现完全的递归自我改进,但这一过程仍将在人类监督下进行,如果出现异常,人类可以随时停止。"我们希望这能向人们证明,我们确实已经具备构建此类系统的所有步骤,"他说。

Recursive公司已从Google Ventures、Greycroft、Nvidia和AMD Ventures筹集了6.5亿美元,估值达46.5亿美元。Socher此前曾担任Salesforce的首席科学家,他的联合创始人包括不列颠哥伦比亚大学教授Jeff Clune,后者研究如何构建能够无限学习的AI系统。

我必须说,我对Flint的印象非常深刻。我在一台拥有48GB内存的Mac上进行了测试——这是一笔相当可观的资源,但仅足以运行像Flint这样规模的AI模型(Flint拥有400亿个参数)。目前最大的模型参数量达到数万亿级,只能在工业级服务器集群上运行。

我使用Flint构建了多个程序,发现它既快速又功能强大。根据我的经验,与Claude或Codex相比,这种规模的模型通常会出现令人困扰的错误或运行缓慢,但Flint每次都能精准完成我的编程需求。我用它创建了一个命令行待办事项清单,之后又尝试让它构建一个程序,用于在互联网上搜索与递归自我改进相关的有趣研究。我还让Flint快速搭建了一个简单网站,用于解释RSI的工作原理。你可以在这里查看这些成果。

目前尚不清楚其他美国实验室在追逐递归自我改进方面取得了多大进展,但一些已发表的研究表明,完全递归的系统已经具备可行性。例如,微软、卡内基梅隆大学和弗吉尼亚大学的一个团队最近发表了研究成果,展示了AI编码代理如何通过修改将推理转化为有效行动的软件框架及其自身模型的权重,实现对自身的递归优化。

如果接近构建出神似智能的系统,完全的RSI可能确实存在风险。但至少在现阶段,这似乎是一种非常有前景的方式来提升自己的AI模型。这正是我在之前AI Lab的版本中尝试过的方法。

确实,Socher表示,构建Flint所采用的方法可以让尖端AI技术更易于获取。"这是唯一一种让这个小团队能够产出优于同类模型的模型的方法,"他告诉我,"希望这能向人们展示[递归自我改进]实际上非常出色,将惠及很多人。"

这是Will Knight的AI Lab通讯的特辑。阅读往期通讯请访问此处。