MIT神作被锤:Astra爆改Qwen权重?就吹吧!
TL;DR · AI 摘要
MIT团队提出的Astra方法被质疑存在误导,其在不同实验条件下的能力被混淆。
核心要点
- Astra在小模型上通过读取权重实现任务识别,但大模型修复依赖编程和前向测试
- MIT研究将两种不同技术路径包装成统一能力,存在误导
- Astra展示了AI作为‘AI工程师’的潜力,但实际应用需谨慎
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- MIT Astra研究质疑
- 核心机制
- 读权重/写权重/修复大模型
- 实验条件差异
- 小模型直接读取权重
- 大模型依赖编程测试
- 真正价值
- AI工程师能力突破
金句 / Highlights
值得收藏与分享的关键句。
Honnibal用魔术师比喻指出,MIT研究通过障眼法混淆了不同实验条件下的能力。
Astra在修复8亿参数Qwen时,需通过编程和50次前向测试,而非直接读取权重。
即使剥离‘读心术’光环,Astra仍展现了AI作为‘AI工程师’的突破性能力。
MIT神作被锤:Astra爆改Qwen权重?就吹吧! – 量子位
扫码关注量子位
<div class="top_search"> <form role="search" method="get" class="search-form" action="https://www.qbitai.com/" id="search"> <label> <input type="search" class="search-field" placeholder="搜索…" value="" name="s"> </label> <button type="submit" class="search-submit"></button> </form> </div>
< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">
articlead begin
articlead end
MIT神作被锤:Astra爆改Qwen权重?就吹吧!
Jay
2026-11-05
15:10:56
来源:
量子位
摘要样式
spaCy作者长文炮轰
Jay 发自 凹非寺 量子位 | 公众号 QbitAI
Astra修改小模型权重?MIT那篇爆火研究,被大佬公开质疑了。
Astra前两天刚刚凭借一项惊人能力刷屏AI圈——不用训练、不算梯度,直接修改另一个AI模型的权重。
MIT团队宣称,Astra仅修改Qwen3.5-0.8B的0.016%权重,就让数学成绩从7.9%暴涨至48.1%,相当于提升到原来的6倍多。
甚至有网友感慨:AI已经开始读懂另一个AI的大脑了。
然而,事情似乎出现了反转。
一位来头不小的圈内大佬公开发文,提出了质疑。
这项研究存在严重误导。
质疑者叫Matthew Honnibal,spaCy的作者、AI公司Explosion的联合创始人。
魔术师戏法
这背后到底发生了什么?
Honnibal用了一个很妙的比方,讽刺了MIT研究所做的事:障眼法。
舞台魔术师常常用多种方式来表演同一个戏法。 第一次,他可能用了一个特殊的道具;下一次,他会向你展示道具并无特殊,但他自己藏起了东西;第三次,可能又利用了某种强迫选择。 当你观看表演时,你会假设只有一种技术,所以每当魔术师表演一次,似乎都推翻了你对其工作原理的假设。
Honnibal认为,Astra这项研究的实验呈现,就酷似这样一场魔术。
回到Paper,原文其实展示了三项不同的能力:
- 读权重 :只看原始的权重数字,就能识别一个小型神经网络正在执行什么任务。
- 写权重 :不依赖环境反馈,从零开始直接生成或修改小型网络的参数,让它能玩《打砖块》之类的小游戏。
- 修复大模型 :通过修改Qwen的部分权重,大幅提高其数学测试表现。
但这篇论文摘要给人的核心印象却是——
Astra「仅通过观察原始权重」,就能理解并修改另一个模型。
如果只是一眼扫过,很难不让人理解为:
无论是识别一个小型网络的功能,还是修复一个大语言模型的数学能力,都源于同一种「读脑」神技。
但,这是真的吗?
Honnibal仔细梳理了论文中的8组实验后发现:实现这三件事的实验条件,天差地别。
也就是说——
纯纯是在偷换概念。
两种技术路径
那么不同实验之间,到底有什么猫腻?
首先,在识别小型网络任务、修复一个卡住的赛车模型等实验中,Astra确实做到了「只看原始权重」。
因为实验条件非常苛刻:
- 直接将权重数字 (raw floats) 作为输入,放进Astra的上下文。
- 不允许Astra运行Python代码。
- 不允许Astra执行目标网络来观察其行为。
在这种模式下,Astra处理的模型参数规模都非常小,在 1.7万到17.2万 之间。这确实很了不起,但距离真正理解一个现代大语言模型,还有很长的路。
但到了最引人注目、也最令人振奋的Qwen数学能力修复实验,就完全不是这么回事儿了。
在修复8亿参数的Qwen模型时,Astra 并没有直接读取原始权重 。
取而代之的是,Astra被授权使用Python编程,并且最多可以进行50次前向测试。每次允许模型处理一批练习题,通过观察模型的表现来分析和修改权重。
这根本是两码事。。。
Honnibal一针见血地指出,将这两种方法打包在一起,很容易让读者误以为:
噢,那种在小模型上实现的「读脑术」,同样可以规模化地应用在8亿参数的大模型上。
但事实是,在处理真正的大语言模型时,Astra更像一个「场外教练」,需要通过编程、运行、观察等一系列工程手段来介入。
真正的价值
那么,这是否意味着MIT的研究毫无价值?
当然不是。
必须承认,即使剥离了「读心术」的光环,Astra所展现的能力依旧非常了不起。
Honnibal也坦言,让一个AI模型被提示去设计并执行人类机器学习工程师才能完成的任务——编写代码片段来分析甚至直接修改网络权重——这本身就是一个巨大的进步。
一两年前的AI模型,在所有这些任务上都会失败。
这说明,今天的顶尖大模型,已经具备了相当复杂的工具使用和推理能力,能够作为一个「AI工程师」来诊断和修复其他模型。这本身就是一项值得关注的工程突破。
真正的问题,在于成果的呈现方式。
将两种截然不同的能力,模糊地包装成一种统一的、能够读写AI大脑的「超能力」。
说实话,乍一听还以为是A社做的事。。。
也侧面反映了如今AI圈的Hype狂潮吧。
原文: https://honnibal.dev/blog/astra-read-write-misleading
版权声明
版权所有,未经授权不得以任何形式转载及使用,违者必究。
MIT
作者文章列表
- Linux内核被挖出948个漏洞!OpenAI花120万美元找到的 2026-11-05
- 纯语音Personal Agent来了!或许,这就是乔布斯心中的Siri 2026-11-03
- 清华姚期智团队新作:代数世界模型,让AI像牛顿一样思考 2026-11-01
- 老牌便利店机器人售货折戟:实验室锤炼上万次,货架前还是摔瓶子 2026-11-01
左侧分享
扫码分享至朋友圈
相关阅读 start
相关阅读
#### MIT推出拾物机器人「最强辅助」,少量训练样本实现自然语言控制
可拾取未知物体
西风
2023-08-19
2D特征
三维空间
机器人
#### MIT数学最强本科生:2年半毕业,20多篇论文在手,还推动了停滞几十年的数学研究
师从MIT华裔教授,曾获阿里巴巴数学竞赛银奖
十三
2020-12-05
数学
本科生
#### 85岁MIT教授上线全新「线性代数」公开课:大牛视角帮你重新梳理知识点,网友:信息丰富,通俗易懂
附带文字稿下载
鱼羊
2020-06-13
线性代数
网课
#### 何恺明MIT求职演讲现场:提前三小时就有排队,超百页PPT回顾CV发展,以及“大神月半了”
真成AI圈大型追星现场了
白交
2023-03-14
何恺明
#### MIT博士生、北大校友,利用自监督算法,解决了数据集中这一常见的“难题”
解决数据集样本“不均衡”问题
萧箫
2021-01-15
北大
数据集
长尾问题
#### 只有5%AI项目在挣钱!MIT最新报告印证奥特曼警告
但头部大厂还将持续加码
鹭羽
2025-08-22
AI
相关阅读 end
热门文章 start
热门文章
#### 刚刚,DeepSeek重磅开源:Agent底座架构!
2026-10-31
#### 小米开源了个150元的AI小玩意,火到配件都涨价了
2026-11-02
#### 榜一,拿来吧你!智元这波双模型杀穿多榜榜单
2026-10-30
#### MIT:GPT-6 Astra能直接修改Qwen权重,数学能力暴涨6倍
2026-11-03
#### Claude紧急叫停!暗改Harness禁止逆向游戏
2026-11-01
<form role="search" method="get" class="search-form" action="https://www.qbitai.com/"> <label> <span class="screen-reader-text">搜索:</span> <input type="search" class="search-field" placeholder="搜索…" value="" name="s" /> </label> <button type="submit" class="search-submit"><span class="screen-reader-text">搜索</span></button> </form>
热门文章 end
底部版权
- 关于量子位
- 加入我们
- 寻求报道
- 商务合作
<a href="/?page_id=183"target="_blank"><i class="weixin_icon"></i></a>
追踪人工智能新趋势,报道科技行业新突破
<p>量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1</p>
量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1