MIT Astra 研究遭质疑:读权重与修改模型实为两种不同技术路径

封面为AI生成的主题示意图,非新闻现场照片。
近日,麻省理工学院(MIT)团队提出的一项名为 Astra 的研究在 AI 圈引发广泛关注。该研究宣称,Astra 仅通过观察原始权重,便能让 Qwen3.5-0.8B 模型的数学成绩从 7.9% 暴涨至 48.1%。然而,spaCy 作者 Matthew Honnibal 公开发文指出,这项研究的成果呈现存在严重误导。
Honnibal 将 Astra 的实验手法比作舞台魔术:研究者实际上展示了三项截然不同的能力,但在论文摘要中却让人误以为它们源于同一种“读脑”神技。他详细梳理了原论文的 8 组实验后认为,这种将不同技术路径打包的做法属于偷换概念。
在小模型识别任务和修复赛车模型等实验中,Astra 确实实现了在严禁运行 Python 代码、仅输入原始权重数字的苛刻条件下工作。但在处理 Qwen 大语言模型时,Astra 被授权使用了 Python 编程,并进行了多达 50 次的前向测试以观察模型表现,这完全是另一种工程干预手段。
Honnibal 强调,将这两种差异巨大的方法混淆,容易让读者误以为在小模型上验证的“读心术”可以同等规模地应用于大模型。实际上,对于真正的现代大语言模型,Astra 更像是一个需要通过编程和观察来介入的“场外教练”,而非直接读取大脑。
尽管存在包装问题,MIT 研究仍展现了值得关注的进步:让 AI 模型具备编写代码片段来分析甚至修改网络权重的能力。Honinbal 指出,这体现了当前顶尖大模型在工具使用和推理方面的复杂性提升,能够像“AI 工程师”一样诊断和修复其他模型。
此次争议也反映了当前科技圈对新技术成果的呈现方式值得反思。虽然剥离了单一“超能力”的光环,但 Astra 所展现的工具化能力依然具有工程价值,关键在于如何准确传达其技术边界与实际应用场景。