MIT 突破深度学习范式:仅修改 0.016% 权重让模型数学能力暴涨 6 倍
AI新闻阅读 0

麻省理工学院计算机科学与人工智能实验室(CSAIL)最新研究提出「权重空间编程」新范式,大语言模型 GPT-6 Astra 无需训练或计算梯度,仅通过推理即可直接读取并改写神经网络的底层权重。实验显示,Astra 对开源小模型 Qwen3.5-0.8B 进行了「微创脑手术」,仅修改了全模型 24 层中占参数总数 0.016% 的特定权重数值。这一操作精准切除了导致模型陷入死循环的信号源,使其在 MATH-500 数学测试集上的准确率从 7.9% 飙升至 48.1%,提升了近 6 倍。Astra 能够像外科医生解读 X 光片一样「看懂」权重数字。在另一项测试中,它通过分析纯文本化的权重分布,准确识别出训练用于打砖块、乒乓球等不同游戏策略的神经网络内部逻辑。即使在移除输入输出层的情况下,它也能仅凭中间层权重复现出类似电路分析法的推理结果。研究还揭示了该技术的局限性:Astra 无法在不训练的情况下向模型灌输新知识(如让仅因知识不足而表现不佳的 Gemma 3 270M 显著提升分数),其核心作用是消除阻碍性能发挥的内部故障,而非重塑整个认知架构。这项成果引发了学界对 AI 发展路径的重新思考。论文发布后引发广泛关注,许多研究人员表示,将浮点数权重视为可读写代码直接改变了大模型与神经网络交互的底层逻辑,实现了从被动微调到主动编程的跨越。