无需训练!Claude Opus 5.5 手写 Transformer 权重,13 类算法任务全拿 100%

微软研究院联合约翰斯·霍普金斯大学、哥伦比亚大学和纽约大学的团队近日发布了新研究“可解释权重空间编程(iWSP)”。在该研究中,大语言模型 Claude Opus 5.5 在无需海量数据训练、不使用反向传播或梯度下降的情况下,通过代码直接手写 Transformer 权重。系统在 13 类复杂算法任务的 26 次独立运行中,均在隐藏测试集上达到了 100% 的准确率。
与传统深度学习依赖“盲拧”旋钮般的黑盒训练不同,iWSP 框架要求模型纯粹依靠推理。Opus 5.5 每次迭代仅看到一个验证分数,必须调用先验知识构思计算逻辑,编写 Python 代码将逻辑转化为权重数字,并根据反馈不断修改。整个过程平均运行约 39 轮,最终生成分为人类可读的透明模型。
实验数据揭示了一个反常识现象:参数越强的 AI,写出的有效网络越小。相对基础的 Haiku 5.5 手写的网络参数量中位数高达 10 万个,中等 Sonnet 5.5 需约 4.16 万个,而当前最强的 Opus 5.5 仅需极其夸张的 166 个参数即可完成任务。这是因为 Opus 先保证逻辑跑通,再疯狂剔除冗余,从初始的约 3400 个参数精简至最终的平均 200 个左右。
这项技术的核心价值在于解决科学探索中“预测准但解释难”的痛点。在神经科学领域,传统黑盒模型虽能预测大脑反应却难以揭示原理。iWSP 生成的透明模型被应用于语言 fMRI、视觉皮层和听觉 ECoG 等数据集时,不仅预测效果优异,还成功揪出了数据集中的混杂漏洞,并清晰展示了大脑在不同区域的计算方式。
尽管成果显著,研究人员指出该方法目前主要擅长重组已知的算法和计算模块。在情感分类等自然语言处理任务中,由于人类语言特征高度模糊且非结构化,Opus 5.5 不得不膨胀参数至约 19 万个才能工作,且在部分语言任务上表现不佳。这表明通用人工智能(AGI)的底层基座模型依然需要算力和海量数据,无法完全脱离训练。