MIT以权重编程提升Qwen数学表现
先了解这件事
MIT CSAIL团队让GPT-6 Astra直接读取并修改Qwen3.5-0.8B的131072个权重参数，在允许使用Python及最多50次前向测试的条件下，将MATH-500成绩由7.9%升至48.1%，GSM8K由13.8%升至67.1%；579条回答由错变对，5条反向退化。团队称，这种“权重空间编程”主要减少妨碍答题的推理循环，而非注入新数学知识。 spaCy作者Matthew Honnibal质疑实验表述：若仅把权重数字放入上下文，Astra既不能运行Python，也不能执行目标网络观察行为，与实际获准使用工具测试不同；但他仍认为利用工具诊断并修改权重具有工程价值。
AI 根据报道生成 · 3 天前更新
事件进展
3 个进展
- 11月5日 15:10 · 1 篇报道公开质疑Astra研究存在误导量子位：Matthew Honnibal 质疑 MIT Astra 修改 Qwen 权重的实验表述
- 11月4日 23:44 · 1 篇报道MIT 研究用 GPT-6 Astra 直接修改其他 AI 模型权重The Decoder：MIT 研究用 GPT-6 Astra 直接修改其他 AI 模型权重
- 11月3日 15:22 · 2 篇报道MIT展示权重空间编程方法爱范儿：GPT-6 Astra 直接修改 Qwen 权重提升数学成绩
报道时间线
沿着报道，了解事件的不同侧面。
- 量子位Matthew Honnibal 质疑 MIT Astra 修改 Qwen 权重的实验表述
spaCy 作者 Matthew Honnibal 质疑 MIT Astra 研究的误导性表述，称读取小网络权重与修复 Qwen 大模型依赖不同技术路径。Astra 在 Qwen3.5-0.8B 数学修复实验中被允许使用 Python 并进行最多 50 次前向测试，而非只读取原始权重。论文报告的数学成绩从 7.9% 提升至 48.1%，但文章认为模型借助工具诊断和修改权重的能力本身仍具有工程价值。
- The Decoder精选MIT 研究用 GPT-6 Astra 直接修改其他 AI 模型权重
MIT 研究人员展示 GPT-6 Astra 无需传统再训练，即可直接分析并修改其他 AI 模型的内部权重，并将其称为 Weight-Space Programming。
- 雷峰网MIT CSAIL 以权重空间编程局部修复 Qwen3.5-0.8B 推理循环
MIT CSAIL 让 GPT-6 Astra 定位并编辑 Qwen3.5-0.8B 中与推理循环相关的参数，仅改动约 0.016% 的权重，使 MATH-500 成绩从 7.9% 提升到 48.1%。研究还覆盖游戏网络、车辆控制和 Gemma 3 270M 对照实验，并将这种从权重中识别计算路径、直接生成或修改参数的方法称为 Weight-Space Programming。
- 爱范儿GPT-6 Astra 直接修改 Qwen 权重提升数学成绩
MIT CSAIL 团队让 GPT-6 Astra 直接修改 Qwen3.5-0.8B 的 131072 个权重参数，将 MATH-500 成绩从 7.9% 提升至 48.1%，GSM8K 从 13.8% 提升至 67.1%。