MIT CSAIL研究：GPT-6 Astra可通过纯推理读取并编辑神经网络权重
MIT CSAIL研究人员于11月2日发布博客，介绍“Weight-Space Programming”（权重空间编程）。该团队使用前沿模型GPT-6 Astra，通过纯推理读取并编辑其他神经网络的内部权重，无需梯度下降或训练循环。
在测试中，Astra仅凭原始权重即可识别小型策略网络所训练的游戏（例如从约1.7万权重中以99%置信度判断为Breakout）。针对0.8亿参数的Qwen3.5-0.8B模型，Astra识别并移除导致推理循环的特定方向，仅编辑约0.016%参数，将MATH-500准确率从7.9%提升至48.1%，同时改善指令遵循并推广至其他任务。
研究团队包括Rikiya Takehi、Jayden Teoh、Alex Zhang和Omar Khattab，均来自MIT CSAIL。他们公开了完整细节、日志与实验，称前沿LLM已能原生读取、写入并推理神经网络权重，可能对优化与可解释性产生重要影响。
原始来源：
标题：Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights 发布者：Rikiya Takehi等（MIT CSAIL） 发布日期：2026-11-02 URL：https://rikiyat.github.io/blog/weight-space-programming/ 来源性质：研究人员官方博客 核验情况：本次读取完整博客（2026-11-02核验） 支持内容：支持正文全部核心事实，包括Weight-Space Programming定义、GPT-6 Astra通过纯推理读取/编辑权重、游戏识别实验、编辑0.016%参数将Qwen3.5-0.8B的MATH-500从7.9%提升至48.1%并改善指令遵循、团队成员与公开日志
ABAB AI 解读
Weight-Space Programming的核心是让通用LLM直接对神经网络权重进行推理与修改，而非依赖传统优化器（如Adam）或梯度下降。实验显示，Astra能从原始权重推断网络行为（如游戏类型），修复失败策略（例如将卡在坡道的汽车策略修复至100%成功），甚至从零编写小型游戏网络并超越经大量PPO训练的基线。
在Qwen3.5-0.8B实验中，Astra定位到第15与第19层MLP中的特定方向导致推理循环（模型卡片本身已提示该问题），通过编辑约13万权重（0.016%）予以移除。该修改不仅大幅提升数学基准，还改善IFEval指令遵循，显示一定程度的泛化。研究者强调未允许模型编写训练循环，仅通过自然语言规格与有限前向传递预算完成编辑。
此为早期结果。团队指出能力令人兴奋但仍受上下文长度与工具限制，未来权重或可由LLM原生优化。社区讨论中，部分研究者关注其在小模型上的有效性、对灾难性遗忘的影响，以及是否代表可解释性与优化范式的转变。日志已公开供复现。
ABAB News · 认知定律
GPT-6 Astra通过纯推理读取并编辑权重，无需梯度下降或训练循环。
仅编辑0.016%参数，将0.8B模型MATH-500从7.9%提升至48.1%，并改善指令遵循。
团队称前沿LLM已能原生处理神经网络权重，可能影响优化与可解释性。