研究进展1 分钟读完Hacker News
Astra 能直接读写神经网络权重,提升 Qwen 数学能力
速览
GPT-6 Astra 能直接读取和修改神经网络权重,无需梯度下降。它仅凭权重判断网络训练目标,并修复 Qwen3.5-0.8B 的数学弱点,将 MATH-500 得分从 7.9% 提升到 48.1%。这标志着 LLM 可能取代传统优化器,直接推理和编辑模型内部结构。
这项研究展示了「权重空间编程」的早期成果:让 LLM 像读文本一样读权重,直接推理每个参数的作用,并手动修改。Astra 不依赖环境反馈,也不写训练循环,完全靠自然语言指令完成操作。
在测试中,Astra 仅凭 17,253 个权重参数,就能以 99% 的置信度判断网络玩的是 Breakout 等游戏。它还能从零写出超越 PPO 训练 1 亿步的小型游戏网络,以及修复 Qwen 的推理循环问题。
关键实验包括:
- 读取:识别四个同结构网络分别训练自哪个游戏
- 修复:编辑 Qwen3.5-0.8B 中 0.016% 的权重,修正数学推理问题
- 写入:直接生成玩 Go 和 MinAtar 游戏的新网络
研究者认为,这打破了「权重只能由优化器更新」的惯例。过去我们用 Adam 这类符号优化器,未来 LLM 可能成为更智能的「参数外科医生」。不过,目前实验规模较小,对真实大模型的通用性仍需验证。
原文Astra can read and write weights to improve Qwenrikiyat.github.io
#开源#模型权重#Qwen#技术突破
本文由程序自动抓取公开报道,经 AI 筛选与改写生成,未经人工逐条核实,事实以原文为准。