MIT CSAIL 研究:权重空间编程让 Qwen3.5-0.8B 数学成绩大幅提升
热点事件持续更新
MIT CSAIL 研究:权重空间编程让 Qwen3.5-0.8B 数学成绩大幅提升
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
MIT CSAIL 研究团队让 GPT-6 Astra 直接读取并修改 Qwen3.5-0.8B 的神经网络权重,这一“权重空间编程”方法仅修改 0.016% 参数(131072 个权重),使 MATH-500 成绩从 7.9% 提升至 48.1%,GSM8K 从 13.8% 提升至 67.1%,IFEval 从 21.0% 提升至 62.3%,并将触及 Token 上限比例从 93% 降至 33.1%。 报道称,Astra 通过 Python 接口访问模型权重,使用 GSM8K 和 MATH 训练集中的练习题检查模型行为,但不能使用训练梯度信息,也不能接触测试集。经分析定位至第 15 层和第 19 层部分 MLP 结构,删除与重复输出相关的方向。表现最好的实验使用 50 轮评估请求、158 轮对话和 80 次 Python 运行,总耗时 20.3 小时。
AI 根据报道生成 · 2 小时前更新
最新进展11月4日 17:24
GPT-6 Astra 权重空间编程:MIT 实验让 Qwen 数学成绩暴涨 6 倍报道时间线
沿着报道,了解事件的不同侧面。
11月4日
- 人人都是产品经理精选GPT-6 Astra 权重空间编程:MIT 实验让 Qwen 数学成绩暴涨 6 倍
MIT CSAIL 研究团队让 GPT-6 Astra 直接读取并改写神经网络权重,称为“权重空间编程”。在 Qwen3.5-0.8B 实验中,仅修改 0.016% 的参数,MATH-500 从 7.9% 提升至 48.1%,GSM8K 从 13.8% 提升至 67.1%,IFEval 从 21.0% 提升至 62.3%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。