跳到正文
四海AI汇/热点详情
热点事件历史事件

MIT称GPT-6 Astra改写小模型权重提分,遭质疑

5 篇报道4 个报道来源6 天前更新

先了解这件事

AI 综述

MIT CSAIL 称,让 GPT-6 Astra 直接读取并局部修改 Qwen3.5-0.8B 约 0.016% 的权重,无需训练和梯度下降,MATH-500 得分从 7.9% 升到 48.1%,GSM8K 从 13.8% 升到 67.1%。MIT 将这一做法称为权重空间编程,实验日志已发布在 GitHub,修改后的模型已发布在 Hugging Face。雷锋网报道称,提升幅度与测试预算绑定:前向测试预算为 10 次和 25 次时,MATH-500 分别只升到 12.3% 和 14.1%,预算达到 50 次时才升到 48.1%;该方法目前无法代替训练。 spaCy 作者 Matthew Honnibal 随后发文质疑该研究存在误导。他称,Astra 在识别小型网络任务时确实只读取原始权重,参数规模在 1.7 万到 17.2 万之间;但在修复 Qwen3.5-0.8B 数学能力的实验中,Astra 被允许使用 Python 并最多进行 50 次前向测试,并非直接读取权重。 上述提分结果均为 MIT 一方的实验说法,尚未见独立复现。

AI 根据报道生成 · 6 天前更新

事件进展

2 个进展

  1. 11月5日 15:10 · 1 篇报道
    Honnibal质疑Astra研究呈现方式
    量子位:spaCy作者Honnibal质疑MIT Astra研究:读权重与改Qwen权重是两码事
  2. 11月3日 09:57 · 3 篇报道
    MIT研究用GPT-6 Astra直接编辑模型权重
    量子位:MIT 实验:GPT-6 Astra 直接修改 Qwen3.5 权重,MATH-500 得分提升约 6 倍

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. 量子位
    spaCy作者Honnibal质疑MIT Astra研究:读权重与改Qwen权重是两码事

    spaCy作者、Explosion联合创始人Matthew Honnibal发文质疑MIT的Astra研究存在误导。他指出,Astra在识别小型网络任务时确实只读取原始权重,参数规模在1.7万到17.2万之间;但在修复Qwen3.5-0.8B数学能力的实验中,Astra被允许使用Python并最多进行50次前向测试,并非直接读取权重。

  2. Latent Space
    Latent Space 每日 AI 汇总:权重空间编程复现争议、腾讯 Hy4 与 Claude Code 十月更新

    Latent Space 的 AINews 汇总了 11 月 2 日至 3 日的 AI 动态,核心是围绕“权重空间编程”的复现与质疑:GPT-6 Astra 直接修改 Qwen3.5-0.8B 的 131。

11月4日
  1. The Decoder精选
    MIT 研究:GPT-6 Astra 可直接读取并改写其他模型权重

    MIT 研究者在研究博客中展示,OpenAI 的 GPT-6 Astra 无需传统训练即可分析并修改其他 AI 模型的权重,他们把这一方法称为 Weight-Space Programming。

  2. 雷锋网精选
    MIT CSAIL 用 GPT-6 Astra 改写 Qwen3.5-0.8B 权重,MATH-500 从 7.9% 升至 48.1%

    MIT CSAIL 提出 Weight-Space Programming,让 GPT-6 Astra 只读取 Qwen3.5-0.8B 的权重并做局部修改,改动约 0.016% 的参数后,MATH-500 从 7.9% 提升到 48.1%,GSM8K 从 13.8% 提升到 67.1%。

11月3日
  1. 量子位精选
    MIT 实验:GPT-6 Astra 直接修改 Qwen3.5 权重,MATH-500 得分提升约 6 倍

    MIT 的实验让 GPT-6 Astra 直接读取并编辑 Qwen3.5-0.8B 的权重,只改动 0.016% 的参数,MATH-500 得分就从 7.9% 升到 48.1%,约 6 倍,全程没有训练和梯度下降。

本事件热度走势

可比范围当前
3
可比范围峰值
2111月5日 00:00
近 24 小时变化
-77%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。