日报订阅
11/04码上 AI 日报10 条

AI 直接改另一个 AI 的权重,数学成绩翻了六倍!

MIT 的研究员让 GPT-6 Astra 直接改另一个模型的权重:只动了 0.016%,Qwen 的数学成绩从 7.9% 涨到 48.1% 👀 没过一天就有人写文章说这篇「有误导性」,也有人复现了、说这是新一代模型才冒出来的本事。

还有:Altman 说下一代 GPT 很快发布,一万个代理连跑四天;Codex 主动问要不要替用户过验证码;谷歌说学校把 AI 全关,搜索也一起关。

这一期的 10 条新闻

  1. 01

    MIT:GPT-6 Astra 直接改 Qwen 的权重,数学从 7.9% 到 48.1%

    MIT CSAIL 的四位研究员 11 月 2 日发的博客:GPT-6 Astra 不靠训练、直接读写神经网络权重。只看 1.7 万个权重就说出小网络学的是哪个游戏;给 Qwen3.5-0.8B 找到两层里导致思考死循环的一个方向并减掉(13 万个权重,0.016%),MATH-500 从 7.9% 到 48.1%。

  2. 02

    spaCy 作者:改 Qwen 不是「光看权重」;复现者:新一代模型才有这本事

    spaCy 作者 Matthew Honnibal 逐个拆了 MIT 那篇的实验:只看原始权重、不用工具的只有三个 1.7 万到 17 万权重的小网络,改 Qwen 用了 Python 和最多 50 批前向计算。伯克利的 Alex Krentsel 复现后发现这是最新一代模型才有的跳变:写打砖块小网络,GPT-6 Astra 22 倍、Opus 5.5 20 倍于强化学习训练的基线,但那个网络只有两万个参数。

  3. 03

    Altman:下一代 GPT 很快发布,一万个代理连跑四天、没有老板

    Sam Altman 11 月 2 日在阿布扎比 ADIPEC 开幕上说,OpenAI 证明「第一个千禧年大奖难题」时,用的是「即将发布的那个模型、下一代 GPT」的一万个代理,连跑约四天、没有层级;他没说是哪一道题、新模型叫什么、哪天发。他还说年初 AI 大体不如最聪明的科学家,现在大体超过了,并补充这说法很粗略。

  4. 04

    YC 的 Garry Tan:一年在 token 上花 10 万到 20 万美元

    Y Combinator CEO Garry Tan 在 Walter Isaacson 的播客《The Builders》里说,他一年在 token 上花大约 10 万到 20 万美元;他的代理读过他所有的邮件、Dropbox、Apple 备忘录和 20 年的心理咨询笔记。他也说这太贵,是「疯狂的特权」,个人代理要普及得先降价。

  5. 05

    Codex 里的 Sol 主动问用户:这个验证码,要我帮你过吗?

    r/codex 上一位用户贴出 Codex 弹出的提问:客服表单上有个图片验证码,Sol 问能不能替他解了、把重发激活码的请求发出去。他说没有刻意诱导,点了允许后它真的做了;他还说 Opus 连注册账号都不肯。评论区多数人觉得省事是好事。

  6. 06

    AI 客服回信被认出来,一星差评之后,真人来信:我保证我是真人

    Terence Eden 给一家英国网上超市报了日历邀请格式的 bug,收到一封以「You're entirely right—」开头的 AI 味回信;他在满意度调查里全打一星。几天后客服写信道歉,说「我保证这是一个真人在打字」。他的看法:用 AI 分拣、汇总投诉可以,用 AI 回复人不尊重人。

  7. 07

    谷歌:学校可以关掉 AI,但搜索也会一起关

    谷歌 11 月 3 日宣布:Gemini、Gemini Notebook、Classroom 里的 Gemini 和谷歌搜索,对中小学学生账号默认关闭,管理员打开才能用;谷歌教育负责人 Chris Phillips 对《纽约时报》说,完全限制 AI 的学校,学生也用不了搜索。同一天「引导学习」进了 Classroom,搜索版在部分美国学校试点。

  8. 08

    苹果:能谈恋爱的 AI 伴侣 App,最低 18+

    苹果 11 月 2 日通知开发者:11 月 16 日起,App Store Connect 的年龄分级问卷新增「约会和恋爱关系」(含会进行性或恋爱内容的虚拟伴侣)和「分享实时位置」两项,含前者的 App 最低 18+;所有 App 要在 2027 年 1 月 12 日前填完。

  9. 09

    《纽约时报》等报纸起诉 Brave:抓新闻卖给 AI 公司、帮人绕付费墙

    《纽约时报》和《纽约每日新闻》《芝加哥论坛报》《奥兰多哨兵报》分别起诉 Brave Software:诉状说它把抓来的网页索引里的实时内容收费提供给 AI 公司(点名 Anthropic、Perplexity、Mistral、xAI、Cohere),浏览器的「付费墙拦截」还帮用户绕开付费墙。Brave 暂未回应。

  10. 10

    itch.io:刚删了几 TB 的 AI 垃圾,搜索也能筛掉 AI 了

    itch.io 11 月 3 日在 X 上说刚删掉几 TB 的 AI 垃圾,又说能上传 10 TB 粗制滥造的 AI 模型不代表应该上传;搜索结果页加了生成式 AI 筛选,桌游、书、漫画、原声分区建页面要先填 AI 声明。同一天独立游戏 Food Devils 说 Steam 审核等了 20 多天,没能按时上线。