扩散模型
AI 不再一个字一个字蹦了?扩散语言模型是什么ChatGPT 写字是一个字一个字往外蹦,扩散语言模型是整段一起冒出来、越改越清楚:我让 Mercury 3 跟 Claude、GPT 赛跑,又在自己电脑上把一个开源模型写字的每一步都存了下来。从 AI 为什么要一个 token 一个 token 地写、到底慢在哪(不是算得慢,是「搬」得慢),到扩散语言模型怎么像做完形填空一样写字、为什么快,再到它现在的三个代价:轮数少了会胡言乱语、还没那么聪明、快是有前提的。
AI 画图是怎么画出来的?扩散模型,其实是从一屏雪花里擦出来的AI 画图不是一笔一笔画的:我在自己电脑上跑了一个开源画图模型,把它从一屏雪花变出一只猫的 8 步全存了下来,顺着这 8 步讲清楚扩散模型。从训练时怎么「把图弄脏」,到画图时怎么倒着「擦干净」;提示词怎么当方向盘、种子(seed)到底是什么、为什么要先压成一张小图(潜空间);最后讲清楚以前的 AI 为什么一写字就是鬼画符,现在又为什么写得对了。