训练
AI 开始自我进化了?我让 GPT-6 Astra 当了两小时 AI 研究员GPT-6 Astra 当了两小时 AI 研究员:30 个实验每个都能点开,看它改了什么、分数变了多少;实验前后小模型写的故事;在自己电脑上跑要什么显卡、花多少;还有我给它的那段话。
ChatGPT 为什么会拍马屁?RLHF 是怎么调教 AI 的被 AI 夸过「这个问题问得真好」的举个手🙋♀️ 原来那股马屁味,是被人一次次打分练出来的……
我把 AI 关在 1900 年,它能比爱因斯坦先想出相对论吗?我在自己电脑上跑了只读过 1900 年以前书报的 GPT-1900,把爱因斯坦当年的线索一条条递给它。每一级的提示词、它的全部原话、两位裁判的打分,还有 Claude 和 GPT 假装活在 1899 年的回答,都在这。
模型蒸馏到底是什么?你装的 DeepSeek R1,其实是个徒弟大模型当老师、小模型当学生:一次讲懂 AI 圈天天在吵的「蒸馏」。你在 Ollama 里装的 DeepSeek R1 7B,底子其实是阿里的小模型 Qwen,跟着 R1 学了 80 万道题。
大模型微调到底是什么?和提示词、RAG 差在哪同一段要求,每次都得贴给 AI 一遍?能不能一次教会它?