本地跑模型

2 条视频

35B-A3B 是什么？混合专家 MoE，让大模型塞进手机2026.10.21模型名字后面那串「35B-A3B」到底是什么意思？一个视频讲清混合专家 MoE：为什么 350 亿参数的模型每次只用 30 亿、为什么它便宜、为什么能塞进手机。

模型蒸馏到底是什么？你装的 DeepSeek R1，其实是个徒弟2026.10.21大模型当老师、小模型当学生：一次讲懂 AI 圈天天在吵的「蒸馏」。你在 Ollama 里装的 DeepSeek R1 7B，底子其实是阿里的小模型 Qwen，跟着 R1 学了 80 万道题。

标签

全部标签 →