AI 真的是黑箱吗？用「可解释性」打开英伟达 Nemotron 的脑子

Mia 的小贴士

• 我用的是英伟达 10 月 23 号发布的 Nemotron 3.5 Bolt（E4B，BF16），在自己的电脑上跑，一块 16G 显存的显卡；模型很大的那张每层嵌入表放在内存里查，其余放显卡。
• 上面每一格是「从头到尾一直加 n 倍这个方向」的结果，每一格只跑了一次，回答只截了开头，一个字没改。这个方向是怎么算出来的，下载下面的代码就能看到。