AI 真的是黑箱嗎？用「可解釋性」打開輝達 Nemotron 的腦子

Mia 的小貼士

• 我用的是輝達 10 月 23 號發布的 Nemotron 3.5 Bolt（E4B，BF16），在自己的電腦上跑，一塊 16G 視訊記憶體的顯示卡；模型很大的那張每層嵌入表放在記憶體裡查，其餘放顯示卡。
• 上面每一格是「從頭到尾一直加 n 倍這個方向」的結果，每一格只跑了一次，回答只截了開頭，一個字沒改。這個方向是怎麼算出來的，下載下面的程式碼就能看到。