核查 Blackwell 权重指纹,别只抄显著性分数

核查 Blackwell 权重指纹,别只抄显著性分数

想用公开权重核查模型的硬件来源,可以从 Unemployment Labs 在2026年11月12日发布的取证报告和复核代码入手。先确认目标模型是否适用,再选笔记本上的数值检查或实体 GPU 重跑。

Will DePue 在报告的验证章节写道,使用未修改的 PyTorch,在 B300 上复现了 DeepSeek 的 V4 Flash 模型中 445 行逐位一致的权重。这个数字说的是复现结果,不能直接当作统计检验的独立样本数。

公开权重只是门槛之一,还得保留可识别、与硬件有关的软件初始化模式。报告称,部分 Qwen3 模型在 CPU 上初始化,因此没有留下训练 GPU 的指纹。未检出匹配,不等于模型没用过某类 GPU。

先跑数值检查,再决定是否重跑 GPU

入口是作者的复核代码仓库。其中 replay.py 根据种子重建数值,与保存的权重行比较,不需要 GPU;作者称在笔记本上几秒即可运行,这不是我们的测速。gpu_check.py 则调用未修改的 PyTorch,在实体 GPU 上生成初始值,用于检验对应设备能否复现结果。两类检查不要混为一谈。

如果准备重跑,建议记录权重版本、选取的行、随机种子、软件版本和设备配置。不要只保留成功输出。报告中的对照包括更换种子,以及交换 Hopper 与 Blackwell 芯片:作者称,两代设备没有复现对方对应模型的保留行。

PyTorch 官方文档不保证不同发布版本、代码提交或平台间完全复现。因此,相同种子并不意味着任何环境都应得到同一结果;一次失败,也不够推翻报告。先检查环境是否对应,再讨论硬件解释。

有异常,不代表只有一种成因

报告把 sigma 用来表达匹配超出偶然相似的程度,前提是其统计模型成立。它另行讨论芯片身份:特殊配置的 AMD MI300X 也能复制相关布局,所以仅看布局还不够。是否排除了其他实现,需要读具体模型的附加测试,而不是挑最大的分数。

初始化后可以换设备训练,设备所在地和获取方式也不能从权重里读出来。如果只是决定是否接入模型,继续用自己的任务检查质量、延迟和费用;如果确实需要核验训练来源,就要求可复现的配置与训练记录。两种需求,不要用同一个显著性数字回答。

分享这篇文章