Meta AI · 训练
Meta AI 提出训练时注入量化噪声实现极端模型压缩
Meta AI 提出一项模型压缩技术，通过在训练过程中向权重注入量化噪声，使得模型在极端低比特压缩下仍能保持较高精度。该方法在量化感知训练路径上进一步探索，不依赖后处理微调，即可将模型压缩至 2-bit 甚至更低，显著降低推理时的内存与带宽需求。相关工作已公开，对于在资源受限设备上部署大语言模型有直接参考价值。
- 域名
ai.meta.com- 评分
- 4 · 重要更新
- 收录
- 2026-05-19
导读
这条暂时没有深度导读，点上方「访问项目本体」直接到源页面查看。