NVIDIA 发布 Nemotron 4 合成数据生成模型

NVIDIA 在 2024 年 6 月发布 Nemotron-4 340B 模型家族，定位是面向商业场景的合成数据生成器。开发者训练自有 LLM 时，高质量数据通常决定模型表现，但构建大型、多样且带标注的数据集成本高昂、获取困难。Nemotron-4 340B 给出的方案是：用一个大模型来生产用于训练其他模型的合成训练数据，应用方向覆盖医疗、金融、制造、零售等行业。

模型家族包含三个角色：Base、Instruct、Reward。Base 在 9 万亿 token 上完成预训练，可基于 NVIDIA NeMo 框架做监督微调或 LoRA 等低开销微调路径以适配垂直领域。Instruct 负责生成合成回复，Reward 则为这些合成响应打分，开发者可在 NeMo 与 TensorRT-LLM 上把这两个角色组合成完整的数据生成与筛选闭环。所有模型都用 TensorRT-LLM 做了张量并行优化，单个权重矩阵可拆分到多块 GPU 与服务器之间，从而支撑大规模推理。

发布方在公告中提到，Instruct 模型经过对抗性测试在内的安全评估，在多个风险指标上表现良好，但仍建议使用者对最终合成数据做适配场景的核查，确保安全可用。Nemotron-4 340B 的实际意义在于：把"采购或人工标注高质量训练数据"这一历来最贵的环节，部分转向"用大模型批量生成 + 用奖励模型筛选"的可控合成流程，让中小团队在缺乏专有数据资源时仍能训练出领域可用的模型。