NVIDIA · 大模型
NVIDIA 推出 Nim 微服务支持 AWS 推理
NVIDIA 将 Nim 微服务部署到 AWS 推理平台，开发者可直接在云端调用优化后的 AI 模型进行推理。这一更新降低了 GPU 推理的部署门槛，让企业无需自行管理底层基础设施即可使用高性能模型服务。Nim 微服务涵盖大语言模型、视觉模型等多个领域，配合 AWS 的弹性计算能力，有望加速生成式 AI 在云端的落地。
- 域名
blogs.nvidia.com- 评分
- 4 · 重要更新
- 发布
- 2025-01-06
导读
这条暂时没有深度导读，点上方「访问项目本体」直接到源页面查看。