NVIDIA · 其他
NVIDIA 发布 Jetson 生成式 AI 超级计算机
NVIDIA 推出 Jetson 生成式 AI 超级计算机,将边缘计算与生成式 AI 能力结合。该设备面向机器人、自动驾驶和工业自动化场景,可在本地运行大模型推理,降低对云端的依赖。Jetson 平台通过集成 GPU 和专用 AI 加速器,为开发者提供从训练到部署的完整工具链。这一发布标志着边缘 AI 计算进入新阶段,适用于需要低延迟和数据隐私保护的实时应用。
- 域名
blogs.nvidia.com- 评分
- 5 · 重大发布
- 发布
- 2024-12-17
导读
NVIDIA 在这篇博文中推出 Jetson Orin Nano Super,一款定位为"目前最便宜的生成式 AI 超级计算机"的紧凑型边缘设备。这一代不是新硬件,而是通过软件升级把原有 Jetson Orin Nano 的算力再压榨一轮:升级后生成式 AI 性能提升 1.7 倍,相同价位拿到更高吞吐。同一份软件更新也将下发到 Jetson Orin NX 与 Orin Nano 系列的全系模组,让既有用户也能直接受益。
目标人群定位得相当清楚。文章把它推向想要入门生成式 AI、机器人与计算机视觉的开发者与学生群体。当下 AI 世界正在从任务专用模型迁移到基础模型,一个能把想法落到具体设备上的低门槛平台变得稀缺,Jetson Orin Nano Super 试图填上这块空缺。它支持流行的生成式 AI 模型与基于 transformer 的计算机视觉模型,本地推理可以摆脱对云端的持续依赖。
对工程师与初创团队而言,这条更新有两层实际价值。一是把生成式模型放到边缘的成本进一步压低,机器人与 IoT 项目可以原型化更复杂的能力。二是 NVIDIA 把整条 Jetson 平台的工具链一并开放,从训练到部署不需要换栈。对需要低延迟与数据本地化的实时应用,本地运行的小型基础模型正变成可行的工程选项,而不再只是一份白皮书上的设想。
