NVIDIA · 大模型
NVIDIA 发布 Blackwell AI 推理平台
NVIDIA 于 2025 年 9 月 22 日发布 Blackwell AI 推理平台,采用新一代 Blackwell 架构。该平台相比 Hopper 架构在推理吞吐量和延迟上有所改进,支持万亿参数模型的实时推理。Blackwell 面向云服务商和企业级推理部署,为大规模生成式 AI 提供硬件支持。
- 域名
blogs.nvidia.com- 评分
- 5 · 重大发布
- 发布
- 2025-09-22
导读
NVIDIA 在这篇博文中把 Blackwell 定位为 AI 推理基础设施的系统架构,而不仅仅是一颗芯片。文章开宗明义地讲,AI 工厂的产品是智能,推理是当今最具挑战的计算形态,需要在 silicon 层和系统层之间做完整的集成,让软件能把成千上万张 GPU 视作一台机器协同运作。
系统的最小构件是 NVIDIA Grace Blackwell superchip,把两颗 Blackwell GPU 与一颗 Grace CPU 直连,让 CPU 和 GPU 共享内存、降低延迟。在此之上,NVIDIA 用一种新的 NVLink Switch spine 把 18 个 compute tray、共 72 颗 GPU 编织进 GB200 NVL72 机柜,铜缆超过 5000 根,整柜内部带宽达到 130 TB/s,文章用一个夸张比喻说明这个量级,足以在一秒内搬运全互联网的峰值流量。
对读者来说,这篇文章传递的信号是:万亿参数模型的实时推理不再是单卡或单机问题,而是机柜级别的工程。NVIDIA 选择先在 scale-up 这一维度上做到极致,再向 scale-out 延伸,是对 Hopper 时代 8 卡 server 范式的明显跨越,也解释了为什么云厂商和大型企业现在都把推理集群按机柜整体采购,而不是按 GPU 颗数估算容量。
