亚洲财经

☰ 搜索

英伟达推出DGX Spark四台捆绑的高性能计算开发套件

英伟达上架DGX Spark HPC开发者套件:4机互联方案解析

英伟达(NVIDIA)在其销售页面上注册了一款名为“DGX Spark HPC Developer Kit”的高性能计算(HPC)开发者套件。该套件将4台DGX Spark设备与4根连接线缆捆绑销售,旨在提供多设备互联的配置选项。

套件配置与硬件规格

根据官方产品页面信息,该开发者套件包含以下核心组件:

  • 主机设备:4台DGX Spark服务器
  • 连接配件:4根专用连接线缆
  • 文档与支持:HPC快速入门指南及90天免费英伟达AI企业版使用权

每台DGX Spark设备均搭载GB10 Grace Blackwell超级芯片,集成128GB统一内存、4TB存储空间以及ConnectX-7网络适配器。若将4台设备的内存简单相加,总容量为512GB,但这并不意味着单台设备具备512GB内存。

值得注意的是,网络交换机并未包含在销售清单中,而是被列为“最低要求”。这意味着用户需自行准备交换机以满足集群通信需求。关于价格,页面未直接标示整套套件售价,仅提示联系购买。虽然单台DGX Spark售价为6,950美元(约合人民币928万元),但该单价不能直接等同于整个套件的总成本。

算力指标与实际性能辨析

官方数据显示,单台设备的FP4格式人工智能算力为1 PFLOPS。需要明确的是,这一数值仅代表FP4精度下的理论AI算力指标,并不直接反映科学计算程序的执行速度或整套套件的实际吞吐量。

拓扑结构对性能的影响

HPC(高性能计算)涉及利用多个计算资源处理复杂任务,其性能不仅取决于硬件数量,还深受节点间数据交换方式的影响。英伟达在10月22日发布的技术博客中指出,不同的连接拓扑结构适用于不同的应用场景。

环形连接 vs. 交换机连接

1. 环形连接(Ring Topology)

英伟达指出,在无交换机的情况下,将4台DGX Spark以环形(Ring)结构依次连接,可能更适合单一AI模型的推理任务。在这种拓扑中,每个设备仅与其相邻设备直接相连。

  • 测试案例:使用Qwen3.8-27B模型,采用NVFP4精度进行推理。
  • 测试结果:4台物理环形连接配置的吞吐量为每秒32.82个Token。相比之下,单台设备的吞吐量为每秒11.86个Token,4台组合的性能约为单台的2.77倍。
  • 测试条件:输入8192 Token,输出256 Token,并发请求数为1。未使用推测解码(Speculative Decoding)和MTP技术。此为特定模型与设置下的数据,不代表通用基准。

2. 交换机连接(Switched Topology)

对于传统HPC工作负载,尤其是需要设备间直接通信的场景,英伟达强调必须使用交换机。例如,基于MPI(消息传递接口)的点对点通信任务中,环形连接因需经过多个跳数而效率较低,不具备优势。

  • 扩展性需求:若需将集群划分为多个子组,或扩展至8台及以上设备,必须依赖交换机连接。
  • 局限性:仅靠环形电缆无法实现将集群划分为独立设备组的逻辑拓扑。

总结与建议

综上所述,套件中包含4根连接线并不代表其能自动适配所有科学计算场景。英伟达在销售页面明确将交换机列为最低要求,并在博客中说明合适的连接方式取决于具体工作任务。此次展示的4机连接测试数据主要针对特定AI模型的推理性能,并非该套件整体HPC性能的通用基准值。

此前曾有媒体报道过在双GB300 DGX Station上分布式运行GLM-5.3的案例,但该硬件配置与本次DGX Spark套件不同,因此之前的测量结果不能直接作为本套件的性能参考。