9 年前 Tesla V100 四卡集群 AI 推理性能超越两台 DGX Spark

封面为AI生成的主题示意图，非新闻现场照片。

10 月 13 日消息，YouTube 频道 Jun Yamag 今日发布测试视频，展示了利用 NVIDIA 早期数据中心 GPU Tesla V100 构建的 4 卡集群在 AI 推理任务中的强劲表现。该集群基于 NVLink 载板改装而成，在 Qwen3.8-Flash-Next 基准测试中，其长提示处理速度较 M5 Ultra 快 230%，比两台 DGX Spark 快 40%。Tesla V100 是英伟达于 2017 年基于 Volta 架构推出的产品，常用于 AI 训练与推理。本次测试中，测试者将四张配备 32GB HBM2 显存的 V100 通过 NVLink 互联技术连接，NVLink 载板提供 300GB/s 带宽及 6 条 NVLink 2.0 连接，并通过 PCIe x8 接口接入主板。为容纳四颗独立 GPU 并管理约 300W 的单卡功耗，改装方案采用了 NVIDIA A100 散热器。测试对比对象包括两台配备 128GB LPDDR5X 统一内存的 DGX Spark 以及搭载 M5 Ultra 芯片的 Mac Studio 设备，其中涉及 4-bit 量化的模型测试以模拟特定推理负载。在长提示处理测试中，V100 集群不仅大幅领先 M5 Ultra，也保持了对比对象的两台 DGX Spark 明显的速度优势。分析认为，Apple Silicon 与 V100 集群之间的差距可能部分源于软件优化程度的不足。短提示处理测试显示，4 颗 V100 继续保持 40% 的速度优势，较 M5 Ultra 快 163%。而在短提示 Token 生成测试中，V100 集群达到 100.6 tok/s，相比两台 DGX Spark 快 121%，而 M5 Ultra 的成绩为 44.5 tok/s。该结果证明旧款数据中心 GPU 在特定推理负载下仍具备高吞吐能力。尽管面临软件生态挑战，通过合理的硬件互联与散热改装，9 年前的技术组合在性价比和性能释放上依然能挑战较新的消费级或通用工作站平台。