随着NVIDIA平台持续探索Blackwell Ultra GPU和Blackwell GPU架构的极限潜力，这些推理性能的天花板会不断被捅破。 图1. 在NVL8配置下运行TensorRT-LLM软件的NVIDIA B200 ...

NVIDIA在2025 GTC大会上宣布了重大突破 - 搭载8颗Blackwell GPU的DGX系统在DeepSeek-R1模型(6710亿参数)推理任务中创下世界纪录: ·单用户推理速度超过每秒250个token ...

IT之家 3 月 19 日消息，英伟达在今日举行的 NVIDIA GTC 2025 上宣布其 NVIDIA Blackwell DGX 系统创下 DeepSeek-R1 大模型推理性能的世界纪录。 据介绍，在搭载了八块 Blackwell GPU ...

英伟达推出开源推理软件Dynamo 为AI工厂降本增效,英伟达,nvidia,gpu,推理,dynamo ...

3 月 19 日消息，英伟达在今日举行的 NVIDIA GTC 2025 上宣布其 NVIDIA Blackwell DGX 系统创下 DeepSeek-R1 大模型推理性能的世界纪录。 据介绍，在搭载了八块 Blackwell GPU 的单个 ...

DoNews3月19日消息，英伟达在今日举行的 NVIDIA GTC 2025 上宣布其 NVIDIA Blackwell DGX 系统创下 DeepSeek-R1 大模型推理性能的世界纪录。 据介绍，在搭载了八块 Blackwell GPU 的单个 ...

与此同时，每token的成本也实现了20倍的降低。 通过在Blackwell架构上应用TensorRT DeepSeek优化，英伟达让具有FP4生产级精度的模型，在MMLU通用智能基准 ...