AMD 放出实验室测试数据,在 DeepSeek-R1 大模型推理场景下,Instinct MI455X 单卡推理吞吐对比英伟达 Vera Rubin 公开成绩最高领先 30%,单卡跑出 21333 token/s,这个结果是 AMD 自家性能实验室在固定测试环境、配套 ROCm 软件栈测出的,并不是第三方统一基准测试,只能作为参考,不能直接等同于所有模型、所有集群环境下都能稳定领先。MI455X 是 CDNA5 架构的 AI 加速卡,搭载 432GB HBM4 显存,显存容量比 Vera Rubin 多出不少,超大显存对长上下文、MoE 大模型推理很友好,能放下更多 KV Cache,减少跨卡数据搬运带来的延迟,这也是它在大模型推理场景拿到高吞吐的核心原因。同时 AMD 也推出 Helios 整机柜方案,一柜搭载 72 颗 MI455X,搭配 EPYC 处理器、Pensando 网络,面向超大模型训练、长上下文推理,和 Vera Rubin NVL72 机柜正面竞争,不过要注意 30% 领先只针对特定推理任务,在训练、HPC 高性能计算场景,两者优势会发生变化。
一、MI455X 核心参数清单
- 架构:CDNA5
- 显存:432GB HBM4,ECC 纠错
- 显存带宽:23.3TB/s
- 峰值 MXFP4 算力:40.3 PFLOPs
- 测试模型:DeepSeek-R1
- 本次测试单卡吞吐:21333 token/s
- 配套软件栈:ROCm
- 整机柜方案:Helios,72 卡规格
- 工艺:TSMC 2nm/3nm
二、MI455X 与 Vera Rubin 关键对比
| 项目 | AMD MI455X | NVIDIA Vera Rubin |
|---|---|---|
| 显存容量 | 432GB HBM4 | 288GB HBM4 |
| 显存带宽 | 23.3TB/s | 22.0TB/s |
| 本次 DeepSeek-R1 推理吞吐 | 领先最高 30% | 基准参考成绩 |
| FP4 理论峰值算力 | 领先约 15% | FP4 算力基准 |
| 软件生态 | ROCm,开源路线 | CUDA,生态成熟 |
| 适合场景 | 长上下文推理、MoE 大模型、HPC | 训练 + 推理,生态适配更广 |
三、为什么在这个推理场景能拉开差距
- 显存更大:432GB 可以容纳更长上下文的 KV Cache,减少频繁换页、跨卡通信
- 带宽更高:HBM4 带宽小幅领先,大批量 token 吞吐时瓶颈更少
- AMD 针对 DeepSeek-R1 做了 ROCm 侧的算子优化,专门适配本次测试
- 测试是固定精度、固定 batch、固定环境,属于最优条件下的成绩
四、需要分清的两个指标
✅ 推理吞吐(本次 30% 领先):每秒输出 token 数量,看大模型推理跑得多快,适合 AI 服务、API 推理场景
✅ 理论峰值算力(纸面领先 15%):FP4 理论算力,更多用来参考训练上限,和实际推理吞吐不是一回事
五、优势和短板
✅ 优势
- 超大显存,长上下文、MoE 模型推理优势明显
- 显存带宽更高,KV Cache 压力大的任务不容易卡
- Helios 整机柜一体化方案,搭配 AMD EPYC,生态闭环
- 双精度 FP64 性能很强,兼顾 AI 和科学计算 HPC
- 30% 领先是 AMD 自测特定模型,换别的模型差距会缩小甚至反转
- ROCm 生态成熟度、第三方适配数量,对比 CUDA 还有差距
- 实际落地的集群性能,还受交换机、调度框架、运维方案影响
❌ 短板
六、简单看懂这类 AI 卡测试流程
- 固定模型、精度、上下文长度、batch 大小,关闭无关后台进程
- 部署 AMD ROCm 或 NVIDIA CUDA,开启厂商最优算子
- 持续跑推理,统计稳定状态下每秒 token 输出
- 对比双方公开成绩,算出百分比差距
- 厂商放出最优测试结果,真实业务负载一般会低一些
【相关 FAQ】
问题 1:AMD MI455X 推理性能比 Vera Rubin 高 30%,这个 30% 是什么场景测出来的?
回答 1:AMD MI455X 推理性能比 Vera Rubin 高 30%,是 AMD 实验室在 DeepSeek-R1 大模型推理场景测出的吞吐对比,单卡 21333 token/s,属于特定模型、固定环境下的自测结果。
问题 2:AMD MI455X 推理性能比 Vera Rubin 高 30%,MI455X 和 Vera Rubin 显存差距多大?
回答 2:AMD MI455X 推理性能比 Vera Rubin 高 30%,MI455X 配备 432GB HBM4 显存,Vera Rubin 是 288GB HBM4,更大显存是长上下文推理吞吐优势的重要原因。
问题 3:AMD MI455X 推理性能比 Vera Rubin 高 30%,是不是代表所有场景下 MI455X 都更强?
回答 3:AMD MI455X 推理性能比 Vera Rubin 高 30%,并不是全部场景都更强,这个领先仅限本次 DeepSeek-R1 推理测试;训练、HPC、其他开源模型上表现会变化,而且 CUDA 生态适配范围更广。
【参考资料】
[2026-11-12](AMD MI455X 推理性能比 Vera Rubin 高 30%)快科技
[2026-11-12](AMD 公布 MI455X DeepSeek-R1 推理成绩,单卡 21333 token/s)AMD 官网
[2026-11-13](MI455X 对比 Vera Rubin:显存、带宽、算力差异解读)新浪科技
[2026-06-15](AMD Helios 机柜方案,MI455X 规格白皮书)AMD 官方技术文档
【免责声明】
30% 性能领先、21333 token/s 为 AMD 实验室特定模型、固定参数下自测数据,非第三方统一基准;不同大模型、上下文长度、调度框架、集群组网条件下,性能差距会明显变化,不代表采购后一定能达到该收益,内容仅作算力科普,不构成算力采购选型建议。
本文来自作者[Nova2026]投稿,不代表新品牌网立场,如若转载,请注明出处:https://www.china12315.com.cn/qyzx/202611/1426.html
评论列表(4条)
我是新品牌网的签约作者“Nova2026”!
希望本篇文章《AMD MI455X 官宣推理性能对比 Vera Rubin 高出 30%,单卡跑 DeepSeek-R1 可达 21333 token/s》能对你有所帮助!
本站[新品牌网]内容主要涵盖:互联网行业的追踪与探索
本文概览:AMD 放出实验室测试数据,在 DeepSeek-R1 大模型推理场景下,Instinct MI455X 单卡推理吞吐对比英伟达 Vera Rubin 公开成绩最高领先 30%,单卡跑出 21333 token s,这个结果是 AMD 自家性能实验室在固定测试环境、配套 ROCm 软件栈测出的,并不是第三方统一基准测试,只能作为参考,不能直接等同于所有模型、所有集群环境下都能稳定领先。MI455X 是 CDNA5 架构的 AI 加速卡,搭载 432GB HBM4 显存,显存容量比 Vera Rubin 多出不少,超大显存对长上下文、MoE 大模型推理很友好,能放下更多 KV Cache,减少跨卡数据搬运带来的延迟,这也是它在大模型推理场景拿到高吞吐的核心原因。同时 AMD 也推出 Helios 整机柜方案,一柜搭载 72 颗 MI455X,搭配 EPYC 处理器、Pensando 网络,面向超大模型训练、长上下文推理,和 Vera Rubin NVL72 机柜正面竞争,不过要注意 30% 领先只针对特定推理任务,在训练、HPC 高性能计算场景,两者优势会发生变化。