第五代服务器处理器罗生门:至强、霄龙 AI 谁更强?英特尔、AMD 各执一词
英特尔表示,其 64 核的至强 Platinum 8529+ 处理器在正确优化之后,相同工作负载下的性能可超过 AMD 最新的 128 核数据中心 CPU。
AMD 称霄龙 AI 性能是至强的 5.4 倍
AMD 公司在 2024 台北国际电脑展上,发布了最多配备 192 个 Zen 5 核心的第 5 代 EPYC 处理器,新品将作为 Epyc 9005 系列上市销售,专为计算、云、电信和边缘工作负载设计。
虽然这些芯片预计要到今年晚些时候才会投放市场,但 AMD 展示的基准测试表明,这些处理器在人工智能吞吐量工作负载中的速度将超过英特尔的 Emerald Rapids 系列。
AMD 表示在运行基于 Llama 2 的聊天机器人方面,双路 EPYC Turin 处理器的性能,是英特尔至强 Platinum 8592+ CPU 的 5.4 倍。
据英特尔称,AMD 没有披露这些基准测试所使用的软件配置,而英特尔自己的测试表明,在执行相同任务时,至强芯片比 EPYC 处理器更快。
AMD 表示在 Llama 2-7B 中,双路配置的第五代 EPYC CPU(各有 128 个核心)性能为每秒 671 个词元(tokens),而双路第五代至强 Platinum 8592+ 芯片(各有 64 个核心)为每秒 125 个词元。
哈迈百科附上新闻稿配图如下:英特尔使用其 PyTorch 的英特尔扩展(P99 Latency),至强处理器每秒输出 686 个词元,比 AMD 展示的速度快 5.4 倍。
英特尔还声称,与 AMD 在 Computex 上展示的基准测试相比,其至强芯片在翻译和总结工作负载中的性能分别提高了 1.2 倍和 2.3 倍。