AMD举办Advancing AI 2024大会:企业级CPU、GPU大更新 加速AI布局
- 国际
- 2024-10-11 03:30:30
- 743
新浪数码苏航 发自美国旧金山
美国旧金山时间10月10日,半导体公司AMD举办“Advancing AI 2024”活动,发布了一系列企业相关的产品,其中包括Instinct MI325X GPU加速器、第五代AMD EPYC服务器处理器,以及Ryzen AI PRO 300系列处理器等。
新品众多,且大多是企业级数据中心相关的产品,不免让人觉得有些眼花缭乱,但实际上他们都有一个共同的主题,那就是AI。Instinct MI325X加速器不必多说,这是AMD在AI加速器市场站稳脚跟的关键,它将直接与英伟达的H200芯片竞争;第五代AMD EPYC服务器处理器为云、企业和AI提供强大算力;而Ryzen AI PRO 300系列处理器则将AI能力带给企业商用笔记本产品。
“Advancing AI 2024”就如它的名字,是AMD推进人工智能、扩大其 AI 市场份额的重要一步。
Instinct MI325X GPU加速器
在AI加速器市场,面对英伟达这样的对手,AMD需要拿出有足够诚意的产品。去年发布的Instinct MI300X取得了一定成功,而作为它的继任者Instinct MI325X在内存和浮点运算上有了新突破。
由于配备了速度更快、密度更高的HBM3E内存,Instinct MI325X的内存带宽提升到6TB/s,容量提升为256GB。另外,它的浮点运算的能力也提升了近30%。AMD在介绍这款产品时称,在开源工作负载中,它相比竞争对手有1.2倍到1.4倍的性能提升。
这只是一个Instinct MI325X,AMD将其嵌入到一个平台中,其中包含8个这样的加速器,这意味着平台上所有的能力将翻8倍,而推理性能相比竞争对手提升最高1.4倍,训练模型的性能也追平了对手。
除了Instinct MI325X GPU加速器,AMD还预告了Instinct MI350系列,它是前者的继任者,采用3纳米制程,全新的CDNA 4架构,内存容量提升至288GB,内存带宽提升至8TB/s。平台级别的产品中,内存容量超过2.2TB,FP6和FP4下可实现74 PF的计算。
第五代AMD EPYC服务器处理器
对于AMD来说,服务器处理器市场至关重要。从2018年开始,AMD EPYC的市场份额就在不断提升,如今这个系列的产品已经更新到了第五代。
第五代AMD EPYC服务器处理器有两个版本,一个是基于Zen 5架构,拥有128颗核心,256线程;另一个基于Zen 5c架构,拥有192颗核心,384线程。制程工艺也不一样,一个基于4nm,另一个基于3nm。
内存方面,第五代AMD EPYC服务器处理器拥有12个内存通道,支持6TB插槽容量,并配有两个插槽。I/O启动后不仅可以保护CPU,还可以保护平台中连接到CPU的全部设备。
第五代AMD EPYC服务器处理器在云和企业工作负载中,IPC性能提升了17%;而HPC和AI的IPC性能提升了37%。这是相当大的提升了。
性能提升之外,AMD瞄准了那些4年未更新的数据中心。官方宣称,现在客户可以使用131个服务器代替上千个数年前的服务器,来实现后者所有功能。这样做的直接好处就是,降低了68%的功耗,减少了87%的服务器数量,进而降低客户的成本。并且AMD提供了一套完整的迁移工具,就怕客户嫌麻烦不买账。
那么先进的服务器处理器对AI有什么帮助呢?AMD展示了多项数据,如果单纯用EPYC来完成所有AI工作,相比竞争对手,其有3倍的机器学习能力提升,3.8倍端到端人工智能和搜索能力的提升,还有1.9倍大语言模型能力提升。
如果你买了昂贵的GPU用来做AI,不管是AMD自家的Instinct MI300X系列,还是对面的H100系列,EPYC都可以最大化GPU的能力。而如果是CPU和GPU搭配处理AI任务,第五代AMD EPYC服务器处理器依然有优于竞争对手的表现。总之一句话就是,买了第五代AMD EPYC,你怎么用都不吃亏。
锐龙Ryzen AI PRO 300商用移动系列处理器亮相
虽然是锐龙系列,虽然是AI PC,但这个系列的处理器不是面向消费级市场,而是面向企业级PC的。它的架构和不带“PRO”的版本基本一致:CPU部分采用Zen 5架构,NPU采用XDNA 2架构,GPU则采用RDNA 3.5架构。其中NPU的算力提升到50TOPS以上,完全满足微软Copilot+PC的条件。所以AMD称,这个系列处理器是世界首款专为企业Copilot+PC而设计的芯片。
与“非PRO”版不同的是,“PRO”版针对企业加入了AMD PRO技术。比如芯片内置了安全技术层,避免复杂攻击;方便企业快速部署,并兼容已有的基础设施;还与软件供应商合作,确保软件稳定性和可用性等等。
此外,AMD还讨论了产品的续航,由于采用了领先的4nm制程工艺,搭载这款处理器的AI PC一般使用时间可达23小时;连续使用Microsoft Team,续航可超过9小时。虽然没人想要连续使用Team超过9小时,但不可否认,锐龙AI PRO 300系列拥有这样的能力。
将这样一款AI PC处理器带到企业级市场,AMD补全了在企业端AI市场的最后一块拼图。
写在最后:
Advancing AI 2024整场活动都是面向企业市场的,这对于消费者来说似乎无关紧要,但对那些耳熟能祥的科技公司,比如谷歌、微软、IBM、思科等等,却显得尤为重要。这些“巨头”企业也派出了代表为AMD站台,足见这场活动在企业领域的影响。
而说回AI,与竞争对手相比,AMD更像是一个挑战者,通过战略收购、创新产品开发和强大的合作伙伴关系,来试图撼动“霸主”的地位。“数据中心和人工智能(AI)为AMD带来了巨大的增长机会”,AMD董事长兼首席执行官苏姿丰 (Lisa Su) 博士表示。
“展望未来,我们看到,2028年,数据中心、人工智能、加速器市场将增长至5000亿美元。通过我们扩展的芯片、软件、网络和集群级解决方案,我们致力于提供大量开放式创新。”
发表评论