首页 - 科技 > Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100!

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100!

发布于：2024-09-25 作者：凹凸曼 阅读：54

早在4月份，Intel就宣布了新一代AI加速器Gaudi 3，现在它终于发布了，详细的规格参数也已出炉，竞争对手直指NVIDIA H100 GPU加速器，当然后者的Blackwell系列也要上量了。

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

Gaudi 3的规格提升幅度堪称跨越式的，制造工艺从台积电7nm来到台积电5nm，MME(矩阵乘法引擎)从2个增加到8个，虽然每个MME内部的TPC(张量处理核心)从12个减少到8个，但是总数从24个大幅增加到了64个，另外媒体解码器差从8个增至14个。

内置SRAM缓存容量翻番至96MB，带宽翻倍至12.8TB/s。

核心性能方面，MME BF16/FP8都是1835 TFlops(每秒1.835亿亿次)，矢量BF16则是28.8 TFlops(每秒28.8万亿次)，分别提升了3.2倍、1.1倍、1.6倍。

HBM2E高带宽内存容量从96GB增加到128GB(八颗)，带宽也顺应增加来到惊人的3.7TB/s。

24个200Gb RDMA网络接口，双向网络互连带宽1.2TB/s，主机接口峰值双向带宽128GB/s，系统总线升级为PCIe 5.0 x16。

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

按照官方说法，Gaudi 3对比NVIDIA H100，LLM大模型推理性能领先50％、训练时间快40％，性价比则是对手的2倍。

开发方面，无缝兼容PyTorch框架、Hugging Face Transformer和扩散模型。

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

Gaudi 3加速器提供三种部署形态，一是OAM 2.0标准夹层卡，被动散热峰值功耗900W，液冷散热峰值功耗1200W，支持48个112Gb PAM4SerDes网络链接。

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

二是HLB-325通用基板，支持八颗Gaudi 3，具体功耗未披露。

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

三是HL-338扩展卡，PCIe 5.0 x16接口，被动散热峰值功耗600W，还可以四卡互连。

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

Intel此前已宣布，IBM将会在其云服务中部署Gaudi 3加速器。

另有消息称，Gaudi 3加速器也有中国特供版，其中OAM模组、PCIe模组的峰值功耗都限制至450W，算力自然也会大打折扣，但暂无更进一步说法。

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100


二维码

扫一扫关注我们

版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件至 3941001135@qq.com举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。

上一篇：非承载车身+三把锁！长城二代哈弗H9上市：19.99万起!

下一篇：上市即巅峰！华为智界R7上市24小时大定突破6000台!

相关文章

客服QQ：3941001135

客服邮箱：3941001135@qq.com

二维码

本站部分文字及图片均来自于网络，如有侵权请及时联系删除处理

Copyright © 2023 本站技术支持0571YP技术支持 苏ICP备2024129037号-1