AMD实现处理器效能提升30倍!比原定时间提早一年
12月13日消息,实时间早在四年前,现处效AMD就曾设定目标,理器到2025年EPYC系列服务器处理器和Instinct系列AI芯片的提升提早能效,较2020年提高30倍。倍比如今,原定MI300X AI芯片基本上实现目标,实时间时间提了早一年。现处效
据THW报道,理器AMD两个64核心EPYC 9575F CPU、提升提早八个Instinct MI300X AI芯片及2304GB DDR5内存的倍比服务器,Llama3.1-70B(vLLM 0.6.1.post2、原定TP8)测试推理性能,实时间用一组复杂计算确定系统能源效率,现处效并与2020年的理器旧机器比较,
结果显示,新机能源效率是旧机的28.3倍。
不过,AMD并未透露2020年的旧机是何规格。但大概率是EPYC 7002系列,Zen 2架构,每个CPU最多64个核心,以及CDNA 1架构Instinct MI100 AI芯片。
AMD表示,除了强力硬件改进,更高性能效率是架构进步,加上软件优化结合,是跳跃式进展。
今年10月份的Advancing AI 2024大会上,AMD正式发布了新款AI芯片——GPU加速卡“Instinct MI325X”。它在大获成功的MI300X基础上再进一步,主要是增强了HBM内存部分。
MI325X配备了多达256GB HBM3E内存,相比于MI300X又增加了64GB。
MI325X也支持八块并行组成一个平台,这就有多达2TB HBM3E、48TB/s带宽,总的性能高达FP16 10.4 PFlops(每秒1.04亿亿次)、FP8 20.8 PFlops(每秒2.08亿亿次)。
对比NVIDIA H200,无论单卡还是八卡平台,不同大模型推理的性能都可以领先20-40%。
训练性能方面,单卡可领先H200 10%,八卡平台则是持平。
MI325X加速卡和平台将在四季度内投产,而合作伙伴的整机系统、基础架构解决方案,将从明年第一季度起连续推出。
相关文章
一加Ace 5首发6400mAh冰川电池:能量密度达859Wh/L 刷新纪录
12月25日消息,一加Ace 5将于12月26日正式亮相。该机首发新一代冰川电池,容量达到了6400mAh,比上代多了900mAh,但体积还变小了。据悉,一加冰川电池采用全新一代硅碳负极电池技术,相较2024-12-26[流言板]得分里程碑!塔特姆半场出战18分钟,10中4得13分5板5助1帽
[流言板]得分里程碑!塔特姆半场出战18分钟,10中4得13分5板5助1帽由篮球资讯发表在篮球资讯 50211月13日讯 NBA杯第一个比赛日,凯尔特人和老鹰的比赛正在进行中。半场比赛结束,塔特姆出战2024-12-26无营销拿金球!罗德里2月采访:个人奖项靠营销 我和哈维小白都缺
10月29日讯 罗德里荣获2024年的金球奖,成为90后第一位拿奖的球员。罗德里曾在年初表示,个人奖项靠营销,而他和哈维小白都缺乏营销。罗德里年初今年2月)采访:镜报主编John Cross:一般位置2024-12-26- [流言板]东部垫底之战,雄鹿轻取猛龙,拿到赛季第三胜由篮球资讯发表在篮球资讯 50211月13日讯 今天NBA常规赛雄鹿主场对阵猛龙的比赛已经结束。全场战罢,雄鹿以99-85战胜猛龙。雄鹿拿下本赛季第2024-12-26
- 近日《怪物猎人:荒野》新怪物波衣龙的新演示视频公布,展示了它的独特“爆衣”机制。本作将于2025年2月28日发售,登陆PS5、XSX/S和Steam平台。全新视频:据悉,波衣龙是君临绯红森林,位居该生2024-12-26
- 11月14日消息,小米CEO雷军今日开启直播,展示小米“车位到车位”端到端智能驾驶技术,这也是该技术的行业首次直播。直播期间,雷军谈到,有一次在北京举办的论坛,我说智能驾驶无论2024-12-26
最新评论