2025-07-29万象ai
7月28日消息,2025世界人工智能大会(WAIC)于7月26日在上海世博中心启幕。本次WAIC,华为首次线下展出昇腾384超节点Atlas900A3SuperPoD,该产品基于超节点架构,通过总线技术实现384个NPU之间的大带宽低时延互联,解决集群内计算、存储等各资源之间的通信瓶颈。
据华为中国官方消息,昇腾384超节点Atlas900SuperPoD被评选为本次WAIC2025镇馆之宝,其主要有以下3大优势:
超节点内任意两个AI处理器之间通信带宽,相较于传统架构提升15倍,超节点内单跳时延降低10倍。
昇腾超节点支持全局内存统一编址,具备更高效的内存语义通信能力。通过更低时延指令级内存语义通信,可满足大模型训练/推理中的小包通信需求,提升专家网络小包数据传输及离散随机访存通信效率。昇腾384超节点Atlas900SuperPoD是业界唯一突破Decode时延15ms的方案,满足实时深度思考下的用户体验需求。
经过实际测试,在昇腾超节点集群上,LLaMA3等千亿稠密模型训练性能可达传统集群的2.5倍以上。在通信占比更高的Qwen、DeepSeek等多模态、MoE模型上,可以达到3倍以上的提升。
据此前报道,在今年5月的鲲鹏昇腾开发者大会上,华为推出了昇腾超节点,成功实现业界最大规模的384卡高速总线互联。昇腾超节点具备超大带宽、超低时延、超强性能的三大优势,包括多款训练和推理产品,基于超节点创新架构,更好地满足模型训练和推理对低时延,大带宽,长稳可靠的要求。
华为官方透露,目前业界已基于昇腾适配和开发超过80个大模型,在基础大模型方面多个技术方向均有积累,如讯飞星火认知、DeepSeek、Qwen、鹏城、LLaMA等。同时,昇腾联合2700+行业合作伙伴,共同孵化了超过6000+个行业解决方案。
华为本次展区面积超过800平方米,注意到,除了展示昇腾软硬件能力,训练、推理解决方案和开源开放的软硬件生态,华为还携手伙伴共同展示互联网、运营商、金融、政务、医疗、油气、交通等11大行业解决方案实践。
2025世界人工智能大会专题
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表本站立场。文章及其配图仅供学习分享之
新品榜/热门榜