性能超英伟达A100，华为高管：近半中国大模型选择昇腾技术路线

6月18日消息，在近日举行的2024世界半导体大会暨南京国际半导体博览会上，江苏鲲鹏・昇腾生态创新中心的首席运营官王陶披露了昇腾集群的最新进展。据王陶介绍，昇腾集群已经完成了训练千亿参数大模型的技术路线，其性能更是超越了业界知名的英伟达A100。

在中国众多的大模型中，近半数选择了昇腾技术路线，这足以彰显其在AI领域的强劲实力。王陶进一步指出，昇腾AI芯片在训练效率上最高可以达到英伟达芯片的1.1倍。更令人瞩目的是，在训练如meta Llama、BloomGPT等大型模型时，昇腾AI的算力训练效率远超英伟达A100，甚至达到了其他国产友商的10倍。

王陶骄傲地表示，昇腾目前已经成为了国产化大模型的首选。他举例说，科大讯飞在经过严格测试后，也采纳了华为的万卡集群方案。与英伟达A100相比，该集群在效率上能达到0.8至1.2倍。尽管在某些方面与英伟达A100还存在微小差距，但在大模型训练领域，昇腾已经与英伟达A100芯片不相上下。特别是在万卡算力集群的实践应用上，无论是鲲鹏云脑还是科大讯飞，都已经过了市场的严格检验。

据ITBEAR科技资讯了解，此前在华为全连接大会2023上，华为发布了一款全新架构的昇腾AI计算集群——Atlas 900 SuperCluster，该集群可支持超过万亿参数的大模型训练。其创新之处在于采用了华为全新的星河AI智算交换机CloudEngine XH16800，利用该交换机高密度800GE端口的能力，仅通过两层交换网络就能实现2250节点(相当于18000张卡)的超大规模无收敛集群组网。这一技术突破无疑进一步巩固了昇腾在AI领域的领先地位。