基于国产昇腾AI云服务训练，华为云发布盘古大模型5.5

图片地址：https://images.tmtpost.com/uploads/images/2025/06/a0483bea38d2ad8cf0257567f9d79b6c_1750423456.png

6月20日消息，在华为开发者大会2025（HDC 2025）上，华为常务董事、华为云计算CEO张平安宣布基于CloudMatrix 384超节点的新一代昇腾AI云服务全面上线，同时宣布盘古大模型5.5正式发布，自然语言处理（NLP）、计算机视觉（CV）、多模态、预测、科学计算五大基础模型全面升级。CloudMatrix 384超节点，新一代昇腾AI云服务 随着大模型训练和推理对算力需求的爆炸式增长，传统计算架构已难以支撑AI技术的代际跃迁。华为云相关专家表示，传统的分布式系统本质上是一个松耦合系统，服务器之间一般用 25Gbps或100Gbps 以太网带宽就可以满足绝大多数应用的需求。而 AI 时代的应用负载与传统业务有很大不同，当前服务器集群的以太网互联带宽已经越来越难满足前面提到的 AI 时代的训练、推理等场景的需求。云平台必须通过新型的超高性能网络把大量 GPU、CPU等多元算力连接在一起，并且用“对等架构”替换掉传统的“主从架构”，让多元算力可以直接通信，不需要通过 CPU，这样才能满足需求，这个能力是 AI 原生云基础设施最重要的能力。华为云新一代昇腾AI云服务基于CloudMatrix 384超节点，首创将384颗昇腾NPU和192颗鲲鹏CPU通过全新高速网络MatrixLink全对等互联，形成一台超级“AI服务器”，单卡推理吞吐量跃升到2300 Tokens/s，与