本报讯 (记者梁傲男)1月14日,智谱(HK2513)联合华为开源新一代图像生成模型GLM-Image,模型基于昇腾Atlas 800T A2设备和昇思MindSpore AI框架完成从数据到训练的全流程,是首个全程在国产芯片上完成训练的SOTA多模态模型。
智谱/供图
据记者了解,GLM-Image采用自主创新的“自回归+扩散解码器”混合架构,实现了图像生成与语言模型的联合,是智谱(HK2513)面向以NanoBanana Pro为代表的新一代“认知型生成”技术范式的一次重要探索。
智谱(HK2513)方面表示,“GLM-Image是我们对国产计算生态的一次深度探索与验证。依托昇腾NPU和昇思MindSpore AI框架,使用动态图多级流水下发、高性能融合算子、多流并行等特性,我们自研了模型训练套件,全面优化数据预处理、预训练、SFT和后训练的端到端流程。通过动态图的多级流水优化机制,将Host侧算子下发的关键阶段流水化并高度重叠,消除下发瓶颈;通过多流并行策略,通信和计算互掩,打破文本梯度同步、图像特征广播等操作的通信墙,极致优化性能;使用AdamW EMA、COC、RMS Norm等昇腾亲和的高性能融合算子,同步提升训练的稳定性和性能。”
