5月25日,面壁智能宣布联合清华大学正式开源中国首个基于昇腾训练的低比特端侧大模型BitCPM-CANN,从量化算子、训练算法到全链路框架,BitCPM-CANN均在华为昇腾(886058)上原生完成。在推理阶段释放约6倍显存红利,同时将模型能力保留率维持在90%–97.2%。(澎湃新闻)

5月25日,面壁智能宣布联合清华大学正式开源中国首个基于昇腾训练的低比特端侧大模型BitCPM-CANN,从量化算子、训练算法到全链路框架,BitCPM-CANN均在华为昇腾(886058)上原生完成。在推理阶段释放约6倍显存红利,同时将模型能力保留率维持在90%–97.2%。(澎湃新闻)