新浪科技 股票

面壁智能联合清华正式开源中国首个基于昇腾训练的1.58-bit端侧大模型BitCPM-CANN

市场资讯 05.25 14:24

(来源:澎湃新闻)

5月25日,面壁智能宣布联合清华大学正式开源中国首个基于昇腾训练的低比特端侧大模型BitCPM-CANN,从量化算子、训练算法到全链路框架,BitCPM-CANN均在华为昇腾上原生完成。在推理阶段释放约6倍显存红利,同时将模型能力保留率维持在 90%–97.2%。(澎湃新闻记者 范佳来)

加载中...