面壁智能联合清华等开源中国首个基于昇腾训练的1.58-bit端侧大模型BitCPM-CANN

OmniTools 5月25日消息，面壁智能联合清华大学等机构正式开源BitCPM-CANN。该模型是中国首个基于华为昇腾平台训练的1.58-bit超低比特端侧大语言模型，主要面向边缘设备部署，聚焦高能效与低资源消耗。BitCPM-CANN在保持核心推理能力的同时，显著降低了模型参数精度与计算开销，适用于各类终端侧AI应用场景。目前项目代码及相关技术细节已全面向公众开放。