【TechWeb】5月25日音讯，面壁智能晓示趋承清华大学、OpenBMB开源社区，追究发布并开源其在低比特大模子实际方针的最新后果——BitCPM-CANN。
这款中国首个十足基于国产算力平台华为昇腾收尾端到端实际并开源的三值（1.58-bit）大模子，继5月23日在华为鲲鹏昇腾斥地者大会（KADC 2026）完成初度时期亮相后，本日追究将其全系列模子向全社会盛开。
据先容，比较传统 BF16 精度，BitCPM-CANN 在推理阶段开释约6倍显存红利，同期将模子智商保留率保管在90%–97.2%。相似的斥地内存，不错承载远超以往的模子智商；约略反过来说，相似的模子智商在合并款末端上初始，只需要畴昔 1/6 的内存。这意味着，亚搏·体育世界杯(中国)官方网站改日有望在手机上初始 60B 大模子，手机的智能会大幅升迁。
开云体育app2026世界杯官方下载「2-bit」是近一年来端侧芯片行业的热点接洽话题，亦然在手机上初始更大参数模子的最大时期卡点之一。2-bit 量化将模子权重压缩 6-8 倍，使其能存滥觞机闪存，如 4GB 内存能放 16B，再互助 MoE 与激活规模敛迹、能放 32B；若内存扩大到 8GB，则能将模子参数扩大到 60B。
面壁智能暗示亚搏体育世界杯中国官网首页，BitCPM-CANN 的亮相，秀雅着面壁智能高效大模子「小钢炮」在端侧落地的智商进一步跃升，同期也通过开源向中国端侧大模子赛说念提交了一份新的答卷。
声明：新浪网独家稿件，未经授权辞让转载。 -->
