“别看我只有1.58个比特，我的能力却从未掉线。”

这是我在思考1.58-bit大模型时，脑中浮现的一句“独白”。

想象一下，一台强大的AI模型，它的“神经元”——也就是模型的权重参数——被压缩到极限，每个单元只能表达三种状态：+1、0或-1。这听起来像是“脑容量”被砍到只剩1/8？不，恰恰相反，在这种极致的约束下，它依然能够精准理解你输入的每一段话、生成逻辑严密的回答，其任务能力保留率高达90%以上，最高甚至可达97.2% 。

这就是微软研究院两年前提出的BitNet b1.58架构所展现的神奇之处——证明了我们可以在极低的计算精度下，保持甚至超越传统FP16模型的性能。而在刚刚过去的这个周末，这一技术路线在中国迎来了一次里程碑式的落地。

2026年5月23日，在华为鲲鹏昇腾开发者大会（KADC 2026）上，面壁智能联合清华大学、OpenBMB开源社区，正式发布了中国首个完全基于华为昇腾平台端到端训练并开源的三值（1.58-bit）大模型——BitCPM-CANN。

这不仅仅是一次模型的发布，更是一次信号明确的宣示：国产算力，终于跑通了从训练到推理的全链路自主闭环。

01｜1.58-bit是什么？当AI的“神经元”只剩三个选项

要理解BitCPM-CANN的含金量，首先需要回答一个问题：1.58-bit到底意味着什么？

传统的AI大模型，用16位浮点数（FP16）或32位浮点数（FP32）来存储每个权重参数。这就像用“万分之一毫米”的精度去丈量一个人的身高——精度有余，但内存消耗巨大。

BitNet架构则走了一条完全不同的路。它将每个权重压缩到只有三个选项：-1、0或+1。这是什么概念？

回到高中数学课：log₂3≈1.585。也就是说，每个权重只需要约1.58个比特的信息量，就能完整表达这三种状态。相较于FP16的16个比特，压缩率高达10倍。

但这还不是最精彩的部分。更核心的革命在于计算方式的根本改变。

在传统模型中，神经网络的核心运算是“矩阵乘法”，本质上是大量的浮点乘法累加操作（MAC，Multiply-Accumulate） 。而在1.58-bit的框架下，权重只剩下三个值：

• 如果权重是+1，乘以它的结果就是它本身；
• 如果权重是-1，乘以它的结果就是它的相反数；
• 如果权重是0，乘以它的结果就是0——甚至连算都不用算。

换句话说，昂贵的浮点乘法，变成了简单的整数加法，甚至直接跳过。这就像把一个整天算微积分的数学家，突然叫他改做小学生加法——效率的天壤之别不言而喻。

这正是BitNet架构为什么能在CPU上流畅运行百亿参数大模型的核心奥秘。而BitCPM-CANN，正是这一革命性架构在国产算力平台上的第一次完整实践。

02｜BitCPM-CANN：每比特的“信息密度”被推到了极限

BitCPM-CANN并非凭空诞生。它的“母体”是面壁智能广受欢迎的高效大模型“小钢炮”——MiniCPM-4全精度系列。

这就好比一家三代同堂：MiniCPM-4是用“宽车道”修路（FP16/BF16精度），BitCPM-CANN是同一张设计图但改成了“只容一辆车通行的窄车道”（1.58-bit三值量化）——目的地不变，但施工方案和通行效率天差地别。

如何让窄车道上的车辆还能顺利抵达目的地？ 这恰恰是BitCPM-CANN最难的技术攻关点。

面壁智能AI Infra负责人李宇轩解释，极低比特模型对数据噪声极其敏感，必须做更严格的清洗与筛选，避免无效信息干扰学习；同时需要选用对称、带零点的高性能量化器来减少压缩损耗；在训练层面，则采用 “先QAT（量化感知训练）+后大模型蒸馏”的组合方案。

QAT（Quantization-Aware Training）——量化感知训练——与传统的PTQ（Post-Training Quantization，后训练量化）有着本质区别。

PTQ是“先盖高楼，再拆成矮房子”：先用高精度（如BF16）训练完整模型，训练完成后，再试图把它的每个参数“四舍五入”压缩到低位宽。结果可想而知：压缩越狠，性能损失越大，本质上是一种“以精度换内存的工程妥协”。

而QAT则完全不同。模型在训练的一开始，就被放在1.58-bit的“紧箍咒”中学习。 它不是被动压缩，而是主动学习如何用极有限的三值权重来承载和表达知识。这迫使每一个比特发挥出最大的信息密度和知识承载效率，权重精度不再取决于位宽大小，而是取决于每比特的信息密度。

路径一变，结果天差地别。

最终的评测结果，证实了这条路的价值。BitCPM-CANN包含0.5B、1B、3B、8B四个尺寸，与同尺寸的MiniCPM-4全精度系列做了完整的逐项对照评测。

在11项通用任务的均分评测中：

模型	11项任务均分	同尺寸全精度基准	能力保留率
BitCPM-CANN-8B	77.84	81.31	95.70%
BitCPM-CANN-3B	72.32	74.42	97.20%（最高）
BitCPM-CANN-1B	63.42	65.30	97.10%
BitCPM-CANN-0.5B	51.98	57.71	90.10%

数据来源：面壁智能官方开源评测结果

相当惊艳的数据：即使是经过1.58-bit的极致压缩，8B参数版本仍然保留了全精度模型95%以上的能力。 正如微软研究院的论文所言，在一定模型规模（约3B参数）以上，BitNet b1.58的性能甚至能媲美或超过同等规模的半精度模型。BitCPM-CANN-3B高达97.20%的保留率，恰恰印证了这一理论。

03｜运行在旗舰手机上：6倍显存红利的真实意义

如果说上述技术指标有些抽象，那么另一个数字则更为直观：

相比传统的BF16精度，BitCPM-CANN在推理阶段释放了约6倍的显存红利。

6倍，意味着什么？

• 一个8B参数的BitCPM-CANN模型，可以轻松跑在当前主流旗舰手机之上。
• 同样的设备内存，可以承载远超以往的模型能力；反过来说，同样的模型能力，只需过去1/6的内存。
• 未来，结合MoE（混合专家模型）和Offloading（算力/显存卸载）等技术，60B参数的大模型有望装入手机。

这背后有一个紧迫的现实背景。据李宇轩透露，2026年以来全球内存价格已上涨约5倍。内存涨价不仅倒逼厂商控制成本、限制设备内存大小，更传导到所有需要在内存中运行的模型应用程序。行业对“模型内存尺寸”的要求比以往任何时候都更为严苛。

而BitCPM-CANN的6倍显存红利，正是对这一行业痛点的直接回应。从某种意义上说，这项技术的出现恰到好处——如果不是内存价格在过去数月内翻了数倍，整个行业可能不会如此急切地需要1.58-bit这个级别的压缩方案。

04｜昇腾CANN：国产算力的“系统级工程”

将这一切从理论变为现实的，是面壁智能团队与华为昇腾CANN（Compute Architecture for Neural Networks）异构计算架构之间的深度协同。

从量化算子、训练算法到全链路框架，BitCPM-CANN均在华为昇腾上原生完成。这意味着：

• 量化算子在昇腾CANN上原生开发，没有走任何“兼容层”的捷径；
• 量化感知训练算法全栈自主可控，并行策略、算子融合、分布式训练完全基于昇腾体系；
• 面壁智能基于MindSpeed × Megatron-LM主干搭建了完整的低比特训练底座，包含环境适配、32K长序列支持、并行策略、融合算子等完整工程体系。

面壁智能团队透露，昇腾平台的适配与优化耗时约三周。这个数字在行业内意味着什么？

CANN作为昇腾软件底座，已于2026年全面开源开放。在算子编程层面，实现了Triton和TileLang接口100%兼容，开发周期缩短至一周内，已支持超600个Triton算子和300个TileLang算子，覆盖主流模型关键算子样例。AI框架方面，CANN全面支持PyTorch生态，实现2300多个API与社区对齐。

换句话说，CANN已经从“能用”迈向了“好用” ——低比特训练开发者终于有了可复用的公共基础设施，而不必从零造轮子。

对于面壁智能而言，这一切正是双方自2024年深度合作以来的自然延伸。从轻量化端侧大模型MiniCPM全面适配，到推理深度优化，再到如今的BitCPM-CANN原生训练，这是一条经过长期验证的协作路径。

05｜一次训练，四个模型，全链路国产化

BitCPM-CANN并非一个孤立的模型，而是0.5B、1B、3B、8B四个参数版本的完整家族。这种做法在行业内并不常见——大多数低比特模型开源时只提供单一尺寸，而BitCPM-CANN覆盖了从入门级到旗舰级的全场景部署需求。

从技术角度审视，BitCPM-CANN的贡献体现在多个维度：

一、打破国外低比特生态垄断。 BitCPM-CANN是全球首个在昇腾平台上完成端到端训练的1.58-bit大模型，意味着低比特大模型不再依赖CUDA生态，国产算力可独立支撑世界级大模型研发。

二、构建可复用的低比特训练基础设施。 面壁智能基于MindSpeed × Megatron-LM搭建的低比特训练底座，将环境适配、长序列支持、并行策略、融合算子封装为一套完整体系。从此，所有面向昇腾的低比特训练工作都可建立在同一套公共基础设施之上——这对整个国产AI生态具有基础设施级别的意义。

三、用“能力保留率”撕掉了“性能折损”的标签。 长期以来，低比特量化一直被视为“以精度换内存”的妥协。BitCPM-CANN用90%-97.2%的能力保留率，向行业证明了低比特并非被动压缩，而是一种独立的、能够达成优秀水平的训练范式。

正如面壁智能AI基础架构技术负责人、清华大学计算机系高性能所博士后李宇轩所言，在8B以内尺寸的模型训练上，昇腾的体验已经比较好，训练稳定性、芯片利用率接近可比状态。这句话可以从多个角度理解：它既是对昇腾平台的认可，也隐含着一个事实——更大规模模型的训练仍需要进一步的持续优化。

但无论如何，第一次跑通的意义无可替代。

06｜从“跑通”到“普及”：生态的意义

如果说技术突破是“破冰”，那么开源才是“融冰”。

BitCPM-CANN的0.5B、1B、3B、8B全系列模型权重已同步开源至HuggingFace和ModelScope社区。面壁智能表示，希望开发者能够“零门槛体验国产算力在低比特场景的真实性能”。

这在低比特大模型领域具有标志性意义。此前，低比特大模型的核心技术路线和标杆模型几乎全部来自国外，国内既缺乏系统性的工程验证，也缺少自主可控的训练底座。BitCPM-CANN模型的开源，将有效提升国产算力与国产模型的协同影响力，降低全行业对国外AI软硬件的依赖，构建属于中国自己的低比特大模型生态高地。

从更宏观的角度看，BitCPM-CANN的发布与2026年国产AI芯片产业生态的整体加速形成了呼应。2026年1月美国放宽对某高端AI芯片的对华出口限制后，市场反应与以往截然不同——多数企业不再急于追捧海外芯片，国产芯片的采购占比显著提升。百度依托昆仑芯P800完成文心5.1训练，集群有效训练率达97%；阿里平头哥“真武810E”芯片累计出货达47万片；而华为昇腾最新950系列芯片的FP8算力已达1 PFLOPS，瞄准万亿参数大模型训练。

BitCPM-CANN的出现，可以理解为正在加速形成的“国芯+国模”产业协同的一个典型案例——它用真实的技术成果，证明了国产算力不仅“能用”，而且能训练出世界级的模型。

07｜写在最后：AI训练的新坐标系

回到开头那句话——“1.58-bit也能保留97%的能力”，这件事情的意义，远不止于“省内存”三个字。

它重新定义了一个核心命题：一个AI模型的真实能力，究竟是依赖于“量”（比特数多），还是依赖于“质”（信息密度高）？

BitNet b1.58的研究者们已经给出了答案。微软亚洲研究院的研究表明，随着模型规模的增加，1-bit模型与全精度模型之间的性能差距会迅速缩小。当模型达到30亿参数规模时，BitNet b1.58的表现已能与同规模FP16模型持平。模型越大，BitNet架构的收益反而越显著。 这恰恰与传统的“高精度＝高性能”直觉相反。

面壁智能与华为昇腾合作的BitCPM-CANN，则将这一理论推向了工程实践的前沿。它不是“在英伟达GPU上训练完再转格式”的兼容方案，而是从量化算子到训练算法全栈原生在昇腾上完成的“纯粹国产”。

李宇轩曾在采访中将模型压缩精度的演进比作“货物打包”的变化：FP8是标准纸箱，FP4是真空压缩袋，而2-bit、1.58-bit则是极致捆扎压缩，靠算法适配压缩形态，最大限度节省空间和功耗。BitCPM-CANN就是那个“极致捆扎压缩”方案的工程化答案——一个不需要依赖海外GPU、不需要庞大算力投入、能够跑在国产算力平台之上的工程化答案。

这或许才是BitCPM-CANN带来的最大启示：在AI算力资源高度紧张的当下，增加比特数并非提升模型能力的唯一道路，降低每比特的计算和存储成本同样可以开辟新空间。

算力不再稀缺——稀缺的是真正理解：通往AI未来的路，未必只是越走越宽，有时，越走越“窄”，反而能抵达更远的地方。

因为最终决定高度的，从来不是路的宽度，而是路的尽头指向哪里。