返回工具研究所
行业深度原创10 分钟阅读

小米三芯片齐发:AI 竞争的胜负手正在离开云端?

小米一次摆出三颗自研芯片和一台 AI Cube 原型机,把端侧 AI 推进到带时间表的产品矩阵。本文翻译 200 TOPS 与每秒 303 个 token 的真实含义,算一笔只能算一半的端云成本账,对照模型公司软件路线的撞墙案例,判断 AI 胜负手是否转向端侧。

2026/08/25
最新工具

刚收录的 AI 工具,适合继续发现可用产品。

查看全部

凤凰网科技在发布会现场做了一次断网测试:玄戒 O3 与 O100 两颗芯片协同,在本地运行小米自研的 MiMo 3B 模型,首字延迟约 0.45 秒,实测生成速度为每秒 303 个 token。一段 500 token 的回答,约 1.7 秒生成完毕,比任何人读完它都快。过去一年,公开报道里云端一侧的叙事,仍是英伟达与 OpenAI 以千亿美元计的算力合作。8 月 24 日,小米在北京办了一场玄戒芯片技术沟通会,一次摆出三颗芯片和一台名为 AI Cube 的桌面原型机,雷军事后发文称,玄戒“不只是小米的芯片战略,更是小米 AI 战略的物理基础”。当端侧的生成速度已经快过阅读速度,一个值得检验的问题是:中国 AI 竞争的胜负手,是否正在从云端模型与算力,部分转向端侧芯片与硬件入口?

三颗芯片不是三件产品,是一张按内存分层的算力网

先看这场发布会实际交付了什么。玄戒 O3 是面向最高端产品的 AI 旗舰 SoC,已开启规模量产,9 月随折叠屏机型 Xiaomi 18 Fold 首发。玄戒 O100 被官方称为首颗“专为端侧大模型而生”的高带宽 AI 加速芯片,研发已完成,2027 年商用。玄戒 D100 定位智驾高算力芯片,官方称是国内首款 3nm 制程的同类产品,同样要等到 2027 年,首发车型尚未公布。三颗芯片之外,还有一台 AI Cube Prototype:桌面形态的 AI 高算力终端原型机,三芯协同,现场演示了本地部署的 120B 与 3B 双模型组合,支持快慢两个系统的切换。雷军披露,小米自 2021 年初重启大芯片研发,累计投入超过 210 亿元,芯片团队接近 3000 人。

如果只把三颗芯片看成三条产品线,会漏掉整场发布会的结构。三颗芯片的分工不是性能高低,而是按内存容量与带宽分层。

芯片 / 设备内存带宽内存容量模型上限(官方口径或按权重粗算)
玄戒 O3(手机 SoC)113.8 GB/s(LPDDR6)16GB 级现场演示(O3+O100 协同)为 3B 级;7B 级量化权重可容纳,再大受内存与带宽双重约束
玄戒 O100(AI 加速芯片)1.22 TB/s(近存计算)随整机设计官方称端侧 AI 计算提速 10 倍,2027 年商用
玄戒 D100(智驾)未公布最高 160GB 统一内存官方称最大可本地部署超 200B 参数模型;4-bit 权重约需 100GB
AI Cube 原型机三芯协同现场工程机 80GB,芯片平台最高支持 160GB现场演示 120B 加 3B 双模型
参照:英伟达 DGX Spark约 273 GB/s128GB 统一内存千亿级模型可入
参照:Mac Studio(M3 Ultra)819 GB/s最高 256GB千亿级模型余量更大

注:模型上限按权重内存粗算,未计 KV Cache 与系统占用;末两行仅作带宽与内存档位对照,AI Cube 无售价、无量产计划。

读懂这张表只需要一个常识:大模型推理的瓶颈常常不在计算,而在把模型权重从内存搬进计算单元的速度。按公开测算口径,一个 200B 参数的模型,FP16 精度的权重约需 400GB 内存,压到 4-bit 量化仍需约 100GB,且尚未计入推理时额外占用的 KV Cache。在手机端 16GB 级的内存与 113.8GB/s 的带宽面前,即便是 O3 与 O100 协同的现场演示,也停留在 3B 级模型;7B 级模型量化后的权重虽然放得进手机,但再往上就会同时撞上内存容量与带宽两堵墙。千亿级参数模型要进终端,前提在 O100 的 1.22TB/s 近存带宽与 D100 最高 160GB 的统一内存。小米给 O100 的官方说法是“达到主流旗舰手机内存带宽的 16 倍”,这个数字指向的正是内存墙,而不是算力墙。

表末两行参照系也标出了 AI Cube 的站位:它的带宽与内存配置,瞄准的是 DGX Spark、Mac Studio 这类桌面 AI 算力设备所在的档位。但这句话必须与另一件事绑在一起读:AI Cube 仍是工程原型,官方没有公布售价,也没有量产时间表。

200 TOPS 怎么读:先过精度口径这一关

发布会后传播最广的数字,是 O3 的 NPU 算力 200 TOPS。数字本身来自官方,但直接拿去和竞品比较会出错,因为小米标注的口径是 A8W4:激活值用 8 位整数,模型权重用 4 位。精度口径一变,同一颗 NPU 能报出的 TOPS 可以差出数倍。这不是小米一家的做法,而是全行业的现状。

芯片算力宣称精度口径端侧推理速度宣称商用状态
玄戒 O3(2026-08 发布)NPU 200 TOPSA8W4MiMo 3B 最高 330 tokens/s(官方宣称),现场实测 303已量产,9 月首发
第五代骁龙 8 至尊版(2025-09)未公布 TOPS,NPU 整体性能较上代提升 37%INT2、FP83B 级模型最高 220 tokens/s已商用
天玑 9500(2025-09)未公布绝对值,NPU 峰值性能较上代提升 111%率先支持 1.58bit BitNet未公布绝对值已商用
麒麟 9030(2025-11)不公布 TOPS,官方称 AI 算力较前代翻倍不公布未公布已商用

注:均为各厂商官方口径;速度数字的测试模型与条件不同,不可精确排名。

四家厂商,四种口径。玄戒报 A8W4;高通的第五代骁龙 8 至尊版在官方材料中主打 INT2 与 FP8;联发科天玑 9500 强调率先支持 1.58bit 的 BitNet 大模型运算;华为麒麟 9030 干脆不公布 TOPS,只说 AI 算力较前代翻倍。精度越低,可报出的算力越高,四家实际上在报四本不同的账。任何把这几个数字放进同一张柱状图的尝试,比较的都是不可比的东西。

真正能同维度对照的是推理速度。高通官方口径是 3B 级模型最高每秒 220 个 token;小米官方宣称 O3 与 O100 协同运行 MiMo 3B 最高每秒 330 个 token,凤凰网科技在现场断网实测得到每秒 303 个 token,首字延迟约 0.45 秒。两组数字的测试模型与条件并不相同,不能精确排名,但量级一致:旗舰芯片跑 3B 级模型,生成速度已进入每秒两三百 token 的区间。

这个速度是什么体验?一段 500 token 的回答,按每秒 303 个 token 计算约 1.7 秒生成完毕,而人读完同样内容需要一两分钟。生成已经明显快过阅读。也就是说,在 3B 级这个档位,端侧推理速度本身不再是体验瓶颈,竞争点转移到了模型能力、内存容量和场景适配上。

O3 还有一个传播不广但更值得注意的技术点:小米芯片团队与 MiMo 模型团队联合定制了“5 值量化”方案,用 5 个离散值替代传统 INT4 的 16 个值,再配合硬件霍夫曼无损压缩,官方称推理效果与 INT4 相当,内存带宽占用节省 30%。这类软硬联合定制,只有芯片和模型握在同一手里才做得到,通用芯片厂商很难为某一家模型公司修改 NPU 的底层设计。AI 入口的路线之争,正是从这个差异开始的。

端侧省钱吗:一笔只能算一半的账

算力之外,成本是端侧叙事的另一半。云端这一侧的账本是现成的:2026 年 8 月国内主流大模型的官方刊例价,大致落在每百万 tokens 约 1 元到 100 元的区间,输入价靠近下限,输出价靠近上限,部分厂商在工作日高峰时段还按两倍计价。同一用量,选不同档位的模型,月账单可以相差数十倍。

场景(假设)月调用量按区间下限约 1 元/百万 tokens按区间上限约 100 元/百万 tokens
个人重度使用1000 万 tokens约 10 元约 1000 元
多步 Agent 工作流1 亿 tokens约 100 元约 1 万元
团队批量调用10 亿 tokens约 1000 元约 10 万元

注:价格为 2026 年 8 月国内主流大模型官方刊例价区间;未区分输入与输出配比(Agent 场景常为输入密集),未计缓存折扣与高峰加价;端侧因 AI Cube 无售价,无法列入。

表里只做了乘法,假设必须摆在明处:消耗量是假设值;计算未区分输入与输出的 token 配比,而多步 Agent 工作流往往输入远多于输出;缓存命中折扣也未计入。这张表想说明的只有一件事:云端调用按量线性计费,用量涨多少,账单涨多少。随着智能体把单次任务拆成几十步调用,高频用户的云端账单会自然膨胀。

端侧这一侧的账算不出来,因为 AI Cube 没有售价,也没有量产时间。能说的只有结构性判断:芯片一旦装进设备,本地推理的边际成本趋近于电费,不随调用量增长。OmniTools 把两半拼起来的结论是:在 3B 级模型足以胜任的高频、重复、隐私敏感调用上,端侧有明确的成本与隐私优势;需要最强模型能力的任务,云端仍不可替代。顺带纠正一个流行说法:“端侧比云端省几十倍”把两件事混在了一起,数十倍的价差存在于云端不同档位模型之间,不是端云之间的实测对比。更可能的图景是分流:小模型下沉到端侧,大模型留在云端,中间地带反复拉锯。

入口的两条路:从芯片绕,还是从协议绕

芯片之外,这场发布会还回答了另一个问题:AI 时代的入口归谁。目前中国市场给出了两条路线。

第一条是模型公司的软件路线。阶跃星辰在 2026 年 7 月发布了智能体手机 STEPX Neo 与智能体原生系统 Step AOS,思路是用协议和智能体操作层去调度现有 App。这条路线的难点,在 2025 年 12 月已经预演过一次:字节跳动联合中兴推出的豆包手机助手,上线次日即因模拟点击触发微信风控,相关操作能力随后下线,多家银行 App 也对模拟操作弹出限制。软件绕行撞上的是生态性的墙:超级 App 有充分理由防御外来自动化操作,协议路线则要逐家谈判、逐个适配,两件事都没有确定性。

第二条是小米的硬件路线。雷军在 2026 年 1 月提出,年内要在一款终端上实现自研芯片、自研操作系统与自研大模型的“大会师”。这次发布的三颗芯片、8 月中旬开启 Beta 的澎湃 OS 4,加上已通过备案并全面开源的 MiMo 模型系列,就是三条线的合拢。组织架构也在配合这个方向:据爱范儿报道,月活破亿的小爱同学在 2026 年 7 月被拆分为模型底座、云端工程化与端侧产品三个模块,基础模型归入 MiMo 团队。AI 在小米内部从一个部门的产品,变成了集团级的基础设施。

这条路线的底牌是入口存量。小米 2026 年一季度业绩公告显示,其 AIoT 平台连接设备已达 11.187 亿台。芯片、操作系统、模型、设备握在同一手里,两件别家难做的事才做得成:一是前面提到的 5 值量化这类软硬联合定制;二是不必看任何超级 App 的脸色,直接在系统层部署 AI 入口。

代价同样明确:两百亿元级的累计投入、数千人规模的芯片团队、以年计的迭代周期,而且这条路只有极少数同时握有芯片、操作系统、模型和亿级设备入口的公司走得起。把它放回全球背景里看,英伟达与 OpenAI 的算力合作以千亿美元计,云端军备仍在加码。端侧分流与其说是算力竞赛的延伸,不如说是对云端成本与入口不确定性的对冲:把高频、轻量、隐私敏感的调用留在本地,把最难的任务留给云端。

矩阵的另一半在 2027

把视线拉回地面,这份端侧蓝图的折扣清单不短。

第一项是时间。三颗芯片里,O100 与 D100 都要等 2027 年才商用,AI Cube 没有售价也没有量产时间表。当前真正可交付的只有 O3 一颗,9 月首发机型是唯一能立刻检验的样本。所谓端侧矩阵,大半是期货。

第二项是宣称与演示的落差。D100 官方称最大可本地部署超 200B 参数的大模型,但这是芯片能力宣称,现场实际演示的是 120B 加 3B 的双模型组合;D100 的 TOPS 算力官方没有公布,任何第三方推算都不足为凭。跑分口径同样有条件:安兔兔 522 万分的成绩是在实验室低温环境下测得,日常持续性能会打折扣。

第三项是集成度。O3 没有集成 5G 基带,采用外挂方案,官方未介绍具体型号,只称通信性能看齐主流旗舰的集成方案。基带集成度是手机 SoC 工程成熟度的硬指标,这一项说明玄戒与第一梯队之间仍有距离。

期货不是贬义,芯片行业本就以年为单位兑现承诺。但这些折扣加在一起,给本文的主问题划出了边界:判断胜负手是否转向端侧,依据不能是发布会上的宣称,只能是 2027 年的兑现情况。对产业观察者来说,现在能做的不是下结论,而是列出验证点:O100 能否如期商用,AI Cube 会不会有量产版本,200B 的宣称能否变成普通人可用的产品演示。

什么条件下,才能说胜负手转向了端侧

回到主问题:胜负手转向端侧了吗?现在下断言为时过早,但验证条件可以列清楚。

条件一,O100 在 2027 年如期商用,且端侧推理体验兑现发布会的演示水平。条件二,端侧生态对开发者真实开放。MiMo 系列以 MIT 协议开源、提供 API 接入,是当前的证据,但开源只是一张门票,能不能长出第三方端侧应用,还要看工具链与分发渠道的兑现。条件三,高频、中小模型的调用场景真正成型,让端侧算力有活可干。

三个条件同时满足,四类场景的胜负手会率先转向端侧:隐私敏感的个人数据处理、弱网与离网环境、IoT 设备控制、需要大量中间步骤的智能体调用。它们的共同点是调用频繁、单次任务轻、对延迟和隐私敏感,恰好落在 3B 级端侧模型加本地算力的舒适区。条件不满足,云端仍是主战场,端侧只是省电省流量的补充。

小米这场发布的意义,不在三颗芯片的参数,而在于它把“端侧是不是下一个胜负手”从一个假设,变成了一份带时间表的赌注。对观察中国 AI 格局的人来说,2027 年比 200 TOPS 更值得盯。

继续探索

读完这篇,可以继续看