1. 这条消息到底在说什么
先把标题拆开看。核心信息其实有两层:第一层,某芯片厂商高管公开表示,有AI公司提出要求,希望到2028年手机能常驻运行100B参数级别的模型;第二层,这家芯片厂商开始自己下场做手机。两件事放在一起看,指向的是同一个趋势——端侧AI的算力需求正在从“能跑个小模型”往“把大模型塞进兜里”演进,而且芯片厂商不再满足于只做供应链上游,开始往整机方向试探。
100B参数是什么概念?现在主流手机端侧跑的模型,大多是1B到7B这个量级,个别激进方案能到13B左右,而且往往要靠量化压缩、分层加载、部分卸载到云端才能勉强跑起来。100B是另一个数量级,参数量翻了十几倍甚至几十倍。如果真要在手机上常驻运行,意味着内存带宽、NPU算力、功耗控制、散热设计、模型压缩技术都要同时跨一大步。
这条消息之所以能成为热搜,不是因为某个具体数字,而是因为它把“端侧大模型”的时间表具象化了。以前大家说“未来手机会跑大模型”,是个模糊的方向;现在有人给出了2028年、100B、常驻运行这三个具体坐标,讨论就有了锚点。同时,芯片厂商自研手机这件事,也让外界开始重新审视手机行业的价值链分配——当芯片方开始做整机,它到底是在秀肌肉,还是在抢生态位?
这篇文章不打算复述新闻,而是想从从业者视角,把这条消息背后的技术账、商业账和实操账算一遍。如果你关注端侧AI部署、手机芯片架构、模型压缩,或者只是想知道2028年这个时间点靠不靠谱,下面这些内容应该能给你一些参考。
2. 100B模型常驻手机,技术账怎么算
2.1 参数量与内存占用的基本换算
先做一道最基础的算术题。100B参数,如果以FP16精度存储,每个参数占2字节,总大小约200GB。这显然不可能塞进手机。即便用INT8量化,也要100GB左右。手机当前顶配内存是16GB到24GB,和100GB差着四五倍。
所以100B模型要上手机,第一步必须是极致量化。业界常见的做法是4-bit量化,每个参数占0.5字节,100B就是50GB。还是太大。继续往下走,2-bit量化能压到25GB,1-bit量化理论上是12.5GB。但量化到1-bit或2-bit,模型精度损失会非常明显,尤其是推理任务和长文本生成,输出质量可能断崖式下跌。
这里就引出一个关键问题:100B模型常驻运行,到底是指完整模型常驻,还是指部分专家常驻?如果是MoE架构,总参100B但每次激活可能只有10B到20B,实际内存占用可以大幅降低。这也是为什么现在很多端侧大模型方案都在往MoE方向走——总参数量可以做得很大,但推理时只调用其中一小部分。
注意:厂商标称的“支持XX B模型”通常有前提条件,比如特定量化精度、特定上下文长度、特定任务类型。看到这类数字,先问清楚量化方式和激活参数规模,否则很容易被误导。
2.2 内存带宽才是真正的瓶颈
很多人只盯着算力TOPS,忽略了内存带宽。大模型推理是典型的memory-bound任务,算力再高,数据喂不进去也是白搭。手机当前的内存带宽大概在50GB/s到70GB/s这个区间,高端机型能到100GB/s左右。而100B模型即便量化到2-bit,每生成一个token也需要读取大量参数数据。
粗略估算:假设激活参数20B,2-bit量化,每token需要读取约5GB的数据。以100GB/s带宽计算,理论极限是每秒20个token。这还没算KV Cache、中间激活值、系统开销。实际体验可能只有每秒几个token,比人打字还慢。
所以2028年手机要常驻运行100B模型,内存带宽至少要有数倍提升。LPDDR6、更宽的总线、近存计算、存内计算这些技术方向都会被推上台面。芯片厂商如果自研手机,一个潜在优势就是可以更深度地定制内存子系统和NPU的协同设计,不像纯芯片方案那样受制于整机厂商的选型和成本控制。
2.3 功耗与散热的硬约束
手机是被动散热设备,没有风扇,靠均热板和石墨片导热。当前旗舰手机跑7B模型,功耗大概在3W到5W,机身温度会明显上升,持续跑十几分钟就可能触发降频。100B模型如果常驻运行,即便有MoE和量化加持,峰值功耗也可能冲到8W到10W甚至更高。
常驻运行意味着模型要一直挂在后台,随时响应。这对功耗管理提出极高要求。可能的方案包括:极低功耗的always-on NPU负责唤醒和简单任务,大模型按需加载;动态电压频率调节更精细化;把部分计算卸载到云端,端侧只做缓存和轻量推理。但“常驻”这个词本身就意味着不能频繁卸载,否则体验割裂。
散热方面,2028年的手机可能会采用更激进的均热方案,比如VC均热板面积翻倍、石墨烯导热膜、甚至微型热电制冷。但这些都会增加厚度和重量,和手机轻薄化趋势矛盾。芯片厂商自研手机,或许能在结构设计上做更激进的取舍,比如为了AI性能牺牲一点厚度。
2.4 模型压缩与架构创新的空间
量化只是压缩手段之一。知识蒸馏、剪枝、低秩分解、稀疏化、条件计算,这些技术都在演进。2028年如果100B模型要上手机,大概率不是把训练好的稠密模型直接压下来,而是从训练阶段就考虑端侧部署,用NAS搜索适合手机的架构,或者用MoE让不同专家分布在不同存储层级。
另一个思路是“端云协同”:端侧常驻一个轻量调度模型,复杂任务动态调用云端大模型。但AI公司的要求是“常驻运行100B”,这暗示他们希望端侧有完整的推理能力,不依赖网络。这可能是因为隐私、延迟、成本或者离线场景的考虑。
从实操角度看,如果你现在在做端侧模型部署,建议重点关注三个方向:一是4-bit以下的量化训练和推理框架;二是MoE架构在移动端的调度策略;三是内存和NPU的协同优化。这些在2028年之前会持续迭代。
3. 芯片厂商自研手机,图什么
3.1 从供应链上游到整机整合
芯片厂商做手机,不是新鲜事。早些年就有芯片方推出参考设计甚至自有品牌手机,但大多不了了之。这次不同之处在于,AI手机的定义权正在从整机厂商向芯片和模型方转移。谁定义AI体验,谁就掌握溢价权。
芯片厂商自研手机,最直接的动机是展示自家芯片的AI能力。参考设计只能证明“能跑”,自有品牌才能证明“跑得好”。通过软硬一体优化,可以把NPU、内存、散热、系统的协同做到极致,做出第三方整机厂商做不到的体验。这类似于某芯片厂商做笔记本参考设计,后来演变成自有品牌产品线。
另一个动机是获取用户数据和场景反馈。端侧AI的核心竞争力在于对用户习惯的理解和个性化。芯片厂商如果只卖芯片,拿不到真实场景数据,模型优化就缺少闭环。自研手机可以拿到第一手数据,反哺芯片和模型设计。
3.2 对手机行业格局的潜在影响
如果芯片厂商真的推出自有品牌手机,首当其冲的是高端旗舰市场。芯片方可以用最顶级的芯片、最激进的散热、最不计成本的堆料,做一款“AI性能标杆”产品。这对现有旗舰机型会形成压力,尤其是在AI功能同质化的当下。
但芯片厂商做手机也有明显短板:渠道、品牌、售后、系统生态。手机不是造出来就行,还要卖出去、用起来。芯片厂商在To B领域强,在To C领域未必能快速建立优势。所以更可能的策略是:小批量试水,主打AI开发者和极客群体,不追求大众销量,而是作为技术展示和生态撬动点。
对整机厂商来说,这既是威胁也是机会。威胁在于核心卖点被上游截胡,机会在于可以更专注于差异化体验,比如影像、折叠、设计,而不是卷AI参数。行业分工可能会进一步细化。
3.3 自研手机与端侧AI生态的绑定
芯片厂商自研手机,还有一个深层逻辑:绑定AI模型方。如果2028年真有AI公司要求手机跑100B模型,那芯片厂商需要和模型方深度合作,从训练阶段就针对自家NPU优化。自有手机是最好的试验田,可以快速迭代,不用等整机厂商排期。
这也会影响开发者的选择。如果某芯片厂商的手机在端侧AI上体验最好,开发者会优先适配它的NPU和工具链。久而久之,形成生态壁垒。这比单纯卖芯片的粘性强得多。
从从业者角度看,未来几年端侧AI的竞争,不只是芯片算力的竞争,而是“芯片+模型+整机+开发者工具”的综合竞争。芯片厂商自研手机,是在补齐全链条能力。
4. 2028年这个时间点,靠谱吗
4.1 技术演进的线性与非线性
从7B到100B,参数量增长约14倍。如果按每年端侧模型规模翻倍的速度,大概需要4年左右,2028年刚好。但这是线性外推,实际演进可能受制于几个瓶颈:内存带宽、功耗、散热、成本。这些不是单纯靠芯片制程进步就能解决的。
另一方面,技术突破往往是非线性的。如果存内计算、光子计算、新型存储介质在2028年前商用,端侧算力可能跳变。或者模型架构出现革命性变化,比如更高效的稀疏激活、动态网络、神经符号系统,让100B模型的等效计算量大幅下降。
所以2028年这个时间点,既不是拍脑袋,也不是铁板钉钉。它更像是一个行业目标,倒逼供应链在四年内解决一系列工程问题。
4.2 成本与量产可行性
即便技术可行,成本也是大问题。100B模型常驻运行需要更大的内存、更强的NPU、更好的散热,这些都会推高BOM成本。2028年的旗舰手机可能因此涨价,或者AI功能成为超高端机型的专属。
芯片厂商自研手机,可以在初期不计成本做标杆,但量产版本必须考虑成本。如果只有少数人买得起,端侧AI生态就起不来。所以更现实的路径是:2028年先在超高端机型上实现100B常驻,然后逐年下放到中高端。
4.3 用户真实需求与场景匹配
最后要问:用户真的需要手机常驻100B模型吗?当前端侧AI的主要场景是语音助手、输入法预测、图像处理、离线翻译、隐私计算。这些任务7B到13B模型已经能做得不错。100B模型能带来什么质变?
可能的答案:更复杂的agent任务、更长的上下文理解、更精准的个性化推荐、多模态实时交互。但这些场景是否刚需,是否值得为此增加功耗和成本,还需要市场验证。AI公司的要求代表了一种技术理想,但产品化要经过用户投票。
从个人经验看,端侧AI的杀手级应用还没完全出现。2028年100B常驻,可能先服务于开发者和特定行业用户,比如现场工程师、医疗辅助、离线办公,而不是普通消费者的日常。
5. 端侧大模型部署的实操要点
5.1 量化方案怎么选
如果你现在就要在手机上部署大模型,量化是绕不开的第一步。常见方案对比:
| 量化精度 | 内存占用(7B) | 精度损失 | 适用场景 |
|---|---|---|---|
| FP16 | 14GB | 无 | 开发调试 |
| INT8 | 7GB | 很小 | 高端旗舰 |
| INT4 | 3.5GB | 可接受 | 主流机型 |
| 2-bit | 1.75GB | 明显 | 实验性 |
| 1-bit | 0.9GB | 严重 | 特定任务 |
实操建议:优先用INT4,配合GPTQ或AWQ算法,在精度和体积之间平衡最好。如果要做100B模型,必须上MoE加INT4以下量化,否则内存根本放不下。
注意:量化后的模型要在真实设备上跑长文本和复杂推理,不能只看困惑度指标。有些模型量化后短文本正常,长文本就崩。
5.2 NPU适配的坑
不同芯片厂商的NPU指令集和算子支持差异很大。同一个模型,在A芯片上跑得好,在B芯片上可能算子不支持,回退到CPU跑,速度慢十倍。实操中要做的:
- 确认模型中的算子是否被NPU原生支持,不支持的用等效算子替换。
- 用芯片厂商提供的转换工具把模型转成NPU格式,注意量化校准集的代表性。
- 做层融合和内存复用优化,减少NPU和CPU之间的数据搬运。
- 实测不同batch size和序列长度下的延迟和功耗,找到最佳配置。
我踩过的坑:某次转换模型时,校准集用了英文语料,结果中文推理精度掉得厉害。后来换成中英混合校准集,问题解决。校准集一定要贴近实际使用场景。
5.3 常驻运行的后台管理
常驻运行不是简单把模型加载到内存就完事。手机系统对后台进程有严格限制,内存不足时会杀进程。要让模型常驻,需要:
- 把模型放在系统级白名单,避免被清理。
- 用内存映射方式加载,减少物理内存占用。
- 设计分级唤醒机制,简单任务用轻量模型,复杂任务再加载大模型。
- 监控温度和功耗,必要时动态降级。
这些需要和系统厂商深度合作,普通开发者很难独立完成。这也是芯片厂商自研手机的一个优势——可以从系统底层支持常驻AI。
6. 常见问题与排查技巧
6.1 模型加载失败或崩溃
最常见的原因是内存不足。排查步骤:先看模型文件大小和量化精度,估算内存需求;再看设备可用内存和系统限制;最后检查是否有内存泄漏。如果是MoE模型,还要确认专家加载策略是否合理,避免一次性加载全部专家。
另一个原因是算子不支持。用NPU工具链的日志功能,看哪个算子回退到了CPU。如果是关键算子,找替代实现或换芯片方案。
6.2 推理速度慢
先定位瓶颈:是计算慢还是内存慢。用profiler看NPU利用率和内存带宽占用。如果NPU利用率低,可能是算子调度问题;如果带宽占用高,可能是量化不够或KV Cache太大。优化方向包括:增大量化力度、减少上下文长度、用PagedAttention管理KV Cache、把部分层卸载到CPU或云端。
6.3 功耗和发热超标
实测功耗,对比芯片规格书。如果远超预期,检查是否有不必要的计算或数据搬运。常见问题:模型常驻但没做休眠,一直在跑推理;NPU和CPU频繁切换;内存访问模式不连续。优化手段:用低功耗协处理器做唤醒,大核按需启动;优化数据布局,提高缓存命中率;动态调整频率和电压。
6.4 精度下降明显
量化是主因。排查方法:对比量化前后在验证集上的输出,看是全局下降还是特定任务下降。如果是特定任务,可能是校准集不匹配。尝试用任务相关数据做校准,或者对敏感层保留更高精度。另外,MoE模型的专家路由在量化后可能不稳定,需要专门校准路由网络。
7. 我对这条消息的判断
芯片厂商高管放话,从来不只是技术预测,更是战略喊话。2028年100B模型常驻手机,技术上有一堆硬骨头要啃,但方向是清晰的。AI公司提要求,芯片厂商接招,整机厂商跟进,这条链条已经在转动。
自研手机这一步,短期看是技术展示,长期看是生态卡位。如果端侧AI真的成为手机核心卖点,芯片厂商不会甘心只赚芯片的钱。但手机行业的复杂性,也不是芯片厂商能轻易颠覆的。更可能的结果是:芯片厂商的自研手机成为AI开发者和极客的选择,而大众市场仍然由现有品牌主导,但所有旗舰机都会把“端侧大模型能力”作为核心参数。
对从业者来说,现在就该关注端侧量化、MoE部署、NPU适配这些实操技能。2028年听起来还远,但技术迭代的速度,往往比预期快。等风来了再准备,就晚了。