2026年11月5日下午，面壁智能在北京举行主题为"端侧智能的撞线前夜"的技术分享会。约一个月前的10月13日，面壁智能联合OpenBMB开源社区正式发布并开源新一代端侧多模态大模型MiniCPM-V 4.7，其中35B-A3B版本采用MoE（混合专家）架构，总参数350亿、每次推理仅激活30亿，是全球首个可在端侧无损、流畅运行的开源MoE模型——仅约3GB内存即可在手机上运行，这被视为端侧智能发展的标志性事件。

分享会由面壁智能联席首席科学家姚远主讲，多模态大模型实验室算法研究员余天予、蔡天驰分别就模型与基础设施（infra）方面的工作做了详细讲解。分享会后的媒体群访环节持续近一个半小时，并且和三十余家媒体的记者，就技术路线、端云协同、隐私、商业化与具身智能等话题与嘉宾展开对话。

把35B装进3GB：一场"直觉上不可能"的工程突围

35B模型上手机，首先要回答的是一个物理问题：装不下怎么办。

姚远在分享中算了一笔账：即使是配置较好的12GB内存手机，留给模型的可用内存最多也只有8GB左右，其余要留给系统。而一个35B模型，即使用比较激进的Q4量化，权重也有约15GB，比可用内存大了近一倍，"连装都装不进去，更谈不上运行"。

解法藏在两个"拆解"里。其一是手机：256GB以上的闪存如今是常见配置，放下15GB模型权重并不困难。其二是模型：MoE架构下，模型的大部分参数由相互独立、彼此并行的"专家"组成，每计算一个token，各层只需激活少数几个专家。一个直观的思路由此产生——默认把专家放在闪存里，按需加载进内存完成计算，算完再放回去。

但这里有一个致命的速度瓶颈：如果等计算到某一层、确定了需要哪些专家，再从闪存调取，等待时间甚至会超过计算本身。姚远透露，在iPhone 17 Pro Max上直接采用这种方式，每秒只能输出3个token，"用户很难接受这样的速度"。

这次的关键创新，是面壁自研的LES（Lookahead Expert Scheduling，前瞻专家调度）技术：在token尚未到达相应计算层之前，提前预判需要哪些专家，并由后台线程将其从闪存预加载进内存，让"加载"完全隐藏在"计算"里。据官方技术博客披露，这套预判方法无需额外训练模型，在多数场景下能提前备好超过80%的所需专家；同时配合逐层混合精度量化和专家参数的连续存储布局，整体实现约5倍提速。更重要的是，预判只决定"提前搬谁、先算谁"，最终调用哪些专家仍由模型原有路由决定，因此开启LES后模型输出与关闭时完全一致——提速不以任何精度损失为代价。

基础设施的迭代速度被姚远形容为"可以按天计算"。不到一个月，团队通过基础设施优化把推理速度从每秒3个token提升到13个；换用新一代iPhone后立刻达到每秒20个token；而就在分享会前几天，进一步优化后的2.0版本在精度损失几乎可以忽略的情况下，把速度提升到了每秒30个token以上，内存占用同样是3GB。现场展示的样机上，这一版本已经可以实际体验。

蔡天驰在群访中补充说，3GB的占用对回答质量是"无损"的，这是该方案最重要的特性；团队在内部也测试过15B、30A3等更小或不同规格的版本，速度可以更快甚至达到上百token/s，但他们选择在"达到可用速度线（15 token/s）的同时，把最强的端侧智能呈现出来"——这是速度与智能之间的权衡。

"撞线前夜"：智能将复刻计算的历史

分享会的主题"撞线前夜"，是整场活动理解上的钥匙。

姚远在演讲中给出了一组类比：以计算密度（核心数×主频/设备体积）衡量，从20世纪40年代的ENIAC到1981年，计算密度提高了约一万倍；到今天，一台手机的计算密度已提高约10亿倍。计算供给曲线每撞上一次场景需求线，就开启一个时代——大型机、PC、移动智能依次登场，也对应了成功公司的演进与交替。

"把'计算'替换成'智能'，不会有太大违和感。"姚远认为，用户对智能的朴素需求与对计算的需求几乎一一对应：隐私与数据安全、断网可用、低延迟实时交互、更低的费用，以及"这台设备只服务我一个人"的体验。而供给端的驱动力来自三个方面——模型、硬件和基础设施，他称之为端侧智能的"三驾马车"。

模型端的理论支撑，是面壁智能2023年提出的"密度定律"（Densing Law）：大模型的智能密度约每3.5个月翻一番。这一定律后来登上了《Nature》旗下子刊。按此推算，叠加硬件（摩尔定律与Transformer原生NPU）和infra三个飞轮的增益，"撞线"是必然的，而且正在加速发生。

"我们不想把判断说得太激进。"姚远说，这一代MiniCPM-V 4.7的35B模型，已经超过2023年的云端旗舰模型GPT-4V——一个据称拥有万亿以上参数的庞大模型所提供的智能，不到三年就能在手机上实现，"大家一定会觉得不可思议，而从现在的结果看，未来还会更加不可思议"。

他以一张"等智能线"图作出判断：GPT-4V、GPT-4o、Claude Opus 4.5对应的智能水平，已在一定程度上与端侧能够承载的能力相交。"如果你对端侧智能的定义是相对恒定的，那么它会在某个时间实现，而且可能很快。"

最"非共识"的判断：两年内GPT-6上手机

群访中，记者问及面壁的"非共识"判断，姚远给出了两个答案。

其一是"GPT-6两年内能上手机"。面对时代周报记者"两年内端侧模型达到GPT-6水平能否实现"的追问，他明确回答："我们觉得是可以实现的。"理由是摩尔定律式的经验曲线仍在起作用，且端侧还能获得云端模型不具备的增长点——更贴近用户的反馈数据，以及大部分用户不会上传云端的全模态信息。

其二是具身路线。"现在具身本身就是一个非共识的行业。"姚远说，大家常说"具身有自己的基座，和大模型没啥关系"，或者诉诸"世界模型"，而面壁更相信从文本、到多模态、再到实时全模态、最终到具身这条路线，"因为有更多底层逻辑的支撑"。

蔡天驰则用一个反问为这一判断加了注脚："如果你有一个神奇的魔法棒，点一下就能让GPT-6直接跑在手机上，那为什么不做这件事呢？"

端云协同与隐私：多模态数据优先留在本地

有媒体问及国行苹果AI的方案（自研端侧模型加第三方云端模型）与面壁路线的差异。姚远回应："完整路径应该是端云协同。"但他强调，关键的分界点在于终端设备上的智能水平到底怎么样、能接住多少用户需求——每当端侧智能撞过一条需求水位线，"这件事就可以完全放在端侧完成"。

隐私被反复提及。姚远认为，从计算特性上看，多模态信息量巨大且持续产生，"上云不是首选"——"平时跟模型文字聊天你觉得还好，但打视频电话的话，估计就会有点难受。"只有特别抽象的复杂逻辑推理才上传云端，且此时信息"极大程度已经完成了脱敏"，返回结果后再与用户的具体场景结合。

现场还补充了一个最基础的场景：通话语音转录。"这些都是私密型对话，你不知道语音当中是跟家人的，还是谈论公司高保密信息的，你肯定不希望这些东西传到云上某个你都不知道在哪的地方。"手机里存着一个人几乎所有的个人信息，"越是本地处理，对个人用户而言越有价值。"

从手机到汽车座舱再到机器人：商业化图景渐次展开

在商业化话题上，姚远透露，手机厂商和芯片伙伴现在最关心的不是"能用来做什么"，而是"能不能更快、能不能更大、功耗能不能更小"。"很多大厂脑子里已经有一幅非常完整的图，内部划分成L1、L2、L3，关心的就是你这个智能水位漫到我的L几了。一旦这个事明确，他们自己很多东西马上就开动起来了。"

他以汽车座舱举例：车上有大量传感器，要调用视频、音频等工具，甚至分辨"舱内几个人在说话，谁在和谁说话"——这类场景注定是端侧计算需求：车会进隧道、会断网，而用户面对车内摄像头数据上云时的"第 一个动作就是拿衣服把它盖上"。

值得注意的是，面壁的端侧模型已经历量产验证：据公开报道，长安马自达EZ-60、吉利银河M9等车型均已搭载MiniCPM多模态模型上市，公司已与多家全球头部手机厂商建立合作。截至2026年9月，MiniCPM系列开源模型全球累计下载量已突破7000万次。

具身智能方面，姚远表示，最近GPT-6 Ultra带来的最大冲击恰恰是"没有写在官网上的"具身能力；多模态的发展会直接成为具身最大的推动力。面壁也已在WAIC 2026发布具身模型MiniCPM-Robot系列。不过他同时判断，现在还没到具身商业化成熟时机，机器人公司倾向于自研专用VLA模型，"不是其他原因，而是因为选择有限"——通用基础模型的泛化与长时程任务能力仍需提升。

关于开源与商业化的关系，姚远的回答是："开源本身就是服务商业化很好的一个做法。我们现在很多的客户，就是用了我们开源模型觉得很好，所以来和我们接触的。"

普惠的另一半：让千元机也用上旗舰智能

与主打能力上限的35B-A3B相对，MiniCPM-V 4.7的1B版本承担着"极致普惠"的任务。蔡天驰介绍，1B版本完全下探到千元机——这项工作在年中发布的MiniCPM-V 4.6上就已实现，几百块钱的设备也能以15 token/s的速度流畅运行。

功耗方面，他给出的数据是：当前版本运行模型的功耗大致与一款大型手游相当；通过算子优化和软硬协同，在现有这一代芯片上，就有望把功耗优化到接近"长时间听歌"的水平，支撑端侧智能体的长期在线。

面壁团队在2024年提出过一组体感阈值：8 token/s以下人会觉得卡，15 token/s即是流畅。蔡天驰认为，随着高端机型速度越来越快，满足15 token/s的中低端机型会不断下探——"到那个时候，你和高端机的体感可能是接近的。"

普惠的意义，在姚远看来"本身就足够伟大"："它让经济条件没那么好的人，也能用得上最好的东西。"他提到，曾有基金会找到面壁，希望在只能用千元机的非洲地区跑起AI，"这对他们的生活是很大的提升"。

写在最后：

整场交流中，"撞线"是出现频率最高的词。在面壁智能的判断里，端侧智能不是遥远的愿景，而是一条正在下探的"等智能线"与一条持续上抬的端侧能力线之间的相遇——过去每一代云端旗舰模型，基本都在两年内完成了端侧落地。

无论"GPT-6两年内上手机"的判断最终是否如期兑现，35B MoE模型在3GB内存、30 token/s上的无损运行，至少证明了一件事：在智能供给这件事上，除了堆参数，还存在着另一条同样成立的路径——把每一份算力用到极致。这条路径通向何处，也许用不了两年，就能见分晓。