面壁开源MiniCPM-V 4.7：35B MoE仅3G内存断网跑手机
原标题：iPhone断网跑35B多模态！国产开源新模型，只占3G内存
AI 摘要
面壁智能与OpenBMB开源MiniCPM-V 4.7，包含35B-A3B MoE和1B两个版本，其中35B-A3B仅需约3G内存即可在iPhone、iPad等端侧设备断网运行，解码速度达每秒13个token以上。模型通过前瞻专家调度、混合精度量化和视觉token压缩等技术实现端侧高效推理，并在MMBench、OmniDocBench等多项基准上取得领先成绩。该发布面向2026年端侧AI规模化装机趋势，旨在以更低内存成本运行更大模型。
正文节选
iPhone断网跑35B多模态！国产开源新模型，只占3G内存 面壁开源MiniCPM-V 4.7 金磊 发自 凹非寺 量子位 | 公众号 QbitAI 什么？35B的MoE，在手机上也能跑得很丝滑？ Yeah~It’s true. 我们直接在断网状态下，给iPhone 17 Pro Max手机上传一张数据可视化经典图——拿破仑远征俄国失败的行军路线图： 然后我们直接提问： 图里记录的最低气温是多少摄氏度，出现在哪一天，换算过程顺带讲一下。 可以看到，不到1分钟的时间，苹果手机上的模型，就从那条线上找到了零下30度的标注，判断出日期是1812年12月6日，再按1列氏度等于1.25摄氏度换算，给出了零下37.5摄氏度的答案。 而且啊，这个手机上的模型的速度，还能更快。 例如同一张路边停车标志的照片、同一个停车时间的问题，左边是没做优化的35B模型，右边是优化过后的模型： 可以看到，没优化的时候，速度每秒大概2个Token；但在优化之后，速度达到了每秒8-12个Token。即便是在断网状态下，答案也是唰唰唰地往外蹦。 据了解，这个35B模型在iPhone 17 Pro Max上的解码速度，再