面壁开源 MiniCPM-V 4.7：35B 多模态模型仅占 3G 内存，iPhone 断网流畅运行

封面为AI生成的主题示意图，非新闻现场照片。

近日，面壁智能与 OpenBMB 正式开源了名为 MiniCPM-V 4.7 的端侧大模型系列。该系列包含两个版本：35B-A3B 和 1B。其中，总参数为 35B 的 MoE（混合专家）模型在 iPhone 17 Pro Max 上仅占用约 3G 内存即可流畅运行，解码速度优化后可达每秒 13 个 token 以上。

尽管设备处于断网状态，该模型仍能快速处理复杂任务。测试中，系统接收一张拿破仑远征俄国的行军路线图，不到一分钟即识别出最低气温标注、对应日期（1812 年 12 月 6 日）并完成华氏度到摄氏度的换算。

在通用视觉与理科题能力测试中，35B-A3B 模型表现优异。其在 MMBench 数据集上得分为 91.72，MMStar 为 80.67，OMNIDocBench v1.6 高达 94.24 分，显著领先其他开源模型。即便开启视觉压缩至 16 倍，性能下降幅度微乎其微。

对于更轻量级的 1B 版本（实际参数 1.3B），其在 OCR、数学及视频理解方面同样表现突出。测试显示，该模型能在半分钟内将论文页面图片准确转写为 Markdown 格式，完整还原标题层级、段落、表格及 LaTeX 公式。

针对端侧设备如何实现大内存参数的高效运行，MiniCPM-V 4.7 采用了创新的 MoE 架构。虽然总参数达 35B，但推理时每次仅激活约 3B 参数。模型通过智能调度机制，在闪存中存储专家模块，仅在需要时读取调用，兼顾了高解码速度与全领域能力。