谷歌推出 EmbeddingGemma 2:支持多模态、7.4 亿参数量化手机端运行只需 191MB 内存
AI新闻阅读 0

谷歌推出多模态嵌入模型 EmbeddingGemma 2,支持文本、代码、图像、视频、音频内容统一映射至同一嵌入空间。该模型基于 Gemma 4 架构开发,采用 Apache 2.0 许可发布,总参数量为 7.4 亿,适用于端侧推理场景。
EmbeddingGemma 2 在子 1B 参数多模态嵌入模型中表现突出,于 MTEB Code、MAEB 等基准测试中取得领先分数,性能可比肩甚至超越更大尺寸模型。模块化设计允许按需添加视觉编码器和音频编码器,实现完整多模态支持。
通过 Matryoshka 表示学习技术,开发者可动态截断输出向量维度至 512、256 或 128 维,本地向量数据库存储空间最高缩减至六分之一。量化后在 Pixel 11 Pro 上,纯文本模型仅需约 191MB 内存,完整多模态模型约需 567MB。
模型支持 8K Token 上下文窗口,可处理最长 5.5 分钟音频、29 张图像、58 个视频帧或其组合内容。代码性能较初代提升 9.92 分(MTEB Code 测试从 68.76 提升至 78.68),图像等任务单位参数质量达新水平。
EmbeddingGemma 2 支持本地生成嵌入以保障数据隐私,降低检索延迟。搭配 Gemma 4 可构建端侧 RAG 管线,共享文本分词器和音频编码器,合计内存占用更低。开发者可通过 Hugging Face、Kaggle 下载模型,或使用 Google AI Edge MediaPipe 开发跨平台应用。