谷歌开源EmbeddingGemma 2:首个原生多模态嵌入模型,支持手机本地离线搜索

AI新闻阅读 5
谷歌开源EmbeddingGemma 2:首个原生多模态嵌入模型,支持手机本地离线搜索
10月6日,谷歌正式开源了 EmbeddingGemma 2 模型。这是谷歌推出的首个原生多模态开源嵌入模型,能够同时处理文字、代码、图片、视频和音频内容,支持在手机、笔记本及浏览器等设备上完全离线运行。该模型仅含约740M参数,内存占用约为567MB。演示显示,用户只需输入一句“鸟在唱歌”,系统即可在本地找到对应的鸟的照片和鸟叫录音波形图,整个查询过程耗时仅22毫秒,无需上传数据或调用云端API。技术层面,EmbeddingGemma 2 将多种模态内容映射至同一768维向量空间,解决了以往需转换格式才能搜索的问题。相比上一代模型,其上下文窗口扩大至8K,单次可处理约5.5分钟音频、29张图片或58帧视频,并支持100多种语言。在性能测试中,该模型图像检索得分达57.3分,视频检索得分为50.7分,显著领先同量级的Jina v5 Omni-Nano模型。谷歌CEO Sundar Pichai 指出,这一突破让手机具备了本地搜索多媒体内容的能力,用户无需将文件上传至云端即可管理相册和会议记录。开发者社区反响迅速,Hugging Face 上的 Victor M 在发布一小时后便在浏览器中成功运行该模型。此外,llama.cpp 与 Unsloth 已提供支持量化版本,实测数据显示其在M5 Max芯片上向量生成速度可达每秒817条,且在土耳其语混合提问场景下命中率提升至97%。谷歌还展示了多种应用场景,包括配合 Gemma 4 构建离线隐私优先的RAG系统、开发“Instant Media Search”相册搜索功能以及利用ESP32-S3单片机进行图像检索可视化。代码检索能力也同步提升,在MTEB Code基准测试中得分从68.76分增长至78.68分。
谷歌开源EmbeddingGemma 2:首个原生多模态嵌入模型,支持手机本地离线搜索 - SmartAITool Blog