谷歌DeepMind推出EmbeddingGemma 2,这是其首个开放、原生多模态嵌入模型
谷歌DeepMind推出EmbeddingGemma 2,这是其首个开放、原生多模态嵌入模型,权重已在Hugging Face与Kaggle公开,采用Apache 2.0许可,可商用微调。模型建立在Gemma 4架构上,把文本、代码、图像、视频和音频映射进同一个768维向量空间。
完整形态共740m参数,可按需拆装:文本与代码核心270m(其中骨干130m、嵌入层140m),视觉编码器170m,音频编码器300m。开发者可只加载文本,或组合成440m、570m、740m四档。上下文窗口8192 token,覆盖100多种语言,音频侧可处理约5.5分钟录音。
量化后在Pixel 11 Pro上,纯文本权重活跃内存约191mb,完整多模态约567mb。输出支持Matryoshka截断,可从768维降到512、256或128维,谷歌称本地向量库存储成本最多可降到约六分之一。它与Gemma 4共用文本分词器和音频编码器,两端侧联跑时合计内存更低。
相对上一代纯文本EmbeddingGemma,代码检索MTEB从68.76升至78.68,提高9.92分,约14%;多语言文本MTEB v2为61.36,前代为61.15。图像MIEB lite均值64.64,视频MMEB v2命中率50.67,音频MSEB检索69.54,MAEB均值49.39。谷歌称它在10亿参数以下多模态嵌入里质量领先,并超过部分体量两倍以上的专用模型。
上一代EmbeddingGemma下载已超过2000万次,主要用于端侧搜索和隐私优先的检索增强生成。新模型可按语音备忘定位视频片段,或用文本检索数小时音频,数据不必离设备。部署通道还包括Ollama、llama.cpp的GGUF和LiteRT,浏览器侧可走transformers.js或WebGPU。
端侧检索把购买从云端嵌入API转向开源权重和本地算力。应用开发者、终端厂商和隐私敏感行业是直接使用者,云端嵌入服务和更大参数的专用模型承压。事件驱动来自Gemma 4开放权重体系的延伸,资金与流量流向Hugging Face权重、端侧推理框架和本地向量库,而不是按次调用的云API。
来源:公开信息
ABAB AI 解读
谷歌嵌入路线是先收云端、再放端侧。2025年9月推出的EmbeddingGemma是308m纯文本模型,主打500m以下MTEB领先,下载超过2000万次;更早的通用嵌入能力集中在Gemini Embedding这类付费API,输出可达3072维。EmbeddingGemma 2把文本核心压到270m,却补上视觉和音频编码器,等于用开放权重补上前代不能做的跨模态检索。Gemma系列本身也有过许可收紧争议,开发者曾质疑“开放”与商用条款之间的缝,此次改用Apache 2.0是在回应这条历史摩擦。
资本路径不在并购,而在把检索层从云账单里拆出来。谷歌自己的Gemini Embedding 2仍是付费API,没有公开端侧内存数据;EmbeddingGemma 2则把权重、GGUF、LiteRT一并放出,并明确与Gemma 4共用分词器和音频编码器,方便同一条端侧流水线里“小模型检索、大模型推理”。动机是守住Android、Pixel和Chrome的默认检索入口:开发者若在手机上建好向量库,后续生成调用仍更容易留在Gemma或Gemini,而不是流向外部嵌入服务。
可比对象要分开看。阿里Qwen3-VL-Embedding-2B约20亿参数,自报MMEB-v2约73.2,没有音频;研究向的LCO-Embedding-Omni-3B骨干更大,才覆盖音视频。体量接近的历史对照是上一代EmbeddingGemma对近两倍参数文本模型的追平。行业位置已过“能不能嵌入”,进入“检索是否必须上云”的控制阶段:10亿参数以下、可截断维度、可离线,正在把RAG的入口从API商变成设备侧组件。
这是定价权转移,不是单纯技术替代。嵌入按token计费时,长音频、代码库和视频帧都是云厂商的用量;一旦768维可截到128维、存储降到约六分之一、量化后全模态约567mb就能跑在手机上,检索的边际成本回到设备和电费。发生机制是小模型质量跨过可用线,同时开源许可允许厂商预装。云API仍拿得住闭源质量和超长上下文,但默认的隐私检索和代码库索引,定价权开始从调用次数转到谁控制终端。
ABAB News · 认知定律
检索免费之后,生成才开始收费。
小模型赢的不是参数,是离数据更近。
开放权重是入口,闭源API是收银台。