Transformers 发布 v5.19.0：新增 EmbeddingGemma2 多模态嵌入模型
原标题：Release v5.19.0
AI 摘要
Hugging Face Transformers 发布 v5.19.0，新增 Google 基于 Gemma 4 架构的多模态嵌入模型 EmbeddingGemma2，可将文本、图像、音频和视频编码到共享的 768 维向量空间。该版本还包含多项破坏性变更，如所有 MoE 模型在 output_router_logits=True 时返回路由 logits、OWLv2 图像查询选择逻辑调整，以及弃用 SDPA 和 flash attention 的 paged| 前缀。此外，专家并行新增 token-dispatch 实现并成为 Qwen3 MoE 和 Mellum 的默认方案，缓存处理与量化缓存问题也得到修复。
正文节选
# Release v5.19.0 ## New Model additions ### EmbeddingGemma2 <img width="2716" height="2308" alt="image" src="https://github.com/user-attachments/assets/84734e74-163d-4d12-b166-ffcf6749d563" /> EmbeddingGemma 2 is a multimodal embedding model from Google built on the Gemma 4 architecture. It encodes text, images, audio, and video, individually or combined in one input, into a shared 768-dimensional vector space for cross-modal retrieval, semantic similarity, clustering, and classif