EmbeddingGemma 2: un único espacio vectorial para texto, código, imágenes, video y audio

Qué es EmbeddingGemma 2

EmbeddingGemma 2, publicado el 6 de octubre de 2026 bajo licencia Apache 2.0, es un modelo de embeddings multimodal construido sobre Gemma 4. Su propósito es mapear texto, código, imágenes, video y audio a un único espacio vectorial de 768 dimensiones (con opciones truncables a 512, 256 y 128). Está disponible en configuraciones que van desde 270 millones de parámetros en su modo solo texto hasta 740 millones en la versión multimodal completa.

Este enfoque busca resolver una fricción común en sistemas de búsqueda y recuperación: cuando cada tipo de contenido usa un modelo distinto, los índices y rangos de puntuación no son comparables. EmbeddingGemma 2 envía todas las modalidades a la misma representación latente, lo que permite comparar directamente fotos con párrafos o fragmentos de audio con código.

Especificaciones clave

• Base: Gemma 4
• Licencia: Apache 2.0
• Dimensión de salida: 768 (se puede truncar a 512, 256 o 128)
• Ventana de contexto: 8,192 tokens (compartida entre modalidades)
• Modalidades: texto, código, imágenes, video y audio
• Parámetros: 270M (texto) a 740M (multimodal)
• Fecha de lanzamiento: 6 de octubre de 2026

Arquitectura y diseño modular

EmbeddingGemma 2 adopta una arquitectura con un backbone común y front-ends específicos por modalidad. La idea principal es simple pero potente: cada modalidad tiene su propio encoder frontal, pero todos convergen a la misma representación de 768 dimensiones.

Los tres encoders principales son:

• Texto y código: configuración base de 270M, adapta un decoder de Gemma 4 y maneja texto y código con hasta 8,192 tokens.
• Visión: +170M parámetros para imágenes estáticas —fotos, gráficos, diapositivas, páginas PDF y frames de video— con un encoder dedicado.
• Audio: +300M parámetros para audio crudo (voz, sonido ambiente) mediante un encoder dedicado.

La carga modular es una característica práctica: existe un único checkpoint, pero al cargar el modelo ustedes eligen qué encoders leer en memoria. Esto significa que los encoders omitidos no ocupan espacio en disco ni RAM. Además, dado que el espacio de salida es idéntico, embeddings generados con la configuración de 270M pueden compararse con embeddings creados por la configuración completa de 740M.

Dos consecuencias prácticas de este diseño:

• Empiecen con una configuración solo texto y añadan imágenes o audio más tarde sin re-embeder los documentos ya indexados.
• Ejecuten una versión pequeña en dispositivos edge o móviles y una versión grande en servidores, usando el mismo índice para ambas.

Además, cuando se empareja con Gemma 4 como generador en arquitecturas RAG (retrieval-augmented generation) on-device, ambos comparten tokenizer de texto y diseño de encoder de audio, lo que evita duplicidades en memoria crítica en dispositivos con recursos limitados.

Benchmarks y evaluaciones publicadas

Google publicó varios resultados iniciales:

• MTEB (Code): 14% de mejora respecto a EmbeddingGemma 1 (publicado como porcentaje de mejora, sin puntuaciones absolutas específicas).
• Texto multilingüe: mantiene la precisión de EmbeddingGemma 1.
• Recuperación de imágenes, video y audio: capacidad nueva no presente en la versión 1.

También hay evaluaciones de retención de calidad bajo truncación de dimensiones y almacenamiento por 1 millón de vectores (asumiendo bfloat16):

• 768d: 1,465 MB
• 512d: 977 MB
• 256d: 488 MB
• 128d: 244 MB

Google advierte probar la configuración multimodal a 128 dimensiones antes de producción, ya que la pérdida de calidad es más notable en media (imágenes/video/audio) que en texto.

Resultados medidos en un pequeño corpus de prueba (no son benchmarks a gran escala) incluyen:

• 256d vs 768d: top-1 y MRR idénticos en el experimento.
• 128d: top-1 se mantiene, MRR cayó de 0.667 a 0.656.
• La similitud media en 128d aumentó 12.6% frente a 768d pese a mantener ranking idéntico.
• Margen cross-modal en imágenes: 0.1154 sobre el falso más cercano; en audio: 0.0137.

Un punto operativo importante: la precisión de salida por defecto es float32, no bfloat16, por lo que los índices pueden ocupar aproximadamente el doble del tamaño citado si no se convierten a bfloat16.

Cómo arrancar (requisitos y pasos iniciales)

Para experimentar con EmbeddingGemma 2 se recomienda instalar las librerías pertinentes:

pip install -U sentence-transformers[image,audio,video] transformers

Requiere sentence-transformers 6.1.0 o superior y Python 3.9+. El proyecto incluye scripts de comprobación de entorno (por ejemplo, un script 00_check_setup.py) que verifican versiones, dependencias de modalidades (PIL para imágenes, soundfile/librosa para audio, decord para video) y disponibilidad de ffmpeg y CUDA. Estos comprobantes son útiles para evitar descargar checkpoints grandes (hasta 740M parámetros) si el entorno no está listo.

Buenas prácticas para adopción en América Latina

• Empezar simple: desplieguen primero la configuración de 270M para texto y validen la calidad de búsqueda. Esto reduce costos de cómputo iniciales y permite crear el índice base.
• Escalar por necesidad: añadir visión o audio cuando la carga de trabajo lo requiera, sin reindexar contenidos ya procesados.
• Evaluar truncación: prueben 256d y 128d en entornos controlados; 256d mostró comportamiento cercano al baseline en tests pequeños, mientras que 128d puede afectar más a modalidades multimedia.
• Considerar almacenamiento y precisión: si el objetivo es minimizar disco, convertir embeddings a bfloat16 reduce el tamaño; sin embargo, la API por defecto puede producir float32.
• Edge y móvil: la modularidad facilita correr versiones pequeñas en dispositivos con memoria limitada, un punto crítico para aplicaciones móviles y despliegues en regiones con infraestructura heterogénea.

Conclusión

EmbeddingGemma 2 representa un paso relevante hacia embeddings verdaderamente multimodales al unificar texto, código, imágenes, video y audio en un solo espacio de 768 dimensiones. Su diseño modular permite estrategia de adopción progresiva: comenzar con texto y escalar a multimodal sin reindexaciones costosas. Para equipos en América Latina, esto facilita prototipos rápidos en infraestructuras limitadas y despliegues mixtos entre dispositivos edge y servidores.

Antes de ponerlo en producción, prueben configuraciones de dimensión reducida y consideren la conversión a bfloat16 para ajustar costos de almacenamiento. Asimismo, validen resultados cross-modal en su propio dominio: la retención de calidad puede variar según la naturaleza de los datos y el idioma.

EmbeddingGemma 2 no solo añade capacidades nuevas (búsqueda multimodal) sino que también simplifica la gestión operacional de índices y despliegues, algo especialmente valioso en proyectos con requisitos multiformato y recursos limitados.