Modelos de decisión multimodales d1: IA rápida y ligera para el edge

Introducción

Liquid AI lanzó dos modelos de decisión abiertos de la familia d1: d1-3B y d1-omni-600M (en fase experimental). A diferencia de los modelos generativos que producen texto token por token, los modelos de decisión responden en una única pasada (forward pass), lo que permite inferencias estructuradas y muy rápidas ideales para entornos en el edge.

Para audiencias técnicas y tomadores de decisión en América Latina, esto significa poder desplegar capacidades de clasificación, comprensión y triage multimodal en sitios con conectividad limitada o requisitos de latencia estrictos —por ejemplo, atención al cliente en tiempo real, monitorización de instalaciones o soluciones móviles en campo.

Qué ofrecen d1-3B y d1-omni-600M

• d1-3B: modelo decoder-only derivado de LFM2.5-VL-3B. Soporta entrada de texto e imagen y fue optimizado como modelo de decisión. Según el Decision Index v0.2.1, d1-3B logra una puntuación de 48.57, siendo el mejor modelo de decisión por debajo de 10B parámetros, por delante de modelos de 4B, 9B y del Decider 35B-A3B (47.11).
• d1-omni-600M (experimental): basado en LFM2.5-Encoder-350M (encoder bidireccional) y diseñado para manejar visión y audio además de texto. Acepta pares texto+imagen o texto+audio. Es una versión de investigación temprana y sigue en desarrollo.

Ambos modelos están construidos sobre la familia Liquid Foundation Models (LFMs), pero con el objetivo distinto de producir decisiones estructuradas (etiquetas, scores, criterios) en una sola pasada en lugar de generar secuencias tokenizadas.

Arquitectura y modalidades

d1-3B toma como base un VLM decoder-only y conserva capacidades de visión para tareas que combinan texto e imagen. d1-omni-600M integra encoders de visión y audio sobre un backbone encoder bidireccional, lo que le permite manejar tres modalidades (texto, imagen, audio) según la combinación requerida. Debido a su carácter experimental, d1-omni-600M está orientado a investigación y despliegues controlados.

Un aspecto relevante para implementaciones en Latinoamérica es la flexibilidad multimodal: muchas aplicaciones locales requieren procesar mensajes, imágenes (por ejemplo, fotos de comprobantes o equipos) y, eventualmente, audio —todo ello con requisitos de privacidad y baja latencia.

Resultados en benchmarks públicos

Liquid AI evaluó ambos modelos en siete conjuntos públicos que cubren comprensión lectora, detección de toxicidad, clasificación de intención, preguntas médicas y comprensión cross-lingual. Los puntajes principales son:

• Media (mean): d1-3B = 82.9, d1-omni-600M = 78.4
• Comparativa: Decider 2B = 77.1, Decider 4B = 81.1

Resultados por dataset (d1-omni-600M | d1-3B | Decider 2B | Decider 4B):

• SQuAD 2.0: 74.0 | 83.3 | 67.7 | 76.0
• Civil Comments: 95.8 | 93.3 | 93.6 | 92.8
• MASSIVE (intent): 86.1 | 86.9 | 81.1 | 88.3
• PubMedQA: 61.3 | 68.3 | 65.7 | 63.3
• BoolQ: 77.7 | 86.3 | 87.3 | 89.0
• XNLI: 74.7 | 85.6 | 85.0 | 88.6
• PAWS-X: 79.5 | 76.4 | 59.5 | 69.8

Estos números muestran que d1-3B ofrece la media más alta del conjunto evaluado y supera a alternativas de similar tamaño en varias tareas. d1-omni-600M también rinde bien considerando que tiene aproximadamente una cuarta parte de los parámetros del Decider 2B.

Nota: no se reportan benchmarks de visión privada ni métricas de audio públicas en este lanzamiento; el Decision Index v0.3 contempla una división privada para visión y reconoce que las métricas de decisión en audio siguen siendo un problema abierto.

Rendimiento y latencia en el edge y GPU

Una de las prioridades de estos modelos es la inferencia rápida en dispositivos edge. En colaboración con NVIDIA se midió d1-3B en distintos dispositivos:

Edge (latencia por una pregunta individual):

• Jetson AGX Thor: 16 ms
• Jetson AGX Orin (64 GB): 26 ms
• Jetson Orin Nano: 50 ms
• Apple M5 Pro: 30 ms

Comportamiento multiconsulta: tres preguntas se procesan en aproximadamente 1.3x el tiempo de una sola en los dispositivos medidos (por ejemplo, AGX Thor pasa de 16 ms a 20 ms para tres preguntas).

GPU (latencias individuales):

• NVIDIA RTX 4090: 8 ms por pregunta, procesamiento de imagen 384px en <18 ms
• AMD MI325X: 9 ms por pregunta

Estos tiempos colocan a d1-3B como una opción práctica para aplicaciones que necesitan respuestas en tiempo real desde hardware local, reduciendo la dependencia de conectividad constante al cloud —un factor crítico en muchas regiones de América Latina.

Casos de uso relevantes para América Latina

• Atención al cliente local: triage automático de tickets que combine texto e imagen (facturas, fotos de producto) con latencias que permiten experiencia en tiempo real.
• Salud y telemedicina: decisiones estructuradas en QA médicas preliminares (con validación profesional posterior), especialmente en zonas con conectividad intermitente.
• Operaciones en campo: diagnóstico rápido con audio y foto por técnicos móviles (d1-omni-600M puede ser útil en investigación para soluciones que integren audio).
• Moderación y cumplimiento: detección de contenido tóxico y clasificación de intención sin necesidad de enviar datos sensibles a servidores remotos.

En muchos escenarios latinoamericanos, la posibilidad de ejecutar modelos eficientes localmente mejora privacidad, reduce costos de transferencia de datos y optimiza la latencia perceptible por el usuario.

Cómo empezar (instalación y uso básico)

Requisitos principales (según el release):

1. Dependencias: transformers>=5.14, torch, torchvision, pillow pip install “transformers>=5.14” torch torchvision pillow

2. Cargar el modelo: los modelos incluyen su propio código y deben cargarse con trust_remote_code=True. En el release se muestra cómo usar AutoModel.from_pretrained con el identificador LiquidAI/d1-3B.

3. d1-omni-600M: consultar la model card específica para instrucciones, dado que está en una fase de investigación.

Liquid AI también publica demos en Hugging Face Spaces (System One Arcade) para probar las capacidades.

Limitaciones y consideraciones

• d1-omni-600M es experimental y en desarrollo; usarlo con precaución en producción.
• No todas las métricas de visión y audio públicas están incluidas en el Decision Index actual; la evaluación en esas modalidades sigue evolucionando.
• Como con cualquier IA de decisión, conviene implementar mecanismos de auditoría, monitoreo y rutas de escalamiento humano, especialmente en tareas críticas.

Conclusión

Los modelos d1 representan un avance relevante para despliegues de IA en el edge: combinan soporte multimodal, eficiencia de inferencia y calidad competitiva en benchmarks. Para organizaciones en América Latina, ofrecen una opción atractiva para llevar decisiones automáticas a dispositivos locales con latencias de milisegundos, reduciendo dependencia de la nube y mejorando privacidad operativa. Los pesos son de código abierto y están disponibles en Hugging Face, facilitando experimentación e integración en soluciones locales.