Cómo reducir costos y consumo energético en agentes de IA: la propuesta Murakkab

El problema: flujos agenticos costosos y fragmentados

Los llamados “agentic workflows” son sistemas de software impulsados por IA que encadenan múltiples modelos y herramientas externas para resolver tareas complejas —por ejemplo, analizar un video, generar una transcripción y responder preguntas sobre su contenido. Aunque muy potentes, estos flujos tienden a ser fragmentados: cada componente puede venir de proveedores distintos, usar modelos de caja negra y requerir configuraciones específicas.

Esa fragmentación genera dos problemas clave para equipos de desarrollo y proveedores de nube: por un lado, los desarrolladores deben definir de forma rígida qué modelos, en qué orden y con qué recursos ejecutar; por otro, los proveedores de infraestructura no pueden ver con claridad dentro del flujo para asignar hardware de forma eficiente en el momento de la ejecución. El resultado son recursos sobreasignados, mayor consumo energético y mayores costos operativos.

Murakkab: resumir la intención, optimizar la ejecución

Para abordar estas ineficiencias, investigadores de MIT junto con Microsoft Azure presentaron Murakkab —palabra urdu que significa “composición”— un sistema que automatiza dos cosas: la construcción de flujos agenticos a partir de especificaciones de alto nivel y la optimización dinámica de su implementación en la nube.

En lugar de forzar al desarrollador a escoger cada modelo y herramienta, Murakkab permite describir la intención del servicio en lenguaje sencillo. Por ejemplo: “Crear una aplicación de Q&A sobre videos que extraiga fotogramas clave, genere una transcripción y responda preguntas”. A partir de esa descripción, Murakkab identifica automáticamente modelos y herramientas compatibles, decide qué pasos deben ejecutarse en paralelo o en serie, y define una configuración de despliegue inicial.

Pero Murakkab no se queda en esa configuración estática: cuando la aplicación se despliega en la nube, el sistema ajusta sobre la marcha las asignaciones de hardware y los cronogramas de ejecución para cumplir restricciones específicas del usuario —como máxima precisión o límite de latencia— mientras optimiza el uso de recursos.

Visibilidad y aprovechamiento para proveedores de nube

Un aporte importante de Murakkab es que provee a los proveedores de nube visibilidad transversal sobre múltiples cargas de trabajo. Con esa vista global, el proveedor puede compartir recursos entre aplicaciones de forma más eficiente, asignando aceleradores, CPU y memoria según prioridades reales, en vez de sobreaprovisionar por seguridad.

Ese enfoque beneficia a todos los actores: los usuarios obtienen las garantías de rendimiento que necesitan, los desarrolladores no deben reescribir flujos ante la llegada de nuevos modelos o aceleradores, y los proveedores reducen desperdicio energético y costos operativos.

Resultados concretos en pruebas

En evaluaciones con diferentes cargas agenticas —incluyendo casos de video Q&A y generación de código— Murakkab alcanzó las metas del usuario mientras utilizaba aproximadamente 35% del cómputo requerido por métodos tradicionales. En términos de energía, consumió cerca del 27% comparado con soluciones convencionales y logró reducir costos a menos del 25% del gasto previo.

Además, Murakkab permite ajustar prioridades: en un escenario reportado, el sistema logró disminuir el consumo energético de un flujo agentico en más de un orden de magnitud con una caída en la precisión del usuario de solo alrededor del 2%. Esos resultados muestran que, en muchos casos, pequeñas concesiones en métricas secundarias pueden traducirse en ahorros masivos.

Implicaciones para América Latina

Para tomadores de decisión en América Latina, estas mejoras tienen relevancia inmediata. Muchas organizaciones de la región enfrentan restricciones presupuestarias y costos de energía elevados o variables; además, la adopción de IA suele verse frenada por la necesidad de mantener cargas de trabajo dentro de límites de gasto predecibles.

Murakkab ofrece una vía para desplegar aplicaciones agenticas avanzadas sin exigir inversiones constantes en reingeniería cuando aparece un nuevo modelo o acelerador. Para nubes regionales, proveedores gestionados y startups, la posibilidad de entregar servicios IA de forma más eficiente puede traducirse en precios más competitivos y menor huella de carbono.

No obstante, la adopción práctica en la región implica desafíos: la integración con proveedores locales de nube, el cumplimiento de requisitos de soberanía y datos, y la disponibilidad de talento para evaluar políticas de optimización. Los beneficios también dependen de que los proveedores de infraestructura implementen capacidades de visibilidad y control similares a las propuestas por Murakkab.

Recomendaciones operativas para líderes y equipos TI

• Evaluar pilotos centrados en cargas agenticas críticas (p. ej., análisis de video, atención automatizada, generación de código) para medir ahorros reales en su contexto operativo.
• Exigir métricas de eficiencia (consumo energético por tarea, tiempo de respuesta, costo por operación) en acuerdos con proveedores de nube, para poder comparar configuraciones.
• Priorizar plataformas y arquitecturas que permitan la orquestación dinámica de modelos y recursos, y promover pruebas con herramientas que automaticen elecciones de modelos y hardware.
• Considerar estrategias de compromiso entre precisión y consumo cuando la latencia o el costo sean más críticos que la máxima exactitud.

Quiénes están detrás y dónde se presentó

El trabajo fue liderado por Gohar Chaudhry, estudiante de posgrado en EECS del MIT, con participación de Adam Belay (profesor asociado de EECS en MIT) y Ricardo Bianchini (technical fellow y corporate vice president en Microsoft Azure), entre otros colaboradores de Microsoft Azure. El artículo que describe Murakkab fue presentado en la conferencia USENIX Symposium on Operating Systems Design and Implementation (OSDI).

Conclusión: eficiencia como ventaja competitiva

Murakkab demuestra que la optimización sistemática de flujos agenticos —desde la selección automática de modelos hasta la asignación dinámica de hardware— puede reducir drásticamente cómputo, energía y costos sin sacrificar los objetivos de usuario. Para empresas y proveedores en América Latina, adoptar enfoques similares no solo mejora la sostenibilidad operativa, sino que puede convertirse en una ventaja competitiva para ofrecer servicios de IA escalables y asequibles. La clave estará en impulsar pilotos relevantes, exigir transparencia en métricas y colaborar con proveedores que permitan orquestación y visibilidad a nivel de plataforma.