Cómo WRING ofrece una solución más fina al dilema 'Whac-a-mole' en modelos de visión e IA

El reto del sesgo en modelos de visión: un problema que afecta la práctica clínica

En hospitales y clínicas, los modelos de inteligencia artificial que analizan imágenes —por ejemplo, para clasificar lesiones cutáneas— ya forman parte del flujo de trabajo. Sin embargo, si un modelo favorece ciertos tonos de piel o grupos poblacionales, puede fallar en identificar pacientes de alto riesgo. El sesgo en IA no es solo un asunto de justicia: en contextos clínicos y otros escenarios de alto impacto, es una cuestión de seguridad.

Tradicionalmente, el foco está en la calidad y representatividad de los datos de entrenamiento. Pero la arquitectura del modelo y las transformaciones aplicadas a sus representaciones internas también pueden contener y amplificar sesgos, con efectos imprevistos en el mundo real.

¿Qué es el “Whac‑A‑Mole dilemma” y por qué importa?

Una práctica común para mitigar sesgos en modelos visión-lenguaje (VLM) es la “deproyección” o projection debiasing. Esta técnica elimina información no deseada de los embeddings proyectando fuera la subspacio asociado al atributo problemático. En la práctica, esto puede evitar que el modelo actúe según un sesgo específico.

Pero esa estrategia tiene un efecto colateral: al quitar una dimensión de la representación, se alteran otras relaciones aprendidas por el modelo. Investigadores acuñaron el término “Whac‑A‑Mole dilemma” para describir esta situación: al erradicar un sesgo, podrían aparecer o amplificarse otros sesgos distintos, como si al golpear una moles surgieran nuevas en otro lugar.

Este fenómeno es especialmente preocupante en aplicaciones que requieren alta confiabilidad, como la atención médica o la selección de personal, y lo es también para organizaciones en Latinoamérica que incorporan IA en servicios públicos y privados con recursos limitados para reentrenar modelos desde cero.

WRING: rotando coordenadas para debiasing más selectivo

Un equipo del MIT, Worcester Polytechnic Institute y Google —con autores como Walter Gerych, Cassandra Parent, Quinn Perian, Rafiya Javed, Justin Solomon y Marzyeh Ghassemi— presentó un enfoque alternativo llamado Weighted Rotational DebiasING, abreviado WRING, aceptado para ICLR 2026.

La idea central de WRING no es eliminar por completo un subespacio, sino modificar la orientación de ciertas coordenadas en el espacio latente del modelo. Esas coordenadas parecen estar más directamente asociadas con el atributo sesgado (por ejemplo, tono de piel o género). Al rotarlas a un ángulo distinto, el modelo deja de distinguir entre grupos dentro de un concepto específico, pero las demás relaciones entre imágenes y texto se mantienen prácticamente intactas.

A diferencia de la proyección, que “aplana” o comprime el espacio alrededor de la eliminación, WRING desplaza selectivamente componentes responsables del sesgo, preservando la estructura útil del embedding.

Ventajas prácticas: eficiencia y menor intervención

WRING es un método de post‑procesamiento: se aplica sobre un VLM ya entrenado, como los modelos basados en CLIP. Eso trae dos beneficios clave:

• No requiere reentrenar modelos gigantescos desde cero, lo que ahorra tiempo y recursos computacionales. Esto es relevante para equipos y organizaciones en Latinoamérica que no siempre cuentan con la capacidad de volver a entrenar sistemas a gran escala.
• Es relativamente poco invasivo: modifica la representación en tiempo de inferencia o como un paso posterior, manteniendo la inversión realizada en los modelos preexistentes.

Los autores reportan que WRING logró reducir el sesgo para un concepto objetivo sin aumentar sesgos en otras áreas, superando una limitación central de la proyección tradicional.

Limitaciones actuales y próximos pasos

Por ahora, WRING ha sido desarrollado y evaluado principalmente en modelos de tipo Contrastive Language–Image Pre‑training (CLIP), una familia de VLM que vincula imágenes y lenguaje para tareas de búsqueda y clasificación. Extender esta técnica a modelos generativos de lenguaje–como los que impulsan sistemas tipo ChatGPT—es un desafío técnico razonable y un objetivo futuro señalado por los propios autores.

También es importante subrayar que WRING no reemplaza la necesidad de datos representativos ni de procesos de gobernanza y evaluación continua. Es una herramienta complementaria: útil cuando reentrenar no es viable, pero no la única estrategia para abordar el sesgo.

Relevancia para la región: por qué interesa a América Latina

En Latinoamérica, la adopción de IA en salud pública, educación y servicios financieros enfrenta limitaciones presupuestarias y de infraestructura. Soluciones como WRING, que permiten intervenir sobre modelos ya entrenados sin grandes costos adicionales, pueden facilitar la implementación de correcciones puntuales en sistemas importados o en modelos desarrollados por terceros.

Además, dado que las poblaciones latinoamericanas presentan amplia diversidad étnica y tonos de piel, las herramientas que reducen sesgos en la visión computacional son especialmente relevantes para evitar errores clínicos o discriminación algorítmica.

Sin embargo, su implementación debe acompañarse de evaluación local: probar modelos con datos representativos de la población de cada país y medir efectos imprevistos en atributos distintos al objetivo original.

Financiación y colaboración académica

El trabajo fue llevado a cabo en colaboración entre MIT, Worcester Polytechnic Institute y Google, y recibió apoyos como la National Science Foundation CAREER Award, AI2050 Early Career Fellowship, Sloan Research Fellow Award, el Gordon and Betty Moore Foundation Award y la MIT‑Google Computing Innovation Award.

Conclusión

WRING representa un avance técnico relevante para mitigar sesgos en modelos visión‑lenguaje sin deteriorar otras relaciones importantes aprendidas por el modelo. Su naturaleza de post‑procesamiento lo hace atractivo para adopciones prácticas, especialmente en entornos con recursos limitados. Aun así, la técnica debe considerarse parte de un conjunto más amplio de prácticas —incluyendo datos representativos, auditorías continuas y evaluación local— para garantizar sistemas de IA más justos y confiables.

El siguiente paso señalado por los investigadores es adaptar la filosofía de WRING a modelos generativos de lenguaje, abriendo la puerta a estrategias de debiasing más generalizadas en múltiples tipos de IA.