Cuando el arte de IA no tiene autor: el fenómeno que borra la trazabilidad de imágenes generadas

Resumen del hallazgo

Un equipo del Computer Science and Artificial Intelligence Laboratory (CSAIL) del MIT publicó en Nature Communications un hallazgo que cambia la forma en que pensamos sobre la autoría de imágenes creadas por inteligencia artificial. Los investigadores describen un fenómeno al que llaman “decadencia de atribución”: cuando los modelos generativos se entrenan con conjuntos de datos muy grandes, la eliminación de una imagen individual —o incluso de todas las imágenes de un artista o de un mismo sujeto— a menudo no altera el resultado generado. En otras palabras, la salida del modelo deja de poder atribuirse de manera verificable a ejemplos concretos del entrenamiento.

Por qué esto importa: el problema del “re-entrenamiento” y la atribución

La pregunta clásica en debates legales y regulatorios es simple pero difícil: si un generador produce un retrato, ¿puede decirse que copia o deriva de alguna imagen específica del conjunto de entrenamiento? Responderlo de forma rigurosa exige un contrafactual honesto: volver a entrenar el modelo desde cero sin esa imagen y ver si el resultado cambia. Con millones de ejemplos eso es impracticable: requiere repetir el entrenamiento infinidad de veces.

Hasta ahora, los trabajos sobre atribución se apoyaban en estimaciones y aproximaciones para medir la influencia de ejemplos de entrenamiento. El equipo del MIT buscó una respuesta exacta y escalable.

La solución técnica: ensembles de difusión y ablación sin re-entrenar

Para evitar re-entrenar, los investigadores diseñaron una arquitectura propia llamada “diffusion ensemble”. En vez de un único modelo monolítico, el sistema se compone de múltiples componentes más pequeños, cada uno entrenado con una porción distinta del conjunto de datos. Si quieren saber qué pasaría al quitar una imagen, simplemente desactivan las partes del ensamblado que vieron esa imagen. Sin re-entrenamiento ni aproximaciones: el modelo contrafactual resultante es exacto dentro del diseño.

Este mecanismo de ablación efectiva permitió borrar los efectos de entradas concretas y medir directamente si la salida cambia. Para comprobar que la arquitectura seguía siendo competitiva, compararon 24 ensembles con 24 modelos de difusión convencionales entrenados con exactamente los mismos datos. En términos de calidad de imagen y medidas estándar, los ensembles se comportaron de manera equivalente. Curiosamente, con más datos los ensembles incluso se desempeñaron mejor en relación con los modelos tradicionales, lo que sugiere mayor eficiencia con mayores volúmenes de entrenamiento.

El universo contrafactual y el “radio contrafactual”

Con la ablación en marcha, los investigadores definieron el “universo contrafactual” de una imagen generada como el conjunto de todas las versiones alternas que surgirían al eliminar distintas partes del entrenamiento. La distancia entre la imagen original y su versión más diferente se denomina “radio contrafactual”; este radio cuantifica cuánto pudo haber influido, como máximo, cualquier entrada individual del entrenamiento en esa salida.

Entrenaron 24 ensembles en conjuntos de tamaños que iban desde 256 hasta más de 160,000 imágenes, usando colecciones públicas como CIFAR-10, CelebA, MetFaces y ArtBench. El patrón fue consistente: al aumentar el tamaño del conjunto de entrenamiento, el radio contrafactual disminuye siguiendo una ley de potencia inversa. Esa contracción ocurre tanto si la diferencia se mide píxel a píxel como si se evalúa en términos semánticos, y tiene significancia estadística.

Robustez del resultado

Los autores realizaron múltiples pruebas para descartar artefactos del método. A pequeña escala replicaron la prueba con la técnica de fuerza bruta: 1,282 modelos separados fueron entrenados y la decadencia de atribución apareció igualmente. También controlaron la fracción removida, fijaron el número de épocas, trabajaron con modelos condicionados por texto y por clase, y usaron cuatro métricas de similitud distintas; el efecto persistió en todos los escenarios probados.

Implicaciones legales, éticas y prácticas

El hallazgo tiene implicaciones directas en debates sobre derecho de autor, remuneración de creadores y responsabilidad. Si una salida generada no depende de forma demostrable de ninguna imagen individual del entrenamiento, resulta difícil sostener que sea una obra derivada de esa imagen concreta. Eso complica reclamaciones de copia directa y plantea preguntas sobre la aplicabilidad de conceptos como el “uso justo” y la posibilidad de considerar las salidas como obras originales con derechos propios.

También hay un lado de privacidad: si remover imágenes del entrenamiento no cambia las salidas, se abre una paradoja sobre la protección de datos personales. Por un lado, la falta de trazabilidad podría interpretarse como protección frente a la extracción de imágenes específicas; por otro, dificulta la verificación cuando se reclama que un modelo sí utilizó material sensible.

David Gifford y Zheng Dai —investigadores del equipo— subrayan que su método es la primera manera eficiente y exacta de eliminar a gran escala la influencia de entradas y de demostrar que la salida no cambia. Además, señalan que la técnica permite deliberadamente producir salidas garantizadas como no atribuibles, algo que Gifford plantea como una obligación ética de la industria para proteger a creadores y sujetos, no como un resquicio legal.

Relevancia para América Latina

En América Latina, donde los marcos regulatorios sobre IA aún se están definiendo y donde existe una comunidad artística digital creciente, estos resultados son relevantes. Los creadores locales, plataformas y reguladores deberán considerar que la capacidad de demostrar que una imagen generada proviene de contenidos concretos puede ser limitada cuando los modelos se entrenan con datos masivos. Esto afecta procesos de licenciamiento, reclamaciones por derechos de autor y políticas de transparencia sobre fuentes de datos.

Para empresas y gobiernos de la región, la investigación indica que las soluciones técnicas que prometen trazabilidad absoluta pueden no ser suficientes por sí solas. Podrá ser necesario combinar regulaciones sobre prácticas de recolección de datos, etiquetado de fuentes y requisitos de transparencia en los pipelines de entrenamiento con enfoques técnicos para auditar modelos.

Conclusión

La “decadencia de atribución” identificada por el equipo del MIT plantea que, a gran escala, los modelos generativos crean salidas que sencillamente no pueden rastrearse hacia ejemplos de entrenamiento individuales. Esto desafía supuestos legales y prácticos sobre copia y responsabilidad, y sugiere que la discusión sobre cómo gobernar la IA generativa debe incorporar tanto técnicas de diseño como marcos regulatorios y modelos de compensación adaptados a la nueva realidad. En regiones como América Latina, donde la regulación está en construcción, estos hallazgos deberían informar decisiones sobre transparencia, derechos de autor y protección de datos en proyectos de IA.