España lidera coalición global para proteger a menores frente a la IA

Introducción

España anunció en Ginebra la creación de la Coalición Internacional para los Derechos y la Protección de la Infancia en la Era de la Inteligencia Artificial. La iniciativa se presentó en el marco del diálogo internacional de Naciones Unidas sobre gobernanza de la IA y agrupa a una veintena de países y organizaciones, con el objetivo de garantizar que el desarrollo y despliegue de la IA respeten la seguridad, el desarrollo saludable y los derechos de niñas, niños y adolescentes.

La propuesta, promovida por España con el apoyo de Francia, Kenia y la Unión Europea, cuenta con la adhesión de países de distintas regiones y el respaldo de agencias de la ONU como Unicef y Unesco. Su aparición en la agenda multilateral subraya el creciente reconocimiento de que la regulación y las buenas prácticas tecnológicas deben contemplar explícitamente la protección infantil.

Qué propone la coalición

El grupo de trabajo busca coordinar esfuerzos entre gobiernos, organismos de la ONU, empresas tecnológicas y organizaciones civiles para asegurar que los sistemas de IA sean “seguros, fiables, dignos de confianza, respetuosos con los derechos de la infancia y con un enfoque centrado en las personas”, según el documento aprobado por los firmantes.

Entre sus prioridades están identificar riesgos específicos para menores, promover estándares y políticas orientadas a su protección, y fomentar la cooperación internacional para mitigar daños transfronterizos. La coalición hace referencia explícita a la Convención sobre los Derechos del Niño como marco de referencia para estas acciones.

Quiénes participan y quiénes están ausentes

Además de España, forman parte del acuerdo países como Austria, Brasil, Bulgaria, Canadá, República Checa, Corea del Sur, El Salvador, Estonia, Indonesia, Italia, Japón, Luxemburgo, Marruecos y Países Bajos. Las agencias internacionales que apoyan la iniciativa incluyen Unicef, Unesco, la Oficina del Alto Comisionado para los Derechos Humanos, la Unión Internacional de Telecomunicaciones, la Oficina de las Naciones Unidas para las Tecnologías Digitales y Emergentes y la Comisión Europea.

No obstante, en la lista de adherentes destacan ausencias relevantes: ni Estados Unidos ni China, donde se concentran muchas de las empresas que dominan la industria de la IA, forman parte de este grupo. Esa ausencia plantea un desafío práctico para cualquier intento de fijar estándares globales, aunque la coalición puede servir como motor de normas y prácticas que otros países podrían adoptar o adaptar.

Riesgos concretos de la IA para menores

El documento aprobado por la coalición reconoce que el despliegue acelerado de sistemas de IA está transformando los espacios digitales en los que los niños aprenden, juegan y se comunican. Estas tecnologías generan oportunidades —por ejemplo, en educación personalizada o accesibilidad—, pero también amplifican riesgos ya conocidos en el entorno digital y crean otros nuevos.

Entre los peligros mencionados están la manipulación, la difusión de contenido dañino y la generación de pornografía o material de abuso sexual infantil mediante deepfakes. También señalan la segmentación algorítmica dirigida a menores, que puede potenciar la exposición a mensajes nocivos o prácticas comerciales predatorias.

En la presentación de la coalición, el ministro de Transformación Digital y de la Función Pública de España, Óscar López, enfatizó la responsabilidad pública y privada: “Los derechos de los menores no pueden desaparecer en el mundo digital. Cada día, niños y adolescentes de todo el mundo acceden a sitios donde les pueden hacer daño. Es nuestro deber protegerles. Algunos milmillonarios han estado haciendo mucho dinero con los datos de nuestros niños. Esto debe terminarse. Es hora de que sean responsables”.

Contexto reciente: la atención a la infancia más allá de las redes sociales

En los últimos años se ha formado un consenso amplio sobre la necesidad de proteger a menores frente a los efectos nocivos de redes sociales. Fallos judiciales en Estados Unidos han responsabilizado a plataformas por prácticas que ponen en riesgo a jóvenes, y varios países han impulsado regulaciones para limitar el acceso de menores o reforzar obligaciones de las empresas.

Sin embargo, el foco regulatorio que se ha ido construyendo alrededor de las redes ha tendido a dejar de lado —hasta ahora— los desafíos específicos que plantea la IA. Expertos y denunciantes del sector han advertido que si la conversación se limita a redes tradicionales, los problemas podrían repetirse con “amigos digitales” y otros agentes de IA con los que interactúan niños y adolescentes. Como alertó la ingeniera Frances Haugen, que expuso peligros de las redes sociales: “Si no extendemos la conversación de las redes a los amigos digitales, veremos cómo se repiten muchas cosas”.

Implicaciones para América Latina

Para la región latinoamericana, la coalición representa una referencia relevante. Aunque los países de la región no encabezan la lista de promotores, muchas de las preocupaciones son compartidas: protección de la infancia digital, regulación de plataformas, y la necesidad de políticas públicas que equilibren innovación y derechos.

Las lecciones potenciales incluyen la necesidad de articular marcos normativos claros sobre el diseño con enfoque en la infancia (age-appropriate design), exigir evaluaciones de impacto en derechos humanos y promover alfabetización digital dirigida a familias y educadores. Dada la dependencia tecnológica y la presencia de proveedores globales, la cooperación internacional y el alineamiento regulatorio pueden facilitar la implementación local de salvaguardas efectivas.

Qué pueden hacer gobiernos y empresas ahora

Aunque la coalición está orientada a coordinar a actores multilaterales, hay medidas prácticas que gobiernos y compañías en la región pueden considerar:

• Realizar evaluaciones de riesgo de IA centradas en menores antes del despliegue de productos o servicios.
• Adoptar principios de diseño que prioricen la privacidad y la seguridad infantil, incluyendo minimización de datos y límites a la personalización dirigida a menores.
• Fortalecer la educación digital en escuelas y programas comunitarios para que niñas, niños y cuidadores reconozcan riesgos y sepan cómo actuar.
• Establecer canales de colaboración entre autoridades de protección infantil, reguladores digitales y empresas tecnológicas para respuestas rápidas a incidentes.
• Promover transparencia sobre el uso de modelos y algoritmos que interactúan con menores, sin perjuicio de secretos comerciales.

Estas acciones no dependen exclusivamente de acuerdos globales; pueden avanzarse con legislación nacional, regulación sectorial y acuerdos público-privados.

Conclusión

La coalición promovida por España ofrece un marco para colocar la protección de la infancia en el centro de la gobernanza de la IA. Aunque la falta de adhesión de actores clave como EE. UU. y China limita su alcance inmediato, la iniciativa puede impulsar normas y prácticas que otros países y empresas adopten. Para América Latina, la oportunidad está en aprovechar esta ola normativa para reforzar capacidades, adaptar marcos legales y garantizar que la innovación tecnológica no ocurra a costa de los derechos y la seguridad de las nuevas generaciones.