La Comisión Europea considera que el diseño de Instagram y Facebook favorece el uso compulsivo y no evaluó adecuadamente los riesgos para la salud mental, sobre todo de menores y colectivos vulnerables. Bruselas exige cambios de interfaz y opciones por defecto menos orientadas a la interacción.
El intercambio constante de fotos y vídeos de menores en redes sociales, conocido como sharenting, crea huellas digitales duraderas y riesgos como ciberacoso y explotación. Un proyecto llamado Guardián investiga la magnitud del problema en Europa y África Oriental para orientar políticas y educación familiar.
El Consejo de Ministros ha aprobado un proyecto de ley que traslada el Reglamento Europeo de IA al ordenamiento español, introduciendo la prohibición de deepfakes sexuales, obligaciones de etiquetado y sanciones que llegan hasta 35 millones de euros o el 7% de la facturación. La norma refuerza la responsabilidad de proveedores, desplegadores y usuarios y crea mecanismos de supervisión.
El Parlamento Europeo y el Consejo alcanzaron un acuerdo para prohibir la comercialización de modelos de IA que permitan crear deepfakes sexuales y pornografía infantil. La medida incluye plazos escalonados para otras obligaciones del reglamento de IA.
Commvault lanzó AI Protect, una herramienta que identifica agentes de IA activos en entornos cloud y permite revertir sus acciones dañinas. La solución combina monitoreo continuo y capacidades de respaldo para restaurar todo el stack a un estado seguro.
Un informe sobre grupos en Telegram en España e Italia documenta cómo miles de usuarios comparten fotos, crean deepfakes y organizan humillaciones sexuales en chats no moderados. La inteligencia artificial ha acelerado el abuso y la monetización en la plataforma, mientras las víctimas suelen ser mujeres comunes.
La actriz Collien Fernandes acusa a su exmarido de crear cuentas falsas y distribuir deepfakes sexuales durante más de una década. El escándalo ha provocado marchas, un paquete de medidas impulsado por figuras públicas y la promesa de reformas legales contra la violencia digital.