PULSO AI · Nueva plataforma impulsada por TD
La proliferación de deepfakes ha llevado a jefes de Estado y parlamentos a adoptar medidas diversas: desde solicitar registrar la voz como marca hasta aprobar reformas penales. Estos movimientos llegan en medio de investigaciones que revelan imágenes sexuales falsas de diputadas europeas y abren un debate sobre seguridad, censura y eficacia legal.
El Consejo de Ministros ha aprobado un proyecto de ley que traslada el Reglamento Europeo de IA al ordenamiento español, introduciendo la prohibición de deepfakes sexuales, obligaciones de etiquetado y sanciones que llegan hasta 35 millones de euros o el 7% de la facturación. La norma refuerza la responsabilidad de proveedores, desplegadores y usuarios y crea mecanismos de supervisión.
Yaël Eisenstat, exdirectiva de Facebook y ahora en Cybersecurity for Democracy, alerta que no es razonable descargar en los usuarios la tarea de identificar vídeos generados por IA. Pide regulaciones, etiquetado y pruebas de seguridad auditable para las plataformas.
El Parlamento Europeo y el Consejo alcanzaron un acuerdo para prohibir la comercialización de modelos de IA que permitan crear deepfakes sexuales y pornografía infantil. La medida incluye plazos escalonados para otras obligaciones del reglamento de IA.
Un informe sobre grupos en Telegram en España e Italia documenta cómo miles de usuarios comparten fotos, crean deepfakes y organizan humillaciones sexuales en chats no moderados. La inteligencia artificial ha acelerado el abuso y la monetización en la plataforma, mientras las víctimas suelen ser mujeres comunes.
La actriz Collien Fernandes acusa a su exmarido de crear cuentas falsas y distribuir deepfakes sexuales durante más de una década. El escándalo ha provocado marchas, un paquete de medidas impulsado por figuras públicas y la promesa de reformas legales contra la violencia digital.
