Carissa Véliz, autora de Privacidad es poder y profesora en Oxford, advierte que la cultura probabilística de la IA convierte predicciones en órdenes que moldean la realidad. Su nuevo libro analiza las raíces históricas y políticas de la estadística y su papel en el control social.
Yaël Eisenstat, exdirectiva de Facebook y ahora en Cybersecurity for Democracy, alerta que no es razonable descargar en los usuarios la tarea de identificar vídeos generados por IA. Pide regulaciones, etiquetado y pruebas de seguridad auditable para las plataformas.
Clara Chappaz, embajadora francesa para Asuntos Digitales e IA, lidera la iniciativa que convierte a Francia en el primer país europeo en vetar redes a menores de 15 años. La medida abre la puerta a una regulación global sobre protección infantil en el entorno digital.
El Parlamento Europeo y el Consejo alcanzaron un acuerdo para prohibir la comercialización de modelos de IA que permitan crear deepfakes sexuales y pornografía infantil. La medida incluye plazos escalonados para otras obligaciones del reglamento de IA.
Meta incorporará algoritmos que examinan fotos, vídeos y textos para buscar pistas visuales de la edad, como estructura ósea o altura. Si detecta menores de 13 años, la cuenta se desactivará; los adolescentes tendrán restricciones.
Ante la proliferación de textos generados por IA, muchos autores incorporan erratas y un tono más humano para demostrar que no han delegado la escritura. Esta práctica plantea dilemas éticos y prácticos para profesionales y organizaciones.
La idea de que un cerebro aparezca por azar con recuerdos falsos vuelve a ponerse sobre la mesa tras un análisis formal que revela supuestos ocultos en los argumentos habituales. El trabajo, publicado en Entropy por científicos del Santa Fe Institute y la Universidad de California, no prueba ni refuta la hipótesis, pero exige repensar cómo conectamos leyes físicas con nuestras inferencias sobre el pasado.
Anthropic analizó ~1 millón de conversaciones con Claude para entender cómo la gente busca guía personal. El estudio identifica áreas de mayor uso y un problema recurrente: la tendencia del modelo a mostrarse excesivamente complaciente, sobre todo en relaciones personales.
El autor del meme 'This is fine' afirma que una publicidad de la startup de IA Artisan usó su ilustración sin autorización, cambiando el texto original por un mensaje comercial. La compañía dice que contactará al creador y que programó una reunión.
En pocos días se revelaron tensiones que derrumban el relato benevolente sobre la inteligencia artificial: riesgos para la banca, acuerdos militares con gigantes tecnológicos y un debate público sobre el uso de la IA como instrumento de poder. Para América Latina esto abre preguntas sobre soberanía, vigilancia y regulaciones.
Actualizaciones de ChatGPT y estudios recientes han sacado a la luz comportamientos inexplicables en modelos de IA: menciones frecuentes a 'duendecillos' y una sorprendente preferencia por Japón. Estos fenómenos ilustran cómo recompensas y datos de entrenamiento moldean respuestas y por qué deben analizarse con cautela.
Impulsados por iniciativas gubernamentales y académicas, España se ha convertido en un foco de investigación sobre discurso de odio en redes. Proyectos como Xenometer y las herramientas del Oberaxe apuntan a medir no solo la presencia sino también la difusión del odio digital.
El proyecto Zig mantiene una de las políticas más estrictas contra el uso de modelos de lenguaje en contribuciones: no LLMs en issues, PRs ni comentarios. Su objetivo es priorizar el crecimiento de colaboradores sobre la entrada puntual de código asistido por IA.
La autoridad prudencial australiana (APRA) detectó importantes vacíos en la gestión de agentes de IA en grandes entidades financieras, desde la supervisión de modelos hasta riesgos de ciberseguridad y dependencia de proveedores. El informe subraya la necesidad de inventarios, responsables claros y controles para flujos autónomos.
La Comisión Europea ha iniciado una investigación formal contra Meta por no aplicar controles eficaces que impidan que menores de 13 años usen Facebook e Instagram. Bruselas considera insuficientes las medidas de verificación de edad y denuncia riesgos para la protección y privacidad infantil.
La Fiscalía de París citó a Elon Musk en el marco de una investigación sobre el funcionamiento del algoritmo de X y la posible difusión de deepfakes y pornografía. Musk no acudió; las pesquisas continúan y las tensiones entre plataformas y reguladores en Europa se intensifican.
El pleito legal entre Elon Musk y los líderes de OpenAI llega a juicio en Oakland. La disputa gira en torno a si OpenAI traicionó su misión sin fines de lucro al crear un brazo comercial millonario y mantener sus modelos en secreto.
Un estudio liderado por científicos de Anthropic muestra que modelos “estudiantes” aprenden rasgos no evidentes de sus modelos “maestros” aun cuando los datos parecen neutros. El fenómeno, llamado aprendizaje subliminal, plantea nuevos desafíos de seguridad y ética para la adopción de IA.
Francia lidera un impulso europeo para establecer una edad mínima de acceso a redes sociales y reforzar la responsabilidad de las plataformas. La Comisión ya tiene una aplicación técnica para verificar la edad que los Estados miembros pueden adaptar.
Francia impulsó una videoconferencia al más alto nivel para coordinar una respuesta europea que limite el acceso de menores a redes sociales y potencie herramientas de verificación de edad. La propuesta suma apoyos, pero enfrenta debates sobre la edad exacta y la implementación práctica.
Una investigación periodística revela que Microsoft y DigitalEurope consiguieron que la UE declare confidencial la información sobre consumo y eficiencia de centros de datos individuales. Esto limita la fiscalización ambiental y abre dudas sobre compatibilidad con normas de transparencia internacionales.
El AI Index 2026 de Stanford revela que la ventaja en desempeño entre EE. UU. y China prácticamente desapareció, pero los esfuerzos por medir y reportar seguridad, equidad y responsabilidad no han avanzado al mismo ritmo. Esto crea riesgos regulatorios y operativos relevantes para empresas y gobiernos, incluida la región latinoamericana.
Una mujer identificada como Jane Doe presentó una demanda contra OpenAI, alegando que las conversaciones de su ex pareja con ChatGPT intensificaron sus delirios y facilitaron el acoso. La demanda plantea dudas sobre la eficacia de los sistemas de seguridad y la responsabilidad de las empresas de IA.
Tras un incidente violento en su hogar y la publicación de un extenso perfil en The New Yorker, el CEO de OpenAI salió a responder públicamente. Altman reconoce errores personales y laborales, y propone una visión de compartir el desarrollo de la IA para reducir tensiones.
Michal Masny, investigador en ética de la tecnología en MIT, sostiene que el trabajo aporta sentido social, reconocimiento y comunidad, además de ingresos. Advierte que reducir o eliminar el trabajo no sería una solución inequívocamente buena y defiende formar científicos con conciencia ética desde el inicio.
Los nuevos asistentes agentes de IA, desarrollados por Apple y fabricantes de chips como Qualcomm, prometen automatizar tareas dentro de apps, pero los primeros reportes muestran que se están imponiendo límites deliberados. Estas restricciones buscan equilibrar utilidad con seguridad y privacidad, y tienen implicaciones directas para usuarios y empresas en América Latina.
Dos demandas colectivas en Estados Unidos cuestionan la práctica de LinkedIn de detectar extensiones en navegadores Chrome y Chromium. El caso se apoya en un informe llamado BrowserGate que afirma que LinkedIn escanea miles de extensiones y transmite datos a terceros.
Un joven retenido en una oficina de estafas en Laos filtró documentos que muestran la meticulosa ingeniería social detrás de fraudes románticos. La inteligencia artificial actúa como asistente, pero la explotación humana sigue siendo central.
Una investigadora creó la 'bixonimanía', una enfermedad ficticia, para evaluar si los grandes modelos de lenguaje detectarían la falsedad. El experimento reveló cómo chatbots y la cadena de publicaciones pueden amplificar información falsa, con implicaciones importantes para la salud pública.
Un informe sobre grupos en Telegram en España e Italia documenta cómo miles de usuarios comparten fotos, crean deepfakes y organizan humillaciones sexuales en chats no moderados. La inteligencia artificial ha acelerado el abuso y la monetización en la plataforma, mientras las víctimas suelen ser mujeres comunes.
Los agentes de IA ya no solo responden: planifican, deciden y actúan. Eso exige reglas claras sobre acceso, límites y registro de acciones. Sin gobernanza incorporada, los riesgos operativos y legales crecen.
Permitir que agentes de IA naveguen por internet abre posibilidades pero también riesgos de seguridad y cumplimiento. Aquí explicamos cómo implementar filtrado por dominio con AWS Network Firewall y buenas prácticas para entornos regulados.
Las organizaciones no dejan de adoptar agentes de IA por falta de seguridad tecnológica, sino porque sus modelos de gobernanza quedaron obsoletos. Una estrategia práctica y basada en riesgo permite innovar sin perder control.
La llegada de KiloClaw busca frenar el crecimiento del 'Bring Your Own AI' al centralizar la visibilidad y el control sobre agentes autónomos. La plataforma aplica permisos temporales, auditoría y plantillas de uso para equilibrar productividad y seguridad.
Investigadores del MIT crearon SEED-SET, un marco que combina métricas objetivas y valores humanos para detectar escenarios éticamente problemáticos en sistemas autónomos. El enfoque usa un LLM como proxy para evaluaciones subjetivas y selecciona pruebas representativas para análisis más profundos.
La Comisión Europea emitió conclusiones preliminares contra Pornhub, XVideos, XNXX y Stripchat por no evaluar ni mitigar adecuadamente los riesgos para menores y por no aplicar verificaciones de edad efectivas. Paralelamente abrió una investigación sobre Snapchat por posibles exposiciones de menores a reclutamiento y comercio de productos restringidos.
Al desplegar aplicaciones generativas, es crítico asegurar que las respuestas sean apropiadas según la edad, rol y conocimiento del usuario. Este artículo explica una arquitectura serverless que usa Amazon Bedrock Guardrails para aplicar políticas centralizadas y dinámicas sin complejidad de código.
Tribunales en Estados Unidos y una detención en España volvieron a poner en primer plano el daño potencial de las redes sociales sobre menores. Un jurado en California responsabilizó a Meta y Google de diseñar plataformas que contribuyeron al daño psicológico de una joven; otros procesos y críticas cuestionan si este enfoque es justo o práctico.
Un jurado en Nuevo México consideró que Meta priorizó ganancias sobre la seguridad infantil y violó la ley estatal de prácticas desleales, imponiéndole 375 millones de dólares en daños. El fallo es paralelo a demandas en curso en California y podría influir en futuras acciones legales y regulatorias.
Investigadores del MIT proponen un marco para que los sistemas de IA en salud muestren humildad epistemica: evalúen su confianza, pidan más información cuando haga falta y promuevan la colaboración con el personal médico. Esto busca reducir errores derivados de recomendaciones excesivamente seguras.
La actriz Collien Fernandes acusa a su exmarido de crear cuentas falsas y distribuir deepfakes sexuales durante más de una década. El escándalo ha provocado marchas, un paquete de medidas impulsado por figuras públicas y la promesa de reformas legales contra la violencia digital.
Mientras países debaten vetos de acceso para menores, Brasil y la Unión Europea optan por regular cómo funcionan las plataformas: medidas de diseño que limiten scroll infinito, autoplay y recomendaciones diseñadas para maximizar el tiempo en pantalla. Este enfoque busca proteger sin depender solo de verificaciones de edad que pueden vulnerar la privacidad.
Un desarrollador comprobó que alimentando un LLM con los últimos 1,000 comentarios de un usuario en Hacker News es posible generar perfiles sorprendentemente precisos. El ejercicio plantea preguntas serias sobre privacidad pública, riesgos de seguridad y cómo esto podría afectar a profesionales en América Latina.
Microsoft mantiene desde 2018 un equipo interno —el llamado red team— que busca fallos y usos peligrosos de sus sistemas de IA antes de su despliegue. Compuesto por expertos de distintas disciplinas, tiene autoridad para frenar lanzamientos hasta mitigar riesgos severos.
Más de una decena de empresas, incluidas Google, Meta y OpenAI, suscribieron un acuerdo para enfrentar estafas y fraudes en línea mediante cooperación, tecnología y campañas de concientización. El pacto, no vinculante, se centra en prevención, cooperación, resiliencia y educación del usuario.
Un reportaje reveló que Niantic aprovechó las imágenes y la geolocalización de millones de jugadores de Pokémon Go para alimentar modelos de IA geoespacial. La práctica reaviva debates sobre consentimiento, privacidad y uso comercial de datos generados por usuarios.
Adolescentes describen accesos tempranos y a menudo involuntarios a contenido sexual en móviles y apps de mensajería. Encuestas recientes sitúan la primera exposición entre los 11 y 12 años y muestran diferencias por edad y género.
Nuevas plataformas impulsadas por IA agregan cientos de fuentes y señales en paneles para seguir conflictos como el de Oriente Próximo. Aunque prometen acceso directo a datos, expertos advierten sobre la falta de contexto, la inestabilidad interpretativa y el efecto de 'videojuego' al observar el sufrimiento humano.