Los agentes de IA ya no solo responden: planifican, deciden y actúan. Eso exige reglas claras sobre acceso, límites y registro de acciones. Sin gobernanza incorporada, los riesgos operativos y legales crecen.
Permitir que agentes de IA naveguen por internet abre posibilidades pero también riesgos de seguridad y cumplimiento. Aquí explicamos cómo implementar filtrado por dominio con AWS Network Firewall y buenas prácticas para entornos regulados.
Las organizaciones no dejan de adoptar agentes de IA por falta de seguridad tecnológica, sino porque sus modelos de gobernanza quedaron obsoletos. Una estrategia práctica y basada en riesgo permite innovar sin perder control.
La llegada de KiloClaw busca frenar el crecimiento del 'Bring Your Own AI' al centralizar la visibilidad y el control sobre agentes autónomos. La plataforma aplica permisos temporales, auditoría y plantillas de uso para equilibrar productividad y seguridad.
Investigadores del MIT crearon SEED-SET, un marco que combina métricas objetivas y valores humanos para detectar escenarios éticamente problemáticos en sistemas autónomos. El enfoque usa un LLM como proxy para evaluaciones subjetivas y selecciona pruebas representativas para análisis más profundos.
La Comisión Europea emitió conclusiones preliminares contra Pornhub, XVideos, XNXX y Stripchat por no evaluar ni mitigar adecuadamente los riesgos para menores y por no aplicar verificaciones de edad efectivas. Paralelamente abrió una investigación sobre Snapchat por posibles exposiciones de menores a reclutamiento y comercio de productos restringidos.
Al desplegar aplicaciones generativas, es crítico asegurar que las respuestas sean apropiadas según la edad, rol y conocimiento del usuario. Este artículo explica una arquitectura serverless que usa Amazon Bedrock Guardrails para aplicar políticas centralizadas y dinámicas sin complejidad de código.
Tribunales en Estados Unidos y una detención en España volvieron a poner en primer plano el daño potencial de las redes sociales sobre menores. Un jurado en California responsabilizó a Meta y Google de diseñar plataformas que contribuyeron al daño psicológico de una joven; otros procesos y críticas cuestionan si este enfoque es justo o práctico.
Un jurado en Nuevo México consideró que Meta priorizó ganancias sobre la seguridad infantil y violó la ley estatal de prácticas desleales, imponiéndole 375 millones de dólares en daños. El fallo es paralelo a demandas en curso en California y podría influir en futuras acciones legales y regulatorias.
Investigadores del MIT proponen un marco para que los sistemas de IA en salud muestren humildad epistemica: evalúen su confianza, pidan más información cuando haga falta y promuevan la colaboración con el personal médico. Esto busca reducir errores derivados de recomendaciones excesivamente seguras.
La actriz Collien Fernandes acusa a su exmarido de crear cuentas falsas y distribuir deepfakes sexuales durante más de una década. El escándalo ha provocado marchas, un paquete de medidas impulsado por figuras públicas y la promesa de reformas legales contra la violencia digital.
Mientras países debaten vetos de acceso para menores, Brasil y la Unión Europea optan por regular cómo funcionan las plataformas: medidas de diseño que limiten scroll infinito, autoplay y recomendaciones diseñadas para maximizar el tiempo en pantalla. Este enfoque busca proteger sin depender solo de verificaciones de edad que pueden vulnerar la privacidad.
Un desarrollador comprobó que alimentando un LLM con los últimos 1,000 comentarios de un usuario en Hacker News es posible generar perfiles sorprendentemente precisos. El ejercicio plantea preguntas serias sobre privacidad pública, riesgos de seguridad y cómo esto podría afectar a profesionales en América Latina.
Microsoft mantiene desde 2018 un equipo interno —el llamado red team— que busca fallos y usos peligrosos de sus sistemas de IA antes de su despliegue. Compuesto por expertos de distintas disciplinas, tiene autoridad para frenar lanzamientos hasta mitigar riesgos severos.
Más de una decena de empresas, incluidas Google, Meta y OpenAI, suscribieron un acuerdo para enfrentar estafas y fraudes en línea mediante cooperación, tecnología y campañas de concientización. El pacto, no vinculante, se centra en prevención, cooperación, resiliencia y educación del usuario.
Un reportaje reveló que Niantic aprovechó las imágenes y la geolocalización de millones de jugadores de Pokémon Go para alimentar modelos de IA geoespacial. La práctica reaviva debates sobre consentimiento, privacidad y uso comercial de datos generados por usuarios.
Adolescentes describen accesos tempranos y a menudo involuntarios a contenido sexual en móviles y apps de mensajería. Encuestas recientes sitúan la primera exposición entre los 11 y 12 años y muestran diferencias por edad y género.
Nuevas plataformas impulsadas por IA agregan cientos de fuentes y señales en paneles para seguir conflictos como el de Oriente Próximo. Aunque prometen acceso directo a datos, expertos advierten sobre la falta de contexto, la inestabilidad interpretativa y el efecto de 'videojuego' al observar el sufrimiento humano.