Un estudio liderado por científicos de Anthropic muestra que modelos “estudiantes” aprenden rasgos no evidentes de sus modelos “maestros” aun cuando los datos parecen neutros. El fenómeno, llamado aprendizaje subliminal, plantea nuevos desafíos de seguridad y ética para la adopción de IA.
Una mujer identificada como Jane Doe presentó una demanda contra OpenAI, alegando que las conversaciones de su ex pareja con ChatGPT intensificaron sus delirios y facilitaron el acoso. La demanda plantea dudas sobre la eficacia de los sistemas de seguridad y la responsabilidad de las empresas de IA.
Investigadores del MIT proponen un marco para que los sistemas de IA en salud muestren humildad epistemica: evalúen su confianza, pidan más información cuando haga falta y promuevan la colaboración con el personal médico. Esto busca reducir errores derivados de recomendaciones excesivamente seguras.
Mientras la Unión Europea avanza con el AI Act y Estados Unidos emite ejecutivas, América Latina enfrenta su propio desafío regulatorio. ¿Cómo están respondiendo los países de la región y qué deben hacer las empresas?