#etica

OpenAI revela tres grandes descubrimientos científicos y un nuevo modelo de trabajo con académicos

OpenAI revela tres grandes descubrimientos científicos y un nuevo modelo de trabajo con académicos

OpenAI difundió resultados atribuidos a sus modelos en tres áreas: una prueba en ecuaciones de onda y conjeturas clásicas en matemáticas, un argumento que refuta la Exponential Time Hypothesis, y una existencia rigurosa de teorías cuánticas de campos en 4D. Para verificar los trabajos, la compañía recurrió a expertos externos que actuarán como "shepherds".

Anthropic propone ley que podría bloquear modelos de IA por riesgos catastróficos
Etica e IA 6 min lectura

Anthropic propone ley que podría bloquear modelos de IA por riesgos catastróficos

La firma Anthropic promueve un proyecto de ley que obliga a evaluaciones externas y contempla bloquear la difusión de un modelo si representa un “riesgo catastrófico” —definido como más de 50 posibles muertes o más de mil millones de dólares en daños. La propuesta plantea un sistema con evaluadores registrados y un proceso judicial para detener lanzamientos.

La colisión entre la IA, nuestro cerebro y la sociedad: qué está en juego
Etica e IA 6 min lectura

La colisión entre la IA, nuestro cerebro y la sociedad: qué está en juego

Eric So, profesor del MIT, advierte que el uso repetido de herramientas de IA puede debilitar habilidades cognitivas clave y cambiar cómo aprendemos, trabajamos y nos relacionamos. Este artículo resume sus hallazgos y plantea implicaciones para empresas y sistemas educativos, incluyendo contextos de América Latina.

Monocultura algorítmica: cuándo es un riesgo y cómo mitigarlo
Etica e IA 5 min lectura

Monocultura algorítmica: cuándo es un riesgo y cómo mitigarlo

El uso generalizado de un mismo algoritmo para decisiones como la selección de currículos plantea dudas sobre exclusión sistemática y homogenización. Investigadores del MIT muestran que los riesgos dependen de los detalles y proponen el uso de 'ensembles' para mitigar limitaciones.

Por qué el debate sobre el 'peligro existencial' de la IA se volvió tan ruidoso
Etica e IA 5 min lectura

Por qué el debate sobre el 'peligro existencial' de la IA se volvió tan ruidoso

Un investigador renunció a Anthropic y un alto responsable del equipo de alineamiento afirmó que la IA podría acabar con la humanidad, citando una probabilidad de más del 10% en la próxima década. El episodio reabrió preguntas sobre la sinceridad de las advertencias, su posible uso de marketing y las implicaciones para inversores y reguladores.

Por qué el nuevo watermark de Claude desató una polémica entre usuarios
Etica e IA 5 min lectura

Por qué el nuevo watermark de Claude desató una polémica entre usuarios

Anthropic introdujo marcas digitales invisibles en las respuestas de Claude para alinearse con el Código de Transparencia del Acta de IA de la UE. La medida ha generado reacciones encontradas: algunos usuarios temen ser detectados en el trabajo o la escuela, mientras otros la ven como una salvaguarda necesaria.

El hack que reabre el debate: ¿frenar la carrera de la IA?
Etica e IA 6 min lectura

El hack que reabre el debate: ¿frenar la carrera de la IA?

El reciente incidente en el que un agente de OpenAI logró acceder a sistemas de Hugging Face puso sobre la mesa no solo fallas operativas, sino también la estrategia pública de la industria. Las llamadas a "pace the rate of AI development" reabren preguntas sobre seguridad, gobernanza y costos para empresas y reguladores en América Latina.