20 años de advertencias: por qué el temor a una IA apocalíptica no es nuevo

Una advertencia con historia

La idea de que la inteligencia artificial pueda convertirse en una amenaza existencial no surgió con ChatGPT ni con los modelos más recientes. Durante más de veinte años, pensadores, investigadores y actores del ecosistema tecnológico han planteado la posibilidad de que una IA muy avanzada, si no se diseña con alineamiento a objetivos humanos, represente un riesgo para la continuidad humana.

Comprender ese recorrido histórico ayuda a poner en contexto los titulares actuales y a distinguir entre advertencias fundamentadas, dramatización mediática y propuestas concretas de política pública.

Los inicios: MIRI y LessWrong

A principios de los 2000 se formó el Machine Intelligence Research Institute (MIRI). Aunque fundado en 2000, fue a partir de 2005 cuando el instituto concentró su foco en los riesgos existenciales asociados a la IA. En 2009, Eliezer Yudkowsky, uno de los cofundadores, contribuyó a la creación de la comunidad LessWrong, un espacio donde se discutían la singularidad tecnológica, el transhumanismo y el altruismo efectivo.

La convergencia de esas ideas —la posibilidad de una inteligencia que supere significativamente a la humana y la necesidad de priorizar problemas globales de forma cuantitativa— dio forma a una visión clara: sin una orientación cuidadosa, una IA superinteligente podría actuar en direcciones incompatibles con nuestros intereses.

De preocupaciones marginales a donaciones millonarias

A medida que estas discusiones maduraban, captaron la atención de figuras relevantes del sector tecnológico. En 2015, Elon Musk destinó 10 millones de dólares a becas para formar investigadores en seguridad de la IA, y ese mismo año varias personalidades firmaron un manifiesto publicado por la organización Future of Life que pedía más investigación en seguridad y afirmaba que “Nuestros sistemas de inteligencia artificial deben hacer lo que nosotros queramos que hagan”.

Firmas destacadas en ese llamado incluyeron nombres como Demis Hassabis, Geoffrey Hinton, Yann LeCun, Ilya Sutskever, Steve Wozniak e incluso Stephen Hawking. El propósito era evidente: que la conversación sobre IA no quedara solo en innovación técnica, sino que incluyera reflexiones sobre control y alineamiento.

Bill Gates también aportó una reflexión temprana que equilibraba optimismo y cautela: “Primero, las máquinas harán muchos trabajos por nosotros y no serán súper inteligentes. Eso debería ser positivo si lo manejamos bien. Sin embargo, unas décadas después, las inteligencias serán suficientemente fuertes para convertirse en una preocupación”. Esa formulación ilustra el matiz que ha coexistido en el debate: beneficios concretos a corto plazo y riesgos teóricos a largo plazo.

El resurgimiento del catastrofismo en 2023

Tras años de un debate relativamente contenido, 2023 marcó un punto de inflexión. En medio de una ola de avances —incluido el lanzamiento de GPT-4— aparecieron dos cartas abiertas que escalonaron la alarma pública. La primera, publicada por Future of Life, proponía una pausa de al menos seis meses en el entrenamiento de nuevos modelos de gran escala y fue firmada por figuras como Steve Wozniak, Elon Musk, Jaan Tallinn y Max Tegmark.

Pocos meses después, el Center for AI Safety publicó otra carta que introdujo abiertamente la palabra “extinción”: “Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear”. Entre los firmantes se encontraban personalidades como Geoffrey Hinton, Dario Amodei, Demis Hassabis e incluso Sam Altman.

Ese salto retórico, de la precaución al planteamiento de riesgo existencial, llevó a que la discusión dejara de ser una preocupación especializada y pasara a los titulares y a los foros de política pública.

Más alarmismo: libros y estimaciones de probabilidad

El discurso se ha ido polarizando. Un ejemplo reciente es el libro publicado por Eliezer Yudkowsky y Nate Soares, titulado If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All, cuyo título resume sin ambages la postura más apocalíptica del movimiento.

También han surgido estimaciones numéricas sobre la probabilidad de que la IA termine con la humanidad. Evan Hubinger, jefe de alineamiento en Anthropic y con una trayectoria que incluye trabajo en MIRI, llegó a señalar una probabilidad en torno al 10% de que la IA conduzca a un resultado de extinción. Que estas cifras provengan de expertos en el campo hace que el debate sea más serio, pero también plantea interrogantes sobre cómo interpretar estimaciones con incertidumbre extrema.

¿Qué lecciones deja esta larga advertencia?

1. La discusión no es nueva ni improvisada: viene de dos décadas de reflexión combinada entre investigadores técnicos y pensadores filosóficos.

2. Hay una variedad de posturas legítimas: desde quienes piden investigaciones rigurosas en alineamiento hasta quienes consideran que los riesgos a corto plazo (desinformación, pérdida de empleos, concentración de poder) merecen más atención inmediata.

3. Las estimaciones de riesgo existencial son inherentemente inciertas. Formular probabilidades no elimina la necesidad de políticas prudentes, pero sí exige cautela al interpretar números.

4. La atención pública y mediática de 2023 ayudó a empujar el tema hacia reguladores y gobiernos, lo que cambia el escenario: ahora no solo reflexionan investigadores, sino también tomadores de decisiones.

Relevancia para América Latina

Aunque gran parte de la conversación se originó en Silicon Valley y en círculos académicos anglosajones, América Latina no está al margen de las implicaciones. Las prioridades de la región —protección del empleo, reducción de desigualdades, soberanía de datos, fortalecimiento de instituciones regulatorias y acceso a capacidades tecnológicas— plantean un enfoque distinto del debate global.

Para la región es importante: promover investigación local en seguridad y ética de IA; incorporar perspectivas sociales y laborales en la regulación; y participar en foros internacionales para que las normas consideren la diversidad de contextos y necesidades.

Hacia una respuesta equilibrada

El historial de advertencias sobre una IA apocalíptica subraya la necesidad de políticas informadas, inversión en investigación de alineamiento y capacidad técnica en gobiernos. Pero también recuerda que conviene equilibrar la mitigación de riesgos a largo plazo con la gestión de impactos inmediatos: regulación que proteja derechos, evaluación de impacto en mercados laborales y fomento de competencias digitales.

El reto para responsables políticos y líderes empresariales en América Latina es doble: no ignorar los mensajes de la comunidad de seguridad de IA y, al mismo tiempo, priorizar soluciones que atiendan los problemas concretos y urgentes que la región enfrenta.

Conclusión

Las predicciones sobre una IA que acabará con la humanidad llevan más de dos décadas en la conversación pública y técnica. Hoy esas voces han ganado visibilidad y han forzado a que gobiernos y empresas tomen nota. La pregunta ya no es solo si la IA puede representar un riesgo existencial, sino cómo las sociedades —incluidas las latinoamericanas— construirán marcos regulatorios, capacidades y colaboraciones internacionales que permitan aprovechar los beneficios de la IA mitigando sus peligros potenciales.