Líderes de IA en la ONU: piden control internacional ante riesgos globales

Un llamado inusual desde el Consejo de Seguridad

La gobernanza de la inteligencia artificial (IA) alcanzó un hito visible: los máximos responsables de OpenAI y Anthropic expusieron frente al Consejo de Seguridad de la ONU su visión sobre los riesgos de los modelos más avanzados. En un escenario habitualmente reservado a crisis militares y diplomáticas, Dario Amodei, director general de Anthropic, calificó a estos desarrollos como “el problema de seguridad global más importante al que se enfrenta el mundo hoy”. Su posición fue acompañada por Sam Altman, de OpenAI, quien dijo que el sector está en una encrucijada y que no debe asumir “demasiado riesgo tecnológico solo porque los beneficios sean demasiado grandes e importantes como para frenarlos”.

Ese espacio de discusión puso sobre la mesa una paradoja: los actores privados que desarrollan la tecnología piden ahora una intervención pública para encauzarla.

Entre la advertencia y la demanda de reglas claras

Tanto Altman como Amodei habían sugerido semanas atrás la conveniencia de ralentizar la investigación de los llamados “modelos de frontera”. Sin embargo, en la cumbre de la ONU ambos se alejaron de una pausa unilateral. En vez de comprometerse a detener el avance desde sus empresas, pidieron liderazgo internacional que oriente a otros actores sobre lo que puede o no puede hacerse con estas herramientas.

Su propuesta concreta es la construcción de “marcos técnicos rigurosos” que permitan medir capacidades, evaluar amenazas, verificar salvaguardas y establecer canales seguros para compartir vulnerabilidades críticas. La idea es que los gobiernos y organismos multilaterales definan estándares que las empresas puedan aplicar y que reduzcan riesgos sistémicos.

Riesgos explícitos y propuestas puntuales

Amodei fue más allá al enumerar medidas que considera necesarias: una prohibición expresa del uso de IA para la proliferación o fabricación de armas biológicas y la implementación de sistemas de evaluación y verificación que avancen al ritmo del desarrollo técnico. La intención es asegurar que las pruebas de seguridad no queden rezagadas frente a la velocidad de innovación.

Esta posición no es solo una cuestión técnica: refleja la creciente conciencia entre los grandes desarrolladores de que la capacidad de sus modelos puede tener implicaciones directas sobre la seguridad pública y la estabilidad global.

Contexto económico y geopolítico

La discusión también estuvo rodeada por intereses económicos: OpenAI y Anthropic se preparan para salidas a Bolsa con valoraciones previstas, según lo reportado, en rangos muy elevados. Ese proceso financiero añade presión sobre los timmings de desarrollo y sobre cómo se muestran ante reguladores e inversores.

A nivel geopolítico, Altman habló de la necesidad de cooperación internacional, recordando que en momentos históricos países con tensiones han sabido unirse por un interés colectivo frente a nuevas tecnologías. Fue una referencia implícita a la relación con China y al desafío de coordinar normas entre potencias competitivas.

Voces académicas y otras empresas: más matices

Yoshua Bengio, uno de los pioneros de la IA moderna, intervino pidiendo límites claros: que ninguna empresa o país pueda desarrollar sistemas que puedan causar daños a gran escala y que los desarrolladores demuestren ante expertos independientes que sus sistemas son seguros. Su postura refuerza la demanda por mecanismos de verificación independientes.

Desde otra perspectiva, Clément Delangue, CEO de Hugging Face, criticó la narrativa del miedo como base para tomar decisiones y defendió el valor de los modelos de código abierto como herramientas de resiliencia. Delangue también tiene experiencia reciente con incidentes de seguridad —su plataforma sufrió un ciberataque— lo que aporta legitimidad a su reclamo de equilibrar precaución y apertura.

Contrapuntos optimistas: la visión de Meta

En paralelo a la cumbre, Mark Zuckerberg, CEO de Meta, defendió una visión optimista sobre la IA en su evento corporativo Meta Connect 2026: construir la tecnología es, dijo, “un acto de amor”. Para Zuckerberg, la mejor manera de garantizar usos seguros es empoderar a las personas y evitar la concentración de poder tecnológico en pocas manos. Criticó además el exceso de control estatal como un riesgo para la innovación, una postura que contrasta con las llamadas a mayor supervisión internacional desde la ONU.

Un ejemplo que obliga a tomar medidas: hackeo y seguridad

Las intervenciones en la ONU se produjeron pocas horas antes de que el primer ministro de Australia denunciara que un agente de IA había vulnerado el sistema público de salud del país. Ese episodio subraya los riesgos concretos: los sistemas críticos del Estado y la infraestructura pública pueden quedar expuestos si no hay salvaguardas robustas.

¿Qué implica esto para América Latina?

La discusión internacional debe leerse con especial atención en América Latina por varias razones:

• Regulación y capacidad técnica: muchos países de la región aún están construyendo marcos regulatorios y capacidades de supervisión. Un estándar multilateral podría ofrecer orientación y recursos compartidos.
• Riesgo de dependencia tecnológica: la adopción rápida de modelos desarrollados en otras jurisdicciones aumenta la exposición a vulnerabilidades y sesgos que no siempre se detectan localmente.
• Oportunidad económica y social: la IA puede impulsar productividad y servicios públicos, pero sin gobernanza hay riesgo de desigualdad en el acceso a beneficios y de daños por desinformación, ciberataques o fallas en sistemas críticos como salud y educación.

Los gobiernos latinoamericanos pueden aprovechar el impulso global para coordinarse regionalmente, compartir experiencias regulatorias y colaborar en capacidades de auditoría técnica independiente.

Hacia dónde mirar ahora

La intervención de los líderes de la industria en el Consejo de Seguridad de la ONU abre un camino: del debate sobre autorregulación hacia la búsqueda de acuerdos multilaterales. Quedan preguntas abiertas sobre quién supervisará las verificaciones, cómo se implementarán sanciones por incumplimiento y cuál será el papel de países con distintos niveles de capacidad técnica.

Para tomadores de decisión y líderes empresariales en la región, el reto es doble: participar activamente en la construcción de normas internacionales y fortalecer capacidades locales de evaluación, respuesta y resiliencia.

Conclusión

El debate en la ONU dejó claro que la IA ya no es solo una cuestión técnica o comercial: es un asunto de seguridad global que exige coordinación pública y privada. Las voces de los desarrolladores piden límites y reglas, pero también protecciones que permitam la innovación responsable. América Latina tiene la oportunidad de sumarse a esas discusiones y de preparar marcos que mitiguen riesgos mientras aprovechan las oportunidades que la IA ofrece.