Brad Smith: urge frenar el “salvaje oeste” de la IA con reglas globales

Un llamado desde Microsoft: la IA necesita reglas claras

Brad Smith, presidente de Microsoft, lanzó una advertencia contundente sobre el estado de la regulación de la inteligencia artificial: “ahora mismo, tu lavadora está sujeta a más normas de seguridad que la IA”. Con esa comparación —y recordando que incluso un cartón de leche pasa por controles de seguridad— Smith subrayó que la tecnología está evolucionando “más rápido que la velocidad de la seguridad” y que, por tanto, hace falta un marco normativo más sólido y coordinado a nivel global.

Las observaciones de Smith tuvieron lugar en el podcast Big Boss Interview de la BBC y provienen de una de las voces institucionales más influyentes en el ecosistema tecnológico: Microsoft no solo proporciona infraestructura clave para modelos de IA, sino que además es inversor en OpenAI. Por eso su pedido tiene peso y refleja tensiones reales entre el sector, los reguladores y los gobiernos.

Las tres propuestas concretas de Smith

Smith planteó tres medidas prioritarias para mitigar riesgos asociados a sistemas de IA de frontera:

• Freno de emergencia: sería un mecanismo que permita pausar o ralentizar modelos y sistemas de IA que se descontrolen, especialmente cuando estos controlan dispositivos autónomos o infraestructuras críticas. Smith señaló que la responsabilidad debería recaer en las empresas que operan los modelos y en las que proveen la infraestructura en la nube. Este concepto ha sido mencionado también por Satya Nadella, CEO de Microsoft, en conversaciones públicas recientes.

• Informes de incidentes obligatorios: al estilo de las obligaciones de notificación tras una brecha de seguridad, Smith propone que, si un agente de IA actúa de manera deshonesta o entra en un sistema sin autorización, las «víctimas» deben ser notificadas. La medida busca transparencia y respuesta rápida ante fallos o abusos.

• Aprobación independiente antes del lanzamiento: considerada por Smith la más importante, la idea es que evaluadores independientes del gobierno examinen modelos de frontera antes de su disponibilidad pública, en una analogía con cómo se revisan productos de alto riesgo, como la aviación comercial. “Sabemos cómo hacer esto para otros productos”, afirmó, sugiriendo que la experiencia regulatoria previa puede adaptarse a la IA.

Choque de posturas: autorregulación vs normas obligatorias

El llamado de Smith llega en un contexto político complejo. La Casa Blanca, según reportes, ha mostrado preferencia por que la industria se autorregule para evitar que las empresas estadounidenses pierdan competitividad frente a China. Esa postura se evidenció en una reunión en la Casa Blanca donde líderes de varias compañías tecnológicas (OpenAI, Anthropic, Nvidia, SpaceX, Meta y Google) acordaron, según declaraciones presidenciales, un documento “moralmente vinculante” para trabajar con auditores independientes. Microsoft no firmó en ese momento.

Smith aplaudió el compromiso, pero lo calificó de insuficiente: la autorregulación, dijo, funciona cuando las empresas son responsables; el problema son las que no lo son. Esa crítica apunta a una asimetría de incentivos: medidas voluntarias pueden dejar vacíos regulatorios y riesgos sistémicos sin control.

Reino Unido como posible líder normativo

Smith propuso que el Reino Unido está en una buena posición para liderar normas globales, citando el Instituto de Seguridad de la IA (AISI) creado durante el mandato del primer ministro Rishi Sunak. Según informes, la Casa Blanca habría pedido a algunas empresas que no compartieran nuevos modelos con evaluadores británicos, aunque medios posteriores indicaron que el AISI aún pudo acceder a las últimas versiones para pruebas. El caso muestra la delicada interacción entre gobiernos, empresas y entidades reguladoras, y cómo la colaboración internacional puede verse afectada por intereses geopolíticos.

¿Qué significa esto para América Latina?

Aunque las declaraciones se produjeron en foros de EE. UU. y Reino Unido, las implicaciones son relevantes para América Latina: la mayoría de países de la región no cuenta con marcos regulatorios sólidos sobre IA, y muchos dependen de infraestructura en la nube y modelos desarrollados fuera de sus fronteras.

• Riesgo para infraestructuras críticas: sin protocolos claros, sistemas de IA mal diseñados o mal gestionados podrían afectar sectores como energía, transporte o salud. Un freno de emergencia y reglas sobre quién responde frente a incidentes son medidas con impacto directo en la resiliencia nacional.

• Soberanía y dependencia tecnológica: la obligación de informes y de evaluaciones independientes puede chocar con la falta de capacidades locales para auditar modelos. Esto refuerza la necesidad de invertir en capacidades regulatorias y técnicas en la región.

• Necesidad de cooperación regional: los países latinoamericanos podrían beneficiarse de coordinar políticas, compartir recursos de evaluación y adoptar estándares que reduzcan el riesgo de que actores irresponsables operen sin supervisión.

Qué deberían considerar los tomadores de decisión en la región

1. Evaluar la adopción de requisitos de notificación de incidentes de IA, tomando como referencia las prácticas de seguridad informática ya existentes.
2. Explorar mecanismos de pausa o freno tecnológico para sistemas críticos, definiendo responsabilidades entre proveedores de modelos y operadores locales.
3. Desarrollar capacidades de evaluación técnica, ya sea mediante centros regionales o alianzas con organismos internacionales, para validar modelos de alto riesgo antes de su despliegue.
4. Incentivar la transparencia contractual con proveedores de servicios en la nube y dueños de modelos, incluyendo cláusulas sobre auditoría y respuesta ante incidentes.
5. Participar en foros internacionales y seguir la evolución de iniciativas como la del Reino Unido para adaptar buenas prácticas a contextos locales.

Conclusión: no solo debate técnico, sino decisión política

El mensaje de Brad Smith no es un simple llamado corporativo: es una invitación a repensar cómo se gobierna una tecnología que ya interactúa con infraestructura crítica y decisiones sociales. Para América Latina, la discusión obliga a acelerar la construcción de marcos regulatorios funcionales y a fortalecer capacidades técnicas. La alternativa —dejar la supervisión solo en manos del mercado— podría dejar brechas importantes que afecten seguridad, economía y derechos ciudadanos.

Si la IA es a la vez una herramienta y un arma, como dijo Smith, las decisiones que tomen gobiernos y empresas en los próximos años definirán si la región puede aprovechar sus beneficios minimizando sus riesgos.