IA física: el desafío de gobernar robots y sistemas autónomos

Qué es la “IA física” y por qué importa

La llamada IA física abarca modelos de inteligencia que no solo generan salidas digitales, sino que traducen decisiones en movimientos, comandos a maquinaria o respuestas de sensores. No es solo software: es software que interactúa con el mundo físico y, por tanto, con personas, infraestructuras y procesos industriales. Esa conexión transforma riesgos y responsabilidades: un error puede provocar desde daños en equipos hasta riesgo para trabajadores.

El crecimiento del parque robótico industrial y la proliferación de soluciones de borde (edge computing) están acelerando esta transición. La Federación Internacional de Robótica reportó 542,000 robots industriales instalados en 2024 y proyectó 575,000 en 2025, superando los 700,000 unidades hacia 2028. Analistas de mercado además amplían la categoría Physical AI a robots, máquinas autónomas y plataformas de cómputo en el borde, estimando un mercado global significativo, aunque sujeto a definiciones de proveedor.

Cambia la naturaleza de la gobernanza

Gobernar IA en software es un reto; gobernar IA que actúa físicamente es otro nivel. En sistemas puramente digitales, una salida errónea puede corregirse con parches, reversión de transacciones o controles de acceso. En sistemas físicos, la salida del modelo puede convertirse inmediatamente en movimiento de un brazo, en la activación de un motor o en una instrucción a una línea de producción.

Eso obliga a repensar controles en diseño del sistema: límites de seguridad físicos (fuerza, velocidad, zonas de trabajo), rutas de escalamiento y aprobación humana, restricciones de acceso a datos y herramientas, y registros de actividad para auditoría post-incidente. En resumen: la gobernanza debe cubrir tanto el comportamiento del modelo como las limitaciones mecánicas y el contexto operativo.

Ejemplo reciente: los modelos para robótica de Google DeepMind

Un caso que ilustra la convergencia entre modelos y hardware es el trabajo de Google DeepMind con la familia Gemini para robótica. En marzo de 2025 presentaron Gemini Robotics y Gemini Robotics-ER, modelos construidos sobre Gemini 2.0 orientados a control directo de robots y a razonamiento encarnado. Gemini Robotics combina visión, lenguaje y acción; la versión ER enfatiza razonamiento espacial y planificación de tareas.

Un robot controlado por estos modelos debe identificar objetos, comprender instrucciones en lenguaje natural, planear secuencias de movimiento y —crucialmente— detectar si la tarea se completó correctamente. Esa ‘detección de éxito’ es clave: el sistema debe decidir si continuar, reintentar o detenerse, toda una capa de control que enlaza la lógica del modelo con los límites físicos del equipo.

DeepMind ha mencionado características necesarias para robots útiles: generalidad (manejar objetos y entornos no vistos), interactividad (responder a cambios y a usuarios) y destreza (movimientos precisos). También lanzó ASIMOV, un conjunto de datos para evaluar seguridad semántica en robótica, y puso a disposición Gemini Robotics-ER 1.6 en vista previa a través de la API de Gemini, además de herramientas de desarrollo en Google AI Studio.

Doble capa de seguridad: controles físicos y razonamiento

La seguridad en robótica se plantea en capas: controles de bajo nivel (evitar colisiones, límites de fuerza y estabilidad) y controles de alto nivel (razonamiento sobre si una acción solicitada es adecuada en contexto). Integrar ambas capas exige arquitecturas que permitan detener acciones rápidamente, definir zonas seguras y mantener invariantes operativos aun cuando el modelo proponga una secuencia de acciones.

Además, cuando los modelos pueden llamar herramientas, generar código o modificar lógica de control, la superficie de riesgo crece. Es imprescindible definir qué recursos puede usar el agente, cuáles requieren supervisión humana y cómo registrar decisiones para trazabilidad.

Madurez organizacional y brechas actuales

Estudios sobre confianza en IA a nivel empresarial muestran que muchas organizaciones aún no alcanzan madurez suficiente en gobernanza de sistemas autónomos. Investigación de McKinsey de 2026 señala que solo alrededor de un tercio de las organizaciones reporta niveles de madurez aceptables (nivel 3 o superior) en estrategia, gobernanza y gobernanza para IA agentiva. Esto sugiere que, a medida que las IA se vuelven más autónomas, muchas empresas enfrentan brechas en políticas, habilidades y controles.

Para actores en América Latina, esos desafíos se conjugan con restricciones de presupuesto, falta de talento especializado y ciclos de inversión distintos a mercados desarrollados. Sin embargo, la adopción industrial y la disponibilidad de plataformas globales hacen urgente preparar marcos locales de gobernanza.

Marcos y herramientas de referencia

Existen marcos útiles para articular riesgos y responsabilidades: el NIST AI Risk Management Framework y la norma ISO/IEC 42001 ofrecen estructuras para gestionar riesgos de IA a lo largo del ciclo de vida. En el caso de IA física, estos marcos deben extenderse o interpretarse para incluir: pruebas en entornos reales y simulados, validación de detección de éxito, pruebas de rechazo y escenarios de fallo, y requisitos de registro y auditoría.

Además, conjuntos de datos y benchmarks específicos (como ASIMOV, en el ejemplo de DeepMind) son valiosos para evaluar el comportamiento semántico y la comprensión de instrucciones de seguridad.

Recomendaciones prácticas para empresas y reguladores en América Latina

• Evaluación de riesgo sectorial: mapear cómo los sistemas físicos interactúan con personas e infraestructura crítica y priorizar controles.
• Diseño con límites físicos seguros: incorporar límites en fuerza, velocidad y zonas de operación que actúen como segunda barrera frente a decisiones inapropiadas del modelo.
• Human-in-the-loop y puntos de aprobación: definir acciones que siempre requieran supervisión humana, según criticidad.
• Pruebas mixtas: combinar simulación con pruebas en entornos reales y datasets de seguridad semántica para validar respuestas del sistema.
• Trazabilidad y monitoreo: asegurar registros completos de decisiones, accesos y cambios de comportamiento para auditorías y análisis post-incidente.
• Contratos y garantías con proveedores: exigir transparencia sobre entrenamientos, límites operativos y responsabilidades en caso de fallos.
• Capacitación y cambio organizacional: desarrollar capacidades técnicas y legales internas para operar y gobernar sistemas autónomos.

Conclusión

La transición de modelos que generan texto a modelos que mueven brazos robóticos y operan equipos industriales exige un replanteamiento de la gobernanza. No basta con gestionar salidas digitales: hay que integrar controles físicos, pruebas de éxito, rutas de escalamiento y una trazabilidad robusta. Para los decisores en América Latina esto es una oportunidad para adaptar marcos, fortalecer capacidades y negociar condiciones claras con proveedores, de modo que la adopción de IA física impulse productividad sin comprometer seguridad ni responsabilidad.