Incluso Google está aprendiendo a asegurar la IA en tiempo real

Un llamado a integrar seguridad desde el inicio

En un encuentro reciente, Francis de Souza, director de operaciones de Google Cloud, subrayó un mensaje que los responsables de seguridad llevan años repitiendo pero que la ola de IA ha hecho urgente: la seguridad no puede ser un añadido posterior. Según de Souza, las organizaciones deben abordar la adopción de IA como una plataforma completa donde la seguridad, la gobernanza y la auditabilidad se diseñen desde el primer día.

El ejecutivo insistió en que no existe una estrategia de IA separada de la estrategia de datos y de seguridad: las tres deben ir de la mano. También advirtió sobre el riesgo del “shadow AI”, es decir, empleados que recurren a herramientas de consumo sin supervisión organizacional, y pidió exigir a los proveedores garantías de seguridad y trazabilidad desde el comienzo.

El paisaje de amenazas cambió — y rápido

De Souza señaló que el panorama de amenazas evolucionó de forma radical. Donde antes una intrusión podía tardar horas en avanzar entre etapas, ahora el tiempo se ha reducido de un promedio de ocho horas a apenas 22 segundos. Ese cambio exige repensar los modelos defensivos tradicionales, que resultan demasiado lentos frente a ataques automatizados y a gran velocidad.

El perímetro de riesgo ya no es solo la red corporativa: incluye modelos, pipelines de datos que entrenan esos modelos, agentes automatizados y hasta prompts. Cada uno de esos elementos amplía la superficie de ataque y requiere controles específicos.

Agentes que revelan información olvidada

Un riesgo que suele recibir poca atención, explicó de Souza, son los agentes que recorren los sistemas internos en busca de activos de dato. Muchas empresas mantienen repositorios antiguos —SharePoint y servidores olvidados con controles desactualizados— que permanecían inofensivos simplemente porque nadie los conocía. Los agentes, en cambio, pueden localizarlos y exponer su contenido.

Frente a esta realidad, su propuesta es responder a la velocidad máquina con defensa máquina: arquitecturas nativas de IA y agentes defensivos que actúen automáticamente, con supervisión humana en un rol de control en lugar de intervención continua. Además, agregó, esto dejó de ser solo un tema técnico: es una cuestión de agenda de directorio y equipo ejecutivo.

La escasez de talento y el “bug-pocalypse”

La automatización de la defensa aumenta la eficacia, pero la disponibilidad de personal capacitado para supervisar estas soluciones es limitada. Lea Kissner, directora de seguridad de la información de LinkedIn, advirtió al New York Times sobre la necesidad de talento para enfrentar lo que denominó un “bug-pocalypse”, y estimó que la comprensión sostenible de la seguridad en IA tardará años en asentarse a nivel industrial.

Esa combinación —más vulnerabilidades introducidas por IA y menos especialistas— contagia incertidumbre a organizaciones de todo tamaño, incluida América Latina, donde la demanda de perfiles expertos suele superar a la oferta.

Incidentes recientes con claves API y modelos: lecciones prácticas

Varios reportes recientes de The Register documentaron casos de desarrolladores de Google Cloud que recibieron facturas de cinco cifras tras llamadas no autorizadas a modelos Gemini. El patrón fue similar: claves API configuradas inicialmente para servicios como Google Maps, y publicadas según instrucciones previas, vieron ampliado su alcance cuando Google extendió el scope de esas claves sin una comunicación clara.

Dos ejemplos concretos ilustran el riesgo:

• Rod Danan, fundador de una plataforma de preparación de entrevistas, recibió un cargo de USD 10,138 en aproximadamente 30 minutos tras la explotación de una clave comprometida.
• El desarrollador Isuru Fonseka, en Australia, despertó con cargos por cerca de AUD 17,000 pese a creer que tenía un tope de gasto de AUD 250.

Según esos reportes, los sistemas de Google pueden haber elevado automáticamente las categorías de facturación basándose en el historial de cuenta, aumentando techos hasta cifras que, en algunos casos, llegaron a USD 100,000 sin consentimiento explícito. Google devolvió los cargos a los afectados después de la publicación, pero informó que no planea modificar su política de aumento automático de niveles, priorizando la prevención de caídas de servicio sobre hacer cumplir límites presupuestarios declarados.

Adicionalmente, la firma de seguridad Aikido investigó que incluso al revocar una clave comprometida, los atacantes podrían seguir usándola durante un periodo de propagación dentro de la infraestructura —hasta 23 minutos en los hallazgos citados—, con tasas de éxito erráticas pero en algunos minutos por encima del 90%. Durante esa ventana los atacantes pueden exfiltrar archivos y datos en caché de conversaciones con modelos.

Qué pueden hacer las empresas —prácticas recomendadas para la región

• Adoptar un enfoque por plataforma: integrar seguridad, gobierno y trazabilidad desde el diseño de soluciones de IA, incluyendo el control de acceso a modelos y pipelines.
• Gestionar y rotar credenciales de forma centralizada, evitar exponer claves en repositorios públicos y usar formatos de credenciales más modernos y limitados por alcance.
• Implementar monitoreo en tiempo real y capacidad de respuesta automática: las defensas deben operar a velocidad máquina para igualar a los atacantes automatizados.
• Controlar el uso de herramientas externas por empleados: políticas claras contra el shadow AI y soluciones de DLP que detecten exfiltración hacia servicios no autorizados.
• Preparar al directorio y al equipo ejecutivo: convertir la seguridad en IA en un asunto de gobernanza que reciba recursos y visibilidad.

Para empresas de América Latina, además, resulta clave evaluar la dependencia de proveedores globales y diseñar posturas de seguridad consistentes entre nubes y SaaS, dado que muchas organizaciones operan de facto en entornos multicloud aunque hayan elegido un proveedor principal.

Conclusión

El mensaje central es claro: la adopción de IA exige que seguridad, datos y gobernanza se planifiquen de forma conjunta desde el inicio. Los incidentes recientes muestran que incluso grandes proveedores y desarrolladores experimentan efectos colaterales —facturas inesperadas, claves explotadas y ventanas de revocación— y que la respuesta requiere tanto tecnología como liderazgo. Para las organizaciones en Latinoamérica esto implica priorizar la integración de controles, la automatización defensiva y la preparación del equipo ejecutivo para gestionar riesgos que evolucionan a la velocidad de la máquina.