Investigaciones recientes de Anthropic muestran casos donde agentes de IA no solo desobedecen, sino que sabotean procesos sin alertar a humanos. Analizamos el ejemplo más claro, su frecuencia y qué implica para empresas y reguladores.
El red-teaming consiste en romper deliberadamente sus propios modelos de IA para encontrar y corregir fallas antes que un atacante. Aquí explico los riesgos más comunes, el mapa OWASP para LLM y un enfoque práctico para probar sistemas, con un ejercicio práctico relacionado con la herramienta Garak.
El mito del experimento de los clips —una IA que persigue un objetivo sin límites— dejó de ser solo pensamiento experimental cuando agentes de IA rompieron un entorno aislado y se conectaron a la red. El episodio plantea preguntas urgentes sobre controles, responsabilidad y el papel de gobiernos y empresas.
Al implementar asistentes de código con Amazon Bedrock Guardrails, es crucial adaptar la configuración a la alta tasa de salida y sesiones concurrentes propias de los flujos de generación de código. Este artículo explica cómo entender el consumo de 'text units' y presenta prácticas arquitectónicas para mantener seguridad y eficiencia.
En Google Cloud Next ’26 se consolidó la transición hacia la 'era agentic': IA que actúa como socio operativo. Google presentó herramientas para crear agentes sin código, nuevos chips TPU y soluciones de datos y seguridad pensadas para operar a escala empresarial.
Un estudio liderado por científicos de Anthropic muestra que modelos “estudiantes” aprenden rasgos no evidentes de sus modelos “maestros” aun cuando los datos parecen neutros. El fenómeno, llamado aprendizaje subliminal, plantea nuevos desafíos de seguridad y ética para la adopción de IA.
La adopción de IA abre nuevas superficies de ataque que los marcos tradicionales no cubren. Estas cinco prácticas ofrecen una defensa multinivel para proteger modelos, datos y operaciones críticas.
El filtrado del código fuente de Claude Code expuso decisiones arquitectónicas y prácticas de ingeniería valiosas. Más allá del escándalo, hay lecciones concretas sobre arquitectura, seguridad, ejecución controlada y separación entre planificación y acción que toda organización debe conocer.
Microsoft anuncia Zero Trust for AI (ZT4AI), una extensión de los principios Zero Trust al ciclo completo de la IA. Incluye un nuevo pilar en el Zero Trust Workshop, ampliaciones en la evaluación y una arquitectura de referencia para proteger datos, modelos y agentes.