Anthropic detalla bloqueos de intentos de usar su IA para crear armas biológicas y convencionales

Resumen

Anthropic ha hecho público un nuevo informe en el que explica que, durante este año, bloqueó cinco intentos de usar sus modelos de IA para apoyar desarrollos de laboratorio que podrían haber conducido a la creación de armas biológicas. El documento es el cuarto de este tipo que publica la compañía y amplía una lista de riesgos que incluye también ciberseguridad, armamento convencional y operaciones de influencia.

Qué detectó Anthropic

Según la compañía, los ejemplos recogidos ocurrieron usando versiones anteriores de sus modelos —menos potentes que las más recientes familias Fable o Mythos— y fueron interceptados gracias a los mecanismos de seguridad ya implementados. Entre los casos bloqueados hay consultas relacionadas con:

• Diseñar mutaciones del virus chikungunya para que se volviera más dañino tras repetidas infecciones en animales, presentadas como parte de una solicitud de financiación. Anthropic decidió bloquear esas consultas cuando detectó que procedían de un instituto de investigación de carácter militar.
• Investigar formas de aumentar la contagiosidad de la gripe aviar.
• Analizar variantes del virus de la viruela con mayor resistencia frente al sistema inmune.
• Elaborar un catálogo de toxinas de animales venenosos que pudiera servir tanto a la creación de nuevos fármacos como a usos con potencial bélico.

Además, el informe documenta un uso de Claude en el norte de Yemen por parte de un actor que, según Anthropic, buscaba asistencia para diseñar armas convencionales: un cohete guiado que usaría como ordenador de vuelo un chip de teléfono móvil y dos tipos de misiles, uno con un alcance superior a 2.000 kilómetros.

Quiénes estaban detrás y cómo accedían

Anthropic indica que los actores detectados van desde grupos con apoyo gubernamental a bandas mafiosas e individuos con motivaciones políticas. En varios de los casos investigados, las consultas procedían de países donde la empresa no ofrece servicio directo. Allí, los usuarios accedían a los modelos mediante vías indirectas: revendedores, cuentas falsas u otros métodos que evaden los controles normales de la plataforma.

La compañía subraya que en muchos episodios no puede determinar con certeza si la intención era maliciosa; existen solicitudes legítimas de investigación médica o de salud pública que pueden parecer similares a usos peligrosos. Por eso, la decisión de bloquear o restringir respuestas se apoya en juicios de riesgo calibrados para evitar facilitar daño real.

Salvaguardas y límites tecnológicos

El informe señala que los modelos más recientes de Anthropic, como Fable o Mythos, incorporan salvaguardas más sofisticadas diseñadas para frenar usos maliciosos con mayor eficacia. No obstante, Anthropic admite que los mecanismos no son infalibles: la disponibilidad de modelos previos, el acceso a través de intermediarios y la creatividad de los actores hacen que el riesgo permanezca.

La compañía compara estos informes con los que publicaban redes sociales sobre operaciones encubiertas en sus plataformas: publicar casos y patrones de abuso tiene valor informativo para reguladores, socios y el público, pero no sustituye a políticas públicas y cooperación internacional.

Por qué las armas biológicas son un foco central

Anthropic considera que las armas biológicas son uno de los riesgos más graves asociados al uso indebido de modelos de lenguaje avanzados. La preocupación no es solo teórica: tareas como diseñar mutaciones, optimizar la transmisión de un patógeno o compilar catálogos de toxinas pueden acelerar o facilitar procesos que antes exigían experiencia técnica, infraestructura y tiempo.

En ese sentido, la empresa insiste en la necesidad de controles de acceso robustos, programas de cumplimiento y colaboración con autoridades sanitarias y de seguridad para identificar y mitigar usos peligrosos.

Contexto y consecuencias para América Latina

Aunque el informe no menciona incidentes específicos en América Latina, las lecciones son relevantes para la región. Varios países latinoamericanos cuentan con capacidad científica en biomedicina, pero también enfrentan brechas regulatorias, limitaciones en supervisión de laboratorios y, en algunos casos, entornos donde actores criminales o redes transnacionales podrían intentar aprovechar herramientas digitales para fines ilícitos.

Reforzar controles sobre el acceso a tecnologías sensibles, capacitar a equipos de bioseguridad en la detección de solicitudes sospechosas y fomentar la coordinación entre ministerios de salud, seguridad y ciencia son medidas que pueden reducir riesgos locales. Además, los proveedores de servicios basados en IA deberían transparentar incidentes y colaborar con autoridades regionales para crear marcos de respuesta adecuados.

Qué pueden hacer gobiernos y empresas

El informe de Anthropic sugiere varias líneas de acción que son aplicables en cualquier jurisdicción:

• Implementar controles de acceso y verificación de usuarios para herramientas avanzadas que puedan ser mal utilizadas.
• Establecer protocolos claros para el reporte y la respuesta ante intentos de uso peligroso, con participación de autoridades sanitarias, de seguridad y de investigación.
• Promover auditorías independientes de los modelos y de las políticas de moderación para evaluar su eficacia.
• Fomentar la cooperación internacional para rastrear rutas de acceso secundarias (revendedores, cuentas falsas) que esquivan controles.
• Capacitar a la comunidad científica y a los responsables de cumplimiento sobre señales de abuso y sobre cómo plantear solicitudes legítimas sin revelar detalles sensibles.

Riesgos reales y límites del debate público

La publicación del informe llegó un día después de que un joven empleado de Anthropic renunciara y expresara públicamente su preocupación por los riesgos que la IA podría plantear para la civilización en los próximos años. Ese gesto alimentó el debate sobre la velocidad de despliegue de estas tecnologías y la necesidad de regulaciones y mecanismos de gobernanza más robustos.

Si bien existe consenso en que la IA puede amplificar riesgos existentes, el desafío es diseñar políticas que permitan la innovación responsable sin facilitar acceso a capacidades peligrosas. La transparencia de empresas como Anthropic es un paso, pero no sustituye a marcos regulatorios y a la cooperación internacional.

Conclusión

El informe de Anthropic es una advertencia clara: modelos de lenguaje y asistentes avanzados pueden ser usados para propósitos peligrosos, incluyendo el diseño o la mejora de agentes biológicos y armas convencionales. La empresa afirma haber bloqueado varios intentos este año, pero subraya que las rutas indirectas de acceso y la naturaleza dual de muchas investigaciones científicas complican la gestión del riesgo.

Para América Latina, la lección es doble: fortalecer la regulación y la supervisión de tecnologías sensibles, y construir capacidades técnicas y de coordinación interinstitucional que permitan identificar y neutralizar usos maliciosos sin limitar la investigación legítima en salud y ciencia.