Anthropic: cuando la ética vende (y genera dudas)

Introducción

Anthropic se ha colocado en el centro del debate sobre la responsabilidad y la regulación de la inteligencia artificial al presentarse como una empresa que prioriza la ética y la seguridad por encima del lucro. Su pulso con el Departamento de Defensa de Estados Unidos —y las críticas públicas de figuras como Donald Trump— atrajeron atención mediática que la empresa ha sabido capitalizar. Pero, ¿hasta qué punto esa reputación refleja prácticas diferentes dentro del sector y qué implicaciones tiene para reguladores y decisores en América Latina?

Qué pasó: rechazo, mensajes y productos postergados

El choque más visible ocurrió cuando Anthropic rehusó ceder control absoluto de sus herramientas de IA al Pentágono, renunciando a un contrato valorado en 200 millones de dólares. Ese gesto fue interpretado por algunos como un rechazo decidido al uso bélico de sus modelos; para otros fue un movimiento calculado de imagen. La situación escaló hasta declaraciones públicas: Donald Trump calificó a la compañía como una “empresa de IA de izquierda radical fuera de control”.

Anthropic también ha publicado lo que ha llamado la “Constitución de Claude” —su guía ética para el modelo Claude— y ha retrasado el lanzamiento de una familia de productos, Mythos, al considerarla “demasiado peligrosa”. Además promovió el proyecto Glasswing con otras grandes tecnológicas “en un esfuerzo por proteger el software más crítico del mundo” y difundió un manifiesto llamado Magnifica Humanitas. Estos pasos contribuyeron a que su valoración creciera rápidamente y a que anunciara planes de salida a Bolsa, antes que su principal competidor, OpenAI.

Imagen ética vs práctica real

Varios especialistas advierten que la distancia entre la retórica y la práctica podría ser significativa. Albert Sabater, director del Observatorio de Ética en Inteligencia Artificial de Cataluña (OEIAC), apunta que, aunque Anthropic rechazó un contrato directo con el Pentágono, no impidió que Claude sea usado por ejércitos como los de Estados Unidos e Israel en operaciones relacionadas con Irán. Lorena Jaume-Palasí, fundadora de The Ethical Tech Society, recuerda que la compañía inició colaboraciones con Palantir y Amazon para construir infraestructura de defensa con el Departamento de Defensa.

Estas apreciaciones alimentan la sospecha de que la postura pública de la empresa sirve para proteger ventajas competitivas: la resistencia aparece cuando se exige acceso total al código y a la arquitectura de sus modelos.

El arma del riesgo: seguridad real y narrativa existencial

Anthropic ha usado la advertencia sobre Mythos para reavivar la retórica del “riesgo existencial”, una categoría que atrae atención y apela a la necesidad de medidas extraordinarias. Para Albert Sabater, sin embargo, lo que hoy es más plausible no es una amenaza que extinga la humanidad, sino riesgos de seguridad graves pero técnicamente abordables y delimitables. Aun así, tanto la Unión Europea como el gobierno de EE. UU. han contribuido a mantener la narrativa del riesgo existencial porque facilita la imposición de regulaciones excepcionales; y Anthropic podría beneficiarse al posicionarse como interlocutor preferente para esos gobiernos.

La economista Cecilia Rikap, del Institute for Innovation and Public Purpose (IIPP) del University College London, plantea preguntas incómodas: ¿por qué los gobiernos permiten el desarrollo de tecnologías que sus propios creadores consideran extremadamente peligrosas? ¿Por qué las empresas invierten en modelos que luego califican de riesgosos? Rikap plantea que la respuesta podría apuntar a una mezcla de irresponsabilidad ejecutiva y estrategias de mercado que aprovechan la percepción de peligrosidad para reforzar su liderazgo.

Críticas científicas y de académicos

Emily M. Bender, profesora de Lingüística en la Universidad de Washington y coautora de La estafa de la IA, critica la noción de riesgo existencial vinculada al tamaño de los modelos: considera que no hay fundamento científico que sostenga que los grandes modelos de lenguaje alcancen conciencia por mera escala. Además advierte que ese discurso desvía la atención de daños concretos y presentes: contaminación por centros de datos, explotación de datos y trabajo, y erosión del ecosistema informativo.

Para Bender, la escena en la que una empresa exhibe líneas éticas poco exigentes mientras mantiene prácticas comunes del sector resulta en que se le perciba como la opción “ética”, cuando en realidad no cambia el paradigma.

¿Marketing moral o cambio real?

Críticos como Lorena Jaume-Palasí describen la estrategia de Anthropic como “marketing moral”. Albert Sabater subraya que la compañía ha mezclado deliberadamente el riesgo de seguridad inmediato con el riesgo existencial más especulativo, generando una ambigüedad que permite exigir precauciones extraordinarias y, al mismo tiempo, desacreditar a competidores. Esa ambivalencia, según los analistas, crea un nicho económico rentable: presentarse como la IA que impone límites y, por ello, ganarse la confianza de inversores, reguladores y clientes.

No es menor que, a pesar del discurso, la empresa recurra a infraestructura y prácticas que algunos definen como problemáticas: desde el alquiler de centros de datos muy contaminantes hasta las alianzas con actores del sector con historial en proyectos de defensa.

Implicaciones para América Latina

Para gobiernos y empresas latinoamericanas, el caso Anthropic ofrece varias lecciones prácticas. Primero, la retórica empresarial puede convertirse en un activo comercial y diplomático, pero hay que observar prácticas reales: contratos, asociaciones tecnológicas y condiciones de uso de los modelos. Segundo, la narrativa del “riesgo existencial” puede presionar a adoptar regulaciones aceleradas; los responsables públicos deben distinguir entre riesgos de seguridad inmediatos —que requieren respuestas técnicas y de gobernanza claras— y especulaciones que podrían distraer recursos.

Los países de la región también deben considerar la dependencia tecnológica: alianzas, acceso a código, ubicación de centros de datos y contratos de servicios pueden exponer a gobiernos y empresas locales a externalidades ambientales, de seguridad y de soberanía digital.

Conclusión

Anthropic ha logrado transformar una disputa con el Gobierno de EE. UU. en una historia pública que fortalece su marca como una empresa “ética” en IA. Sin embargo, el debate abierto por expertos revela que esa ventaja reputacional puede sustentarse en una combinación de decisiones comerciales y una retórica que mezcla riesgos reales con alarma existencial. Para responsables de políticas y líderes empresariales en América Latina, el desafío es aprender a leer estas estrategias: exigir transparencia en prácticas concretas y priorizar regulaciones y medidas que mitiguen daños reales, en lugar de dejarse llevar por discursos que pueden ser más útiles para el marketing que para la seguridad pública.