Anthropic ha suspendido su nuevo y potente modelo de IA después de que las autoridades estadounidenses plantearan problemas de seguridad tan solo unos días después de su lanzamiento público.
En un comunicado publicado en su sitio web , Anthropic afirmó que se le ordenó suspender el uso de Claude Fable 5 a ciudadanos extranjeros, un programa que la propia compañía describió como «demasiado potente».
«El efecto neto de esta orden es que debemos desactivar abruptamente Fable 5 y Mythos 5 para todos nuestros clientes a fin de garantizar el cumplimiento», escribió la compañía.
Anthropic y la administración Trump están involucradas en una demanda judicial independiente en curso por una orden que prohíbe a las agencias gubernamentales usar las herramientas de IA de la compañía. La BBC se ha puesto en contacto con el Departamento de Comercio de Estados Unidos para obtener comentarios.
Claude Fable 5 es una versión de Claude Mythos de Anthropic, un programa de IA que rivaliza con sus competidores ChatGPT de OpenAI y Gemini de Google.
Anthropic afirmó que las autoridades de seguridad nacional de Estados Unidos no habían identificado preocupaciones específicas.
«Según tenemos entendido, el gobierno cree haber descubierto un método para eludir, o ‘desbloquear’, Fable 5», dijo la compañía.
El jailbreaking es un proceso que permite sortear las restricciones de software diseñadas para proteger una red informática, lo que posibilita a los hackers acceder a información confidencial o desbloquear funciones.
«Hemos revisado una demostración del uso de esta técnica específica para identificar un pequeño número de vulnerabilidades menores previamente conocidas», declaró Anthropic.
«Todas estas vulnerabilidades parecen relativamente sencillas, y hemos comprobado que otros modelos disponibles públicamente también son capaces de descubrirlas sin necesidad de recurrir a técnicas de elusión.»
Antes del lanzamiento de Claude Fable 5, la compañía destacó varias «medidas de seguridad» que había implementado para prevenir los ciberataques.
Líderes del sector financiero, tecnológico y gubernamental habían expresado su preocupación por su lanzamiento público, tras una publicación privada en abril para previsualizar y probar vulnerabilidades dentro de su propio sistema.
Anthropic afirmó que permitió el acceso anticipado a un puñado de organizaciones porque la herramienta era tan sofisticada que podía resultar peligrosa debido a su capacidad para explotar o piratear sistemas informáticos.
La compañía se autoproclamó «demasiado poderosa para ser lanzada» antes del lanzamiento público de Claude Fable 5, lo que algunos críticos cuestionaron como publicidad exagerada y estrategia de marketing.
«Las capacidades de Fable superan las de cualquier modelo que hayamos lanzado al mercado», afirmó la compañía.
La Unión Europea, que obtuvo acceso a Mythos a principios de junio tras semanas de negociaciones, afirmó que este último avance subraya aún más «la necesidad de soberanía tecnológica de Europa».
«Tomamos nota de la declaración de Anthropic y la estamos evaluando», dijo Thomas Regnier, portavoz de la Comisión Europea, que este mes dio a conocer medidas para reducir drásticamente la dependencia del bloque de 27 naciones de Estados Unidos y Asia en tecnologías clave, incluida la IA.
Gina Neff, catedrática de IA responsable en la Universidad Queen Mary de Londres, declaró a la BBC que la decisión de restringir el acceso al modelo podría limitar el desarrollo y las pruebas seguras de estos sistemas de IA.
Advirtió que también podría restringir la colaboración con gobiernos de todo el mundo.
«En este momento nos encontramos en territorio desconocido», dijo.
«Los expertos en la industria de la IA nos han estado advirtiendo que estas herramientas están mejorando muy rápidamente y que debemos ser capaces de desarrollar capacidades para mantener a nuestras empresas a salvo de los ciberataques.
Según declaró, el Instituto de Seguridad de la IA del gobierno británico descubrió en sus pruebas que el modelo podía explotar las defensas y los sistemas el 73% de las veces.
«Representa un cambio radical en las capacidades de ciberseguridad», añadió.
Anthropic se ha visto en el punto de mira de la administración Trump últimamente.
Donald Trump criticó públicamente a la compañía y, posteriormente, el secretario de Defensa de Estados Unidos, Pete Hegseth, la calificó de «riesgo para la cadena de suministro», siendo la primera vez que una empresa estadounidense recibe públicamente tal designación.
Esta designación significa que una herramienta o servicio no es lo suficientemente seguro para su uso gubernamental, y tradicionalmente está reservada para empresas con sede en países adversarios.
Anthropic ha demandado al Pentágono tras la designación. Un juez estadounidense dictaminó que la directiva del Pentágono no podía aplicarse, lo que significa que las agencias gubernamentales y las organizaciones que trabajan con el ejército estadounidense pueden seguir utilizando Anthropic mientras continúa el litigio.