Un supuesto fallo en una IA de Anthropic habría encendido alarmas en la NSA

Una nueva controversia sacude al sector de la inteligencia artificial después de que trascendieran versiones sobre un presunto incidente de seguridad que involucra a modelos desarrollados por Anthropic y a la Agencia de Seguridad Nacional de Estados Unidos (NSA).

Según informó la revista The Economist, el senador estadounidense Mark Warner, vicepresidente del Comité de Inteligencia del Senado, aseguró que el director de la NSA y del Comando Cibernético de Estados Unidos, el general Joshua Rudd, le comunicó que el modelo de inteligencia artificial Mythos logró acceder a gran parte de los sistemas clasificados de la agencia en cuestión de horas.

La información habría surgido el pasado 11 de junio, la misma jornada en la que Amazon detectó un supuesto mecanismo de evasión de restricciones —conocido como jailbreak— en modelos de Anthropic.

De acuerdo con esta versión, la gravedad del incidente llevó al presidente Donald Trump a ordenar que se restringiera el acceso internacional a los modelos Mythos y Fable.

Sin embargo, Anthropic habría optado por una medida más drástica y decidió desactivarlos por completo.

Dos versiones enfrentadas

El episodio está rodeado de versiones contradictorias.

Por un lado, algunos reportes sostienen que la decisión de retirar los modelos respondió al hecho de que los sistemas clasificados de la NSA habrían sido vulnerados en pocas horas mediante el uso de estas herramientas de inteligencia artificial.

De confirmarse, se trataría de uno de los incidentes de seguridad más relevantes vinculados al desarrollo de modelos avanzados de IA y podría tener consecuencias significativas para toda la industria.

Sin embargo, una segunda versión señala que dentro de Anthropic existe una interpretación muy diferente de lo ocurrido.

Según esa postura, el jailbreak detectado habría sido relativamente menor y la reacción gubernamental habría resultado desproporcionada frente a un problema que, sostienen, también afecta a otros modelos de inteligencia artificial del mercado.

La relación entre la NSA y Anthropic

Uno de los aspectos más llamativos de la controversia es que la propia NSA ya utilizaba los sistemas de Anthropic en algunas de sus operaciones relacionadas con ciberseguridad.

Además, según los reportes publicados, ingenieros de la empresa trabajaban integrados dentro de la agencia para colaborar en el desarrollo y aplicación de estas herramientas.

Por ese motivo, las versiones que circulan resultan especialmente sensibles: la misma tecnología que habría sido empleada por la NSA para fortalecer sus capacidades defensivas sería, según una de las interpretaciones, la que terminó poniendo a prueba sus propios sistemas.

Un nuevo capítulo en el debate sobre la IA

El caso vuelve a poner sobre la mesa las preocupaciones crecientes sobre la seguridad de los modelos de inteligencia artificial cada vez más avanzados.

A medida que estas herramientas adquieren mayores capacidades para analizar información, programar, automatizar tareas complejas y asistir en operaciones de ciberseguridad, también aumentan los interrogantes sobre los riesgos asociados a su uso.

Por ahora, ni Anthropic ni las autoridades estadounidenses han difundido información detallada que permita verificar de forma independiente el alcance real del incidente.