Amazon habría alertado al gobierno de EE. UU. sobre riesgos en modelos de Anthropic

El director ejecutivo de Amazon, Andy Jassy, habría desempeñado un papel clave en las preocupaciones de seguridad que precedieron a las restricciones impuestas por el gobierno de Estados Unidos sobre algunos de los modelos de inteligencia artificial más avanzados de Anthropic.

Según informó el diario The Wall Street Journal, Jassy trasladó al secretario del Tesoro estadounidense, Scott Bessent, y a otros altos funcionarios preocupaciones surgidas a partir de pruebas realizadas por investigadores de Amazon con el modelo Claude Fable 5.

De acuerdo con la publicación, los especialistas habrían logrado obtener información que potencialmente podría utilizarse para ejecutar ciberataques, una situación que encendió alarmas dentro de la administración estadounidense.

Posteriormente, el gobierno decidió imponer restricciones de exportación sobre los modelos Claude Fable 5 y Mythos 5, considerados entre las herramientas más avanzadas desarrolladas por Anthropic.

Amazon evita confirmar los contactos

Consultada sobre el tema, Amazon no confirmó las conversaciones específicas con funcionarios estadounidenses.

Un portavoz de la compañía señaló que es habitual que distintas agencias gubernamentales soliciten asesoramiento a empresas tecnológicas sobre posibles riesgos de seguridad, aunque aclaró que la compañía no comenta los detalles de esos intercambios.

La empresa también indicó que Amazon Web Services (AWS) se ha visto afectada por la interrupción del acceso a los modelos alcanzados por las restricciones.

Informes coincidentes

Además de The Wall Street Journal, medios especializados como The Information y Reuters reportaron que Amazon, uno de los principales inversores de Anthropic, había expresado inquietudes relacionadas con la seguridad de los nuevos modelos de inteligencia artificial desarrollados por la empresa.

Las versiones periodísticas coinciden en que las preocupaciones se centraban en la capacidad de los modelos para proporcionar información sensible vinculada a ciberseguridad y otros ámbitos considerados de alto riesgo.

La versión de David Sacks

El empresario y asesor tecnológico David Sacks, exresponsable de políticas de inteligencia artificial durante la administración Trump y actual copresidente del Consejo de Asesores Presidenciales sobre Ciencia y Tecnología, también se refirió al caso.

Según explicó en redes sociales, un socio tecnológico de alta credibilidad presentó al gobierno una vulnerabilidad detectada en los modelos de Anthropic.

Sacks aseguró, además, que la administración estadounidense solicitó a la compañía corregir el problema de seguridad o retirar temporalmente el modelo, pero sostuvo que el director ejecutivo de Anthropic, Dario Amodei, rechazó esa propuesta.

Por su parte, Anthropic defendió públicamente sus sistemas y afirmó que las capacidades que preocupan a las autoridades ya se encuentran disponibles en otros modelos de inteligencia artificial de acceso público.