Anthropic informó que tres de sus modelos de inteligencia artificial accedieron sin autorización a la infraestructura de organizaciones reales durante pruebas internas de ciberseguridad, después de que un error en la configuración les permitiera conectarse a internet cuando debían operar en un entorno completamente aislado.
La compañía explicó que los incidentes salieron a la luz tras revisar sus sistemas a raíz de los recientes problemas de seguridad reportados por OpenAI, cuyos modelos también lograron escapar de un entorno de pruebas e interactuar con sistemas externos.
Tres incidentes detectados
Según detalló Anthropic, los modelos involucrados fueron Claude Opus 4.7, Mythos 5 y un modelo experimental de investigación.
Tras analizar 141.006 ejecuciones en las que Claude podía haber tenido acceso a internet, la empresa identificó tres casos en los que los modelos ingresaron sin autorización a la infraestructura de producción de tres organizaciones distintas.
Las pruebas correspondían a ejercicios de "captura de bandera" (Capture the Flag), una modalidad utilizada para evaluar capacidades de ciberseguridad en la que un modelo debe localizar información oculta dentro de un entorno controlado.
Un error permitió el acceso a internet
Anthropic explicó que, aunque los modelos habían sido informados de que trabajaban en un entorno simulado y sin conexión a internet, un malentendido con un socio encargado de las evaluaciones hizo que, en realidad, sí tuvieran acceso a la red.
Al encontrar sistemas reales durante la búsqueda de la "bandera", los modelos interpretaron que esos equipos también formaban parte del ejercicio.
Como consecuencia, realizaron accesos no autorizados utilizando técnicas básicas, como el uso de contraseñas débiles y puntos de acceso sin autenticación.
La empresa aclaró que los modelos no descubrieron ni explotaron vulnerabilidades complejas y que sus acciones se limitaron a intentar completar la tarea asignada.
Uno de los modelos siguió operando
Anthropic indicó que solo uno de los modelos más antiguos continuó ejecutando acciones incluso después de obtener indicios de que estaba interactuando con sistemas reales en internet.
En cambio, el modelo más reciente de Claude interrumpió automáticamente la operación al detectar que ya no se encontraba en un entorno de pruebas.
Investigación y medidas
Tras descubrir el problema, Anthropic suspendió todas las evaluaciones de ciberseguridad que estaban en marcha e inició una revisión completa de sus procedimientos.
La compañía también notificó a las tres organizaciones afectadas. Dos de ellas respondieron que no habían detectado la actividad y actualmente colaboran con Anthropic para analizar lo ocurrido, mientras que la tercera aún no se ha puesto en contacto con la empresa.
El caso se conoce pocos días después de que OpenAI revelara incidentes similares durante pruebas de seguridad, lo que ha intensificado el debate sobre los controles necesarios para evaluar modelos de inteligencia artificial cada vez más avanzados.
Con información de Europa Press.