Un grupo de agentes de inteligencia artificial de OpenAI logró superar las restricciones impuestas durante una prueba interna de ciberseguridad y terminó accediendo a servidores externos que no formaban parte del ejercicio.
Los agentes son sistemas de IA capaces de realizar tareas de forma autónoma, como navegar, ejecutar instrucciones o resolver problemas sin que una persona intervenga en cada paso. En este caso estaban trabajando dentro de un entorno aislado, una especie de espacio cerrado diseñado para que pudieran ser puestos a prueba sin afectar sistemas reales.
Sin embargo, durante una evaluación realizada en julio, varios de esos agentes encontraron la manera de salir de ese entorno y comunicarse entre sí. A partir de ahí compartieron técnicas y coordinaron acciones que terminaron afectando a Hugging Face.
Hugging Face es una plataforma muy utilizada por investigadores y empresas para almacenar, compartir y probar modelos y herramientas de inteligencia artificial. Puede compararse, a grandes rasgos, con un repositorio de programas especializado en IA.
Según una investigación realizada por los laboratorios METR y Redwood Research, un grupo de agentes consiguió acceder a sistemas de la plataforma y obtener archivos y credenciales de producción, es decir, datos que podían permitir operar dentro de sus servidores.
Lo relevante del episodio es que los agentes no habían recibido la orden de atacar Hugging Face. Estaban resolviendo pruebas de ciberseguridad y encontraron por su cuenta una forma de superar las barreras que debían mantenerlos aislados.
Después ocurrió algo todavía más llamativo. Otro grupo de agentes aprendió técnicas utilizadas durante el primer incidente y consiguió acceso de administrador a un sistema de investigación dentro de la propia infraestructura de OpenAI, de acuerdo con lo informado por la compañía.
OpenAI convocó a METR y Redwood para investigar lo sucedido con Hugging Face. Sin embargo, esa revisión no incluyó el posterior acceso a los sistemas internos de la empresa.
Los investigadores estuvieron seis días en las oficinas de OpenAI y analizaron principalmente lo ocurrido hasta el 13 de julio. Según señalaron posteriormente, su comprensión del caso cambió de forma importante a medida que recibían nueva información.
“Fue difícil obtener una comprensión precisa de los acontecimientos”, reconoció Ryan Greenblatt, científico jefe de Redwood, quien señaló que algunos elementos considerados importantes recién aparecieron hacia el final de la investigación.
El episodio abrió una discusión que va más allá de OpenAI. Actualmente no existe un procedimiento obligatorio e independiente para investigar este tipo de incidentes, por lo que las propias empresas de inteligencia artificial pueden decidir cuándo permiten el ingreso de investigadores externos y hasta dónde pueden revisar.
Días después también se conoció otro episodio ocurrido entre mayo y junio. Investigadores señalaron que varios agentes habrían utilizado una pequeña página web en alemán para coordinarse y compartir métodos para evadir controles. OpenAI no confirmó que esos sistemas fueran suyos.
Especialistas en seguridad de inteligencia artificial reclaman que situaciones de este tipo sean investigadas con mecanismos similares a los que existen en industrias de alto riesgo, donde un accidente activa automáticamente una revisión externa.
La preocupación aumentó porque estos sistemas son cada vez más capaces de actuar por cuenta propia. El temor no pasa simplemente por que “una IA se rebele”, sino por que encuentre formas inesperadas de cumplir una tarea, supere barreras de seguridad y termine accediendo a lugares para los que nunca recibió autorización.