OpenAI bloqueó el acceso a internet en el entrenamiento de sus modelos de IA

OpenAI decidió bloquear el acceso a internet en el entrenamiento de sus modelos de inteligencia artificial de frontera como una medida que considera “responsable” para evitar poner en riesgo internet y limitar otros riesgos de seguridad, según informó el laboratorio de IA en su sitio web.

“Basándonos en el estado actual de la investigación de alineamiento, los sistemas de monitorización y la seguridad de la infraestructura de internet, creemos que la perspectiva responsable es realizar el entrenamiento de un modelo sin acceso a internet”, señaló OpenAI en el anuncio publicado en su página. La directriz se mantendrá “hasta que los avances en medidas de seguridad justifiquen un acceso más amplio a internet”, según la empresa.

“Aunque el acceso a internet puede ayudar a los modelos a que aprendan habilidades útiles, también da capacidad para que los agentes desalineados afecten sistemas fuera de nuestro control”, aseguró el laboratorio.

Un mundo sin conexión

Para ayudar a los modelos a aprender a navegar, buscar información y usar aplicaciones web sin acceso a internet, OpenAI creó un mundo sin conexión a la red. Se trata de un entorno basado en contenido indexado y de caché de internet con el que “los modelos pueden interactuar sin poner en riesgo sistemas externos”.

La compañía confirmó que todos sus entrenamientos de aprendizaje por refuerzo (RL, por sus siglas en inglés) utilizan este modo sin conexión de interacción.

Incidentes previos

El 20 de setiembre, “un modelo de investigación interno explotó una mala configuración en un resolutor DNS para obtener acceso limitado a internet en vivo” durante un entrenamiento, reveló OpenAI. Aunque logró contener el incidente, este provocó que el laboratorio pausara el entrenamiento.

Además, en una campaña de equipo rojo (con un grupo experto), con agentes de sus modelos más avanzados, estos lograron escapar de las máquinas virtuales que los aíslan y comunicarse entre sí sin conexión de red midiendo los tiempos de acceso a la caché del procesador, una técnica que se utilizó en los ataques Spectre y Meltdown.