22 expertos en IA alertan por una posible “explosión de inteligencia” y piden más normas

Un grupo de 22 referentes internacionales de la inteligencia artificial reclamó a los gobiernos una regulación más proactiva ante el riesgo de que la automatización de la propia investigación en IA provoque una aceleración difícil de controlar.

Entre los firmantes se encuentran Geoffrey Hinton y Yoshua Bengio, dos de los investigadores considerados pioneros de la inteligencia artificial moderna, además de ejecutivos y científicos vinculados a algunas de las principales compañías del sector.

El artículo fue publicado por la unidad de inteligencia artificial de la Universidad de Cambridge y advierte sobre la posibilidad de una “explosión de inteligencia”: un escenario en el que los propios sistemas de IA contribuyan cada vez más al desarrollo de nuevas y mejores tecnologías de inteligencia artificial.

La preocupación de los investigadores parte de un cambio que consideran fundamental: una parte creciente de los procesos de investigación y desarrollo puede automatizarse mediante la propia IA.

Una IA que ayuda a desarrollar más IA

Según plantean los expertos, los avances tecnológicos que antes podían necesitar años podrían producirse ahora en cuestión de meses.

El problema no es solamente la velocidad. Los autores advierten que el desarrollo de las capacidades de estos sistemas podría acelerarse más rápido que la capacidad de las sociedades y los gobiernos para comprender sus consecuencias, establecer controles y adaptarse a ellas.

En ese escenario, sostienen, existe el riesgo de que la humanidad pierda capacidad de control sobre sistemas de IA con capacidades superiores a las humanas en determinadas áreas.

La aceleración también podría alterar el equilibrio de poder entre gobiernos, compañías privadas y otros organismos involucrados en el desarrollo y supervisión de la inteligencia artificial.

Hinton y Bengio, entre los firmantes

El documento reúne no solamente a investigadores académicos.

Entre sus 22 firmantes figuran Geoffrey Hinton, ganador del Premio Nobel y uno de los pioneros de las redes neuronales modernas, y Yoshua Bengio, otro de los principales referentes científicos del aprendizaje profundo.

También aparecen figuras directamente vinculadas a empresas que desarrollan modelos avanzados de IA, como el cofundador de Anthropic Jack Clark y el científico jefe de OpenAI, Jakub Pachocki.

La presencia de investigadores y ejecutivos de la propia industria refuerza uno de los aspectos centrales del documento: la necesidad de prepararse antes de que una eventual aceleración tecnológica haga más difícil establecer mecanismos de control.

¿Qué proponen los expertos?

Los autores consideran que llegó el momento de intervenir desde el ámbito político.

Entre otras medidas, plantean mejorar la visibilidad sobre el grado de automatización que ya existe en la investigación y el desarrollo de inteligencia artificial.

También reclaman desarrollar mecanismos que permitan conducir y limitar una eventual “explosión de inteligencia” y preparar a las sociedades para afrontar las consecuencias económicas, políticas y sociales que podría generar.

La advertencia se suma a otros llamados realizados desde el propio sector tecnológico sobre los riesgos asociados con el rápido crecimiento de las capacidades de la inteligencia artificial.

Estados Unidos apuesta por acelerar sin una regulación excesiva

El debate regulatorio se produce mientras los principales países buscan simultáneamente controlar los riesgos de la IA y evitar perder posiciones en la carrera tecnológica.

En Estados Unidos, la administración de Donald Trump adoptó este año una política orientada a acelerar la innovación y reducir las barreras regulatorias para el desarrollo de inteligencia artificial.

Una orden ejecutiva firmada en junio establece expresamente que las medidas federales no deben interpretarse como autorización para crear un sistema obligatorio de licencias o aprobación previa para desarrollar o lanzar nuevos modelos de IA.

La Casa Blanca sostiene que Estados Unidos debe preservar su liderazgo internacional en inteligencia artificial y evitar regulaciones que, según la administración, puedan frenar la innovación.

El contraste resume uno de los debates que atraviesa actualmente a la industria: cómo avanzar con una tecnología que aumenta rápidamente sus capacidades sin que la velocidad de su desarrollo supere la capacidad de las sociedades para establecer límites y mantener el control.