Más de 1.000 empleados de OpenAI, Google y Anthropic piden regular el avance de la IA

Más de 1.000 empleados de OpenAI, Anthropic y Google firmaron una carta abierta en la que solicitan al Gobierno de Estados Unidos que impulse medidas para regular el ritmo de desarrollo de la inteligencia artificial y evitar que esta tecnología avance hasta un punto en el que resulte imposible comprenderla o controlarla.

El documento, titulado "Pacing the Frontier", sostiene que los modelos de inteligencia artificial de frontera podrían alcanzar capacidades que superen la capacidad humana para supervisarlos, por lo que considera necesario ralentizar su evolución mientras se desarrollan mecanismos de seguridad.

Piden "marcar el ritmo" del desarrollo

Los firmantes reconocen que la inteligencia artificial tiene el potencial de generar importantes beneficios para la sociedad, pero advierten que ese escenario "no está garantizado".

Ante la posibilidad de que la automatización de la investigación acelere el desarrollo de la IA, sostienen que es necesario "regular de forma deliberada el progreso en este campo" para comprender mejor los riesgos que pueden surgir.

En ese sentido, reclaman al Gobierno estadounidense que apoye iniciativas destinadas a fortalecer la supervisión de estos sistemas y promueva un esfuerzo internacional para desarrollar herramientas técnicas y mecanismos de gobernanza que permitan controlar el ritmo de avance de la inteligencia artificial.

Apoyo de directivos del sector

La carta ya reúne 1.178 firmas y cuenta con el respaldo de varios referentes de la industria, entre ellos el cofundador y director científico de Anthropic, Jared Kaplan; el director ejecutivo de la compañía, Dario Amodei; el director de Investigación de OpenAI, Mark Chen; y la vicepresidenta de Seguridad y Alineación de IA de Google, Anca Dragan.

Sin embargo, el documento no fue firmado por el director ejecutivo de OpenAI, Sam Altman.

La postura de Sam Altman

En una reciente entrevista en el pódcast Invest Like the Best, Altman reconoció que quizá sea necesario moderar el ritmo de desarrollo de la inteligencia artificial para dar tiempo a la sociedad a adaptarse a sus nuevas capacidades.

No obstante, advirtió que una regulación excesiva podría terminar concentrando el desarrollo de la IA en manos de un pequeño grupo de empresas.

"Me aterra un mundo donde los temores reales sobre la IA se utilicen para decir: 'Solo este pequeño grupo de personas puede tenerla porque es demasiado peligrosa'", afirmó.

Para Altman, cualquier regulación debería mejorar la seguridad sin convertirse en una barrera que limite la competencia o concentre el poder tecnológico en unas pocas organizaciones.

Con información de Europa Press