Sam Altman advierte ante la ONU sobre el riesgo de perder el control humano de la IA

El director ejecutivo de OpenAI, Sam Altman, advirtió este miércoles ante el Consejo de Seguridad de Naciones Unidas sobre los riesgos que plantea el rápido desarrollo de la inteligencia artificial y reclamó una mayor cooperación internacional para establecer estándares de seguridad.

Durante su intervención en una sesión de alto nivel convocada por Francia, que ejerce la presidencia del Consejo de Seguridad durante setiembre, Altman sostuvo que el avance de esta tecnología exige un “extremo cuidado” para evitar que los seres humanos pierdan el control sobre los modelos.

El ejecutivo planteó la necesidad de combinar estándares nacionales y globales que sirvan de orientación para las empresas que desarrollan los sistemas de inteligencia artificial más avanzados.

“Demasiado riesgo tecnológico”

Altman señaló que el sector tecnológico se encuentra en una encrucijada ante la velocidad con la que evolucionan los nuevos modelos.

Según expresó, no se debería asumir “demasiado riesgo tecnológico solo porque los beneficios sean demasiado grandes e importantes como para frenarlos”.

El planteo combina dos dimensiones que el CEO de OpenAI ha defendido en sus últimas intervenciones: aprovechar las posibilidades de la inteligencia artificial y, al mismo tiempo, establecer mecanismos capaces de reducir los riesgos asociados a sistemas cada vez más potentes.

OpenAI había planteado esta semana la creación de estándares técnicos globales para la inteligencia artificial avanzada, que contemplen la evaluación de capacidades, la supervisión humana y mecanismos para informar incidentes.

Entre un nuevo “Renacimiento” y los riesgos de perder el control

Altman presentó ante Naciones Unidas dos escenarios posibles sobre el impacto que puede tener la inteligencia artificial.

Por un lado, sostuvo que la tecnología podría impulsar una nueva era comparable con un “Renacimiento” si se desarrolla como una herramienta destinada a aumentar las capacidades de las personas.

Pero advirtió que también existe el riesgo de reproducir algunas de las fracturas generadas durante la Revolución Industrial si los sistemas terminan sustituyendo la capacidad humana de decidir o si su evolución escapa a una supervisión efectiva.

La discusión sobre el control humano de los sistemas avanzados se convirtió en uno de los ejes de la reunión del Consejo de Seguridad, que convocó a referentes de algunas de las principales compañías y organizaciones vinculadas al desarrollo de inteligencia artificial.

Cooperación internacional y supervisión

El planteo de Altman apunta a que los estándares técnicos internacionales convivan con las regulaciones que determine cada país.

OpenAI ha defendido que las decisiones sobre cómo incorporar esos estándares a las legislaciones correspondan a los gobiernos, mientras las compañías y evaluadores desarrollan mecanismos comunes para medir las capacidades y los riesgos de los modelos.

La empresa también ha señalado que la inteligencia artificial debe reforzar, y no sustituir, el criterio humano e institucional, especialmente cuando se utiliza en ámbitos de alto riesgo.

El debate llega en momentos en que Naciones Unidas y diferentes gobiernos discuten cómo establecer salvaguardas para tecnologías cuya capacidad avanza más rápidamente que los mecanismos creados para supervisarlas.

Para Altman, el desafío pasa por encontrar un equilibrio que permita aprovechar el potencial de la inteligencia artificial sin entregar a los propios sistemas decisiones que deben permanecer bajo control humano.