Sam Altman dice que los beneficios de la IA justifican aceptar que ocurran “cosas malas”

El director ejecutivo de OpenAI, Sam Altman, defendió que el desarrollo de la inteligencia artificial (IA) implicará aceptar que se produzcan determinados efectos negativos a cambio de aprovechar los beneficios de la tecnología y preservar la autonomía de las personas.

El empresario planteó su posición durante una entrevista con Decoded, de Politico, en la que también marcó diferencias con Anthropic, uno de los principales competidores de OpenAI y una de las compañías que ha defendido mayores medidas de seguridad y regulación para los modelos de IA más avanzados.

“Creemos que el mundo debería aceptar ciertos aspectos negativos a cambio de los beneficios de esta tecnología y de que las personas tengan autonomía”, afirmó Altman.

Sus declaraciones llegan después de que OpenAI y Anthropic acercaran posiciones en algunos aspectos relacionados con la seguridad y el desarrollo de los sistemas de IA.

Altman asume que habrá usos negativos de la IA

El CEO de OpenAI considera que el desarrollo y la expansión de la IA traerán consigo usos perjudiciales de la tecnología, pero entiende que esos riesgos no deberían llevar a renunciar a sus potenciales beneficios.

Según Altman, “la gente hará cosas buenas en una proporción enormemente mayor —órdenes de magnitud— que cosas malas”.

En ese sentido, sostuvo que no sería partidario de abandonar los beneficios que puede ofrecer la IA a cambio de garantizar que nunca se produzcan grandes ciberataques, estafas, usos indebidos u otras consecuencias negativas vinculadas con la tecnología.

Su posición parte de la idea de que esos episodios ocurrirán a medida que los sistemas de IA se vuelvan más accesibles y potentes, pero que serán ampliamente superados por las aplicaciones positivas.

Altman estableció, sin embargo, un límite.

El ejecutivo aclaró que esa aceptación de determinados efectos negativos no incluye riesgos catastróficos, entre los que mencionó una eventual pérdida grave de control sobre los sistemas de IA.

Las diferencias con Anthropic

Durante la entrevista, Altman también cuestionó una visión de la seguridad de la IA que, según planteó, podría terminar concentrando excesivamente el control de una tecnología de gran alcance en manos de una única compañía.

“No estoy de acuerdo, pero entiendo la perspectiva de quienes piensan algo como: ‘Esta tecnología va a ser tan potente y es tan peligrosa que un solo laboratorio en San Francisco debería poseerla y asegurarse de que no pase nada malo, administrando de algún modo cómo repartir sus beneficios’”, señaló.

La declaración apunta a una de las diferencias que Altman mantiene con Anthropic, compañía que ha colocado la seguridad de los modelos avanzados en el centro de su estrategia y ha respaldado la aplicación de determinadas regulaciones sobre los sistemas de IA de vanguardia.

La distancia entre ambos laboratorios se ha reducido en los últimos meses en algunos asuntos vinculados con regulación y seguridad, pero las declaraciones de Altman muestran que persisten diferencias sobre hasta dónde deben llegar las restricciones y quién debe controlar el desarrollo de los modelos más poderosos.

Anthropic responde

Consultado por Politico sobre las declaraciones del ejecutivo de OpenAI, un portavoz de Anthropic señaló que las propuestas regulatorias defendidas por la compañía están dirigidas exclusivamente a los modelos de IA de vanguardia.

El debate refleja una de las discusiones que atraviesan actualmente a la industria: cómo equilibrar el rápido desarrollo de sistemas cada vez más capaces con mecanismos que reduzcan sus posibles usos perjudiciales.

Altman defiende que parte de esos riesgos deberá coexistir con el despliegue de la tecnología, siempre que no se atraviese el límite de los escenarios catastróficos.

Su planteo coloca así el foco en una cuestión que seguirá acompañando el desarrollo de la IA: cuánto riesgo está dispuesta a aceptar la sociedad a cambio de aprovechar sus beneficios.