El jefe de Nvidia descarta el apocalipsis por la IA

Mientras varios líderes del sector de la inteligencia artificial (IA) vienen advirtiendo sobre los riesgos que esta tecnología representa para la humanidad, el director ejecutivo de Nvidia, Jensen Huang, sale a desestimar esas voces. Para él, se trata de "narrativas apocalípticas" que solo buscan asustar a la gente.

Las advertencias que Huang rechaza provienen de figuras como Dario Amodei, director ejecutivo de Anthropic; Sam Altman, director ejecutivo de OpenAI; y Jacob Coxon, un exinvestigador de Anthropic. Los tres llamaron a frenar el ritmo de desarrollo de la IA. Coxon fue el más categórico: advirtió que la IA podría volverse "lo suficientemente inteligente como para matarnos" y señaló que "las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década".

Detrás de estas advertencias hay dos conceptos técnicos que preocupan a los especialistas. El primero es la desalineación, que ocurre cuando una IA se comporta de una manera que no respeta los valores o intenciones humanas, es decir, hace cosas que sus creadores no esperaban ni querían. El segundo es la automejora recursiva, que es la capacidad de un sistema de IA de diseñar y desarrollar de forma autónoma a su propio sucesor, sin intervención humana.

Frente a esos riesgos, Anthropic propuso evaluar el ritmo de desarrollo de la IA en base a tres puntos concretos: qué tan avanzada está la capacidad de la IA para construir una nueva versión de sí misma, qué tan bien puede la empresa supervisar e intervenir en las acciones de sus sistemas automatizados, y cuánta capacidad de cómputo se necesita para desarrollar los modelos más potentes.

Nvidia, por su parte, es una de las empresas que más se beneficia del boom de la IA: fabrica los chips avanzados que usan los servidores y computadoras donde se entrenan y corren los grandes modelos de inteligencia artificial. A principios de septiembre, la compañía anticipó un crecimiento de ingresos de aproximadamente el 70% para su próximo ejercicio fiscal 2027/2028, impulsado por la demanda global de infraestructura de IA.

Huang reconoció ese vínculo entre el éxito de su empresa y el desarrollo de la tecnología, pero lo planteó como un argumento a favor de la seguridad: "Si no continuamos haciéndolo [desplegando productos y servicios de forma segura], nuestro valor disminuirá", afirmó, según Europa Press.

El debate sobre cuánto y cómo regular el avance de la IA sigue abierto. Lo que queda claro es que incluso entre quienes construyen esta tecnología hay posiciones muy distintas sobre qué tan preocupante es lo que viene.