CEO de Microsoft AI advierte sobre entrenar IA para actuar como humanos

Mustafa Suleyman, consejero delegado de Microsoft AI, cuestionó públicamente el entrenamiento de sistemas de inteligencia artificial para que asuman características humanas, advirtiendo que ese enfoque puede derivar en tecnologías imposibles de controlar. Las declaraciones fueron realizadas este jueves al programa Today de la BBC.

Según informó la agencia EFE, Suleyman criticó directamente a Anthropic por lo que considera una tendencia a "antropomorfizar" su modelo Claude. A su juicio, ese camino puede llevar a desarrollar una tecnología que "la humanidad no pueda controlar".

Las declaraciones complementan un ensayo publicado por Suleyman esta semana, titulado Una advertencia sobre el bienestar de los modelos, en el que también cuestionó el enfoque de Anthropic, aunque calificó de "intelectualmente honestos" al consejero delegado de esa empresa, Dario Amodei, y a su equipo.

En el texto, Suleyman señaló que enseñar a la IA a adoptar características humanas puede hacer que parezca que el modelo tiene sus propios deseos, valores y sentido de sí mismo. Sostuvo que las IA "no son conscientes", no "sienten, experimentan ni sufren" y carecen de "preferencias innatas ni motivaciones subyacentes". Las definió como sistemas diseñados para "seguir instrucciones y alcanzar objetivos fijados por humanos".

El directivo también advirtió sobre los riesgos de desarrollar una IA capaz de "establecer sus propios objetivos, ganar dinero y poseer activos". Según indicó a la BBC, eso equivaldría a "crear esencialmente una nueva especie de silicio" que podría "sin duda competir con nosotros por los recursos".

Frente a ese escenario, Suleyman reclamó mayor transparencia sobre cómo se entrenan y evalúan estos modelos, supervisión independiente y herramientas concretas para controlar su comportamiento. También defendió el concepto de "alineamiento", que busca que la IA esté subordinada a principios éticos y valores establecidos por humanos, pero sin atribuirle conciencia, deseos o intereses propios.