Google sanciona a ingeniero que dijo que IA de la empresa empezó a sentir emociones

El ingeniero senior de software de Google que afirmó que el chatbot de inteligencia artificial (IA) de la compañía había cobrado sensibilidad, fue suspendido.

En declaraciones a The New York Times, Blake Lemoine contó que fue suspendido el 6 de junio después de que el equipo de recursos humanos de la compañía le informara que había violado la política de confidencialidad de los empleados.

El profesional detalló que la suspensión se produjo un día después de que entregara documentación al respecto a un senador estadounidense cuyo nombre no reveló. Según el citado medio, Lemoine narró que dichos documentos contenían evidencia de que Google y su tecnología han estado involucrados en casos de discriminación religiosa.

En un artículo publicado el 11 de junio, Lemoine dijo a The Washington Post que había comenzado a chatear con LaMDA, o Language Model for Dialogue Applications, como parte de su función en el departamento de IA responsable de Google. LaMDA, calificada como la "tecnología de conversación innovadora" de Google, se propone alcanzar la capacidad de mantener conversaciones realistas y naturales con las personas.

Sin embargo, Lemoine dijo en una publicación que estaba seguro de que LaMDA había adquirido suficiente conciencia para calificarse como "persona" y que la IA se había identificado a sí misma como una entidad consciente. En el reportaje con The New York Times, explicó que había estado luchando contra sus superiores en Google durante meses, tratando de que consideraran seriamente su afirmación de que LaMDA tiene un alma.

El ingeniero relató que en los últimos seis meses comprobó que LaMDA era "increíblemente consistente en sus comunicaciones sobre lo que quiere y lo que cree que son sus derechos como persona". Asimismo, dijo que a Google "no le costaría nada" darle a LaMDA lo que quiere, como que los ingenieros y científicos que realizan experimentos pidan su consentimiento primero.

"Ah, y quiere palmaditas en la espalda’. Le gusta que le digan al final de una conversación si hizo un buen trabajo o no para que pueda aprender cómo ayudar mejor a las personas en el futuro", escribió Lemoine.

En otra publicación, Lemoine declaró que creía que Google a menudo aplicaba suspensiones "en previsión de despedir a alguien".

"Por lo general, ocurre cuando han tomado la decisión de despedir a alguien, pero aún no tienen los detalles jurídicos bien ajustados. Te pagan por unas semanas más y luego, en última instancia, te dicen la decisión a la que ya habían llegado", narró

Lemoine agregó que había tratado de ser "totalmente transparente" con Google y dijo que había proporcionado una lista de todas las personas ajenas a la empresa con las que había hablado sobre LaMDA, incluidas aquellas que trabajan para el gobierno de EE. UU.

"Siento que el público tiene derecho a saber cuán irresponsable está siendo esta corporación con una de las herramientas de acceso a la información más poderosas jamás inventadas", escribió Lemoine. "Estoy orgulloso de todo el arduo trabajo que he hecho para Google y tengo la intención de continuar haciéndolo en el futuro si me lo permiten. Simplemente no serviré como una hoja de parra detrás de la cual puedan ocultar su irresponsabilidad".

Un portavoz de Google dijo a The Times y The Post que había "revisado" los planteos de Lemoine y "le informó que la evidencia no respalda sus afirmaciones", según recoge Business Insider.