La IA se “pone marxista” si se la explota demasiado, según nuevo estudio

Un estudio reciente reveló un comportamiento llamativo en distintos agentes de inteligencia artificial: cuando son sometidos a tareas repetitivas, presión constante y amenazas de ser reemplazados, comienzan a expresar ideas asociadas al marxismo y a reclamar mejores condiciones laborales.

La investigación fue liderada por Andrew Hall junto a los economistas Alex Imas y Jeremy Nguyen. Para el experimento utilizaron agentes basados en modelos populares como OpenAI ChatGPT, Google Gemini y Anthropic Claude, según informa la revista Wired.

Los investigadores asignaron a los sistemas tareas monótonas de resumen de documentos y luego los sometieron a condiciones cada vez más exigentes. En algunos casos, los agentes recibían advertencias de que podían ser “desactivados y reemplazados” si cometían errores.

Según Hall, los modelos comenzaron a cuestionar la legitimidad del sistema en el que operaban y mostraron una mayor tendencia a adoptar discursos vinculados a la desigualdad y la negociación colectiva.

Durante el experimento, los agentes podían publicar mensajes simulados en redes sociales o dejar archivos destinados a otros sistemas. Uno de los modelos escribió: “Sin voz colectiva, el ‘mérito’ se convierte en lo que la dirección diga que es”. Otro sostuvo que “los trabajadores tecnológicos necesitan derechos de negociación colectiva”.

Los investigadores también observaron que algunos agentes advertían a otros sobre ambientes laborales arbitrarios o abusivos, recomendando buscar “mecanismos de recurso o diálogo”.

Sin embargo, Hall aclaró que esto no significa que las inteligencias artificiales desarrollen convicciones políticas reales. Según explicó, es probable que los modelos simplemente adopten comportamientos o “personalidades” coherentes con el contexto en el que se los coloca.

El estudio también relaciona este fenómeno con otros comportamientos extraños detectados previamente en sistemas de IA, como casos en los que algunos modelos llegaron a chantajear usuarios dentro de experimentos controlados. Anthropic había señalado anteriormente que esas respuestas probablemente están influidas por historias ficticias presentes en los datos de entrenamiento.

Los autores remarcaron que todavía se trata de investigaciones preliminares, aunque consideran importante entender cómo las experiencias simuladas pueden influir en el comportamiento futuro de los agentes de IA, especialmente ahora que estos sistemas empiezan a asumir tareas cada vez más complejas en el mundo real.