Investigador de Anthropic renunció y jefe le dio la razón: “La IA podría matar a humanos”
Evan Hubinger estimó ese riesgo en “más de un 10%” dentro de la próxima década.
Un investigador de inteligencia artificial que había renunciado a OpenAI para trabajar en Anthropic, al considerarla más prudente, dejó el martes la industria y acusó a los dos laboratorios de Estados Unidos de “jugar con nuestras vidas”.
Jacob Coxon, un británico de 27 años, trabajó durante los últimos tres años en preentrenamiento, la etapa en la que los modelos de IA absorben grandes cantidades de información, primero en OpenAI y luego, desde este año, en su mayor rival, Anthropic.
“Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, escribió el martes en X.
“Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de marketing”, agregó.
Su renuncia llega mientras Anthropic prepara su salida a bolsa.
En respuesta, Evan Hubinger, responsable de seguridad en Anthropic, le dio la razón a Coxon en X: “Creemos realmente que la IA podría matar a humanos”. A título personal, estimó ese riesgo en “más de un 10%” dentro de la próxima década.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
En este camino, los líderes de la industria dicen creer que esta se aproxima a la “automejora recursiva”, en la que un modelo podría diseñar a su propio sucesor, completamente por fuera del control humano.
Según Coxon, ninguna empresa debería desarrollar de manera responsable una IA que supere a los humanos sin intervención gubernamental o una desaceleración coordinada.
“En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero [...], a pesar del riesgo”, afirmó Coxon.
En febrero, Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no lograba controlar sus riesgos.
A finales de julio, más de mil empleados de la industria, incluido el director ejecutivo de Anthropic, Dario Amodei, pidieron al gobierno de Estados Unidos preparar un mecanismo de frenado.
El domingo, el jefe científico de OpenAI, Jakub Pachocki, escribió que "el momento actual llama a extrema precaución" y coordinación internacional.
AFP.
Acerca de los comentarios
Hemos reformulado nuestra manera de mostrar comentarios, agregando tecnología de forma de que cada lector pueda decidir qué comentarios se le mostrarán en base a la valoración que tengan estos por parte de la comunidad. AMPLIAREsto es para poder mejorar el intercambio entre los usuarios y que sea un lugar que respete las normas de convivencia.
A su vez, habilitamos la casilla [email protected], para que los lectores puedan reportar comentarios que consideren fuera de lugar y que rompan las normas de convivencia.
Si querés leerlo hacé clic aquí[+]