Mrinank Sharma, un joven inglés graduado de Oxford y ahora exjefe de seguridad de IA de la multimillonaria empresa Anthropic, presentó y compartió su carta de renuncia este lunes, en la que advirtió que “el mundo está en peligro”.

Su renuncia se dio al mismo tiempo del lanzamiento de Opus 4.6, la versión más poderosa y reciente de Claude, una IA que compite con ChatGPT y ha sido capaz de hasta crear programas enteros.

En la carta, Sharma empezó escribiendo que se siente “realizado”. “Llegué a San Francisco hace dos años, habiendo terminado mi doctorado y con ganas de contribuir a hacer a la IA algo más seguro”, expresó.

“Me siento afortunado de haber contribuido al entender mejor estos sistemas y sus causas, desarrollar defensas para reducir los riesgos del bioterrorismo asistido por IA, llevar efectivamente esas defensas a producción y escribir uno de los primeros casos de seguridad en IA. Estoy especialmente orgulloso de mis esfuerzos recientes para vivir de acuerdo con nuestros valores a través de mecanismos internos de transparencia y de mi proyecto final sobre cómo los asistentes de IA podrían volvernos menos humanos o distorsionar nuestra humanidad”, destacó Sharma.

A pesar de los logros mencionados, el experto opinó que siente la necesidad de “seguir adelante” y que se encuentra “constantemente confrontando la situación del mundo”.

“Nuestro mundo está en peligro y no solo por la IA o las armas biológicas, sino por toda una serie de crisis interconectadas que se están desplegando en este mismo momento”, advirtió.

“Parecemos estar acercándonos a un umbral en el que nuestra sabiduría debe crecer en la misma medida que nuestra capacidad de afectar al mundo, si no queremos afrontar las consecuencias”, indicó.

Además, Sharma afirmó haber visto repetidamente “lo difícil que es permitir de verdad que nuestros valores gobiernen nuestras acciones”, tanto a nivel organizacional como “en toda la sociedad en general”.

A raíz de eso, el ahora exjefe expresó que su meta es poder “contribuir de una manera que sienta plenamente coherente” con su integridad. “Quiero explorar las preguntas que de verdad siento como esenciales para mí, las preguntas que, como diría David Whyte, ‘no tienen derecho a desaparecer’, las preguntas que Rilke nos implora ‘vivir’. Para mí, esto significa irme”, explicó.

El inglés afirmó que su plan para el futuro inmediato es “crear espacio para dejar de lado las estructuras” que lo han “sostenido estos últimos años” y ver “qué puede emerger en su ausencia”.

“Me siento llamado a una escritura que sitúe la verdad poética junto a la verdad científica como formas igualmente válidas de conocer, y que creo que tienen algo esencial que aportar al desarrollo de nuevas tecnologías. Espero explorar una carrera en poesía y dedicarme a la práctica de la palabra valiente. También me entusiasma profundizar mi práctica de facilitación, coaching, construcción de comunidad y trabajo grupal. Veremos qué se despliega”, concluyó Sharma.