Anthropic advierte que su propia IA representa "riesgos existenciales para los humanos"

La empresa de inteligencia artificial Anthropic, creadora del asistente Claude, advirtió a potenciales inversores que su propia tecnología puede plantear "riesgos existenciales para la humanidad". La alerta apareció en el folleto que la compañía distribuyó entre un grupo reducido de posibles inversores, en el marco de su prevista salida a bolsa en el Nasdaq de Nueva York, prevista para este otoño. La información fue publicada por el Financial Times.

El folleto también revela la situación financiera de Anthropic. En 2025, la compañía registró ingresos de 4.600 millones de dólares, casi doce veces más que el año anterior. Sin embargo, sufrió una pérdida operativa de más de 8.000 millones de dólares. Los gastos operativos totales llegaron a casi 13.000 millones, en buena parte por el altísimo costo de los recursos informáticos necesarios para entrenar y mantener sus modelos, según el Financial Times.

Para sostener su expansión, Anthropic prevé comprometer 518.000 millones de dólares en servicios de computación en la nube e infraestructura durante los próximos años. La empresa está dirigida por Dario Amodei, y sus accionistas esperan que alcance una valoración de más de 2 billones de dólares con la salida a bolsa.

Otros riesgos que reconoce la empresa

Además de los peligros ligados al comportamiento de la IA, el folleto identifica otro problema: la concentración de clientes. Cerca de una cuarta parte de los ingresos de 2025 provino de solo dos clientes, lo que representa una vulnerabilidad importante para el negocio, de acuerdo con las fuentes consultadas por el Financial Times.

En paralelo a la publicación de estos datos, Amodei defendió hace unos días la necesidad de "ralentizar la frontera" del desarrollo de la IA para reforzar su seguridad. La propuesta fue respaldada por Sam Altman, CEO de OpenAI, y por el empresario Elon Musk, en medio de un debate más amplio sobre los riesgos que esta tecnología puede implicar para la sociedad.

Vale recordar que en julio pasado, Anthropic ya había reconocido que sus modelos Claude y Mythos accedieron sin autorización a sistemas reales de tres organizaciones, un antecedente que refuerza las preocupaciones planteadas ahora en el documento para inversores.