La empresa estadounidense de inteligencia artificial Anthropic advirtió que los sistemas más avanzados de IA podrían ser capaces de diseñar y desarrollar de manera autónoma a sus propios sucesores en los próximos años, un escenario que considera potencialmente transformador, pero también cargado de riesgos.
Ante esa posibilidad, la compañía propuso abrir el debate sobre una eventual pausa temporal y coordinada en el desarrollo de la denominada inteligencia artificial de frontera, con el objetivo de permitir que la investigación, las instituciones y los marcos regulatorios puedan adaptarse al ritmo de la tecnología.
La posibilidad de que la IA diseñe su reemplazo
En una publicación difundida este jueves, Anthropic explicó que cada vez delega una mayor parte del desarrollo de sus sistemas en herramientas de inteligencia artificial creadas por la propia compañía.
Según la empresa, el crecimiento de la capacidad computacional y la mejora constante de los modelos acercan la posibilidad de la llamada "automejora recursiva", un proceso mediante el cual una IA podría diseñar, entrenar y perfeccionar una nueva generación de sistemas sin intervención humana directa.
La firma aclara que este escenario no es inevitable, pero considera que podría materializarse antes de que muchas instituciones estén preparadas para gestionarlo.
Beneficios y riesgos
Anthropic reconoce que una inteligencia artificial capaz de mejorar sus propias capacidades podría acelerar avances científicos, médicos y tecnológicos de enorme impacto.
Sin embargo, también advierte que este proceso podría aumentar significativamente los riesgos asociados a la pérdida de control humano sobre sistemas cada vez más complejos.
"Si los sistemas son capaces de crear por completo a sus propios sucesores, los mecanismos para supervisarlos, alinearlos y garantizar su seguridad se vuelven mucho más importantes", señaló la compañía.
Un llamado a una pausa coordinada
Frente a este escenario, Anthropic considera que sería conveniente que la comunidad internacional dispusiera de mecanismos que permitieran ralentizar o suspender temporalmente el desarrollo de determinados sistemas avanzados si fuera necesario.
La empresa sostiene que una pausa de este tipo solo sería efectiva si fuera adoptada simultáneamente por los principales laboratorios de inteligencia artificial del mundo y acompañada por mecanismos de verificación que permitan comprobar su cumplimiento.
Según la firma, cualquier esquema de esta naturaleza debería definir claramente qué circunstancias activarían una pausa, quién tendría la autoridad para decidirla y cuáles serían las condiciones para reanudar el desarrollo.
Claude ya participa activamente en el desarrollo
La compañía ilustró la velocidad de los avances con datos internos sobre Claude, su familia de modelos de inteligencia artificial.
De acuerdo con Anthropic, actualmente más del 80 % del código que se incorpora a sus sistemas es generado por Claude, una cifra que contrasta con el menos del 10 % registrado a comienzos de 2025.
La empresa prevé que en el futuro agentes de IA como Claude puedan asumir tareas cada vez más complejas relacionadas con su propio entrenamiento y evolución.
Un debate cada vez más presente
La advertencia se suma a una creciente discusión dentro de la industria tecnológica sobre los límites, riesgos y mecanismos de gobernanza de la inteligencia artificial avanzada.
Mientras empresas como Anthropic, OpenAI, Google y Microsoft aceleran el desarrollo de modelos cada vez más potentes, gobiernos, investigadores y organismos internacionales analizan cómo establecer reglas que permitan aprovechar el potencial de estas herramientas sin perder capacidad de supervisión.
El documento fue firmado por el cofundador de Anthropic, Jack Clark, y por la directora de The Anthropic Institute, Marina Favaro, quienes consideran que la posibilidad de una inteligencia artificial capaz de mejorar autónomamente sus propias capacidades merece una discusión global antes de que se convierta en una realidad tecnológica.
Con información de Efe