Claude escribe el 90% del código de Anthropic: ven inminente aceleración drástica

Anthropic reveló que en setiembre más del 90% de las contribuciones al código de la compañía fueron escritas por Claude, su propia inteligencia artificial.

El laboratorio de IA afirmó que está cerca de alcanzar el umbral de "progreso drásticamente acelerado" y advirtió sobre los riesgos que esto implica para la seguridad.

"Nuestras estimaciones internas y nuestras expectativas sobre los modelos futuros, y no sobre los actuales, indican que podríamos alcanzar de forma inminente la definición de 'progreso drásticamente acelerado atribuible a la IA' de nuestra Política de Escalado Responsable", afirmó Anthropic en el documento actualizado.

La compañía advirtió que "usar la IA para ayudar a construir una IA más capaz también podría suponer un riesgo considerable para la seguridad, sobre todo si acelera bruscamente el ritmo del progreso".

Automejora recursiva

La preocupación de Anthropic se dirige a una nueva capacidad de su IA que aceleraría exponencialmente su rendimiento, lo que pondría en peligro sus planes para la supervisión y mitigación de los riesgos.

El laboratorio de IA se acerca a lo que se denomina "automejora recursiva", es decir, la práctica por la que un sistema de IA diseña y desarrolla de forma autónoma a su propio sucesor.

Según la información, la evolución de los modelos, de momento, está siendo conducida por humanos, aunque en la codificación más del 90% de las contribuciones al código en septiembre fueron escritas por Claude.

"El volumen medio diario de código aportado a nuestro código base por ingeniero en los tres meses terminados el 30 de septiembre de 2026 fue más de 45 veces el volumen medio diario del año terminado el 31 de diciembre de 2024", indicó Anthropic.

Riesgo de evaluación

Uno de los riesgos principales que enfrenta la compañía es que la aceleración en rendimiento y capacidad de sus modelos avance más rápido que su capacidad para medirlos y evaluarlos adecuadamente, ya que los datos con los que evalúa ese ritmo le llegan con retraso.

Esto significa que Anthropic podría no ser capaz de identificar una aceleración significativa del ritmo de desarrollo hasta que ya se haya producido.

"Sin embargo, no prevemos poder usar Claude de forma segura para diseñar y construir de forma totalmente autónoma generaciones sucesivas de modelos de frontera sin una supervisión o comprensión humana significativa, si llega a ser técnicamente posible y cuando lo sea", añadió el laboratorio de IA.

La compañía recalcó que está estudiando actualizar la Política de Escalado Responsable "para mantener a los humanos al mando del desarrollo de modelos de frontera en Anthropic".