Anthropic restablecerá Claude Fable 5 tras reforzar los controles de ciberseguridad

Anthropic anunció que Claude Fable 5 volverá a estar disponible a nivel global a partir de este jueves, luego de mantener conversaciones con el Gobierno de Estados Unidos y reforzar las medidas destinadas a impedir el uso del modelo para tareas relacionadas con ciberseguridad ofensiva.

La compañía explicó que el despliegue se realizará con un nuevo conjunto de clasificadores diseñados para detectar y bloquear un mayor número de solicitudes vinculadas a actividades potencialmente maliciosas.

Como consecuencia de estos cambios, algunas tareas habituales, como programación y depuración de código, podrán ser derivadas temporalmente al modelo Claude Opus 4.8, mientras Anthropic ajusta los nuevos filtros para reducir falsos positivos y diferenciar mejor entre solicitudes legítimas e intentos de abuso.

Trabajo conjunto con el Gobierno de EE.UU.

La empresa también informó que ampliará su colaboración con el Gobierno estadounidense en materia de evaluación y seguridad de modelos de inteligencia artificial.

El acuerdo contempla el acceso anticipado de las autoridades a futuros modelos y a sus mecanismos de protección para realizar pruebas antes de su lanzamiento, además del intercambio de información sobre vulnerabilidades, técnicas para eludir restricciones ("jailbreaks") y posibles usos indebidos.

Asimismo, Anthropic destinará recursos específicos para investigaciones conjuntas sobre seguridad en inteligencia artificial.

Un marco común para responder a los "jailbreaks"

La compañía señaló además que comenzó a elaborar un marco de consenso junto con Amazon, Microsoft, Google y otros integrantes de la alianza Glasswing para establecer criterios comunes que permitan evaluar la gravedad de los intentos de vulnerar las restricciones de los modelos de IA.

El objetivo es definir estándares compartidos sobre cómo deberían responder las empresas desarrolladoras frente a este tipo de incidentes.

Anthropic invitó a otros proveedores de modelos de inteligencia artificial y socios de la industria a sumarse a esta iniciativa.

En el comunicado, la empresa agradeció la paciencia de los usuarios durante la suspensión temporal de Claude Fable 5 y destacó el trabajo conjunto realizado con el Gobierno de Estados Unidos, empresas tecnológicas y la comunidad de investigación para volver a poner el modelo a disposición del público.