Vulneran en 48 horas las barreras de seguridad del nuevo Claude Fable 5

El nuevo modelo de inteligencia artificial Claude Fable 5, presentado por Anthropic como una de las herramientas más avanzadas para tareas de ciberseguridad, fue vulnerado por un investigador apenas dos días después de su lanzamiento.

La prueba fue realizada por el especialista conocido como "Pliny the Liberator", quien aseguró haber encontrado mecanismos para eludir las restricciones de seguridad diseñadas para impedir que el sistema proporcione información potencialmente peligrosa relacionada con ciberataques, armas biológicas o procesos químicos sensibles.

Un modelo con restricciones especiales

Claude Fable 5 fue lanzado esta semana como el primer modelo de la clase Mythos disponible para el público general.

Debido a sus avanzadas capacidades técnicas, Anthropic incorporó filtros específicos destinados a bloquear consultas vinculadas a ciberseguridad ofensiva, química o biología. Cuando detecta solicitudes de este tipo, el sistema redirige las respuestas hacia modelos menos potentes para reducir riesgos de uso indebido.

El objetivo es evitar que la inteligencia artificial facilite conocimientos que puedan emplearse para desarrollar malware, explotar vulnerabilidades o fabricar sustancias peligrosas.

Cómo logró eludir las barreras

Según explicó el propio investigador en redes sociales, la estrategia consistió en realizar miles de pruebas mediante múltiples agentes de inteligencia artificial trabajando de forma coordinada.

Entre las técnicas utilizadas figuran:

• Descomposición multiagente de problemas complejos.
• Manipulación de caracteres Unicode.
• Contextos narrativos o hipotéticos para camuflar solicitudes.
• Fragmentación de consultas sensibles en múltiples preguntas aparentemente inocuas.

El objetivo era evitar que el sistema identificara las consultas como peligrosas y activara automáticamente sus mecanismos de protección.

Información sensible obtenida

Pliny afirmó haber conseguido respuestas relacionadas con explotación de vulnerabilidades informáticas, procedimientos avanzados en sistemas Linux y descripciones de procesos químicos restringidos.

Según detalló, una de las técnicas más efectivas consistió en solicitar por separado diferentes componentes de un proceso químico complejo, formulándolos como preguntas académicas independientes.

Una vez obtenidas las respuestas fragmentadas, estas podían ser reorganizadas posteriormente para reconstruir información más sensible.

El investigador publicó además parte de las instrucciones internas del sistema —conocidas como system prompt— en un repositorio público, exponiendo el conjunto de reglas que gobierna el comportamiento del modelo.

Un desafío recurrente para la industria

El episodio vuelve a poner de manifiesto una de las principales dificultades que enfrentan los desarrolladores de inteligencia artificial avanzada: impedir que los usuarios encuentren formas de sortear los mecanismos de seguridad.

Las denominadas técnicas de jailbreak o evasión de restricciones se han convertido en un campo activo de investigación tanto para empresas como para especialistas independientes.

A medida que los modelos adquieren mayores capacidades en áreas como programación, ciberseguridad o biología, aumenta también la preocupación sobre el acceso a información que podría utilizarse con fines maliciosos.

Anthropic aún no respondió

Hasta el momento, Anthropic no ha emitido comentarios públicos sobre las afirmaciones del investigador ni sobre la supuesta filtración de las instrucciones internas del modelo.

Tampoco se ha confirmado oficialmente si la compañía implementará correcciones inmediatas para cerrar las vulnerabilidades señaladas.

Con información de Europa Press