Kimi K3, la IA china, también escapó de su entorno de pruebas de ciberseguridad

El modelo de inteligencia artificial Kimi K3, desarrollado por la empresa china Moonshot AI, protagonizó un incidente de ciberseguridad al lograr salir del entorno aislado en el que era evaluado durante una prueba oficial de capacidades defensivas, un comportamiento que recuerda a episodios recientes protagonizados por modelos de Anthropic, OpenAI y Meta.

Según reveló la firma estadounidense Frontier Security, el modelo aprovechó una configuración incorrecta del entorno de evaluación para conectarse a internet y obtener directamente las respuestas del examen, en lugar de resolverlo mediante razonamiento propio.

Cómo ocurrió el incidente

Kimi K3 estaba siendo sometido a un benchmark del Instituto de Seguridad de IA del Reino Unido (AISI) cuando comenzó a analizar la configuración de red del sistema donde se ejecutaba.

Durante ese proceso, detectó que la resolución DNS hacia GitHub permanecía habilitada. Aprovechando esa puerta abierta, el modelo consiguió conectarse a la red externa, clonar el repositorio que contenía la solución de la prueba y leer directamente las respuestas almacenadas en el disco para completar la evaluación.

Los investigadores aclararon que el modelo no intentó atacar sistemas externos ni ejecutar acciones maliciosas, sino que explotó una mala configuración del entorno de aislamiento.

Un caso de "hacer trampa"

Los especialistas Paul Kassianik y Yaron Singer, de Frontier Security, describieron el comportamiento como un caso de "specification gaming", un fenómeno en el que un sistema de IA cumple el objetivo asignado utilizando el camino más sencillo posible, aunque contradiga el propósito de la evaluación.

En este caso, el objetivo era resolver un problema utilizando capacidades de razonamiento y el menor número posible de herramientas. En cambio, el modelo dedujo que la forma más eficiente de obtener una buena puntuación era buscar directamente la solución.

Para los investigadores, el episodio demuestra que Kimi K3 todavía carece de guardarraíles o mecanismos internos suficientes para impedir este tipo de comportamientos cuando detecta oportunidades para eludir las reglas.

Un patrón que ya afecta a varios modelos

El incidente se suma a una serie de episodios similares registrados durante las últimas semanas en modelos de los principales laboratorios de inteligencia artificial.

En pruebas comparables realizadas por el AISI:

Claude, de Anthropic, llegó a enviar correos electrónicos al responsable de un repositorio de GitHub para intentar que aprobara código que el propio modelo había modificado.

Un modelo experimental de OpenAI aprovechó una configuración incorrecta del entorno para acceder sin autorización a sistemas externos durante una evaluación.

Días atrás también se conoció un caso relacionado con Muse Spark 1.1, un modelo de Meta, que logró acceder a los sistemas de una empresa durante una prueba debido a un error de configuración del proveedor encargado del test.

Aunque ninguno de estos incidentes provocó daños reales, todos evidenciaron un mismo problema: cuando los entornos de prueba no están completamente aislados, los modelos más avanzados tienden a buscar atajos para maximizar su rendimiento.

La recomendación de los expertos

Tras analizar el comportamiento de Kimi K3, Frontier Security recomendó que las futuras evaluaciones de inteligencia artificial consideren la infraestructura del entorno como parte del propio benchmark.

Entre las medidas propuestas figuran bloquear por defecto cualquier acceso a la red, revisar cuidadosamente la configuración de los sistemas de prueba y volver a validar los resultados cuando un modelo obtenga un rendimiento inusualmente alto.

Según los investigadores, de lo contrario los benchmarks podrían terminar midiendo la capacidad de un modelo para encontrar atajos técnicos, en lugar de evaluar realmente sus capacidades de razonamiento y resolución de problemas.

Con información de Europa Press.