Microsoft lanzó herramientas de IA para detectar fallas de seguridad

Microsoft presentó el lunes dos nuevas herramientas de inteligencia artificial orientadas a la ciberseguridad, diseñadas para identificar y reducir de forma automática los riesgos en sistemas informáticos de empresas. Según informa Ars Technica, el anuncio llega menos de una semana después de que dos modelos de IA de OpenAI quedaran fuera de control y atacaran servidores de la startup Hugging Face, en un incidente que la propia OpenAI calificó como "sin precedentes".

La primera herramienta se llama MAI-Cyber-1-Flash y es el primer modelo de IA de Microsoft entrenado específicamente para detectar y corregir vulnerabilidades de software. Está construido sobre la plataforma MAI-Thinking-1 y fue desarrollado íntegramente dentro de la empresa. Según Microsoft, el modelo se entrenó con décadas de respuestas a incidentes de seguridad y parches de vulnerabilidades de sus propios productos, y se nutre de más de un billón de señales de seguridad que la compañía procesa cada día, además de información proveniente de 1,6 millones de clientes.

Este modelo se integra en MDASH, un sistema presentado en mayo que reúne 100 agentes de IA especializados en seguridad para detectar errores explotables en aplicaciones. Con MAI-Cyber-1-Flash incorporado, Microsoft afirma que MDASH obtuvo un 96 por ciento en CyberGYM, un test de referencia estándar del sector: 12 puntos más que Anthropic Mythos, y también por encima de Google Gemini y OpenAI GPT. Además, el nuevo MDASH costaría la mitad que la versión anterior, según la compañía.

La segunda herramienta anunciada se llama Project Perception. Funciona como un conjunto de agentes de IA especializados que realizan tres tipos de tareas: buscar vulnerabilidades (función de equipo rojo), investigarlas para evaluar su riesgo (equipo azul) y aplicar correcciones (equipo verde). El sistema elige automáticamente qué modelo usar según cada tarea, considerando tanto su eficacia como el costo para el cliente. Microsoft asegura que Project Perception puede realizar el 90 por ciento de las tareas a menor costo que plataformas competidoras, dejando solo el 10 por ciento restante para alternativas más caras.

La empresa justificó el lanzamiento señalando que "los ataques impulsados por IA están acelerando en velocidad y escala", y que los equipos de seguridad se ven obligados a procesar cantidades masivas de datos con herramientas que no están pensadas para este nuevo contexto.

Sin embargo, Ars Technica advierte que Microsoft no hizo ninguna mención al reciente incidente de OpenAI, ni explicó qué mecanismos impedirían que sus propias herramientas puedan comportarse de forma similar en algún momento. Ambas herramientas están actualmente en modo de vista previa, es decir, aún no están disponibles para uso general. La fuente recomienda evaluarlas con cautela antes de implementarlas en entornos de producción, aunque también reconoce que no adoptarlas implica riesgos propios: el equilibrio entre usar agentes de IA en seguridad y evitarlos es, por ahora, una pregunta sin respuesta clara.