Microsoft advierte que no se puede confiar en modelos de IA de frontera

Microsoft advirtió que no se puede confiar plenamente en los modelos de inteligencia artificial de frontera y llamó a implementar supervisión continua sobre los agentes de IA autónomos, según informó la compañía tecnológica.

La advertencia surge en un contexto de creciente despliegue de sistemas de IA con capacidad de tomar decisiones y ejecutar tareas de forma autónoma, sin intervención humana constante. Estos agentes, basados en los modelos de lenguaje más avanzados disponibles en el mercado, presentan riesgos de seguridad y confiabilidad que requieren monitoreo permanente.

La recomendación de Microsoft apunta específicamente a los llamados "modelos de frontera", aquellos sistemas de IA de última generación que operan en el límite del conocimiento técnico actual. La compañía sostiene que estos modelos, pese a sus capacidades avanzadas, no pueden considerarse totalmente fiables sin mecanismos de control.

La postura de Microsoft se enmarca en un debate más amplio sobre la gobernanza de la inteligencia artificial y la necesidad de establecer protocolos de seguridad robustos antes de la implementación masiva de agentes autónomos en entornos críticos.

La empresa no especificó incidentes concretos que hayan motivado la advertencia, pero la recomendación coincide con preocupaciones expresadas por diversos actores de la industria tecnológica sobre los riesgos asociados a sistemas de IA cada vez más autónomos.