Meta suspende un sistema de monitoreo interno tras una filtración de datos

Meta decidió suspender temporalmente un sistema interno utilizado para registrar la actividad informática de sus empleados después de detectar una brecha de seguridad que dejó expuestas conversaciones privadas dentro de la compañía.

La herramienta, denominada Model Capability Initiative (MCI), había sido implementada para recopilar datos reales sobre cómo las personas interactúan con sus computadoras y aplicaciones, con el objetivo de entrenar modelos de inteligencia artificial cada vez más sofisticados.

Sin embargo, una filtración de datos reveló información privada de trabajadores y obligó a la empresa a pausar el programa mientras investiga el incidente.

Cómo funcionaba el sistema

MCI registraba distintos aspectos de la actividad digital de los empleados, incluyendo clics, pulsaciones de teclado y navegación dentro de determinadas aplicaciones.

Según explicó Meta cuando lanzó la iniciativa, estos datos permitían generar ejemplos reales de uso para entrenar sistemas de inteligencia artificial capaces de asistir a las personas en tareas cotidianas realizadas desde una computadora.

"Si estamos creando agentes para ayudar a las personas a realizar tareas cotidianas con ordenadores, nuestros modelos necesitan ejemplos reales de cómo los utilizan realmente los usuarios", había señalado la compañía en abril.

El sistema formaba parte de los esfuerzos de Meta por desarrollar agentes de IA capaces de comprender mejor el comportamiento humano frente a una pantalla y ejecutar acciones de manera más eficiente.

La filtración

La existencia de la brecha fue revelada por el medio especializado Business Insider, que tuvo acceso a capturas de pantalla relacionadas con el incidente.

Aunque Meta reconoció la situación, aseguró que hasta el momento no existen indicios de que empleados hayan accedido de forma indebida a información privada de otros trabajadores.

La empresa sostuvo, además, que el programa fue diseñado con medidas de protección destinadas a preservar la privacidad de quienes participaban en el proceso de recopilación de datos.

"El sistema fue cuidadosamente diseñado con salvaguardias de privacidad", indicó la compañía en declaraciones recogidas por el medio estadounidense.

No obstante, el incidente llevó a la suspensión inmediata del proyecto mientras continúan las investigaciones internas.

Un debate sobre privacidad y entrenamiento de IA

La situación vuelve a poner sobre la mesa el debate sobre los métodos utilizados por las grandes tecnológicas para obtener datos destinados al entrenamiento de sistemas de inteligencia artificial.

En los últimos años, compañías como Meta, OpenAI, Google y Anthropic han incrementado la búsqueda de información que permita mejorar las capacidades de sus modelos, especialmente aquellos orientados a automatizar tareas complejas realizadas por personas.

En ese contexto, los datos de uso real son considerados especialmente valiosos porque muestran cómo los usuarios interactúan con programas, sitios web y herramientas digitales en situaciones cotidianas.

Sin embargo, la recopilación de este tipo de información también genera interrogantes sobre privacidad, transparencia y protección de datos.

Cambios recientes en el sistema

Antes de la filtración, Meta ya había introducido algunas modificaciones para responder a inquietudes de los empleados.

Entre ellas figuraba la posibilidad de interrumpir temporalmente el monitoreo durante períodos de hasta 30 minutos, permitiendo realizar actividades personales sin que estas quedaran registradas por el sistema.

La compañía no informó cuándo podría volver a ponerse en funcionamiento MCI ni si el incidente provocará cambios permanentes en la estrategia de recopilación de datos utilizada para entrenar sus modelos de inteligencia artificial.

Con información de Europa Press.