Advierten que la IA médica puede exponer datos de pacientes vulnerables

Los sistemas de inteligencia artificial utilizados en medicina podrían comprometer la privacidad de determinados pacientes, especialmente aquellos pertenecientes a grupos minoritarios o con enfermedades poco frecuentes, según una investigación publicada en la revista científica Nature.

El estudio, liderado por investigadores de la Universidad Técnica de Múnich, analizó los riesgos asociados al uso de datos clínicos sensibles para entrenar modelos de inteligencia artificial y concluyó que algunos individuos pueden ser identificados con una precisión mucho mayor de la que se estimaba hasta ahora.

El riesgo de los ataques de inferencia

La investigación se centró en los llamados ataques de inferencia de pertenencia (Membership Inference Attacks o MIA), una técnica mediante la cual un atacante intenta determinar si los datos de una persona específica fueron utilizados para entrenar un modelo de IA.

A través de consultas repetidas al sistema, estos ataques pueden revelar si determinada información médica forma parte del conjunto de entrenamiento y, potencialmente, exponer datos sensibles sobre un paciente.

Hasta ahora, la mayoría de los estudios evaluaban este riesgo de manera global, considerando conjuntos completos de datos. Sin embargo, la nueva investigación demuestra que la vulnerabilidad puede ser mucho mayor cuando se analiza a nivel individual.

Pacientes más expuestos

Para el trabajo se utilizaron siete grandes bases de datos compuestas por información clínica real, incluyendo imágenes médicas, electrocardiogramas e historiales clínicos electrónicos.

Los resultados mostraron que los ataques pueden alcanzar tasas de éxito casi perfectas en algunos pacientes concretos.

Según los investigadores, los grupos infrarrepresentados dentro de los conjuntos de entrenamiento son los más vulnerables.

Entre ellos figuran:

• Personas con enfermedades raras.
• Integrantes de minorías raciales.
• Pacientes en situación socioeconómica desfavorable.
• Personas pertenecientes a géneros menos representados en los datos utilizados.

Debido a que los modelos almacenan patrones muy específicos de estos grupos, resulta más sencillo identificar su presencia dentro de la información empleada para entrenarlos.

Cuanto más potente la IA, mayor el riesgo

Otro hallazgo relevante es que el riesgo aumenta a medida que crece la capacidad de los modelos de inteligencia artificial.

Los investigadores observaron que los sistemas más avanzados tienden a memorizar con mayor precisión determinados patrones presentes en los datos de entrenamiento, lo que incrementa la probabilidad de que un atacante pueda identificar a personas concretas.

Recomendaciones para proteger la privacidad

Ante estos resultados, los autores sostienen que los desarrolladores de inteligencia artificial médica deben incorporar evaluaciones específicas sobre privacidad antes de implementar los modelos en entornos clínicos.

Asimismo, recomiendan aplicar estrategias de mitigación verificables y controles estrictos de acceso a los sistemas más vulnerables.

El objetivo es evitar que la creciente utilización de inteligencia artificial en la atención sanitaria termine generando riesgos adicionales para pacientes cuyos datos fueron utilizados para desarrollar estas tecnologías.

Con información de EFE