La Unión Europea acusa a TikTok de usar un algoritmo que perjudica la salud mental

La Comisión Europea concluyó este viernes de forma preliminar, que TikTok incumple la Ley de Servicios Digitales (DSA) debido al funcionamiento de su algoritmo de recomendaciones, que puede encerrar a los usuarios en una sucesión de contenidos perjudiciales para su salud mental.

Según las autoridades europeas, el sistema utilizado en la sección Para ti, que determina qué videos aparecen en la pantalla de cada usuario, genera las denominadas rabbit holes o “madrigueras”, un fenómeno por el cual las personas quedan expuestas de manera reiterada a determinados tipos de contenidos.

Bruselas considera que este mecanismo puede resultar dañino para la salud mental de los usuarios y exige a la plataforma que rediseñe su sistema de recomendaciones para ajustarse a las obligaciones establecidas por la legislación europea.

Qué cuestiona la Unión Europea del algoritmo de TikTok

El principal cuestionamiento se centra en el funcionamiento del sistema de recomendaciones de la red social, que selecciona y ordena automáticamente los videos que aparecen en el apartado Para ti.

La Comisión Europea sostiene, en sus conclusiones preliminares, que este mecanismo puede conducir a los usuarios hacia una exposición prolongada a contenidos potencialmente perjudiciales.

El concepto de rabbit hole describe una dinámica en la que las recomendaciones sucesivas llevan a una persona a consumir cada vez más publicaciones relacionadas con un mismo tema, dificultando que salga de ese circuito de contenidos.

La preocupación de las autoridades europeas se vincula especialmente con los posibles efectos de estas dinámicas sobre la salud mental y con las obligaciones de las plataformas de evaluar y reducir los riesgos derivados del funcionamiento de sus servicios.

TikTok podría enfrentar una multa millonaria

Las conclusiones comunicadas este viernes son preliminares, por lo que todavía no constituyen una decisión definitiva sobre el incumplimiento de la normativa europea.

TikTok tendrá la oportunidad de responder a las observaciones de la Comisión Europea y presentar sus argumentos antes de que se adopte una resolución final.

Si Bruselas confirma sus conclusiones, podrá imponer a la compañía una multa de hasta el 6 % de su facturación anual mundial, de acuerdo con las sanciones previstas en la Ley de Servicios Digitales.

Además de las posibles consecuencias económicas, la Comisión exige modificaciones en el diseño del sistema de recomendaciones de la plataforma, con el objetivo de reducir los riesgos identificados para los usuarios.

El procedimiento continúa abierto mientras las autoridades europeas evalúan el cumplimiento de las obligaciones que la legislación comunitaria impone a las grandes plataformas digitales.