Nueva York acusa a TikTok de hacer pruebas secretas con menores

La fiscalía general de Nueva York acusó a TikTok de poner en peligro a usuarios menores de edad al realizar pruebas secretas de seguridad en la plataforma con la función Algo Refresh, excluyendo a alrededor de 15 millones de usuarios para utilizarlos como placebo y comprobar si dicha función reduce el tiempo de consumo de la red social.

Las acusaciones se presentaron como parte de una actualización de la demanda de seguridad infantil interpuesta contra la red social propiedad de ByteDance en 2024, cuando la fiscal general de Nueva York, Letitia James, lideró una coalición de 14 fiscales generales estadounidenses que demandaron a la plataforma por engañar al público sobre la seguridad y por perjudicar la salud mental de los jóvenes, entre otras cosas, creando adicción.

Ahora, James lanzó nuevas acusaciones contra TikTok, alegando que realizó un experimento secreto en el que se incluyeron usuarios menores de edad para medir el tiempo de uso de la plataforma en base a una función de reseteo del algoritmo, exponiendo a dichos usuarios a una experiencia menos segura sin conocimiento.

El experimento con Algo Refresh

Las acusaciones se llevaron a cabo en base a un informe elaborado por Bloomberg Businessweek, que tuvo acceso a un documento confidencial de TikTok en el que se detallaba una prueba algorítmica que la red social comenzó a realizar en 2021 afectando a alrededor de 15 millones de usuarios en Estados Unidos.

Esta prueba algorítmica se basaba en ocultar para un grupo seleccionado de usuarios una nueva función de seguridad llamada Algo Refresh, diseñada como una herramienta para reiniciar el algoritmo de recomendaciones en el feed principal, borrando el historial de gustos e interacciones y volviendo a mostrar contenido popular y general, como si se acabase de crear la cuenta por primera vez.

Así, TikTok ocultó esta función al 10% de los usuarios estadounidenses con el objetivo de comparar su comportamiento con los usuarios que sí tenían acceso a la herramienta y, con ello, comprobar si el cambio reducía el tiempo de uso de la red social.

Por tanto, la plataforma sometió a dicho grupo de usuarios a una experiencia “menos segura por diseño”, convirtiéndolos en un grupo de placebo para el experimento, sin informar de ello ni consultar sobre la participación en la prueba oculta.

De esta forma lo detalló James en la demanda actualizada, donde también se vincula este experimento con la muerte por suicidio de un adolescente estadounidense que se encontraba dentro del grupo de prueba y que tuvo acceso a contenido sobre autolesiones y suicidio.

La respuesta de TikTok

En un documento judicial aportado por TikTok, al que también accedió Bloomberg, la plataforma confirmó la existencia de este experimento, que “podría involucrar una parte del tráfico de la plataforma que siguió recibiendo la experiencia original”.

No obstante, la red social asegura que dichas pruebas no hacen que la experiencia sea menos segura para los usuarios. Asimismo, explicó que, como plataforma, prueban constantemente nuevos productos y funciones “para validar la experiencia y entender cómo funcionan en el mundo real”.

Otras demandas de privacidad infantil

TikTok ya se enfrentó a otras demandas sobre privacidad infantil en Estados Unidos, incluyendo una resuelta en agosto de este año, por la que acordó pagar 400 millones de dólares para resolver un litigio relacionado con el incumplimiento de la Ley de Protección de la Privacidad Online de los Niños (Coppa), convirtiéndose en una de las mayores compensaciones económicas en un caso relacionado con esta ley, según La Voz de Galicia.

En este caso, la demanda acusó a la red social de permitir la creación de cuentas de menores de 13 años sin permiso de sus padres, así como recopilar información personal sobre dichos menores.

Igualmente, TikTok también se vio envuelta en el acuerdo alcanzado por Meta, también en agosto de este año, para evitar continuar con el juicio por el diseño adictivo de las redes sociales, por el que la compañía liderada por Mark Zuckerberg accedió a pagar 18.000 millones de dólares (unos 15.400 millones de euros).