La ciudad de Nueva York ha acusado a la red social TikTok de ofrecer a miles de usuarios una opción de seguridad que no funcionaba. No se trataba de un error de programación o un problema de funcionamiento ocasional, la función estaba desactivada como parte de un experimento realizado por la compañía.
En la acusación se señala que TikTok le ofreció a una parte de sus usuarios, entre los que se encontraba adolescentes y niños, una función conocida como “Algo refresh”. La idea de esta era volver a cero la recopilación de datos realizada para elaborar las recomendaciones de contenido. De esta manera podría liberarse un poco del contenido dañino.
Sin embargo, algunos de los usuarios seleccionados eran parte de lo que se consideraba un grupo de placebo. Cuando presionaban la opción creyendo que producía un efecto beneficioso para su actividad en la red, en realidad no pasaba nada. Las líneas de tiempo seguían siendo alimentadas con los parámetros acumulados.
Las demandas que salen a la luz
La fiscal general de Nueva York, Letitia James, lleva adelante un juicio contra la compañía del que el hecho descrito en párrafos anteriores es solo una parte. El resto de las acusaciones, producidas por más de una veintena de estados se centran en el mismo tema. TikTok busca producir un comportamiento adictivo entre los niños y miente a sus usuarios sobre las medidas de seguridad adoptadas.
Muchas de las presentaciones del juicio están selladas a pedido de la compañías que sostiene deben preservarse sus prácticas comerciales. Pero a medida que estas son evaluadas, algunas son hechas públicas.
Chat interno
Cuando se planteo la realización de las pruebas con la nueva función activa para unos y solo como un placebo para otros, uno de los ejecutivos del área de bienestar de la empresa señaló que podría ser problemática. Porque los usuarios podrían sentirse engañados. “Esta función es sobre el control y la transparencia del algoritmo. Un grupo de placebo va completamente en contra de tal idea”, señaló en un chat interno.
Las pruebas se realizaron en 2023 y se compararon los resultados con los usuarios. El objetivo era ver cuanto tiempo permanecía cada grupo en el sitio y como afectaba esto los ingresos.
Además del experimento mencionado, la demanda apunta a varias ocasiones en las que la empresa seleccionó usuarios al azar y desactivó las medidas de seguridad. En uno de esos casos un adolescente se suicidó luego de consumir contenido sobre lesiones y suicidio.
