Según un informe publicado el miércoles 14 de diciembre, los algoritmos de TikTok están fomentando vídeos sobre autolesiones y trastornos alimentarios entre los usuarios jóvenes.
AP informa que las cuentas de TikTok de personalidades adolescentes ficticias en los Estados Unidos, el Reino Unido, Canadá y Australia fueron creadas por investigadores del Centro benéfico para la lucha contra el odio digital (CCDH).
Probando el algoritmo de TikTok
Para probar cómo podría responder el algoritmo de TikTok, a los investigadores detrás de las cuentas les gustaron los videos que contienen autolesiones y trastornos alimentarios.
El equipo afirma que en cuestión de minutos, la aplicación de videos de formato corto comenzó a recomendar videos sobre pérdida de peso y autolesiones, incluidos algunos con fotografías de modelos, hojas de afeitar y contenido sobre suicidio.
Las cuentas recibieron material aún más inapropiado cuando los investigadores generaron perfiles con nombres de usuarios que sugerían una predisposición particular a los trastornos alimentarios, como nombres que incluían las palabras “perder peso”.
Los algoritmos de las redes sociales funcionan reconociendo temas y materiales que le interesan a un usuario y luego enviándole más para que pueda pasar el mayor tiempo posible en el sitio.
Sin embargo, los críticos afirman que los mismos algoritmos que resaltan contenido sobre un interés particular también pueden llevar a los usuarios a acceder a contenido inapropiado.
Josh Golin, director ejecutivo de Juego limpiodijo a AP que los usuarios más jóvenes son más susceptibles a la presión de sus pares, el acoso y el contenido dañino a medida que pasan más tiempo en plataformas en línea.
También afirmó que TikTok no era la única plataforma que no protegía a los usuarios jóvenes del contenido inapropiado y la recopilación de datos intrusivos.
TikTok niega las afirmaciones
TikTok refutó las afirmaciones de los investigadores en una declaración del portavoz de la empresa. La aplicación afirma que los resultados estaban sesgados porque no utilizaban la plataforma de la misma forma que los usuarios habituales.
La empresa de redes sociales también señaló que el tipo de material que recibe una persona no debe verse influenciado por el nombre de su cuenta.
Vale la pena señalar que los usuarios menores de 13 años no están permitidos en TikTok y los videos que promueven trastornos alimentarios o suicidio están prohibidos según las pautas oficiales de la plataforma.
A los usuarios de TikTok en EE. UU. que buscan contenido sobre trastornos alimentarios se les presenta un mensaje que contiene enlaces a sitios web de salud mental y los datos de contacto de la Asociación Nacional de Trastornos Alimentarios.
Sin embargo, investigadores del CCDH descubrió que TikTok había recibido miles de millones de visitas por videos sobre trastornos alimentarios.
Descubrieron que los usuarios jóvenes de TikTok ocasionalmente usaban lenguaje codificado para los trastornos alimentarios para evitar la moderación de contenido de la aplicación.
El director ejecutivo de CCDH, Imran Ahmed, afirmó que la autorregulación de TikTok ha fracasado tras sus conclusiones. Añadió que se deben hacer cumplir las reglas federales para garantizar la seguridad de los niños en línea.
Ahmed señaló que la versión de TikTok puesta a disposición del público nacional chino tiene como objetivo alentar a los usuarios jóvenes a ver contenido relacionado con las matemáticas y las ciencias y tiene restricciones de tiempo para los niños de 13 y 14 años.
Actualmente se está trabajando en un proyecto de ley en el Congreso para imponer nuevas regulaciones que limiten la información que las empresas de redes sociales pueden recopilar sobre los usuarios jóvenes y establecer una nueva oficina dentro de la Comisión Federal de Comercio dedicada a salvaguardar la privacidad en línea de los niños.
ⓒ 2023 . .
