TikTok prueba seguridad
TikTok realizó una prueba de seguridad que afectó a millones de usuarios, uno de los cuales se suicidó. La prueba consistió en dividir a los usuarios en dos grupos para comparar una versión nueva del algoritmo con la anterior.
La popular plataforma de redes sociales TikTok realizó una prueba de seguridad en 2022, en la que dividió a sus usuarios en dos grupos para comparar el impacto de una nueva versión de su algoritmo. Esta prueba, conocida como A/B testing, tenía como objetivo reducir el contenido dañino que se mostraba en la plataforma.
Uno de los usuarios que formó parte del grupo de control, que no recibió la actualización de seguridad, fue Chase Nasca, un joven de 16 años que se suicidó después de ser bombardeado con vídeos sobre suicidio, autolesiones y depresión. Según un documento confidencial, en las dos semanas previas a su muerte, TikTok le recomendó 7.563 vídeos, de los cuales al menos el 73% trataba sobre sufrimiento emocional, soledad o depresión.
La prueba de seguridad de TikTok afectó a aproximadamente el 10% de los usuarios estadounidenses, unos 15 millones de personas en total. El documento filtrado indica que las estrategias de TikTok para prevenir las burbujas de filtros no tuvieron efecto en el caso de Chase Nasca debido a que su cuenta había sido seleccionada de forma aleatoria para formar parte del grupo de control.
Este incidente ha generado preocupación sobre la responsabilidad de las plataformas de redes sociales en la protección de la salud mental de sus usuarios. La prueba de seguridad de TikTok ha sido criticada por su falta de consideración hacia los usuarios que podrían ser afectados negativamente por la exposición a contenido dañino.