El A/B testing, una estrategia común en productos digitales, ha cobrado notoriedad tras un trágico suceso relacionado con TikTok. La plataforma social modificó su algoritmo para combatir el contenido dañino, pero un grupo de usuarios, incluido Chase Nasca, de 16 años, quedó excluido de estas mejoras. Esta decisión ha llevado a una serie de recomendaciones de contenido altamente perturbadoras que, según informes, pudieron haber contribuido a su suicidio.
TikTok lanzó una versión mejorada de su algoritmo a principios de 2022, con el fin de reducir la exposición de usuarios a contenido nocivo. Sin embargo, cerca del 10% de sus usuarios estadounidenses siguió utilizando el algoritmo anterior, lo que incluía 15 millones de personas, entre ellas Nasca. En las dos semanas previas a su muerte, recibió más de 7.500 recomendaciones, de las cuales el 73% abordaban temas de sufrimiento emocional, depresión y soledad, con un 10% violando las normas de la plataforma sobre autolesiones.
Documentos internos indican que las medidas de seguridad de TikTok no se activaron para Nasca, lo que evidenció que el diseño del algoritmo podía llevar a que algunos usuarios quedaran atrapados en un ciclo vicioso de contenido negativo. Esta situación ha suscitado críticas sobre las responsabilidades de las plataformas en la salud mental de los jóvenes, especialmente ante la creciente preocupación por adicciones digitales.
La investigación inicial sobre el caso se realizó solo después de que la prensa preguntara a TikTok sobre el suicidio de Nasca. A pesar de este análisis, la compañía se ha mantenido firme en su postura, afirmando que no cree que su plataforma cause suicidios. En respuesta al fallecimiento, TikTok ha reiterado su compromiso con la seguridad del usuario y la mejora de sus sistemas de detección de contenido dañino.
TikTok ha enfatizado la importancia del bienestar de sus usuarios, especialmente adolescentes, y ha implementado iniciativas para proteger a su comunidad, aunque este incidente destaca la complejidad del impacto que sus algoritmos pueden tener en la vida de los jóvenes.