CASSIS, Francia (AP) — En el momento en que su mundo se desmoronó hace tres años, Stephanie Mistre encontró a su hija de 15 años, Marie, sin vida en la habitación donde se suicidó.
“Pasé de la luz a la oscuridad en una fracción de segundo”, dijo Mistre, describiendo el día de septiembre de 2021 que marcó el inicio de su lucha contra TikTok, una aplicación de videos de propiedad china a la que culpa de haber empujado a su hija hacia la desesperación.
Al investigar el teléfono de su hija después de su muerte, Mistre descubrió videos que promovían métodos de suicidio, tutoriales y comentarios que alentaban a los usuarios a ir más allá de “simples intentos de suicidio”. Afirmó que el algoritmo de TikTok había promocionado repetidamente ese contenido a su hija. “Fue un lavado de cerebro”, dijo Mistre, quien vive en Cassis, cerca de Marsella, en el sur de Francia. “Normalizaron la depresión y la autolesión, convirtiéndola en un retorcido sentido de pertenencia”.
Ahora Mistre y otras seis familias han demandado a TikTok Francia, acusando a la plataforma de no moderar contenido dañino y exponer a los niños a material que amenaza la vida. De las siete familias, dos perdieron un hijo.
Cuando se le preguntó sobre la demanda, TikTok dijo que sus directrices prohíben cualquier promoción del suicidio y que tiene 40.000 profesionales de confianza y seguridad en todo el mundo —cientos de los cuales son moderadores francófonos— para eliminar publicaciones peligrosas. La compañía también dijo que recomienda servicios de salud mental a los usuarios que buscan videos relacionados con el suicidio.
Antes de suicidarse, Marie Le Tiec hizo varios videos para explicar su decisión, en los que mencionó varias dificultades en su vida y citó una canción del grupo de emo rap de Luisiana Suicideboys, que es popular en TikTok.
Su madre también afirma que su hija sufrió acoso y hostigamiento reiterado en la escuela y en línea. Además de la demanda contra la plataforma de videos, la madre de 51 años y su esposo han presentado una denuncia contra cinco compañeros de clase de Marie y su anterior escuela secundaria.
Sobre todo, Mistre culpa a TikTok, diciendo que poner la aplicación “en manos de una adolescente empática y sensible que no sabe distinguir lo real de lo que no lo es, es como una bomba a punto de estallar”.
Los científicos no han establecido un vínculo claro entre las redes sociales y los problemas de salud mental o el daño psicológico, dijo Grégoire Borst, profesor de psicología y neurociencia cognitiva en la Universidad Paris-Cité.
“Es muy difícil demostrar una causa y efecto claros en este campo”, dijo Borst, citando un destacado estudio revisado por pares que encontró que apenas el 0,4% de las diferencias en el bienestar de los adolescentes podría atribuirse al uso de redes sociales.
Además, Borst señaló que ningún estudio actual sugiere que TikTok sea más dañino que aplicaciones rivales como Snapchat, X, Facebook o Instagram. Si bien la mayoría de los adolescentes usan redes sociales sin daños significativos, los verdaderos riesgos, dijo Borst, radican en aquellos que ya enfrentan desafíos como el acoso o la inestabilidad familiar.
“Cuando los adolescentes ya se sienten mal consigo mismos y pasan tiempo expuestos a imágenes distorsionadas o comparaciones sociales dañinas”, puede empeorar su estado mental, dijo Borst.
La abogada Laure Boutron-Marmion, que representa a las siete familias que demandan a TikTok, dijo que su caso se basa en “pruebas extensas”. La compañía “ya no puede esconderse detrás de la afirmación de que no es su responsabilidad porque ellos no crean el contenido”, dijo Boutron-Marmion.
La demanda alega que el algoritmo de TikTok está diseñado para atrapar a usuarios vulnerables en ciclos de desesperación por lucro y pide indemnizaciones para las familias.
“Su estrategia es insidiosa”, dijo Mistre. “Atraen a los niños hacia contenido depresivo para mantenerlos en la plataforma, convirtiéndolos en productos lucrativos de interacción”.
Boutron-Marmion señaló que la versión china de TikTok, Douyin, presenta controles de contenido mucho más estrictos para los usuarios jóvenes. Incluye un “modo juvenil” obligatorio para usuarios menores de 14 años que restringe el tiempo de pantalla a 40 minutos al día y ofrece sólo contenido aprobado.
“Demuestra que pueden moderar el contenido cuando deciden hacerlo”, dijo Boutron-Marmion. “La ausencia de estas salvaguardas aquí es reveladora”.
Un informe titulado “Niños y pantallas” encargado en abril por el presidente francés, Emmanuel Macron, y al que contribuyó Borst concluyó que ciertas características algorítmicas deberían considerarse adictivas y prohibirse en cualquier aplicación en Francia. El informe también llamó a restringir el acceso a redes sociales para menores de 15 años en Francia. Ninguna medida ha sido adoptada.
TikTok, que enfrentó una amenaza de cierre en Estados Unidos hasta que el presidente Donald Trump dejó en suspenso una norma al respecto, también ha sido objeto de escrutinio a nivel mundial.
Estados Unidos ha visto procesos legales similares iniciados por padres. Una demanda en el condado de Los Ángeles acusa a Meta y sus plataformas Instagram y Facebook, así como a Snapchat y TikTok, de diseñar productos defectuosos que causan lesiones graves. La demanda enumera a tres adolescentes que murieron por suicidio. En otra queja, dos naciones tribales acusan a las principales compañías de redes sociales, incluido el propietario de YouTube, Alphabet, de contribuir a altas tasas de suicidio entre jóvenes indígenas.
El director general de Meta, Mark Zuckerberg, se disculpó con los padres que habían perdido hijos cuando declaró el año pasado ante el Senado de Estados Unidos.
Australia promulgó en diciembre una ley pionera que prohíbe las cuentas de redes sociales para menores de 16 años.
En Francia, Boutron-Marmion espera que TikTok Limited Technologies, la subsidiaria de la Unión Europea de ByteDance —la compañía china que posee TikTok— responda a las acusaciones en el primer trimestre de 2025. Las autoridades decidirán más adelante si y cuándo se llevará a cabo un juicio.
Cuando fue contactado por The Associated Press, TikTok dijo que no había sido notificado sobre la demanda francesa, que se presentó en noviembre. Podrían pasar meses hasta que el sistema de justicia francés procese la denuncia y las autoridades en Irlanda —donde tiene su sede europea TikTok— notifiquen formalmente a la compañía, dijo Boutron-Marmion.
Sin embargo, un portavoz de Tiktok destacó las directrices de la compañía que prohíben el contenido que promueve el suicidio o la autolesión.
Los críticos ven insuficientes las afirmaciones de TikTok sobre que tiene un sólido sistema de moderación.
Imran Ahmed, director general del Centro Contra el Odio Digital, rechazó las afirmaciones de TikTok de que más del 98,8% de los videos dañinos habían sido etiquetados y eliminados entre abril y junio.
Cuando se les pregunta sobre los puntos ciegos de sus esfuerzos de moderación, las plataformas de redes sociales afirman que los usuarios pueden eludir la detección usando un lenguaje ambiguo o alusiones que los algoritmos tienen problemas para identificar, dijo Ahmed.
Se ha creado el término “algospeak” para describir técnicas como utilizar emojis de cebra o armadillos para hablar sobre cortarse, o el emoji de la bandera suiza como una alusión al suicidio.
Esos códigos “no son particularmente sofisticados”, dijo Ahmed. “La única razón por la que TikTok no puede encontrarlos cuando investigadores independientes, periodistas y otros pueden es porque no están buscando lo suficiente”, dijo Ahmed.
La organización de Ahmed realizó un estudio en 2022 simulando la experiencia de una niña de 13 años en TikTok.
“En 2,5 minutos, las cuentas recibieron contenido de autolesión”, dijo Ahmed. “A los ocho minutos, vieron contenido de trastornos alimenticios. De media, cada 39 segundos, el algoritmo impulsaba material dañino”. El algoritmo “sabe que el contenido de trastornos alimenticios y autolesión es especialmente adictivo” para las niñas jóvenes.
Para Mistre, la lucha es profundamente personal. Sentada en la habitación de su hija, donde ha mantenido la decoración intacta durante los últimos tres años, dijo que los padres deben conocer los peligros de las redes sociales.
Si hubiera sabido sobre el contenido que se enviaba a su hija, nunca le habría permitido usar TikTok, dijo.
Su voz se quiebra al describir a Marie como una adolescente “alegre y divertida” que soñaba con ser abogada. “En memoria de Marie, lucharé mientras tenga fuerzas”, dijo. “Los padres necesitan conocer la verdad. Debemos confrontar a estas plataformas y exigir responsabilidad”.
___
Los periodistas de Associated Press Haleluya Hadero y Zen Soo contribuyeron a este despacho.
___
Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.