Preocupación por la moderación de contenido de TikTok
“Los niños son el recurso más valioso del mundo y su mejor esperanza para el futuro”. -John F. Kennedy
Me preocupa profundamente la constante problemática a la que se enfrenta TikTok en lo que respecta a sus prácticas de moderación de contenido, especialmente en lo que respecta a la protección de nuestra población más vulnerable: los niños.
Una demanda interpuesta contra la red social TikTok por trece estados y Washington D.C. alega que la plataforma no hace lo suficiente para proteger a los usuarios jóvenes de los peligros de las redes sociales.
La dependencia de la plataforma de la tecnología de moderación automatizada y los moderadores humanos, si bien es esencial, ha demostrado ser insuficiente para proteger a los usuarios jóvenes del contenido dañino. Según NBC News, TikTok solo elimina alrededor de 461 TP3T de contenido violento/gráfico y 391 TP3T de acoso e intimidación. TikTok no eliminó alrededor de 351 TP3T de publicaciones sobre "normalización de la pedofilia", 331 TP3T de "solicitud sexual a menores" y 1001 TP3T de "fetichización de menores". Las deficiencias en la moderación de contenido de TikTok generan serias preocupaciones sobre la capacidad de la plataforma para proporcionar un entorno seguro para los niños.
La demanda judicial hizo hincapié en la necesidad urgente de implementar medidas efectivas de moderación de contenido. Resulta alarmante constatar que el contenido dañino sigue pasando desapercibido. Esta situación no solo pone en riesgo a los niños, sino que también socava la confianza que padres y tutores depositan en las plataformas de redes sociales. El Centro de Salud Mental de Passaic considera que la protección de la infancia debe ser una prioridad absoluta e insta a TikTok a invertir más recursos y esfuerzos en la mejora de sus sistemas de moderación de contenido.
Además de las soluciones técnicas, es fundamental que TikTok colabore con expertos en salud mental, como psicoterapeutas y psiquiatras titulados, para desarrollar estrategias integrales que aborden los desafíos únicos de la moderación de contenido. Al colaborar con profesionales del sector, TikTok podrá comprender mejor el impacto psicológico del contenido dañino en los usuarios jóvenes e implementar medidas que vayan más allá de simples correcciones técnicas. Este enfoque colaborativo garantizará que las prácticas de moderación de contenido de TikTok se basen en las últimas investigaciones y mejores prácticas en seguridad infantil y salud mental.
Como organización sin fines de lucro dedicada a la salud mental, el Centro de Salud Mental de Passaic mantiene su compromiso de velar por la seguridad y el bienestar de los niños en la era digital. Hacemos un llamado a las plataformas de redes sociales para que tomen medidas inmediatas y decisivas para proteger a los jóvenes usuarios del contenido dañino. Nuestros niños merecen un entorno en línea seguro donde puedan explorar, aprender y conectarse sin temor a la explotación o al daño. Juntos, podemos crear un mundo digital que priorice la salud mental y la seguridad de nuestros niños.
Cristóbal Alcázar Es el Director Ejecutivo del Centro de Salud Mental de Passaic. Es trabajador social clínico titulado.