Gigantes das redes sociais como Meta e TikTok priorizaram a disputa por engajamento sobre a segurança dos usuários, permitindo o conteúdo nocivo em seus feeds. De acordo com denunciantes, essas empresas assumiram riscos em questões como violência, chantagem sexual e terrorismo.
Denúncias de segurança nos feeds
Os ex-funcionários disseram que as empresas receberam orientações para permitir mais conteúdo limítrofe, incluindo misoginia e teorias conspiratórias, nos feeds dos usuários. Além disso, funcionários do TikTok foram instruídos a priorizar casos envolvendo políticos em detrimento de denúncias de publicações nocivas envolvendo crianças.
Problemas nos algoritmos
Um engenheiro da Meta afirmou que recebeu orientação para permitir mais conteúdo nocivo nos feeds dos usuários para competir com o TikTok. Já funcionários do TikTok revelaram que a empresa não implementou proteções suficientes no seu serviço de vídeos curtos, Reels, desde o seu lançamento em 2020.
Consequências para os usuários
As decisões das empresas colocaram em risco a segurança dos usuários, que expõem-se a conteúdo nocivo e perigoso. A exposição a bullying, assédio, discurso de ódio e violência pode ter consequências graves para a saúde mental e física das pessoas.