Um novo estudo divulgado recentemente sugere que a plataforma social Instagram, pertencente ao conglomerado Meta, tem exibido conteúdo adulto e inapropriado para seu público mais jovem. Essa exposição ocorre através do algoritmo da plataforma que parece estar direcionando conteúdo sensível para usuários adolescentes e pré-adolescentes.
O relatório foi o resultado de um experimento conduzido pelo Wall Street Journal, que criou contas fictícias que seguiram principalmente jovens influenciadores, ginastas e líderes de torcida. Foram observados sinais alarmantes de exposição indesejada a conteúdo adulto, incluindo vídeos sexuais e imagens consideradas obscenas.
Como foi o experimento?
O objetivo do experimento residia em compreender como o algoritmo do Instagram operava e quais tipos de anúncios o sistema recomendaria para tais perfis. Constatou-se que havia um notável interesse dessas contas falsas em conteúdo relacionado à sexualidade, incluindo imagens de crianças, algo particularmente perturbador.
Quais foram as descobertas?
A série de vídeos recomendados pelo algoritmo eram extremamente variados, incluindo desde um anúncio do aplicativo de namoro Bumble até uma série de vídeos com teor sexual relevante. Além disso, anúncios de massagem, chatbots construídos para propósitos sexuais e até mesmo um comercial da Pizza Hut ao lado de um conteúdo perturbador compuseram o leque dos anúncios direcionados a essas contas de teste.
O que o Meta tem a dizer sobre isso?
Em resposta a essas descobertas impactantes, um porta-voz do Meta informou ao Wall Street Journal que os “testes produziram uma experiência fabricada que não representa o que bilhões de usuários veem”. Especificadamente, a Meta se recusou a oferecer explicações sobre por que os algoritmos compilaram tais sequências de vídeos mostrando crianças, sexo e anúncios.
Por outro lado, algumas empresas de publicidade como Disney e Bumble afirmaram já ter tomado medidas para resolver o problema com o Meta. Enquanto isso, outras como Walmart e Pizza Hut se recusaram a comentar sobre o assunto.
Qual é o impacto dessas descobertas na saúde mental dos adolescentes?
Essa exposição à mídia social e ao seu conteúdo dúbio tem afetado significativamente a saúde mental dos adolescentes, com cerca de 200 distritos escolares nos EUA acusando as gigantes das redes sociais de contribuírem para essa crise. Além disso, estudos recentes indicam que há uma ligação direta entre a satisfação negativa com a vida em adolescentes e o uso exagerado das redes sociais.
O que pode ser feito para resolver este problema?
As descobertas são alarmantes e levantam questões sobre a responsabilidade das empresas de mídia social em proteger seus usuários mais jovens. A necessidade de ações urgentes e de medidas preventivas para assegurar uma experiência online segura e adequada para os adolescentes é primordial. As empresas devem ser responsabilizadas e é pertinente que se faça um amplo questionamento sobre as práticas atuais das plataformas para que tais situações não ocorram no futuro.
