Pinterest hospeda imagens sexuais de meninas jovens, memes anti-vax apesar dos esforços de moderação

Pinterest hospeda imagens sexuais de meninas jovens, memes anti-vax apesar dos esforços de moderação

Pinterest hospeda imagens sexuais de meninas jovens, memes anti-vax apesar dos esforços de moderação. A supervisão da moderação é resultado de ocultar em vez de excluir conteúdo ilícito.

Pinterest hospeda imagens sexuais de meninas jovens, memes anti-vax apesar dos esforços de moderação

Pinterest, um site mais conhecido por painéis de inspiração, também hospeda fotos sexualizadas de meninas jovens, teorias da conspiração e propaganda de supremacia branca, revelou uma investigação do OneZero .

No passado, a plataforma de mídia social era elogiada por seus esforços proativos de moderação, mas o OneZero encontrou inúmeras instâncias de conteúdo prejudicial que não apenas escapavam aos filtros de abuso do Pinterest, mas eram ativamente recomendadas por seu algoritmo de busca. Essas descobertas ressaltam o risco da abordagem de moderação do site, que “oculta” material perigoso em vez de removê-lo da plataforma.Essas descobertas ressaltam o risco da abordagem de moderação do site, que “oculta” material perigoso em vez de removê-lo da plataforma.

“Queremos que o Pinterest seja um lugar de inspiração e isso significa que precisamos ser deliberados sobre a criação de um espaço seguro e positivo para nossos usuários”, disse um porta-voz do Pinterest ao OneZero . “Se as pessoas encontrarem conteúdo que não deveria estar no Pinterest, nós as incentivamos a denunciá-lo. Contamos com os relatórios dos usuários para aprimorar nossos padrões, além de usar ferramentas proativas para encontrar e remover conteúdo. Além disso, procuramos aconselhamento de especialistas externos sobre como podemos melhorar nossas políticas e aplicação. ”

Durante anos, o Pinterest tentou se distanciar de outras plataformas insistindo que não é uma rede social , mas um “’catálogo escolhido a dedo’ para os usuários”, segundo o CEO Ben Silbermann . Quando o Facebook e o Twitter optaram por combater a desinformação removendo milhões de postagens e contas prejudiciais, o Pinterest escolheu outra rota, lançando uma proibição de pesquisa de “conteúdo poluído” em 2018, que começou com termos anti-vacinação, cura do câncer e outras informações erradas sobre a saúde.

Em vez de eliminar completamente esse tipo de conteúdo, o mecanismo de pesquisa do Pinterest bloqueia os resultados de palavras-chave que provavelmente produzirão informações erradas, de acordo com o Wall Street Journal . Esses esforços foram ampliados no ano passado, quando o Pinterest começou a veicular fatos de saúde verificados em resposta a pesquisas relacionadas a vacinas, em um movimento que ecoou a abordagem do Facebook e do Twitter , informou o The Guardian e baniu centenas de URLs e grupos relacionados à conspiração de vacinas. teorias. Da mesma forma, restringiu o conteúdo de “casamento nas plantações” no ano passado, depois que os defensores dos direitos civis pediram à empresa que parasse de glorificar a herança da escravidão, de acordo com um relatório do BuzzFeed News .

Agora, uma pesquisa no Pinterest por “vacina” retorna um aviso sobre trotes médicos e coloca dezenas de pinos vinculados a informações úteis da Organização Mundial da Saúde e dos Centros para Controle de Doenças. Os usuários que procuram idéias para “casamento na plantação” podem encontrar um aviso de que “as pessoas denunciaram Pins nesta pesquisa”, para desencorajá-los a se envolverem impensadamente com o material. Como o OneZero relatou em outubro passado, o Pinterest também desenvolveu um algoritmo de recomendação para melhorar sua experiência na página inicial.

Essas decisões resultaram em considerável boa vontade da empresa. Embora o Pinterest tenha sido notícia recentemente por supostas observações discriminatórias, retaliatórias e racistas dos gerentes da empresa, até agora evitou o escrutínio no nível do Facebook. Em vez disso, a empresa recebeu cobertura positiva por seus esforços de moderação e curadoria de empresas como OneZero , The Guardian e outras publicações de tecnologia.

“Desde que o acerto de contas nas redes sociais começou em 2016, surgiu um gênero popular de conteúdo que eu gosto de chamar de Hey, esses resultados de pesquisa são ruins”, escreveu The Verge no ano passado . “Claramente, certos assuntos … levam a mais histórias sobre maus resultados de pesquisa do que outros. Por isso, fiquei muito feliz ao ver que o Pinterest havia notado esse fenômeno – e dado um passo surpreendentemente ousado para se proteger. ”

A abordagem de moderação do Pinterest, no entanto, não é infalível. O OneZero encontrou vários pinos em violação clara e potencialmente prejudicial às diretrizes da comunidade do Pinterest . Na quinta-feira, Caroline Orr, repórter do National Observer , também twittou imagens de produtos BDSM ao lado de alfinetes de móveis infantis. Embora às vezes oculto para os usuários do Pinterest, esse material geralmente era facilmente descoberto em outros lugares on-line.

Algum conteúdo problemático é veiculado organicamente para os usuários do Pinterest por meio de recomendações baseadas no comportamento de navegação. Mas grande parte desse conteúdo pode ser localizada por meio de pesquisas realizadas durante o logoff da plataforma e em mecanismos de pesquisa como o Google.

“Bloqueamos os resultados inteiramente se acreditarmos que eles são mais propensos a serem inseguros, causar danos significativos ou representar um perigo iminente”, disse o porta-voz do Pinterest. “Esse bloqueio ocorre no nível da consulta de pesquisa e não resulta na remoção do conteúdo subjacente, pois nem todos os resultados podem violar nossas políticas”.

O Pinterest não permite pesquisas em sua página inicial até que um usuário faça login. Mas essa restrição pode ser contornada navegando para uma página de usuário existente, como a própria conta do Pinterest , que contém uma barra de pesquisa. A pesquisa do Google oferece outra solução alternativa, uma vez que está vinculada a um grande arquivo de conteúdo do Pinterest. Seqüências de pesquisa booleanas (combinações de palavras-chave que produzem resultados de pesquisa específicos na web) podem revelar uma série de conteúdos que, de outra forma, poderiam ser capturados nos filtros de palavras-chave do Pinterest. Embora as pessoas não possam navegar no Pinterest dessa maneira, essas brechas expõem o risco potencial da decisão do Pinterest de mascarar, em vez de excluir, conteúdo prejudicial.

O Pinterest disse ao OneZero que as pesquisas desconectadas “devem apresentar o mesmo bloqueio e redirecionamento para recursos oficiais que as pesquisas efetuadas “. Uma pesquisa desconectada de “coronavírus” direciona os usuários a recursos médicos examinados, por exemplo. A empresa disse que também trabalha com mecanismos de busca para agilizar a remoção de conteúdo que foi removido do Pinterest, mas esclareceu que algum material nocivo pode cair nas rachaduras.

“Enquanto trabalhamos duro para identificar e tomar medidas sobre esse conteúdo para que não seja detectável, algumas vezes, algum conteúdo violador aparece nos resultados dos mecanismos de pesquisa, mesmo nos casos em que solicitamos que seja removido”, acrescentou o porta-voz do Pinterest.

Usando esses métodos de pesquisa, o OneZero descobriu imagens sexualizadas de meninas hospedadas na plataforma, algumas parecendo crianças. “A sexualização ou exploração sexual de menores de idade, como aparência, comentários sexuais ou imagens inapropriadas” é proibida pelas diretrizes do Pinterest. O OneZero não confirmou a idade dos indivíduos nessas fotos, que foram postadas com um nome de código conhecido para pornografia infantil. Independentemente disso, o OneZero reportou as imagens ao Pinterest e ao Centro Nacional para Crianças Desaparecidas e Exploradas.

O OneZero encontrou vários pinos em violação clara e potencialmente prejudicial às diretrizes da comunidade do Pinterest.

O Departamento de Justiça observa que a terminologia genérica é freqüentemente usada para ocultar pornografia infantil e “prolongar [sua] existência” on-line. Em 2013, a Força-Tarefa de Internet contra Crimes contra Crianças de Utah – parte de uma rede nacional de agências que trabalham para impedir a exploração infantil online – começou a investigar 12 casos de pessoas postando pornografia infantil nos painéis do Pinterest depois que a empresa relatou o material ao National Center for Missing and Filhos Explorados. Em maio de 2013, na última vez em que essas investigações foram publicadas, as acusações estavam pendentes e a Força-Tarefa de Crimes contra a Criança na Internet não respondeu imediatamente às perguntas do OneZero sobre seu status atual.

Além disso, o OneZero encontrou pinos que promovem várias informações errôneas médicas – afirmam que as vitaminas podem prevenir o câncer, que o 5G causa o coronavírus e propaganda para o movimento anti-vacinação da ” liberdade médica “. Isso inclui links para blogs de saúde pessoal , um vídeo do YouTube alegando falsamente que Bill Gates é responsável pelo coronavírus, mercadoria anti-vacinação e placas inteiras do Pinterest dedicadas ao mito de que as vacinas causam autismo, apesar do fato de a empresa ter se esforçado bastante. postura em linha contra desinformação médica.

No início deste ano, o Pinterest lançou resultados de pesquisa personalizadospara combater boatos sobre o coronavírus, e a plataforma diz que não permite que os usuários salve (e, assim, amplifique) certos conselhos de saúde. Embora essas restrições possam impedir os usuários de ver determinado material na plataforma do Pinterest, a empresa ainda está hospedando esse material, o que significa que ele pode ser encontrado por meio de uma pesquisa no Google. A pesquisa de “5G” e “coronavírus” no Google Images no Pinterest revela um dilúvio de imagens e links para vídeos do YouTube que propagam esse mito em particular.

Depois que o OneZero visualizou um quadro contendo pinos anti-negros e pró-Ku Klux Klan, nossa página inicial publicou um link para um artigo que glorificava a bandeira confederada e os pinos das imagens da bandeira confederada.

O OneZero também encontrou vídeos do YouTube , transmissões do Soundcloud e mercadorias no Pinterest, promovendo a ideologia QAnon. Ao contrário do Facebook, que removeu as páginas afiliadas à QAnon por “comportamento inautêntico direcionado”, esse tipo de conteúdo está prontamente disponível no Pinterest. Embora a empresa pareça ter bloqueado o acrônimo “WWG1WGA” (referindo-se ao slogan QAnon : “Onde vamos um, vamos todos”), ela não bloqueou a alternativa “WWG1WGALL”, que a barra de pesquisa do Pinterest se completa automaticamente quando o login é efetuado. O Pinterest também hospeda livros e imagens relacionadas ao Tempel ov Blood, um grupo associado à Ordem dos Nove Ângulos, um grupo neonazista e satânico.ligada a ameaças de violência extremista.

Em suas diretrizes, o Pinterest proíbe “Suporte a grupos de ódio e pessoas que promovam atividades odiosas, preconceitos e teorias da conspiração”. No entanto, uma quantidade significativa de supremacia branca e conteúdo de extrema direita foi compartilhada na plataforma. Isso varia de comentaristas racistas a imagens anti-negras e islamofóbicas e memes anti-asiáticos da ” gripe kung “. Por exemplo, existem inúmeros pinos vinculados a vídeos de Stefan Molyneux, um podcaster canadense que costuma adotar “ciência da raça” e outras ideologias supremacistas brancas. Molyneux foi recentemente banido pelo YouTube e Soundcloud por discurso de ódio e foi suspenso pelo Twitter por manipulação de spam e plataforma.

O algoritmo de recomendação do Pinterest também parece elevar o conteúdo racista. Depois que o OneZero visualizou um quadro contendo pinos anti-Black e pró-Ku Klux Klan (enquanto estava conectado a uma conta), nossa página inicial exibia um link para um artigo que glorificava a bandeira Confederada e os pinos das imagens da bandeira Confederada . Como o OneZero relatou anteriormente, o algoritmo do Pinterest permite que os usuários controlem o que aparece em sua página inicial “ desativando”Quadros, históricos e tópicos que influenciam esses feeds personalizados. Para usuários avançados, essa é uma etapa útil, mas usuários casuais podem ser menos inclinados a personalizar sua experiência, e há outras maneiras pelas quais o Pinterest coloca conteúdo nocivo na ponta dos dedos.

“De um modo geral, limitamos a distribuição ou remoção de conteúdo e conteúdo odiosos e contas que promovam atividades odiosas, conteúdo falso ou enganoso que pode prejudicar os usuários do Pinterest ou o bem-estar, segurança ou confiança do público e conteúdo e contas que incentivam, elogiam , promova ou ofereça ajuda a atores ou grupos perigosos e suas atividades ”, disse o porta-voz do Pinterest sobre as diretrizes da empresa. No entanto, o Pinterest não possui políticas específicas sobre conteúdo hiperpartidário, que podem ou não se enquadrar nas regras mencionadas acima.

Mike Caulfield, especialista em alfabetização digital da Washington State University Vancouver, documentou conteúdo problemático no Pinterest ao longo dos anos. Em 2018, ele mostrou como uma busca por cozinhar “o ovo perfeito” levou a alfinetes sobre as teorias da conspiração marginal dentro de 14 minutos após a navegação. Caulfield teorizou que isso se devia à maneira como o Pinterest usa painéis para construir um modelo de seus vários interesses. De fato, os usuários criaram esse sistema compartilhando conteúdo benigno com coisas mais extremas, ou como o Daily Beast relatou em 2018, receitas de panqueca ao lado dos memes do QAnon. Quando o OneZero visualizou um alfinete vinculado a um vídeo sobre o 5G e o coronavírus, o Pinterest recomendou conteúdo relacionado, incluindo “listas de assassinatos secretos do estado”, “linhagens satânicas de elite” e guerra biológica.

O recurso de preenchimento automático do Pinterest também direciona os usuários logados para o conteúdo problemático. Digitar “vírus chinês” é completado automaticamente com “memes” e “piadas”. Enquanto isso, uma entrada para “AOC” sugere “memes estúpidos”. O Pinterest está ciente desses efeitos. Durante a eleição presidencial de 2016, foi acusado de proliferar desinformação originada em outras plataformas, como Facebook e Twitter. Foi novamente acusado de hospedar memes polarizadores e hiperpartidários durante as eleições federais do Canadá em 2019. O Laboratório de Pesquisa Forense Digital do Atlantic Council, que estuda desinformação on-line, revelou que”Ao clicar em apenas um meme hiperpartidário e muitas vezes hostil, a plataforma recomendaria outros memes politicamente intensos”. Clicar em um único meme anti-Justin Trudeau levou a uma rede muito maior de teorias da conspiração de extrema-direita.

A próxima eleição presidencial será um teste de estresse para os algoritmos do Pinterest. Mesmo agora, uma busca por “fraude eleitoral” apresenta conteúdo que apóia esmagadoramente afirmações falsas sobre cédulas por correio.

“O conteúdo político não é um caso de uso popular no Pinterest, e não queremos nos tornar o local preferido para notícias e debates políticos”, disse o porta-voz do Pinterest. A plataforma não permite anúncios de campanhas políticas e diz que está trabalhando para lidar com o “comportamento antagônico”. No início deste ano, o Pinterest também atualizou sua política para proibir informações erradas sobre votação e o censo, informou o Washington Post .

No passado, o Pinterest consultou conselhos de empresas como a Storyful, uma empresa de inteligência de mídia social, que ajudou a informar sua decisão de bloquear determinadas pesquisas relacionadas ao câncer. Como o OneZero relatou anteriormente, o Pinterest também agradeceu a experiência de pesquisadores como Caulfield, cujas descobertas levaram a medidas adicionais em torno do combate à desinformação da vacinação.

Will Oremus contribuiu com reportagem para esta história.

Tem uma dica sobre o Pinterest? Você pode entrar em contato com Sarah Emerson com segurança no Signal no +1 510 473 8820, ou enviar um e-mail para o e-mail: [email protected].

Fonte: https://onezero.medium.com/pinterest-hosts-sexual-images-of-young-girls-anti-vax-memes-despite-moderation-efforts-52d8a1007e1e

Deixe uma resposta