Acompanhar grupos de ódio on-line revela por que eles são resistentes a proibições

39

Redes sociais têm lutado para descobrir como lidar com questões como ameaças de violência e a presença de grupos de ódio em suas plataformas. Mas um novo estudo sugere que as tentativas de limitar a última enfrentam um problema sério: as redes formadas por membros do grupo de ódio são notavelmente resilientes e migram de rede para rede, mantendo e às vezes expandindo suas conexões no processo. O estudo oferece algumas sugestões sobre como limitar o impacto desses grupos, mas muitas das sugestões exigirão a intervenção de seres humanos reais, em vez dos algoritmos que a maioria das redes sociais prefere.

Encontrando as "estradas do ódio"

O trabalho, feito por pesquisadores das Universidades George Washington e Miami, enfocou redes de grupos racistas, centrados no KKK dos EUA. Para fazer isso, os pesquisadores acompanharam a presença de grupos racistas em duas grandes redes sociais: o Facebook e uma rede baseada na Rússia chamada VKontakte. Os pesquisadores criaram um sistema automatizado que identifica grupos de interesse que compartilham links entre si. Ele mapearia essas conexões de forma iterativa, continuando até que o processo simplesmente re-identificasse grupos previamente conhecidos. O sistema rastreava links para outros sites sociais, como o Instagram, mas não faz iteração nesses sites.

Os autores confirmaram que isso funcionou realizando uma análise semelhante manualmente. Satisfeito, a equipe seguiu as mudanças diárias por um longo período de 2018. Com isso, eles identificaram mais de 768 nós formados por membros do movimento da supremacia branca. Outros nós foram identificados, mas estes tendem a ser coisas como pornografia ou materiais ilícitos, então eles foram ignorados para este estudo.

Os grupos identificados dessa maneira variavam consideravelmente de tamanho, com algumas redes mostrando uma distribuição de lei de potência em tamanho. Os autores dizem que isso indica que os clusters eram auto-organizados, uma vez que seria difícil projetar esse padrão.

As redes também eram geograficamente diversas. Embora o VKontakte seja usado principalmente na Rússia e na Europa Oriental, os supremacistas brancos dos EUA acabaram usando o serviço também, e havia vários links e subgrupos entre plataformas com presença em ambas as redes. As redes no Facebook vão dos EUA para a Europa Ocidental, mas também têm postos avançados na África do Sul e nas Filipinas. Isso levou a alguns links bizarros entre culturas: "clusters neo-nazistas com membros extraídos do Reino Unido, Canadá, Estados Unidos, Austrália e Nova Zelândia apresentam material sobre futebol inglês, Brexit e imagens skinheads, ao mesmo tempo em que promovem gêneros da música negra". "

Estabilidade infeliz

O período que os autores acompanharam incluiu alguns eventos importantes que alteraram as redes de supremacia branca. O mais proeminente entre estes é o Facebook proibindo o KKK. Isso levou a uma migração por atacado de grupos norte-americanos da KKK para a VKontakte; em muitos casos, estes eram simplesmente espelhos dos sites que os grupos criaram no Facebook. Mas as coisas se complicaram no VKontakte, assim como a Ucrânia decidiu proibir toda a rede naquele país.

Nesse ponto, alguns dos grupos originais do Facebook entraram sorrateiramente na nova plataforma, mas o fizeram com algumas novas habilidades. Na esperança de evitar os algoritmos do Facebook, os grupos KKK reformados muitas vezes escondiam sua identidade usando caracteres cirílicos.

Outro evento notável que reformulou as redes foi o tiroteio na escola de Parkland, após o qual foi descoberto que o atirador tinha interesse na KKK e seus símbolos. Na sequência do tiroteio, muitos dos pequenos grupos de apoiantes da KKK começaram a formar ligações com grupos de ódio maiores e mais estabelecidos. "Essa resposta evolutiva adaptativa ajuda o organismo ideológico descentralizado da KKK a se proteger, reunindo apoiadores previamente desconexos", argumentam os autores. Eles também observam que um crescimento similar no agrupamento ocorreu entre os apoiadores do ISIS na sequência da notícia de que seu líder havia sido ferido em combate.

Um plano possível?

Dado o comportamento visto aqui e no estudo anterior dos grupos ISIS, os autores construíram um modelo de formação de conexões entre grupos de ódio. Eles usaram isso para testar algumas políticas diferentes para ver como poderiam reduzir as redes robustas formadas on-line. O resultado é uma série de sugestões para qualquer plataforma que resolva levar a sério os grupos de ódio que usam seu serviço.

Para começar, eles argumentam que a primeira coisa a fazer é se concentrar em proibir os pequenos grupos de membros do grupo de ódio que se formam. Isso é mais fácil, pois há muito mais deles, e são esses clusters individuais que ajudam a fornecer a resiliência que dilui o impacto das proibições em larga escala. Em associação a isso, a plataforma deve banir aleatoriamente alguns dos membros desses grupos. Isso prejudica a resiliência dos grupos de ódio e, como o número total de proibições é relativamente pequeno e distribuído aleatoriamente, reduz a chance de qualquer reação adversa.

Sua última sugestão é que as plataformas encorajam grupos que estão se opondo ativamente aos grupos de ódio. Parte da razão pela qual as pessoas formam esses grupos insulares é porque suas opiniões não são bem-vindas na sociedade em geral; grupos em redes sociais permitem que eles expressem opiniões impopulares sem medo de oposição ou sanção. Aumentando o número e a proeminência de grupos que se opõem a eles, uma plataforma pode reduzir o nível de conforto daqueles propensos à supremacia branca e outras formas de ódio.

Natureza2019. DOI: 10.1038 / s41586-019-1494-7 (Sobre o DOIs).

Fonte: Ars Technica