Director de Investigação e Políticas Públicas da Derechos Digitales. Licenciado em Direito pela Universidade do Chile e tem um LL.M. (Master of Laws) pela Universidade da Califórnia, Berkeley.

As redes sociais e os novos antros do extremismo político

A promessa da Internet como espaço onde a tecnologia permitiria o florescimento da democracia é, na melhor das hipóteses, uma promessa quebrada. O entusiasmo que acompanhou o crescimento explosivo da Internet na viragem do século foi temperado pelo pânico sobre a disseminação de conteúdos nocivos e ilegais, desinformação, propaganda extremista e operações de influência.

Ensaio
6 Setembro 2021

Apesar de a internet ter permitido que atos isolados de terrorismo e de extremismo violento se tenham tornado virais, um novo nível de preocupação partilhada foi atingido quando o capital simbólico do mundo livre se viu invadido por manifestantes de extrema-direita. Uma "insurreição" no Capitólio dos Estados Unidos (como foi exageradamente chamada), organizada, promovida e transmitida em fóruns de discussão e plataformas de extrema-direita, foi para muitos a expressão final da radicalização online e a manifestação da inação das plataformas digitais para refrear o "discurso do ódio".

Qual seria o próximo alvo? Quem seriam os responsáveis por uma multidão mal informada e/ou radicalizada e, por sua vez, pelas vítimas das suas ações? O que poderia então acontecer em contextos menos "livres", de Mianmar ao México?

Claro que o debate público, sobretudo aquele com maior impacto na elaboração de políticas públicas, pode muitas vezes ignorar grande parte da real complexidade do problema. Estudos confirmam que as plataformas da Internet são, efetivamente, instrumentos potenciadores de radicalização devido, em parte, à criação das mais bem-sucedidas aplicações e dos respectivos algoritmos de recomendação.

Facebook e YouTube detêm o poder sobre grandes partes do mundo, tendo bases de utilizadores muito superiores a populações de países ou continentes.

Para além da capacidade de atraírem pessoas de lugares distantes com interesses semelhantes, as plataformas mais populares passaram a sugerir conteúdos recomendados através de algoritmos que tentam recriar padrões que levam a um maior "envolvimento" dos seus utilizadores. Vídeos inflamatórios e ideias extremistas são, precisamente, parte desse tipo de conteúdo. Histórias que se alimentam de certas narrativas, num ciclo de indignação e suspeita, obtêm mais visualizações e reações do que qualquer desconstrução ou retração das mesmas histórias.

O reconhecimento desta capacidade de desinformação e radicalização levou a um aumento dos apelos da sociedade civil à transparência algorítmica, exigindo o entendimento sobre o funcionamento destes mecanismos (estes apelos podem ser encontrados, por exemplo, nos Princípios de Santa Clara, um documento-guia sobre transparência e responsabilização na moderação de conteúdos que foi lançado por um grupo de organizações, activistas e académicos).

As recomendações de conteúdos surgem com base em processos opacos de recolha e de análise de dados, uma caixa negra demasiado valiosa para ser aberta sem correr o risco de desistir da receita secreta para o sucesso. Por outras palavras, o modelo de negócio baseia-se num processamento de dados difícil de escrutinar.

Algumas das empresas privadas donas destas plataformas detêm o poder sobre grandes partes do mundo, tendo bases de utilizadores muito superiores a populações de países ou continentes. Segundo o site Statista.com, no primeiro trimestre de 2021 o número de utilizadores do Facebook aumentou para 2,85 mil milhões e o do YouTube para 2,3 mil milhões. Por sua vez, o Twitter e o Reddit registavam, cada um, mais de 300 milhões de utilizadores mensais. Além disso, as plataformas mais recentes criadas por grupos desencantados de extrema-direita incluem a Parler, que superou os dez milhões de utilizadores.

Neste contexto, torna-se ainda mais difícil salvaguardar o importante papel destas plataformas enquanto palco de grande parte dos debates públicos e, ao mesmo tempo, exigir-lhes tomadas de decisão face às ações e às manifestações dos seus utilizadores. Como é que decidem? O que acontece quando essas decisões provocam outros danos?

Também é preciso notar que a radicalização, embora facilitada pelas plataformas online, é uma questão com raízes muito mais profundas. Debater as possibilidades que as plataformas abrem e o conteúdo questionável que oferecem é, em muitos sentidos, debater os sintomas de problemáticas sociais mais amplas.

Por outras palavras, estamos a assistir a manifestações de outros problemas: uma economia cada vez mais global, juntamente com crescentes assimetrias de poder, ondas de imigração, relocalização dos centros de poder industrial e consolidação do domínio tecnológico, financeiro e industrial restritos a poucos locais. Como demonstrado na literatura económica recente, a desigualdade global estava a aumentar mesmo antes de a pandemia materializar o risco de indigência para partes significativas da população.

A crescente sensação de impotência face a estes fenómenos pode levar ao apoio de figuras e de narrativas que se enquadram no que identificamos como pensamento extremista. A democracia não parece validar-se quando as condições de vida não estão a melhorar para a maioria das pessoas, especialmente nos países menos desenvolvidos. As sementes do fascismo espalham-se num solo capaz de ser bastante fértil. Tal como acontece com muitos outros processos sociais, a tecnologia pode estar presente apenas para facilitar algo que já estava a acontecer, revelando também as fendas das democracias mais frágeis e mais jovens.

As soluções a longo prazo devem visar a diminuição da procura de conteúdos extremistas através de medidas económicas de combate à desigualdade, da educação cívica e da sensibilização para os perigos do extremismo.

O que resta, então, para a maioria do mundo? Com pouco poder para influenciar as dinâmicas globais, mas sob a influência dos poderes de certos países e de um punhado de grandes empresas (como tem acontecido durante séculos), algumas das piores tendências mundiais são replicadas em vez de contidas. Um candidato de extrema-direita ganhou as eleições presidenciais no Brasil para deixar, literal e figurativamente, um legado de destruição numa das maiores economias emergentes, ao mesmo tempo que vai espalhando mais ódio e desinformação online.

Em meados de julho deste ano, a segunda volta das eleições presidenciais no Peru declarou o vencedor após semanas de reivindicações infundadas de fraude eleitoral por parte do seu adversário (seguindo o exemplo recente dos EUA), e depois de um aumento da violência online e offline por parte dos “Los Combatientes”, uma fação de extrema-direita dos seus eleitores. Onde estava então a indignação do mundo dito desenvolvido?

Tal como salientado frequentemente pela sociedade civil, é claro que estas questões complexas têm de ser abordadas à luz do quadro internacional dos Direitos Humanos. A necessidade de impedir a amplificação de certos conteúdos, protegendo ao mesmo tempo as liberdades de opinião, de expressão e de associação, e ao mesmo tempo preservando a Internet livre, global e interoperável, é um equilíbrio difícil de alcançar. Não limitar os direitos, mas reforçá-los enquanto se promove a democracia e a pluralidade, é tanto um desafio hoje como o foi durante o século XX.

Talvez tenhamos de pensar em diferentes soluções para os enigmas legais e digitais globais, ao mesmo tempo que tomamos medidas para resolver os problemas sociais, culturais e políticos a nível local. A curto prazo, os conteúdos radicalizantes devem ser abordados não só em plataformas online, mas também através da investigação das suas fontes. As soluções a longo prazo devem visar a diminuição da procura destes conteúdos, por exemplo, através de medidas económicas de combate à desigualdade, através da educação cívica e através da sensibilização para os perigos do extremismo. Poderá ser necessário um forte ativismo para impulsionar as agendas políticas no sentido de abordar estas questões com seriedade.

A busca pelo equilíbrio poderá não terminar tão cedo, mas temos de continuar a procurar. Nunca foi tempo de queimar livros por uma questão de ortodoxia política. Não será agora o momento de queimarmos os nossos smartphones. Pelo menos não por causa dos fascistas.

Tradução de Marta Gamito.

Parceria MIL Magazine/Setenta e Quatro.