Três duras verdades sobre as redes sociais

As redes sociais têm levado uma surra ultimamente. O brilho das grandes empresas que dominam o setor se apagou e, com ele, de grande parte da internet. Facebook, Google e Twitter, entre outras, estão sujeitas a intenso escrutínio por conta das externalidades negativas criadas por seus serviços. Um foco de preocupação em diversos países tem sido o abuso dos canais das redes sociais como parte dos esforços para influenciar os resultados de importantes eventos políticos, incluindo o referendo do “Brexit” em junho de 2016 no Reino Unido e as eleições presidenciais norte-americanas no fim daquele mesmo ano. Em ambos os casos, como mostram estudos e relatórios das agências de inteligência, atores estatais e não estatais manipularam as redes sociais como ferramenta para suas “operações de informação”. O papel que as empresas de análise de redes sociais desempenharam nesses eventos foi especialmente pronunciado.

A situação apresenta um grande contraste entre a forma como as redes sociais se apresentam e como elas têm sido percebidas. Já foi parte da percepção dominante considerar que essas plataformas permitiriam um acesso mais amplo à informação, facilitariam a organização coletiva e empoderariam a sociedade civil. Mais recentemente, elas começam a ser vistas como algo que tem contribuído para algumas das mazelas sociais e comportamentais que o mundo enfrenta. Um número crescente de pessoas começa a crer que as redes sociais exercem influência excessiva em conversações políticas e sociais relevantes. Outros começam a se dar conta de que desperdiçam uma quantidade insalubre de tempo concentrados nas telas de seus aparelhos, “socializando” online enquanto, na realidade, afastam-se uns dos outros e do mundo real.

Como resultado desse crescente desconforto, há uma pressão para regular as redes sociais para que administrem melhor suas plataformas, com o objetivo de evitar abusos de vários tipos, e garantam a privacidade dos usuários. Um pré-requisito de qualquer tipo de regulação, entretanto, é chegar a um entendimento sobre qual é o problema.

Cada vez mais, pesquisadores e o público em geral estão chegando a um consenso sobre o que chamo de as “três duras verdades” a respeito das redes sociais:

1.
Que o modelo de negócio das redes sociais está baseado na vigilância profunda e incansável dos dados pessoais dos consumidores para direcionar publicidade;

2.
Que voluntária e conscientemente toleramos esse nível desconcertante de vigilância;

3.
Que as redes sociais não apenas não são incompatíveis com o autoritarismo como, na prática, estão se mostrando uma de suas ferramentas mais efetivas.

As observações acima não são completamente novas. Mas, quando somadas, pintam um quadro bastante sombrio da atual realidade social e política e pressagiam um futuro ainda mais sombrio. Por mais perturbadoras que possam ser as implicações sociais e políticas das patologias das redes sociais, só pode haver esperança de uma reforma significativa se as enfrentarmos de frente.

Redes sociais e capitalismo de vigilância

A vigilância é uma característica inerente à modernidade e, talvez, até à nossa natureza enquanto espécie. Observamos, fazemos previsões e tentamos moldar o mundo à nossa volta. Ao longo do tempo, as ferramentas à nossa disposição tornaram-se mais vastas e sofisticadas. Ao menos desde o Iluminismo, os humanos seguem uma trajetória motivada pela crença de que quanto mais informação, melhor. Mas é possível que esse instinto possa se tornar contraproducente, especialmente quando combinado com os poderes surpreendentes das tecnologias digitais?

É irônico lembrar da época não tão distante em que as pessoas tentavam compreender como poderiam obter lucro online. O boom das “pontocom” dos anos 1990 e a sua queda subsequente realçaram a “exuberância irracional” em torno das perspectivas da nova economia da informação. Rapidamente, no entanto, inovações vindas de empresas como Google, Facebook e outras não apenas forneceram um novo modelo de como obter receita a partir da conectividade à internet como também lideraram um modo radicalmente novo de produção que transformou o mundo.

Chamado de “economia da vigilância dos dados pessoais” ou “capitalismo de vigilância”, esse modo tem como cerne uma transação bastante simples: consumidores obtêm serviços (na grande maioria das vezes gratuitos) enquanto as empresas monitoram o comportamento dos usuários para personalizar os anúncios exibidos a eles.

As empresas que ganham milhões com essa fórmula naturalmente costumam descrever o que fazem em termos anódinos. O Facebook, por exemplo, refere-se a seus usuários não como “consumidores”, mas como uma “comunidade”. A Google diz que sua missão é “organizar toda a informação do mundo e torná-la universalmente acessível e útil”, o que faz com que pareça muito mais benigna e empoderadora do que de fato é: um sistema massivo de vigilância comportamental com fins comerciais.

Há uma lógica inexorável ao capitalismo de vigilância: coletar o máximo de dados do maior número de consumidores, a partir de fontes de informação cada vez mais detalhadas, distribuídas e sobrepostas. Dados que revelam hábitos, relações sociais, gostos, pensamentos, opiniões, emoções, consumo de energia, batimentos cardíacos e até mesmo padrões de sono e dos sonhos estão sendo correlacionados de maneira cada vez mais criativa, extensa e precisa. E então os computadores classificam, analisam e utilizam essa massa de informações para refinar e personalizar anúncios online. Há de fato uma batalha infinita por coleta de dados e controle.

Os pedidos de patente do Facebook oferecem um mapa de como a empresa “pensa os rumos da tecnologia”. Uma das patentes trata de examinar o conteúdo dos posts de usuários para classificar sua personalidade em termos de extroversão, abertura e estabilidade emocional. Outra patente analisa transações do cartão de crédito e outras fontes de informação para alertar os anunciantes quando alguém está prestes a viver um evento importante, como uma formatura ou o nascimento de uma criança. Ainda mais sinistras são as patentes relativas ao uso de pequenos arranhões na lente das câmeras para criar uma “impressão digital” única do usuário.

Por trás dessa linha de frente da economia da vigilância há inúmeras empresas do ramo de “análise de dados” que, trabalhando nos bastidores, alimentam-se das informações coletadas por grandes empresas, que podem então ser vendidas a anunciantes e a outras empresas. Integram esse ecossistema empresas que oferecem hardware, software, aplicativos, algoritmos etc. A maioria dos usuários quase nunca ouve falar desses arranjos entre empresas a não ser que seus dados sejam hackeados ou surja um escândalo, como o caso da Cambridge Analytica (2018).

As empresas que controlam as redes sociais ganham muito dinheiro em acordos comerciais com dezenas de serviços online, numa bonança pouco transparente em que os usuários dessas plataformas, de forma mais ou menos consciente, entregam uma vasta quantidade de dados pessoais para os mais diversos fins. De acordo com uma investigação do jornal New York Times, o Facebook possui acordos de compartilhamento de dados com, ao menos, 60 fabricantes de dispositivos — incluindo Apple, BlackBerry, Microsoft e Samsung. Um jornalista descobriu que, no momento da instalação de um aplicativo, o app poderia ter acesso não somente a todas as informações do novo usuário como também de centenas de seus amigos de Facebook e de cerca de 300 mil “amigos de amigos”.

É difícil superestimar a escala da transformação econômica desencadeada por esta economia da vigilância. Até mesmo empresas de setores tradicionais estão sendo transformadas em veículos para coleta de dados pessoais. Companhias aéreas, por exemplo, agora são mais do que apenas um meio de transporte. Também são empresas de coleta de dados e marketing ligadas a outras empresas de coleta de dados e marketing, como redes hoteleiras, companhias de táxi e agências de viagem. Programas de fidelidade oferecem maneiras de rastrear preferências, movimentações e hábitos de consumo de seus clientes. Ao baixar o aplicativo de uma companhia aérea para reservar voos, fazer check-in e emitir o cartão de embarque, o consumidor ganha em conforto e conveniência. E o que a companhia ganha? Como afirma a política de privacidade da Air Canada, ela obtém informações sobre seus clientes para permitir que a empresa “desenvolva e recomende produtos e serviços com base na compreensão de seus interesses e necessidades”.

Todas as aplicações de redes sociais (apps) possuem funções de alto e de baixo nível. Uma aplicação usada para exercitar seu cérebro pode parecer um mero jogo, mas, na verdade, também serve de meio para observar e coletar dados sobre você: seu dispositivo, suas outras aplicações, seus contatos, suas fotos, suas configurações, sua geolocalização, até mesmo sua câmera e seu microfone. Em 2014, a Pew Internet descobriu que apps podem pedir até 235 diferentes tipos de permissão dos usuários de smartphones com Android, sendo que o app típico pede cinco.

Consentimos (mas não conscientemente)

A segunda dura verdade é que, no mínimo, aceitamos esses termos de troca, quando não imaginamos que nos beneficiam. O conhecimento dos problemas e das consequências não intencionais das redes sociais está se espalhando, e plataformas específicas surgem e desaparecem, mas as redes sociais como um todo seguem populares e o sistema econômico subjacente baseado em vigilância está em constante expansão.

A disseminação das redes sociais cria fortes incentivos e desincentivos para que as pessoas continuem usando esses serviços. Adolescentes costumam afirmar que não podem deixar o Facebook porque ficariam socialmente isoladas. Empregando o que um autor chamou de “imperialismo da infraestrutura”, as organizações frequentemente oferecem redes sociais como a maneira mais fácil de acessar seus serviços, excluindo aquelas pessoas que optaram por não entrar ou abandonar as redes sociais, ao mesmo tempo em que moldam as escolhas daquelas pessoas que estão nelas.

Mas será que os usuários compreendem totalmente as escolhas que estão fazendo quando se cadastram em uma rede social? É comum baixar e instalar inúmeros aplicativos, cada um com um longo texto dos “termos de serviço” e um botão “aceitar” — não é possível avançar sem clicar no botão — sem termos, de fato, lido os termos, muito menos entendido suas implicações. Anos atrás, uma empresa de software incluiu uma oferta no valor de mil dólares no final de seus termos de serviço, para ver quantas pessoas continuariam lendo até o fim. Quatro meses e três mil downloads depois, apenas uma pessoa reivindicou a quantia ofertada. Considerando-se também os jargões jurídicos usados, a nuvem de desconhecimento sobre as obrigações contratuais torna-se ainda mais densa. Resumindo, a vasta maioria dos usuários concorda com os termos de uso sem tê-los compreendido.

Embora muitas pessoas reconheçam as limitações reais das nossas escolhas, um estudo global com estudantes que tentaram passar um dia sem acessar redes sociais evidenciou um mecanismo muito mais fundamental (e menos consciente). De acordo com esse estudo, “a maioria dos estudantes de todos os [dez] países não conseguiu passar 24 horas sem acessar nenhuma rede social, e todos usaram praticamente as mesmas palavras para descrever suas reações: inquieto, confuso, ansioso, irritável, inseguro, nervoso, impaciente, louco, viciado, apavorado, enciumado, furioso, solitário, dependente, deprimido, agitado e paranoico”. Em outras palavras, as redes sociais são mecanismos de vício.

As redes sociais nos estimulam de uma maneira poderosamente subconsciente e hormonal. Afetam o cérebro humano da mesma forma que uma nova paixão. Níveis de ocitocina — às vezes chamada de “o hormônio do amor” — chegam a aumentar 13% quando as pessoas usam as redes sociais por apenas dez minutos. As pessoas viciadas em redes sociais “apresentam sintomas similares àqueles de indivíduos que sofrem de dependência química ou outros comportamentos” — como síndrome de abstinência, recaída e alteração de humor. É correto descrever nosso desejo de acessar as redes sociais como consciente quando essa escolha possui as mesmas propriedades de um vício?

As empresas investem uma quantia extraordinária de recursos em pesquisas voltadas para intensificar os apelos emocionais e até mesmo os aspectos viciantes das redes sociais. Entendem que, para vencer a disputa pelo tempo e pela atenção das pessoas, cada vez mais escassos, é necessário produzir uma espécie de compulsão por parte do consumidor. Para estimular o engajamento contínuo, as redes sociais tomam emprestado métodos que remontam ao psicólogo B. F. Skinner (1904–90). Entre eles está o condicionamento operante, que trata de alterar o comportamento por meio de um sistema de punições e recompensas. O comportamento seguido por consequências agradáveis tende a ser repetido.

Um bom exemplo de condicionamento operante nas redes sociais é o que se conhece como “loop compulsivo”, observado em uma ampla gama de redes sociais e, em especial, em jogos online. Funciona por meio de um “reforço de intervalo variável”, no qual recompensas são dadas de maneira imprevisível. O reforço de intervalo variável é efetivo para moldar um aumento regular do comportamento desejado, aparentemente afetando as vias dopaminérgicas dentro do cérebro. Os designers de jogos usam o reforço de intervalo variável para estimular jogadores a jogar o jogo repetidas vezes.

Ao fazê-lo, os jogadores lentamente se viciam, e o jogo aprende mais e mais sobre seus interesses, movimentos e assim por diante. As plataformas de redes sociais percebem até mesmo quando o usuário se desinteressa e desenvolveram técnicas e ferramentas para trazê-lo de volta: bolinhas vermelhas sobre os ícones dos apps, notificações de banner, o som de um sininho, uma vibração.

Sean Parker, que foi o primeiro presidente do Facebook, deu recentemente declarações impressionantes sobre como a rede social empregou tais métodos para prender as pessoas à sua plataforma. Parker descreveu como recursos como o botão de “curtir” foram desenhados para dar aos usuários “uma pequena dose de dopamina”. Explicou: “é um loop de feedback de validação social […], exatamente o tipo de coisa que um hacker como eu inventaria, porque você está explorando uma vulnerabilidade na psicologia humana”. Como observou o antigo funcionário da Google Tristan Harris de maneira ameaçadora: “nossas escolhas não são tão livres como pensamos”.

Como é o caso em outros setores, onde o vício é um fator (tabaco, cassinos), usuários de redes sociais frequentemente possuem uma vaga noção das técnicas de alteração de comportamento que as pessoas no comando dessas empresas e seus consultores pagos estudam, desenvolvem e aplicam intensamente. Experimentos psicológicos com os consumidores são essenciais para refinar os produtos. Sem supervisão ética, esses experimentos às vezes dão errado.

O exemplo mais infame foi o experimento que o Facebook fez em janeiro de 2012 que manipulava as emoções de mais de 689 mil usuários ao deliberadamente manter ou excluir conteúdo positivo ou negativo de seus feeds de notícia. O experimento demonstrou que esse tipo de manipulação funcionava, e os usuários demonstraram sinais de “contágio emocional” — quanto menos positivo era o conteúdo que viam, menos positivas eram suas próprias postagens, ao passo que a redução da exposição a conteúdos negativos também reduzia os posts negativos que esses mesmos usuários publicavam. Quando o estudo que registrou e analisou esses resultados foi publicado em 2014, a comunidade acadêmica condenou veementemente a ausência de consentimento informado dos pesquisados antes de os pesquisadores conduzirem o experimento. Suas implicações preocupantes, no entanto, permaneceram: uma empresa de rede social encontrou uma maneira de “descobrir, e até mesmo desencadear, uma fraqueza dos usuários no nível individual”.

Nossa “consciência” parcial ao usar as redes sociais também advém da maneira pela qual os sistemas dos quais dependemos e que moldam nossas vidas vêm se tornando cada vez menos visível e fora do nosso rol de preocupações. A metáfora da “nuvem” usada para descrever as redes sociais revela esse clima de obscuridade. O que é “a nuvem”? São camadas sobre camadas de algoritmos escondidos em minúsculos microprocessadores, dispostos em sensores conectados em rede e que alimentam armazéns de processamento de dados localizados debaixo de montanhas ou em locais isolados cercados por arame farpado. Tudo isso é protegido por leis de propriedade intelectual e acordos de confidencialidade. Essa vasta infraestrutura tecnológica, física e jurídica exerce controle sobre nossas vidas enquanto as plataformas de redes sociais buscam manter seus produtos escondidos no pano de fundo da existência cotidiana — sempre ligados e usados constantemente, mas de maneira tão rotineira que às vezes nem percebemos e sobre os quais refletimos muito pouco.

As plataformas de redes sociais se aproveitam da confiança humana na atividade de compartilhar informações entre amigos para nos levar a compartilhar informações com anunciantes. O plano é lentamente nos tornar complacentes para que não notemos a intensa vigilância e o vasto maquinário por trás de tudo isso enquanto usamos esses serviços. Se a contínua popularidade das redes sociais serve de guia, o plano está funcionando.

As redes sociais guiam práticas autoritárias

A última e mais preocupante dura verdade sobre as redes sociais é que elas têm contribuído para impulsionar práticas autoritárias. As redes sociais não são apenas compatíveis com o autoritarismo: elas podem ser uma das principais razões pelas quais as práticas autoritárias atualmente se espalham rapidamente pelo mundo, semeando confusão, preconceito, ignorância e conflito. Uma prática autoritária particular pode ocorrer até mesmo em um regime não autoritário.

No coração dessa dura verdade está uma surpreendente inversão de uma suposição amplamente aceita até um passado mais ou menos recente de que as tecnologias digitais se mostrariam incompatíveis com o autoritarismo. Hoje está claro que essa sabedoria popular estava errada. Na verdade, as redes sociais estão guiando a ampliação e o fortalecimento de práticas autoritárias.

Consideremos os efeitos sobre o debate público do massivo volume de informação produzido nas redes sociais. Embora preocupações com o “excesso de informações” remontem à prensa de Johannes Gutenberg, estamos indiscutivelmente atingindo um ponto no qual a quantidade de dados está produzindo uma mudança qualitativa. O Twitter diz registrar cerca de seis mil novos tuítes por segundo, o que resulta em aproximadamente 200 bilhões de novos tuítes por ano. Diariamente, quase um bilhão e meio de pessoas entram no Facebook. A cada minuto, são feitas mais de 3,87 milhões de buscas no Google e sete novos artigos são incluídos na Wikipédia. E uma vasta proporção da humanidade carrega consigo dispositivos sempre ligados e conectados. A quantidade impressionante de informações produzidas desencadeou um tsunami constante de dados em tempo real.

O mundo das redes sociais facilita mais conteúdos extremistas, carregados emocionalmente e divisivos do que considerações calmas e fundamentadas sobre narrativas complexas. A perseguição racional e deliberada de consenso e a busca pela verdade estão perdendo terreno para a cacofonia de opiniões e a torrente de informações nas redes sociais. Diante do excesso a que são submetidos, os consumidores recorrem a atalhos cognitivos que tendem a aproximá-los de opiniões que se encaixem naquilo em que já acreditam. Ao mesmo tempo, o próprio algoritmo das redes sociais coloca os usuários em “bolhas” online nas quais se sentem confortáveis e ideologicamente alinhados.

Um tsunami informacional constante e em tempo real cria o ambiente perfeito para a disseminação de informações falsas, teorias da conspiração, rumores e “vazamentos”. Alegações e narrativas infundadas viralizam, e a apuração dos fatos não dá conta de acompanhá-las. Membros do público, incluindo pesquisadores e jornalistas investigativos, podem não ter a expertise, as ferramentas ou o tempo para verificar todas as alegações. Quando conseguem fazê-lo, as informações falsas podem já ter se embrenhado na consciência coletiva. Enquanto isso, novos escândalos ou acusações grotescas continuam a chegar aos usuários, misturando fato e ficção.

Pior ainda, estudos mostraram que tentativas de “suprimir rumores por meio de refutação direta podem facilitar sua difusão ao aumentar sua exposição”. Em outras palavras, tentativas de corrigir informações falsas podem, ironicamente, contribuir para o aumento de sua disseminação e até mesmo aceitação. O constante bombardeio de vazamentos, teorias da conspiração e outras informações falsas, por sua vez, alimenta o cinismo, na medida em que os cidadãos se cansam ao tentar discernir a verdade objetiva no meio da torrente de notícias verdadeiras, falsas ou algo no meio do caminho entre essas duas coisas.. Questionar a integridade de toda a mídia — um objetivo do autoritarismo — , por sua vez, pode levar a um tipo de fatalismo e paralisia política.

As ações (ou inações) das plataformas de redes sociais estão contribuindo para esse problema. As empresas não parecem dispostas nem capazes de eliminar informações falsas ou maliciosas. Apesar da enorme pressão pública e governamental após as eleições norte-americanas de 2016, um estudo de 2018 concluiu que “mais de 80% das contas de usuário que frequentemente disseminaram informações falsas durante a campanha eleitoral de 2016 ainda estão ativas, e continuam a publicar mais de um milhão de tuítes em um dia típico”.

Outro estudo estima que entre 9% e 15% dos “usuários” ativos do Twitter sejam, de fato, bots. Quando se revelou, em julho de 2018, que o serviço de microblogging estava deletando cerca de um milhão de contas falsas por dia, o preço de suas ações caiu vertiginosamente — um sinal das razões comerciais para não se ir muito a fundo em sua própria plataforma para se livrar de usuários falsos. Em setembro de 2018, a COO do Facebook Sheryl Sandberg revelou diante de uma comissão do Senado dos EUA que, de outubro de 2017 a março de 2018, sua empresa havia deletado 1,3 bilhão de contas falsas.

Atores mal-intencionados estão agora usando grupos de WhatsApp, bem como imagens e vídeos adulterados chamados de deep fakes, para disseminar informações falsas de maneira viral. Essas técnicas são muito mais difíceis de se combater nas plataformas de redes sociais do que os métodos anteriores, e quase certamente se tornaram uma prática corrente para difamar e chantagear campanhas na arena política.

Apesar dos esforços de faxina interna, as redes sociais seguirão sendo um alvo fácil de explorar com o propósito de disseminar informações falsas enquanto o aumento do número de usuários for o coração do negócio. Em meados de 2018, a equipe de segurança da Google não foi capaz de impedir que pesquisadores fingindo ser trolls russos comprassem anúncios políticos em sua plataforma. Os pesquisadores pagaram em moeda russa e se registraram usando um CEP russo. Usaram pistas ligando seus anúncios à Internet Research Agency, a mesma fazenda de trolls alvo de intensa investigação pelo Congresso dos EUA e pelo procurador especial Robert Mueller. É improvável que um sistema cuja receita se baseia em anúncios peque pelo excesso de cautela ao tentar distinguir os atores legítimos dos mal-intencionados.

Bem distante de quaisquer medidas que as redes sociais possam ou não tomar para limpar suas plataformas está um problema mais fundamental, com poucas chances de ser enfrentado enquanto o modelo de negócio dessas empresas for atrair e manter a atenção dos usuários a qualquer custo. Do modo como se configura hoje, o sistema de publicidade baseado em algoritmos no coração da economia de vigilância faz emergir e impulsiona conteúdos extremistas, imprecisos e radicais — independentemente do que atores mal-intencionados façam para promovê-lo.

Os sistemas de publicidade online, observou o jornal Washington Post, “regularmente posicionam anúncios ao lado de conteúdos politicamente extremos — e dólares nos bolsos daqueles que produzem manchetes polarizadoras e politicamente carregadas”. Uma das maiores preocupações é o conteúdo que não viola as políticas das plataformas sobre discurso de ódio ou promoção da violência, mas, ainda assim, usam gatilhos emocionalmente carregados ou sensacionalistas para promover teorias conspiratórias, informações falsas ou propaganda política. Esse tipo de conteúdo pode ser o mais traiçoeiro, já que é muito mais difícil de ser percebido pelos mecanismos de controle das empresas, mas, ainda assim, atraem o maior número de leitores ou visualizações. Para dar apenas um exemplo, um estudo alemão recentemente concluiu que, quando comparadas com municipalidades similares, aquelas onde o uso do Facebook é maior tendem a ter uma incidência maior de violência contra refugiados.

Não é surpresa, portanto, que pessoas com inclinações autoritárias estejam se aproveitando ativamente do ambiente propício oferecido pelas redes sociais. Pesquisa recente do Oxford Internet Institute descobriu que 48 países possuem ao menos uma agência governamental ou partido político utilizando as redes sociais para moldar a opinião pública. Líderes com propensões autoritárias frequentemente censuram as “fake news” ao mesmo tempo em que propagam descaradamente informações claramente falsas. Jacob Weisberg elenca alguma das consequências:

Em Myanmar, o ódio difundido no Facebook Messenger levou a uma limpeza étnica dos rohingyas. Na Índia, falsos rumores de rapto de uma criança no serviço WhatsApp do Facebook incitou o linchamento de vítimas inocentes. Nas Filipinas, na Turquia e em outras democracias em retrocesso, gangues de “trolls patriotas” usam o Facebook para disseminar informações falsas e aterrorizar os oponentes. E, nos Estados Unidos, as ferramentas de anúncio da plataforma seguem sendo veículos de propaganda política clandestina.

Em 2017, o cientista político Thomas Rid escreveu que o Twitter, a mais aberta e pouco administrada entre as plataformas de rede social, “tornou-se uma ameaça à democracia liberal”. O Twitter não exige o nome real no cadastro, e não há limite para o número de contas que podem ser criadas. Os usuários podem facilmente apagar contas e seu conteúdo e o serviço é altamente automatizado — circunstâncias que tornaram a plataforma ainda mais fácil de explorar negativamente. Criar bots no Twitter é simples. E bots não dormem nem perdem o foco. Podem sequestrar conversas e distorcer o discurso em direções irracionais. É de se espantar que o Twitter tenha se tornado a ferramenta preferida para operações de influência com viés autoritário?

Uma ferramenta para pessoas autoritárias

O autoritarismo prospera fazendo uso de outra característica das redes sociais: sua inerente insegurança. Ativistas, dissidentes e jornalistas dependem das redes sociais como todas as outras pessoas. As plataformas que explicitamente encorajam a confiança mútua, a intimidade e o compartilhamento abriram uma avenida propícia para os autoritários se infiltrarem e romperem essas redes vistas como uma ameaça a seus interesses. As táticas variam, indo desde campanhas baratas, mas efetivas, de phishing e engenharia social até o uso de spywaressofisticados e comercialmente disponíveis que infectam os dispositivos da pessoa-alvo (há um amplo e desregulado mercado para produtos tipo spyware).

A sociedade civil não dispõe do conhecimento ou da capacidade necessária para se proteger desses ataques. Embora as redes sociais tenham tomado medidas louváveis para proteger seus usuários, o intensivo compartilhamento de dados inerente ao modelo de negócios das redes sociais limita a efetividade de tais medidas. Graças às redes sociais, os autocratas são atualmente capazes de ultrapassar as fronteiras e infiltrar-se sorrateiramente nas contas, documentos e comunicações de dissidentes, secretamente ouvindo e observando tudo o que fazem, frequentemente com consequências perigosas.

Essa é outra peça da sabedoria popular que agora se provou completamente equivocada: muitos pensavam que as redes sociais empoderariam a sociedade civil transnacional, mas agora parece que as redes sociais podem estar contribuindo para o progressivo enfraquecimento da sociedade civil.

Por fim, a própria vigilância pormenorizada feita pelas redes sociais por razões econômicas está se provando uma proxy irresistível para o controle autoritário. Por que um governo se importaria em construir seu próprio aparato de vigilância quando o setor privado já oferece um? Como as revelações de Edward Snowden em 2013 sobre a Agência de Segurança Nacional dos EUA (NSA) mostraram, as informações que as redes sociais compartilham com os órgãos de segurança e de inteligência são atualmente essenciais para o sucesso de suas atividades. E, embora as democracias liberais do Ocidente possam regular tal compartilhamento público-privado com certas salvaguardas legais, ainda que imperfeitas, regimes autoritários constituem um ambiente completamente diferente — e uma oportunidade de negócios cada vez mais lucrativa.

A República Popular da China oferece um exemplo assustador ao trabalhar com conglomerados de redes sociais como Alibaba e Tencent para construir um sistema de crédito social que parece tirado das páginas do livro “1984”, de George Orwell, ao classificar as reputações de cidadãos e empresas com base em suas compras, movimentações e comunicações públicas, utilizando esse ranking para restringir acesso a empregos, viagens e crédito. Empresas que operam no país precisam se adequar à lei de cibersegurança chinesa, aprovada em 2016, que exige que elas policiem suas redes, censurem discretamente chats privados e postagens públicas e compartilhem os dados dos usuários sempre que forem demandados pelas autoridades chinesas.

Empresas ocidentais como Apple, Facebook e Google costumavam proclamar em voz alta que se preocupavam em proteger os direitos de seus usuários. Agora deram uma guinada de 180 graus para obterem acesso ao gigante mercado chinês. Vazamentos recentes mostraram que a Google reviu sua política de 2010, quando deixou a China por questões de princípio, e está desenvolvendo um mecanismo de busca customizado para a China chamado Projeto Dragonfly. Esse mecanismo de busca censuraria resultados e identificaria usuários para que agências de segurança também soubessem quem está buscando o quê.

No início de 2018, a Apple também fez concessões similares para entrar no mercado chinês. A empresa agora usa uma instalação controlada pelo governo na província de Guizhou para hospedar as contas de iCloud de cidadãos chineses. Enquanto isso, o fundador e CEO do Facebook, Mark Zuckerberg, mal é capaz de conter seu entusiasmo em relação às oportunidades de negócios com a China. O que aparenta ser um modelo bem-sucedido de gestão de redes sociais não ficará limitado à China. Autocracias do mundo todo estão se mostrando receptivas a empresas chinesas e às normas e práticas autoritárias trazidas por elas. Longe de ajudar a por um fim na autocracia, as redes sociais estão se mostrando um fiel aliado.

Serão as redes sociais capazes de se desintoxicar?

Essas duras verdades resultam em um quadro desanimador e uma previsão preocupante para o futuro das práticas liberais-democráticas. Parece inegável hoje que as redes sociais precisam assumir parte da culpa pela ascensão do neofascismo, pelas políticas tribais e pela disseminação da ignorância e preconceito que testemunhamos nos últimos anos. A vigilância dos dados pessoais se coaduna com práticas autoritárias e ambas se enredaram em oportunidades comerciais aparentemente infindáveis que prometem grandes lucros, mas também ameaçam minar a accountability, semear a divisão, disseminar a ignorância e garantir o controle autocrático.

Uma vez que se compreenda isso, torna-se claro que pequenos ajustes às redes sociais — seja por meio de políticas corporativas voluntárias ou uma série de regulamentações — terão efeitos desprezíveis. Pode haver intenções genuinamente boas por trás das promessas dos executivos das redes sociais de se esforçarem mais para proteger a privacidade ou policiar suas redes, mas os imperativos de negócio que guiam essas plataformas tornam a eficácia de tais promessas altamente questionável.

Como controlar as grandes empresas multinacionais para prevenir as externalidades negativas de seus serviços sem eliminar o modelo de negócios no qual esses serviços se baseiam? É desalentador imaginar o escopo e a escala das mudanças que podem ser necessárias para mitigar as consequências aqui listadas. Em um curto período de tempo, as tecnologias digitais tornaram-se difundidas e profundamente arraigadas em tudo o que fazemos em nosso dia a dia. Desemaranhar tudo isso não é nem possível nem desejável. Precisamos de meios abertos e seguros de nos comunicarmos globalmente para gerir nosso planeta e nossas vidas. Mas precisamos também reconhecer que o atual desenho, baseado na vigilância e na exploração dos dados pessoais, trabalha contra esses objetivos.

Para restaurar a democracia liberal, precisaremos de uma mudança completa em nossos modos de vida. Isso obviamente não será fácil, nem acontecerá da noite para o dia. Haverá enormes forças sociais, econômicas e políticas jogando contra. É necessária, portanto, uma estratégia abrangente de reforma de longo prazo, contemplando do pessoal ao político, do local ao global. Precisamos aprender a tratar nosso ambiente informacional da mesma maneira que esperamos tratar nosso ambiente natural — como algo que precisamos proteger com uma postura de cautela e moderação. Se é inteligente racionar energia, economizar o consumo de dados também pode ser altamente recomendável. Ao mesmo tempo, precisamos desenvolver sistemas de ensino público que ensinem os jovens não apenas a ler e analisar o que consomem, mas sobretudo a desenvolver relações pessoais e coletivas baseadas na ética, na civilidade e na tolerância.

Nas arenas política e jurídica, os cidadãos precisam conquistar o direito de saber o que as empresas e os governos estão fazendo com a enorme quantidade de dados pessoais que estão sendo coletados ininterruptamente. Também será crucial estender esse direito internacionalmente, responsabilizando regimes autocráticos. Empresas precisam ser impedidas de vender produtos e serviços que facilitem a violação de direitos humanos e prejudiquem a sociedade civil. Ao mesmo tempo, precisamos sujeitar as redes sociais a um controle estrito por agências independentes que possuam real capacidade de torná-las responsáveis por seus atos. Os legisladores deveriam adotar leis antitrustes fortes para regular as empresas de redes sociais, e as autoridades responsáveis precisam cumprir e exigir o cumprimento dessas leis rigorosamente. Esse setor é bastante concentrado, dominado por apenas algumas poucas e grandes empresas com enorme poder. Isso também precisa mudar.

Por fim, o mundo está clamando por inovações tecnológicas que ampliem os meios de comunicação distribuídos para além das plataformas altamente centralizadas, intensamente vigiadas e facilmente instrumentalizadas pelos gigantes das redes sociais. O objetivo deveria ser preservar os grandes progressos que fizemos para conectar as pessoas umas às outras, permitindo-as acessar vastos depósitos de informações rapidamente de qualquer lugar do planeta, mas sem fazê-las ceder a seus instintos mais básicos. As tarefas são enormes, mas precisamos evitar uma resignação fatalista ao mundo tóxico da vigilância dos dados pessoais. Precisamos imaginar um mundo melhor e fazê-lo acontecer, antes que seja tarde demais.

Ronald J. Deibert, professor de ciência política da Universidade de Toronto, onde dirige o Citizen Lab da Munk School of Global Affairs and Public Policy. Entre suas obras está o livro “Black Code: Surveillance, Privacy, and the Dark Side of the Internet” [Código negro: vigilância, privacidade e o lado sombrio da internet] (2013).
Compartilhe seu amor
Alan Ribeiro
Alan Ribeiro

Alan inicia seus trabalhos com o único objetivo, trazer a todos informação de qualidade, com opinião de pessoas da mais alta competência em suas áreas de atuação.

Artigos: 14363