Os Engenheiros do Caos: fake news, algoritmos e a política movida a indignação

Durante muito tempo, imaginamos que a internet tornaria o debate público melhor.

Mais informação.

Mais acesso.

Mais transparência.

Mais gente participando.

Em tese, parecia quase inevitável que sociedades mais conectadas se tornassem também sociedades mais informadas.

Os Engenheiros do Caos, de Giuliano da Empoli, é um ótimo antídoto contra essa ingenuidade.

O livro mostra como a mesma infraestrutura criada para aproximar pessoas, distribuir informação e facilitar a comunicação também se transformou em uma ferramenta extraordinariamente eficiente para explorar medo, ressentimento, teorias da conspiração e notícias falsas.

E talvez o ponto mais importante do livro seja este:

o caos não é simplesmente espontâneo. Muitas vezes, ele é organizado.

Quem são os engenheiros do caos?

Da Empoli acompanha personagens que perceberam antes de muitos políticos tradicionais que a lógica da política havia mudado.

Entre eles aparecem estrategistas, especialistas em marketing, cientistas de dados, consultores políticos e figuras ligadas a campanhas como Brexit, Donald Trump, Movimento 5 Estrelas, Viktor Orbán e outras experiências populistas contemporâneas.

Eles compreenderam uma coisa fundamental:

a internet não funciona como uma praça pública neutra.

Ela funciona por engajamento.

E engajamento significa atenção.

Pouco importa, para o algoritmo, se aquilo que prende sua atenção é verdadeiro, falso, útil, absurdo, inteligente ou ridículo.

O objetivo é mantê-lo ali.

Da Empoli resume esse mecanismo mostrando que os algoritmos das plataformas procuram oferecer ao usuário conteúdos capazes de fazê-lo permanecer mais tempo conectado — e os estrategistas políticos aprenderam a utilizar exatamente a mesma lógica.

Fake news funcionam porque emocionam

Uma notícia verdadeira precisa respeitar alguns inconvenientes.

Fatos.

Contexto.

Contradições.

Limitações.

A fake news não.

Ela pode ser desenhada sob medida para produzir uma emoção.

Medo.

Raiva.

Indignação.

Nojo.

Sensação de ameaça.

E essas emoções possuem uma enorme vantagem competitiva na internet:

fazem as pessoas reagirem.

O próprio livro mostra um exemplo revelador ligado às campanhas do Brexit. Conteúdos econômicos tradicionais conseguiam alguns milhares de interações; mensagens emocionais podiam chegar a centenas de milhares ou até milhões.

Então surge um incentivo perverso.

Se uma mensagem equilibrada gera pouca atenção e uma mensagem incendiária gera centenas de vezes mais reação, qual delas será produzida novamente?

O algoritmo não precisa ter ideologia.

Basta premiar aquilo que provoca mais resposta.

O algoritmo não criou a raiva

Essa distinção é importante.

Da Empoli não diz que a tecnologia inventou todos os ressentimentos que existem na sociedade.

Pelo contrário.

O livro reconhece que parte da insatisfação política possui causas reais: dificuldades econômicas, medo de perda de status, insegurança e sensação de abandono.

O que os chamados engenheiros do caos fazem é outra coisa.

Eles encontram essas emoções.

Amplificam.

Segmentam.

Direcionam.

E transformam a raiva em combustível político.

Em vez de tentar convencer todo mundo com a mesma mensagem, identificam grupos diferentes e descobrem qual medo funciona melhor para cada um deles.

Para um grupo, imigração.

Para outro, corrupção.

Para outro, religião.

Para outro, elites.

Para outro, globalização.

As mensagens nem sempre precisam formar um conjunto perfeitamente coerente.

Precisam funcionar.

Teorias da conspiração têm uma vantagem enorme

Há algo extremamente eficiente nas teorias da conspiração.

Elas transformam uma realidade complexa em uma história simples.

Se a economia piorou, alguém planejou.

Se determinado grupo perdeu espaço, alguém tomou.

Se uma eleição foi perdida, alguém manipulou.

Se uma instituição diz algo que contraria minha visão de mundo, ela faz parte do esquema.

A conspiração fornece uma coisa que a realidade raramente oferece:

um culpado perfeitamente identificável.

E existe uma vantagem adicional.

Uma teoria conspiratória pode tornar-se praticamente impossível de refutar.

Se alguém apresenta uma prova contra ela, essa pessoa pode imediatamente ser incorporada à própria conspiração.

O resultado é um sistema de crença que se protege sozinho.

Da Empoli mostra como notícias falsas e narrativas conspiratórias encontram terreno particularmente fértil nesse ambiente porque produzem exatamente aquilo que as plataformas valorizam: interação, conflito e permanência.

A política deixa de procurar o centro

Esse talvez seja um dos pontos mais interessantes do livro.

Durante muito tempo, campanhas eleitorais tentavam conquistar o eleitor moderado.

A estratégia era aproximar posições.

Buscar algum denominador comum.

Os engenheiros do caos perceberam que a internet permite fazer quase o contrário.

Em vez de reduzir as diferenças, você pode ativar várias indignações diferentes simultaneamente.

Um grupo recebe uma mensagem.

Outro recebe outra.

Cada um é estimulado por aquilo que mais o mobiliza.

Depois, todas essas pequenas revoltas podem ser somadas eleitoralmente.

Da Empoli descreve essa mudança como uma política que não busca necessariamente convergir para o centro, mas consegue reunir extremos diferentes através da mobilização emocional.

Cambridge Analytica e a promessa de conhecer cada eleitor

E aqui entra Cambridge Analytica.

A empresa tornou-se mundialmente conhecida após o escândalo envolvendo a utilização de dados de milhões de usuários do Facebook para construção de perfis e campanhas políticas altamente segmentadas.

Da Empoli menciona no livro o uso de técnicas psicométricas da Cambridge Analytica na campanha de Donald Trump, dentro de uma estrutura mais ampla de aproveitamento das ferramentas avançadas do Facebook.

A promessa dessa nova política é tentadora:

não falar com uma multidão.

Falar com cada pessoa individualmente.

O político tradicional sobe em um palanque e apresenta uma mensagem para milhares de pessoas.

A política baseada em dados tenta descobrir aquilo que incomoda você especificamente.

Depois entrega uma mensagem feita para você.

Seu vizinho pode receber outra.

Talvez contraditória.

E nenhum dos dois necessariamente saberá o que o outro recebeu.

Essa é uma mudança profunda.

Porque desaparece parte do espaço público compartilhado.

A mentira personalizada

Talvez esse seja um dos maiores problemas dessa nova forma de comunicação.

Uma mentira publicada em um jornal pode ser contestada publicamente.

Uma mentira exibida na televisão pode ser vista por adversários.

Mas uma mensagem enviada apenas para um grupo específico pode circular sem quase nenhuma fiscalização externa.

O microdirecionamento permite criar milhares de pequenas realidades políticas.

Cada grupo passa a receber informações que confirmam seus próprios medos.

E então algo estranho acontece.

As pessoas vivem na mesma cidade.

Votam na mesma eleição.

Mas começam a habitar versões diferentes da realidade.

O que os engenheiros do caos realmente descobriram?

Talvez a descoberta não tenha sido tecnológica.

Foi psicológica.

Eles perceberam que seres humanos não compartilham informação apenas porque ela é verdadeira.

Compartilhamos aquilo que nos provoca alguma coisa.

Aquilo que confirma uma suspeita.

Aquilo que nos diverte.

Aquilo que nos enfurece.

Aquilo que mostra que nosso grupo está certo e o outro está errado.

Os algoritmos apenas transformaram essa característica humana em uma máquina extremamente eficiente de distribuição.

E os estrategistas políticos aprenderam a alimentá-la.

O problema não são apenas as fake news

Esse foi, para mim, um dos pontos mais interessantes da leitura.

É confortável pensar que a solução seria simplesmente eliminar notícias falsas.

Checar os fatos.

Corrigir as informações.

Bloquear conteúdos claramente fraudulentos.

Tudo isso é importante.

Mas talvez não seja suficiente.

Porque a engrenagem que favorece a desinformação continua funcionando.

Enquanto indignação produzir mais engajamento do que ponderação, haverá um enorme incentivo para fabricar indignação.

Enquanto teorias da conspiração produzirem mais compartilhamentos do que explicações complexas, alguém continuará oferecendo conspirações.

A tecnologia não criou todas essas características humanas.

Mas aprendeu a monetizá-las e organizá-las em escala industrial.

Vale a pena ler Os Engenheiros do Caos?

Sim.

Principalmente porque é um livro relativamente curto e bastante acessível.

Não é um tratado sobre tecnologia nem uma análise acadêmica pesada sobre ciência política.

Da Empoli prefere contar histórias.

Mostra pessoas.

Estratégias.

Campanhas.

Bastidores.

E, aos poucos, começa a aparecer um padrão.

Políticos que parecem espontâneos possuem especialistas trabalhando nos bastidores.

Movimentos aparentemente caóticos utilizam dados.

Mensagens aparentemente improvisadas são testadas.

A indignação é medida.

A reação é analisada.

E o caos começa a parecer muito menos caótico.

Talvez essa seja a grande provocação do livro:

na política digital, quem parece melhor compreender a desordem pode ser justamente quem aprendeu a produzi-la.

Quer ler?

[Confira Os Engenheiros do Caos, de Giuliano da Empoli, na Amazon]

Este é um link de afiliado. Se você comprar o livro através dele, posso receber uma pequena comissão da Amazon, sem custo adicional para você.

Depois de ler o livro, talvez você continue discutindo nas redes sociais.

Mas pelo menos saberá que, em algum lugar, um algoritmo provavelmente está muito satisfeito com isso.