A era do capitalismo de vigilância
Título original: The Age of Surveillance Capitalism
Shoshana Zuboff, professora de Harvard, defende que as grandes empresas de tecnologia criaram um novo tipo de capitalismo, que reúne enormes quantidades de dados pessoais, os transforma em previsões do nosso comportamento e as vende, ameaçando a privacidade, a autonomia e a democracia.
Apresentação
A era do capitalismo de vigilância, cujo subtítulo é The Fight for a Human Future at the New Frontier of Power, foi publicado em 2019 por Shoshana Zuboff, uma estudiosa que já havia escrito sobre os efeitos dos computadores no trabalho. O livro é longo e desenvolve uma teoria a que ela deu o nome de capitalismo de vigilância (surveillance capitalism). Ele acompanha como essa lógica econômica surgiu no Google no começo dos anos 2000, se espalhou para o Facebook e outras empresas e depois para muitos setores. O livro tem um capítulo de introdução, três partes e uma conclusão, dezoito capítulos no total: a Parte I trata dos fundamentos, com o Google como pioneiro, a Parte II do avanço da nova lógica para o mundo em geral e a Parte III do tipo de poder que ela produz. Zuboff usa termos novos para descrevê-la e faz comparações históricas, por exemplo com a Ford e a General Motors e com o totalitarismo do século XX, para explicar por que se trata de uma nova forma de poder, que, segundo ela, merece ser combatida.
Resumo completo
1. O excedente comportamental
A ideia: Zuboff explica que, nos seus primeiros anos, o Google usava os dados deixados pelas pessoas nas buscas apenas para melhorar o seu serviço. Depois que a bolha das empresas ponto-com estourou, em 2000, os investidores pressionaram a jovem empresa a ganhar dinheiro, e os fundadores se voltaram para a publicidade. O Google passou a usar os dados que sobravam, a que ela chama de excedente comportamental (behavioral surplus), para direcionar anúncios e prever em quais as pessoas clicariam. Ela vê 2002 como o ano em que isso se firmou. Os dados deixaram de ser um subproduto e se tornaram a principal matéria-prima. Os usuários, diz ela, não são nem clientes nem o produto, mas a fonte da matéria-prima, e os anunciantes passaram a ser os clientes que compram os resultados.
Na vida real: Um aplicativo gratuito que ganha dinheiro com os seus dados não está vendendo um produto para você, mas vendendo informações sobre você a outras pessoas.
2. Produtos de previsão e mercados de futuros comportamentais
A ideia: Os dados são processados por inteligência de máquina e viram produtos de previsão, que antecipam o que uma pessoa fará agora, em breve ou mais tarde. Eles são vendidos no que ela chama de mercados de futuros comportamentais (behavioral futures markets), no início sobretudo a anunciantes e depois a qualquer empresa que queira saber ou influenciar o que as pessoas vão fazer. Quanto mais dados uma empresa reúne, melhores são as suas previsões, e por isso existe um impulso por mais e mais informações sobre mais e mais aspectos da vida.
Na vida real: Uma empresa que conhece os seus hábitos pode adivinhar quando você provavelmente vai comprar alguma coisa.
3. Da previsão à influência
A ideia: Zuboff diz que, para tornar as previsões mais certeiras, as empresas buscam não só saber, mas moldar o comportamento, empurrando, ajustando e conduzindo as pessoas rumo a resultados que atendam aos seus objetivos comerciais. Ela descreve dois experimentos do Facebook, um que incentivava o voto nas eleições americanas de 2010 e outro que mudava o tom emocional do que os usuários viam nos seus feeds de notícias, e o jogo para celular Pokémon Go, em que empresas pagavam para ser “locais patrocinados” que atraem os jogadores. Esse poder, diz ela, é em grande parte invisível para as pessoas que ele atinge.
Na vida real: Um feed projetado para manter você rolando a tela molda o que você faz, sem anunciar isso.
4. A ascensão do poder instrumentário
A ideia: A autora cunha o termo instrumentarismo (instrumentarianism) para uma forma de poder que conhece e molda o comportamento humano em direção aos fins de outros, diferente do poder totalitário, que usa a violência e busca controlar a alma. Ela chama de Grande Outro (Big Other) o aparato digital em rede por meio do qual esse poder funciona. Ele está embutido em aparelhos do cotidiano, em objetos e em serviços on-line. Ela traça a origem desse modo de ver as coisas até as ideias do psicólogo B. F. Skinner, que tratava as pessoas como organismos cujo comportamento pode ser observado e moldado, e descreve esse poder como o oposto exato do Grande Irmão (Big Brother) do romance 1984, de Orwell, porque ele não se importa com o que as pessoas pensam ou sentem, mas apenas com o que fazem.
Na vida real: Um aparelho que aprende os seus hábitos também pode ser usado para influenciar o que você compra.
5. A perda de direitos e de autonomia
A ideia: Zuboff argumenta que o capitalismo de vigilância reivindica a experiência humana como matéria-prima gratuita, sem pedir permissão. Na Parte II, ela diz que os seus métodos ocultos de influência desafiam o que chama de direito ao tempo futuro (right to the future tense), a capacidade de imaginar, pretender, prometer e construir um futuro próprio sem ser conduzido por forças que não conseguimos ver. Na Parte III, diz que um mundo em que o Grande Outro chega até dentro de casa e à vida social, sem saída, ameaça o direito ao santuário (right to sanctuary), um espaço de refúgio. Ela afirma que as leis existentes, centradas na privacidade e na concorrência, não bastaram para deter essa lógica, que os usuários têm poucas maneiras reais de sair ou de reclamar e que são necessários novos tipos de resposta.
Na vida real: Clicar em “concordo” num documento longo não significa que você entende o que está entregando.
6. Resistência e a luta por um futuro humano
A ideia: Nos capítulos finais e na conclusão, ela pede uma ação democrática. Diz que são necessárias leis que rejeitem a legitimidade do capitalismo de vigilância e interrompam as suas operações básicas, como tomar a experiência humana como matéria-prima e negociar futuros comportamentais, e que novas formas de ação coletiva e novas instituições democráticas serão necessárias para tornar essas leis reais. Ela alerta que o que está em jogo inclui o controle sobre as nossas próprias vidas, a democracia e um futuro humano. Diz que as pessoas precisam se recusar a aceitar que isso é inevitável e ser “o atrito” contra ele, e insiste que o futuro digital deve servir à humanidade.
Na vida real: Regras como as leis de proteção de dados são uma maneira de impor limites às empresas.
Por que importa
A era do capitalismo de vigilância se tornou um livro muito discutido e deu aos leitores um vocabulário para descrever um padrão da economia digital. Influenciou debates sobre privacidade, regulamentação e o poder das grandes empresas de tecnologia, foi muito elogiado e foi incluído entre os melhores livros de não ficção de 2019 pela revista New Yorker e entre os livros favoritos do ano de Barack Obama. A expressão “capitalismo de vigilância” se tornou comum no debate público. O livro faz parte de uma onda de obras que questionam a cultura da coleta de dados. A sua afirmação de que a coleta de dados não é apenas uma questão técnica, mas de poder e de direitos, levou as pessoas a pensar na troca que fazem quando usam serviços digitais gratuitos.
Principais ideias
- Os seus dados viraram matéria-prima. As empresas lucram com informações sobre o comportamento.
- A previsão é o produto. Outros pagam para antecipar e influenciar o que você faz.
- A influência pode ser oculta. O design pode orientar escolhas sem que você perceba.
- O consentimento muitas vezes é frágil. Os usuários têm poucas alternativas reais.
- Limites democráticos são possíveis. Leis e pressão pública podem moldar o mundo digital.
O que podemos aprender
Você pode começar olhando as configurações de privacidade dos aplicativos que usa e perguntando o que eles coletam e por quê. Limite as permissões que concede e considere alternativas que coletem menos. Repare em como os feeds e as notificações são projetados para prender a sua atenção. Converse com a família e os amigos sobre quais dados eles compartilham. Apoie regras que protejam a privacidade e deem controle às pessoas. E lembre que a tecnologia não é neutra e que as escolhas sobre design e sobre leis pertencem ao público.
Críticas e outros pontos de vista
Alguns críticos dizem que Zuboff exagera o poder da previsão e da manipulação do comportamento e que as pessoas conservam muita autonomia. Outros argumentam que o novo vocabulário dela e o contraste com o totalitarismo são exagerados, e um resenhista diz que ela minimiza como a vigilância pode servir a governos autoritários, como na China. Alguns apontam que ferramentas baseadas em dados, como os monitores de saúde, também podem dar aos usuários mais controle sobre a própria vida. Um comentarista do blog da London School of Economics temeu que o livro pudesse inspirar paralisia em vez de ação. O livro também é muito longo, com mais de 500 páginas de texto principal antes das notas. Ainda assim, muitos o consideram uma contribuição importante.
Quem deve ler
Este livro é para quem se interessa por tecnologia, privacidade, economia e política e está disposto a ler uma obra longa e exigente. Quem prefere uma introdução mais curta pode começar com artigos ou livros menores sobre dados e privacidade e depois ler trechos deste.
Este resumo foi traduzido do inglês com a ajuda de IA.
Quer ler o livro inteiro?
Um resumo é um aperitivo, não a refeição. Veja onde encontrar o livro completo.
Você chegou ao fim 🎉
Muito bem. Marque este livro como lido e vamos sugerir o que ler em seguida.
Para ler em seguida
Nexus
Yuval Noah Harari
Yuval Noah Harari traça a história de como os seres humanos compartilharam informação, das histórias e da escrita à imprensa e aos algoritmos, e alerta que a inteligência artificial é um novo tipo de rede que pode remodelar o poder e até ameaçar a democracia.
🏛️ HistóriaA manipulação do público
Edward S. Herman and Noam Chomsky
Edward Herman e Noam Chomsky defendem que a grande mídia dos Estados Unidos, embora livre do controle do governo, serve de maneira sistemática aos interesses das elites poderosas, por meio de um “modelo de propaganda” (propaganda model) com cinco filtros que moldam quais notícias são divulgadas e de que modo.
⚖️ Política e sociedadeAs Origens do Totalitarismo
Hannah Arendt
Hannah Arendt examina como o antissemitismo, o imperialismo e o colapso da sociedade na Europa prepararam o terreno para os regimes totalitários da Alemanha nazista e da União Soviética de Stálin, e o que tornou esses regimes algo novo e singularmente terrível.
🏛️ HistóriaFoco Roubado
Johann Hari
Johann Hari defende que a nossa capacidade coletiva de prestar atenção está sendo corroída não apenas por fraqueza pessoal, mas por doze forças da vida moderna, entre elas tecnologias feitas para nos prender, e que precisamos mudar tanto os nossos hábitos quanto os sistemas ao nosso redor.
🧩 Mente e psicologia21 Lições para o Século 21
Yuval Noah Harari
O historiador Yuval Noah Harari examina os maiores desafios da humanidade hoje, da inteligência artificial e das notícias falsas ao nacionalismo, à religião e ao sentido da vida, e pergunta como podemos pensar com clareza e manter o equilíbrio num mundo que muda depressa.
🏛️ HistóriaO Príncipe
Niccolo Machiavelli
Um diplomata da Renascença aconselha os governantes a julgar seus atos pelos resultados, e não pela moral, defendendo que um líder de sucesso às vezes precisa ser astuto e implacável para conquistar e manter o poder.
⚖️ Política e sociedadeQuer algo diferente?
Escolha outro tema e vamos mostrar três livros para você começar.