L’Âge du capitalisme de surveillance

Titre original : The Age of Surveillance Capitalism

Dès 13 ans7 min de lecturetechnologieéconomiethéorie sociale
Se procurer le livre ↓

La professeure de Harvard Shoshana Zuboff soutient que les grandes entreprises technologiques ont créé un nouveau type de capitalisme qui collecte d'énormes quantités de données personnelles, les transforme en prédictions de nos comportements et les vend, ce qui menace la vie privée, l'autonomie et la démocratie.

Présentation

The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power a paru en 2019 sous la plume de Shoshana Zuboff, une universitaire qui avait écrit auparavant sur les effets des ordinateurs sur le travail. Le livre est long et développe une théorie qu’elle a appelée le capitalisme de surveillance (surveillance capitalism). Il retrace comment cette logique économique est née chez Google au début des années 2000, puis s’est répandue chez Facebook et dans d’autres entreprises, avant de gagner de nombreux secteurs. L’ouvrage comprend un chapitre d’introduction, trois parties et une conclusion, soit dix-huit chapitres en tout : la première partie traite des fondements, avec Google comme pionnier, la deuxième de l’avancée de cette nouvelle logique dans le monde, et la troisième du type de pouvoir qu’elle produit. Elle emploie de nouveaux termes pour la décrire et recourt à des comparaisons historiques, par exemple avec Ford et General Motors et avec le totalitarisme du XXe siècle, pour expliquer pourquoi il s’agit d’une nouvelle forme de pouvoir, qui mérite selon elle d’être combattue.

Résumé complet

1. Le surplus comportemental

L’idée : Zuboff explique que, dans ses premières années, Google n’utilisait les données que les gens laissaient derrière eux en faisant des recherches que pour améliorer son service. Après l’éclatement de la bulle Internet en 2000, les investisseurs ont poussé la jeune entreprise à gagner de l’argent, et les fondateurs se sont tournés vers la publicité. Google a commencé à utiliser les données restantes, qu’elle appelle surplus comportemental (behavioral surplus), pour cibler les annonces et prévoir sur lesquelles les gens cliqueraient. Elle voit dans 2002 l’année où cette pratique s’est enracinée. Les données, auparavant un sous-produit, sont devenues la principale matière première. Les utilisateurs, dit-elle, ne sont ni des clients ni le produit, mais la source de la matière première, tandis que les annonceurs sont devenus les clients qui achètent les résultats.

Dans la vie réelle : Une application gratuite qui gagne de l’argent avec vos données ne vous vend pas un produit, elle vend à d’autres des informations sur vous.

2. Les produits de prédiction et les marchés à terme comportementaux

L’idée : Les données sont traitées par l’intelligence des machines pour en tirer des produits de prédiction (prediction products), qui anticipent ce qu’une personne fera maintenant, bientôt ou plus tard. Ils sont vendus sur ce qu’elle appelle des marchés à terme comportementaux (behavioral futures markets), d’abord surtout aux annonceurs, puis à toute entreprise qui veut savoir ou influencer ce que les gens feront. Plus une entreprise rassemble de données, meilleures sont ses prédictions, d’où une course à toujours plus d’informations sur toujours plus d’aspects de la vie.

Dans la vie réelle : Une entreprise qui connaît vos habitudes peut deviner quand vous êtes susceptible d’acheter quelque chose.

3. De la prédiction à l’influence

L’idée : Zuboff dit que, pour rendre les prédictions plus sûres, les entreprises cherchent non seulement à savoir, mais à façonner les comportements, en poussant, en réglant et en menant les gens vers des résultats qui servent leurs objectifs commerciaux. Elle décrit deux expériences de Facebook, l’une qui encourageait à voter lors des élections américaines de 2010 et l’autre qui modifiait le ton émotionnel de ce que les utilisateurs voyaient dans leur fil d’actualité, ainsi que le jeu mobile Pokemon Go, dans lequel des entreprises payaient pour devenir des « lieux sponsorisés » qui attirent les joueurs. Ce pouvoir, dit-elle, est largement invisible pour ceux qu’il touche.

Dans la vie réelle : Un fil conçu pour vous faire continuer à faire défiler influence ce que vous faites, sans l’annoncer.

4. L’essor du pouvoir instrumentarien

L’idée : L’auteure invente le terme d’instrumentarisme (instrumentarianism) pour désigner une forme de pouvoir qui connaît et façonne le comportement humain au service des fins d’autrui, à la différence du pouvoir totalitaire, qui recourt à la violence et cherche à contrôler l’âme. Elle appelle Big Other l’appareil numérique en réseau par lequel il agit. Il est intégré aux appareils, aux objets et aux services en ligne du quotidien. Elle fait remonter la manière de voir qui le sous-tend aux idées du psychologue B. F. Skinner, qui traitait les gens comme des organismes dont on peut observer et façonner le comportement, et elle décrit ce pouvoir comme l’exact opposé de Big Brother dans le roman 1984 d’Orwell, parce qu’il ne se soucie pas de ce que les gens pensent ou ressentent, mais seulement de ce qu’ils font.

Dans la vie réelle : Un appareil qui apprend vos habitudes peut aussi servir à influencer ce que vous achetez.

5. La perte des droits et de l’autonomie

L’idée : Zuboff soutient que le capitalisme de surveillance s’approprie l’expérience humaine comme matière première gratuite, sans demander l’avis de personne. Dans la partie II, elle dit que ses méthodes d’influence cachées remettent en cause ce qu’elle appelle le droit au futur (right to the future tense), c’est-à-dire la capacité d’imaginer, de vouloir, de promettre et de bâtir son propre avenir sans être dirigé par des forces que l’on ne voit pas. Dans la partie III, elle dit qu’un monde où Big Other s’insinue dans la maison et la vie sociale, sans issue, menace le droit au sanctuaire (right to sanctuary), un espace de refuge. Elle affirme que les lois existantes, centrées sur la vie privée et la concurrence, n’ont pas suffi à arrêter cette logique, que les utilisateurs n’ont guère de moyen réel de partir ou de s’y opposer, et qu’il faut de nouvelles formes de réponse.

Dans la vie réelle : Cliquer sur « J’accepte » sous un long document ne signifie pas que vous comprenez ce que vous cédez.

6. La résistance et le combat pour un avenir humain

L’idée : Dans les derniers chapitres et dans la conclusion, elle appelle à l’action démocratique. Elle dit qu’il faut des lois qui refusent la légitimité du capitalisme de surveillance et interrompent ses opérations de base, comme la prise de l’expérience humaine comme matière première et le commerce de marchés à terme comportementaux, et que de nouvelles formes d’action collective et de nouvelles institutions démocratiques seront nécessaires pour rendre ces lois effectives. Elle avertit que l’enjeu comprend la maîtrise de nos propres vies, la démocratie et un avenir humain. Elle dit que les gens doivent refuser d’accepter que cela soit inévitable et être « la friction » qui s’y oppose, et elle insiste sur le fait que l’avenir numérique doit servir l’humanité.

Dans la vie réelle : Des règles comme les lois de protection des données sont un moyen de fixer des limites aux entreprises.

Pourquoi ce livre compte

L’Âge du capitalisme de surveillance est devenu un livre très discuté et a donné aux lecteurs un vocabulaire pour décrire un schéma de l’économie numérique. Il a influencé les débats sur la vie privée, la réglementation et le pouvoir des grandes entreprises technologiques, et a été largement salué : le New Yorker l’a compté parmi les meilleurs livres de non-fiction de 2019, et Barack Obama parmi ses livres préférés de l’année. L’expression « capitalisme de surveillance » est devenue courante dans le débat public. Le livre fait partie d’une vague d’ouvrages qui remettent en question la culture de la collecte de données. Son idée que la collecte de données n’est pas simplement une question technique, mais une question de pouvoir et de droits, a amené les gens à réfléchir à l’échange qu’ils font quand ils utilisent des services numériques gratuits.

Les idées clés

  • Vos données sont devenues une matière première. Les entreprises tirent profit d’informations sur les comportements.
  • La prédiction est le produit. D’autres paient pour anticiper et influencer ce que vous faites.
  • L’influence peut être cachée. La conception peut orienter vos choix à votre insu.
  • Le consentement est souvent fragile. Les utilisateurs ont peu de vraies solutions de rechange.
  • Des limites démocratiques sont possibles. Les lois et la pression du public peuvent façonner le monde numérique.

Ce que nous pouvons en retenir

Vous pouvez commencer par regarder les paramètres de confidentialité des applications que vous utilisez et vous demander ce qu’elles collectent et pourquoi. Limitez les autorisations que vous accordez et envisagez des solutions qui collectent moins. Remarquez comment les fils d’actualité et les notifications sont conçus pour retenir votre attention. Parlez avec votre famille et vos amis des données qu’ils partagent. Soutenez les règles qui protègent la vie privée et donnent aux gens le contrôle. Et souvenez-vous que la technologie n’est pas neutre, et que les choix de conception et de loi appartiennent au public.

Critiques et points de vue contraires

Certains critiques disent que Zuboff exagère la puissance de la prédiction et de la manipulation des comportements, et que les gens gardent une grande autonomie. D’autres soutiennent que son nouveau vocabulaire et son contraste avec le totalitarisme sont exagérés, et un critique estime qu’elle minimise la façon dont la surveillance peut servir des gouvernements autoritaires, comme en Chine. Certains font remarquer que des outils fondés sur les données, comme les bracelets de suivi de la santé, peuvent aussi donner aux utilisateurs plus de maîtrise sur leur vie. Un commentateur du blog de la London School of Economics craignait que le livre puisse inspirer la paralysie plutôt que l’action. Le livre est aussi très long, avec plus de 500 pages de texte principal avant les notes. Beaucoup y voient pourtant une contribution importante.

À qui s'adresse ce livre ?

Ce livre s’adresse aux lecteurs qui s’intéressent à la technologie, à la vie privée, à l’économie et à la politique, et qui sont prêts à lire un ouvrage long et exigeant. Ceux qui préfèrent une introduction plus courte peuvent commencer par des articles ou des livres plus brefs sur les données et la vie privée, puis lire des passages de celui-ci.

Résumé traduit de l'anglais avec l'aide de l'IA.

Envie de lire le livre entier ?

Un résumé donne un avant-goût, pas le repas. Voici où trouver le livre complet.

Vous êtes arrivé au bout 🎉

Bravo. Marquez ce livre comme lu et nous vous suggérerons la suite.

À lire ensuite

Nexus

Yuval Noah Harari

Yuval Noah Harari retrace l'histoire de la manière dont les humains ont partagé l'information, des récits et de l'écriture à l'imprimerie et aux algorithmes, et avertit que l'intelligence artificielle est un réseau d'un genre nouveau, capable de bouleverser les rapports de pouvoir et même de menacer la démocratie.

🏛️ Histoire

La Fabrication du consentement

Edward S. Herman and Noam Chomsky

Edward Herman et Noam Chomsky soutiennent que les grands médias américains, bien qu'ils échappent au contrôle de l'État, servent systématiquement les intérêts des élites puissantes, par un « modèle de propagande » à cinq filtres qui détermine quelles informations sont rapportées et comment.

⚖️ Politique et société

Les Origines du totalitarisme

Hannah Arendt

Hannah Arendt examine comment l'antisémitisme, l'impérialisme et l'effondrement de la société en Europe ont préparé le terrain aux régimes totalitaires de l'Allemagne nazie et de l'Union soviétique de Staline, et ce qui rendait ces régimes nouveaux et d'une horreur singulière.

🏛️ Histoire

L'attention volée

Johann Hari

Johann Hari soutient que notre capacité collective à rester attentifs s'érode, non seulement par faiblesse personnelle, mais sous l'effet de douze forces de la vie moderne, dont des technologies conçues pour nous accrocher, et qu'il nous faut changer à la fois nos habitudes et les systèmes qui nous entourent.

🧩 Esprit et psychologie

21 leçons pour le XXIe siècle

Yuval Noah Harari

L'historien Yuval Noah Harari examine les plus grands défis auxquels l'humanité est confrontée aujourd'hui, de l'intelligence artificielle et des fausses informations au nationalisme, à la religion et au sens de la vie, et demande comment penser clairement et garder l'équilibre dans un monde qui change vite.

🏛️ Histoire

Le Prince

Niccolo Machiavelli

Un diplomate de la Renaissance conseille aux princes de juger leurs actes d'après leurs résultats plutôt que d'après la morale, en soutenant qu'un dirigeant qui réussit doit parfois se montrer rusé et impitoyable pour conquérir le pouvoir et le garder.

⚖️ Politique et société

Envie d'autre chose ?

Choisissez un autre thème et nous vous montrerons trois livres pour commencer.

Livres affichés pour :
Parcourir tous les livres →