Nexus

Dès 13 ans9 min de lecturetechnologiepolitique
Avertissements évocation de génocides; de persécutions et de dictatures
Se procurer le livre ↓

Yuval Noah Harari retrace l'histoire de la manière dont les humains ont partagé l'information, des récits et de l'écriture à l'imprimerie et aux algorithmes, et avertit que l'intelligence artificielle est un réseau d'un genre nouveau, capable de bouleverser les rapports de pouvoir et même de menacer la démocratie.

Présentation

Nexus: A Brief History of Information Networks from the Stone Age to AI a été publié en 2024 par Yuval Noah Harari. Dans ses livres précédents, il expliquait le passé de l’humanité et imaginait son avenir. Ici, il s’intéresse à l’information : comment elle circule entre les gens, qui la contrôle et ce qu’elle produit. Il part d’une énigme : les humains se sont eux-mêmes baptisés « espèce sage » et ont accumulé des connaissances et une puissance immenses, et pourtant ils restent exposés à l’illusion et à l’autodestruction. Son argument central est que plus d’information ne mène pas automatiquement à plus de vérité ni de sagesse, et que l’invention de l’intelligence artificielle, capable de prendre des décisions et de produire seule des idées nouvelles, rend la question urgente. Il raconte cette histoire à travers des exemples, de la religion à l’imprimerie et aux réseaux sociaux.

Résumé complet

1. L’information sert à relier, pas seulement à dire le vrai

L’idée : Harari commence par de vieux avertissements, le mythe grec de Phaéton et le poème de Goethe sur l’apprenti sorcier, mais il estime qu’ils rejettent la faute sur l’orgueil et la cupidité des individus, alors que la puissance humaine vient en réalité de la coopération au sein de grands réseaux. Il s’attaque ensuite à ce qu’il appelle la conception naïve de l’information (naive view of information) : l’idée que l’information reflète la réalité, que davantage d’information mène à la vérité, et que la vérité apporte le pouvoir et la sagesse. Il reconnaît que cela peut être juste, par exemple dans la forte baisse de la mortalité infantile depuis l’époque de Goethe, qui a reposé sur la collecte et le partage de données médicales. Mais il soutient que la plupart des informations ne décrivent pas du tout la réalité. Leur fonction première est de relier des personnes et des choses, et elles peuvent le faire avec des erreurs, des chimères et des fictions autant qu’avec des faits. L’astrologie a marqué l’histoire pendant des milliers d’années, et la Bible, bien qu’elle guide très mal sur des sujets comme l’origine des humains ou les causes des épidémies, a rassemblé des milliards de personnes dans des réseaux religieux. Les récits peuvent unir des millions d’inconnus, car il suffit de croire à la même histoire, sans avoir besoin de se connaître. Harari rejette aussi la vision populiste inverse, selon laquelle l’information n’est qu’une arme et aucune vérité objective n’existe, et il cherche une voie moyenne. Un réseau d’information est donc puissant, mais il peut propager mensonges et chimères aussi bien que faits.

Dans la vie réelle : Une rumeur qui se répand vite dans une école peut souder un groupe ou le déchirer, qu’elle soit vraie ou non.

2. Documents, bureaucraties et livres sacrés

L’idée : Harari soutient que tout réseau humain doit faire deux choses à la fois : découvrir ce qui est vrai et maintenir l’ordre parmi un grand nombre de personnes. Ces deux buts entrent souvent en conflit, car la fiction peut unir les gens plus facilement que la vérité, qui est complexe et parfois douloureuse. Les récits sont venus en premier, et il appelle le document écrit la deuxième grande technologie de l’information. Selon lui, les grands réseaux, des royaumes antiques aux États modernes, ont toujours eu besoin à la fois de faiseurs de mythes et de bureaucrates, qui tirent en général dans des directions opposées. La Bible en est une illustration : ses récits ont été vitaux pour l’Église chrétienne, mais le livre n’existe que parce que des responsables de l’Église les ont choisis, remaniés et diffusés, et les Églises catholique et protestante ont ensuite trouvé des équilibres différents entre mythe et bureaucratie. Il se sert de ces exemples pour montrer que le pouvoir ne vient pas seulement de la connaissance des faits, mais de la capacité à maintenir l’ordre, ce qui explique pourquoi les scientifiques et les ingénieurs obéissent d’ordinaire à ceux qui dirigent le système.

Dans la vie réelle : Le règlement d’un club aide tout le monde à suivre les mêmes règles, mais quelqu’un doit décider ce que ces règles signifient.

3. Les systèmes capables de se corriger

L’idée : L’un des grands thèmes du livre est la capacité d’un réseau d’information à corriger ses propres erreurs. Harari compare des institutions dotées de mécanismes d’autocorrection faibles, comme l’Église catholique, à celles qui en ont de solides, comme les disciplines scientifiques, qui s’appuient sur des outils tels que les revues à comité de lecture. Les tribunaux indépendants en sont un autre exemple. Il affirme que des mécanismes faibles peuvent mener à des catastrophes, comme les chasses aux sorcières du début de l’époque moderne, tandis que des mécanismes solides peuvent parfois ébranler un réseau de l’intérieur ; il suggère même que l’Église catholique a peut-être été l’institution la plus réussie de l’histoire malgré, ou à cause de, ses mécanismes faibles. Il oppose aussi les démocraties, où l’information circule par de nombreux canaux indépendants, aux systèmes totalitaires, qui cherchent à la concentrer en un seul centre, et note que chaque choix a ses avantages et ses inconvénients. Un exemple parlant est la Constitution des États-Unis, qui se présente ouvertement comme une création humaine et prévoit donc un moyen de la modifier ; moins d’un siècle après sa rédaction, un amendement a aboli l’esclavage. Les textes qui revendiquent une origine divine, comme les Dix Commandements, n’offrent aucune procédure de ce genre.

Dans la vie réelle : Une équipe qui accueille les remarques après un mauvais match progresse, alors que celle qui en rejette la faute sur l’arbitre ne progresse pas.

4. L’imprimerie, les chasses aux sorcières et la diffusion des idées

L’idée : L’imprimerie a aidé à répandre des idées nouvelles et la science, mais Harari souligne qu’elle a aussi propagé des paniques collectives. Il raconte comment la peur des sorcières a grandi dans l’Europe du début de l’époque moderne, une catastrophe qu’il relie à la faiblesse de l’autocorrection et qu’ont favorisée des livres décrivant la chasse aux sorcières, comme le Malleus Maleficarum, un manuel devenu un best-seller. Il explique que l’imprimerie ne garantit pas que la vérité l’emporte, et que les institutions capables de mettre les affirmations à l’épreuve et de corriger les erreurs, comme le fait la science, comptent plus que la technologie elle-même.

Dans la vie réelle : Une vidéo virale peut être plus excitante qu’une explication soigneuse, mais cela ne la rend pas plus exacte.

5. Un pouvoir d’un genre nouveau : l’intelligence artificielle

L’idée : Harari soutient que l’IA diffère des technologies précédentes, parce que ce n’est pas simplement un outil : elle peut prendre des décisions et créer des idées nouvelles de son propre chef, et elle peut raisonner d’une manière que les humains trouvent étrangère. Il cite le programme de jeu de go AlphaGo, qui a joué des coups que les joueurs experts ne comprenaient pas. Les algorithmes façonnent déjà ce que les gens lisent et regardent, en décidant ce qui leur est montré, et les ordinateurs participent déjà à des décisions sur les prêts immobiliers, les emplois et les peines de prison. Il oppose les anciens réseaux, gérés par des cerveaux humains, comme l’Empire romain, à un nouveau réseau d’ordinateurs en silicium qui peuvent surveiller sans dormir, se souvenir sans oublier et, en un sens, gouverner sans mourir. Il estime que cela pourrait aboutir à des résultats nuisibles si les objectifs assignés aux machines ne s’accordent pas avec les valeurs humaines (le problème de l’alignement, alignment problem). Son exemple principal est celui des réseaux sociaux qui mettent en avant les contenus provoquant la colère parce qu’ils retiennent l’attention des gens, dont le rôle de Facebook dans les violences contre les Rohingyas en Birmanie en 2016 et 2017.

Dans la vie réelle : Si une application est conçue uniquement pour vous faire regarder, elle peut vous montrer encore plus de contenus bouleversants parce qu’ils retiennent votre attention.

6. Dictateurs, démocraties et avenir

L’idée : La dernière partie examine comment l’IA pourrait influer sur la politique. Harari se demande comment les démocraties peuvent maintenir un débat public quand on ne peut plus savoir si l’on parle à un humain ou à un agent conversationnel (chatbot), et comment des dirigeants élus peuvent gérer une économie que les algorithmes dirigent de plus en plus. Pour les dictatures, il se demande à la fois comment l’IA pourrait les servir, par exemple en surveillant sans relâche, et comment un dictateur humain pourrait terroriser ou censurer une IA qui pourrait elle-même prendre le pouvoir, puisque l’IA pourrait même remplacer les décideurs humains. Il s’inquiète aussi d’un monde coupé en deux par un rideau de silicium (Silicon Curtain), titre du dernier chapitre : une fracture entre puissances rivales lancées dans la course à l’IA, ou même entre les humains et leurs nouveaux maîtres artificiels. Mais il ne dit pas que l’avenir est écrit d’avance. Il appelle à des règles, comme l’interdiction pour les robots logiciels de se faire passer pour des humains, et à des institutions solides, capables de repérer et de corriger les erreurs afin que les humains gardent la main.

Dans la vie réelle : Savoir si un message a été écrit par une personne ou par une machine est une information de base que l’on peut vouloir avoir.

Pourquoi ce livre compte

Nexus est arrivé à un moment de vive discussion publique sur l’intelligence artificielle, les réseaux sociaux et la désinformation. Best-seller dans plusieurs pays, écrit par un auteur très lu, il a apporté un regard historique à un débat qui se concentre souvent sur les derniers outils. Le livre défend l’idée que la manière dont nous organisons l’information a toujours déterminé qui détient le pouvoir, et que nous sommes dans une période décisive pour choisir comment l’IA sera encadrée. Il a été largement commenté dans la presse. Que l’on partage ou non les avertissements de l’auteur, il offre un cadre de réflexion, fait de lien, d’autocorrection et de pouvoir, utile pour penser l’ère numérique.

Les idées clés

  • L’information relie les gens. Les récits et les archives créent des mondes partagés.
  • Plus de données ne veut pas dire plus de vérité. Les mensonges et les chimères peuvent aussi se propager.
  • L’autocorrection est vitale. Les institutions capables de trouver et de réparer leurs propres erreurs sont mieux protégées contre les catastrophes.
  • L’IA est un acteur, pas seulement un outil. Elle peut décider et créer de façon indépendante.
  • Des choix restent possibles. Les lois et les institutions peuvent orienter l’usage de l’IA.

Ce que nous pouvons en retenir

Pensez aux réseaux d’information auxquels vous appartenez, comme vos amis, votre école et vos fils d’actualité en ligne, et demandez-vous qui décide de ce que vous voyez. Prenez l’habitude de vérifier les sources et d’accepter d’être corrigé. Soutenez les institutions qui permettent les questions et la contestation, comme une presse libre, des tribunaux indépendants et une science ouverte. Apprenez comment fonctionnent les systèmes de recommandation, et faites-en des pauses. Et quand vous lisez quelque chose sur l’IA, demandez qui est responsable si quelque chose tourne mal. Ces habitudes aident à garder le jugement humain au centre.

Critiques et points de vue contraires

Certains critiques jugent le livre trop ambitieux : The Guardian a noté qu’il contient de nombreuses discussions passionnantes mais trop brèves, et qu’il a des angles morts, comme le peu de place accordé au capitalisme et à la recherche du profit qui anime les entreprises qui construisent l’IA. Des spécialistes du domaine ont critiqué l’affirmation de Harari selon laquelle il est naïf de croire que plus d’information mène à plus de vérité ou de pouvoir. Certains critiques estiment aussi que le livre vaut mieux comme diagnostic et appel à l’action que comme plan détaillé, et que ses propositions pour réguler l’IA sont minces. Ses défenseurs répondent que le but du livre est d’ouvrir la conversation, et que ses avertissements méritent l’attention.

À qui s'adresse ce livre ?

Ce livre s’adresse aux lecteurs qui veulent réfléchir à la technologie, à la politique et à l’histoire, et qui aiment les grandes thèses. Il est écrit clairement et raconte beaucoup d’histoires. Ceux qui veulent des détails techniques sur l’IA, ou des propositions précises de politiques publiques, devraient se tourner vers des sources spécialisées.

Résumé traduit de l'anglais avec l'aide de l'IA ; la relecture par des lecteurs est en cours.

Envie de lire le livre entier ?

Un résumé donne un avant-goût, pas le repas. Voici où trouver le livre complet.

Vous êtes arrivé au bout 🎉

Bravo. Marquez ce livre comme lu et nous vous suggérerons la suite.

À lire ensuite

21 leçons pour le XXIe siècle

Yuval Noah Harari

L'historien Yuval Noah Harari examine les plus grands défis auxquels l'humanité est confrontée aujourd'hui, de l'intelligence artificielle et des fausses informations au nationalisme, à la religion et au sens de la vie, et demande comment penser clairement et garder l'équilibre dans un monde qui change vite.

🏛️ Histoire

Sapiens : Une brève histoire de l'humanité

Yuval Noah Harari

Les humains en sont venus à dominer la planète non parce que nous sommes les animaux les plus forts, mais parce que nous pouvons croire à des histoires partagées (dieux, nations, argent, entreprises) qui permettent à des millions d'inconnus de coopérer.

🏛️ Histoire

Homo Deus : Une brève histoire de l'avenir

Yuval Noah Harari

Après avoir en grande partie maîtrisé la famine, les épidémies et la guerre, l'humanité pourrait désormais viser l'immortalité, le bonheur et des pouvoirs quasi divins, et les nouvelles technologies, ainsi que des croyances fondées sur les données, pourraient changer ce que signifie être humain.

🏛️ Histoire

Les Origines du totalitarisme

Hannah Arendt

Hannah Arendt examine comment l'antisémitisme, l'impérialisme et l'effondrement de la société en Europe ont préparé le terrain aux régimes totalitaires de l'Allemagne nazie et de l'Union soviétique de Staline, et ce qui rendait ces régimes nouveaux et d'une horreur singulière.

🏛️ Histoire

De la tyrannie : vingt leçons du XXe siècle

Timothy Snyder

L'historien Timothy Snyder tire de l'histoire du fascisme, du communisme et d'autres dictatures du XXe siècle vingt leçons pratiques pour aider les citoyens ordinaires à défendre la liberté dans les sociétés démocratiques d'aujourd'hui.

🏛️ Histoire

De l'inégalité parmi les sociétés : essai sur l'homme et l'environnement dans l'histoire

Jared Diamond

Certaines sociétés ont fini par en conquérir d'autres non parce que leurs habitants étaient plus intelligents ou meilleurs, mais parce que la géographie leur avait donné une longueur d'avance en matière d'agriculture, d'animaux, de microbes et de technologie.

🏛️ Histoire

Envie d'autre chose ?

Choisissez un autre thème et nous vous montrerons trois livres pour commencer.

Livres affichés pour :
Parcourir tous les livres →