La vie 3.0 : être humain à l'ère de l'intelligence artificielle

Titre original : Life 3.0

Dès 13 ans6 min de lectureintelligence artificiellephysiqueprospective
Se procurer le livre ↓

Le physicien Max Tegmark explore ce qui se passera quand l'intelligence artificielle égalera puis dépassera l'intelligence humaine, dresse un éventail d'avenirs possibles et soutient qu'il faut réfléchir sérieusement, dès maintenant, à celui que nous voulons.

Présentation

Life 3.0: Being Human in the Age of Artificial Intelligence a paru en 2017 sous la plume de Max Tegmark, professeur de physique au MIT, cofondateur du Future of Life Institute, une organisation qui étudie les risques des technologies avancées. Il divise la vie en trois stades : la Vie 1.0, qui fait évoluer à la fois son corps et son esprit, comme les bactéries ; la Vie 2.0, qui fait évoluer son corps mais peut concevoir son esprit par l’apprentissage, comme les humains ; et la Vie 3.0, qui peut concevoir à la fois son matériel et son logiciel, ce qui deviendrait possible avec une IA avancée. Le livre mêle science, philosophie et spéculation, et commence par une histoire fictive.

Résumé complet

1. L’histoire des Omega et l’idée de la Vie 3.0

L’idée : Tegmark ouvre sur un court texte de fiction à propos d’une équipe appelée les Omega et de leur IA superintelligente, Prometheus. L’histoire illustre comment un tel système pourrait transformer la société. Il explique ensuite la Vie 1.0, 2.0 et 3.0, et dit que la question de savoir comment gérer l’arrivée de la Vie 3.0 est la conversation la plus importante de notre époque, car elle pourrait apporter un grand bien ou un grand mal.

Dans la vie réelle : Un outil capable de s’améliorer lui-même pourrait changer plus vite que nous ne pouvons suivre.

2. Qu’est-ce que l’intelligence ?

L’idée : L’auteur définit l’intelligence comme la capacité d’atteindre des objectifs complexes et dit qu’elle peut exister sous différentes formes, dans des cerveaux biologiques et dans des machines. Il soutient que la mémoire, le calcul et l’apprentissage ne dépendent pas de la matière sur laquelle ils reposent, et peuvent donc exister dans des cerveaux comme dans des machines. Il note que les ordinateurs surpassent déjà les humains dans des tâches précises, comme les échecs et le jeu de go, mais pas en capacité générale. Il distingue l’IA étroite (narrow AI) de l’intelligence artificielle générale, qui pourrait accomplir toute tâche dont un humain est capable.

Dans la vie réelle : Un programme d’échecs peut battre n’importe quel humain, mais ne sait pas faire un sandwich.

3. Le futur proche : emplois, armes et droit

L’idée : Dans le chapitre suivant, Tegmark examine les effets de l’IA dans les prochaines décennies. Elle pourrait transformer le marché du travail, à mesure que les machines font davantage de travail, et soulever des questions de revenu et de sens ; il discute des types de travail les plus à l’abri. Les armes autonomes pourraient représenter un danger, et il se demande comment éviter une course aux armements dans ce domaine. Il aborde aussi l’IA dans la santé et le droit, et souligne qu’il faut veiller à ce que les systèmes d’IA soient fiables et sûrs, afin qu’ils fassent ce que nous voulons sans tomber en panne ni se faire pirater.

Dans la vie réelle : Une voiture autonome pose la question de savoir qui est responsable en cas d’accident.

4. Le chemin vers la superintelligence

L’idée : Tegmark évoque la possibilité d’une « explosion d’intelligence » (intelligence explosion), dans laquelle une IA capable d’améliorer sa propre conception entraîne une augmentation rapide de ses capacités. Il dit que personne ne sait quand, ni si, cela arrivera, et que les experts sont en désaccord, avec toute une gamme de prévisions pour l’arrivée d’une IA de niveau humain. Mais comme l’enjeu est élevé, il soutient qu’il est sage de se préparer. Il avance aussi que le principal risque n’est pas la malveillance, mais un décalage entre les objectifs d’une IA puissante et ceux des humains.

Dans la vie réelle : Un assistant très capable qui comprend mal votre souhait peut causer des dégâts.

5. Douze avenirs possibles

L’idée : Le cœur du livre est une liste de scénarios pour l’après-superintelligence. Dans certains, une IA bienveillante gouverne pour le bien de l’humanité, ou agit en protectrice qui n’intervient que pour éviter des catastrophes ; dans d’autres, les humains gardent le contrôle d’une superintelligence confinée ; certains dépeignent un monde où une IA plus avancée est empêchée, par une IA gardienne, par un État de surveillance ou par des gens qui renoncent à la technologie avancée ; d’autres décrivent des humains remplacés par des machines, peut-être gardés comme des animaux de zoo, ou disparaissant. Tegmark invite les lecteurs à réfléchir à celui qu’ils préféreraient, et pourquoi, et note que nous participons tous au choix.

Dans la vie réelle : Réfléchir au monde que l’on veut aide à décider vers quoi travailler.

6. Les objectifs, la conscience et le sens

L’idée : Les derniers chapitres abordent des questions plus profondes. Comment aligner les objectifs d’une IA sur les valeurs humaines, c’est ce qu’on appelle le « problème de l’alignement » (alignment problem) ? Quels sont nos objectifs, et que signifierait les programmer ? Tegmark discute de la conscience et de la possibilité que des machines aient une expérience subjective, question qui relève selon lui de la science. Il soutient que nous devrions décider dès maintenant comment construire l’IA pour que la vie puisse s’épanouir, et il examine aussi ce que les lois de la physique permettent à la vie dans le lointain futur du cosmos.

Dans la vie réelle : Apprendre à un système à faire ce que nous voulons vraiment est plus difficile que de lui dire quoi faire.

Pourquoi ce livre compte

La vie 3.0 : être humain à l’ère de l’intelligence artificielle a été un best-seller et a aidé à porter la discussion sur la sécurité de l’IA devant un large public, tout comme Superintelligence de Nick Bostrom. Il a été salué par des figures de la technologie, et son cadre des trois stades de la vie ainsi que l’éventail de scénarios ont donné aux gens une façon de penser l’avenir. Le Future of Life Institute, cofondé par Tegmark, a encouragé la recherche et des déclarations publiques, comme une lettre ouverte de 2015 appelant à travailler sur une IA sûre. Le livre est paru avant l’essor des grands modèles de langage, et ses questions sont devenues plus pressantes depuis.

Les idées clés

  • L’IA pourrait tout changer. Les machines pourraient un jour égaler ou dépasser l’intelligence humaine.
  • L’avenir est ouvert. Il y a de nombreuses issues possibles.
  • L’alignement est le défi central. Les objectifs de l’IA doivent correspondre aux valeurs humaines.
  • Préparons-nous dès maintenant. L’enjeu justifie de réfléchir tôt.
  • Nous avons tous notre mot à dire. L’avenir ne doit pas être décidé par quelques-uns.

Ce que nous pouvons en retenir

Ce livre peut vous aider à réfléchir à ce que vous voudriez de l’IA et aux valeurs qui devraient la guider. Informez-vous sur le fonctionnement des systèmes d’IA actuels et sur ce qu’ils peuvent et ne peuvent pas faire. Participez aux discussions sur la réglementation et l’éthique, et soutenez la recherche sur la sécurité. Réfléchissez à la façon dont votre propre travail pourrait changer et aux compétences qui garderont de la valeur. En même temps, restez prudent face aux prédictions, puisque les experts ne sont pas d’accord. Et rappelez-vous que la technologie est un outil façonné par des choix humains.

Critiques et points de vue contraires

Certains chercheurs en IA estiment que le livre est spéculatif et surestime la probabilité d’une superintelligence, et que s’inquiéter de scénarios lointains détourne l’attention de problèmes actuels, comme les biais et les usages malveillants. L’idée qu’une IA superintelligente pourrait échapper à tout contrôle reste fortement combattue par de nombreux informaticiens. Des critiques ont aussi trouvé certains passages moins convaincants : Kirkus Reviews a jugé que les solutions proposées au chômage de masse relevaient de l’exagération, et le Wall Street Journal a qualifié d’honorable mais naïve l’invitation faite aux lecteurs de choisir un avenir. D’autres soulignent que l’appel à garder le contrôle de machines superintelligentes cadre mal avec l’aveu que cela pourrait être presque impossible. Le débat continue.

À qui s'adresse ce livre ?

Ce livre s’adresse aux lecteurs qui s’intéressent à la technologie, à l’avenir et aux grandes questions, y compris les adolescents plus âgés. Il est captivant, quoique spéculatif. Ceux qui veulent un traitement plus technique ou plus prudent peuvent lire d’autres ouvrages sur l’IA.

Résumé traduit de l'anglais avec l'aide de l'IA.

Envie de lire le livre entier ?

Un résumé donne un avant-goût, pas le repas. Voici où trouver le livre complet.

Vous êtes arrivé au bout 🎉

Bravo. Marquez ce livre comme lu et nous vous suggérerons la suite.

À lire ensuite

Superintelligence : Paths, Dangers, Strategies

Nick Bostrom

Le philosophe Nick Bostrom soutient que si les machines deviennent bien plus intelligentes que les humains, elles pourraient acquérir un grand pouvoir, et que, faute de résoudre le problème de leur donner des objectifs sans danger pour l'humanité, le résultat pourrait être catastrophique.

💡 Technologie

Compatible avec l'humain

Stuart Russell

Stuart Russell, pionnier de l'IA, soutient que la manière habituelle de construire l'intelligence artificielle, en donnant aux machines des objectifs fixes, est défaillante et dangereuse, et propose de concevoir des machines incertaines quant aux préférences humaines, qui les apprennent en nous observant.

💡 Technologie

La Vague à venir

Mustafa Suleyman with Michael Bhaskar

Mustafa Suleyman, cofondateur de l'entreprise d'IA DeepMind, soutient qu'une vague à venir, faite d'intelligence artificielle et de biologie de synthèse, apportera d'immenses bienfaits et de graves dangers, et qu'il paraît impossible de contenir ces technologies, mais qu'il faut pourtant trouver le moyen d'y arriver.

💡 Technologie

Nexus

Yuval Noah Harari

Yuval Noah Harari retrace l'histoire de la manière dont les humains ont partagé l'information, des récits et de l'écriture à l'imprimerie et aux algorithmes, et avertit que l'intelligence artificielle est un réseau d'un genre nouveau, capable de bouleverser les rapports de pouvoir et même de menacer la démocratie.

🏛️ Histoire

21 leçons pour le XXIe siècle

Yuval Noah Harari

L'historien Yuval Noah Harari examine les plus grands défis auxquels l'humanité est confrontée aujourd'hui, de l'intelligence artificielle et des fausses informations au nationalisme, à la religion et au sens de la vie, et demande comment penser clairement et garder l'équilibre dans un monde qui change vite.

🏛️ Histoire

Une brève histoire du temps

Stephen Hawking

L'un des plus grands physiciens du monde explique, presque sans mathématiques, ce que nous savons de l'origine, de la structure et du destin de l'Univers, du Big Bang aux trous noirs et à la nature du temps lui-même.

🔬 Sciences

Envie d'autre chose ?

Choisissez un autre thème et nous vous montrerons trois livres pour commencer.

Livres affichés pour :
Parcourir tous les livres →