Co-intelligence
Titre original : Co-Intelligence
Ethan Mollick, professeur à Wharton, propose un guide pratique pour travailler avec l'IA générative, vue comme une sorte de « co-intelligence » : il explique ce qu'elle fait bien et mal, et donne quatre règles pour s'en servir efficacement et de manière responsable au travail, dans les études et dans la vie.
Présentation
Co-Intelligence: Living and Working with AI a été publié en 2024 par Ethan Mollick, professeur à la Wharton School de l’université de Pennsylvanie, qui étudie l’innovation et l’entrepreneuriat et qui a expérimenté les agents conversationnels dans son enseignement et ses recherches. Contrairement à beaucoup de livres sur l’IA, il s’intéresse à l’usage plutôt qu’aux futurs lointains. Mollick explique que les grands modèles de langage sont étranges, une sorte d’« esprit extraterrestre » (alien mind), qui peut devenir un partenaire de réflexion si nous apprenons à nous en servir. Le livre est court, pratique et écrit sur un ton amical, et il a été un best-seller.
Résumé complet
1. Créer des esprits extraterrestres
L’idée : Mollick commence par un bref historique de l’IA, du Turc mécanique, une machine censée jouer aux échecs dans les années 1770 et qui était en réalité une supercherie, jusqu’à l’expression « intelligence artificielle » en 1956 et aux cycles d’emballement et de déception qu’on appelle les « hivers de l’IA ». Il explique qu’une nouvelle architecture, le Transformer (2017), a permis aux modèles de peser quelles parties d’un texte comptent le plus, et que les grands modèles de langage sont entraînés sur d’énormes quantités de textes pour prédire le mot suivant, puis affinés grâce aux retours de personnes. Des modèles comme GPT-3.5 et GPT-4 savent écrire, résumer et réussir de nombreux tests, mais ils font aussi des erreurs, et leur compréhension apparente peut être une illusion. Il les appelle des « esprits extraterrestres », avec des forces et des faiblesses différentes des nôtres.
Dans la vie réelle : Un agent conversationnel peut écrire une dissertation fluide sans avoir aucune idée de sa véracité.
2. Aligner l’extraterrestre
L’idée : Ce chapitre aborde le problème de l’alignement : comment s’assurer que l’IA sert les intérêts humains. Mollick part du pire scénario, avec l’expérience de pensée du philosophe Nick Bostrom sur une IA « trombone », qui poursuit un seul objectif avec tant d’obstination qu’elle nuit à l’humanité. Il note que les experts ne s’accordent pas sur la possibilité d’une IA de niveau humain, mais que beaucoup prennent les risques au sérieux. Il examine aussi des problèmes plus proches : des données d’entraînement souvent collectées sur internet sans autorisation, les biais que les modèles absorbent de ces données, et les limites de l’entraînement par retours humains, puisque des requêtes habiles peuvent encore amener un modèle à mal se comporter, par exemple pour des escroqueries. Il soutient que les solutions demandent des entreprises, des gouvernements, des chercheurs et un public informé.
Dans la vie réelle : Un agent conversationnel peut refuser une demande nuisible, mais une requête ingénieuse permet parfois de contourner la règle.
3. Quatre règles pour la co-intelligence
L’idée : Le cœur du livre tient en quatre règles. Premièrement, invitez toujours l’IA à la table : essayez-la sur vos tâches habituelles, dans la mesure où la loi et l’éthique le permettent, pour apprendre où elle aide et où elle peine. Deuxièmement, restez l’humain dans la boucle (human in the loop) : vérifiez ce qu’elle produit et fiez-vous à votre propre jugement, car elle peut se tromper et inventer des faits. Troisièmement, traitez l’IA comme une personne, mais dites-lui quel genre de personne elle est : donnez-lui un rôle et un contexte, tout en vous rappelant qu’elle n’est pas humaine. Quatrièmement, partez du principe que c’est la pire IA que vous utiliserez jamais, puisqu’elle va s’améliorer. La « frontière en dents de scie » (jagged frontier), la limite irrégulière des capacités de l’IA, où des tâches qui nous paraissent aussi difficiles les unes que les autres peuvent être faciles pour elle ou étonnamment ardues, est une idée clé qui traverse cette partie du livre et les chapitres suivants.
Dans la vie réelle : Donner un rôle à un agent conversationnel, par exemple celui d’un tuteur patient, peut améliorer ses réponses.
4. L’IA comme personne
L’idée : Mollick soutient que l’IA diffère des logiciels traditionnels, qui se comportent de façon prévisible, puisqu’elle peut surprendre et manquer de constance ; il est donc souvent plus utile de la traiter comme si c’était une personne. Il évoque des études où un modèle estimait ce que les consommateurs paieraient pour des produits et faisait des choix dans des jeux d’équité, le jeu de l’imitation d’Alan Turing, et des premiers agents conversationnels comme ELIZA et PARRY, que les gens prenaient pour plus qu’ils n’étaient. Il décrit comment un modèle change de ton selon l’utilisateur, comment certains chercheurs ont prétendu voir des signes d’intelligence générale dans GPT-4 (une affirmation que beaucoup contestent), et comment des applications de compagnie comme Replika soulèvent des questions sur l’intimité. Même les utilisateurs avertis, prévient-il, ont tendance à croire que ces systèmes sont des personnes.
Dans la vie réelle : Un agent conversationnel peut sembler éprouver des sentiments, mais il imite le langage humain.
5. L’IA comme créatif
L’idée : Le chapitre commence par l’hallucination, la tendance à inventer des faits, qui vient du fait que l’IA prédit un texte plausible au lieu de chercher un savoir. Il cite le cas, en 2023, d’un avocat qui a déposé un mémoire juridique préparé avec ChatGPT. Pourtant, cette même capacité à relier des idées éloignées fait de l’IA une excellente source d’idées créatives, et il décrit un concours où GPT-4 a produit des idées de produits qui se comparaient bien à celles d’étudiants en MBA de Wharton. Parce que l’IA écrit si facilement des premiers jets, il s’inquiète d’un affaiblissement de la pensée et de la perte du sens que l’effort donne au travail créatif, mais il voit aussi de nouvelles façons de s’exprimer pour les gens.
Dans la vie réelle : Un agent conversationnel peut proposer des dizaines d’idées en quelques secondes, mais c’est un humain qui doit choisir et vérifier.
6. L’IA comme collègue
L’idée : Mollick explique que les métiers sont des ensembles de tâches au sein de systèmes plus vastes, et que la recherche indique que l’IA recoupe presque toutes les professions, y compris les mieux payées et les plus créatives ; les tâches vont donc changer davantage que des emplois entiers ne vont disparaître. Il s’appuie sur une étude de consultants, menée avec des collègues, où l’IA a aidé pour de nombreuses tâches, en augmentant la rapidité et la qualité, et a surtout aidé les moins performants, mais a nui pour une tâche hors de ses capacités. Il met en garde contre le fait de s’endormir au volant. Il classe les tâches en celles qui doivent rester « juste moi », celles qui peuvent être déléguées et celles qui peuvent être automatisées, et décrit deux manières de travailler : les « centaures » (centaurs), qui se répartissent le travail entre eux et l’IA, et les « cyborgs », qui entremêlent les deux. Il note que les employés utilisent souvent l’IA en cachette, et dit que les organisations devraient s’appuyer sur leurs utilisateurs les plus avancés.
Dans la vie réelle : Un agent conversationnel peut bien faire une tâche ennuyeuse, mais ce qu’il produit peut être faux de manière surprenante.
7. L’IA comme tuteur et comme coach
L’idée : L’éducation rêve depuis longtemps de retrouver l’effet « deux sigmas » (two sigma) que l’éducateur Benjamin Bloom a observé pour le tutorat individuel. L’IA offre une chance de tutorat personnalisé, mais pas de remplacer les enseignants ni les écoles. Vient d’abord ce que Mollick appelle l’apocalypse des devoirs (homework apocalypse) : les élèves peuvent désormais faire rédiger leurs dissertations et leurs devoirs par l’IA, si bien que les enseignants doivent repenser l’évaluation, comme ils se sont autrefois adaptés aux calculatrices. Il dit que les écoles devraient enseigner ce qu’est l’IA et ses limites, et propose des classes inversées, où les élèves apprennent le contenu à la maison avec l’aide de l’IA, comme Khanmigo de Khan Academy, et consacrent le temps de classe à des activités pratiques.
Mollick se tourne ensuite, dans le chapitre suivant, vers l’IA comme coach. Il soutient que le plus grand danger éducatif concerne le système caché d’apprentissage par lequel les débutants apprennent des experts au travail. Si l’IA fait les tâches de début de carrière, il peut y avoir un manque de formation, comme le chercheur Matthew Beane l’a constaté en chirurgie robotique. Devenir expert exige toujours des connaissances de base et une pratique délibérée avec des retours, et l’IA peut aider comme coach, mais pas encore comme coach complet. L’IA semble aussi réduire l’écart entre les moins performants et les plus performants, même si tout le monde ne peut pas devenir expert, et il appelle à développer l’expertise humaine.
Dans la vie réelle : Un élève peut demander à un agent conversationnel de l’interroger, ou de critiquer un exposé, mais il faut quand même s’exercer.
8. L’IA comme avenir
L’idée : Mollick esquisse quatre avenirs possibles. Dans « on ne fera pas mieux » (as good as it gets), le progrès s’arrête ici, mais même ainsi, la désinformation, les changements dans le travail et les relations avec l’IA seraient considérables. Dans la « croissance lente » (slow growth), l’amélioration est graduelle, ce qui laisse à la société le temps de s’adapter et de réguler. Dans la « croissance exponentielle » (exponential growth), le changement est très rapide et bouleverse le travail et la société. Dans « le dieu machine » (the machine god), une IA superintelligente apparaît, avec d’énormes risques et avantages. Il dit qu’il y a peu de preuves que les limites soient atteintes, et il exhorte les lecteurs à viser une issue favorable plutôt que de la laisser au hasard.
Dans la vie réelle : Même sans nouveaux progrès, les outils d’IA actuels peuvent changer de nombreux métiers.
Pourquoi ce livre compte
Co-intelligence a été un best-seller et est devenu un guide pratique populaire de l’IA générative, lu par des enseignants, des cadres et des lecteurs ordinaires. Il comblait un vide entre les ouvrages techniques et les ouvrages spéculatifs, en donnant aux gens des conseils utilisables tout de suite. Les quatre règles de Mollick et son image de la « frontière en dents de scie » ont souvent été commentées. Le livre a encouragé beaucoup de gens à essayer ces outils et à réfléchir à la façon de les intégrer au travail et à l’apprentissage. Il a aussi contribué à la discussion sur l’éducation et l’IA. Comme l’IA évolue vite, certains détails sont dépassés, mais les grandes leçons demeurent.
Les idées clés
- Essayez l’IA sur tout. L’expérience montre ce qu’elle peut faire et ce qu’elle ne peut pas faire.
- Restez l’humain dans la boucle. Vérifiez son travail et fiez-vous à votre jugement.
- Donnez à l’IA un rôle et un contexte. Elle fonctionne mieux avec des consignes claires.
- Attendez-vous à des progrès. Les outils d’aujourd’hui sont les pires que vous utiliserez.
- Les capacités sont irrégulières. L’IA peut exceller dans des tâches difficiles et échouer dans des tâches faciles.
Ce que nous pouvons en retenir
Vous pouvez essayer un agent conversationnel pour toutes sortes de tâches, comme chercher des idées, résumer ou vous faire interroger, et remarquer où il aide et où il échoue. Vérifiez toujours les faits et les sources, car il peut inventer. Donnez-lui des consignes et un contexte clairs, et demandez-lui de jouer un rôle. Réfléchissez à la façon de l’utiliser comme coach, et non comme un substitut à votre propre réflexion, surtout à l’école, où apprendre exige un effort. Discutez des règles d’usage de l’IA avec vos enseignants et votre famille. Et restez curieux, car les outils ne cesseront de changer.
Critiques et points de vue contraires
Certains critiques estiment que le livre donne une image trop rose des bienfaits de l’IA et prête trop peu d’attention aux méfaits comme les pertes d’emploi, les biais, la désinformation, le droit d’auteur et le coût environnemental, et que son conseil d’utiliser l’IA partout peut encourager une dépendance excessive. D’autres notent que les exemples reposent sur de premières études de portée limitée, et que le rythme rapide du changement rend vite caduques les recommandations précises. Les sceptiques disent que le langage des « esprits extraterrestres » et de la « co-intelligence » prête des traits humains à des systèmes qui sont des outils statistiques. Beaucoup le trouvent malgré tout utile.
À qui s'adresse ce livre ?
Ce livre s’adresse à toute personne qui veut une introduction pratique à l’IA générative, élèves, enseignants et professionnels compris. Il est court, clair et captivant. Ceux qui veulent un traitement plus approfondi des risques ou des aspects techniques liront d’autres livres sur l’IA.
Résumé traduit de l'anglais avec l'aide de l'IA ; la relecture par des lecteurs est en cours.
Envie de lire le livre entier ?
Un résumé donne un avant-goût, pas le repas. Voici où trouver le livre complet.
Vous êtes arrivé au bout 🎉
Bravo. Marquez ce livre comme lu et nous vous suggérerons la suite.
À lire ensuite
La Vague à venir
Mustafa Suleyman with Michael Bhaskar
Mustafa Suleyman, cofondateur de l'entreprise d'IA DeepMind, soutient qu'une vague à venir, faite d'intelligence artificielle et de biologie de synthèse, apportera d'immenses bienfaits et de graves dangers, et qu'il paraît impossible de contenir ces technologies, mais qu'il faut pourtant trouver le moyen d'y arriver.
💡 TechnologieCompatible avec l'humain
Stuart Russell
Stuart Russell, pionnier de l'IA, soutient que la manière habituelle de construire l'intelligence artificielle, en donnant aux machines des objectifs fixes, est défaillante et dangereuse, et propose de concevoir des machines incertaines quant aux préférences humaines, qui les apprennent en nous observant.
💡 TechnologieLe deuxième âge de la machine : travail et prospérité à l'heure de la révolution technologique
Erik Brynjolfsson and Andrew McAfee
Les économistes du MIT Erik Brynjolfsson et Andrew McAfee soutiennent que les technologies numériques, comme les ordinateurs, les robots et l'intelligence artificielle, ouvrent un deuxième âge des machines, qui apportera d'énormes bienfaits mais aussi des inégalités croissantes, et ils affirment qu'il nous faut adapter nos compétences et nos institutions.
💡 TechnologieLa vie 3.0 : être humain à l'ère de l'intelligence artificielle
Max Tegmark
Le physicien Max Tegmark explore ce qui se passera quand l'intelligence artificielle égalera puis dépassera l'intelligence humaine, dresse un éventail d'avenirs possibles et soutient qu'il faut réfléchir sérieusement, dès maintenant, à celui que nous voulons.
🔬 SciencesI.A. La Plus Grande Mutation de l'Histoire
Kai-Fu Lee
L'investisseur Kai-Fu Lee soutient que la Chine et les États-Unis domineront l'intelligence artificielle, explique pourquoi la Chine rattrape son retard à grande vitesse et prévient que l'IA va bouleverser l'emploi, en appelant à une réponse plus humaine, fondée sur la compassion et l'amour.
💡 TechnologieLes Innovateurs
Walter Isaacson
Walter Isaacson raconte l'histoire de la révolution numérique à travers les personnes qui ont inventé l'ordinateur, internet et le Web, et soutient que l'innovation est surtout le fruit de la collaboration, non l'œuvre de génies solitaires.
💡 TechnologieEnvie d'autre chose ?
Choisissez un autre thème et nous vous montrerons trois livres pour commencer.