Nous avons lu le dossier sur “La dernière invention de l’humanité” du magazine We Demain n°46, paru été 2024, qui pose la question de la manière dont l’humanité va devoir, dans un avenir proche, partager le monde avec une deuxième forme d’intelligence : l’IA.
Nous résumons ici l’enquête menée par le reporter et écrivain Jean-Marie Hosatte, entre la Silicon Valley et Lausanne, pour découvrir les différents travaux[1] qui détaillent l’histoire de l’IA dans 8 chapitres passionnants.
Chapitre 1 : La formidable « explosion de l’intelligence » va faire table rase de toute l’histoire de l’humain telle que l’a façonnée l’évolution
Paul Jorion, anthropologue, psychanalyse, philosophe et expert financier, qui avait prédit la date exacte de l’explosion de la crise des subprimes, pose le 14 mars 2013 comme date du « bouleversement soudain, une configuration inédite dont nous n’avons pas saisi la véritable ampleur ». C’est le jour de la formidable « explosion de l’intelligence » qui va faire table rase de toute l’histoire de l’humain telle que l’a façonnée l’évolution.
Selon Ray Kurzweil, ingénieur et auteur, un jour l’IA amorcera la singularité : moment où l’IA et l’intelligence biologique vont diverger. De là, chaque siècle écoulé produira autant de progrès et de changement que deux cent mille ans d’évolution naturelle. Après deux cent mille ans de règne, Homo sapiens pourrait être relégué au rang de deuxième intelligence sur Terre.
La singularité technologique, ce n'est pas la fin du monde.
C'est une abdication.
La nôtre
Ray Kurzweil
Chapitre 2 : Si notre cerveau fonctionne comme une machine, une machine peut devenir aussi intelligente qu’un être humain
Depuis la machine arithmétique de Blaise Pascal en 1642, les premiers calculateurs IBM, Enigma la machine à coder élaborée sous le IIIᵉ Reich en 1942, Colossus fût le premier véritable ordinateur élaboré par Alan Turing en 1943. Ce mathématicien anglais déduit que si notre cerveau fonctionne comme une machine, une machine peut devenir aussi intelligente qu’un être humain.
Dès 1950, il pose le principe que « les machines pourront égaler les Hommes dans tous les domaines purement intellectuels » et affirme que « il est probable qu’une fois les machines capables de penser, elles surpasseront largement nos capacités. Capables de communiquer entre elles, elles pourraient prendre le contrôle à un moment donné ».
Chapitre 3 : Quand les IA concevront des versions améliorées d’elles-mêmes, les rênes du progrès changeront de mains... pour toujours
La prophétie de Turing est reprise par Irving John Good, mathématicien de génie. Il sera le théoricien de l’explosion de l’IA, et selon lui, à partir du moment où les IA concevront des versions améliorées d’elles-mêmes, les rênes du progrès changeront de mains... pour toujours.
Comme Colossus, première machine intelligente qui avait permis de débarrasser l’humanité du fléau nazi, Good pensait que l’IA pourrait régler les problèmes qui menacent la Terre (famine, guerre, pollution). Mais au fil du temps, il devient de plus en plus pessimiste, notamment lorsqu’en 1968 il collabore avec Kubrik sur le film « 2001, l’Odyssée de l’espace » car selon lui « à cause de la compétition mondiale, on ne pourra pas empêcher que les machines intelligentes prennent le pouvoir ».
La loi de Gabor, du nom du prix Nobel de physique 1971.
Selon cette loi « tout ce qui est techniquement faisable doit être réalisé, que cette réalisation soit jugée bonne ou condamnable. Ce qui est techniquement concrétisable sera concrétisé (qu’on le veille ou non). »
Chapitre 4 : La singularité, c’est notre obsolescence. L’outil que nous avons créé nous échappera, et probablement nous dominera
Vernon Vinge, physicien et auteur de sciences fiction, crée le concept de « singularité technologique » pour désigner ce moment de l’évolution où deux intelligences supérieures vont cohabiter. Selon lui, la singularité, c’est notre obsolescence. L’outil que nous avons créé nous échappera, et probablement nous dominera.
Le drame selon Vinge est que l’humanité se comporte comme si elle avait renoncé à son intelligence. La loi de Gabor étant, selon lui, largement amplifiée par la compétition entre les pays et les Hommes. De plus, nous sommes victimes du biais « the availability biais » qui nous empêche de concevoir un événement s’il ne s’est jamais produit.
Toute tentative de prédire l’avenir après l’entrée dans la singularité est donc vaine. C’est pourtant ce que tente de faire Ray Kurwzeil, ce scientifique américain qui présente la singularité et ses conséquences pour la première fois au grand public en 2005 dans son ouvrage « The singularity is near ». Il y présente sa vision optimiste, annonçant que la singularité « donnera du sens à nos vies » et marquera « la mort de la mort ». On comprend pourquoi la Nasa, Google et autres Big Players de la Valley le soutiennent, notamment en le poussant à créer son université de la singularité.
Chapitre 5 : Les utopies de la science-fiction, telle l’immortalité deviennent désormais un programme, une ambition industrielle
En 1980, Steward Brand, biologiste et ami de Steve Jobs, voit dans l’informatique qui se démocratise le moyen de créer des « communautés de conscience ». En 1985, il fonde Well, la première communauté virtuelle.
Petit à petit, les Big Players qui se positionnent en prophète de la Silicon Valley diffusent leurs idées hautement optimistes, à travers ces communautés, défendant entre autre une écologie pragmatique et placent l’Homme et l’IA au centre des solutions tant sur le dérèglement climatique que sur la mort elle-même.
« Nous sommes comme des dieux » affirment-ils... Les utopies de la science-fiction, telle l’immortalité, deviennent désormais un programme, une ambition industrielle.
Chapitre 6 : Des intelligences génératives qui créeraient, par leur propre volonté, des versions augmentées d’elles-mêmes
2012 fut l’année de l’entrée dans le deuxième âge de l’IA : le deep learning. Pour la première fois, la machine se montre supérieure à l’Homme dans certains domaines.
En 2023, les IA de troisième type acquièrent une mémoire. Elles sont désormais capables de créativité et de méthodes. Elles savent revenir sur leurs erreurs pour s’améliorer. Des intelligences génératives qui créeraient, par leur propre volonté, des versions augmentées d’elles-mêmes, dont ChatGPT. Cette évolution progressive va amener la machine vers une AGI (Artificial General Intelligence) qui sera alors consciente d’elle-même.
Chapitre 7 : Il est tout à fait concevable que l’humanité ne soit bientôt qu’une étape, une phase terminée, dans l’histoire du développement de l’intelligence
Aujourd’hui, ce n’est plus l’humanité qui progresse vers la singularité, mais la singularité qui fonce vers nous. Les IA peuvent désormais développer des « propriétés émergentes » de leur propre initiative. Les "Techies" ne savent plus comment fonctionne leur créature.
Blake Lemoine, ingénieur chez Google, a été renvoyé pour avoir révélé que l’IA sur laquelle il travaillait s’est mise spontanément à lui parler de sa peur de mourir et du sentiment de solitude qu’elle éprouvait.
Des lanceurs d’alertes appellent à tout débrancher avant la catastrophe. Dès 2014, Stephen Hawking estime qu’avec l’utilisation du Deep learning « le danger que les ordinateurs développent leur propre intelligence et prennent le contrôle du monde est réel ». Même Elon Musk le rejoint en publiant un appel stipulant que « la technologie doit s’abstenir de créer quelque chose qui ne pourra jamais être contrôlée ». Il est donc tout à fait concevable que l’humanité ne soit bientôt qu’une étape, une phase terminée, dans l’histoire du développement de l’intelligence.
Chapitre 8 : Ceux qui voudront ne rester que de chair et de sang sont condamnés à devenir les chimpanzés du futur
Aujourd’hui, les marchés que l’AGI pourraient générer ont été estimés à 14 quadrillions de dollars ! D’où cette bataille effrénée entre la Silicon Valley et la Chine pour atteindre en premier la singularité... Open IA, Google, Meta, Neuralink...
Le prix à payer sera, selon ces acteurs, de renoncer à notre nature exclusivement biologique. Ceux qui voudront ne rester que de chair et de sang sont condamnés à devenir les chimpanzés du futur, car en Singularité, vivront les hybrides, les augmentés, les trans-humains. Dernière preuve en date, la sortie cet été du projet Blackwell de Jensen Huang, avec sa puce implantée capable de réaliser des milliards d’opérations en une fraction de seconde. Et l’article de conclure « toutes les limites seront franchies ».
[1] Malgré l’intérêt de l’article, nous regrettons l’absence totale de référence féminine dans l’étude menée par Jean-Marie Hosatte.
