Le développement d’une intelligence artificielle générale pourrait signer la fin de l’humanité. » À l’occasion de la mort de Stephen Hawking, en mars 2018, cette fameuse citation de l’astrophysicien a résonné dans la presse et sur les réseaux sociaux. Longtemps cantonnée au registre de la science-fiction, la peur de l’intelligence artificielle s’enracine depuis quelques années dans le débat public, associée tantôt à l’automatisation des métiers et au chômage, tantôt à la perspective non moins terrifiante de robots tueurs (1).

Du philosophe et chercheur Nick Bostrom (2) à M. Elon Musk, le fondateur des entreprises Tesla et SpaceX, diverses personnalités multiplient ainsi les mises en garde contre le risque que des machines « superintelligentes » et potentiellement incontrôlables feraient peser sur l’humanité. Pour le patron de Tesla, leur danger dépasserait même celui de la bombe atomique. À cette crainte s’ajoute celle du transhumanisme, une idéologie née en 1980 dans la Silicon Valley, qui promeut l’amélioration physique et intellectuelle des humains par les nouvelles technologies et l’intelligence artificielle, avec à terme une fusion de l’humain et de la machine (3). Dès 2002, l’économiste et philosophe Francis Fukuyama voyait là le plus grand péril de l’histoire de l’humanité (4).

L’hypothèse selon laquelle la machine pourrait bientôt dépasser l’homme porte un nom. Il s’agit de la « singularité », un terme utilisé pour la première fois dans l’article « The coming technological singularity », publié par l’auteur de science-fiction américain Vernor Vinge en 1993  (5). Elle désigne une date incertaine à laquelle l’intelligence artificielle dépassera la nôtre, inaugurant donc une nouvelle ère impossible à concevoir pour nos cerveaux humains. Vinge a lui-même eu ses prédécesseurs et inspirateurs, des rêveries du mathématicien Stanislaw Ulam sur l’accélération exponentielle du progrès aux écrits d’Isaac Asimov (La Dernière Question, 1956) et de Philip K. Dick (Les Marteaux de Vulcain, 1960 ; La Fourmi électrique, 1969), en passant par les hypothèses du statisticien Irving John Good sur les machines ultra-intelligentes.

Érigée en problème-clé par les industries de la Silicon Valley et ses intellectuels organiques, la singularité s’est muée au cours des années 2000 en école de pensée. Certains, comme M. Raymond Kurzweil, transhumaniste convaincu et chercheur chez Google, y voient non pas une catastrophe mais un événement désirable. Si ce techno-optimisme reste minoritaire, tous ces analystes s’accordent cependant sur un point : l’avancée inéluctable et exponentielle du progrès technique rend la singularité inévitable. Plutôt que de tenter de l’empêcher, il s’agirait de préparer l’humanité à son avènement pour en limiter les conséquences négatives.

Une « érotisation anxieuse du progrès »

Mais un paradoxe saute aux yeux : apocalyptiques ou préventifs, ces scénarios émanent de chercheurs et d’industriels eux-mêmes engagés dans le développement de ce contre quoi ils se mobilisent. Arrosés par l’argent de la Silicon Valley, les organisations et les comités d’éthique censés nous prémunir contre le soulèvement des machines en édictant normes et règles se multiplient.

Promotrice d’une intelligence artificielle bienveillante, l’association OpenAI a par exemple été fondée en 2015 par des chefs d’entreprise comme M. Musk, M. Sam Altman, dirigeant du très puissant incubateur Y Combinator, ou M. Peter Thiel, cofondateur de PayPal. Le Future of Life Institute, qui cherche à diminuer les « risques existentiels » liés au développement des technologies, lancé notamment par M. Jaan Tallinn, cofondateur de Skype, a reçu une généreuse donation de 10 millions de dollars (près de 8,5 millions d’euros) de la part de M. Musk. La Singularity University, qui vise à éduquer et à responsabiliser les acteurs de l’industrie numérique face aux « grands défis de l’humanité », a été ouverte grâce aux fonds de patrons-ingénieurs-essayistes comme M. Kurzweil ou M. Peter Diamandis, spécialisé dans le tourisme spatial et l’exploitation des ressources minières des astéroïdes. Quant au Partenariat pour que l’intelligence artificelle profite aux gens et à la société (Partnership on AI to benefit people and society), lancé en grande pompe en septembre 2016 pour promouvoir de « bonnes pratiques », il compte parmi ses fondateurs Google, Apple, Facebook, Amazon, Microsoft et IBM. La liste est encore longue, mais tous ces industriels partagent le credo de M. Diamandis : « Un jour, les dirigeants politiques se réveilleront et il sera trop tard. Il faut les devancer. Je crois bien plus au pouvoir des entrepreneurs qu’à celui des hommes politiques, ou même de la politique tout court (6).  »

Dans son livre Le Mythe de la singularité, l’informaticien et philosophe Jean-Gabriel Ganascia résume cette situation qui ne manque pas de sel : « Nous nous trouvons donc devant des “pompiers pyromanes”, qui, tout en allumant volontairement un incendie, font mine d’essayer de l’éteindre pour se donner le beau rôle (7).  » La philanthropie autoproclamée de ces sociétés cadre en effet assez mal avec leur conduite en matière de fiscalité ou de droit du travail. Pourquoi, dès lors, financent-elles des structures qui, par l’intermédiaire de chercheurs et de philosophes, ventilent de funestes prévisions sur les conséquences des technologies qu’elles développent ?

Que M. Musk ou M. Mark Zuckerberg, le fondateur de Facebook, se sentent ou non sincèrement investis de la mission de reconduire et d’actualiser l’idéal de progrès des Lumières, ils restent des hommes d’affaires. Leur réussite tient à un modèle décliné depuis deux décennies : faire connaître un problème dont ils s’apprêtent à commercialiser la solution. Allonger la durée de vie, étendre les capacités mentales ou corporelles représente un marché prometteur, qui pourrait dépasser le milliard de dollars avant 2020. C’est aussi une bonne publicité, qui place l’industrie numérique au centre de l’avenir humain... et de l’attention des investisseurs. Francesco Panese, professeur d’études sociales de la médecine et des sciences à l’université de Lausanne, voit émerger depuis quelques années une « économie de la promesse », utopique ou dystopique. « L’émergence des start-up dans le milieu de la technologie est fondée sur l’investissement de capital-risqueurs qui débloquent des fonds en fonction des promesses de grandes transformations du monde », nous explique-t-il. Étant donné le décalage entre les techniciens experts qui innovent et les capitalistes non initiés, ce que le sociologue appelle l’« érotisation anxieuse du progrès » serait une façon de « séduire le profane ».

Profane, mais pas idiot. Ces technopromesses se doublent systématiquement d’un discours pragmatique, moins médiatique. Si les investisseurs n’espèrent pas au fond d’eux-mêmes se faire cryogéniser pour voyager dans l’espace ou revenir à la vie après la mort, ils savent que ces recherches conduiront à améliorer les procédés de conservation, ce qui intéressera, par exemple, la grande distribution. Promettre la vie éternelle pour mieux congeler des filets de cabillaud ? « Nombre de chercheurs et d’entrepreneurs qui se montrent très prudents dans un contexte universitaire ont tendance à faire des déclarations sensationnalistes lorsqu’ils parlent à la presse : un appel direct aux investisseurs, qui ont pour la plupart des connaissances techniques limitées et se fondent largement sur leur lecture du New York Times ou du Wall Street Journal  », estime de son côté Zachary Chase Lipton, chercheur en apprentissage machine à l’université Carnegie Mellon, qui s’efforce, sur son blog Approximately Correct, de déconstruire les fantasmes autour de l’intelligence artificielle.

Pour Gabriel Dorthe, philosophe qui a intégré pour le besoin de ses recherches l’Association française transhumaniste, « ces effets d’annonce monstrueux occultent ou banalisent un certain nombre d’applications concrètes de l’intelligence artificielle ». Notamment les algorithmes d’aide à la prise de décision, conçus pour rationaliser les choix humains et d’ores et déjà utilisés par la police, la justice, les assurances et les départements de ressources humaines aux États-Unis. Loin des radars médiatiques, la mathématicienne Cathy O’Neil met en évidence dans son livre Weapons of Math Destruction (« Armes de destruction mathématique ») (8) les conséquences qu’entraîne l’usage de ces algorithmes sur les populations les plus vulnérables (9) : ce type de programme catégorise par exemple comme potentiellement dangereux des individus qui n’ont commis d’autre crime que de vivre dans un quartier pauvre. Un sujet sérieux, mais assurément moins racoleur que la fin de l’espèce humaine...

« Nous sommes tous complices de cela, chercheurs compris. Le transhumanisme permet à ceux qui travaillent dans la recherche de publier des livres ou des articles sur l’humanité en péril, d’obtenir des postes, etc. », affirme Dorthe. En 2014, plus de huit cents personnes, dont une bonne part de chercheurs et pas moins de trois cents neurobiologistes, ont signé une lettre ouverte contre le Human Brain Project, ce programme de recherche de 1,2 milliard d’euros (dont 500 millions issus de fonds européens) visant à recréer, d’ici à 2024, un cerveau humain grâce à un superordinateur. Comme beaucoup, Richard Hahnloser, professeur de neurosciences à l’université de Zurich, fustigeait à l’époque des « promesses sans contenu réel (10)  », l’absence de scientifiques dans les instances dirigeantes et le poids des industriels, davantage attirés par la perspective d’ordinateurs plus performants grâce à l’informatique neuromorphique (imitant le fonctionnement du cerveau) que par la compréhension de notre matière grise.

La promotion d’une posthumanité technologique a également pour conséquence de contourner la politique. Tout se passe comme si l’intelligence artificielle posait une question trop sérieuse pour être laissée aux gouvernements ou à la délibération publique, et qu’il fallait plutôt la réserver aux cénacles d’initiés que forment les instituts d’experts, fussent-ils juges et parties. Paradoxalement, observe Panese, « la réflexion éthique a un effet toxique de dépolitisation des enjeux. Google, Amazon, Facebook, Apple, Microsoft ont un intérêt assumé à circonscrire le débat au registre des valeurs, sans laisser de place aux réflexions sur les conséquences immédiates des technologies, sur les inégalités sociales ou sur l’émergence de nouveaux lieux de pouvoir ».

Outre ce glissement du politique vers l’éthique, le discours de la singularité implique aussi une seconde translation, celle de la rationalité scientifique vers le registre du mythe. La technique deviendrait ici le support non pas d’une théorie prédictive étayée par des observations (comme en climatologie), mais d’un grand récit tragique de la vie humaine. « Le transhumanisme est un système de croyances, qui a plus à voir avec la religion qu’avec la science », nous affirme ainsi Richard Jones, professeur de physique à l’université de Sheffield et auteur d’un texte intitulé « Contre le transhumanisme » (11). « Il fait appel aux mythes fondateurs de l’humanité, en réutilise les éléments-clés : l’idée que nous pourrions atteindre l’abondance, voire l’immortalité, grâce à l’intervention d’une intelligence supérieure, capable de faire notre bonheur ou notre malheur... De manière plus surprenante, le transhumanisme rappelle également le cosmisme russe, mouvement philosophique de la fin du XIXe siècle, en particulier le penseur orthodoxe Nikolaï Fiodorov. Selon Fiodorov, la science allait permettre de faire advenir les promesses de la Bible ici, sur Terre. Il était convaincu que la technologie finirait par nous rendre immortels. »

Promesse de salut

Si le récit de la singularité fonctionne aussi bien, c’est qu’il fait écho à des mythes. « C’est un discours de type apocalyptique très ancien, qui remonte en Occident au joachimisme (12) du XIIe siècle »,explique Franck Damour, historien et chercheur à l’Université catholique de Lille. L’essor des nouvelles technologies offre une promesse de salut qui se décline diversement selon les déterminations culturelles. Dans la conception cyclique de l’histoire propre à l’hindouisme, l’avènement de l’intelligence artificielle ne préfigure pas un événement unique, un basculement irréversible dans une ère singulière et essentiellement différente, comme dans la pensée occidentale de l’Apocalypse. Il s’agit plutôt d’un retour, d’une restauration d’un temps cosmogonique ancien. Ainsi, le monde reverrait bientôt l’âge glorieux du Satya Yuga, l’âge d’or de l’humanité (13).

Aux États-Unis, l’idéologie transhumaniste résonne avec certains mouvements religieux du protestantisme américain ; « en particulier avec ce que l’on appelle “le quatrième grand réveil”, qui, dans les années 1960, faisait de la réussite corporelle — un corps sain, fort, et qui vit longtemps — un signe de l’élection divine », commente Damour. Ainsi, contrairement aux mouvements scientistes du XIXe siècle, qui portaient une dimension collective, comme le saint-simonisme, il ne s’agit plus dans le transhumanisme de sauver la société, mais l’individu. « On saute de l’individu à un discours sur l’espèce humaine en général, sans passer par l’intermédiaire social,analyse l’historien. Le salut passe d’abord par le corps. Ce ne sont plus les États qui jouent un rôle décisif dans l’organisation du monde, mais les individus, à travers les structures entrepreneuriales. Le libéralisme n’a peut-être jamais eu une visée aussi forte. » Et ses adversaires se retrouvent d’autant plus démunis qu’il leur a confisqué un puissant propulseur : l’idée de progrès.