RESUMEZ LE TEXTE SUIVANT EN 250 MOTS, AVEC UNE MARGE DE PLUS OU MOINS 10%,
ET DONNEZ-LUI UN TITRE.
«LE développement d’une intelligence artificielle générale pourrait signer la fin de l’humanité. » À
l’occasion de la mort de Stephen Hawking, en mars 2018, cette fameuse citation de l’astrophysicien a résonné
dans la presse et sur les réseaux sociaux. Longtemps cantonnée au registre de la science-fiction, la peur de
l’intelligence artificielle s’enracine depuis quelques années dans le débat public, associée tantôt à
l’automatisation des métiers et au chômage, tantôt à la perspective non moins terrifiante de robots tueurs (1).
Du philosophe et chercheur Nick Bostrom (2) à M. Elon Musk, le fondateur des entreprises Tesla et
SpaceX, diverses personnalités multiplient ainsi les mises en garde contre le risque que des machines
« superintelligentes » et potentiellement incontrôlables feraient peser sur l’humanité. Pour le patron de Tesla,
leur danger dépasserait même celui de la bombe atomique. À cette crainte s’ajoute celle du transhumanisme,
une idéologie née en 1980 dans la Silicon Valley, qui promeut l’amélioration physique et intellectuelle des
humains par les nouvelles technologies et l’intelligence artificielle, avec à terme une fusion de l’humain et de
la machine (3). Dès 2002, l’économiste et philosophe Francis Fukuyama voyait là le plus grand péril de
l’histoire de l’humanité (4).
L’hypothèse selon laquelle la machine pourrait bientôt dépasser l’homme porte un nom. Il s’agit de la
« singularité », un terme utilisé pour la première fois dans l’article « The coming technological singularity »,
publié par l’auteur de science-fiction américain Vernor Vinge en 1993 (5). Elle désigne une date incertaine à
laquelle l’intelligence artificielle dépassera la nôtre, inaugurant donc une nouvelle ère impossible à concevoir
pour nos cerveaux humains. Vinge a lui-même eu ses prédécesseurs et inspirateurs, des rêveries du
mathématicien Stanislaw Ulam sur l’accélération exponentielle du progrès aux écrits d’Isaac Asimov (La
Dernière Question, 1956) et de Philip K. Dick (Les Marteaux de Vulcain, 1960 ; La Fourmi électrique, 1969),
en passant par les hypothèses du statisticien Irving John Good sur les machines ultra-intelligentes.
Érigée en problème-clé par les industries de la Silicon Valley et ses intellectuels organiques, la
singularité s’est muée au cours des années 2000 en école de pensée. Certains, comme M. Raymond Kurzweil,
transhumaniste convaincu et chercheur chez Google, y voient non pas une catastrophe mais un événement
désirable. Si ce techno-optimisme reste minoritaire, tous ces analystes s’accordent cependant sur un point :
l’avancée inéluctable et exponentielle du progrès technique rend la singularité inévitable. Plutôt que de tenter
de l’empêcher, il s’agirait de préparer l’humanité à son avènement pour en limiter les conséquences négatives.
Une « érotisation anxieuse du progrès »
Mais un paradoxe saute aux yeux : apocalyptiques ou préventifs, ces scénarios émanent de chercheurs
et d’industriels eux-mêmes engagés dans le développement de ce contre quoi ils se mobilisent. Arrosés par
l’argent de la Silicon Valley, les organisations et les comités d’éthique censés nous prémunir contre le
soulèvement des machines en édictant normes et règles se multiplient.
Promotrice d’une intelligence artificielle bienveillante, l’association OpenAI a par exemple été fondée
en 2015 par des chefs d’entreprise comme M. Musk, M. Sam Altman, dirigeant du très puissant incubateur Y
Combinator, ou M. Peter Thiel, cofondateur de PayPal. Le Future of Life Institute, qui cherche à diminuer
les « risques existentiels » liés au développement des technologies, lancé notamment par M. Jaan Tallinn,
cofondateur de Skype, a reçu une généreuse donation de 10 millions de dollars (près de 8,5 millions d’euros)
de la part de M. Musk. La Singularity University, qui vise à éduquer et à responsabiliser les acteurs de
l’industrie numérique face aux « grands défis de l’humanité », a été ouverte grâce aux fonds de patrons-
ingénieurs-essayistes comme M. Kurzweil ou M. Peter Diamandis, spécialisé dans le tourisme spatial et
l’exploitation des ressources minières des astéroïdes. Quant au Partenariat pour que l’intelligence artificelle
profite aux gens et à la société (Partnership on AI to benefit people and society), lancé en grande pompe en
septembre 2016 pour promouvoir de « bonnes pratiques », il compte parmi ses fondateurs Google, Apple,
Facebook, Amazon, Microsoft et IBM. La liste est encore longue, mais tous ces industriels partagent le credo
de M. Diamandis : « Un jour, les dirigeants politiques se réveilleront et il sera trop tard. Il faut les devancer.
Je crois bien plus au pouvoir des entrepreneurs qu’à celui des hommes politiques, ou même de la politique
tout court (6). »
Dans son livre Le Mythe de la singularité, l’informaticien et philosophe Jean-Gabriel Ganascia résume
cette situation qui ne manque pas de sel : « Nous nous trouvons donc devant des “pompiers pyromanes”, qui,
tout en allumant volontairement un incendie, font mine d’essayer de l’éteindre pour se donner le beau
rôle (7). » La philanthropie autoproclamée de ces sociétés cadre en effet assez mal avec leur conduite en
matière de fiscalité ou de droit du travail. Pourquoi, dès lors, financent-elles des structures qui, par
l’intermédiaire de chercheurs et de philosophes, ventilent de funestes prévisions sur les conséquences des
technologies qu’elles développent ?
Que M. Musk ou M. Mark Zuckerberg, le fondateur de Facebook, se sentent ou non sincèrement
investis de la mission de reconduire et d’actualiser l’idéal de progrès des Lumières, ils restent des hommes
d’affaires. Leur réussite tient à un modèle décliné depuis deux décennies : faire connaître un problème dont
ils s’apprêtent à commercialiser la solution. Allonger la durée de vie, étendre les capacités mentales ou
corporelles représente un marché prometteur, qui pourrait dépasser le milliard de dollars avant 2020. C’est
aussi une bonne publicité, qui place l’industrie numérique au centre de l’avenir humain... et de l’attention des
investisseurs. Francesco Panese, professeur d’études sociales de la médecine et des sciences à l’université de
Lausanne, voit émerger depuis quelques années une « économie de la promesse », utopique ou
dystopique. « L’émergence des start-up dans le milieu de la technologie est fondée sur l’investissement de
capital-risqueurs qui débloquent des fonds en fonction des promesses de grandes transformations du
monde », nous explique-t-il. Étant donné le décalage entre les techniciens experts qui innovent et les
capitalistes non initiés, ce que le sociologue appelle l’« érotisation anxieuse du progrès » serait une façon
de « séduire le profane ».
Profane, mais pas idiot. Ces technopromesses se doublent systématiquement d’un discours
pragmatique, moins médiatique. Si les investisseurs n’espèrent pas au fond d’eux-mêmes se faire cryogéniser
pour voyager dans l’espace ou revenir à la vie après la mort, ils savent que ces recherches conduiront à
améliorer les procédés de conservation, ce qui intéressera, par exemple, la grande distribution. Promettre la
vie éternelle pour mieux congeler des filets de cabillaud ? « Nombre de chercheurs et d’entrepreneurs qui se
montrent très prudents dans un contexte universitaire ont tendance à faire des déclarations sensationnalistes
lorsqu’ils parlent à la presse : un appel direct aux investisseurs, qui ont pour la plupart des connaissances
techniques limitées et se fondent largement sur leur lecture du New York Times ou du Wall Street
Journal », estime de son côté Zachary Chase Lipton, chercheur en apprentissage machine à l’université
Carnegie Mellon, qui s’efforce, sur son blog Approximately Correct, de déconstruire les fantasmes autour de
l’intelligence artificielle.
Pour Gabriel Dorthe, philosophe qui a intégré pour le besoin de ses recherches l’Association française
transhumaniste, « ces effets d’annonce monstrueux occultent ou banalisent un certain nombre d’applications
concrètes de l’intelligence artificielle ». Notamment les algorithmes d’aide à la prise de décision, conçus pour
rationaliser les choix humains et d’ores et déjà utilisés par la police, la justice, les assurances et les
départements de ressources humaines aux États-Unis. Loin des radars médiatiques, la mathématicienne Cathy
O’Neil met en évidence dans son livre Weapons of Math Destruction (« Armes de destruction
mathématique ») (8) les conséquences qu’entraîne l’usage de ces algorithmes sur les populations les plus
vulnérables (9) : ce type de programme catégorise par exemple comme potentiellement dangereux des
individus qui n’ont commis d’autre crime que de vivre dans un quartier pauvre. Un sujet sérieux, mais
assurément moins racoleur que la fin de l’espèce humaine...
« Nous sommes tous complices de cela, chercheurs compris. Le transhumanisme permet à ceux qui
travaillent dans la recherche de publier des livres ou des articles sur l’humanité en péril, d’obtenir des postes,
etc. », affirme Dorthe. En 2014, plus de huit cents personnes, dont une bonne part de chercheurs et pas moins
de trois cents neurobiologistes, ont signé une lettre ouverte contre le Human Brain Project, ce programme de
recherche de 1,2 milliard d’euros (dont 500 millions issus de fonds européens) visant à recréer, d’ici à 2024,
un cerveau humain grâce à un superordinateur. Comme beaucoup, Richard Hahnloser, professeur de
neurosciences à l’université de Zurich, fustigeait à l’époque des « promesses sans contenu
réel (10) », l’absence de scientifiques dans les instances dirigeantes et le poids des industriels, davantage
attirés par la perspective d’ordinateurs plus performants grâce à l’informatique neuromorphique (imitant le
fonctionnement du cerveau) que par la compréhension de notre matière grise.
La promotion d’une posthumanité technologique a également pour conséquence de contourner la
politique. Tout se passe comme si l’intelligence artificielle posait une question trop sérieuse pour être laissée
aux gouvernements ou à la délibération publique, et qu’il fallait plutôt la réserver aux cénacles d’initiés que
forment les instituts d’experts, fussent-ils juges et parties. Paradoxalement, observe Panese, « la réflexion
éthique a un effet toxique de dépolitisation des enjeux. Google, Amazon, Facebook, Apple, Microsoft ont un
intérêt assumé à circonscrire le débat au registre des valeurs, sans laisser de place aux réflexions sur les
conséquences immédiates des technologies, sur les inégalités sociales ou sur l’émergence de nouveaux lieux
de pouvoir ».
Outre ce glissement du politique vers l’éthique, le discours de la singularité implique aussi une seconde
translation, celle de la rationalité scientifique vers le registre du mythe. La technique deviendrait ici le support
non pas d’une théorie prédictive étayée par des observations (comme en climatologie), mais d’un grand récit
tragique de la vie humaine. « Le transhumanisme est un système de croyances, qui a plus à voir avec la religion
qu’avec la science », nous affirme ainsi Richard Jones, professeur de physique à l’université de Sheffield et
auteur d’un texte intitulé « Contre le transhumanisme » (11). « Il fait appel aux mythes fondateurs de
l’humanité, en réutilise les éléments-clés : l’idée que nous pourrions atteindre l’abondance, voire
l’immortalité, grâce à l’intervention d’une intelligence supérieure, capable de faire notre bonheur ou notre
malheur... De manière plus surprenante, le transhumanisme rappelle également le cosmisme russe,
mouvement philosophique de la fin du XIXe siècle, en particulier le penseur orthodoxe Nikolaï Fiodorov.
Selon Fiodorov, la science allait permettre de faire advenir les promesses de la Bible ici, sur Terre. Il était
convaincu que la technologie finirait par nous rendre immortels. »
Promesse de salut
Si le récit de la singularité fonctionne aussi bien, c’est qu’il fait écho à des mythes. « C’est un discours
de type apocalyptique très ancien, qui remonte en Occident au joachimisme (12) du XIIe siècle »,explique
Franck Damour, historien et chercheur à l’Université catholique de Lille. L’essor des nouvelles technologies
offre une promesse de salut qui se décline diversement selon les déterminations culturelles. Dans la conception
cyclique de l’histoire propre à l’hindouisme, l’avènement de l’intelligence artificielle ne préfigure pas un
événement unique, un basculement irréversible dans une ère singulière et essentiellement différente, comme
dans la pensée occidentale de l’Apocalypse. Il s’agit plutôt d’un retour, d’une restauration d’un temps
cosmogonique ancien. Ainsi, le monde reverrait bientôt l’âge glorieux du Satya Yuga, l’âge d’or de
l’humanité (13).
Aux États-Unis, l’idéologie transhumaniste résonne avec certains mouvements religieux du
protestantisme américain ; « en particulier avec ce que l’on appelle “le quatrième grand réveil”, qui, dans les
années 1960, faisait de la réussite corporelle — un corps sain, fort, et qui vit longtemps — un signe de
l’élection divine », commente Damour. Ainsi, contrairement aux mouvements scientistes du XIXe siècle, qui
portaient une dimension collective, comme le saint-simonisme, il ne s’agit plus dans le transhumanisme de
sauver la société, mais l’individu. « On saute de l’individu à un discours sur l’espèce humaine en général,
sans passer par l’intermédiaire social,analyse l’historien. Le salut passe d’abord par le corps. Ce ne sont plus
les États qui jouent un rôle décisif dans l’organisation du monde, mais les individus, à travers les structures
entrepreneuriales. Le libéralisme n’a peut-être jamais eu une visée aussi forte. » Et ses adversaires se
retrouvent d’autant plus démunis qu’il leur a confisqué un puissant propulseur : l’idée de progrès.
LE MONDE DIPLOMATIQUE- CHARLES PERRAGIN & GUILLAUME RENOUARD
Journalistes, Collectif Singulier.
(1) Lire Édouard Pflimlin, « Les Nations unies contre Terminator », Le Monde diplomatique, mars 2017.
(2) Nick Bostrom, Superintelligence : Paths, Dangers, Strategies, Oxford University Press, 2014.
(3) Lire Philippe Rivière, « Nous serons tous immortels... en 2100 », Le Monde diplomatique, décembre 2009.
(4) Francis Fukuyama, Our Posthuman Future : Consequences of the Biotechnology Revolution, Picador-
Farrar, Straus and Giroux, New York, 2002.
(5) Vernor Vinge, « The coming technological singularity : How to survive in the post-human era » (PDF),
université d’État de San Diego, département de sciences mathématiques, 1993.
(6) Cf. Fabien Benoit, « À Palo Alto, au royaume des radieux », Libération, Paris, 9 janvier 2017.
(7) Jean-Gabriel Ganascia, Le Mythe de la singularité. Faut-il craindre l’intelligence artificielle ?, Seuil, coll.
« Science ouverte », Paris, 2017. Lire aussi Jérôme Lamy, « Intelligence artificielle ou collective ? », Le Monde
diplomatique, juin 2018.
(8) Cathy O’Neil, Weapons of Math Destruction : How Big Data Increases Inequality and Threatens
Democracy, Crown, New York, 2016.
(9) Lire Frank Pasquale, « Mettre fin au trafic des données personnelles », Le Monde diplomatique, mai 2018.
(10) Lise Loumé, « Human Brain Project : faut-il continuer ce projet à 1,2 milliard d’euros ? », Sciences et
Avenir, Paris, 9 juillet 2014.
(11) Richard Jones, Against Transhumanism. The Delusion of Technological Transcendence, Soft machines,
15 janvier 2016.
(12) Du nom du mystique italien Joachim de Flore (1130-1202).
(13) Cf. Robert Geraci, « A tale of two futures : Techno-eschatology in the US and India », Social Compass, vol.
63, no 3, New York, septembre 2016.
