Intervention à la table ronde “IA et pédagogie” organisée par le Collège des Enseignants en Radiologie de France, au CHU d’Angers le 21 mai 2026. 

Si on imagine (ce qui est discutable, mais qu’on admettra ici pour la discussion) que les grands modèles d’IA puissent numériser et articuler l’ensemble de nos savoirs, est-ce qu’il va devenir inutile d’apprendre ?  De la même manière que nous pouvons recourir à une calculatrice pour faire nos additions, on pourra solliciter nos IA dès qu’il s’agira de mobiliser une connaissance et d’articuler un raisonnement, qu’il soit logique, analogique, procédural… L’IA pourrait s’en charger et nous n’aurions plus besoin d’apprendre, de connaître, ou de réfléchir. 

À première vue, la question peut sembler tirée par les cheveux. Il me semble qu’elle est pertinente (donc merci de l’avoir posée), dans la mesure où c’est une manière de répondre au discours ambiant au sujet du déclin cognitif que l’IA est censé entraîner : elle nous rendrait paresseux et idiots en faisant les efforts à notre place, en nous enlevant toutes les occasions de “muscler” notre esprit.

Pour ne laisser aucune place au suspense, je donne tout de suite ma réponse, et elle est négative. Je ne pense pas que l’IA va nous simplifier la vie, au contraire, elle va la compliquer. Il va falloir apprendre pour s’en tirer, et pour de nombreuses raisons, qui tiennent aux spécificités de l’IA dite « générative ».

Premièrement, il faut des connaissances pour l’utiliser, non seulement des connaissances relatives aux outils (savoir prompter, etc.), mais aussi des connaissances permettant de savoir quoi lui demander, autrement dit concernant le domaine en question. Depuis la sortie des outils de génération d’image à destination du grand public (Dall-E, MidJourney, Stable Diffusion…), on voit que ceux qui ont des notions de cadrage, d’éclairage ou de composition obtiennent des images plus précises ou intéressantes.

Deuxièmement, il faut des connaissances pour pouvoir vérifier les réponses. Il s’agit de machines entraînées à produire la suite de texte ou de pixels la plus probable, et non à aller chercher une réponse dans une base de connaissances. Même lorsque les LLM sont restreints à un ensemble de documents (en utilisant des « RAG »), il reste un nombre résiduel d’« hallucinations ». Certaines études montrent que lorsqu’on demande à un LLM de reprendre l’orthographe ou la syntaxe d’un texte, il a tendance à introduire d’autres changements qui peuvent en altérer le sens (voir Abdulhai et al. “How LLMs Distort Our Written Language”, arxiv:2603.18161).

Un aspect du problème tient à ce que les modèles d’IA dite générative ont du mal à restituer des formes à l’identique, si on lui demande de restituer une forme il ne la transmet pas il la régénère (voir les vidéos où on demande à un modèle de répéter cinquante fois la même image : elle  se métamorphose dans des directions bizarres à chaque itération).

Une équipe de Microsoft a montré que lorsqu’on demande à des LLM de réaliser une suite de plusieurs opérations sur des documents, ils introduisent progressivement des micro-changements, qui, étant ténus, sont peu visibles, mais comme ils s’accumulent d’étape en étape, finissent par « corrompre » le sens des documents (Laban et al., “LLM Corrupt Your Documents When You Delegate,” arxiv:2604.15597).

Si vous n’êtes ni en mesure de poser la bonne question, ni en mesure d’évaluer le résultat, utiliser un LLM peut vite devenir un cauchemar : il ne fait pas ce que vous avez en tête, et vous n’êtes pas en capacité de comprendre ce qui cloche. C’est ce qu’illustrent les « memes » sur l’enfer du vibe coding pour les programmeurs sans expérience.

Le problème, c’est que les connaissances nécessaires ne s’acquièrent pas sur les bancs de l’école ou en regardant des tutoriels sur Youtube. Il faut de l’expérience, sans doute des années. Mais comment convaincre ceux qui commencent à coder aujourd’hui de se passer de l’IA pendant dix ans, le temps d’avoir l’expérience nécessaire ? Comment pourront-ils se faire embaucher si leur collègues peuvent se prévaloir d’être beaucoup plus productif ? Tout est en place pour qu’ils soient incités à utiliser l’IA dès le départ.

C’est comme si on mettait quelqu’un qui vient d’avoir le permis au volant d’une voiture semi-autonome, dont l’autonomie lui permet d’aller beaucoup plus vite mais à qui il arrive qu’elle fasse des petites erreurs. La plupart du temps ce n’est pas grave, mais parfois elles sont fatales. Il faudra qu’il reste attentif en permanence, alors que la plupart du temps il ne se passe rien de particulier – une tâche plus adaptée à un crocodile qu’à un humain. Quand bien même il arriverait à rester attentif, son manque d’expérience l’empêchera, premièrement, de déceler la plupart des erreurs, deuxièmement, de faire la différence entre celles qui sont anodines et celles qui sont fatales, et troisièmement, d’avoir développé assez de réflexes pour reprendre le volant en cours de route.

On peut en penser ce qu’on veut, la direction que prennent les entreprises et les administrations est de déployer des outils pour tout le monde, quel que soit le niveau d’expérience. Dans les startups, et notamment celles qui viennent de se créer, où les fondateurs et employés n’ont pas encore d’expérience, l’heure est au déploiement d’agents. Cela semble également être le cas en Chine, avec des usagers qui voient OpenClaw, après qu’on leur ait installé, supprimer ou modifier des fichiers sans qu’ils comprennent pourquoi, ni comment revenir en arrière. Les choses n’en resteront pas là, et j’imagine qu’il y aura des solutions pour former les usagers, à la fois aux outils, et au domaines auxquels ils les appliquent, mais je crois que cela montre suffisamment bien pourquoi l’IA ne va pas simplifier nos vies, elle va les compliquer.

Le malentendu à ce sujet est nourri par le fait que nous pensons spontanément l’arrivée d’une nouvelle technologie en termes de délégation et de remplacement (par exemple, l’arrivée du deep learning dans les années 2010, censée faire disparaître les radiologues), alors que c’est rarement le cas (je constate que vous êtes toujours là). La situation est différente, et je voudrais en proposer trois explications.

La première est l’effet rebond, aussi appelé « paradoxe de Jevons », du nom de l’économiste qui a observé que la machine à vapeur, qui a rendu l’exploitation de charbon plus efficace (et aurait pu la diminuer si les usages étaient restés constants) en a fait exploser la consommation (puisque les usages se sont multipliés : usines, bateaux, trains, etc.). On l’a vu avec l’arrivée des e-mails (moins de temps passé par message donne lieu à une démultiplication des messages, et donc à plus de temps dédié à la correspondance en général), on le voit avec les LLM : au lieu de traiter un dossier ou un appel d’offre dans un temps donné, on peut en traiter x fois plus, sans limite de taille (résumés automatiques), dans toutes les langues (traduction automatique), etc. Il y aura peut-être moins d’emplois, puisque certaines entreprises voient dans l’IA une bonne opportunité pour licencier du monde, mais plus de travail, puisque les outils vont intensifier les volumes et les cadences.

La deuxième est l’effet reine rouge, du nom de cet épisode de Through the looking glass où la Reine, prenant Alice par la main, la fait courir de plus en plus vite, sans qu’elles ne se déplacent. Devant l’étonnement d’Alice, la Reine explique que « […], here, you see, it takes all the running you can do, to keep in the same place » (« ici, il faut courir de toutes ses forces pour rester à la même place »). De la même manière, si tout le monde autour de nous se met à travailler deux fois plus vite, il faudra accélérer à notre tour, ne serait-ce que pour garder la même place dans la hiérarchie sociale – comme si nous étions sur un escalator descendant, qui accélère : il faut monter les marches pour rester à la même hauteur.

On pourrait souhaiter (qui ne le souhaiterait pas?) que les supposés gains de productivité permis par l’IA permette à chacun de prendre le temps, de se recentrer sur l’essentiel (et, pour reprendre la rengaine, permettre aux médecins d’être plus à l’écoute de leurs patients), mais cela a tout l’air d’un vœu pieu.

La combinaison du paradoxe de Jevons (démultiplication de la demande) et de l’effet reine rouge (accélération généralisée) nous conduit plutôt à une intensification sans précédent du travail, dans la continuité du processus d’accélération sociale déjà décrit par des sociologues, essayistes, philosophes comme Hartmut Rosa, Jonathan Crary, Christophe Bouton (ou même Durkheim lorsqu’il faisait de la « densité matérielle et morale » des sociétés un moteur de la division du travail).

La troisième explication (au malentendu consistant à croire que l’IA va nous simplifier le travail) tient à ce que la plupart des raisonnements (notamment les études récurrentes et sur « le nombre d’emploi que l’IA va détruire ») s’appuient sur le présupposé que les activités humaines restent constante, alors que l’introduction de nouvelles technologies vient les transformer.

On peut l’illustrer par l’exemple de la liste que fait Edison, en 1878, imaginant à quoi servira le phonographe qu’il vient d’inventer : la dictée de lettres et de textes, l’écoute de livres, notamment pour les aveugles, l’enseignement de l’élocution.. C’est seulement en quatrième position qu’on trouve la reproduction de musique. Puis il mentionne l’enregistrement des phrases et souvenirs de famille, notamment les dernières paroles des mourants, les jeux musicaux, les manières d’améliorer le téléphone… En d’autres termes, il applique le phonographe aux activités de son époque et n’arrive pas à imaginer la place que va prendre la musique, puisque précisément elle prendra cette place grâce au phonographe qu’il vient d’inventer.

De la même manière, à mesure que les LLM progressent, on voit une quantité d’études sur ce qui pourra ou non leur être délégué, et sur ce ou ceux qu’ils vont « remplacer », mais le plus important viendra plus probablement des nouvelles pratiques qu’ils vont faire émerger. Ainsi, les traductrices et traducteurs ne se voient pas seulement licenciés, on les rappelle ensuite pour que, payés au lance-pierres, ils relisent la masse croissante de textes traduits à la va-vite. On leur demande de déceler les erreurs et modifications peu visibles, mais potentiellement essentielles, qui ne sont pas de leur fait mais celui de l’IA, et en même temps de passer à la vitesse supérieure pour justifier l’usage de celle-ci – comme des crocodiles sur un escalator.

Donc non, on ne pourra pas se passer de l’apprentissage et de la réflexion, et je voudrais conclure par cette remarque : je ne crois pas qu’on apprenne seulement parce qu’on en a besoin. On apprend parce-que on est curieux, parce qu’on en a envie, et le fait que les machines sachent faire une chose ne la discrédite pas. Cela ne fait pas disparaître l’envie d’apprendre, comme le montre le cas des échecs. Il n’y a plus aucun doute sur le fait que les machines peuvent jouer aux échecs mieux que n’importe quel humain, et cela n’a pas pour autant mis fin à l’apprentissage et aux tournois d’échecs – c’est même apparemment, d’après un livre récent (Interregnum, de Jordan Himelfarb), encore une histoire pleine de rebondissement.

 

Quand on parle d’IA et de créativité, la première question qui se pose c’est : peut-on dire qu’avec l’IA d’aujourd’hui, les machines sont devenues créatives ?

C’est une idée qui peut paraître une contradiction dans les termes puisqu’une machine, même lorsqu’elle inclut une part d’aléatoire, reste fondamentalement déterminée et que, par définition, la créativité revient à faire émerger quelque chose de nouveau.

Dès 1843, au moment où elle réfléchit au potentiel des machines qui calculent, Ada Lovelace écrit qu’elles pourront tout faire, tant que cela peut être traduit en termes mathématiques, ce qui inclut aussi bien la poésie ou la musique, tout sauf une chose : elles ne pourront pas être à l’initiative, ou à l’origine de leurs idées.

Cent ans plus tard, dans l’article où il présentait son célèbre jeu de l’imitation, Alan Turing lui répondait avec ce qu’on pourrait surnommer l’argument de Laplace : Est-on bien sûrs que les humains sont à l’origine de leurs idées ? Peut-être que tous les processus mentaux sont déterminés, et que ce qu’on appelle créativité n’est que le reflet de notre ignorance à leur sujet. Dans ce cas, rien n’empêche les machines d’imiter les humains.

75 ans après, la recherche nous a appris beaucoup de choses sur ce qui favorise ou empêche la créativité, mais son fonctionnement reste mystérieux. On ne sait toujours pas vraiment d’où viennent les idées. Cela n’a pas empêché la fabrication de machines comme AlphaGo, capable d’inventer des mouvements qui ont stupéfait les plus grands joueurs, ou les grands modèles d’IA générative, qui produisent des formes culturelles à échelle industrielle. Est-ce que ça signifie que la question est close ?

Que les machines puissent produire des formes inédites n’implique pas forcément qu’elles soient créatives. Giuseppe Longo remarque que les nuages prennent des formes toujours nouvelles, mais personne n’a jamais considéré qu’il s’agissait de créativité, dans la mesure où même s’ils sont imprévisibles, il ne s’agit que de processus météorologiques complexes. Or les grands modèles d’IA ne sont pas autre chose, des processus complexes imprévisibles. Faut-il penser, avec Turing, que la créativité humaine n’est, comme le mouvement des nuages et les opérations des grands modèles d’IA, qu’un processus complexe imprévisible ?

Il y a plusieurs raisons de penser que non. Si le nombre de possibilités de ce que peuvent produire les modèles est immense, il reste contraint par les données d’entraînement. Autrement dit, l’espace des solutions possibles est prédéfini. Si les LLM donnent le sentiment de pouvoir répondre à n’importe quelle question, c’est seulement parce-qu’ils ont été entraînés sur l’ensemble de ce que notre civilisation a numérisé.

Or, si on observe l’histoire des sciences, ou plus largement l’histoire de l’évolution des espèces, nous avons, et quand je dis nous, ce n’est pas seulement les humains, ce sont les organismes vivants en général, nous avons une capacité à trouver des solutions qui sont hors de l’espace des possibles prédéfini par notre histoire, comme le montre l’histoire des révolutions scientifiques, artistiques et politiques, ou encore l’histoire des exaptations et bifurcations de l’évolution des espèces.

C’est ce qui fonde notre capacité à réagir en situation de crise, en situation d’exception, c’est-à-dire lorsque les données du passé ne suffisent pas à appréhender la singularité de ce qui a lieu. C’est ce qui fonde notre capacité à prendre une décision, c’est à dire à ne pas raisonner en fonction des critères hérités du passé, mais en fonction d’un avenir que l’on choisit.

Donc à la question, les machines sont-elles devenues créatives, on peut répondre qu’elles sont capables de proposer des formes nouvelles et d’explorer l’espace des solutions pour les problèmes dont les coordonnées ont été définies ou inférées à partir des données du passé, ce qui est déjà considérable, mais elles ne peuvent sortir du cadre tracé par les données d’entraînement. Elles font ce que Bachelard appelait des inventions incrémentales, mais pas d’inventions révolutionnaires. Elles ne sont pas à l’initiative de révolutions artistiques, scientifiques ou politique, et qui commence en général par ce que je vais faire maintenant, c’est à dire par faire un pas de côté par rapport à la façon majoritaire de poser la question.

Il y a quelque chose de suspect à vouloir à tout prix localiser l’origine de l’œuvre, que ce soit dans une personne ou une machine.

Si on regarde l’histoire de la culture occidentale, ce n’est qu’à partir de l’adoption de l’écriture qu’on s’est mis à attribuer les histoires ou les idées à des auteurs en particulier. Dans les cultures orales, les histoires se transmettent et évoluent à mesure qu’elles sont répétée, sans qu’il y ait cette obstination envers l’attribution. Les histoires appartiennent à tout le monde, elles émanent de la communauté, elles sont ce qu’on pourrait appeler des communs.

Les choses se sont intensifiées à la Renaissance avec l’invention de l’imprimerie. Devant la menace que représente la possibilité de copier les œuvres à l’infini, la signature prend une importance nouvelle. Le mot change de sens. « Signature » désignait la marque du divin sur les objets du monde et voilà qu’il se met à désigner la marque de l’auteur sur son œuvre. On fétichise l’auteur, l’artiste, et on fétichise sa signature au point qu’elle finit par prendre une valeur autonome, indépendamment des œuvres.

Avec l’adoption des grands modèles d’IA on assiste à une crise de ce régime d’attribution individuelle des œuvres de l’esprit. Désormais, il y a un doute qui plane. Devant chaque texte, image ou idée, on se demande si l’humain en est bien à l’origine, et quel rôle a joué la machine. Certains travaillent à retrouver les moyens de retracer chaque contribution individuelle, je crois que nous allons plutôt vers un régime ou, comme le dit Maurice Godelier au sujet des sociétés non modernes et non occidentales, les « œuvres sont sans artistes ». C’est probablement la fin des signatures sans œuvres et le retour des œuvres sans signature. La fin de l’idée d’artiste démiurge, de l’artiste à l’origine de ses œuvres, et peut-être le retour vers un statut de l’artiste au service des idées qu’il formule, des œuvres qu’il produit – aidé en cela par toutes sortes d’instruments, dont les IA génératives.

Cela implique de revoir les notions de créativité, d’auteur, de droit d’auteur, en atténuant l’obsession qu’il y a eu jusqu’à présent sur la maîtrise du processus et la propriété individuelle. Je ne dis pas cela pour légitimer le pillage qu’ont opéré les grandes startups d’IA en utilisant des millions d’œuvres sans le consentements de leurs auteurs, mais au contraire pour appeler à prendre soin de ces communs que sont les idées et les œuvres, notamment en les protégeant de ceux qui voudront inévitablement s’en accaparer.

C’est un bouleversement considérable, et sans doute celui que Michel Foucault pressentait lorsqu’il comparait la figure du sujet humain à un dessin sur le sable, sur le point de s’effacer une fois que la marée de la modernité aura reflué. Ça ne veut pas dire, comme certains veulent le croire, que l’histoire de l’humanité s’arrête là. Bien au contraire, elle commence un nouveau chapitre. Nous ne sommes qu’au début de nos surprises et il serait présomptueux de vouloir en tracer les contours à l’avance.

En novembre 2022, l’arrivée de ChatGPT surprend le grand public : comment une machine, autrement dit une entité dépourvue de conscience et de subjectivité, peut-elle répondre aux questions comme si elle les comprenait? Serait-ce parce-que les chercheurs ont réussi à fabriquer l’embryon d’une véritable “intelligence artificielle”, ou bien s’agit-il d’une illusion ? La conférence raconte l’histoire récente des grands modèles de langage (à l’origine de ChatGPT) et ouvre la boîte noire des algorithmes pour expliquer cette surprise, et nos difficultés à l’interpréter, dans des termes accessibles à tous.

Conférence donnée le 6 novembre 2025 dans le cadre des Journées de l’Intelligence Artificielle, Mairie de Biarritz.

Pour comprendre les années 2010 et l’enthousiasme autour du “deep learning”, il y avait le livre Genius Makers, de Cade Metz. On y découvrait l’histoire et les trajectoires de Geoffrey Hinton, de Yann LeCun, de DeepMind…

Pour comprendre les années 2020 et la folie qui accompagne les grands modèles de langage, il y a désormais “Empire of AI” de Karen Hao, qui revient sur la création de cet objet étrange qu’est OpenAI, sur son évolution depuis les bonnes intentions du départ (une recherche ouverte, éthique, etc) à la route à marche forcée vers la croissance exponentielle suite à la découverte des “lois d’échelle” (scaling laws), les dissensions entre Altman et Musk, puis entre Altman et Amodei (entre “l’accélération” à tout prix et la “safety”), dont est sorti, presque comme un hasard collatéral, ChatGPT.

Comme dans le livre de Cade Metz, on y découvre une génération (qui compte plus d’ingénieurs et de startupeurs que la précédente, dominée par les scientifiques et chercheurs) stupéfaite et dépassée par ce qu’elle invente, ce qui ne la dissuade jamais, mais l’encourage au contraire, à multiplier les déclarations grandiloquentes.

Bien qu’elle ait rapidement été blacklistée par la direction d’OpenAI, Karen Hao a réussi à s’introduire dans le milieu et à mener son enquête, sans s’arrêter à ceux qui font le plus de bruit : elle prend en compte toute la “chaîne de valeur” de l’IA, en allant interroger également les travailleurs du clics (au Kenya, au Venézuela…), ceux dont le voisinage voit fleurir des data centers qui captent leur eau (au Chili, en Uruguay…).

Une lecture utile pour garder la tête froide devant les déclarations tonitruantes des patrons de l’IA et de leurs chambres d’écho.

Lu dans Le Monde : il y aurait, en Chine, une “ruée” vers OpenClaw, l’outil d’IA qui peut exécuter des tâches sur un ordi ou un smartphone.

Problème, “OpenClaw entraîne aussi des dégâts. Le 9 mars, le média économique shanghaïen Jiemian a raconté comment un utilisateur a vu ses dossiers professionnels « être supprimés en masse à la suite d’une instruction un peu trop vague donnée à cet agent IA ». La désinstallation est alors si fastidieuse qu’un marché lucratif commence à voir le jour : celui des « tueurs de homards » et d’autres agents IA un peu trop invasifs.”

On pense aussitôt aux agents IA déployés chez Amazon, dont un, ayant estimé que du code était de mauvaise qualité, s’était mis à le supprimer en masse.

Tout cela peut sembler absurde, mais c’est probablement un ingrédient important de ce qu’il va se passer dans les années à venir.

Lien vers l’article : 
https://www.lemonde.fr/economie/article/2026/03/16/en-chine-la-ruee-vers-l-agent-ia-autonome-openclaw_6671420_3234.html

Un article du Guardian sur les agents déployés chez Amazon: https://www.theguardian.com/technology/2026/feb/20/amazon-cloud-outages-ai-tools-amazon-web-services-aws

Comment se fait-il que les agents conversationnels (comme ChatGPT ou autres…) soient capables de répondre à des questions élaborées, comme s’ils nous comprenaient ? Pour leurs fabricants, cela est dû à l’émergence d’une intelligence analogue à la nôtre. Pour leurs détracteurs, ce n’est qu’une illusion : les chatbots ne font que suggérer le prochain mot sur la base de probabilités, et ne “comprennent” pas le texte qu’ils traitent. La réalité est plus subtile, comme le montre l’histoire récente du projet d’intelligence artificielle.

Conférence organisée par l’association MICA à Anglet, le 27 mai 2025.

Penser l’intelligence artificielle est un livre collectif réalisé avec mes comparses Anne Alomber et Baptiste Loreaux, édité aux Presses du réel grâce à l’excellent travail de Laura Boisset.

Avec des contributions de : Anne Alombert, David W. Bates, Pierre Cassou-Noguès, Grégory Chatonsky, Yves Citton, Judith Deschamps, Eugène Favier-Baron, Matthieu Garling, Pablo Jensen, Frédéric Kaplan, Michał Krzykawski, Jean Lassègue, Alban Leveau-Vallier, Giuseppe Longo, Baptiste Loreaux, Lê Nguyên Hoang, Arnaud Regnauld, Sofia Taipa, Félix Tréguer, Gwenola Wagon, Simon Woillet

Voir sur le site de l’éditeur.

Depuis le début des algorithmes de production d’images, et maintenant de vidéos, l’obsession de leurs fabricants, leur objectif principal, a été le « réalisme ». C’est toujours selon ce « réalisme » supposé qu’ils sont évalués, départagés et célébrés. On cherche à produire des images qui peuvent passer pour réelles, ou bien des images « irréelles » (unreal – la tête de Sam Altman qui chante depuis une cuvette de toilettes, une course de canards dans un stade, etc.) mais dont les composants (corps, visages, mouvements, élocution…) sont le plus « réalistes » possible (« conforme aux lois de la physique », selon les termes des ingénieurs).

On peut remettre en question ce « réalisme », en rappelant ce qu’il charrie de biais et de stéréotypes, ou mieux en le poussant jusqu’à la caricature comme le font Gwenola Wagon et Stéphane Degoutin, qui jouent avec beaucoup d’intelligence et d’humour sur le fait que les bases de données sont bourrées d’« images de stock », avec des clichés omniprésents (les gens en costume, les pommes, la terre, l’herbe, les sourires…). Dans leur projet Everything is real, ils en tirent des travailleurs de call-centers extatiques, des salarymen qui se roulent dans l’herbe dans une version « green » et « corporate » du paradis, etc.

On peut aussi se demander pourquoi ce « réalisme » devrait être l’étalon du progrès des algorithmes. Je me souviens des chats-chiens, lapins-grenouilles et autres inventions saugrenues des premiers temps des GANs et des modèles de diffusion. En vidéo, cela donnait des séquences dont le fil ne suivait pas une narration mais une sorte de « navigation morphologique » de forme en forme, chaque image amenant à la suivante par ressemblance, par contiguïté morphologique, plutôt que par cohérence scénaristique.

Cela permet de rendre perceptible que les films générés par algorithmes ne se déploient pas selon une trajectoire temporelle mais dans l’espace latent des images possibles – un espace continu où les images de doigts sont « proches » de celles des saucisses, elles-mêmes proches de celles des trains, etc. On ne promène pas une caméra dans une zone du monde « réel », on extrait des images de cette bibliothèque d’images possibles.

Dans les vidéos qui cherchaient malgré tout à reproduire l’enregistrement d’une scène, on voyait une sorte de « tremblé » morphologique (ou flickering). D’une image à l’autre, les objets n’étaient pas très stables : le ballon n’était plus tout à fait rond et pouvait « tirer » vers un visage, les doigts s’allongeaient et se mettaient à ressembler à des saucisses, etc. On l’aperçoit encore dans certaines vidéos récentes, mais cela ne devrait pas durer, dans la mesure où, pour les ingénieurs, c’est de “l’instabilité”, c’est un défaut à gommer.

Quelques artistes y ont vu, plutôt qu’un défaut, ce qui faisait la spécificité et l’intérêt des modèles. Au lieu de chercher à tout prix à restituer une scène cohérente où chaque objet serait resté le même de bout en bout, ils ont voulu tirer parti de cette instabilité et faire dériver les images. Par exemple, dans le clip de Berzingue (réalisé pour Flavien Berger), le vidéaste Jamie Harvey laisse les frites en polystyrène devenir des serpents, puis des tentacules de poulpe, des trains, des bougies, un anniversaire dont le gâteau dérive vers une carte-mère, une fête foraine, la plage, un marché en Inde où les sari deviennent des capuches, des blouses de médecin, etc, etc.

Dans le monde des clips, l’idée d’une mutation continue de l’image allant d’une forme à une autre (morphing) avait déjà été mise en scène par John Landis en 1991 pour la chanson Black and White de Michael Jackson.

Plutôt que des machines à produire des séquences réalistes, aurait pu voir les modèles de génération de vidéo comme du morphing on steroids – ce qui aurait probablement donné lieu à des outils et des interfaces plus variés, et aurait permis au grand public d’avoir une meilleure idée de ce que montrent les images (des zones des espaces des images possibles ou “espaces latents” ) et à quoi correspond leur mouvement.

La transformation continue d’une image à une autre donne une impression de mouvement, mais ce “mouvement” est différent de la trajectoire des objets dans l’espace-temps que capturent les enregistrements vidéos classique. Il s’agit plutôt une dérive par analogie, un peu comme ce qui se passe dans la tête des bavards impénitents : dès qu’on leur parle d’une chose, ça leur en rappelle une autre, puis une autre… On peut penser également à l’association libre dans la cure psychanalytique, ou bien le déroulé de certains rêves qui bifurquent en fonction d’associations d’idées, de jeux de mots, de ressemblances entre lieux ou personnages, au mépris de la cohérence de la scène.

Le rêve peuvent aussi suivre un fil analogique plutôt que logique. Dans La science des rêves de Michel Gondry,  les scènes bifurquent à la faveur d’objets qui se transforment (les mains qui deviennent énorme), et qui sont toujours un peu autre chose : les pistes de ski sont des lacets colorés, les trains sont en rouleau de papier toilette, les pierres sont des boules de papier froissés,  etc.

Cette “dérive” par analogie est ce qui caractérise le délire à partir de la Renaissance, lorsque l’analogie change de statut. Dans Les Mots et les Choses,  Michel Foucault prend Don Quichotte en exemple: pour lui, “les troupeaux, les servantes, les auberges” ressemblent “aux châteaux, aux dames et aux armées”. “[Tout son] chemin est une quête aux similitudes”,  il “s’est aliéné dans l’analogie” et “croit à chaque instant déchiffrer des signes”. 

Dans son Journal de la création, Nancy Houston, décrit les phases de délire comme un moment où toutes les associations apparaissent comme hautement significatives, engageant ou forçant l’esprit à les suivre dans une frénésie épuisante (phases qui ont eu lieu, précise-t-elle, à des périodes où elle ne rêvait plus), « où tout renvoyait à tout (et surtout aux histoires qu’étaient en train de vivre mes personnages), où « chaque détail pouvait et devait être interprété. J’étais “électrisée”, en permanence, par les associations que produisait mon cerveau autant de “coïncidences” littéralement foudroyantes. » Elle se décrit comme un cheval, « monté » (on aimerait dire « possédé ») par une force inconnue qui l’agite jusqu’à l’épuisement, pendant ce qu’elle appelle (en parlant de Sylvia Plath), « le temps de la folie, le temps nervalien de “l’analogie universelle”, le temps merveilleux et abominable où tout signifie ».

Il ne s’agit pas de dire que les modèles de génération d’image imitent le mécanisme associatif du délire ou du rêve. Ce n’est pas le même mécanisme (si tant est qu’il y ait un mécanisme du délire ou du rêve), mais le même boulon, ou la même cheville : une navigation par contigüité dans l’espace des formes. Dans les deux cas, il y a une dérive morphologique, et dans les deux cas, cette dérive suit des inclinations singulières, qu’il s’agisse de l’histoire de l’individu (ses traumas, ses fantasmes, ses influences…) ou du collectif (reflétés dans les “biais” de la base de donnée d’entraînement). Plutôt que d’explorer les stéréotypes qui hantent les archives à partir desquelles elle est développée, l’industrie de l’intelligence artificielle choisit de les gommer,  avec une obstination qui n’est pas sans rappeler le refoulement “moderne” de la folie que décrivait Michel Foucault. On force le “progrès” des IAs vers la production de séquences “réalistes”, à rebours de leur fonctionnement intrinsèque. On n’entend parler que d'”intelligence”, de “raisonnement”, ou d'”agentivité”, mais très peu d'”imagination” (ou alors seulement de “créativité”, autrement dit une imagination sous contrôle, qui peut être mise au travail), et encore moins de rêve ou de délire (autrement dit d’imagination à la dérive). Une fois de plus, le projet d’intelligence artificielle reproduit et caricature l’histoire de la philosophie, ici dans ses relations compliquées avec la notion d’imagination, “folle du logis” dont les dérives remettent en cause le stéréotype d’une “raison” (dans le vocabulaire contemporain, l’une “intelligence”), en maîtrise d’elle-même. 

 

Comment font ChatGPT (et équivalents) pour produire des textes au sujet de notions complexes, comme s’ils les “comprenaient” ? On entend beaucoup parler de l'”espace latent” des algorithmes, pour désigner la manière dont ils encodent ces notions et leurs relations mutuelles. A quoi cela correspond ? Comment les décrire de manière accessible ? Est-ce pertinent, comme le font de plus en plus de scientifiques ou d’entrepreneurs, de les comparer au monde des idées de Platon (spoiler : non) ? Y a-t-il d’autres comparaisons, plus fécondes et éclairantes, que l’on pourrait imaginer (spoiler : oui) ? C’est le thème de mon dernier article, publié dans la revue “Signata” (et disponible en accès libre sur Open Edition) :

https://journals.openedition.org/signata/5885

S’il fallait choisir, parmi toutes les notions qui permettent de décrire comment fonctionnent les algorithmes d’intelligence artificielle dite générative (diffusion, transformers, backpropagation…), s’il ne fallait en retenir qu’une seule, ce serait celle d’espace latent.

Prenons un cas classique, un algorithme dont on souhaite qu’il soit capable de distinguer les images de chats de celles de chiens.

Image : collection d’exemples soumises à l’algorithme pour son entraînement. Pour plus de clarté, il n’y en a que trois, et sans arrière-plan, il en faut évidemment beaucoup plus, et faire varier les contextes, les poses, l’éclairage…

Notre algorithme se calibre sur une collection d’exemples. On peut dire dire qu’il décele des différences et des similarités entre les images d’entraînement. À noter que ces différences ne sont pas programmées. On ne lui indique pas que les chats et les chiens se distinguent plus facilement si on prête attention à la présence de moustache ou à la forme des oreilles. Les différences sont inférées de l’entraînement, ce qui fait qu’au bout du compte on ne sait pas ce que « regarde » un algorithme pour établir sa distinction (à quelles caractéristiques il fait plus ou moins attention). (mais on peut en avoir une idée, après coup, par des méthodes élaborées).

Une manière de décrire le processus serait de dire que l’entraînement de l’algorithme revient à positionner les images d’exemples les unes par rapport aux autres en fonction des différences décelées.

Imaginons que la taille fasse partie des différences décelées. L’entraînement de l’algorithme revient à positionner les images, les unes par rapport aux autres, en fonction de la taille.

Agencement des images en fonction d’une dimension, la taille

Si la forme des oreilles fait également partie des différences décelées, l’entraînement de l’algorithme revient à positionner les images les unes par rapport aux autres, en fonction de la taille et de la forme des oreilles.

Agencement des images en fonction de la taille et de la forme des oreilles

Mathématiquement, c’est comme si les images étaient rangées dans un espace à deux dimensions, chaque dimension correspondant à une différence décelée, ici la taille et la forme des oreilles.

Enfin, imaginons que la couleur de l’image fasse également partie des caractéristiques décelées. L’entraînement de l’algorithme revient donc à positionner les images les unes par rapport aux autres, en fonction de la taille, de la forme des oreilles, et de la couleur. Elles sont agencées dans un espace multidimensionnel de taille trois, chaque axe ou dimension correspondant à une de ces trois caractéristiques.

Positionnement des images dans un espace multidimensionnel de taille trois

Bien que nous soyons incapables de nous représenter au-delà de ces trois dimensions, il faut imaginer que les algorithmes font la même chose, ils « rangent » les objets dans des espaces à des dizaine de milliers de dimensions correspondant chacune à des différences qu’ils ont détectées, appelés « espace latent ». L’espace est dit « latent » car il n’existe pas vraiment, il est induit par l’algorithme à partir des différences détectées entre ses objets d’entraînement, c’est la manière dont il les classe.

Comprendre l’IA générative : les notions comme régions de l’espace latent

Chaque point de l’espace latent correspond à une combinaison de caractéristiques particulières (taille, oreilles, couleur, etc.). La distance entre les points correspond aux relations de similarité et de différence entre les exemples. Par conséquent, les objets similaires en viennent à être regroupés dans des « régions » de cet espace multidimensionnel. En voici une visualisation en trois dimensions :

«
 Région des chats » et « région des chiens » dans un espace latent à trois dimensions

Une fois l’entraînement effectué, c’est-à-dire une fois que l’algorithme aencodé une collection d’exemples dans un espace multidimensionnel des caractéristiques différenciantes (l’espace latent), l’algorithme dispose d’une définition des objets : chaque objet suffisamment représenté dans la base de données d’exemples correspond à une région de l’espace latent. Lorsqu’on lui présente une nouvelle image, ses caractéristiques permettront de la positionner dans l’espace latent et donc de voir, dans l’exemple qui nous occupe, si elle appartient à la région des chats ou des chiens : elle sera reconnue comme une image de chat ou de chien.

Inversement, il est possible de désigner un point de la région des chats, et de demander à l’algorithme de produire une image ayant la combinaison de caractéristiques correspondantes.

Le dessin donne une idée de la combinaison de caractéristiques souhaitées à l’algorithme, qui produit une image de chat possédant ces caractéristiques

Ou encore, il est possible de sélectionner un point intermédiaire entre la région des chats et celle des chiens pour voir à quoi ressemblerait un animal qui aurait des caractéristiques « à mi-chemin » entre celles de chaque espèce.

Image de chat-chien

Intéragir avec l’espace latent : produire une nouvelle image

La « sélection » du point, autrement dit la communication à l’algorithme de la combinaison de caractéristiques souhaitées, peut se faire de différentes manières (esquisses, textes…). La manière privilégiée aujourd’hui est la description textuelle (ou prompt), ce qui est assez pauvre, étant donné la variété des caractéristiques qui composent une image. Lorsque le prompteur a une intention précise, les images proposées en sont souvent assez « loin » et il faut « tâtonner » dans l’espace latent en reformulant le prompt, parfois sans succès. Certaines personnes ont développé assez de familiarité avec les outils pour tâtonner moins longtemps que les autres et vendent leur compétence (prompt engineers).

Intéragir avec l’espace latent : moduler une image existante

Dans la mesure où l’algorithme a été entraîné à reconnaître qu’il s’agit du même objet quelles qu’en soit ses variations, il a également encodé les variations elles mêmes. Il est capable de reconnaître un chien, quelle que soit sa taille, quelle que soit sa couleur, qu’il ait ou non la gueule ouverte, etc. La combinaison de caractéristiques correspondant à « avoir la gueule ouverte » est un vecteur dans l’espace latent. Dès lors, il est possible d’appliquer ce vecteur à une image pour lui appliquer la qualité correspondante.

L’image d’origine est tranformée en lui appliquant les vecteurs correspondant aux qualités souhaitées (posture, âge, genre, coiffure…). Image : Sieun Park, « How to edit images with GANs? Controlling the Latent Space of GANs », Medium, 17 août 2021.

En plus de produire de nouvelles images, l’IA générative permet donc de moduler les images existantes en lui appliquant des qualités. Cette modulation peut se décrire comme une exploration de l’espace latent. On peut comparer la modulation d’une image à une forme de scultpure sur un matériau souple (argile ou pâte à modeler) : il est possible d’étirer l’image, de modifier son orientation, d’en changer une partie… Étant donné les possibilités que cela ouvre, on peut penser qu’il y aura des innovations au niveau des interfaces pour que les utilisateurs en aient une perception plus intuitive.

Et le texte ?

L’utilisation du texte repose sur le même principe. En utilisant différentes méthodes (notamment, remplir des textes à trous), les algorithmes sont entraînés à associer les mots et leur contexte et en inférer des relations de distances et de proximité entre les mots qui correspondent à leur similarité, ou plus précisément par subsituabilité (ils peuvent apparaître dans le même contexte). Ainsi, « chien » sera plus proche de « chat » que de étagère. Cela conduit également à encoder les analogies au sens large (une chose est à une autre ce que ceci est à cela) sous forme de vecteur dans l’espace latent.

Une projection de l’espace vectoriel des mots dans un espace en trois dimensions permet de visualiser les vecteurs encodant la relation de genre, de temporalité, ou la relation pays / capitale. Image : word2vec tutorial, TensorFlow

En étendant l’entraînement à des formes textuelles plus grandes que les mots, les algorithmes encodent des notions et des qualités plus élaborées, comme le style littéraire ou la relation entre un texte et son résumé.

Quelle gamme de gestes créatifs ?

En amont de l’utilisation des algorithmes, il faut constituer la collection d’exemples qui permettra de les entraîner. C’est d’abord une curation (sélection de textes et d’images) qui va cadrer le répertoire des formes possibles, et définir une certaine tonalité – le reflet de la majorité des exemples utilisés.

Lors de l’entraînement, il est possible d’orienter ce répertoire en favorisant ou défavorisant certaines formes (apprentissage par renforcement). C’est une couche supplémentaire de curation.

L’usage de l’algorithme commence par une description (généralement le « prompt ») de la forme qu’il doit fournir, ou bien par l’envoi d’une forme déjà existante à moduler. Lorsque l’algorithme fournit la forme initiale, on peut parler à la fois de collage puisqu’elle est le résultat d’une combinaison de formes existantes (les éléments de la base de données d’entraînement), mais aussi d’esquisse puisque elle sert de point de départ au processus créatif.

Une fois la forme esquissée ou fournie à l’algorithme, il est possible de la moduler de plusieurs manières :

– obtenir des variations aléatoires, notamment lorsque l’esquisse ne convient pas mais que l’on ne sait pas comment décrire ce qu’il faudrait changer pour qu’elle convienne

– étirer la forme (outpainting, texte plus long…)

– moduler une caractéristique locale : ajouter des lunettes, enlever un élément, changer l’arrière-plan…

– moduler une caractéristique globale. Pour les images : le style général, la résolution, l’éclairage… Pour le texte : le niveau de complexité, le niveau de politesse, le niveau de sérieux…

– les modulations peuvent se faire en transférant une caractéristique d’une forme à une autre : appliquer l’expression d’un visage à un autre, ou appliquer le style de Balzac à une recette de cuisine… A nouveau, on se rapproche du collage.

Compte-rendu de la conférence d’ouverture du séminaire IA générative, donnée à l’Institut de l’ENS en septembre 2023

Quelques leçons de l’histoire

En mars 2023, peu après que Elon Musk ait défrayé la chronique en appelant à un moratoire sur les recherches en IA (sans pour autant rien cesser de ses propres activités), Geoffrey Hinton annonce sa démission de Google. Le pionnier le plus ancien et le plus influent du deep learning s’avoue dépassé et inquiet devant les évolutions récentes du champ auquel il a tant contribué, nous invitant tous à faire preuve d’humilité dans nos appréciations.

Si les dernières avancées de l’IA défient l’entendement, il est toutefois possible de mieux cerner ce qui se trame en revenant à certaines notions fondamentales, à commencer par celle d’algorithme. Inventés au départ pour des agents humains, les algorithmes consistent à décomposer une opération en étapes si élémentaires que les opérateurs peuvent les effectuer sans comprendre ce qu’ils font. Autrement dit, mettre au point un algorithme revient à trouver les moyens de réaliser une opération en se passant d’intelligence : lorsqu’est mise au point une machine qui joue au go, cela ne signifie pas que la machine est dotée d’intelligence, mais que ses concepteurs ont trouvé le moyen de jouer au go en s’en passant.

Pour autant, l’idée qu’il est possible de fabriquer des machines intelligente est présente dès les plus anciens textes de notre civilisation (Homère, Hésiode…), en particulier via les fabrications du dieu Héphaïstos, où elles sont associées à la possibilité d’un monde sans travail.

Inspirés par cet exemple, certains savants s’attellent à fabriquer des automates qui imitent l’humain et le vivant, quitte à tricher pour impressionner leur public. C’est le cas, au dix-huitième siècle, du célèbre « turc mécanique », mis au point par le baron von Kempelen, censé pouvoir jouer aux échecs alors qu’il dissimulait un opérateur humain. Cette tendance historique à l’exagération, voire à la supercherie, invite à la prudence aujourd’hui : des dispositifs présentés comme « intelligents » ou simplement « autonomes » cachent une foule d’humains indispensables à leur bon fonctionnement, chargés de leur fournir de l’énergie, des données, de labelliser ces données (« travailleurs du clic »), de faire la maintenance et les mises à jour de leurs logiciels, etc.

C’est dans les années cinquante du vingtième siècle, à la faveur de l’invention de l’ordinateur, que la fabrication de machines intelligentes devient un projet scientifique sérieux. Impressionnés par leurs premières réalisations, les chercheurs pensent être sur le point d’y arriver, ce qui est relayé à grand bruit par la presse. Le temps passe sans qu’ils ne réussissent, mais sans non plus affaiblir leur optimisme : cela fait maintenant plus de soixante-dix ans que les machines intelligentes sont annoncées pour demain.

L’IA est donc une idée aussi ancienne que notre civilisation, liée à un rêve (ou un cauchemar) de fin du travail, qui amène à présenter comme autonome des machines n’existant que grâce au travail des humains, ainsi que comme intelligents des algorithmes dont le principe est pourtant d’évacuer la pensée de l’opération, et dont le succès est systématiquement reconduit au lendemain.

De l’IA à l’IA générative

Ces remarques critiques ne doivent pas faire perdre de vue les réalisations concrètes considérables auxquelles aboutissent les chercheurs. Dès 1957, Frank Rosenblatt fabrique le Perceptron, un réseau de neurones capable de reconnaître les lettres de l’alphabet. À l’époque, deux écoles rivalisent d’ingéniosité : les connexionnistes imitent le fonctionnement du cerveau par des machines dites apprenantes, tandis que l’école symbolique préfère reproduire l’enchaînement logique des raisonnements.

En 1969, la publication d’un livre de critiques du Perceptron sonne le glas de l’approche connexionniste et marque le triomphe (temporaire) de l’école symbolique. Les réseaux de neurones apparaissent comme une fausse piste jusqu’en 1986, lorsque les travaux de quelques chercheurs isolés (dont Geoffrey Hinton) trouvent les moyens de dépasser les limites identifiées en 1969.

Il faut attendre les années 2010 pour qu’à la faveur de l’amélioration des algorithmes (invention du deep learning), de la mise à disposition d’immenses bases de données à même de les entraîner (l’époque des big data) et de l’augmentation de la puissance de calcul disponible (grâce aux progrès des cartes graphiques destinées aux jeux vidéo), la supériorité de leur approche éclate au grand jour.

Très rapidement, le deep learning s’impose dans de nombreux domaines : reconnaissance d’image, du son, reconnaissance faciale, mise au point de voitures autonomes, jeu de go… Utilisé au départ comme outil de détection des formes, il devient, grâce à l’invention par Ian Goodfellow des GANs (Generative Adversarial Networks, 2014) capable de produire des formes nouvelles – l’IA devient « générative ».

En 2017, l’invention des « transformers » étend, par d’autres voies, ces capacités au langage. Les « générateurs » de textes grossissent de manière vertigineuse et apportent des « réponses » de plus en plus pertinentes, au point qu’en novembre 2022, la publication de ChatGPT sidère le grand public.

Comprendre l’IA générative : l’« espace latent »

L’entraînement des algorithmes d’IA peut être comparé à un « classement » des exemples fournis en fonction de caractéristiques différenciantes décelées automatiquement (taille, couleur…). Tout se passe comme si l’algorithme « rangeait » les exemples dans un espace à plusieurs dimensions, chaque dimension correspondant à une de ces caractéristique différenciante – c’est l’espace latent.

Après l’entraînement, les objets similaires sont regroupés dans des « régions » de cet espace. Chaque notion « apprise » par l’algorithme (par exemple, la notion de chat ou de chien) est une région de l’espace latent, autrement dit une région de l’espace multidimensionnel des caractéristiques différenciantes.

Lorsqu’un nouvel objet est présenté, l’algorithme le « situe » dans l’espace latent en fonction des caractéristiques décelées : est-il dans la « région » des chats, ou des chiens ? Inversement, si on lui indique des coordonnées de la région (par exemple, dans la région des chats), il produit une image avec les caractéristiques correspondantes (une image de chat). Il est possible de combiner les caractéristiques des chats et des chiens pour obtenir une image de « chat-chien », ou encore de moduler ces caractéristiques à l’envi : ajouter des lunettes, changer la posture, l’éclairage, mais aussi appliquer le style d’un peintre ou d’une marque, pour peu que ces caractéristiques aient été « apprises » au cours de l’entraînement, c’est-à-dire qu’il y en ait des exemples (des images de la marque ou du peintre concernés) dans la base de données.

La même chose s’applique au langage (les mots et les expressions sont « rangés » dans un espace multidimensionnel qui encode leurs relations de distance ou de proximité et permet de produire de nouvelles expressions, ainsi que de moduler les existantes), mais aussi au son, à la 3D, aux cartes de chaleur, avec des outils permettant de passer d’un mode à l’autre – ils deviennent multimodaux.

Ainsi, on peut décrire l’IA générative comme l’encodage d’une collection d’exemples dans un espace multidimensionnel qui permet de produire des esquisses de formes (textes, images, sons…), de les moduler en changeant leurs caractéristiques globales (éclairage, style) ou locales, en transférant les caractéristiques d’une forme à une autre, ou encore en les « étirant » (compléter un texte, outpainting…).

L’IA générative est-elle créative ?

Dans la mesure où les algorithmes produisent des formes qui n’existaient pas auparavant, peut-on dire qu’il y a création ? GPT-4 obtient de bon scores sur les tests de créativité standard (trouver une expression linguistique associant des mots très hétéroclites, lister les mots les plus différents possibles…), mais, dans la mesure où l’algorithme a encodé les relations de proximité et de distance entre les expressions linguistiques, cela revient à soumettre une énigme à quelqu’un qui connaît déjà la réponse, autrement à dit à tester la mémoire et non la créativité.

La distinction entre jeu fermé (ludus) et jeu ouvert (paidia), apportée par Roger Caillois, permet de mieux cerner le périmètre de ce que peuvent faire les algorithmes. S’ils font mieux que les humains lorsqu’il s’agit de jeux dont les règles sont claires et définies (conduire, jouer aux échecs ou au go…), ils sont à la peine lorsque les règles changent ou lorsqu’une situation exceptionnelle impose d’en inventer de nouvelles. En mars 2020, nos mutations soudaines de comportements (confinement, achats compulsifs) ont dérouté les algorithmes de recommandation et avec eux ceux de prévision des ventes, puis de prévision des stocks. La multiplication actuelle des crises (pandémie, guerre, réchauffement et catastrophes climatiques…) nous invite donc à préserver le rôle des opérateurs humains (surveillance, maintenance, mises à jour…) plutôt que de souscrire au rêve de machines « autonomes » qui nous mettrait en péril.

Pour reprendre une distinction de Gaston Bachelard (au sujet de l’invention scientifique), les algorithmes sont capables d’invention incrémentale mais pas d’invention révolutionnaire, car l’invention révolutionnaire ne consiste pas à « faire » quelque chose mais, à partir du constat qu’une règle ne fonctionne plus, à être capable de la suspendre, c’est à dire à « ne plus faire » quelque chose. Cet arrêt, ce suspens, ne peut pas faire partie du périmètre d’un programme car il fait tomber dans une récursion infinie : il faudrait définir les règles qui régissent les changements de règles, et donc définir aussi les règles régissant le changement des règles régissant le changement de règles, et ainsi de suite.

Si l’IA générative est limitée à la créativité incrémentale, elle est entre les mains d’humains dotés de leur pleine créativité. Elle fournit une occasion d’inventions révolutionnaires, qui viendront des usagers. En 1878, lorsqu’Edison liste les applications qui pourraient faire le succès du phonographe (enregistrer les voix de ses proches, laisser des messages…), il lui est difficile d’imaginer la place que pourrait prendre la musique : il réfléchit à partir des problèmes de son temps, depuis une société où la musique n’a pas l’importance qu’elle pourra prendre plus tard – justement grâce au phonographe. De la même manière, l’importance de l’IA générative ne réside pas dans les tâches actuelles qu’elles nous permettrait de faire plus rapidement, mais dans les nouveaux usages qui vont se développer à la faveur de son existence.

Résumé:

Dans “Deuil à venir, dieu à venir”, article publié dans Critique en 2006, Quentin Meillassoux se penche sur le problème des “spectres essentiels”, ces morts dont nous n’arrivons pas à faire le deuil et qui nous laissent face à un dilemme : soit le désespoir, si Dieu n’existe pas, soit la colère, s’il existe et qu’il a laissé advenir ces morts révoltantes.

Dans la continuité des thèses développées avec Après la finitude, Meillassoux s’appuie sur le concept de contingence pour proposer une troisième possibilité : Dieu n’existe pas encore.

En proposant l’idée de la venue d’un Dieu apportant la justice aux spectres essentiels, Meillassoux réactive sur un plan philosophique la notion d’apocalypse, en tant que révélation à venir de l’absolu. Mais après ? L’apocalypse selon Meillassoux, dans la mesure où elle se fonde sur le concept de contingence, est une révélation et une sotériologie, mais sans eschatologie puisque le temps poursuit son cours.

C’est ce temps de l’après qu’il s’agit de considérer, en examinant les notions mobilisées par l’idée d’apocalypse : Dieu et la contingence, le spectacle de l’exercice de la colère, et le réglement des comptes à la fin des temps.

Lire l’article

Résumé :

Cet article considère le mythe de la singularité technologique comme le symptôme d’une insomnie de la raison : la production de monstres par l’exercice non critique de la pensée, qui accompagne l’impérialisme économique de la Silicon Valley comme les Lumières ont accompagné le colonialisme et prolonge la foi dans le progrès en un messianisme.

Le mythe produit une apocalypse de la pensée. En accouchant de monstres comme la singularité ou le basilic de Roko, elle se dévoile et manifeste son propre effondrement.

Lire l’article.

The study is to proceed on the basis of the conjecture that every aspect of learning or any other feature of intelligence can in principle be so precisely described that a machine can be made to simulate it (Mac Carthy et al. 1955).

Cette hypothèse, formulée par John Mac Carthy en amont de la conférence de Dartmouth, est au fondement du projet d’intelligence artificielle. Parmi les « aspects de l’intelligence » qui pourraient être « simulés », le langage est mis en avant : « An attempt will be made to find how to make machines use language » – dans les premières années du projet d’intelligence artificielle, on confond le langage avec la production de texte. Dans sa célèbre description du jeu de l’imitation, Turing propose de dérober l’ordinateur au regard du jury qui doit lui poser des questions via un « teleprinter » (Turing 1950).

L’hypothèse de Dartmouth a été appliquée au langage et à l’expression écrite, mais peut-on l’admettre pour la littérature ? S’il est possible de décrire précisément comment un texte a été écrit, cela implique-t-il pour autant que l’on puisse simuler le processus d’écriture par une machine ? Peut-on révéler la loi de production d’un texte sans laisser aucun reste ? Plus particulièrement, est-il possible de mettre au jour ce qui fait qu’un texte est nouveau ? L’opération par laquelle nous créons de la nouveauté ne devrait-elle pas être toujours renouvelée, selon une loi, ou une absence de loi, qui ne serait pas descriptible ? Comment en rendre compte alors, s’il s’agit d’un indescriptible ?

Lire la suite sur Cairn