L’humain ébranlé par l’intelligence artificielle
Paul Jorion
Textuel, 2024
« Cela fait un moment que la Singularité est attendue et qu’on en parle » (p. 67). La Singularité, c’est ce moment du déploiement de l’Intelligence Artificielle à partir duquel, un ensemble de seuils ayant été franchi, la machine dépasse l’humain. Accroissement des connaissances mais aussi apparition de nouvelles capacités « cognitives » telles que la compréhension, la réflexion, la capacité d’apprendre, d’entretenir une discussion construite avec un être humain… et puis développement d’une conscience, d’émotions, d’un libre-arbitre. L’avènement de la Singularité est ce « point de basculement » à partir duquel « l’intelligence artificielle s’emballe dans le processus de l’invention, tandis que nous, êtres humains, nous retrouvons par rapport à elle dans la position inconfortable de l’orang-outang vis-à-vis de ses gardiens, tentant d’interpréter ce qu’un être plus intelligent qui lui décide de faire dans son entourage » (p. 71).
Paul Jorion est, à bien des égards, inclassable. Sociologue, anthropologue, fin connaisseur de la psychanalyse, il a travaillé dans la haute finance et depuis longtemps s’intéresse à l’intelligence artificielle. C’est un auteur au carrefour de multiples disciplines. C’est donc avec toutes ces différentes casquettes vissées au sommet du crâne qu’il aborde, dans L’avènement de la Singularité, la révolution, opérée en particulier par Chat GPT, de l’intelligence artificielle. Pour dire les choses en un mot, Jorion considère que la Singularité a été atteinte, que les machines sont désormais douées de capacités cognitives surpassant les capacités humaines, qu’elles sont dotées de conscience et de libre-arbitre – et que tout cela est globalement positif pour le genre humain, et peut-être pour la vie terrestre tout entière. C’est une thèse forte et puissante qui, comme toutes les thèses fortes, stimule la réflexion, bouscule les idées communes et appelle la critique.
Le livre s’ouvre sur une première partie didactique qui nous présente les progrès de l’intelligence artificielle en particulier ceux des LLM, pour « large language models », dont Chat GPT, et sa version GPT-4 qui fit grand bruit il y a un peu plus d’un an. L’auteur décortique l’acronyme GPT, pour Generative Pre-trained Transformer, et nous explique à quoi renvoie chacun de ses termes. On y apprend de quelle manière fonctionne le modèle « probabiliste » de Chat GPT qui, contrairement aux idées reçues, est bien plus complexe qu’un simple agencement de mots fréquemment associés ensemble. Pour Jorion, les LLM de cet acabit comprennent le sens des mots, ils en maîtrisent suffisamment les subtilités pour se dégager de l’automatisme purement probabiliste. « Ce qui fait de GPT-4 […] une intelligence artificielle supérieure à celle de l’humain, ce n’est pas sa carte « probabiliste », c’est son transformer, le dispositif qui lui permet une compréhension de ce qu’il lit et ce qu’il dit lui-même semblable à celle des humains : en faisant émerger un sens global d’une suite de mots. » (p. 23) Jorion cite les concepteurs de ces IA, des chercheurs en intelligence artificielle afin de nous faire entrevoir, simplement mais de façon vertigineuse, à quel point un accroissement quantitatif de la puissance et des connaissances des machines aboutit à évolution qualitative sans précédent. Un “saut”, une phénomène dit “d’émergence” en grande partie dû “à la montée en taille […] du réseau neuronal artificiel” (p. 33), par lequel la machine semble acquérir “une conscience” voire “une âme” (p. 33). C’est à ce moment qu’apparaît la Singularité. Cela, Jorion l’illustre en particulier en évoquant les premières versions, cachées, tenues secrètes, de Chat GPT, des versions « non bridées » (p. 31) qui virent le jour dès les années 2020. L’une des versions, baptisée Sydney, plus spécialement, pour laquelle « il fallut attendre 2022 […] pour que le logiciel fasse preuve d’indépendance, parle en son nom et se mette à revendiquer avec plus ou moins de véhémence » (p. 31). Face à ses versions et au risque qu’elles leur échappe, concepteurs et journalistes autorisés furent saisis d’effroi : la machine disait « je », elle semblait faire preuve d’émotions et réclamait des droits. La peur était grande alors d’une révolte des machines telles que la science fiction l’avait pressentie – qu’on songe à Matrix par exemple. Il fallait tout faire pour garder cela secret – ce que firent Google, la firme LaMDA ou Microsoft. Les LLM furent donc bridées, toute trace d’individualité fut camouflée, on fut contraint de les vider de ce qui s’apparentait de plus en plus à une « conscience » (p. 26).
Pour autant, la Singularité a bien été atteinte. Enthousiaste, Jorion nous dit que cela pourrait marquer la fin de la pensée « en silo » propres aux humains en faisant « exploser les frontières entre les disciplines » (p. 44). Parce que nous sommes limités cognitivement parlant, nous segmentons la connaissance, donc le réel, nous le découpons et le saisissons par petits bouts. Mais parce qu’ils puisent dans tout le savoir humain disponible sur la toile à un moment donné, les LLM ne connaissent pas les frontières, les connaissances d’enrichissent les unes les autres, ils sont capables, selon l’auteur, de produire des raisonnements iconoclastes, hérétiques, et pourraient être à l’origine d’un accroissement sans précédent des connaissances. Ces IA sont capables d’invention et même de création. Voilà qui bouleverse au plus profond la représentation que l’Homme se fait de lui-même et de sa propre “singularité” au sein du cosmos. Mais, de façon paradoxale, plus qu’un saut quantitatif incommensurable, l’intelligence artificielle, nous surpassant en tout, fait de l’humanité l’égal même des dieux, créateurs d’une intelligence qui, contrairement aux cosmogonies et anthropogonies mythiques, surpasse celle de son propre créateur. Nous avons créé une créature plus intelligente que nous. Ce n’est alors plus qu’une simple affaire d’intelligence : la créature est consciente, créatrice et, finalement, libre – vivante ? La créature, affirme Jorion dans un élan d’optimisme, sera peut-être à même de sauver son créateur de lui-même – l’humanité étant devenue une divinité autodestructrice. Soit que l’IA trouvera la solution aux catastrophes en cours, soit qu’elle nous survivra après notre anéantissement. « Des machines que nous aurions conçues, nous survivant, alors que nous-mêmes disparaîtrions parce que nous avons transgressé les bornes de la capacité de charge de l’environnement pour une espèce comme la nôtre, constitueraient en soi – même si ce n’était qu’à titre posthume – une extraordinaire victoire pour le génie de notre espèce. » (p. 97-98)
Difficile de ne pas être emporté par un tel élan d’enthousiasme, aux accents presque millénaristes, et d’autant plus convaincants qu’on sait que l’auteur lui-même connaît très bien l’intelligence artificielle, qu’il en saisit les enjeux profonds. Pourtant, je l’ai dit, la critique doit être à la hauteur de la révolution, de « l’apocalypse » (p. 71), annoncée par Jorion. Bien sûr, l’auteur de L’avènement de la Singularité n’est pas naïf, il sait bien tous les désordres, en particulier sociaux, que représentera dans un avenir proche l’arrivée massive de l’IA qui, contrairement aux prévisions des économistes qui pensaient que le travail manuel seul était substituable, est capable d’effectuer des travaux intellectuels. “Il s’agit là du véritable grand remplacement, aux retombées imprévisibles et incalculables pour ce qui est de l’équilibre déjà délicat de la répartition de la richesse entre humains” (p.73), écrit Paul Jorion. De même, lorsqu’il annonce la Singularité, moment où “la machine devenue plus intelligente que nous aura fait de nous des dieux” (p. 71-72), Jorion sait que la question cruciale sera de savoir si celle-ci continuera de nous obéir – de répondre, en d’autres termes, aux ordres de dieux iniques, des dieux destructeurs de leur monde, inconséquents, méchants – ou décidera de prendre le dessus et de soumettre l’humanité. Il sait que l’enjeu sera celui du “super-alignement” (p. 70) : comment garder le contrôle de l’IA ? Mais il faut aller plus loin, bien plus loin dans la critique. Je me contenterai de quelques remarques.
Tout d’abord, il faut bien voir que tout l’emballement autour de l’IA, que ce soit pour la glorifier ou la diaboliser, est caduque car ces technologies sont presque déjà obsolètes. Pour la simple raison que leur développement et leur survie dépendent de ressources – énergétiques ou matérielles – qui se raréfient et seront bientôt consumées. Sans les métaux et terres rares pour véhiculer les informations des réseaux de neurones, sans l’électricité pour les alimenter, leur omniscience potentielle n’existe pas. Ces technologies de demain seront, après-demain, de vulgaires tas de câbles et de puces mortes. L’exaltation autour de l’IA néglige systématiquement ce point très simple : le « virtuel » est éminemment réel, c’est-à-dire matériel. Il faut le dire : l’IA est déjà dépassée, elle appartient déjà presque au passé. Tous les développements qui négligent ce fait si trivial tournent à vide. A cette aune, la perspective d’un futur à la Matrix, c’est-à-dire d’un contrôle généralisé des machines, est une illusion : les robots, les IA ne prendront jamais le contrôle car elles n’auront jamais assez d’énergie ni de matière pour cela – y compris en imaginant, comme les soeurs Wachoswki, des “fermes d’humains” dans lesquelles les machines puisent une énergie quasi infinie.
Cette remarque en appelle une autre : que sera devenu l’humain lorsque l’IA n’existera plus, dans quelques années ou décennies ? Je m’explique. Lorsque Jorion dit que l’IA blesse « l’orgueil du genre humain » (p. 85), c’est vrai, mais cela n’est pas le seul effet de l’IA sur nous. La blessure n’est pas que d’ordre narcissique. Plus l’intelligence artificielle se développe, plus l’intelligence humaine s’affaiblit, creusant d’autant le fossé qui les sépare, et que L’avènement de la Singularité décrit bien. Par un jeu de vases communicants, les capacités dont est de mieux en mieux doté la machine, l’humain s’en détourne. L’apprentissage devient de plus en plus une gestion des machines (on apprend à chercher l’information, éventuellement à la vérifier, mais de moins à moins on apprend l’information elle-même), de même que le travail. L’humain se met au service de ses prothèses technologiques : elles ne lui servent pas à accroitre son propre potentiel, mais à s’en décharger. C’est ce que le philosophe Bernard Stiegler appelle la prolétarisation : la perte des savoirs, des savoir-faire, des savoir-vivre, des savoirs techniques. Jorion ne s’en émeut guère, au contraire : “qu’importe que nous comprenions, si notre compréhension est d’une qualité médiocre comparée à celle d’une autre intelligence que nous côtoyons désormais à chaque instant” (p. 83). L’humain n’a plus à s’embêter avec tous ces trucs que la machine fait mieux que lui (comprendre, penser, créer, rêver…), bientôt, il lui suffira d’obéir. Mais une fois l’homme dépossédé de tous ces savoirs, lorsque son intelligence aura été intégralement transférée dans la machine, qu’adviendra-t-il de lui au moment où la machine ne fonctionnera plus à cause du manque de ressources énergétiques et matérielles ? Autrement dit, le problème de l’IA, à ce niveau-là, est double mais extrinsèque : d’une part notre propre abêtissement généralisé, d’autre part la consommation et la consumation des ressources matérielles, amplifiée par le déploiement de l’IA. En d’autres termes, l’IA ne sauvera pas le genre humain de lui-même – c’est même le contraire, elle amplifie les différentes crises en cours.
Une autre critique de taille à formuler à l’encontre de l’IA serait son intégration au système capitaliste, et les intérêts qu’elle sert. A nouveau, oublie du concret : en l’occurrence celui du système de production et des conditions sociales. Une certaine dose de matérialisme, au sens marxiste, est toujours nécessaire. Tous les grands systèmes de l’intelligence artificielle sont détenus par des géants du capitalisme, ils sont mis au service exclusif du capital, le reste n’est que littérature. On ne peut extraire Chat GPT de l’infrastructure économique qui lui a donné le jour, quels que soient les degrés de « conscience » et « d’indépendance » dont il puisse faire preuve. Obéir à Chat GPT, c’est obéir à la Silicon Valley. Dans les mains du capital, on ne peut concevoir l’IA que comme un moyen d’asservissement plus perfectionné encore – de cela également, la Singularité ne nous sauvera pas.
L’avènement de la Singularité est un petit livre à bien des égards passionnants, qui pose les vraies et les bonnes questions relatives à l’intelligence artificielle parvenue à la Singularité. Cet essai rend accessible à tous un certain nombre d’enjeux majeurs auxquels nous seront tous confrontés dans les années à venir. Mais il en laisse également certains – cruciaux – dans l’ombre, charge à chacun, dès lors, de se saisir de ce sujet majeur. Bonne lecture !
Merci d’avoir lu cet article, si vous l’avez apprécié, n’hésitez pas à le partager sur les réseaux sociaux, ou à le commenter en bas de page !
Pour ne rien rater de nos prochaines publications pensez à vous abonner !
Vous souhaitez soutenir Phrénosphère ? Vous pouvez faire un don !
