« A quoi ressemblerait notre monde si demain l’IA avait réponse à tous nos problèmes » telle est la question que se pose Nick Bostrom, l’un des papes du transhumanisme dans son dernier ouvrage Deep Utopia. Paru en 2024, il n’a pas encore été traduit en Français, mais la question tombe à pic dans une actualité qui oscille entre résultats boursiers mirifiques des entreprises du secteur et interrogation sur une bulle qui va finir par éclater.
Super-intelligence
Avant de rentrer dans le vif du sujet, rappelons que l’on doit à ce philosophe d’origine suédoise de nombreuses réflexions au sujet des risques existentiels liés aux nouvelles technologies… Il est notamment l’auteur de Superintelligence (1) un ouvrage publié en 2014 et la création de la World Transhumanist Association, devenue Humanity+.
Dans Deep Utopia, c’est dans un format très original que Bostrom couche ses réflexions sur l’Utopie transhumaniste, puisque le fil conducteur est une semaine de cours à l’Université. On suit donc le cour, puis les dialogues entre le professeur Bostrom et une bande d’étudiants, des échanges entrecoupés par des formats épistolaires, des distributions de polycopiés (pour résumer les cours) et des bavardages entre les étudiants eux-mêmes.
Cornucopien : Des saucisses sur les murs
Dans le chapitre intitulé lundi, Bostrom dépeint une utopie post-rareté (post-scarcity utopias) dont il trouve l’origine dans la fable médiévale de Cocagne (Cockaigne) pays où les saucisses poussent sur les mûrs (2). Cette société d’abondance ou de post-rareté (post scarcity) verra-t-elle advenir la semaine de 15 heures de travail évoquée par Keynes ? Elle devrait en théorie continuer d’être une société de consommation, mais la question de l’automatisation du travail reste en suspens : « avec suffisamment de progrès dans l’intelligence des machines, le capital deviendra un substitut net du travail humain. » (historiquement il a toujours été un complément du travail). Dans un scénario extrême où les machines seraient moins chères pour tout faire, le capital s’accumulerait et les humains seraient rejetés du marché du travail, dans un scénario moins extrême, il resterait quelque humains sur le marché du travail… L’idéal serait donc que de plus en plus de robots prennent le travail des humains qui continuent de gagner un revenu payé sur la rente du capital.
Bostrom reprend également une de ses thèses de la conscience artificielle, il se peut que nous considérions les machines comme de nouvelles espèces de travailleurs, nous serions alors obligés de prendre en considération le bien-être de ces esprits digitaux. Un bémol toutefois, la croissance exponentielle des machines pourrait nous replonger dans les affres du malthusianisme. Bostrom espère toutefois que le nombre élevé d’humains et de machines super-intelligentes pourrait atténuer ce risque.
Les limites de notre maturité technologique
Après ce premier stade Bostrom poursuit son développement en introduisant deux concepts fondamentaux notre dotation cosmique (cosmic endowment) – la quantité d’humains qui pourra coloniser l’espace – et la maturité technologique qu’il définit « une condition dans laquelle une série de capacités existent qui permettent un niveau de contrôle sur la nature qui est proche du maximum qui pourrait être achevé dans l’intégralité du temps. » Il liste les technologies existantes et précise que les seules limites sont celles de notre créativité et notre imagination, même si il se peut qu’un temps vienne où les innovations seront de plus en plus rares.
Après avoir fait ce préambule, il évoque les limites en commençant par les « barrières prudentielles » qui selon le philosophe ne pourront être contournées qu’avec des prises de risque. D’autres limites sont définies par les contours axiologiques (propos de nature philosophique) suivie d’une réflexion très concrète sur ce que les machines ne peuvent pas faire pour nous, autrement dit, les tâches qui resteront à charge de l’humanité. Il paraît évident à Borström que les machines vont devenir sentientes (développer une conscience sensitive) et avoir une personnalité morale. Sans ces deux facteurs, nous touchons à des limites de l’automatisation. La régulation, le statut symbolique, la solidarité, la religion, la sentimentalité, l’intérêt particulier, et enfin la confiance et les données, toutes ces notions peuvent être vues comme des empêchements à l’automatisation.
Le problème de la raison d’être
La leçon du mercredi est consacrée, elle, au problème de la raison d’être, ou de l’objectif (purpose) qui est sans doute l’une des questions clés de l’ouvrage, puisque si l’IA et la technologie venaient à résoudre tous nos problèmes qu’est-ce qui donnerait un sens à notre existence. Il appelle cela le « purpose problem », si le sens que trouvaient les hommes dans l’effort pour survivre, la création ou encore les relations humaines disparaît il faudra le remplacer par autre chose (loisirs, esthétique, réalité virtuelle) Le philosophe qui ne manque pas d’humour, titre un de ses chapitre « Se bagarrer, voler, se bâfrer, boire et se coucher tard » en réponse à la question posée. Il propose dans un encart toute une liste de loisirs pour lutter contre l’ennui. Mais il n’est pas exclu que des solutions technologiques prennent notre place y compris dans les loisirs, il évoque quatre scénario (le shopping, l’exercice sportif, l’apprentissage et la parentalité) ce qui mène l’auteur à deux concepts qui sont la redondance faible (shallow redundancy) qui est que dans une ère d’abondance, le travail perd tout son sens car il est pris en charge par les machines ; et la redondance forte (deep redundancy) pour laquelle la plupart des activités de loisir risquent de perdre leur sens.
On aboutit donc au paradoxe suivant : d’une part on a raison de poursuivre notre quête du progrès technologique pour obtenir davantage de biens que nous désirons avec de moindres efforts, d’autre part, ce faisant nous accédons à de nouvelles conditions dans lesquelles nous nous ennuyons profondément ou nous devenons les « récepteurs passifs de plaisirs narcotiques. » Un peu plus loin dans l’ouvrage (chapitre Jeudi), après avoir défini ce qu’était selon lui l’utopie d’un monde plastique – la conséquence de la maturité technologique qui nous rend notre environnement totalement transparent et accessible – il pose la question de la redondance en des termes encore plus radicaux : une vie utopique fait-elle sens ?
Paradoxe de la redondance : la tragédie humaine ?
La redondance comme on le voit est une ère dans laquelle les efforts humains deviennent redondants ce qui a pour conséquence de sous-évaluer des valeurs telles que l’intérêt que l’on porte à une chose, la satisfaction, la richesse, le but et le sens. Ce sont sur ces valeurs que l’auteur achève sa réflexion dans trois longs chapitres. Nous nous attarderons encore sur le sort qu’il accorde aux « sources de l’utilité humaine en utopie »
Celles-ci peuvent être artificielles : auto-suggérées elles pourraient être des objectifs implanté par une neuro-technologie ou préconisées par autrui.
Elles peuvent être également naturelles (ce qui regroupe une utilité naturelle et super naturelle) : dans cette catégorie Bostrom liste les tâches dans lesquelles l’homme restera utile à l’ère de la maturité technologique : les tâches liées à la physique, aux événements stochastiques, aux interactions avec les Aliens, aux relations publiques et politiques, au domaine culturel… A ces tâches le philosophe ajoute les attitudes spirituelles : honorer les ancêtres ou la tradition, le suivi de l’engagement, l’expression esthétique, les expressions spirituelles…..Pour toutes ces tâches l’homme semble irremplaçable.
Le dernier chapitre (samedi) est une longue réflexion sur le sens de l’existence : après nous avoir tenu en haleine lors d’un cours magistral, le professeur Bostrom est interrompu par la sonnerie et laisse ses élèves méditer.
Un livre à lire avant de ne plus savoir que faire
A une époque où l’IA cherche encore sa voix (et son business modèle), il faut absolument lire l’ouvrage Deep Utopia pour comprendre l’une des direction que pourrait suivre l’humanité si elle se rendait sans discuter derrière les arguments de l’idéologie transhumaniste posthumaniste. On retrouve bien dans l’ouvrage les thèmes de la société cornucopienne et de l’oisiveté, de la fusion homme machine, du téléchargement de la conscience, de la mort de la mort (3), de l’intelligence augmentée… mais on saura gré à l’auteur de ne pas en avoir fait des sujets centraux, et tout en en imaginant la possibilité d’en avoir surtout étudié les conséquences et soulevé les paradoxes. Par ailleurs un travail de fond est effectué sur la philosophie des valeurs qui pourraient présider à l’instauration de cette utopie profonde. Insistons donc sur la subtilité de Bostrom qui passe moins de temps à décrire son monde imaginaire, qu’à en discuter et en critiquer les implications théoriques. Ce qui est peut-être encore plus fort, car cela laisse penser qu’il est nécessaire que tout cela advienne dans un futur plus ou moins proche. Des principes qui respectent donc parfaitement le « mode utopique » que l’on définit « comme appartenant par nature à l’ordre de la théorie et de la spéculation. Mais au lieu de chercher, comme la théorie proprement dite, la connaissance de ce qui est, il est exercice ou jeux sur les possibles latéraux à la réalité. » (4)
Deep utopia est donc un livre à mettre entre les mains de tous ceux qui s’intéresse à la politique scientifique ( qu’ils soient élus ou simples citoyens ) car c’est une parfaite mise en perspective d’un futur qui nous parait inéluctable si on laisse faire le rouleau compresseur de l’idéologie techno-prophète (avec sa tendance transhumaniste posthumaniste) sans se poser de question. Heureusement, on peut aussi décider que la survenue de ce monde qui n’est pas forcément désirable (souhaite-t-on qu’une majorité d’humains soient sans raison d’être ?) n’est pas inévitable et tenter de mettre en place une politique scientifique fondée sur la libre responsabilité qui veille à ce que tout cela se déroule dans un temps propice à l’adaptation de l’humanité et non une exponentielle dont la seule justification est une loi du retour accéléré (5).
2) Cockaigne-the medieval dreamland where roofs are made of flan, birds fly cooked and sauced right into your mouth, and nobody works a day in their life. Think ultimate lazy paradise: rivers of milk, honey, and booze, no pain, no rules. Sounds great till you realize it’s satire… warning folks against greed and sloth. Still, who’d say no to a self-roasting pig?
3) Chat GPt et le retour de la mort de la mort
4) Raymond Ruyer, l’Utopie et les utopies
5) Jean-Paul Oury, De Gai à l’IA
« IA ou pas, nous ne connaitrons jamais le bout de rien » Philippe Gagnon (interview)
« Touchons-nous du doigt une conscience nommée ChatGPT ? » Marc Rameaux (Interview)
Vos réactions