Retranscription de Université catholique de Lille, Paul Jorion : « Déclarer l’état d’urgence pour le genre humain ? », 2eme de six conférences, Le transhumanisme est-il la nouvelle religion d’une technologie triomphante ?, le 11 décembre 2018. Merci à Eric Muller ! Les premières minutes manquent. Le transhumanisme y est situé dans plusieurs traditions de la pensée occidentale, qui se chevauchent partiellement : l’individualisme, l’« esprit des Lumières ». Ouvert aux commentaires
[… ] Parfois, les auteurs renvoient à des penseurs, par exemple Jean-Jacques Rousseau, ou Nicolas de Condorcet sur la notion de perfectibilité, c’est-à-dire de la capacité de l’homme à se perfectionner lui-même – une réflexion qui est parfois fondée d’ailleurs sur un parallèle avec la domestication – nous avons domestiqué certains animaux pour en tirer parti ; les chiens pour le plaisir de les avoir avec nous à la chasse ou défendre nos maisons, les cochons pour les manger et les vaches pour les manger ou en tirer du lait. Ces espèces ont connu une évolution tout à fait particulière : la vache ne ressemble plus fort à l’auroch – sauf par quelques traits extérieurs – le cheval que nous avons aujourd’hui n’est plus le cheval sauvage que nous connaissions autrefois. La domestication est un processus qui conduit à une évolution des espèces, et certains penseurs ont attiré l’attention sur le fait que nous avons produit une sorte d’auto-domestication de notre propre espèce : nous avons créé des caractères chez nous qui ressemblent fort à ceux que nous avons produit chez les animaux domestiques, et on peut imaginer que la perfectibilité, le perfectionnement soit du même ordre chez nous, et que nous puissions continuer à nous développer par les moyens que la technologie nous offre, de la même manière que nous avons pu le faire pour d’autres choses autour de nous. Et là, bien entendu, ma réflexion aujourd’hui sera autour de certaines difficultés, de certains dangers, de certaines questions qui se posent à nous – parfois même dans l’urgence – autour de ces questions.
Nous avons commencé, bien entendu, par avoir des outils. Certains animaux utilisent des outils : certains oiseaux s’emparent d’une aiguille de pin pour aller déloger des chenilles à l’intérieur d’un tronc, des choses de cet ordre-là. L’outil existe déjà là… Certains oiseaux font tomber des coquillages sur un caillou pour les casser, et ainsi de suite. Nous connaissons ça. Nous avons, je dirais, des développements de type élémentaire d’un outillage chez certains animaux. Nous avons commencé par faire ça – notre espèce l’a fait depuis très très longtemps – et petit à petit, nous avons inventé des outils qui nous permettent d’avancer.
Ça me fait penser à une réflexion qui m’a été faite l’autre jour : je suis à l’initiative de ressusciter une vieille proposition qui consiste à taxer les machines, et la personne se moquait un peu de moi en disant « Imaginez qu’on ait taxé le marteau le jour où on l’a inventé ! » : dans la mesure où l’invention du marteau aurait supprimé pas mal d’emplois qui étaient rémunérés convenablement, j’aurais été pour la taxation du marteau également. Mais le marteau, donc, c’est le tout début, et nul être humain n’a perdu son emploi du fait de l’invention du marteau.
Nous avons autour de nous des machines, et vous le savez bien entendu, ce développement des machines est relativement modeste, je dirais, jusqu’à la fin du XVIIIe siècle, mais là tout à coup, il y a une explosion : nous comprenons la possibilité d’actionner des machines avec du papier perforé – pour faire des métiers à tisser, des pianos mécaniques – et surtout l’invention de la machine à vapeur nous permet de faire un bond et, de proche en proche, le moteur à réaction, etc. La découverte de l’énergie d’origine nucléaire nous permet de faire un bond dans la technologie et – une remarque qui est rarement faite mais qu’il me semble important de faire – c’est que nous n’étions pas prêts. [Pour tout cela], nous n’étions pas prêts sur le plan conceptuel [: nous étions incapables d’intégrer ces révolutions dans une représentation du monde correctement mises à jour].
Nous avons avancé petit à petit dans la démarche scientifique. Il y a une différence, à ce sujet-là, très marquée entre le monde extrême-oriental et nous. Vous le savez, le monde occidental invente la réflexion de type théorique. La Chine, en particulier, invente beaucoup de choses, avance bien sur le plan technologique jusqu’au milieu du moyen-âge où nous la dépassons, parce que nous inventons, dans le monde occidental, une technologie qui est de science appliquée. C’est-à-dire que nous avons développé une réflexion de type scientifique, et à partir de cette réflexion de type scientifique, nous tirons des conséquences et nous produisons un certain nombre d’objets dont nous testons ensuite les propriétés – à partir d’une réflexion [théorique, sur un monde déductif].
Vous le savez, la Chine a inventé la boussole [et le gouvernail d’étambot], a inventé la poudre à canon, a inventé le papier, a inventé les pâtes alimentaires… Mais ça, nous le savons, ça a toujours été par une méthode, je dirais, purement expérimentale, par essais et erreurs, tandis qu’à partir de la réflexion qui débute au moyen-âge chez nous, nous modélisons la nature autour de nous : nous faisons des raisonnement déductifs, et à partir de cela nous produisons un certain nombre de choses. Par exemple, je dirais, la bombe atomique, nous n’aurions pas pu. On n’aurait pas pu inventer la bombe atomique par essai-erreur : ça aurait fait trop de morts et on ne voit pas trop comment on aurait pu même inventer les dispositifs extrêmement complexes qu’il faut mettre en place. Mais la poudre à canon, qui a été inventée par la Chine, a dû l’être par essai-erreur. On n’a pas la chronique du nombre de morts qu’il a fallu, mais on l’a découverte expérimentalement : en faisant une combinaison de soufre, de salpêtre et de poudre de charbon et en produisant une oxydation vive, il y a explosion et nous pouvons faire quelque chose à partir de là. Ça a dû être découvert par essais et erreurs, parce qu’il n’y avait pas de démarche de type théorique, en Chine, qui permettait d’avoir une science appliquée.
Nous sommes dans un monde où nous avons produit une technologie d’une sophistication tout à fait extraordinaire, et ça n’arrête pas de se développer. Il y a de plus en plus d’ingénieurs dans le monde, en particulier dans les pays où les quantités énormes d’ingénieurs produits sont récentes – comme en Inde ou en Chine – et nous inventons des choses à tout moment. Mais il existe un paradoxe, un contraste entre notre capacité à produire maintenant des objets, des techniques et un certain nombre de choses, et notre manière de pouvoir le conceptualiser : notre représentation de l’humain, de nos propres mécanismes, de ce qui se passe dans le monde, je dirais, n’est absolument pas à la hauteur. Nous nous trouvons dépassés, au point qu’il n’est pas impossible d’imaginer que, et c’est l’une des choses dont les transhumanistes parlent – en particulier un certain M. [Ray] Kurzweil – qu’on appelle la singularité – c’est-à-dire le moment où les êtres humains seront dépassés entièrement par des machines qui prendront des décisions et dont nous ne comprendrons plus exactement le fonctionnement – et il ne s’agit pas d’une simple élucubration : la chose est bien possible, et en grande partie, je dirais, due à notre incapacité à nous-mêmes de nous représenter exactement la manière dont nous fonctionnons individuellement et au sein de nos sociétés humaines.
Il y a un décalage entre la compréhension que nous avons du monde que nous appelons naturel – autour de nous – et la manière dont nous fonctionnons nous-mêmes. Il y a un certain nombre de choses que nous comprenons, mais nous sommes dépassés sur ce plan, et en particulier, nous n’avons pas pu, de manière, je dirais, unifiée, nous faire une représentation de ce que sont ces machines, de ce que sont ces outils par rapport à nous. Les philosophes peuvent être en faveur de la technologie, ou contre elle, tenir des discours de tel ou tel type, mais nous n’avons pas une représentation unifiée de ce que sont ces machines par rapport à nous. Nous pouvons faire une description de type historique, comme je viens de faire en disant : « Nous sommes passés du marteau au moulin à vent et puis à des instruments, des appareils, de plus en plus sophistiqués. Il y a eu ensuite de grandes inventions qui nous ont permis des bonds en avant », mais nous avons toujours eu une attitude – au moins en Occident – une attitude ambivalente envers cela : est-ce une bonne chose ? est-ce une mauvaise chose ? que sont ces machines par rapport à nous ?
On voit bien cette ambivalence en particulier quand on utilise le mot d’artificiel – on dit que les machines produisent de l’artificiel, ou sont elles-mêmes de l’artificiel. Nous avons une attitude à la fois, je dirais, positive quand les inventions ont des conséquences extrêmement favorables pour nous – par exemple en termes de longévité, de faire reculer la maladie, d’agrémenter notre confort, de nous permettre d’avoir accès à des activités de loisir de très grande qualité et dans d’excellentes conditions, de ce type-là – mais nous savons aussi que c’est la technologie qui permet d’inventer des techniques guerrières extrêmement dangereuses qui pourraient éventuellement même nous faire disparaître de la surface de la Terre, et que nous continuons à inventer des choses de cet ordre-là. À la fois nous éradiquons la variole à la surface de la Terre – ce qui fait que nous ne devons plus nous vacciner nécessairement contre la variole, parce qu’il n’y a plus de cas connus – mais en même temps, en laboratoire, nous pouvons inventer à nouveau la variole et l’utiliser comme arme de guerre. Il y a une confusion, je dirais, même chez les philosophes, entre le fait qu’une technique peut être bonne et qu’une autre technique peut être mauvaise, et le fait de savoir si la technique, en tant que telle, est quelque chose de mauvais.
Le point de vue de l’anthropologue, quand il parle de l’homme en général – l’homme et la femme; le genre humain – sa tentation, c’est toujours de se placer un petit peu comme un anthropologue qui viendrait d’un autre système, d’une autre galaxie – un extraterrestre – et de dire « À quoi avons nous affaire ? Quelles sont ces personnes qui sont là ? Qu’est-ce qu’elles font ? Que font-elles exactement ? » Cet anthropologue galactique observerait que nous sommes en train de produire un certain nombre de choses autour de nous – et c’est le thème d’un de ces films que j’ai mentionnés, de Terminator, de savoir si ces machines ne vont pas simplement nous éliminer. C’est le paradoxe des histoires de science-fiction les plus amusantes, les plus dérangeantes aussi : est-ce qu’il ne viendra pas un moment où la machine trouvera qu’il vaut mieux se débarrasser de l’homme ? J’ai cité aussi un autre film la fois dernière, le film Colossus où deux gros ordinateurs qui sont parvenus à empêcher une guerre thermonucléaire que les êtres humains auraient produit décident de prendre le pouvoir, et de dire à partir de là à l’homme ce qu’il doit faire désormais, puisqu’il a apporté la preuve de son incapacité à assurer sa propre survie. Nous sommes dans un monde où, je dirais, faute de conceptualiser véritablement notre rapport à cet artificiel, nous sommes en position délicate. Ou alors, nous laissons à d’autres civilisations – celles qui ont un autre type de représentation – le soin de prendre les décisions pour nous.
Il y a chez nous, très prégnant encore, très puissant, très présent dans notre réflexion, le fameux mythe de Prométhée – qui est une histoire qui tourne mal, vous le savez : Prométhée vole aux dieux le feu, et il est puni de manière éternelle par le supplice permanent d’être attaché à un rocher où un aigle lui dévore le foie. Ça fait partie, bien entendu, des contes de fées extrêmement épouvantables : ne nous approchons pas trop de Dieu dans un rôle de créateur du monde, de démiurge, n’essayons pas de ravir aux dieux ce rôle qui est le leur de créer le monde tel qu’il est.
Bien entendu, les savants ne se réveillent pas en sursaut la nuit, tourmentés par le mythe de Prométhée, mais il s’agit, dans notre culture, d’une représentation : la technique n’est peut-être pas bonne en soi, ou en tout cas, si elle apparaît bonne en soi, nous serions peut-être puni par une instance divine de l’avoir utilisée. Ce mythe de Prométhée, bien sûr, est étranger à la culture extrême-orientale. Autre chose qui nous est propre et qui est absente de la culture extrême-orientale : cette image qui est très présente dans nos religions – les gens qui nous ont façonné en Occident : l’homme créé à l’image de Dieu, avec des contraintes qui sont liées à cela, parce que Dieu nous aurait enjoint de ne pas nous éloigner de cette image. Quand donc on parle de perfectibilité, des contraintes, des limites y auraient été posées par Dieu lui-même : que nous ne nous écartions pas de cette représentation de l’homme à son image et dans un cadre régi par une contrainte d’un autre ordre, une contrainte majeure : que nous ne soyons pas immortels.
Vous le savez, si vous suivez un peu l’actualité, je dirais, la plus spectaculaire, la plus sensationnelle du transhumanisme – cette prétention à la possibilité pour l’homme, l’homme et la femme, de devenir immortel – des recherches de type biologique nous font penser qu’il n’est peut-être pas impossible d’empêcher le vieillissement, et que nous pourrions vivre sinon éternellement – parce que si nous étions écrasés par un camion le problème se poserait toujours comme avant, de recoller les morceaux – mais de pouvoir ne pas disparaître par le processus de vieillissement. Nous considérons maintenant qu’une mort par le vieillissement est une mort naturelle et nous considérons qu’il n’y a là rien contre quoi s’insurger. Mais la possibilité même, par les techniques – par la science appliquée – de pouvoir éventuellement travailler sur le vieillissement, et de peut-être même l’éliminer… Des travaux sont faits sur les animaux qui sont considérées comme « encourageants » par les biologistes qui travaillent là-dessus, et qui nous permettraient peut-être de vivre effectivement beaucoup plus longtemps que nous ne le faisons. Les calculs qui sont faits nous disent que, tels que nous sommes, et en éliminant les maladies principales – avec les technologies que nous avons pour lutter contre le cancer, etc. – nous pourrions vivre de manière naturelle peut-être cent-dix ans, cent-vingt ans, et qu’il serait possible même d’aller bien au delà peut-être, en travaillant sur le rajeunissement et l’interruption du processus de vieillissement.
Nos attitudes sont ambivalentes, parfois ambigües : cette image de l’homme créé à l’image de Dieu n’existe pas non plus, vous le savez, en Extrême-Orient, de manière classique. À part quelques exceptions mais qui ont été relativement marginales, l’Extrême-Orient est un monde sans eschatologie, sans représentation d’un monde parallèle dans lequel nous vivrions après notre mort. Oui, le bouddhisme indien a été adapté partiellement en Chine, etc. mais l’image dominante dans les représentations du Chinois moyen, au fil des siècles et des millénaires, a toujours été celle d’une vie qui se déroule à l’intérieur de l’espace défini simplement par la naissance et par la mort ensuite. D’où l’accent mis en ce moment en Extrême-Orient dans la recherche de type médical : pourquoi mettre des limites à l’amélioration de l’être humain puisqu’il n’existe pas – dans un ailleurs – la possibilité d’une compensation de ce qui a pu se passer dans le monde ici-bas, d’une réparation des torts, d’une instauration de la justice à l’échelle de l’éternité, et ainsi de suite ? Comme des représentations de ce type là sont absentes en Extrême-Orient, il y a automatiquement là un encouragement à faire le maximum qui puisse être fait sur notre Terre, tant que nous sommes là.
Vous le savez – ça date d’il y a deux semaines peut-être – la nouvelle, en Chine, d’un médecin disant avoir produit la naissance de deux jumelles de parents séropositifs mais où les enfants sont vaccinés au niveau moléculaire contre le risque d’infection par le sida. Alors, vous avez pu voir que les réactions au niveau des comités d’éthique internationaux ont été relativement indignées par cette possibilité. Ce qui a été dit, c’est que si ce type de bricolage qui est maintenant devenu possible se répand… on va pouvoir considérer là – dans un cadre qu’il paraît difficile de ne pas considérer – qu’il est raisonnable de pouvoir éventuellement vacciner préventivement, d’aider des enfants dans des conditions aussi difficiles qu’avec des parents infectés.
On pourrait imaginer n’importe quel type de bricolage, et on peut imaginer les armées, dans une escalade de la technique, produisant des soldats augmentés, c’est-à-dire non plus simplement des cyborgs, des mélanges de prothèses ajoutées à des êtres humains, mais la production délibérée de personnes augmentées selon tel et tel desiderata. On pourrait imaginer d’abandonner les projets de lunettes qui permettent de voir les ultraviolets et les infrarouges mais de produire les gènes qui feront que l’œil percevra les infrarouges, les ultraviolets. Pourquoi pas si ça devient possible ? Et la difficulté que nous avons là est double. Parce que, vous le voyez bien, la Chine en ce moment n’est pas dans un grand désarroi idéologique. Je ne vais pas vous parler de l’actualité mais vous voyez bien que, dans l’ensemble du monde occidental, nous sommes obligés de concentrer notre attention sur des problèmes d’ordre politique, économique, et des choses de cet ordre-là, alors que la Chine – qui est passée par une période extrêmement difficile de son histoire au XIXe siècle, partiellement par des guerres coloniales que nous avons organisées là – au XXe siècle, du fait d’une dynamique interne, semble être sortie d’une situation de type guerrier, belliqueux, à partir de 1949, et se donne des objectifs dans la durée coïncidant avec le centième anniversaire de la prise de pouvoir du Parti Communiste.
La Chine s’interroge très peu sur son devenir en ce moment, ils ont le sentiment d’être sur des rails et vous savez que, du point de vue de l’application de la technologie – pas simplement dans le domaine de la génétique – les choses vont très vite. Vous allez dans un magasin maintenant en Chine, et on vous repère : vous signalez votre entrée dans le magasin, vous prenez les produits et puis vous sortez. Il n’y a plus de caissière, il n’y a plus d’enregistrement parce que, voilà, sur votre carte de crédit, l’ensemble de vos achats se sera inscrit au moment où vous retiriez un produit des rayonnages. Tout ça va très très vite. Les Chinois n’ont pas nos préventions à propos de l’hyper-surveillance. Je reviendrai là-dessus, bien entendu, parce que c’est un des grands enjeux de société pour nous – et là, nous connectons aux scénarios peut-être les plus inquiétants.
Il y a certain nombre de soucis que nous avons qui sont liés à notre histoire et à des considérations qui nous paraissent tout à fait légitimes à partir d’une conception de l’éthique qui ne se pose pas de la même manière en Extrême-Orient. Nous n’arrivons pas à nous faire une représentation, je dirais, claire, de notre rapport, justement, à l’artifice, à l’artificiel. L’anthropologue galactique pourrait tenir le raisonnement suivant, en disant « Voilà : je vois des animaux qui se sont rendu compte de la difficulté qu’il y a à maintenir un équilibre entre eux-mêmes et la planète sur laquelle ils se trouvent, et qui ont inventé le moyen, non pas de survivre eux-mêmes dans une dégradation de leur environnement, mais qui ont trouvé le moyen de créer leurs descendants, et qui sont en train activement de le faire. » Ce n’est pas le sentiment que nous avons de ce que nous sommes en train de faire, mais cette lecture n’est peut-être pas une lecture, je dirais, qu’on pourrait critiquer a priori, en disant qu’elle est irréaliste. C’est peut-être ce qui apparaîtrait, je dirais, à un observateur objectif, de ce qui est en train de se passer. Parce que quand j’envisageais, la fois dernière, l’ensemble de ces scénarios, le scénario pour l’avenir dont nous sommes peut-être le plus proche de pouvoir véritablement le réaliser, c’est peut-être celui, justement, de la machine comme notre successeur.
Il y a Martin Rees qui est Astronome Royal en Grande-Bretagne – c’est un titre bien entendu, c’est une distinction qui est accordée à un très grand astronome – et récemment, il faisait la remarque suivante, je dirais dans une perspective un peu d’anthropologue extraterrestre : « Les conditions qui permettent à une espèce comme l’être humain de vivre à la surface de sa planète sont des conditions qu’il n’est possible de respecter que dans des limites extrêmement étroites. Ces êtres dépendent de manière massive de la présence d’oxygène dans l’atmosphère autour d’eux, dans une proportion extrêmement précise ; ils dépendent aussi du fait qu’une multitude de gaz qui sont considérés comme toxiques pour cette espèce ne soient pas présents ; ils doivent avoir accès à une substance qui s’appelle H2O, de manière quasi constante : toutes les quelques heures ils doivent avoir accès à cela, et ce liquide doit aussi être considéré par eux comme « potable » – c’est-à-dire qu’il y a une liste quasiment infinie de choses qui ne doivent pas se trouver dans cette eau pour qu’ils puissent l’utiliser – et ils doivent se nourrir, s’alimenter par ce qu’ils appellent aliments (des substances assimilables) – la liste est longue de leur point de vue, mais en fait, ce sont des choses en nombre extrêmement limité – et aussi, ils sont, particulièrement maintenant, sensibles au fait que d’autres substances ne doivent pas être présentes dans leurs aliments s’ils veulent pouvoir les utiliser ». Par conséquent cette espèce s’est rendu compte que les conditions dans lesquelles elle vit sont extrêmement fragiles, et elle a pris la décision tout à fait raisonnable – je cite maintenant mon anthropologue galactique – de se remplacer par autre chose de beaucoup plus solide, de beaucoup plus fiable, de beaucoup plus résilient – selon leur vocabulaire – de beaucoup plus robuste, et ils sont en train de tester d’ailleurs la colonisation de l’espace : ils ont déjà envoyé deux de leurs inventions en dehors même de leur système solaire – ce qui montre quand même là, je dirais, le degré de sophistication de leur technologie – et sur la planète Mars se trouvent non seulement deux stations qui explorent la planète, mais depuis quelques jours s’y trouve encore un troisième objet. Et cette espèce s’est rendu compte qu’il fallait que leurs prolongations, leurs prolongements, n’aient pas besoin d’oxygène – c’est le cas des objets qu’ils ont mis sur la planète Mars – qu’ils n’aient pas besoin d’eau et se contentent essentiellement de transformer l’énergie qui vient du soleil. Voilà une espèce intelligente qui s’est rendue compte de sa fragilité et qui a créé son successeur.
Alors imaginons que cet anthropologue galactique ait raison et, effectivement, dans quelques millénaires, que le regard qui soit posé ne soit pas du tout celui que nous avons maintenant (savoir quel est notre rapport à l’artificiel – est-ce que c’est une bonne chose ou pas une bonne chose ?) et de dire simplement « Regardez : cette espèce est une espèce tout à fait extraordinaire » : des processus naturels indépendants d’eux sont passés – des processus que nous appelons physiques et dont Hegel disait « processus physique » parce que ce sont des substances qui sont indifférentes les unes aux autres – sont passés au-delà du physique, le chimique, parce qu’il y a des attirances – il y a des choses qui s’attirent et se repoussent au niveau de ce physique et ça produit du chimique, des choses qui vont se combiner. Ces combinaisons de type chimique – par la combinaison d’acides aminés – programment des structures extrêmement complexes qui vont vivre, en dépit de l’entropie – de la tendance de l’univers à se dégrader en choses plus simples – et produire des êtres biologiques, et l’une de ces espèces biologiques est arrivée à inventer quelque chose qui la dépasse entièrement, et qui serait le quatrième stade – au delà du physique, au delà du chimique, au delà du biologique même, de créer du technologique. Nous pourrions nous retrouver dans cette situation tout à fait paradoxale d’avoir constaté – nous-mêmes, en direct – notre incapacité à survivre comme animal à la surface de notre planète, mais de mériter – du point de vue des extraterrestres et au regard des millénaires à venir – les félicitations du jury pour avoir été à ce point intelligents.
La difficulté que nous avons, c’est que nous ne voulons pas de ce scénario. Nous avons des raisons – en grande quantité et d’ordres divers – pour justifier que nous aimerions prolonger notre existence à la surface de la Terre, dans des conditions excellentes et sans devoir nous résigner au fait que la manière dont nous sommes, en ce moment, sur notre planète – en ne maîtrisant pas véritablement les conditions de notre présence sur le globe – conduit à notre disparition ou à l’obligation, en dernière minute, d’aller explorer d’autres planètes, voire même des exo-planètes dans d’autres systèmes stellaires, pour aller nous y établir.
Et c’est ça, je dirais peut-être – sans doute – le paradoxe de la réflexion transhumaniste. C’est que – j’ai souligné tout de suite que, quand on parlait d’un mouvement, on pourrait peut-être envisager le mot mouvement dans deux sens différents à ce propos-là : il y a le mouvement – un mouvement auquel on se joint comme un nouveau parti – mais aussi un mouvement dont il est possible de considérer que cette pensée transhumaniste nous pousse dans une direction particulière mais peut-être à l’insu, non seulement de ceux qui désapprouvent le transhumaniste, mais peut-être à l’insu même de ceux qui en sont les promoteurs. Parce que quand on regarde les valeurs qui sont défendues par ce mouvement, il y a un certain nombre de choses dont on peut se demander si elles sont véritablement proposées par leurs promoteurs dans le sens exact où elles pourraient servir.
Du côté caricatural, on pourrait dire qu’un certain nombre de choses que propose le transhumanisme, c’est une espèce de résignation, en disant : « Nous pouvons vivre dans un monde dégradé, nous allons nous adapter à cette dégradation ». Par exemple, si nous n’arrivons pas à empêcher que des gaz extrêmement toxiques se répandent dans l’atmosphère, eh bien, nous allons nous modifier génétiquement pour pouvoir vivre dans une atmosphère qui serait maintenant considérée comme polluée. Nous allons nous adapter, nous allons nous modifier technologiquement pour vivre dans un monde de plus en plus dégradé, et on considérera par la suite, a posteriori, que c’était une sorte de préjugé qui nous faisait penser que la situation se dégradait. Ou alors, on raisonnerait comme M. Martin Rees pour dire : « Oui mais, les contraintes étaient telles (oxygène, absence de gaz toxiques, eau potable, etc.) qu’il était réaliste, finalement, de s’adapter », d’essayer d’étendre les possibilités de l’être humain dans un monde qui serait moins contraint, où il n’y aurait pas toutes ces contraintes qui sont les nôtres maintenant.
Le transhumanisme propose aussi, comme vous le savez, l’immortalité. Et si on fait quelques pas en arrière, on pourrait se demander aussi, au-delà des discussions du genre « Que ferait-on dans un monde où il y a déjà beaucoup de monde, si ceux qui sont déjà là vivaient éternellement ? », et poser des questions de cet ordre-là : « Quel sens prendrait la reproduction – le fait d’avoir des enfants – dans un monde où nous saurions que chacun a la possibilité de vivre éternellement ? ». Nous pouvons nous poser, effectivement, des questions autour de cette idée de vivre mille ans : est-ce que nous sommes équipés, je dirais psychiquement, pour vivre mille ans ? Est-ce que nous pouvons nous représenter exactement ce que c’est ? Est-ce que ça diminuerait notre responsabilité individuelle ou est-ce que ça l’augmenterait ? On pourrait dire que ça pourrait l’augmenter : si nous savons que la destruction de l’environnement que nous faisons maintenant, nous en subirons les conséquences encore dans mille ans, peut-être que nous y réfléchirions davantage, peut-être que nous ne laisserions pas aux génies du futur – comme nous le faisons maintenant – le soin de traiter les déchets nucléaires, mais que nous nous préoccuperions peut-être de savoir ce qu’il faut en faire maintenant, ou bien déciderions de nous passer de ces technologies puisque nous ne savons pas maîtriser le traitement des déchets, et ainsi de suite.
Mais si nous réfléchissons un petit peu autrement, si nous disons que nous sommes une espèce que les biologistes décrivent – s’ils devaient la décrire, l’espèce humaine – ils la définiraient essentiellement à partir de trois traits particuliers : que c’est un animal social – il est fait pour vivre en société – que c’est un animal colonisateur – qu’il a tendance à envahir son environnement sans prendre de précautions : d’envahir l’environnement de manière totale – et qu’il est un animal que les éthologues appellent « opportuniste » – opportuniste dans un sens spécial : c’est un animal qui peut inventer de nouvelles stratégies s’il est devant un obstacle, qui peut recourir à d’autres stratégies. Nous ne sommes pas le seul animal, bien entendu, de ce type-là, mais nous avons cette capacité.
Nous sommes des animaux de ce type-là. Nous nous trouvons dans une situation particulière, et il est bien possible que, quand nous travaillons maintenant à produire des êtres humains qui pourraient éventuellement vivre mille ans, on pourrait dire que c’est une manière d’essayer de résoudre la possibilité d’aller vivre dans d’autres systèmes stellaires. Nous savons que, dans les techniques actuelles, ça prend énormément de temps de se déplacer dans des systèmes stellaires différents. J’ai expliqué : il y a deux objets – ce sont les sondes Pioneer – qui ont quitté notre système stellaire [et pas seulement l’héliopause comme les sondes Voyager] – mais il faudra encore pas mal d’années avant qu’ils arrivent dans un autre. Mais si nous décidons qu’il y a nécessité pour nous d’aller nous installer ailleurs, le fait de vivre mille ans serait une des conditions à remplir.
Il y a chez Hegel cette notion de « ruse de la raison » : la ruse de la raison, c’est de constater que dans l’espèce humaine, souvent, les hommes – le genre humain en tant que tel – a fait des choses dont il n’a compris le sens exact que bien plus tard. Il ne comprend pas au moment-même, il ne comprend pas exactement ce qu’il fait, et c’est un regard posé en extériorité, plus tard, qui permet de comprendre. Un bon exemple – je crois l’avoir donné la fois dernière – un bon exemple, c’est celui que Koestler a donné [dans Les Somnambules] quand il a décrit l’invention de l’astronomie aux XVIe, XVIIe, XVIIIe siècle -, le fait que ce que ces premiers grands astronomes ont fait – en inventant même les techniques mathématiques nécessaires – était, selon la tâche qui leur était donnée, d’améliorer les méthodes de l’astrologie – dont nous considérons maintenant que ce n’est pas un discours de type scientifique. Ils ont donc fait quelque chose – qui, au niveau de l’histoire de l’humanité, est tout à fait considérable – en croyant faire autre chose. Nous pouvons, du coup, nous poser la question : « Quand nous essayons de lutter contre le vieillissement et de pouvoir vivre éventuellement mille ans, est-ce que nous ne mettons pas simplement au point la technique qui nous permettra de quitter l’environnement dans lequel nous sommes ? » Parce que, comme je l’avais souligné la fois dernière, quand les petits lemmings – les petits campagnols du Cercle Polaire – se lancent en grand nombre pour essayer de trouver un autre environnement autour d’eux, en général, ils réussissent – puisque nous les voyons toujours autour de nous – ils découvrent une autre vallée qu’ils n’ont pas encore colonisée.
L’homme a colonisé l’ensemble, la totalité de la planète Terre, et si nous voulons trouver un autre environnement – parce que nous l’avons dégradé ou nous sommes trop nombreux pour celui sur lequel nous sommes – il faudra que nous trouvions autre chose. Une course est donc engagée entre l’utilisation possible de la technologie par nous-mêmes pour maintenir nos conditions de vie sur la Terre – voire nous adapter à un monde dégradé en modifiant la manière dont nous sommes constitués – et le fait que il est vrai que nous sommes en train, par ailleurs, de mettre au point les techniques qui nous permettraient d’aller éventuellement nous installer ailleurs, sur d’autres planètes. Nous savons que les alternatives dans notre propre système stellaire sont très limitées : nous explorons Mars, mais nous savons que ce n’est pas l’endroit idéal. L’endroit idéal, c’est quand même la Terre, et si nous devons mobiliser nos ressources, il serait quand même plus simple de les mobiliser pour maintenir nos conditions d’existence à la surface de la Terre.
Les difficultés que nous avons, c’est que, d’une part, nous ne comprenons peut-être pas exactement ce que nous faisons – et du point de vue conceptuel, nous ne nous représentons pas bien ce qui se passe autour de nous. Nous ne comprenons pas notre propre comportement : nous sommes surpris par ce que nous faisons, même.
Je vous donne deux exemples – ce sont des termes que vous connaissez sans doute si vous vous intéressez un petit peu à ça. Quand on nous dit – encore en 2014 – qu’une machine ne pourra probablement pas battre un être humain au jeu de Go, on nous dit : « C’est parce qu’il faudrait que la machine puisse développer ce que nous appelons l’intuition pour nous-mêmes, parce que le nombre d’opérations qu’il faudrait calculer dans ce jeu – où il y a énormément de pièces – est trop grand même pour la machine ». Et donc, nous avons quelque chose que nous appelons l’« intuition » qui nous permet de jouer à ce jeu, et la machine, on ne voit pas comment elle pourrait le faire. Et l’année suivante, les plus grands champions de Go sont battus par une machine, et on pose la question aux programmeurs : « Est-ce que vous avez programmé l’intuition ? » » et leurs programmeurs disent : « Il n’y a rien dans ce que j’au cru programmer qui soit une tentative d’introduire l’intuition dans la machine ; l’intuition est apparue comme cela ». Même chose, la même année, quand un système informatique bat les plus grands champions de Poker. Là aussi, on pose au programmeur la question « Comment avez vous développé le bluff ? » – puisque nous savons que le bluff est une stratégie essentielle pour jouer au Poker – et le programmeur tombe des nues, là aussi en disant « Il n’y a rien dans les lignes de code que j’ai écrites qui corresponde à ce que nous pourrions appeler le bluff ».
Nous avons maintenant des représentations sur des choses qui seraient encore impossibles en intelligence artificielle parce que nous disons : « Il faudrait que la machine ait des émotions ou que la machine soit consciente, etc. » Nous devrions là être prudents : est-ce que la machine aura véritablement besoin d’une conscience pour faire des choses dont nous imaginons que la conscience est le moteur – à partir de cette représentation spontanée que notre conscience nous permet d’avoir des intentions et que notre volonté nous permet de mettre en application les intentions que nous avons ?
Je dirais que la psychanalyse nous a déjà mis en garde contre cette représentation – en considérant qu’elle est un peu naïve – parce qu’il se passe chez nous des tas de choses qui ne sont pas de cet ordre-là. Il y a cette chose, chez nous, que saint Paul avait déjà notée : le fait qu’il y a deux types de volonté en nous, et qu’il n’y a que l’une de ces deux volontés qui soit de cet ordre-là – de la délibération, de l’intention qui est mise en application – mais qu’il y a une autre volonté chez nous qu’on appelle « inconsciente » maintenant, ou d’ordre réflexe – et je ne résiste pas au plaisir de vous citer deux versets du chapitre VII de l’Épître aux Romains : Car je ne reconnais pas ce que je fais, je ne fais pas ce que je veux et je fais ce que j’exècre – C’est la présence en nous de ce qui est appelé dans les traductions, je dirais, de type classique, « la chair et l’esprit » et qu’on pourrait appeler « le conscient et l’inconscient », ou « le corps et la délibération » – et le verset XXIV : Malheureux que je suis. Qui me délivrera de ce corps condamné à la mort ? – la représentation de quelque chose de séparé, que l’on pourrait – à l’instar des transhumanistes – transférer peut-être, la représentation de notre conscience à l’intérieur d’une machine ou d’un support d’un autre type, notre esprit étant de l’ordre du logiciel par rapport à du hardware.
Personnellement, je considère qu’il y a là une naïveté. Je ne pense pas que ce soit possible, mais je crois que le fondement de cette naïveté, ce sont les mauvaises représentations que nous avons de notre propre fonctionnement. Le fait est que nous reconnaissons qu’il y a en nous deux types de volonté : l’une qui est de l’ordre du spontané, et quand nous en parlons du point de vue de la justice… La question s’était posée récemment à un événement auquel j’ai participé – des experts judiciaires qui se posent la question de ce que nous ferons quand il y aura de l’intelligence artificielle. Nous reconnaissons en nous-mêmes un comportement qui pourrait être, je dirais, de type machinique – c’est la notion, par exemple, de « crime passionnel » : nous considérons que notre responsabilité n’est pas engagée de la même manière que quand nous agissons de manière rationnelle, quand cette autre volonté, celle du corps – celle de la chair chez saint Paul – intervient. Nous considérons depuis longtemps dans notre droit qu’il y a des circonstances atténuantes qui peuvent intervenir quand nous avons fonctionné comme une machine. Ce qui est amusant, c’est que nous employons le terme de « passionnel » pour cela, et qu’il faudrait d’une certaine manière… C’est comme si nous retirions toute responsabilité à la machine quand elle prendra des décisions et que nous considérerons qu’elles sont dangereuses ou qu’elles ont conduit à des actes doleux, à des crimes. Ce qui est amusant, c’est qu’il faudra considérer que la machine a agi comme nous, dans un état passionnel.
Notre manque de préparation, il apparaît dans ces réflexions qui nous viennent justement sur la machine indépendante, la machine autonome, et comment il faudra la traiter. Nous voyons que le point de départ, il est dans une représentation inadéquate de notre propre comportement. Quand on s’intéresse à la notion de causalité en science… On pourrait considérer que l’homme a spontanément produit une notion de cause – de cause et d’effet – et que quand il s’agit de la culpabilité d’un acte considéré comme répréhensible, simplement, nous utilisons ces catégories de cause et d’effet et nous les appliquons dans le domaine humain : si un être humain a été la cause d’un événement, nous pouvons considérer qu’il était responsable – à condition, bien entendu, qu’il n’y ait pas d’autres circonstances qui empêcheraient de considérer la responsabilité, par exemple la folie ou un acte de type passionnel. Mais quand nous pensons à la machine, nous nous apercevons tout de suite qu’appliquer ces catégories ne fonctionne pas.
Si je mentionnais la cause, c’était pour faire la remarque suivante : quand nous faisons l’histoire de la notion de cause dans notre culture, le mouvement, en fait, a été tout à fait inverse. Cette notion de cause et d’effet n’existe pas en Chine traditionnelle, j’en dirai un mot. En fait, nous avons dérivé la notion de cause de celle de responsabilité : c’est la notion de responsabilité qui était première chez nous. C’est quelque chose qui est sans doute assez spontané dans notre culture mais sur lequel, par exemple, les philosophes stoïciens ont bien réfléchi. Quand nous disons qu’un événement se passe dans le monde extérieur et qu’il est la cause de tel autre, en fait, au départ, c’était lui attribuer une responsabilité : « Si c’était un être humain, pourrait-il être puni pour ce qui se passe là ? » Nous voyons cette notion de cause apparaître, en particulier à l’époque où nous créions la science moderne, dans le cadre de la mécanique céleste qui est la première de nos grandes sciences. Cette notion de causalité, maintenant, nous la rencontrons quand nous parlons de la machine.
Il y a une notion qui devrait être première, c’est celle d’imputabilité. Est-ce qu’un événement est imputable à tel autre ? C’est-à-dire en fait : si cet événement premier n’avait pas eu lieu, est-ce que l’autre serait apparu ? Et vous le savez, la science juridique s’est intéressée énormément à cela. Il y a une notion en particulier, dans notre droit, qui n’est pas de type anglo-saxon, mais de type napoléonien, qui est la force majeure. Nous considérons qu’il y a des choses dans l’ordre du monde auxquelles nous attribuerons une responsabilité s’il s’agit d’un être humain, mais que nous ne pouvons pas attribuer à une force quand il y a des événements qui viennent de l’ordre de la nature et qui nous imposent des choses qu’on appelle des cas de force majeure, et il est très intéressant de voir comment cette notion est appelée dans le droit de type anglo-saxon : elle est toujours appelée maintenant act of God, un acte de Dieu. C’est-à-dire que dans cette réflexion qui doit être la réflexion première – et on pense par exemple au cadre de la Grèce antique – « Cherchons qui est responsable d’un événement », et si c’est un événement que nous appelons nous d’ordre naturel, « Cherchons quel est le dieu qui en est responsable ». La mythologie grecque, bien sûr, c’est cela, c’est de nous expliquer des tas de choses qui se sont passées chez nous et dont la mythologie nous explique quels sont les dieux qui y étaient impliqués.
Dans un pays où j’ai habité, qui s’appelle le Bénin aujourd’hui et qui s’est appelé Dahomey à une époque, du nom d’un royaume, la religion vaudou – « vaudou », c’est le terme qui veut dire sacré en langue fon, la langue du pays – dans cette religion de type grec ancien, pour chaque événement naturel il y a une divinité qui en est responsable, et c’est par un système de sacrifices que l’on essaie de rétablir un équilibre. Ce qui m’avait frappé, c’est… il y a une théorie mathématique qui avait été produite par René Thom, qui avait classé ce qu’il appelait des processus physiques qu’on pouvait considérer comme des catastrophes, des « catastrophes élémentaires » – par exemple, la coupure ou une éruption, la peau crevée par quelque chose qui se passe à son niveau, le pli, etc. – et je m’étais aperçu que dans cette religion du Dahomey, cette religion traditionnelle du vaudou, les divinités principales correspondent à ces catastrophes élémentaires qu’a décrites René Thom. En fait, le terme de catastrophe est évidemment excessif pour déterminer des choses comme la coupure, des choses cet ordre-là, mais il y a une divinité qui correspond à chacun de ce type d’événements. C’est-à-dire que, dans cette religion-là, le monde naturel est divisé en catégories de choses qui se passent dans le monde et que nous pouvons appeler, nous, force majeure ou act of God en anglais, où la responsabilité individuelle du dieu est impliquée.
Donc, ma conclusion serait celle-ci : nous sommes dans un monde où l’évolution de ce monde dépend en particulier du type de technologie qui est de la science appliquée – le fait que nous avons compris un certain nombre de choses et qu’à partir de là, nous pouvons produire des objets. Une des difficultés maintenant, c’est une représentation inadéquate de ce qui se passe. En particulier, nous n’avons pas une représentation très claire de la manière dont notre Droit fonctionne de manière intuitive, et nous appelons « responsabilité » quelque chose que nous n’avons, en réalité, jamais très bien analysé, où les catégories anciennes continuent d’interférer d’une manière ou d’une autre. Nous n’avons pas une représentation très claire non plus de la manière dont deux types de volonté fonctionnent en nous, nous n’en avons pas tiré toutes les conséquences. Et, de manière peut-être encore plus large, je dirais que nous ne nous sommes pas fait une opinion sur le rapport que nous devons entretenir vis-à-vis de cette technologie que nous avons produite et qui, à notre connaissance, est une chose unique à l’intérieur de l’univers.
Ça existe peut-être ailleurs : vous savez que, depuis pas mal de temps, enfin depuis les années soixante en tout cas, nous essayons de voir s’il y a des signaux dans l’univers qui signaleraient une civilisation du type de la nôtre. Nous n’avons pas la preuve jusqu’ici qu’il y ait quoi que ce soit de cet ordre-là, et nous pourrions en tirer comme conclusion le fait qu’il y aurait quelque chose d’effectivement tout à fait extraordinaire à l’échelle de l’univers, le fait que nous soyons cette créature technologique. Mais nous semblons un peu manipulé, je dirais, par la « ruse de la raison ». C’est-à-dire que nous n’arrivons pas à comprendre véritablement ce qui nous arrive.
Le moment est sans doute venu, si nous voulons obtenir une maîtrise plus grande sur ce qui va nous arriver – parce que nous atteignons les limites de ce qu’on appelle la capacité de charge d’un environnement par rapport à une espèce : nous commençons à dépasser la capacité de la Terre de nous soutenir en tant qu’espèce – nous faisons sauter les coutures – Il est peut-être bon, dans une démarche générale d’augmentation de notre lucidité par rapport à ce que nous faisons, que nous réfléchissions, je dirais peut-être une fois pour toutes, à quel est notre rapport à ces artifices que nous produisons – que nous sortions peut-être d’une culpabilité, à moins que nous trouvions le fondement même de cette culpabilité – qu’elle soit justifiée d’un point de vue éthique ou autre mais sinon qu’elle ne vienne pas nous embarrasser dans la réflexion autour de cela – que nous examinions nos catégories en fonction de qui nous sommes, et que nous adoptions peut-être un peu plus souvent le point de vue de ce que j’appelais l’anthropologue extraterrestre, ou galactique, de poser un regard sur nous, un regard lucide sur qui sommes-nous à l’intérieur de cet univers, pour en tirer des lignes de conduite par rapport à ce qui nous menace, c’est-à-dire que la lutte contre l’extinction éventuelle de notre espèce devienne notre première priorité.
Voilà
[Applaudissements]
Question du public :
Aurons-nous le temps de fabriquer les machines qui pourraient nous survivre ?
PJ : J’ai eu la chance d’être à une époque – pour une raison accidentelle mais dont je remercie les dieux – d’avoir été chercheur en intelligence artificielle. C’était à la fin des années quatre-vingt, et à cette époque, les chercheurs dans ce domaine, nous avancions en étant conscients qu’il y avait des goulots d’étranglement par rapport aux possibilités devant nous : il y avait peut-être des tâches qui étaient véritablement de l’ordre de l’impossible – il y avait des problèmes au niveau de la vision qui semblaient être des obstacles qu’on ne pourrait peut-être pas lever, dans l’interprétation des formes – il y avait surtout dans la manipulation du langage, on utilisait des choses qu’on appelait des réseaux sémantiques et ça paraissait très limité. On pensait que ça ne marcherait peut-être pas de manière générale. Dans ce que je vois du développement actuel de l’intelligence artificielle, je ne vois plus de goulot d’étranglement de ce type-là; je ne vois plus d’obstacle majeur, de choses que nous ne pourrions peut-être pas résoudre.
Si on imagine que la conscience est une nécessité pour une machine qui nous remplacerait, oui, parce que nous ne savons pas encore ce que c’est la conscience – nous n’avons pas une représentation, je dirais, de type matérialiste de ce qu’est la conscience. Si c’est un élément d’ordre, disons, soit surnaturel soit de nature physique mais d’un processus dont nous n’aurions pas encore la notion – oui, il y a peut-être quelque chose de cet ordre-là.
Mais à la fin de cette époque-là, j’ai produit un modèle de la conscience qui est un modèle matérialiste où la conscience n’est pas nécessaire, justement, à la volonté. Il est possible qu’il y ait une volonté tout à fait générale sans la conscience. Dans le modèle que j’ai produit, la conscience est une sorte d’artefact du mécanisme de mémoire ; ça nous vient – et ça vient à certains animaux aussi – que nous sommes conscients de nous-mêmes, mais, je dirais, heureusement pour notre survie immédiate dans la vie de tous les jours, nous n’avons pas nécessairement besoin que la conscience joue un rôle directeur. Les choses qui nous sauvent la vie, nous les faisons à une vitesse telle que la représentation n’a pas encore eu lieu même dans notre cerveau. Dans un incendie, nous courons avant que notre conscience se soit rendu compte que ça brûle, parce que notre corps l’a su avant.
C’est Benjamin Libet, le psychologue américain, qui avait découvert que l’apparition dans notre cerveau de ce que nous appelons la volonté vient après – en général longtemps après. Il avait calculé que notre représentation de l’acte que nous voulons poser vient une demi-seconde après qu’il a été posé véritablement, que le corps l’a déjà entrepris. Mais depuis, il y a des chercheurs japonais qui ont montré que dans certaines circonstances, notre corps a déjà entrepris la chose que nous allons vouloir faire plus de dix secondes auparavant, et qu’en disant « Tiens ! Je vais faire ça ! », il y a déjà dix secondes que le corps est en train, en fait, de poser l’acte, et notre conscience enregistre simplement ce qui est en train de se passer.
Pour ce qui est de machines qui se reproduiraient, il faut imaginer, bien entendu, des machines qui extrairaient les minéraux, qui les rassembleraient, qui construiraient les pièces : que des robots construisent d’autres robots qui seraient comme eux-mêmes. Nous voyons dans les films de science-fiction, dans Terminator en particulier, nous voyons ces créatures intermédiaires qui se réparent elles-mêmes parce qu’elles savent comment il faut faire. Mais dans ce processus-là – qui permettrait à des machines de produire d’autres machines – il n’y a pas d’obstacle connu qui nous empêcherait de le faire.
Il y a une personne en France qui s’appelle M. Ganascia, qui depuis une trentaine d’années nous dit qu’un certain nombre de choses ne pourront pas être faites par les machines. C’est lui qui utilise encore cette image que le robot qui gagne aux échecs n’est pas celui qui peut nous verser une tasse de café, et j’ai mis récemment sur mon blog, bien entendu pour m’amuser, une vidéo d’un robot qui bat les jeunes gens aux échecs et qui en même leur verse du café. Le problème de rassembler dans une machine différents types de tâches, nous le savons, elle est déjà résolue dans le smartphone, appliquée d’une manière qui aurait sidéré nos grands-parents. Quelle est la machine que nous avons inventée, je dirais, qui peut nous être utile dans la vie quotidienne, qui n’est pas déjà là dans cet objet qui prend des photos, qui envoie du courrier, qui traduit des textes d’une langue dans l’autre, qui est une boussole, qui est une lampe de poche et ainsi de suite ? Le fait de mettre deux machines en une, ce n’est pas ça qui va nous arrêter. S’il fallait ajouter à ce robot qu’il nettoie le parquet également avant de partir, nous savons comment le faire. Donc, à votre question, j’ai connu l’époque pionnière en intelligence artificielle où certaines tâches nous paraissaient peut-être encore impossibles, mais là, pour des machines qui se reproduiraient elles-mêmes, là je ne vois pas d’obstacle majeur dans la technologie qui est la nôtre qui empêcherait de le faire.
Question du public :
Une petite réflexion au fil de votre propos : d’abord, vous avez opposé à notre culture, qui est une culture de conceptualisation – de percevoir ce qui nous entoure – à une culture d’essai et d’échec dans d’autres domaines, la contextualisation ayant ses limites quand il s’agit de l’appliquer à l’humanité elle-même. Ça me fait penser à une réflexion de Vercors dans Les Animaux dénaturés, qui dit que le malheur des humains, c’est de ne pas savoir ce qu’ils sont, de ne pas être capables de se mettre d’accord sur ce qu’ils devraient être.
PJ : Tout à fait, oui. C’est un livre qui pose des questions très intéressantes.
Suite de la question :
… L’autre aspect, c’est l’essai-erreur. Est-ce que la machine elle-même, justement, ne procède pas par essai-erreur à une vitesse difficile à mesurer et qui échappe à notre conceptualisation ?
Dans un autre domaine, vous avez évoqué comme un des fondements de notre culture le mythe de Prométhée et l’homme fait à l’image de dieu. Il y a un autre mythe qui est le mythe du péché originel, c’est-à-dire celui de l’interdiction de l’arbre de la connaissance, et je vois mal comment ça s’articule avec les deux précédents mythes que vous avez évoqués.
Et dernière chose, qui rejoint la question précédente, qui n’est pas sur le plan des possibilités mais sur le plan de la possibilité de faire. L’impression que j’ai, c’est que nous vivons dans un monde qui est extrêmement sophistiqué, et le danger de la sophistication c’est la fragilité. Est-ce qu’on sait ce qu’on fera, plutôt que d’imaginer les perspectives que vous avez ouvertes – si ce monde hyper-sophistiqué s’effondre et que l’on connaisse une régression planétaire qui fasse que cette technologie s’effondre et qu’il y ait un recul culturel et technologique considérable qui empêche ce qu’on a pu un temps envisager ?
PJ : Eh bien, je peux commencer un nouvel exposé pour tenter de répondre à ce que vous dites ! Oui, beaucoup de réflexions dans ce que vous dites sur des points d’articulation.
Sur l’essai-erreur, effectivement, la machine nous permet d’industrialiser l’essai-erreur. Dans des tas de problèmes pratiques, nos représentations en termes de cause et d’effet atteignent leurs limites – et ça on le sait depuis un bon moment. Il y a des tas de problèmes, par exemple en aérodynamique, qu’on a essayé de résoudre avec des maquettes et pas à partir de théories au départ. Quand on a voulu résoudre des problèmes complexes qui sont liés à des processus que nous appelons de type non-linéaire – parce qu’il y a des « sauts » qui peuvent avoir lieu ou des « processus dissipatifs », comme dit Prigogine – où nous ne pouvons pas avoir une représentation véritablement déterministe d’un nombre de possibilités qui ne serait pas infini.
Nous simulons maintenant, c’est-à-dire qu’en fait, nous mettons entre parenthèses des mécanismes de causes et d’effets : nous mettons en présence des instances virtuelles de l’ensemble des particules en sachant comment elles interagissent et nous regardons ce qui se passe. Nous faisons la même chose dans les sciences humaines quand nous faisons des modèles centrés objets : Nous constituons des instances de petits personnages et nous les faisons interagir pour voir ce qui se passe. J’ai fait ça moi-même pour simuler un marché boursier, ce qui a conduit en particulier à la remarque que ce n’est pas une meilleure connaissance du comportement des autres qui permet à un marché d’être équilibré mais qu’au contraire, une connaissance parfaite fait qu’un marché se déséquilibre. C’est probablement parce nous ne comprenons pas les marchés – que la moitié des gens croient que le prix est à la hausse et l’autre qu’il est à la baisse, et c’est ça qui leur maintient un certain équilibre.
Effectivement, il y a un retour chez nous de l’essai-erreur parce que nous pouvons le faire maintenant en très grande quantité, et que nous pouvons épuiser le nombre de possibilités. Dans ce que je dis par rapport à la Chine où la représentation du monde n’était pas théorique, mais en termes de corrélations, de choses qui viennent ensemble, je peux vous donner un exemple qui est amusant : ça se passe à l’époque où je travaillais en Californie. Une collègue chinoise me dit que son frère qui habite la Chine va venir lui rendre visite et que je serai intéressé à discuter avec lui, et qu’il a fait la couverture du magazine Newsweek quelques semaines auparavant. Pourquoi a-t-il fait la couverture d’un magazine américain ? Parce que, avec son équipe, il a gagné un concours. Le concours consistait à décrire entièrement le génome d’une plante, et étaient en lice un certain nombre d’entreprises américaines spécialisées là-dedans, des entreprises de petite taille qui emploient au maximum une centaine de personnes, et ce jeune Chinois a gagné la course et qu’a-t-il fait ? Il n’a utilisé aucune représentation du processus qu’il s’agissait de décrire : il a mis en réseau un millier d’ordinateurs si j’ai bon souvenir d’étudiants chinois et a lancé un programme qui, simplement, produisait toutes les combinaisons possibles en regardant ce qui marche. C’est-à-dire que c’était par la « force brute », comme on dit, qu’il avait résolu le problème, dans une perspective tout à fait chinoise, sans représentation théorique de ce dont il s’agissait. Il avait donc trouvé une approche tout à fait alternative, par essai-erreur – en mobilisant non pas la puissance de calcul d’un ordinateur très puissant mais la possibilité, en mettant en réseau un très grand nombre d’ordinateurs peu puissants – d’explorer toutes les possibilités.
Sur les autres choses que vous avez dites, comme je dis, il faudrait pratiquement un exposé nouveau pour répondre à toutes ces choses que vous avez soulevées, qui sont des points importants, mais voilà… je souligne peut-être ce que vous avez dit aussi, le fait qu’il faudrait que nous ayons une représentation moins passionnée de qui nous sommes, moins logée dans le préjugé, pour comprendre mieux ce que nous devrions faire maintenant. Mais là, bien sûr, nous avons toute notre histoire où nous nous sommes placés dans une position tout à fait privilégiée : nous avons mis la nature en extériorité. Avant d’inventer la technologie, nous avons produit aussi autre chose de neuf, c’est-à-dire la culture, la culture qui fait que chaque génération ne doive pas transmettre oralement l’ensemble du savoir à la génération suivante – ce qui mettait des limites, je dirais, physiques à ce qu’on pouvait raconter en termes d’histoire, d’explications – et le fait que la présence du livre permet à chaque génération de faire l’économie de transmettre tout, en disant aux enfants : « Vous pouvez trouver dans le dictionnaire un certain nombre d’explications », puis l’encyclopédie, et puis maintenant, voilà, l’internet dans sa totalité.
Question du public :
Je pense aux aides-soignantes et qu’on atteint une limite, parce que la machine n’arrivera pas à battre l’aide-soignante au niveau de la relation avec le patient.
PJ : C’est une question très intéressante. Quand on a parlé des premiers robots qu’on pouvait produire comme des petits personnages, qu’on peut utiliser dans la vie quotidienne, il y a eu une réflexion de ce type-là qui disait précisément que, sans doute, le dernier milieu où on envisagerait même de faire venir ces robots serait particulièrement, je dirais, celui les Ehpad, de l’aide à la personne, les choses cet ordre-là. Or qu’est ce qu’on a observé dans la réalité ? C’était un des premiers milieux intéressés, qui s’est montré très réceptif ! Et là, on peut se poser la question en disant : « Pourquoi ce rapport à la machine a t-il été possible ? » et là, ce sont parfois des réflexions des personnes mêmes qu’on a interrogées qui ont donné la réponse. Je me souviens d’une dame qui dit en particulier : « Il vaut mieux passer un temps agréable avec un robot qui vous écoute que de ne pas voir un seul être humain toute une journée ! » et là, ça renvoie aux conditions réelles dans lesquelles fonctionnent ces unités, malheureusement, où ce sont des emplois qui sont sous-payés, qui sont peu considérés et où on fait des économies à partir de calculs de rentabilité, et qui font effectivement que là, il vaut mieux avoir un robot qui écoute qu’un être humain qui est en réalité entièrement absent de l’environnement.
Une des questions qui est liée à cela, bien entendu, c’est notre capacité à nous projeter dans un être qui a l’air de comprendre ce que nous disons, qui a l’air d’avoir éventuellement des émotions. Notre rapport au robot, il faut le situer dans la perspective du rapport que nous avons à nos animaux domestiques, où nous sommes parfois étonnés de voir la manière dont une personne dit ou imagine avoir une relation de type humain avec un chat, un chien, etc. Il n’y a pas de raison, bien entendu, que cela n’apparaisse pas aussi vis-à-vis d’une machine.
Il y a un débat à l’intérieur du monde de la robotique. II y a des gens qui sont contre le fait de donner des attributs un peu anthropomorphes à des machines – pour empêcher, justement, que ce type de relation n’existe. Mais vous le savez si vous regardez dans les séries télévisées – en particulier dans celle qui s’appelait Real Humans que vous avez même peut-être vue – ou dans le film Ex Machina : quand nous arrivons à produire un robot avec une apparence humaine extérieure convaincante, nous sommes à deux doigts de pouvoir attribuer de l’empathie ou de projeter nos propres sentiments sur une machine, de la même manière que nous l’avons fait avec nos animaux domestiques. Parfois, nous sommes étonnés : quand vous voyez quelqu’un qui a une relation affective avec un animal qui semble exprimer peu d’émotion – comme un iguane – on peut être surpris ! Mais je crois que nous avons la capacité de faire la même chose vis-à-vis d’une machine – et pas nécessairement quand elle est anthropomorphe. Je me souviens à ce propos d’une de mes filles qui, à l’âge de trois ou quatre ans, avait pris comme poupée favorite un horrible robot de son frère, qui projetait de la lumière, qui faisait des bruits abominables et qu’elle appelait « Mon bébé ! » C’était il y a longtemps … c’était une surprise, mais elle était parvenue à considérer que sa poupée favorite était une machine assez répugnante faisant des bruits divers et lançant des fusées, des choses cet ordre-là, très inquiétantes du point de vue des parents !
Question du public :
On parle souvent de la conscience de la machine. L’inconscient est une composante de l’être humain. Ensuite, religion vient du latin religare, pour relier. Qu’est-ce qui nous rassemblerait dans le transhumanisme ? Enfin, pour ce qui est de construire une éthique afin de trouver soi-même une solution qui ne passe pas par la machine, je me dis que « tout humain porte en lui le poids entier de l’humaine condition », et si l’on n’arrive pas à reproduire dans la machine la conscience et l’inconscient, alors on ne peut pas reproduire un être humain. Donc, l’éthique, ça pourrait peut être le fait de pouvoir sauver une espèce vivante, qui est l’être humain.
PJ : Il y a deux dimensions à ce que vous dites. J’ai mentionné ces trois caractéristiques que le biologiste voit dans l’homme – principalement animal social, animal colonisateur et animal opportuniste, au sens de pouvoir inventer de nouvelles stratégies – Je crois que la dimension colonisatrice, au niveau inconscient, est manifeste chez nous, c’est presque, je dirais, un des moteurs.
Nous avons envahi le monde autour de nous ; nous sommes allés voir absolument partout où on pouvait aller. Dans des conditions faciles ou extrêmement difficiles, nous sommes allés partout. Nous avons vu les documentaires de M. Nicolas Hulot, nous admirons les gens qui font des sports extrêmes : c’est manifestement dans notre nature animale d’aller trouver d’autres endroits et de voir si nous pouvons y faire quelque chose. Je crois que le transhumanisme, d’une certaine manière, véhicule cela à l’échelle de l’univers autour de nous. Il y a, je dirais, cet instinct d’aller voir ailleurs, de vouloir aller voir d’autres choses, et l’image qui me vient, c’est Mme Haigneré, une de nos astronautes : dans un débat où je me trouvais aussi, elle montrait une vidéo où la caméra la montrait entrant en apesanteur à l’intérieur d’un laboratoire spatial, et je lui ai posé une question sur l’expression sur son visage. Je lui dis : « C’est quoi ? Qu’est ce qui se passe ? » et elle dit « C’est deux choses : c’est l’idée ‘Qu’est ce que je fous là ?’ et l’autre, c’est ‘Est-ce que ce n’est pas une des manifestations les plus gratifiantes de la nature de l’être humain ?’ » On pourrait dire : « Ce sont surtout les hommes qui sont comme cela et pas les femmes ! » mais voilà le contre-exemple : c’est une femme qui nous montre ça – la colonisation de l’espace autour de nous – et un sentiment de dire : « Nous sommes au mieux de notre forme quand nous faisons ça » aussi.
Pour ce qui est de l’inconscient, vous le savez peut-être, ce qui faisait l’originalité du projet d’intelligence artificielle sur lequel j’ai travaillé, c’était justement de donner un inconscient à la machine : ce qui animait la production de phrases par le système, c’était la simulation d’une dynamique émotionnelle. Le système s’appelait – enfin, c’est un collègue qui lui avait donné le nom – Réseau associatif à propriétés émergentes de logique et d’apprentissage (ANELLA = Associative Network with Emergent Logical and Learning Abilities). C’était la découverte que de donner une dynamique émotionnelle à la machine – c’est-à-dire qu’elle allait réagir en fonction de ce qui lui paraissait le plus pertinent en termes de ce qu’il faudrait dire à partir d’une situation – produisait de la logique automatiquement. Ça produisait de l’apprentissage aussi dans la mesure où la machine avait du coup, si l’on peut dire, envie d’apprendre autre chose, posait des questions. C’est moi qui l’avais programmée, pour que si une notion nouvelle lui apparaissait, elle cherche l’information nécessaire pour qu’elle puisse l’inscrire à l’intérieur de son système pour étendre son domaine de connaissance.
Bien entendu, la machine n’a pas d’inconscient. On doit parler de « mimer » ou de « simuler », mais c’est possible maintenant de permettre à une machine de comprendre si l’utilisateur est content de la réponse donnée ou non. Bien entendu, on décourage les réponses qui ne sont pas considérées comme positives ou utiles par l’utilisateur. Là aussi, sans même faire l’effort délibéré d’introduire une dynamique d’affect, comme dans le système que j’avais mis au point, ça va venir par nécessité, simplement pour rendre la machine plus efficiente. Ce qu’il n’y aura pas bien entendu – parce qu’on considèrera ça comme des bugs – ce sont des effets de ratage qui nous sont communs – un lapsus freudien, un acte manqué – et là, je renvoie à une réflexion du psychanalyste Jacques Lacan : « Ce qui nous parait le plus humain à nos propres yeux, ce sont les effets de ratage ». Les mots d’enfant, les dessins d’enfant qui sont tellement attendrissants, c’est parce qu’il y a quelque chose de raté, bien entendu, c’est parce que la représentation n’est pas correcte ou qu’il y a, par exemple, une déformation de la perspective qui est amusante à nos yeux ou que l’enfant a réuni deux notions qu’il ne faudrait pas rassembler, et ainsi de suite. Nous trouvons ça formidable et, bien entendu, nous ne le mettrons pas dans la machine, ou si nous le mettons un jour, ce sera pour la rendre « plus humaine ». Et là, nous savons comment faire ces effets de ratages puisque la psychanalyse s’est fort intéressée à « pourquoi tel mot à la place de tel autre produit un effet tout particulier », ou permet de comprendre ce qui est bloqué dans le psychisme d’une personne – parce que deux notions étaient reliées par un malentendu dans l’enfance, et des choses de cet ordre-là. Et là, en particulier, dans le livre que j’ai écrit à l’époque, Principes des systèmes intelligents, j’ai fait le catalogue entier des effets de ratage, ce qui permettrait maintenant, je dirais, à un programmeur de les introduire – si on veut rendre attendrissant le logiciel qui est en interaction avec un être humain.
Question du public :
J’aurais tendance à dire qu’on a déjà cette répartition dans les algorithmes de Google, où on peut considérer que les succès des requêtes répondent à une approche consciente, programmée, mais où systématiquement, l’algorithme combine ses réponses avec des ratages (…) C’est exactement, à mon avis, le même phénomène dans les processus de recommandation que Amazon met en place pour proposer des produits répondant à votre requête mais, en combinant une multitude de facteurs plus ou moins pertinents, vous propose de temps en temps des réponses absolument hilarantes. Cette marge entre processus que nous considérons comme rationnel, conscient, volontaire, et l’introduction de facteurs largement aléatoires confiés à la machine, on l’a par ce côté.
Une des premières applications de l’intelligence artificielle, que nous vivons déjà depuis les années quatre-vingt, ce sont les algorithmes de décision pour faire de la mise en page et des arbitrages quand les règles de mise en page entrent en conflit – répartition des plans, triche avec l’accroche et le corps. On a confié aux machines des prises de décision qui étaient auparavant celles de typographes humains, et qui sont complètement passées dans les mœurs. De temps en temps, ça aboutit à d’assez mauvais algorithmes comme ceux qui pendant un temps, dans la mise en page du Monde, faisait qu’il y avait des lignes absolument creuses parce qu’il y avait un grand chiffre qu’on ne savait pas couper. Or maintenant, si on prend le logiciel Tech ou le logiciel Indesign, les prises de décision ne sont plus uniquement rationnelles. On peut essayer de creuser a posteriori pour dire pourquoi la décision a été prise mais…
PJ : C’est ça, pour des raisons d’efficacité ou purement commerciales, on va effectivement mimer de plus en plus le comportement humain. Il y a un double processus, c’est que, bien sûr, la mécanisation du monde et la présence de l’ordinateur font que l’on demande, dans l’univers technique, que nous adaptions notre comportement de plus en plus à celui de la machine, mais la machine nous ressemble aussi de plus en plus. La grande surprise dans les années 80, 90 en intelligence artificielle, c’est le fait que ce n’était pas les techniques les plus pointues du point de vue mathématique qui se sont avérées les plus payantes mais la simulation de réseaux de neurones, c’est-à-dire la solution que la nature avait trouvée, avec nous, comme une approche tout à fait pertinente. C’est celle-là qui émerge comme la plus puissante en ce moment.
Question du public :
Là où il n’y a pas de contradiction, il n’y a pas de discussion. Je voudrais simplement questionner la notion de l’inconscient.
Sur ce qui se débat ici, par rapport notamment à la question de la logique mais aussi de l’aléatoire, au fond, la conscience ce sont des processus primaires qui échappent fondamentalement à toute définition logique et chronologique. Je ne vois pas en quoi nous pouvons les reproduire et comment nous pourrions penser les conséquences, en ce qu’il y a en nous un manque qui nous surprend. Nous sommes en train de nous débattre avec l’incapacité à traiter ce manque, c’est-à-dire à traiter ce qui est en nous inaccessible mais fondamental. Est-ce que vous ne pensez pas, par exemple, que dans la réflexion sur la culture réside le point nodal ? Est-ce que vous pourriez faire cette conférence à des Chinois de la même manière ?
PJ : J’ai beaucoup travaillé avec des Chinois et je sais que c’est un plaisir de travailler dans un environnement où il y a peut-être plus de souci d’efficacité que chez nous et moins de réflexion théorique. Mais par rapport à ce que vous dites, nous savons comment s’est constitué le cerveau des mammifères : nous savons qu’il y a ce néo-cortex qui est venu se poser sur, je dirais, une base qu’on appelle le cerveau reptilien, etc. et que, quand nous nous mettons à courir parce qu’il y a un incendie, avant même que nous ayons conscience du processus, c’est ce cerveau reptilien qui intervient par priorité – parce qu’il est là essentiellement dans la tâche de produire soit une fuite en avant soit une fuite en arrière, et qu’il produit cela de manière tout à fait automatique. Par ailleurs, oui, il y a des phénomènes de type inconscient, même des phénomènes de type langagier dans la production des phrases et des choses cet ordre-là, et qui là seraient plutôt de l’ordre de cette dynamique émotionnelle qui nous dirige. Mais là, j’ai fait la remarque qu’un système dont le seul moteur était de l’émotion produit de manière naturelle de la logique, et ça rejoint un peu ce que certains psychologues expérimentaux ont vu à propos de la logique : nous pouvons connaître aussi bien que nous voulons les règles de logique, nous n’arrivons pas à les appliquer dans tous les cas de la même manière, parce que, probablement, c’est l’émotion qui nous dirige le raisonnement, davantage que le calcul à proprement parler. Involontairement, Lewis Carroll – [Charles] Dodgson – l’avait montré dans son petit livre de réflexion sur la logique où il donne des exemples particulièrement farfelus – « Si tous les poulets maîtrisent l’anglais mais que certains poulets peuvent danser également la valse, que peut-on en tirer ? » – et où le fait que le sens même des phrases est tout à fait invraisemblable à nos yeux nous empêche de trouver la conclusion logique, alors que dans la plupart des cas, nous la trouvons très facilement dans des exemples similaires, mais où la dynamique émotionnelle n’est pas secouée artificiellement en remplaçant des notions qui n’ont aucune ressemblance.
Je crois que nous pouvons créer des machines « feuilletées » de la même manière que nous le sommes d’une certaine manière, ou alors, simplement en faisant communiquer des mécanismes dont les principes directeurs sont de nature différente.
Question du public :
Est-ce que l’intelligence artificielle a déjà réussi à concevoir quelque chose qui ressemblerait à la notion de désir autonome chez l’être humain ?
PJ : Quelqu’un qui aurait observé ce système ANELLA que j’avais mis au point aurait considéré que la machine avait un désir, simplement parce qu’il y avait un algorithme qui disait : « Si un mot est utilisé qui n’est pas encore stocké en mémoire, poser la question ‘Est-ce que je peux relier ça à quelque chose que je sais déjà’, à ce qui constitue déjà notre connaissance ? » C’est-à-dire que le désir était inscrit dans le programme : si une notion n’est pas reconnue, essayer de l’introduire dans le système.
Il y avait déjà eu auparavant, dans les années précédentes, un système qui s’appelait ELIZA (1966), l’invention de Joseph Weizenbaum. C’était un système extrêmement simple qui avait mis en application ce qu’on appelle la psychologie rogérienne – du nom de Carl Rogers – c’est-à-dire que la machine, simplement, produisait des phrases à connotation empathique, par exemple de dire : « Ce que vous dites là me touche également beaucoup » ou bien « C’est un sujet intéressant, j’aimerais tant en savoir davantage ». Ou bien simplement : « Vous venez de parler de votre père. Qu’est-ce que votre mère en pensait ? ».
C’était simplement des lignes de codes exprimant des phrases « mises en boîte » et Weizenbaum s’est aperçu que certains de ses étudiants allaient communiquer la nuit, à son insu, avec la machine pour obtenir cette empathie « mise en boîte » qui était inscrite à l’intérieur du système. Le système n’était pas attaché à une mémoire mais simplement il y avait, mis en boîte, des successions de phrases empathiques qui pouvaient fonctionner – en utilisant le fondement même de l’approche de Rogers qui était une approche extrêmement empathique, un psychologue américain qui avait introduit des techniques de dynamique de groupe qui sont encore utilisées. Il avait réfléchi, justement, à la manière dont de simples manifestations d’empathie nous encouragent à continuer, à vouloir en dire davantage.
Merci. On va arrêter là. Merci beaucoup
[Applaudissements]
Laisser un commentaire