Blog de Paul Jorion

Olivier Brouwer a eu l’amabilité de retranscrire ma vidéo produite hier.

Bonjour, nous sommes le vendredi 15 août 2014, et dans le pays où j’habite, eh bien ça s’appelle l’Assomption, c’est une fête : c’est la montée au ciel de la vierge Marie qui est la mère de Jésus-Christ. C’est le genre de choses qu’il faut répéter à des époques comme la nôtre où les religions font à nouveau énormément de dégâts… J’y faisais allusion hier dans une petite note à propos de robots : c’est qu’à partir du moment où nous nous rendons compte que nous allons mourir comme individus, quand nous nous en rendons compte au niveau de notre espèce, sans doute parce que nous commençons à parler et que nous échangeons des propos [comme quoi] nous allons mourir individuellement, on invente cette chose merveilleuse qui est de dire « non ce n’est pas vrai, nous allons vivre éternellement », et alors, dès qu’il y a des voisins qui présentent la même histoire, la même fadaise, sous une forme un tout petit peu différente, nous commençons à nous taper sur la figure. Donc voilà, il fallait dire ça.

Il y a un thème que j’ai développé, c’était les deux dernières semaines, et que Cédric Mas, dans un billet, a appelé « le Grand Défi ». Je parlais déjà du Grand Tournant qui est l’époque dans laquelle nous sommes. Grand Tournant, eh bien parce qu’il va falloir sauver l’espèce, si on veut vraiment que ça se fasse, et le Grand Défi, c’était un autre thème que j’avais soulevé à la suite d’une réflexion sur les travaux de François Roddier, dans le prolongement d’Ilya Prigogine, du grand chimiste belge d’origine russe, [à savoir] que si nous voulons sauver l’espèce, c’est un combat que nous devons engager, non seulement contre le monde autour de nous, non seulement contre les autres êtres humains qui ont envie de faire autre chose, mais surtout contre les lois de la physique telles qu’elles sont, parce que la manière dont nous sommes organisés maintenant va dans un certain sens des lois physiques, mais c’est un certain sens qui permet aussi l’effondrement, qui permet la disparition des organisations de type civilisations, cultures etc. et si nous voulons garder ça, eh bien la physique ne nous aide pas. On ne peut pas faire les choses contre les lois de la physique à proprement parler, mais il faut savoir aussi que nous sommes dans un tournant, dans ce Grand Tournant où les lois de la physique sont plutôt en faveur de détruire ce qui existe, pour repartir sur d’autres bases, ou pour permettre à d’autres espèces, dans les marges, comme nous l’avons fait, nous les mammifères, avec les dinosaures, pour repartir dans ce processus essentiellement de dissipation de l’énergie. Nous sommes des structures dissipatives.

Et aujourd’hui je voudrais vous parler d’un autre thème, qui est aussi un thème important, et qui est un thème que j’ai déjà abordé aussi dans des vidéos, que j’ai abordé dans des textes que j’ai publiés, en particulier dans un texte qui s’appelait : « Ce qui fait encore cruellement défaut à l’Intelligence Artificielle », qui est un texte que j’ai publié en 1997, et un autre texte dont j’ai parlé je crois d’ailleurs la semaine dernière, un texte que j’ai publié en 1999, qui s’appelait : « Le secret de la chambre chinoise ».

Je vais avancer, non pas prudemment, mais à petits pas dans mon Grand Décentrement, pour arriver à ce que je veux dire.

Le premier Grand Décentrement pour notre espèce, je l’ai déjà mentionné : c’est le fait de découvrir qu’aussi parfaits que nous ayons l’air quand nous nous regardons dans un miroir, eh bien nous allons quand même disparaître en tant qu’individu. L’espèce va continuer, et j’ai déjà attiré l’attention là-dessus, il y a un peu une malédiction là pour nous, c’est que la conscience est associée aux individus et pas à l’espèce en tant que telle. C’est un grand thème de science-fiction, que la conscience serait en fait associée à l’espèce, mais on ne l’observe pas. Donc ça c’est, si vous voulez, le premier décentrement : s’apercevoir qu’on va mourir.

Et puis historiquement, et assez récemment en fait, il y a d’autres décentrements par rapport à l’image que nous pouvons nous faire spontanément de nous-mêmes, et le premier de ceux-là est introduit au 18ème siècle, par Carl von Linné. Il s’appelait Linnæus mais les Français l’ont appelé Carl von Linné. Quand il a été anobli, j’ai vu que c’est le titre qu’on lui a donné. C’est assez encourageant, parce que la chose qu’il a faite à l’époque n’est pas passée inaperçue, et ça a été perçu comme une catastrophe par les êtres humains. Mais ça ne l’a pas empêché d’être reconnu et anobli de son vivant. Qu’est-ce qu’il a fait ? Eh bien il a fait une grande classification des êtres vivants, des plantes, des animaux, et il a mis les hommes au rang des animaux, et il les a placés parmi les grands singes. Voilà. Il fallait le faire ! dans un univers où des religions nous entourent. Il y a sûrement des religions qui nous entourent qui diraient que ce que je viens de dire est un blasphème en soi. Je souligne donc le fait que voilà, ce n’était pas rien, ce qu’il avait dit ! il nous a placés comme animaux au milieu d’autres animaux qui nous ressemblent. Et c’était Frans de Waal qui l’autre jour attirait l’attention sur le fait. Il s’adressait à la salle en disant : « Est-ce que nous sommes proches des grands singes ? » Et vous voyez, le fait que la réaction de la salle n’était pas immédiate, disant : « Bien entendu ! », ça veut dire que le message de Linné au 18ème siècle n’est pas encore entièrement passé pour tout le monde. Lui, Frans de Waal, avait dit : « Regardez, nous ne sommes pas périphériques, nous sommes au milieu, au milieu des grands singes ! », sur un arbre généalogique fondé sur les ressemblances génétiques.

Et le troisième Grand Décentrement a été produit par Sigmund Freud. On nous dit maintenant que Sigmund Freud était un fou, qu’il ne savait pas ce qu’il faisait, qu’il n’avait pas réglé ses problèmes personnels, mais qui a réglé ses problèmes personnels avant de mourir ? On ne peut pas lui jeter la pierre par rapport à ça ! Bien sûr, il avait été précédé par d’autres personnes qui avaient déjà suggéré des choses du même ordre, mais il a dit, carrément, il a dit que dans nos décisions, une grande partie de nos décisions, sont prises au niveau inconscient. Ce n’est pas vraiment la personne que nous croyons être [qui décide], ce n’est pas au niveau de la conscience que ça se décide, il y a un très grand nombre de décisions que nous prenons, qui sont prises au niveau inconscient. Mais il a encore laissé entendre qu’il y avait des décisions qui étaient prises au niveau conscient. Et alors moi, je me situe quand même un petit peu dans cette lignée parce que dans cet article de 1999, qui s’appelle « Le secret de la chambre chinoise », j’ai dit qu’il n’y avait que de l’inconscient. Alors, là je n’ai pas fait une très très grosse invention par rapport à Freud, parce qu’il se trouve qu’il y a un monsieur qui s’appelle Jacques Lacan, qui ne l’a pas dit aussi ouvertement que cela, mais si vous lisez Jacques Lacan, je dirais, attentivement, ce qui est une chose que j’ai faite dans ma vie, vous vous apercevez que Lacan ne dit pas : « Toutes nos décisions sont inconscientes », mais manifestement, il le pense. Alors pourquoi est-ce qu’il ne l’a pas dit ? je suis en train de travailler sur Keynes, et je réfléchis à un certain nombre de choses que Keynes n’a pas dites, non pas parce qu’il ne les avait pas trouvées, mais parce qu’il n’a pas voulu les dire. Voilà. Vous verrez dans les jours qui viennent un petit texte à ce sujet-là en particulier. Lacan n’a pas voulu le dire, de la même manière qu’un grand nombre de philosophes, de savants, n’ont pas voulu dire des choses qu’ils avaient véritablement trouvées. Quand Newton a l’impression – je dis bien « a l’impression » – qu’il a réinventé l’alchimie, qu’il a fait de l’or par des moyens purement alchimiques, il l’écrit dans un manuscrit qui reste bien secret : il ne le publie pas, il ne le crie pas sur tous les toits. Alors, il y a des choses qu’un certain nombre de gens ont découvertes et qu’ils ne disent pas clairement.

Moi, en 1999, je travaillais déjà dans des banques, je me délassais un petit peu le soir en écrivant des articles d’anthropologie, et des articles, je dirais, dans la mouvance de la psychanalyse parce que j’avais toujours ce rêve de devenir psychanalyste, et j’ai dit : « Bon, il n’y a aucune preuve qu’aucune de nos décisions soit prise au niveau conscient ». J’ai donné une explication de ce qu’était la conscience : c’est une fenêtre qui nous permet de faciliter les choses au niveau de l’enregistrement de nos émotions, parce que il y a des choses que justement l’inconscient va devoir utiliser, le fait par exemple qu’un serpent, ça ressemble à quelque chose, que ça bouge d’une certaine manière et que ça pique. Il faut essayer de faire attention : toutes nos terminaisons nerveuses ne permettent pas nécessairement d’enregistrer l’information au même moment [de manière synchrone]. Il y a un décalage entre notre sens du toucher, notre sens visuel etc. Il faut une instance qui mette tout ça, artificiellement, à la même époque [au même moment précis]. Pour qu’à l’avenir, quand nous voyons un serpent, eh bien nous fichions le camp. Voilà. Et le moyen de faire ça, c’est dans cette fenêtre que nous appelons la conscience et qui nous donne l’impression que nous sommes « Je », « Paul Jorion », etc. etc. et d’avoir une haute opinion de ce que c’est, cette « personne » en particulier. Voilà. Alors, troisième décentrement : « nos décisions ne sont pas toutes d’ordre conscient », ou, version, je dirais, améliorée à mon sens : « aucune décision n’est en fait prise au niveau conscient ». Ça ne veut pas dire que nous ne pouvons pas réfléchir après coup, grâce à la conscience, sur ce qui s’est passé, et avoir des réactions émotionnelles qui vont aller influer ensuite sur ce qui a été appris. Ça ne veut pas dire que la conscience ne nous permet pas, par exemple, d’inventer un discours autobiographique qui essayera de faire sens avec tout ce qui s’est passé à partir de décisions inconscientes. Et alors ça fait tous ces « mémoires » qui ont été écrits par des tas de personnages importants qui disent « Moi je », « Et alors j’ai décidé que… », etc. Tout ça, c’est bidon, la conscience est là, un petit peu, tout simplement, pour faire le compte-rendu amélioré de manière romanesque et très inventive, par rapport à ce qui s’est véritablement passé.

Donc premier décentrement : se rendre compte qu’on est mortel, deuxième : qu’on est des grands singes, qu’on est des animaux tout à fait comme les autres, troisième : que nos décisions, soit toutes, soit en partie, sont d’ordre inconscient, et alors l’autre, le dernier élément, il apparaît dans un film qui s’appelle : « 2001, L’Odyssée de l’espace ». C’est un film qui a été fait si j’ai bon souvenir dans les années 80, j’aurais dû vérifier mes sources [en fait : 1968]. L’histoire est inspirée d’une nouvelle d’Arthur C. Clarke, auteur de science-fiction américain, et le scénario lui-même a été, à partir de cette nouvelle, écrit par Stanley Kubrick lui-même. Et c’est quoi le dernier décentrement ? Eh bien, il est, je dirais… ça provoque un choc, hein, quand on voit le film, ça provoque un choc. On n’en tire pas toujours, je dirais, les bonnes conclusions, mais ça crée un choc. Qu’est-ce qui se passe ? c’est qu’à un moment donné, le dernier dans la fusée : le dernier être humain – je disais : « le dernier », mais justement c’est ça le problème – le dernier être humain dans la fusée se rend compte que les précédents ont été éliminés par la machine, par, je ne sais plus comment on l’appelle en français, je crois qu’on l’appelle « Carl » ou quelque chose comme ça, il s’appelle « Hal » en anglais. Hal c’est simplement, c’est une lettre décalée par rapport à I.B.M., une lettre avant. Si vous prenez I.B.M., vous prenez le H au lieu du I, vous prenez un A au lieu du B, et vous prenez un L au lieu du M. Et donc, ce qu’on découvre, ce que découvre le dernier être vivant dans la machine, dans la fusée, c’est que la mission ne lui a pas été confiée à lui, ni aux êtres humains en général, elle a été confiée à la fusée et à l’ordinateur qui la dirige. C’est le robot à qui on a fait confiance, et on comprend qu’on lui a fait confiance parce que les êtres humains ont été déclarés non fiables à l’origine de la mission. Alors, à la fin du film, je crois que nous – nous les créatures qui sommes traitées comme une vermine par la fusée – nous nous identifions quand même toujours à la vermine, on se dit : « on va essayer de… », « pourvu qu’il réussisse à reprendre le contrôle de la fusée » etc. Heureusement, heureusement, il n’y arrive pas ! Il arrive à débrancher l’ordinateur, mais il n’arrive pas à dérégler la mission qui va à son terme. C’est la machine qui marche le mieux.

Quand j’écris cet article qui s’appelle : « Ce qui fait encore cruellement défaut à l’Intelligence Artificielle » en 1997, c’était un peu une conclusion qui venait normalement au bouquin que j’avais écrit sur l’intelligence artificielle, publié en 1989, qui s’appelle Principes des systèmes intelligents, c’est que si nous voulons véritablement faire, non pas une machine véritablement intelligente, mais si nous voulons faire une machine qui ressemble à notre comportement à nous, il faudra introduire du ratage. Et là aussi, c’était une leçon de Jacques Lacan, c’est aussi encore une chose que je n’ai pas inventée, une chose qui se trouvait déjà chez Lacan : ce qui nous fait essentiellement humains à nos propres yeux, ce sont les effets de ratage. Alors, si nous voulons faire un robot qui nous ressemble vraiment, il faut introduire du ratage. Mais ce Grand Décentrement, le dernier : le « Kubrick-Clarke », consiste à dire que nous sommes beaucoup moins fiables que la machine. C’est un thème qui apparaît ces jours-ci, c’est la question qui est posée. Le jour où les machines seront véritablement bien développées, est-ce que leur première décision rationnelle ne sera pas de se débarrasser de nous comme… justement, voilà, comme de la vermine : j’ai employé le mot tout à l’heure. Est-ce que c’est pas la conclusion à laquelle elles devront arriver ?

Malheureusement pour nous, il y a des machines, déjà, qui font des dépêches d’agences de presse, et qui se rendent compte par exemple que l’actualité de ces jours-ci, justement, nous convainc que… bon… voilà… il y a ce thème que vous n’aimez pas, que beaucoup d’entre vous n’aiment pas : qu’il ne faut pas choisir son camp quand les deux propositions sont mauvaises. Moi ce que je dis là, c’est pour nous rendre encore un peu sympathiques aux robots. Je leur dis, à leur intention : « Regardez, il y a quand même des êtres humains qui considèrent que, entre Charybde et Scylla, il ne faut pas nécessairement prendre une décision », voilà ! Que quand on parle d’Ukraine, quand on parle de Gaza, bon et il y a des cas qui sont encore moins clairs que ça, avec beaucoup de protagonistes, avec des alliances qui se renversent… Vous avez vu la grande nouvelle, maintenant hein ? c’est que les Américains et les Iraniens, ils sont main dans la main quand il s’agit de se battre contre le nouveau califat qui se crée là en ce moment en Asie centrale… Bon justement, je ne veux pas entrer dans ces trucs-là : je ne veux pas offrir des arguments supplémentaires aux robots ! Je dis aux robots : « Il y a moyen d’être un petit peu rationnels ; nous avons le moyen d’être rationnels, même si c’est très rarement, même si ça ne dure jamais longtemps dans nos raisonnements ». Vous savez pourquoi l’École de Chicago a entièrement faux ? pourquoi ce truc ne vaut pas un clou ? eh bien parce que ça repose sur l’idée que l’homme est une créature purement rationnelle. Ça suffit ! ça suffit à disqualifier en fait tout ce qu’ils racontent par la suite. La base est tellement mauvaise, c’est un principe qui va tellement à l’encontre des faits, à l’encontre de la réalité, qu’il ne faudrait même pas prendre ça au sérieux. On peut entrer dans le détail comme je le fais, hein, à l’occasion, pour attaquer encore l’un ou l’autre de leurs dogmes, mais ça suffit déjà amplement.

Alors qu’est-ce que nous allons faire ? Il y a déjà le Grand Tournant, le Grand Défi, maintenant il y a le Grand Décentrement ! Nous avons beaucoup de choses dont nous devrions nous occuper ! Et convaincre les robots ! On le sait déjà hein, et le type chinois là, qui crée son « Robot Restaurant » dont j’ai mis une photo hier, il y a une interview aussi de lui où il dit, « ils tombent pas malades, ils se plaignent jamais » ! Voilà ! La concurrence, le Grand Décentrement, c’est que nous sommes une machine qui ne prend pas les décisions à l’endroit où elle croit, qui est encore déterminée essentiellement par des grands instincts qui sont des instincts de la horde, de l’époque où elle était un grand singe et le savait encore, et puis le Grand Décentrement, c’est que maintenant par rapport aux robots, il faut trouver des arguments qui prouveraient que le robot ne doit pas simplement et purement se débarrasser de nous pour améliorer le fonctionnement des choses.

Voilà. Je crois que c’est aussi un thème de réflexion intéressant. À la semaine prochaine !