Blog de Paul Jorion

Retranscription de Le temps qu’il fait le 30 octobre 2015. Merci à Cyril Touboulic !

Bonjour, nous sommes le vendredi 30 octobre 2015. Et là, je suis à quelques heures de terminer la rédaction de mon prochain bouquin – qui sera le N° 18 – qui s’appellera Le dernier qui s’en va éteint la lumière.

Et on m’a demandé chez Fayard, l’autre jour, parmi déjà les projets de couverture, un sous-titre parce que les gens aiment bien le titre mais ils aimeraient bien savoir un peu plus précisément de quoi il s’agit. Alors le sous-titre que je propose, c’est : « … ou De l’extinction », voilà.

C’est un livre sur l’extinction de l’espèce humaine. J’ai écrit déjà la conclusion mais j’y reviens souvent, et j’y reviens souvent dans des humeurs un petit peu différentes, c’est-à-dire que j’ai différentes représentations de ce qui va se passer selon l’humeur plus ou moins optimiste ou pessimiste. Et à l’intérieur des options optimistes ou pessimistes, il y a encore un grand nombre de variétés, et il se pourrait très bien que ce que vous appeliez « pessimiste » ou « optimiste », ce soit le contraire de ce que, moi, je vois dans cette perspective-là.

Alors qu’est-ce que je crois ? Eh bien, je crois que… bon d’abord, il y a une possibilité que nous survivions à la crise dans laquelle nous sommes, mais c’est très très difficile : on aura énormément de mal parce que, eh bien, on en parle à propos du manifeste de Nicolas Hulot l’autre jour : il y a des gens, des gens peut-être pas nombreux mais en tout cas très puissants, qui n’ont pas intérêt à ce que ça change et qui joueront du violon pendant que le Titanic [coule], parce qu’ils y verront leur avantage jusqu’au dernier moment. Il y a des intérêts qui sont puissants, et qui font qu’on ne fera pas ce qui est nécessaire. Il y a une possibilité… on peut essayer de renverser ça.

Alors, le fait d’écrire un livre comme ça, ça fait partie de ma tentative à moi, dans les billets que je fais ici depuis un certain temps, mes tentatives aussi de nous donner, de nous offrir, une réflexion de type économique qui soit d’une meilleure qualité que ce qui est disponible maintenant, ça fait partie de ça aussi. J’en parle encore dans la chronique que je fais pour Le Monde la semaine prochaine. Voilà, si on veut que ça change, si on veut que l’espèce poursuive son existence, il faut vraiment mobiliser toute notre attention maintenant et pas dans un cadre commercial, comme je l’ai déjà dit. Si on se met en tête que, voilà, c’est un truc pour gagner de l’argent, sauver la planète, nous sauver nous-mêmes, et que si ça ne rapporte pas de l’argent, on ne le fait pas, eh bien alors évidemment, c’est cuit, parce que ça coûte très cher et que ça ne rapportera pas nécessairement de l’argent aux gens qui en récoltent en grande quantité en ce moment. Donc, voilà.

Alors mon pronostic : mon pronostic – eh bien, ce matin, voilà –, c’est qu’on n’y arrivera pas. On n’y arrivera pas. Voilà ! On a vu ça dans des civilisations plus anciennes : les intérêts des personnes en place vont empêcher que le tournant puisse se faire dans la bonne direction. Qu’est-ce qui se passera alors ? Eh bien, il y a là aussi, je dirais, un scénario optimiste et un pessimiste. Le scénario optimiste, c’est que nous avons au moins été bons à une chose, qui est de produire des machines, et les machines dont la complexité, dont l’intelligence est en train de dépasser la nôtre. Euh, on peut pinailler à l’infini de savoir si les machines vont être plus intelligentes que nous, ou non : elles le sont déjà. Donc le problème est réglé ! La seule difficulté, si on veut, c’est de les rendre « humaines », au sens où elles réagissent par une dynamique d’affect, une dynamique d’émotion, et là, ça, ce n’est pas très compliqué : j’en ai donné la recette à l’époque où je faisais, moi, de l’intelligence artificielle. J’ai écrit comment ça se fait, comment on peut faire ça, dans le livre qui s’appelle Principes des systèmes intelligents qui a paru la première fois en 1989, donc ça ne date pas d’y hier. Donc, la question de savoir comment donner de l’affect à la machine, eh bien, la recette est connue, ce n’est pas ça qui est compliqué, c’est simplement le désir de le faire qui ne semble pas encore être là.

Alors qu’est-ce qui va se passer ? À mon sens, on va réussir. On va réussir dans cet aspect-là, c’est-à-dire à ce que les machines nous survivent – des machines que nous aurons, nous, inventées. Ce qui n’est pas mal, ce n’est vraiment pas mal du tout ! C’est un prix de consolation : c’est que à notre connaissance, dans l’univers que nous connaissons, nous sommes les seuls à avoir pu dépasser la nature de ce point de vue-là. Alors, à quoi c’est dû ? Eh bien, j’en ai déjà parlé pas mal dans d’autres bouquins, mais c’est dû à notre capacité d’utiliser l’analogie : nous voyons des ressemblances dans les formes et nous sommes capables d’inventer des choses à partir de là, et nous pouvons aussi… nous avons la capacité à faire ce que l’on appelle le « dessein intelligent » : ce qui manque dans la nature, à part nous. Si vous êtes croyant, vous pouvez imaginer qu’il y a un dieu démiurge qui a inventé tout ce qu’il y a autour de nous – moi, je ne le pense pas particulièrement, je ne le pense pas du tout en fait ! Mais il y a une chose que nous avons su faire, c’est le dessein intelligent, c’est-à-dire de tirer parti de tout ce qu’il y a autour de nous, d’inventer des choses en profitant, en fertilisant nos idées, d’idées qui sont déjà là. Et ça, la nature n’a jamais pu le faire.

Je parle du livre du fait que quand l’œil est apparu chez les mollusques, dans différents types de mollusques, ce sont 7 à 10 inventions indépendantes selon les scientifiques. La nature ne réutilise pas les choses qui ont déjà été là. Comme vous le savez, elle utilise la « force brute » comme on dit, et elle finit par trouver des solutions. Et dans le cas des mollusques, elle a trouvé 7 à 10 fois des solutions différentes mais n’a jamais réutilisé une solution existante. Et le paradoxe, bien entendu, c’est que notre œil de mammifère, qui est beaucoup plus récent de, je crois, 200 millions d’années que l’œil du poulpe, est en fait d’une conception bien moins bonne : il y a des tas de terminaisons nerveuses, il y a des tas de vaisseaux sanguins qui sont là, qui obscurcissent en fait l’image de la rétine, ce qui n’est pas le cas du tout dans l’œil du poulpe où tout ça a été bien conçu, je dirais, de la manière comme il faut, en mettant toute la machinerie et toute la mécanique à l’arrière, et donc ça n’influe pas sur la qualité de l’image. Voilà, petite remarque en passant.

Donc, je crois que ce qui va se passer, c’est que nous allons probablement disparaître et que les machines seront toujours là pour nous remplacer. Alors, si c’est ça notre dernière « victoire », si c’est ça notre « chant du cygne », il faudrait quand même qu’on s’occupe au moins d’une chose qui est que nous n’ayons pas transmis à ces machines, je dirais, le pire de nous-mêmes. On est en train de le faire, on est en train de confier l’intelligence artificielle aux militaires – ce n’est pas que ce soit des gens que je n’aime pas, ils remplissent une fonction qu’il faut bien remplir d’une manière ou d’une autre –, mais je ne crois pas que ce soient les [bonnes] personnes. Ils ont une tendance, je dirais, à placer le problème dans un cadre, je dirais, de relations agressives, pour des raisons purement professionnelles. Et ce n’est pas ça qu’il faut faire. S’il n’y a plus que des robots pour nous remplacer, il faudrait au moins que ce soient des robots pacifiques, c’est la moindre des choses.

Et le problème ne date pas d’aujourd’hui. Personnellement, moi, j’ai vécu ça – je l’ai déjà raconté dans un petit récit autobiographique – : j’avais bénéficié de bourses et d’invitations du projet CONNEX à British Telecom où je suis allé travailler un certain temps en Angleterre. Et un jour, on nous réunit, et voilà, d’abord, on nous dit : « C’est une petite conférence, c’est un petit colloque que l’on va faire entre nous. » Ça paraissait improvisé, ça paraissait bizarre, mais enfin bon – vous pouvez toujours trouver sur la toile, le papier que j’avais fait pour cette conférence, et ce n’est pas mal puisque finalement, j’ai pu mettre un peu toutes mes idées ensemble et ce papier est toujours disponible, qui date donc du début de l’année 1990 –, mais après on nous a dit : « Bah, c’était bidon notre petit colloque, on voulait simplement vous dire qu’on n’a plus de sous parce que c’est la fin de la guerre froide, et en fait, eh bien, le financement de ce que nous faisions, nous, ce n’était pas British Telecom, c’était le ministre de la Défense britannique. » Voilà.

Donc, ça ne date pas d’y hier qu’on ait confié l’intelligence artificielle aux militaires. Ça, il ne faut pas le faire, il faut le leur retirer. Si notre réussite, c’est simplement – enfin, je veux dire « simplement » parce que, eh bien, nous aurons disparu – d’être remplacés par des machines intelligentes, il faut au moins que ce soient des machines qui ne s’autodétruisent pas les unes les autres, il ne faut pas que ce soient des « systèmes de munitions intelligentes », comme on dit. Il faut que ce soit quelque chose qui soit un progrès par rapport à nous-mêmes.

Alors, le dernier combat, c’est peut-être celui-là. Ça a déjà été lancé : des personnes importantes comme Stephen Hawking ou Elon Musk qui ont déjà fait des déclarations en disant qu’il fallait empêcher que ce soient les ministères de la Défense, l’armée, qui s’occupent de l’intelligence artificielle, et qui en aient la direction. Ce n’est évidemment pas facile parce que, eh bien, c’est une vieille tentation que nous avons : tous les problèmes que nous ne savons pas résoudre, eh bien, nous demandons à des armées de nous les résoudre à notre place. Il faudrait au moins qu’on ne transmette pas ça à la génération suivante, la génération suivante qui ne sera probablement pas des êtres humains, mais au moins qu’on ne transmette pas ça aux machines qui nous remplaceront.

Voilà ! Ça, c’est mon humeur de ce matin, elle sera peut-être différente ! Je continuerai à corriger ma conclusion jusqu’à lundi, puisqu’on m’a donné, vu le week-end de la Toussaint, Fayard m’a donné quelques jours de plus. Donc, je mettrai le point finalement probablement dans la journée de lundi, et on verra bien ce qu’est la conclusion. Évidemment, il y a encore, je dirais, une « période de latence » où je pourrai modifier encore les choses. Je vais vous mettre une petite vidéo en dessous de la mienne pour compléter ce que je viens de dire.

Voilà, allez, à bientôt !