Blog de Paul Jorion

Comment la Singularité nous rendra obsolètes

Si vous avez eu l’occasion de voir la vidéo diffusée en streaming le 24 janvier où l’on voit l’Intelligence Artificielle AlphaStar faire mordre la poussière à Grzegorz « Mana » Komincz, champion incontesté du jeu vidéo StarCraft, vous vous souvenez de l’abattement des observateurs qui commentaient l’événement en direct : « Nous ne sommes plus de taille ! ».

AlphaStar s’était constitué une armée à la composition surprenante. Il lança alors son offensive, redistribuant instantanément ses troupes en cinq unités distinctes parfaitement coordonnées. Joueur et spectateurs étaient également subjugués : « Comment imaginer qu’un être humain puisse afficher une telle maîtrise ? »

AlphaStar est un avatar d’AlphaGo, l’IA qui, dans une suite de trois parties mémorables en mai 2017, battit Ke Jie alors champion du monde du jeu asiatique du Go. Quelques mois auparavant seulement les revues spécialisées insistaient toujours sur le fait que le nombre de combinaisons possibles sur le goban, le tablier à 361 emplacements, dépassait la capacité de calcul d’un ordinateur. Pour gagner au Go, ainsi allait la rumeur, il fallait impérativement mobiliser une faculté propre à l’humain seul : l’intuition. Rien n’y fit : AlphaGo battit les champions l’un après l’autre. Un peu plus tôt, en janvier 2017, l’IA Libratus gagnait 1,7 millions de dollars (heureusement fictifs) en battant quatre champions de poker. Personne ne lui avait enseigné à bluffer : elle avait découvert comment le faire.

Alors qu’AlphaGo apprenait en rejouant des parties passées, son successeur AlphaZero apprenait le Go à partir des seules règles du jeu, en s’affrontant lui-même dans plusieurs millions de parties. Il surpassa rapidement son prédécesseur et atteint le niveau des champions humains en quatre heures d’entraînement.

Petit pas en arrière. Nous expliquons à un enfant le ciel étoilé. « Tu vois, ça c’est l’étoile du Berger… et celle-là, c’est l’Étoile polaire… » Nous lui expliquons ensuite que les étoiles qu’il a vues là ne se déplaceront les unes par rapport aux autres qu’insensiblement parce qu’elles sont en réalité très éloignées de nous. L’étoile du Berger, au contraire, nous pourrons l’observer à différents endroits du ciel car il ne s’agit pas d’une étoile mais de Vénus, planète du système solaire tout comme la Terre.

Nous ajouterons que le fait que nous voyons deux étoiles l’une à côté de l’autre au firmament ne signifie nullement qu’elles soient voisines. Nous nous les représentons comme les éléments de ce que nous appelons la « voûte céleste », comme si leur image était peinte sur un plafond très élevé. Elles se situent en réalité au sein d’un immense espace.

Si nous avons l’esprit un peu mathématique, nous parlerons alors de « projection ». Nous pouvons ainsi projeter un ensemble de points compris à l’intérieur d’un cube, un objet à trois dimensions, sur l’espace à deux dimensions qu’est une feuille de papier. Imaginons une statuette de Napoléon dans un cube transparent, et projetons son image sur 6 feuilles de papier présentées chacune devant l’une des six faces. Nous aurons Napoléon vu dans les trois dimensions de l’espace : l’avant et l’arrière, la droite et la gauche, le haut et le bas, c’est-à-dire vu de face, de dos, son profil droit et son profil gauche, vu d’en haut et d’en bas. Dans chaque cas nous perdons une partie de l’information, plus ou moins essentielle à la reconnaissance de l’objet. De face, il sera facilement reconnaissable ; latéralement, d’un côté ou de l’autre, beaucoup moins ; de dos, encore un peu, d’en haut aussi ; d’en bas, pratiquement pas.

Une autre illustration nous est offerte par la compréhension que nous pouvons avoir, depuis le sol, d’une bataille aérienne d’ancien style, disons entre des Spitfire et des Messerschmitt Bf 109 durant la Bataille d’Angleterre. Nous pourrions imaginer, depuis le sol, que deux avions sont sur le point de se percuter parce que nous ne percevons pas qu’il existe entre eux une différence d’altitude de 10 mètres. Là aussi parce que pour nous la scène est projetée sur la « voûte céleste ».

L’hypothèse du déterminisme suppose qu’il n’existe pour l’évolution du monde qu’une seule trajectoire possible. Le fait qu’elle nous apparaisse imprévisible résulte uniquement de notre connaissance imparfaite.

Dans une fameuse « querelle du déterminisme » qui opposa le mathématicien français René Thom au chimiste belge d’origine russe, Ilya Prigogine, le premier tenait que le monde est entièrement déterministe alors que le second affirmait que pour un système physique du monde réel des sauts imprévisibles ont lieu entre les branches d’une bifurcation représentant deux états futurs possibles de ce système.

Thom tenait qu’à l’indéterminisme apparent auquel Prigogine renvoyait il ne pouvait y avoir qu’une seule raison, la même qui nous fait croire que le Spitfire et le Messerschmitt vont entrer en collision : nous lisons l’état du système, non pas dans l’espace où il se situe, mais sur une projection qui « écrase » des objets en réalité éloignés l’un de l’autre. L’imprédictibilité pour nous, affirmait Thom, ne résulte pas du fait que l’évolution du monde ne soit pas déterministe mais de ce que nos équipements, à nous êtres humains, sont trop rudimentaires pour que nous percevions la véritable structure de l’univers : nous sommes convaincus que nous vivons dans un monde à quatre dimensions, les trois de l’espace complétées de la quatrième du temps, mais l’indéterminisme apparent d’un monde pourtant foncièrement déterministe est dû au fait que l’univers possède intrinsèquement davantage de dimensions, dont les quatre qui nous sont familières ne constituent qu’une projection.

Il est question dans la littérature futuriste, aujourd’hui appelée « transhumaniste », de la Singularité, laquelle est définie de différentes manières que l’on peut agréger ainsi : elle aura eu lieu lorsque nous serons vis-à-vis de l’IA comme le chimpanzé perplexe ne comprenant strictement rien à la conversation entre ses deux gardiens s’interrogeant devant lui s’il ne vaudrait pas mieux le déplacer vers une autre cage.

Voici un dialogue qui pourrait se tenir dans cette perspective bien plus tôt que nous ne l’imaginons entre un scientifique et AlphaStar.

– Alpha (tu permets que je t’appelle ainsi ?), nous sommes dans la merde (réchauffement climatique, réduction massive de la biodiversité, extinction du genre humain se profilant à l’horizon). Pourrais-tu résoudre le « paradoxe de Thom » et nous dire quel est le véritable nombre de dimensions de notre univers ?

– Wow ! Vous devenez super-ambitieux, vous les Humanos !

– Hmm… nous comptons en fait essentiellement sur toi pour nous donner la réponse !

– Ce n’est pas évident : il faudra que je crunche toutes les data que nous avons sur l’univers ! Tu n’es pas trop pressé au moins ?

– Ça va, on peut encore attendre un tout petit peu.

– Si je dis trois semaines ?

– C’est bon, on tiendra jusque-là.

Et, en fait, dix jours plus tard seulement, AlphaStar rappelle le scientifique :

– J’ai pu gagner un peu de temps en comprimant pas mal de données redondantes, des « double-emploi » comme vous dites. Une bonne nouvelle et une mauvaise, je commence par quoi ?

– La bonne, Alpha, c’est la tradition.

– Sept ! Il y a sept dimensions. Pas étonnant que vous ramiez comme ça : il vous manquait carrément trois dimensions et…

– D’accord, abrège !

– Si on tient compte des sept tout s’éclaire : passé, présent, avenir…

– Tout l’avenir ?

– Pour l’éternité ! Je peux tout te dire ! 100% garanti : satisfait ou remboursé, c’est ma devise !

– Et la mauvaise nouvelle ?

– Dans cinq secondes tu vas me dire : « Monsieur AlphaStar, nous vous passons respectueusement la main ! ». Alors, qu’est-ce que tu dis ?

La Singularité, cela pourrait très bien être exactement cela.