Blog de Paul Jorion

Illustration par DALL-E (+PJ)

Cela fait un moment que la Singularité est attendue et qu’on en parle. L’une de ses définitions possibles est : « Le moment hypothétique de l’avenir où la croissance technologique devient incontrôlable et irréversible, entraînant des changements imprévisibles dans la civilisation humaine. » Nous pouvons désormais retirer « hypothétique » puisque c’est là exactement que nous sommes parvenus.

Dans la notice nécrologique que Stanislaw Ulam (1909 – 1984) avait consacrée au physicien et pionnier de l’informatique théorique que fut John von Neumann (1903 – 1957), il avait écrit ceci :

« Un progrès dans l’accélération constante de la technologie et des modifications du mode de vie humain qui nous fait penser que nous approchons d’une sorte de singularité essentielle dans l’histoire du genre humain au-delà de laquelle le train-train qui est le nôtre maintenant ne pourra pas se poursuivre ».

L’expression « singularité » qu’utilisait Ulam appartient au vocabulaire des mathématiques où elle signifie ceci : « un point, une valeur ou un cas où un objet mathématique n’est pas bien défini (par exemple, x² pour x = 0) ou subit une transition ». Dans les propos d’Ulam, c’était bien d’une transition qu’il s’agissait : celle où le destin du genre humain cessait d’être entre ses propres mains pour être désormais déterminé par la machine dont l’homme avait été le géniteur.

Dans son remarquable ouvrage intitulé To Be a Machine , Mark O’Connell commentait :

« … bref, nous déléguerions à la machine toutes les innovations futures : tout le progrès scientifique et technologique […] L’Intelligence Artificielle se trouverait rapidement en position de programmer de nouvelles itérations d’elle-même, étant l’étincelle déclenchant un brasier exponentiel d’intelligence qui consumerait toute création ».

Passant la parole à Nate Soares du MIRI, le Machine Intelligence Research Institute à Berkeley, O’Connell rapportait :

« Une fois que nous aurons automatisé la recherche en informatique et en IA, la boucle de rétroaction positive se refermera et l’on commencera de voir des systèmes capables à leur tour de construire des systèmes meilleurs encore. Plus la technologie deviendra sophistiquée plus rapides seront alors ses progrès ».

Une illustration de cela :

L’utilisateur soumet initialement au LLM son propre savoir, mais c’est un savoir accru par l’existence-même de l’IA que l’utilisateur lui offre dans leurs échanges ultérieurs dont celle-ci tirera parti lors de sa prochaine mise à jour pour devenir encore plus intelligente.

Les connaissances neuves auront été générées avec une économie de moyens considérable car le LLM n’a pas lui à se rendre dans une bibliothèque, à consulter Wikipédia, à mener une recherche Google ou Bing, etc. : il vous propose à chaque échange toute l’information dont il dispose. GPT-5 aura intégré toutes les conversations qu’aura eu GPT-4, alors que la valeur ajoutée par chacun de ses utilisateurs aura été fécondée par la synthèse que l’IA lui aura offerte de milliards de données qui étaient hors de sa portée avant l’invention des LLM. Une courte-échelle perpétuelle a été créée entre l’intelligence humaine et celle de la machine.

Mais il ne s’agit pas seulement de quantités de connaissances : la machine dépassant l’humain dans ses capacités, fait qu’à partir de là, une explosion qualitative de savoir, de la connaissance humaine, a lieu, le savoir de la machine continuant d’augmenter et donc de creuser l’écart avec ce dont l’humain, désormais dans son sillage, est capable à partir de son propre cerveau.

C’est là le processus qu’avait prévu Irving Good (1916-2009), un mathématicien, agent du contrespionnage britannique qui, durant la Seconde Guerre mondiale, avait été le collègue d’Alan Turing à Bletchley Park, pionnier de l’informatique comme lui, à l’époque où ils s’efforçaient tous deux de déchiffrer les codes de l’armée allemande. L’article de Good, publié en 1965, s’intitulait « Speculations Concerning the First Ultraintelligent Machine » : spéculations relatives à la première machine ultra-intelligente, où celle-ci était qualifiée de « dernière invention que l’homme devra jamais faire ». Voici ce que Good écrivait :

« Définissons une machine ultra-intelligente comme une machine capable de surpasser de loin toutes les activités intellectuelles d’un homme, aussi intelligent soit-il. La conception de machines étant l’une de ces activités intellectuelles, une machine ultra-intelligente pourrait concevoir des machines encore meilleures ; il y aurait alors incontestablement une « explosion de l’intelligence », et l’intelligence de l’homme se retrouverait à la traîne. Ainsi, la première machine ultra-intelligente serait la dernière invention que l’homme devrait jamais faire, à condition que la machine soit assez docile pour nous dire comment la conserver sous contrôle ».

Good définissait donc il y a plus d’un demi-siècle déjà, la problématique que nous désignons aujourd’hui du néologisme de « super-alignement ». Bien avant lui déjà, en 1863, le romancier anglais Samuel Butler écrivait : « Nous créons nous-mêmes nos propres successeurs. L’homme deviendra à la machine ce que le cheval et le chien sont à l’homme ».

À partir de ce point de basculement qu’est la mise au point de la « machine ultra-intelligente », l’Intelligence Artificielle s’emballe dans le processus de l’invention, tandis que nous, êtres humains, nous retrouvons par rapport à elle dans la position inconfortable de l’orang-outang vis-à-vis de ses gardiens tentant d’interpréter ce qu’un être plus intelligent que lui décide de faire dans son entourage.

Explosion de l’intelligence, la Singularité est l’équivalent dans l’ordre du numérique contemporain de l’Apocalypse dans la tradition biblique, à savoir un événement constituant un bouleversement absolu amorçant l’avènement dans le monde d’ici-bas d’un royaume qui n’était jusque-là que céleste : la machine devenue plus intelligente que nous aura fait de nous des dieux, seuls des dieux ayant été capables dans nos récits de faire advenir une créature nous dépassant par son intelligence.

Illustration par DALL-E (+PJ)