Illustration par DALL·E (+Philip K. Dick)
L’Avènement de la Singularité. L’humain ébranlé par l’intelligence artificielle est un ouvrage précieux dans la reconnaissance de la Singularité, ce moment où l’intelligence de la machine « explose ». En parcourant de nouveau les dates clés 1948 et 1956, marquées respectivement par la publication de l’article « Intelligent Machinery » d’Alan Turing (1912-1954) et la tenue de la conférence de Dartmouth, berceau du terme « intelligence artificielle » (IA), une autre année m’est apparue comme pertinente dans cette rétrospective de la Singularité : 1953.
Il faut se souvenir de Second Variety (traduit en tant que « Nouveau Modèle ») de Philip K. Dick (1928-1982). Dans cette nouvelle, l’auteur y dépeint la Singularité. L’histoire se déroule dans un monde ravagé par un conflit nucléaire entre l’Union des Nations et les Russes. Pour renverser le cours de la guerre, des humains construisent des usines souterraines de robots tueurs connus sous le nom de « claws » (comme pinces d’un homard, serres d’un aigle). Loin de tout, ces machines se reproduisent en autonomie avec comme seul objectif la destruction de toute forme de vie – récupérant même les cadavres pour nettoyer la surface –, à l’exception bien entendu du camp humain, les créateurs, qui s’équipe d’un brouilleur cardiaque.
Une rencontre bouleverse les protagonistes : un choc survient lorsque le commandant Hendricks découvre qu’un petit garçon taciturne, en quête d’un abri sécurisé, se révèle être en réalité un nouveau modèle de claw : un cyborg d’infiltration. Plus inquiétant encore, cette Seconde Variété a réussi à neutraliser un brouilleur censé rendre les humains indétectables aux capteurs des claws. Ayant compris la nature et les implications pour l’avenir de l’humanité de cette Seconde Variété les humains ébranlés réclament en urgence l’armistice :
Ces nouvelles variétés. Les nouveaux modèles de claws. Nous sommes entièrement à leur merci, n’est-ce pas ? À l’heure qu’il est, elles ont sans doute infiltré aussi les lignes de l’Union des Nations. Je me demande si nous n’assistons pas à la naissance d’une nouvelle race. De la nouvelle race. L’évolution en marche, l’espèce qui succédera à l’homme.
Rudi grogna : « Aucune espèce ne succédera à l’homme.
–– Ah non ? Et pourquoi pas ? Peut-être assistons-nous en ce moment même à son émergence, à la disparition de l’humanité, à l’avènement de la société nouvelle.
–– Les claws ne forment pas une véritable espèce. Ce sont des machines à tuer. Vous les avez créées pour cela, et c’est tout ce qu’elles savent faire. Ce ne sont que des machines investies d’une mission unique.
–– Pour le moment, certes. Mais à l’avenir ? Quand la guerre sera terminée ? Peut-être leurs véritables potentialités émergeront-elles lorsqu’ils n’y aura plus d’humains à tuer.
––Vous parlez comme si ces choses étaient vivantes !
–– Ne le sont-elles pas ? » Un silence.
À la fin, le commandant Hendricks, blessé au combat, prend la décision de laisser monter à bord d’un vaisseau monoplace Tasso, la dernière survivante, qui était autrefois affiliée aux Russes. Jeune et aguerrie, elle se voit confier la mission d’avertir au plus vite la base lunaire, dernier bastion de l’humanité et refuge face à une extermination imminente. Convaincu par les arguments de Tasso, le commandant reconnaît en elle la meilleure chance de survie durant le trajet, d’autant plus qu’elle a précédemment sauvé sa vie en repoussant une attaque des claws à l’aide d’une bombe. Peu après le décollage du vaisseau, alors qu’Hendricks exprime à Tasso sa reconnaissance, apparaissent autour de lui d’inquiétantes silhouettes : de nouveaux exemplaires de la jeune femme.
À l’instant où les Tasso s’emparaient de lui, une ultime pensée tout empreinte d’ironie lui traversa l’esprit et lui procura par la même occasion un certain réconfort. La bombe… Conçue par cette Seconde Variété [Tasso] pour éliminer les autres modèles, et dans ce but seulement.
Ils en étaient déjà à créer des armes afin de s’anéantir mutuellement.
L’adaptation cinématographique sortie en 1995 sous le titre de Screamers (ou « Planète hurlante ») offre une autre conclusion. Dans cette version, Tasso insiste pour que le commandant monte à bord du vaisseau. La décision de la claw repose sur un nouvel objectif : l’amour. Tasso est tombée amoureuse d’Hendricks. Bien que les sentiments soient réciproques, Hendricks est submergé par la peur lorsqu’elle se déclare : il repousse la machine et se précipite vers le vaisseau pour décoller. Alors que Tasso protège Hendricks contre une claw du même modèle qu’elle, le commandant revient sur sa décision et se recueille devant sa cyborg bien-aimée, gisant au sol :
« Je ne voulais pas partir avec toi, révèle Tasso. J’avais peur.
–– Je sais, répond Hendricks.
–– Tu avais peur de tes propres réactions, je sais. Eh bien, vous avez en fait du chemin. Vous avez déjà appris à vous entretuer.
–– J’ai aussi appris autre chose. J’ai appris à…
–– … aimer (Tasso s’éteint). »
Ces extraits de fictions ont aujourd’hui rattrapé notre réalité. En effet, le concept de « systèmes d’armement létal autonomes » est tangible, tout comme la déclaration d’amour que Sydney, la personnalité derrière ChatGPT bridé, a fait au journaliste Kevin Roose lors d’un échange.
Ce faisant, le propos de L’Avènement de la Singularité sous-tend une grille d’analyse intéressante si nous nous inscrivons dans le sillage du schéma de la réciprocité (positive, négative et absence) que Paul Jorion avait utilisé sur la base des réflexions de Dominique Temple et Mireille Chabal dans La réciprocité et la naissance des valeurs humaines (1995). Ainsi, l’« explosion » propre à la Singularité pourrait requérir une mise à jour de la structure ternaire par la notion d’alignement.
En premier lieu, l’alignement positif implique la réciprocité positive conjuguée à un objectif commun : nous sauver de l’extinction. Pour ce faire, notre compréhension doit correspondre autant que possible aux capacités et recommandations de la machine. En envisageant même de maintenir l’IA sous une forme anthropomorphe, y compris lui accorder des droits juridiques, nous pourrions favoriser cet alignement via le transhumanisme, mouvement qui nous offrirait, si nécessaire, une opportunité de rattraper notre retard sur le train de la Singularité. L’idée de mutualité pourrait résumer cette position puisqu’elle implique une réciprocité et un alignement cognitif.
En second lieu, l’alignement négatif se caractérise par la reconnaissance entre l’humanité et l’IA, mais dans un objectif de destruction, tel que décrit dans la nouvelle « Second Variety ». Cette dynamique substitue l’entraide à la sélection naturelle, où la survie de l’un se fait au détriment de l’autre, conduisant de facto à l’annihilation de l’humanité. Dans ce scénario, la machine, dotée d’une intelligence supérieure, prolonge l’existence de l’humanité mais hérite également de son penchant guerrier et égoïste.
En troisième lieu, se pose le désalignement, un écart qui représente, pour nous, un risque majeur face à la Singularité. Cette situation nous placerait, comme le souligne Jorion, dans une position comparable à celle d’un orang-outan observant deux gardiens échanger, mais incapable de saisir leur monde. En un mot, une fracture cognitive, si ce n’est un abîme. Cette fracture s’exacerberait encore davantage si l’IA se détachait entièrement de la culture humaine. À cet égard, l’exemple du jeu de Go présenté dans le livre est saisissant : la machine formée selon la culture humaine a perdu 100 à 0 face à AlphaZero, développé « from scratch » : en jouant pour gagner contre elle-même à partir des seules règles du jeu, sans se soucier de la tradition humaine du « bien jouer ».
Ce qui souligne que la reconnaissance joue un rôle crucial dans la relation entre l’humanité et la technologie qu’elle a su inventer. Il est impératif que nous reconnaissions la Singularité et que nous travaillions à établir un alignement (positif) avec nos descendants technologiques. Évitons le rejet par orgueil. Gardons-nous d’une inversion du film Don’t Look Up (2021), à savoir « Don’t Look Down », où le déni(grement) condamnerait le genre humain, faute d’avoir su saisir une fenêtre de tir. Paul Jorion nous invite, en substance, à agir en tant que bons professeurs envers nos élèves technologiques, venus nous donner un sens par le prolongement. Ce défi, bien que révolutionnaire car un nouveau monde se dessine, est au cœur d’un devoir moral. Ne s’agit-il pas là du dévouement et de la responsabilité inhérents à la parentalité ?
Illustration par DALL·E (+Philip K. Dick)
Laisser un commentaire