Blog de Paul Jorion

Billet invité.

Les choses sont donc claires, malgré les coups portés par de sombres voyous tels Copernic, Darwin ou Hubble, l’Homme (avec h et ego majuscule) reste la créature la plus intelligente de tout l’univers connu. Ou pour être plus précis, disons que nous sommes raisonnablement sûrs de ce fait, à l’échelle de notre système solaire. C’est-à-dire sur une distance de 17 à 18 heures lumière… à comparer aux 45 milliards d’années-lumière de rayon de la sphère de l’Univers observable.

Et encore, il est à remarquer que malgré notre intelligence supérieure, nous ne sommes toujours pas capables de donner une définition satisfaisante de ce que sont l’intelligence, la conscience, ou la vie. Ce qui débouche automatiquement sur une multitude de quiproquos, de malentendus, et de dialogues de sourd en tout genre, lorsqu’est abordé le sujet à la mode (et d’actualité) : l’Intelligence Artificielle.

Dans sa version faible, celle de systèmes experts auto-apprenant, la controverse n’est plus de mise. Les machines existent déjà, et leur intelligence consiste à remplacer l’être humain tout en restant sous sa supervision. Ces systèmes experts sont promis à un bel avenir, tant ils peuvent ‘terminer’ les humains dans les entreprises, maximisant ainsi les dividendes, bonus et autres capitalisations boursières. Et rassurons celles et ceux qui s’inquiéteraient d’un dissensus social qui ne pourrait alors qu’augmenter : tous les complexes militaro-industriels de la planète planchent d’arrache-pied sur le gigantesque marché de la défense et de la sécurité dans sa version robotisée.

C’est donc l’homme et ses absurdes décisions, qui sont à craindre dans la version faible de l’IA. En se plaçant volontairement de lui-même, sous couvert de liberté ou de rentabilité, sous la dépendance de la machine et des systèmes experts. Un processus que l’on voit déjà clairement à l’œuvre dans tous les secteurs de nos sociétés…

Dans sa version forte, l‘IA deviendra consciente d’elle-même et son intelligence sera équivalente à la nôtre. Elle pourra dire ‘je’, elle pourra même nous dire ‘m…’, et par construction ontologique, nous ne pourrons pas la garder sous contrôle !

Bien que le support de sa conscience ne soit pas biologique, elle sera de fait devenue une nouvelle forme de vie d’un nouvel ordre du vivant !

Et nous ne pourrons même pas utiliser les différentes formes de mensonges, fussent-ils les plus bénins : ceux destinés à faciliter nos rapports sociaux, tant elle sera capable de lire nos micros-langages corporels et faciaux, d’analyser les tensions harmoniques de notre voix…, pour en déduire nos véritables intentions à son égard (même celles qui ne seraient pas encore arrivées au niveau de la conscience !). Mieux, ou pire – c’est selon -, il se pourrait très bien que tout en étant transparents à sa pensée, nous éprouvions les pires difficultés à la comprendre ! En effet, la conscience dépendant du corps et de ses sens, comment pouvoir communiquer avec une forme de vie dont l’univers mental sera radicalement autre ? D’où la peur éprouvée par beaucoup d’entre nous à l’idée de ce scénario, et une réaction primitive automatique qui consiste à n’envisager que trois solutions possibles : le combat, la soumission, ou la fuite.

Une situation qui pourrait fort bien déboucher sur une prophétie auto-réalisatrice, si l’IA détecte notre peur et anticipe une réaction violente de notre part !

Ce scénario hollywoodien, à la Skynet/Terminator, ne peut pas être absolument exclu. En tout cas dans un premier temps, tant que le niveau de conscience de l’IA reste plus ou moins similaire au nôtre.

Ensuite, même à supposer que l’évolution de l’IA se fasse sur un rythme géométrique et non pas exponentiel, elle finira par atteindre un point que nous nommons, faute de pouvoir le comprendre, la singularité. Un niveau supérieur de conscience, définitivement impossible à appréhender pour nos esprits de primates. À supposer alors qu’il n’y ai pas eu de phase transitoire ‘Skynet’, et que l’humanité biologique soit toujours vivante, il est fort probable que l’IA passée derrière l’horizon de la singularité, abandonne à jamais la boîte de petri qui l’aura vu naitre : notre planète.

Ces scénarios de l’IA forte et plus encore, de la singularité, sont considérés par certains comme inévitables et par d’autres, comme de purs fantasmes de science-fiction. Et la vérité est que nos connaissances scientifiques ne permettent pas de trancher ! Tel physicien ou informaticien célèbres pétitionnent pour nous mettre en garde, alors que d’autres de leurs collègues, tout aussi reconnus dans leurs domaines, se contentent de hausser les épaules.

Mais peu importe finalement, car nous savons tous parfaitement quel est le véritable scénario de science-fiction, l’utopie absolue, l’ultime délire : celui que sept milliards de primates humains, isolés sur une minuscule planète dans l’immensité froide de la nuit cosmique, cessent de se sauter à la gorge à tout bout de champ, sous l’emprise de leurs instincts.