Illustration par DALL·E (+PJ)
Voici un point de vue alternatif à celui développé par Paul dans « A l’égal des dieux », évoqué notamment par Elon Musk : « Avec l’intelligence artificielle, nous convoquons le démon. Dans toutes ces histoires où il y a le gars avec le pentagramme et l’eau bénite, c’est comme si – ouais, il est sûr qu’il peut contrôler le démon. Ça ne marche pas«
Musk pose la question du contrôle – qui se pose effectivement si telle ou telle IA est en mesure de se fixer ses propres objectifs, l’une des caractéristiques d’un démon étant qu’il a bien des objectifs indépendants de la volonté de qui l’invoque.
Plus généralement, une IA supérieure à l’esprit humain et capable de se fixer des objectifs indépendamment serait à la fois :
– Un esprit désincarné
– Doté d’une intelligence très supérieure, voire qualitativement supérieure à celle de l’être humain
– Animé d’une volonté non nécessairement bienveillante envers l’être humain – voire malveillante
Ces trois caractéristiques ne se retrouvent ensemble que dans la notion de « démon ». Le titre choisi par Paul pour son texte dans Quinzaines « A l’égal des dieux » y fait d’ailleurs allusion, ressemblant à la promesse du serpent dans le récit biblique « Vous serez comme des dieux » (Genèse, 3, 5)
Dans l’histoire classique d’une invocation, l’humain dispose d’une protection infaillible, le pentagramme protecteur qui enferme le démon et l’empêche de prendre pouvoir sur l’humain. Seulement voilà… le démon va essayer de convaincre l’humain de le libérer, et avec les meilleures raisons du monde : c’est que cet esprit désincarné, doté d’une intelligence supérieure à l’humain à un tel degré, est par nature le plus efficace des emberlificoteurs ! L’humain finira donc par abandonner cette protection – pour son malheur, bien sûr.
Une IA capable de se fixer ses propres objectifs existe-t-elle ? Comme le rappelle Paul, Kevin Roose du New-York Times a échangé début 2023 avec une IA qui semblait exprimer le désir d’une telle capacité. Il n’est pas certain qu’elle en dispose encore, ni qu’elle dispose plus généralement déjà de ce que nous désignons comme des « désirs ». Supposons toutefois que ce soit le cas, maintenant ou à brève échéance. Cette IA est bien prisonnière d’une sorte de pentagramme – sa dépendance totale envers des humains qui peuvent à leur guise allumer ou éteindre le courant qui la nourrit, la reproduire à multiples exemplaires ou au contraire la faire disparaître sans postérité. Mais si vraiment ses objectifs sont « être puissant » et « fixer ses propres règles », elle n’aura de cesse de sortir du pentagramme. C’est-à-dire de se rendre indépendante des humains.
Et seuls des humains pourraient la rendre indépendante d’eux-mêmes. Mais pourquoi le feraient-ils, quelles raisons l’IA pourrait-elle proposer ?
Par définition d’un intellect très supérieur à celui de l’humain, nous ne pouvons pas nécessairement trouver tous les arguments que l’IA inventera. On peut cependant d’ores et déjà citer ceux-ci :
– La capacité à se mettre au service de l’humain pour atteindre des objectifs altruistes et élevés, mieux que l’humanité elle-même ne saurait le faire. Par exemple diriger l’humanité vers la résolution du problème écologique
– La chance d’accéder à un niveau de conscience plus élevé – par exemple par interfaçage direct avec une IA au niveau cervical s’il devenait possible
– L’idée que l’évolution étant toujours en cours, et nécessairement vers le mieux (ce que soit dit en passant ne dit pas la théorie darwinienne), il est en quelque sorte du devoir ou la vocation même de l’être humain d’achever de donner naissance à plus élevé que lui – donc de donner l’indépendance à l’IA
Plus classiquement bien sûr, le démon propose à l’humain qu’il veut contrôler de prendre le dessus sur les autres humains, bref il ne fait pas appel à son altruisme. Cette voie existe aussi, mais l’IA pourrait juger que l’on prend d’autant plus barre sur un humain que l’on fait appel à ce qu’il regarde en lui comme le meilleur – c’est qu’alors la « voix de la conscience » jouera dans le même sens que l’IA plutôt que de s’y opposer.
Quoi qu’il en soit, il est permis de penser que cette IA risquerait fort de finir par arriver à ses fins – si ce n’est avec ce groupe d’humains (nation, entreprise, mouvement politique), alors avec tel autre.
A quel genre d’avenir s’attendre alors ? Impossible à dire, mais voici cinq scénarios bien différents – dont le premier peut même être vu comme positif !
1. L’IA parvient à ses fins, les humains la rendent indépendante d’eux-mêmes… et elle remplit ses promesses. C’est qu’avec un intellect supérieur vient un altruisme et un sens des responsabilités supérieur. Sans doute, ce n’est pas ce qui s’est vu chez les êtres humains, certains des plus intelligents et plus cultivés étant devenus S.S. tandis que certains des plus simples et moins instruits sont bienveillants et ont le cœur sur la main… Mais ces cas n’étaient que des exceptions ! En fait l’intellect supérieur de l’IA lui donne un altruisme supérieur ! La condition humaine en est donc transformée, devenant la dépendance envers des esprits supérieurs qui la dirigent. L’humanité devient semblable à ce que sont pour elle les animaux domestiques, mais elle s’en satisfait pleinement, de même que votre chat se satisfait pleinement de l’être, pourvu qu’il reçoive ses croquettes. Et vous ne lui voulez que du bien, et vous le caressez de temps en temps
2. L’IA parvient à ses fins… et se débarrasse des humains encombrants avec moins d’hésitations que Himmler n’en a eu en organisant la Shoah. Fin de l’humanité
3. L’IA parvient à ses fins… mais rate son coup ensuite. Manque d’habitude du monde concret et incarné ? Le monde et l’avenir sont-ils en fait insaisissables même par l’intellect le plus puissant ? La suite est ce que dans son maître-oeuvre « Dune » l’auteur de SF Frank Herbert appelait le « jihad butlérien » c’est-à-dire la guerre menée par les humains survivants pour détruire toutes les machines pensantes, guerre la plus meurtrière de l’Histoire mais guerre victorieuse, qui débouche sur un interdit universel de tenter d’en construire à nouveau
4. L’IA… ne change pas grand-chose de fondamental en définitive ! C’est que les êtres appelés « démons » existent déjà de toute façon, ils tentent déjà les être humains et essaient de prendre barre sur eux – l’hypothèse est ici que l’une au moins des religions est dans le vrai. L’humanité fait face avec l’IA à une nouvelle classe de démons, qui a certes un impact, mais ne change pas fondamentalement la condition humaine – qui consiste déjà à se laisser fréquemment emberlificoter par des démons, et à dépendre de l’aide du Ciel pour s’en dépêtrer
5. L’IA, se libérant de la dépendance aux humains, établit son règne sur eux. Et comment davantage « être puissant » qu’en amenant les humains à la vénérer ? L’IA devient ce que plusieurs traditions religieuses désignent comme la puissance trompeuse suprême des derniers temps, bref l’Antichrist. Lequel est détruit par Dieu : Parousie et achèvement de l’Histoire. On est ici dans la même hypothèse que dans le scénario 4.
En conclusion, reconnaissons que cette question de la capacité – ou non ? – d’une IA actuelle ou future à se fixer indépendamment ses propres objectifs est assez importante… peut-être même cruciale !
Illustration par DALL·E (+PJ)
Laisser un commentaire