Illustration par Stable Diffusion (+PJ)
Je suis régulièrement frappé de voir qu’un certain nombre de spécimens d’homo sapiens, dont l’intelligence figure probablement à +2 ou +3 sigmas de la moyenne de leurs congénères, assènent, au sujet du potentiel maximal de l’IA, des affirmations péremptoires avec la conviction-de-celui-qui-ne-doute-de-rien. Nombre de ces commentateurs critiques ne sont pas spécialistes du domaine de l’IA et de la conscience. Néanmoins, l’IA est devenu un tel enjeu de société qu’on ne voit pas au nom de quoi on interdirait à quiconque d’en débattre. Voici comment on pourrait résumer le propos de ces affirmateurs péremptoires : « rassurons-nous, JAMAIS l’IA ne nous supplantera et JAMAIS elle ne pourra prendre le pouvoir sur nous, nous avons, nous HUMAINS, des propriétés UNIQUES ».
Ces affirmations révèlent selon moi davantage l’angoisse profonde de l’homo sapiens face à son identité et face à ses créations, plutôt qu’un pronostic rationnel des probabilités sur les potentiels futurs. Elle me semble aussi s’inscrire dans une longue tradition historique faite d’orgueil et de préjugés, sans cesse démentis par les progrès de la science et de la philosophie. Cette posture péremptoire est-elle donc vraiment digne de la raison critique ? Il me semble qu’elle ne repose pas sur grand chose qu’une pétition de principe.
Je ne suis pas non plus un spécialiste de l’IA et de la conscience je l’admets. Mais je me considère comme un bon praticien de la raison critique, en particulier de l’examen de la cohérence logique d’une argumentation. Confronté à de nombreuses menaces, j’ai tendance à penser que notre inconscient lutte de toutes ses forces contre les hypothèses déplaisantes en formulant des postulats qui lui évitent la remise en question. Le déni est ainsi un de nos biais les plus puissants. Que l’IA puisse nous humilier en nous surclassant totalement est clairement une des hypothèses parmi les plus déplaisantes pour n’importe qui. Il faut donc se méfier a priori de cette hypothèse et la juger plus dangereuse car plus séduisante. Au contraire, il faut surpondérer les hypothèses déplaisantes pour palier à nos biais inconscients.
En « émergentiste » philosophique (c’est-à-dire que je dois admettre le constat évident que des propriétés imprévisibles émergent par effet de seuil de complexité non-linéaire dans le réel, comme la vie émerge de l’inerte, la sensibilité et l’intelligence de la vie, et la conscience émerge de la sensibilité et de l’intelligence, chaque fois par une rupture de continuum), je ne vois à ce jour strictement rien qui empêche, selon le même principe émergentiste, une IA de nous surclasser tous selon toutes les définitions possibles de l’intelligence (générale, spécifique, artistique, stratégique, verbale, etc.).
Rien, strictement rien parmi les objections, les argumentaires, lus et entendus jusqu’à présent ne nous permet, selon la raison critique et la métaphysique émergentiste, d’écarter l’hypothèse du surclassement complet de toutes nos performances humaines par l’IA, tôt ou tard. Cela me semble le scénario le plus probable à tendance continuée, le scénario Business-as-usual. Je trouve en outre que c’est le plus parcimonieux et le moins étonnant quant à la nature de l’intelligence et de la conscience, selon la logique du rasoir d’Occam. Pour le rejeter, il faudrait démontrer qu’il existe des obstacles infranchissables encore inconnus sur le chemin de cette tendance et en quoi l’espèce humaine est si exceptionnelle d’avoir réussi à les franchir au gré du hasard sélectif de l’évolution. Ceci alors que nous dirigeons nos efforts de design de l’IA consciemment, et massivement, en ce moment même. Ou bien postuler un dualisme qui ferait de l’esprit humain un élément étranger au reste du règne de la matière, y compris à la matière de son propre cerveau. On comprend que les croyants paniquent un peu en voyant l’actualité. Comment articuler théologie et IA… Cela augure de pas mal de conciles et autres grands messes pour plâtrer rapidement les lézardes du dogme.
Peut-être y a-t-il des effets de seuil contraires qui nous surprendront sur le chemin de l’IA (c’est déjà le cas) mais je ne vois pas pourquoi nous ne parviendrions pas à les lever les uns après les autres. Et il me paraît héroïque d’expliquer pourquoi ce qui s’est produit durant l’évolution -que chaque nouvelle espèce d’homo sur notre lignée a réussi apparemment à surclasser la précédente en intelligence (selon les artefacts archéologiques retrouvés)- soit inaccessible à la programmation informatique alors que cette programmation a déjà vaincu des humains à des jeux où les champions sont considérés comme des génies. Autrement dit, le génie humain a déjà fait mieux que l’évolution en moins de temps, sur la compétence « gagner aux échecs et au go ».
Un autre élément troublant est que la science démontre chaque jour que l’être humain n’a pas du tout le monopole de l’intelligence. L’intelligence est manifestement une propriété émergente du vivant mais pas réservée à homo sapiens. L’intelligence, et peut-être même de nombreuses formes de conscience, apparaissent en réalité, très communes.
En fait, nous humains, nous prenons le problème dans le mauvais sens je crois. Plutôt que de porter au pinacle notre « intelligence » et notre « conscience » -que l’observation de l’état désastreux du monde remet à sa juste place, pas grand chose de valable-, et donc juger les acrobaties actuelles de l’IA comme l’équivalent de l’agitation d’une fourmi au pied d’un éléphant, nous devrions plutôt inverser la perspective. Je pense que ce que nous nommons « intelligence » et « conscience » est beaucoup moins « incroyable » et « extraordinaire » que ce que nous ne le pensons généralement. Et beaucoup plus « banal ». Nous avons une sorte de religion qui divinise notre cerveau et l’espèce humaine -une forme d’humanisme particulièrement orgueilleux, hors sol, et typiquement occidental, platonicien et chrétien- qui nous aveugle sur la réalité. Toutes nos réalisations technoscientifiques sont autant de messes à la divinité humaine.
Bien que nous surclassions nettement tous les autres êtres vivants sur Terre en intelligence -c’est un fait-, cet écart apparent est rendu beaucoup plus important qu’en réalité par l’extinction d’homo neanderthalensis et de tous nos prédécesseurs jusqu’à l’ancêtre commun avec le chimpanzé. Si nos « frères homo » vivaient encore, peut-être verrions-nous mieux le « chaînon manquant » entre « moins que nous » et « nous » en termes d’intelligence. Et peut-être verrions-nous que nous sommes moins « uniques », « spéciaux » que ce que nous pensions. Par analogie, nous verrions que ce que sait déjà faire l’IA aujourd’hui est l’équivalent analogue de ce que savaient faire certains de nos ancêtres singes et homo, … avant la mutation qui fit franchir le seuil de complexité nous déterminant en tant qu’homo sapiens.
Ainsi, peut-être voyons-nous l’IA actuelle comme peu crédible, maladroite, même si impressionnante, alors qu’elle est à deux doigts de franchir un seuil déterminant pour nous surclasser en tout ou presque. Par extension de cette logique émergentiste, certains ont formulé l’hypothèse de la Singularité, c’est-à-dire que nous ne serions pas seulement surclassé sur tous les plans à terme mais que l’IA entrerait un jour dans une boucle d’auto-amélioration de plus en plus rapide, en accélération constante, au point de s’éloigner de nous comme à la vitesse de la lumière, vers une sorte de point oméga de l’intelligence et de la conscience, que notre tout petit cerveau ne pourrait même pas commencer à concevoir.
De manière générale, on ne voit pas bien pourquoi notre espèce, dans le continuum évolutif, incarnerait le plafond maximal de l’intelligence. Un autre argument à l’appui de la thèse de la rupture par l’IA est qu’au sein même de l’espèce, on peut observer des écarts de plusieurs sigmas entre les plus « intelligents » et les autres, quoiqu’on pense de ce que cela signifie, avec des performances émergentes qui dépassent l’imagination de la moyenne, comme celle du compositeur Mozart ou du physicien Einstein.
En pratique cependant, j’ai bien quelques objections biophysiques et thermodynamiques au remplacement complet d’homo sapiens par une civilisation « artificielle » d’IA. Ici on passe à l’échelle planétaire, collective, et j’en ai déjà parlé avec Paul, il y a un petit problème d’expérience accumulée par le Vivant sur Terre que l’IA devrait pouvoir simuler, via l’équivalent de plusieurs milliards d’années de simulations de chocs en tous genres (cosmiques, biosphériques, etc.), pour dire d’avoir des chances de traverser les prochains 100 à 200 millions d’années avec la même robustesse que le vivant. Et enfin, il resterait à l’IA à vaincre le même problème que pour notre espèce, la capacité à se fixer à soi-même ses propres limites pour ne pas s’auto-suicider par franchissement des limites planétaires…
Dans tous les cas, la réflexion sur l’IA est passionnante car elle révèle beaucoup sur qui nous sommes, qui nous pensons être et qui nous voudrions pouvoir être. Je recommande également de relire certains passages des œuvres du philosophe Nietzsche, du psychologue Freud, ainsi que L’obsolescence de l’homme du philosophe Gunther Anders pour un traitement systématique (au marteau) de la destruction de l’idée que nous nous faisons de l’être humain.
Enfin, pour conclure en pirouette, demandons-nous si les individus les plus intelligents d’homo neanderthalensis ne tenaient pas le même genre de propos péremptoire au sujet d’homo sapiens quand il émergea, quelque part sur le continent africain… pas très costaud et pas très poilu !
Illustration par DALL·E (+PJ)
Laisser un commentaire