Illustration par DALL-E (+PJ)
Douglas Hofstadter, l’auteur de Gödel, Escher, Bach, chef d’œuvre d’intelligence qui, en 1979, sidéra un grand nombre d’entre nous, s’oppose désormais au projet de l’Intelligence Artificielle.
J’ai eu l’impression que non seulement mon système de croyance s’effondrait, mais aussi que tout le genre humain allait être éclipsé et laissé dans la poussière.
Quand j’ai commencé à étudier les sciences cognitives et à réfléchir sur l’esprit et l’informatique, vous savez, c’était il y a très longtemps, en 1960 à peu près, et je savais comment les ordinateurs fonctionnaient et je savais à quel point ils étaient extraordinairement rigides. La moindre erreur de frappe ruinait complètement votre programme. Le débogage était un art très difficile et vous deviez parfois exécuter votre programme de très nombreuses fois afin d’éliminer les bogues. Ensuite, lorsqu’il était exécuté, il était très rigide et ne faisait pas exactement ce que vous vouliez qu’il fasse parce que vous ne lui aviez pas dit exactement ce que vous vouliez qu’il fasse correctement, et vous deviez modifier votre programme. Et ainsi de suite.
Les ordinateurs étaient très rigides, et j’ai grandi avec un certain sentiment sur ce que les ordinateurs peuvent ou ne peuvent pas faire. Lorsque j’en ai entendu parler, j’ai pensé que l’intelligence artificielle était un objectif fascinant. Mais pour moi, c’était un objectif très, très lointain. Il me semblait infiniment éloigné, et j’avais l’impression que l’intelligence artificielle était l’art d’essayer de faire en sorte que des systèmes très rigides se comportent comme s’ils étaient fluides. J’avais l’impression qu’il faudrait des centaines d’années avant que quoi que ce soit qui ressemble de près ou de loin à un esprit humain ne s’approche asymptotiquement du niveau de l’esprit humain, mais venant d’en-bas. Je n’ai jamais imaginé que les ordinateurs rivaliseraient avec l’intelligence humaine ou, encore moins, la surpasseraient.
Cela me semblait être un objectif si lointain ! Cela m’inquiétait. Mais lorsque certains systèmes ont commencé à apparaître, puis à se produire à un rythme accéléré, des choses que les ordinateurs n’auraient pas dû être capables de faire ont commencé à s’écrouler. La défaite de Garry Kasparov, joué par Deep Blue, et les systèmes sont devenus de plus en plus performants dans la traduction entre les langues et dans la production de réponses intelligibles à des questions difficiles en langage naturel, et même dans l’écriture de poèmes.
Il y a là une expérience très traumatisante lorsque certaines de vos croyances les plus fondamentales sur la vie commencent à s’effondrer. J’ai eu l’impression que non seulement mon système de croyance s’effondrait, mais aussi que tout le genre humain allait être éclipsé et laissé dans la poussière. Bientôt.
Une partie de moi dit cinq ans, une autre partie de moi dit 20 ans. Une autre partie de moi dit : « Je ne sais pas. Je n’en ai aucune idée. » Mais l’accélération des progrès a été si inattendue qu’elle m’a complètement pris au dépourvu. Pas seulement moi, mais de très nombreuses personnes, et il y a une certaine forme de terreur, celle d’un tsunami à venir qui va prendre toute l’humanité au dépourvu. On ne sait pas si cela signifiera la fin de l’humanité au sens où les systèmes que nous avons créés nous détruiront. On ne sait pas si c’est le cas. Cela fait simplement de l’humanité un phénomène très petit par rapport à quelque chose d’autre qui est beaucoup plus intelligent et qui deviendra incompréhensible pour nous, aussi incompréhensible pour nous que nous le sommes pour les cafards.
Je me sens donc diminué. Dans un certain sens, je me sens comme une structure très imparfaite, défectueuse. Et comparé à ces systèmes informatiques qui ont, vous le savez, un million de fois ou un milliard de fois plus de connaissances que moi et qui sont un milliard de fois plus rapides, je me sens extrêmement inférieur.
Et je ne veux pas dire méritant d’être éclipsé mais j’ai presque l’impression que nous, les humains, à notre insu, allons bientôt être éclipsés, et à juste titre, parce que nous sommes si, si imparfaits et si faillibles. Nous oublions tout le temps des choses. Nous confondons tout le temps. Nous nous contredisons sans cesse. Et il se peut très bien que cela montre à quel point nous sommes limités.
Nous sommes peut-être déjà allés trop loin. Nous avons peut-être déjà mis le feu à la forêt. Je ne pense pas qu’il soit possible de revenir en arrière. J’ai vu une interview de Jeff Hinton, qui est probablement la personne la plus centrale du développement de ce type de systèmes. Tout d’abord, il a dit qu’il pourrait regretter l’œuvre de sa vie. « Partiellement », a-t-il dit : « Une part de moi regrette tout le travail d’une vie ». Et l’interviewer lui a demandé : « Quelle est l’importance de tout cela ? Ces développements sont-ils aussi importants que la révolution industrielle ? » Il a réfléchi un instant et a répondu : « Peut-être aussi important que la roue ».
Illustration par Stable Diffusion (+PJ)
Laisser un commentaire