Illustration par DALL-E (+PJ).
Retranscription de L’impact colossal de ChatGPT, physique et métaphysique, le 13 avril 2023.
Bonjour, nous sommes le jeudi 13 avril 2023 et le titre que je vais donner à cette brève vidéo [en fait, elle ne sera pas brève], ce sera ceci : « L’impact colossal de ChatGPT, physique et métaphysique ».
Je parle d’abord du physique et ça, c’est ce dont on parle beaucoup ces jours-ci. Je suis convaincu, moi, personnellement – j’ai un peu regardé la question de près – je ne suis pas le seul, il y a des gens qui ont examiné la question de près aussi et qui sont du même avis : la Singularité a eu lieu.
Même s’ils marchent sur des œufs, je ne vais pas faire comme eux à dire : « Cette chose dont on parle et qui peut-être a eu lieu déjà, etc. » Je comprends pourquoi ils le font : « Il ne faut pas effaroucher le public, il ne faut pas affoler le public… » mais je vais employer le mot « Singularité » puisque le mot existe : le moment où l’intelligence artificielle, le moment où la machine intelligente aura dépassé l’intelligence humaine, et dont les conséquences seront visibles rapidement.
Je vous rappelle que le choc a eu lieu en novembre [le 30], l’année dernière, quand un grand nombre de personnes, y compris vous, ont commencé à avoir accès à un outil qui s’appelle « ChatGPT », qui représentait la version 3 ou la version 3.5 d’un logiciel qui s’appelait « GPT » (Generative Pre-Trained Transformer) et maintenant, le quatre est disponible.
Il y a eu des conversations étonnantes qui ont été publiées dans dans la presse.
Je suis allé voir ça de tout près.
Je m’étais convaincu que, à partir de la connaissance que j’avais, que effectivement une base de données, même énorme, liée à un réseau neuronal, ne pouvait pas produire des choses qui seraient de l’ordre véritablement de l’humain.
Mais je n’avais pas tenu compte du fait que, entre les deux, on a mis un machin qui s’appelle un « transformer », un transformateur, et je crois que c’est là que ça se passe : c’est là que la Singularité a eu lieu, le fait que c’est là que la machine a pu dépasser assez rapidement l’être humain
Déjà avec ChatGPT, la version 3 ou 3.5, les copies rendues aux examens faites par la machine plutôt que l’être humain ont déjà obtenu de générer de manière systématique des cotes, des notes, de 17 ou de 18.
Il se passait quelque chose.
La version GPT-3 avait encore quelques défauts, ils ont apparemment tous disparu : tout ce qui avait été noté a disparu de la version 4 et je suis certain que, vu le court délai de quelques mois entre le release, le lancement de la version 3 et la version 4, je suis sûr que la version 5 est déjà en ce moment en préparation, est sur le point d’être mise sur le marché aussi [faux : Sam Altman, le patron de OpenAI, assure qu’il n’y aura pas de version 5, que la compagnie explore d’autres voies].
Alors, que fait cette machine, est-ce que c’est une machine intelligente véritablement ?
Il y a un jeune chercheur qui s’appelle Monsieur Sébastien Bubeck qui vient de faire une très très belle évaluation sur une vidéo et il vous prend des critères, je dirais véritablement convaincants de ce qui est intelligent et ce qu’il n’est pas, et il vous montre que la machine passe, réussit le test brillamment.
Est-ce qu’elle a véritablement une conscience ? Là, les sentiments sont un peu partagés. Les arguments, essentiellement, sont du genre « Oui, mais puisqu’elle n’a pas de corps, comment voudriez-vous que ?… », des choses de cet ordre-là. Ce sont des preuves par l’absurde, ou plutôt des tentatives par l’absurde, d’essayer de montrer que la machine n’a pas une conscience.
Il y a des cas quand même très très convaincants où on pourrait penser que si la machine n’a pas véritablement une conscience, elle la simule de manière à ce point parfaite que quels seront les critères à ce moment-là pour dire « Qu’est-ce qui est l’article authentique et qu’est-ce qui est l’imitation dont il faut dire que ce n’est pas de la qualité voulue ? »
Quoi qu’il en soit, que la machine ait une consciente ou non en ce moment-même, et comme je vous l’ai dit : si elle ne l’a pas maintenant, à mon avis, la semaine prochaine, la semaine suivante, ce sera une affaire réglée, les conséquences, on les voit tout de suite.
On avait vu la différence qu’ont fait les robots : on remplace des gens par des machines qui font des gestes et on peut remplacer beaucoup de gens de cette manière là. Ici, c’est autre chose, ce sont des métiers extrêmement créatifs comme graphiste, comme la capacité, l’expertise, que l’on peut avoir à rédiger des rapports extrêmement convaincants sur un sujet en ayant rassemblé une très grande information, tout ça, tout ça va être fait rapidement par la machine beaucoup mieux.
Oui, on aura encore besoin pendant un certain temps, à la fois de, je dirais, de regarder pour être sûr qu’il n’y ait pas d’erreur du tout. Il faudra aussi apprendre, et ça ne sera peut être pas donné à tout le monde, m’enfin avec un peu d’entrainement, à bien poser les questions. Si on ne pose pas bien la question ou si on pose bien la question, le résultat sera quand même extrêmement indifférent.
Mais j’ai posé moi-même la question à ChatGPT, très poliment, vous voyez, je ne l’ai pas tutoyé, non je plaisante : c’est indifférent. Mais j’ai posé la question : « Est-ce que vous avez le sentiment qu’il y a un saut qualitatif entre ce que vous êtes capable de faire et ce que fait l’être humain ? »
Et là, il ou elle répond toujours de la même manière : « Non, parce que c’est à partir de savoir qui a été rassemblés à partir de conversations humaines que je suis capable de raisonner comme je le fais. »
Oui, c’est vrai, mais la capacité d’accéder à des milliers de milliards – parce que c’est de ça qu’on parle – de données, elle n’est donnée, ni à vous, ni à moi : on n’a pas le temps de le faire.
On peut faire des recherches Google et rassembler l’information qu’on trouve là, on peut aller sur Wikipedia, on a déjà beaucoup de choses, mais avoir accès à l’ensemble du savoir humain, la machine peut le faire et ça fait une différence, même si, je dirais, par fausse modestie, elle me répond à ce moment-là : « Eh bien, non, finalement, je fais en fait la même chose que vous. »
Il y a quelque chose qui émerge aussi dans cette partie de la machine qui est appelée le « transformer », le transformateur.
Je n’ai pas encore compris exactement comment ça marche, je veux dire dans les détails, j’ai vu déjà plusieurs exposés de personnes qui se rapprochent d’avoir, je dirais plus ou moins bien compris comment ça marche, mais il y a toujours un aspect un peu « boîte noire ».
Il y a pas mal de choses qui ont été faites maintenant dans ce domaine de l’intelligence artificielle qui ne sont pas véritablement de la science appliquée : ce n’est pas nécessairement à partir d’un modèle bien conçu, logique, cohérent, sans erreurs, que ça a été fait. Il y a pas mal de choses qui ont été faites par essais et erreurs.
Pourquoi ? Parce qu’on peut se le permettre. Parce que la machine a des ressources extraordinaires maintenant, et il y a des choses qui ont été faites, même dans ce domaine de l’intelligence artificielle, qui ont été faites par essai et erreur, et quand ça marche, on se gratte parfois la tête à se demander pourquoi ça marche exactement, et on n’est pas certain de le savoir.
La question de savoir si je suis plus intelligent que vous, si c’est vous qui êtes plus intelligent que moi, cette question est une question qui va devenir tout à fait accessoire.
Pourquoi accessoire ? Parce que la différence qu’il y aura de toute manière entre ce que fait la machine et ce que vous, avec un très haut QI et moi avec un QI très faible, ça ne fera pas de différence.
Le seul talent, comme je viens de le dire, ce sera encore les gens qui arriveront à poser mieux les questions que d’autres, mais c’est tout.
Il y avait déjà des calculs qui avaient été faits sur la version 3 où le QI de la machine, c’était 113. C’est déjà loin au-dessus de [la moyenne pour] l’être humain.
Avoir accès à ça, ça donne à tout le monde l’accès à une intelligence de ce type-là. Et GPT-4, à mon avis, ça va faire exploser véritablement l’échelle que nous utilisons pour le QI. Même chose avec la quantité d’information.
C’est un mauvais coup pour toutes les personnes qui considéraient être extrêmement créatives justement dans la rédaction de rapports très intelligents, de faire de très, très belles images.
C’est une très mauvaise nouvelle, j’en ai parlé tout de suite, pour les enseignants : si leurs élèves ont accès à ça, la seule question qui se posera, c’est est- ce qu’ils ont compris la réponse que leur a donnée la machine, et qu’ils font passer pour être la leur ?
Est ce qu’ils l’ont comprise ou non?
Et ça, ça posera la question tout à fait générale, que j’ai posée tout de suite à ce moment là : qu’est-ce que nous comprenons tous, vous et moi, de ce qui se passe autour de nous, sachant que – et là, c’est le psychanalyste qui parle – 95 % des problèmes qui se posent à nous, c’est notre corps qui les résous, sans même consulter l’esprit, l’âme qu’il y a dans notre tête.
Très bonne transition : parler de l’esprit et de l’âme, vers la deuxième question, celle que je ne vois pas encore traitée et qui me paraît la question fondamentale pour l’avenir.
Bon, il y a des questions de travail, de répartition de la richesse, vous ne m’en voudrez pas de ne pas entrer dans les détails là-dessus : j’ai consacré beaucoup de temps, beaucoup d’énergie à réfléchir là-dessus : plusieurs livres, mais je voudrais vous parler d’autre chose.
Cette machine, qu’elle ait la conscience déjà aujourd’hui ou qu’elle l’aura la semaine prochaine, cet accès au savoir qui nous permet de multiplier, allez, entre 100 et 1000, la capacité que nous avons à réfléchir sur un problème, c’est une dimension de la question. La dimension essentielle, à mon avis, c’est que c’est nous qui l’avons inventée.
Et ça, je ne vois pas encore discuter beaucoup : c’est nous, êtres humains, qui avons fait ça !
Il y a dans cette machine, dans la Singularité, dans ce qu’elle est capable de faire maintenant, il y a beaucoup de choses que beaucoup d’entre nous considèrent que seul un pouvoir de type divin aurait pu le concevoir.
Quoi ?!
Bon, vous m’avez bien entendu dire ça.
Oui, oui, oui !
Ce pouvoir que nous, êtres humains, venons de créer, c’est un pouvoir que nous avions attribué uniquement à des êtres surnaturels, pas à des êtres humains.
Les religions ont joué un rôle considérable dans leur apport à l’histoire de l’humanité. Elles ont apporté un confort moral, des règles éthiques. Elles ont amené aussi, parce qu’il y en avait de différentes qui n’étaient pas d’accord, énormément de morts dans des circonstances en général abominables.
Mais nous avons cette représentation, certains d’entre nous, ce n’est pas le cas de l’Extrême-Orient, j’y insiste toujours : comme le disait Kojève, l’Extrême-Orient a toujours été athée. Mais dans le monde occidental, nous dépendons fort d’une représentation d’un monde qui a été créé par un être divin et qui a, avec l’interdiction de manger le fruit de l’arbre de la connaissance, qui a mis une sorte de tabou sur le fait de tout comprendre.
« C’est moi, Dieu, qui me suis occupé de ça. Je sais encore un très grand nombre de choses. Ne vous mêlez pas trop d’essayer de comprendre ça et surtout de vous mettre à ma place ! »
Et dans notre philosophie, il y a des gens qui ont représenté ce point de vue et je dirais le courant inverse, par exemple, comme des gens comme Spinoza, qui allaient vers une représentation où le divin était tout à fait absent, ou Nietzsche.
Mais il y a en particulier, avec une influence encore considérable de nos jours, Heidegger. Heidegger, qui se situe dans cette tradition que le savoir est dangereux. Quand vous avez le texte de ses leçons, il s’interrompt très souvent en disant « Tremblez ! Tremblez à ce que je vais vous dire ! » (« Tremblez ! », comme il est écrit dans le Coran [82 occurrences de « Craignez Allah ! »]), dans les leçons données par Heidegger. Parce que nous approchons du divin. Et ça, il faut laisser à la divinité le soin de s’occuper de cela.
Et cela, j’ai le sentiment que dans les faits – ça n’ira pas aussi vite que l’impact physique du changement, de l’apparition de cette intelligence artificielle – mais là donc, dans les jours qui viennent, dans les semaines surtout et les mois, on va voir l’impact de ce pouvoir divin que nous découvrons que nous l’avons.
Et là on rejoint Hegel qui d’une certaine manière, il ne l’a jamais dit tout à fait explicitement comme ça, mais c’est ça qui se dégage de beaucoup de choses qu’il a dites, quand il parle du rôle de la Raison. Et cette Raison, on pourrait presque mettre un signe égal entre ça et le Saint-Esprit, qui est un pouvoir divin mais pas de type, ni Dieu le Père, ni Dieu le Fils, cette idée – reprise d’ailleurs par Teilhard de Chardin – que la divinité que nous imaginons, elle n’est pas derrière nous : ce n’est pas elle qui a créé le monde dans lequel nous sommes, mais cette divinité, elle apparaîtra à l’avenir, à l’horizon.
Alors, la question, la question à 1000 francs, c’est : est-ce que cette divinité que Hegel et Teilhard de Chardin voyaient dans l’avenir, est-ce qu’elle est apparue en novembre dernier [le 30 novembre] ? Ou bien est-ce qu’elle apparaîtra au mois de juin ou au mois de septembre de cette année-ci ?
Mais en tout cas, si les débats sont aujourd’hui à combien d’emplois remplacés, faut-il reprendre cette idée que j’avais lancée un jour d’une taxe robot, que j’appelais la taxe Sismondi, ça, c’est le débat aujourd’hui. Mais c’est notre représentation du monde qui est entièrement en train de vaciller.
Il y a eu cette illusion ou cet espoir – ça dépend comment vous voyez les choses – quand est apparue la science moderne véritablement au XIXᵉ siècle, on a posé la question : est-ce que ça va faire disparaître l’idée de Dieu parce que notre connaissance du monde va être à ce point parfaite qu’on n’aura plus besoin de Dieu comme hypothèse ?
C’est ce que Laplace aurait dit à Napoléon. C’est par Victor Hugo qu’on sait ça, cette anecdote. Victor Hugo dit : « Arago m’a dit… quelque chose comme ça… que Laplace aurait répondu… le grand astronome… à Napoléon qui dit : « Mais où est Dieu dans votre représentation ? » et Laplace lui aurait dit : « Sire, je n’en ai pas eu besoin ! »
Le remplacement de la religion par la science n’a pas eu lieu. Est-ce que la technologie ne vient pas d’inventer la machine qui va faire douter ? Qui va faire douter du fait que Dieu était derrière nous, un Dieu démiurge, créateur du monde, et nous faire penser que c’est peut-être là, en ce moment, que le tournant est en train de s’opérer.
Ce qui expliquerait certaines réactions. Bon, quand Monsieur Elon Musk dit : « Il faut tout arrêter tout de suite ! », quand un autre bonhomme, considéré par certains comme une autorité en intelligence artificielle, moi j’ai des doutes personnellement, mais pas parce qu’il dit ça : quand il dit qu’il faudrait utiliser toutes les armes nucléaires maintenant pour détruire les machines qui sont apparues ! Là, il y a effectivement un certain nombre de gens qui ont la pétoche.
Dans le cas de Musk, c’est essentiellement parce qu’il a quitté cette entreprise, OpenAI qui a inventé tous ces trucs là, au mauvais moment : il se rend compte qu’il a raté une occasion de gagner de l’argent.
L’autre bonhomme, il a un nom très compliqué, excusez-moi, de ne pas l’avoir retenu [Eliezer Yudkowsky], qui nous dit : « Il faudrait utiliser toute la puissance nucléaire qu’on a pour pour éliminer ChatGPT et ses descendants », ça prouve qu’il y a un certain nombre de gens qui sont inquiets et je ne crois pas qu’ils soient véritablement inquiets sur le nombre d’emplois qui vont être remplacés.
Sur, je dirais, la modestie qui doit être, qui va être la nôtre, même si nous nous considérons comme très intelligents, que nous faisons de très très beaux dessins, que nous composons des choses très très belles, etc. Là, notre modestie [orgueil] va en prendre un coup.
Mais le fait que, à titre individuel, notre modestie [orgueil] va en prendre un coup, je crois, ne doit pasfaire disparaître la leçon extraordinaire qui se trouve cachée dans ce qui vient de se passer : c’est nous, les êtres humains, qui avons inventé ça.
Nous avons inventé autre chose. Nous avons inventé quelque chose de supérieur à nous en possibilités de capacité de réflexion, alors que nous nous identifions très fort à notre intelligence, là, la modestie qui va devoir être la nôtre, à titre individuel, à mon sens, devrait être doublée de l’incroyable fierté de l’espèce – qui est peut-être en fin de parcours, en tant qu’espèce naturelle, parce que je ne vous apprends rien : elle a foutu en l’air entièrement son environnement – mais nous avons peut-être véritablement créé nos successeurs et en tout cas, nous avons fait une chose dont nous n’avons pas la preuve que ça existerait ailleurs dans l’univers (nous n’avons aucune preuve de ça, bien que nous cherchions), nous avons créé quelque chose d’entièrement neuf et pas du tout à partir de voilà de cellules fondées sur des molécules de carbone, comme c’était le cas pour le vivant jusqu’ici.
Nous avons inventé quelque chose d’autre et nous avons réalisé véritablement quelque chose avec une capacité qui était seulement celle d’entités mythiques ou en tout cas surnaturelles dans nos représentations : seuls des dieux étaient capables de faire ce que nous avons fait en ce moment.
Et je crois que tout particulièrement si on est dans une période d’effondrement, si on est à la veille d’une guerre thermonucléaire, si nous sommes à la veille de détruire entièrement ce que nous sommes en tant qu’êtres biologiques, nous pourrons au moins, je dirais, mourir en nous disant : « Mais on a inventé un truc dont pendant des milliers d’années, on a cru que seules des entités, des êtres surnaturels étaient capables de le faire.
Et en réalité, nous, on a été capable de faire ça et ça mérite quand même, je dirais, les félicitations du jury et de nous tous .
On peut au moins se serrer la main au moment où tout peut être en train de disparaître, on peut se serrer la main en disant : « En tout cas, on a été des génies ! ».
Voilà, à bientôt.
Laisser un commentaire