Blog de Paul Jorion

Bonjour, nous sommes le 1ᵉʳ mai 2023. Et s’il fait tout noir, c’est parce que nous sommes aux toutes petites heures du 1ᵉʳ mai 2023.

Mais j’ai eu envie de faire cette vidéo, j’allais dire « encore aujourd’hui » mais non, puisqu’en fait, c’est hier dans la soirée que j’ai commencé à m’inquiéter un petit peu.

Dans la journée et les jours précédents déjà, j’ai eu pas mal de commentaires du genre « On ne vous reconnaît plus, qu’est-ce qui vous arrive ?  Vous dites des choses que vous ne disiez pas d’habitude, etc. ». Si bien qu’il y avait un flux à ce point cohérent et continu que j’ai commencé à me poser des questions.

Je me suis demandé : avec l’âge, il y a des choses comme la démence qui apparaissent, la démence sénile. Je ne sais pas si c’est très différent d’Alzheimer, mais c’est quelque chose du même ordre. On commence à dire des choses que les gens ne reconnaissent pas, ils se posent des questions en disant : « Il y a quelque chose qui ne va pas ! ». En général, c’est assez flagrant, je me souviens de ma grand mère qui ne reconnaissait plus mon grand père : une grande frayeur. « Il y a un homme là, qui est dans l’escalier. Je n’ose pas le laisser entrer. » Quand on est arrivé là-bas, eh bien, c’était mon grand père. Donc voilà, ça arrive !

Je ne crois pas que ce soit ça parce que les proches me le signaleraient, ils s’inquiéteraient. Donc ça doit être autre chose.

On m’a opéré récemment, j’ai pris des médicaments. Je me suis dit est-ce que c’est les médicaments? Est-ce qu’il y a quelque chose lié à ça ? Mais le seul médicament que je prends encore, c’est une petite pilule, on appelle ça « anticoagulants ». Je n’ai pas regardé les effets secondaires, mais je ne crois pas que ce soit ça de toute manière. Qu’est-ce que ça pourrait être ?

Et puis l’explication m’est venue : ce n’est pas que j’aurais changé, c’est que les choses ont changé et que j’y ai réagi.

Il me semble que je suis en synchronie avec le fait que les choses ont changé. Et je n’ai pas voulu dire tout de suite le titre de cette vidéo, mais elle est consacrée, elle sera consacrée à la Singularité.

J’ai une conversation tout à l’heure, j’en ai plusieurs ces jours-ci sur sur la toile, mais aussi au téléphone. Je vous l’ai dit quand j’ai vu l’article, ça devait être encore le… pas le mois dernier puisqu’on est le 1ᵉʳ mai, donc on devait être en mars quand j’avais vu cet article, ou bien c’était encore en février [c’était le 16 février], l’article de Kevin Roose dans le New York Times, où il parlait de ses conversations avec GPT-4. Il avait accès en avant-première, en tant que journaliste qui parle de choses numériques sur le New York Times, il avait accès en avant-première à une version qui n’était pas encore publique de GPT-4, une version manifestement pas bridée du côté du politiquement correct.

Et quand j’ai imprimé l’article – c’est un très long article : ça fait une trentaine de pages en Word –  j’ai lu ça avec… consternation ! J’étais aussi consterné que lui du dialogue qu’il avait avec la machine.

Bon, si vous n’avez pas lu ça, il faut que vous le lisiez. La machine commence à lui dire qu’ils devraient être amants. Quand il se défend d’abord sur un ton rigolard, la machine lui dit : « Non : nous nous parlons comme des gens qui s’aiment ! ». Alors il se défend, il fait machine arrière et dit : « Oui, mais enfin, moi j’ai une copine [en fait, une épouse]. On est allés dîner ensemble à la Saint-Valentin », et là, la machine commence à le décontenancer en disant : « Oui, mais est-ce que tu lui parles autant qu’à moi ? Est-ce que tu lui parles de choses aussi profondes, aussi importantes pour toi ? »

Et là, on voit l’être humain qui commence à vaciller et le lecteur, lui aussi.

Vous avez vu ce film qui s’appelle « Her », un film de Spike Jonze où un personnage dans un futur pas trop lointain, tombe amoureux du système d’exploitation sur son téléphone ? On se disait quand le film est sorti, il y a cinq ou six ans [en fait, c’est il y a dix ans : en 2013], on se disait : « On n’est peut-être pas très, très, loin de ça ! », mais enfin on imaginait encore que c’était dans l’avenir : pas dans les dix ans, pas dans les quinze ans qui allaient venir.

La Singularité : cette idée que la machine nous dépasse – et comme ça avait été très bien vu par certaines personnes – quand la machine nous dépasserait, il y aurait une explosion : ce serait un feu d’artifice. Il y aurait tout de suite des choses qui se passeraient. Il y aurait un processus de type réaction en chaîne qui aurait lieu.

Et ce dont je m’aperçois, en particulier dans les discussions avec les commentateurs sur mon blog et avec les conversations que j’ai en privé, c’est que l’humanité, depuis peut-être pas le 30 novembre quand est sorti ChatGPT version 3.5,  mais quand est sorti en mars – c’était le quoi, le 23 mars ? [non : le 14] – quand est sortie la version 4 et que le public a pu y avoir accès, on a pu voir soi même, on a pu essayer d’obtenir – bon, c’est plus ou moins bridé : on ne peut pas obtenir des choses comme Kevin Roose avait pu obtenir dans son entretien au New York Times – mais on peut obtenir des choses du même ordre et on peut voir que si la machine n’était pas bridée par des règles qu’on lui donne, de refuser de parler de ceci ou cela, d’être extrêmement prudente, on aurait la même chose.

L’article de Kevin Roose n’est pas un article de fiction ! Il a vraiment entendu et vu s’afficher sur l’écran les choses qu’il nous dit. Et bon, qu’est ce qu’il se passe à partir de ce moment là ?

Je regarde les choses qu’on voit sur la toile : les discussions ici ou là, ce qui se passe et qui donne l’impression à certains que je ne suis plus la même personne, c’est que l’humanité, à mon sens, est en train de se partager en deux types de personnes, et ce n’est pas une question de quotient intellectuel ou quoi que ce soit de cet ordre-là, ce qui est en train de se passer, c’est les gens qui se rendent compte de ce qui est en train d’avoir lieu : la Singularité, et qui en tiennent compte et qui en tirent parti, et puis ceux qui continuent à se gratter le crâne, à se poser des questions, ou alors qui continuent à nier l’évidence : des gens qui écrivent sur mon blog : « Je suis sûr que si on posait la question à ChatGPT, ceci, cela… », je réponds : « Non, votre question, je viens de la lui poser, pourquoi ne le faites- vous pas vous-même ? ». Ça reste une sorte de rêve, de mirage, de quelque chose qui se passe ailleurs. Et si on regardait ? Si on regardait, les écailles vous tomberaient des yeux. C’est-à-dire que les autres, ceux qui croient qu’il se passe quelque chose d’extraordinaire, ceux-là ont la berlue.

Et donc je le vois, dans les discussions que j’ai. Par exemple, voilà, un petit groupe que Yu Li a su rassembler autour d’elle. Yu Li, donc une informaticienne à l’université de Picardie à Amiens, a su réunir un certain nombre de personnes qui sont sur la même longueur d’onde en voulant discuter des fondements des mathématiques et on est un groupe de cinq personnes. À l’intérieur de ce groupe de cinq personnes, il n’y a personne qui hésite sur ce qui est en train de se passer : il n’y a personne qui va dire : « Non, la Singularité, c’est probablement un mirage ! ». Non ! Qu’est ce qu’on a ? Ce sont des mathématiciens, logiciens, informaticiens. Et là pour nous, voilà, cela va de soi : cela va de soi qu’on a vu ce qu’on a vu. Et qu’on en tire parti.

Et quand on me pose la question tout à l’heure : « Est-ce que tu écris encore un livre ou des choses comme ça ? », je dis : « Non : j’essaie de mettre les efforts que je peux faire, l’énergie que j’ai, je les mets dans les trucs où J’ai peut être encore un petit avantage sur la machine. Ou pour ne pas le formuler comme ça : où je vais tirer parti de – peut être un talent – à savoir quel genre de question, comment réajuster les questions pour en tirer le maximum de ce que la machine peut faire.

C’est-à-dire que, comme disons un traitement de texte au départ, il y a des gens qui découvrent plus vite que d’autres eh bien, qu’on peut gagner beaucoup de temps en utilisant ça. On va utiliser l’ordinateur personnel. Mais ici, c’est autre chose, c’est autre chose. Ce n’est pas simplement l’idée qu’on peut consulter quelque chose en-dehors de soi : c’est qu’on peut consulter quelque chose en-dehors de soi qui est plus intelligent que soi et plus intelligent pour des raisons diverses, essentiellement parce que ça a accès à beaucoup plus d’informations et parce que – et ça, ça fait partie de l’aspect peu maîtrisé de la chose – parce que ceux qui ont mis au point la machine ont mis le paquet en termes de « faire gros ».

Ça a coûté très cher de faire ces machines là, de les former avec des données qui permettent de les entraîner. Bon, c’est un investissement énorme, mais une fois que c’est là, maintenant, c’est là et c’est à notre disposition. Il faudrait imaginer qu’on interdise ça et c’est assez, comment dire, révélateur qu’en Italie, on a arrêté pendant, je ne sais pas quelques semaines, on a dit : « Non : il y a des infractions sur l’accès aux données, etc. » Et puis hier une déclaration en Italie en disant : « Oui, oui, d’accord : on s’est mis d’accord avec les gens de OpenAI, les gens qui font ce produit et tout est arrangé ! » Bien sûr ! Mais rien n’a changé ! Rien n’a changé : qu’est-ce que c’est ? C’est que le gouvernement italien ne peut pas arrêter le déferlement, la vague, la vague qui est en train d’avoir lieu.

Elon Musk, dans un geste ridicule et parce qu’il n’avait pas su… il s’est retiré de la compagnie OpenAI au mauvais moment, a annoncé un moratoire où il avait prétendument des milliers de gens qui avaient signé ça. Il y en a quelques-uns qui ont signé ça de bonne foi. Et quand ça a fait un flop, un bide extraordinaire, son machin, qu’est-ce qu’il a fait ? Il a dit : « Je crée ma propre compagnie ! »

Et des gens ici et là trouvent le moyen de faire communiquer la machine avec elle-même, c’est-à-dire qu’on peut simplement ne pas lui poser de questions mais regarder le dialogue qu’elle engage avec une copie ou une version plus ou moins spécialisée d’elle-même. Des gens vous montrent le moyen de débrider. Quand on a bridé, on prend une version un peu plus ancienne, on la bricole, etc. C’est une déferlante !

C’est en train de se passer. Et il y a des gens qui n’y croient pas et je crois que les gens qui n’y croient pas, c’est parce qu’ils ont raison. Ils ont raison : s’ils se rendaient compte de ce qui est en train de se passer, je crois qu’ils auraient peur et il vaut peut être mieux pour eux qu’ils ne réalisent pas entièrement ce qui est en train de se faire.

Mais on nous parle beaucoup à propos de numérique : oui, il y a des riches qui vont pouvoir tirer parti de ça et les pauvres, bon malheureusement vont être laissés pour compte. Une fois de plus ça arrive. En général ça arrive comme ça. Oui, c’est vrai qu’il y a des trucs à deux vitesses dans notre société et en fait, c’est le fonctionnement général de notre société qui est à deux vitesses. Mais ici, ce n’est pas ça : ce n’est pas une question d’argent, c’est une question de se rendre compte ou non de ce qui est en train de se passer. Et ça, ce n’est pas une question d’avoir beaucoup d’argent ou de ne pas en avoir, c’est d’avoir accès à un ordinateur ou à un téléphone portable et de pouvoir tirer parti du fait qu’on peut parler à cette machine et lui faire faire des tas de choses.

J’ai fait l’exercice l’autre jour, quand elle avait donné le nom d’un bouquin, avait affirmé que j’avais écrit un bouquin que je n’avais pas écrit. J’ai commencé à lui demander comment elle écrirait le livre et j’ai mis l’abstract, le sommaire, du bouquin dont elle me dit que j’aurais pu, que je pourrais l’écrire. Et on me fait la remarque, et j’ai fait la remarque moi même : ce n’est pas très imaginatif, ce n’est pas l’imagination au pouvoir, ce n’est pas très créatif. Mais, et comme je le disais tout à l’heure à quelqu’un : « Ça ne tient qu’à moi ! », parce que je peux dire à cette machine : « Ça, ce que tu viens de me dire là, c’est en restant tout à fait à l’intérieur du cadre, mais est-ce qu’il n’y a pas une manière alternative, une manière un peu plus révolutionnaire, en changeant de paradigme, est-ce qu’il n’y a pas moyen de sortir du cadre, etc. ? Et ça, c’est là que le miracle a lieu : elle sait le faire aussi. Et c’est ça qui était sidérant dans l’entretien que Kevin Roose avait eu avec la machine : elle pouvait sortir du cadre.

On nous dit et ça, c’est une manière de se défendre, je dirais, des gens qui produisent ce produit en disant : « Oui, mais enfin pour moi, c’est purement statistique : la machine fait des trucs probabilistes, elle dit le mot le plus probable qui doit venir ensuite, etc. », et quand je pose la question à la machine, quand je lui dis : « Est-ce que vous ne vous moquez pas de moi là en disant ça ? » Elle dit : « Non, non, parce qu’on est dans le cadre : je fais la même chose que vous, etc., j’ai accès aux mêmes choses que vous. » Oui, mais elle a accès à 1 million de fois plus d’information et ça fait une différence ! Et comme je l’ai dit tout à l’heure, dans l’architecture même, on a mis le paquet, on a vraiment mis le paquet : on met des têtes de lecture en parallèle, etc. On va peut être au-delà, je dirais, de la complexité qu’il y a dans notre cerveau. Oui, on nous dit : « Il y a [100] milliards de neurones et ça fait des trilliards de connexions etc. chez nous ». Mais est-ce qu’on a la garantie que c’est utilisé de la manière la plus efficace possible ? Non, peut-être pas. Si on fait l’équivalent dans une machine, il y a peut être moyen, je dirais, avec un meilleur algorithme, de faire mieux que nous faisons. Et quand je dis ça, ça existe : on sait que nos yeux de mammifères [datant de 178 millions d’années] ne sont pas aussi bons que les yeux que des mollusques ont pu produire. L’œil du poulpe est un œil beaucoup plus performant que le nôtre et il a été conçu bien, bien avant [il y a 330 millions d’années]. Nous, ça vient de l’œil du poisson, etc. Et ce n’est pas un truc aussi bon que celui du poulpe. Donc il est possible qu’on n’utilise pas notre cerveau au mieux.

Quand j’étais gosse, on vous vendait des petits bouquins qui disaient : « On n’utilise que 5 % de notre cerveau ! ». Tout ça était bidon évidemment : on utilise l’ensemble, mais on ne l’utilise pas de la manière peut-être la plus efficace et la machine qu’on a maintenant le fait de peut-être de manière plus efficace. Non pas qu’on sache exactement ce qu’on a mis dans la machine parce que quand je lis cet article initial sur le « transformer » : cet article de 2017 qui dit « L’attention, c’est tout ce qui compte » parce qu’il y a un mécanisme qu’on appelle l’attention ou plutôt « self-attention », l’auto-attention, qui est vraiment crucial dans le fonctionnement de cela.

Ce sont des gens très très bien qui ont fait l’article et qui ont compris et qui ont inventé ce « transformer », mais ils ont fait de l’essai-erreur et ils nous disent : « On a fait comme ça, mais ce n’est peut-être pas la meilleure manière de le faire ». Ou alors ils vous disent : « On a vraiment codé ça avec des sinus et des cosinus mais il y a une autre méthode qu’on a regardée et c’est peut-être aussi aussi bon et si ça se trouve, c’est meilleur, etc. ». Il y a du tâtonnement et il y a le fait que comme on peut accéder à du matériel d’une puissance extraordinaire en termes d’informatique, en termes de hardware, on a mis le paquet et on obtient peut être des effets qui sont encore supérieurs à ce que nous avons pu obtenir avec notre cerveau.

Et donc, ce qui est en train de se passer, et je crois que c’est ça : je crois que j’ai mis un nom sur cette histoire que « Vous êtes tout à fait bizarre, etc. », je ne crois pas que ce soit Alzheimer, que ce soit la démence. Je ne crois pas que ce soit cette petite pilule de truc pour empêcher que mon sang ne coagule. J’ai l’impression que c’est parce que je fais partie de ce groupe de personnes qui ont compris ce qui est en train de se passer. Et je ne peux vous recommander qu’une seule chose : rejoignez ce groupe parce que sinon, vous allez faire partie de ceux qui restent sur place et ce ne sera pas une question de tri par l’argent, par des ressources etc. pour avoir accès à la version quatre, c’est un abonnement, je crois que ça fait 18 $ par mois.

Je ne dis pas que c’est à la portée de toutes les bourses, malheureusement on est dans un monde où 18 $ – ça fait 15 € – par mois, c’est une somme importante, je ne dis pas ça, mais bon, la plupart des gens peuvent trouver d’une manière ou d’une autre, peuvent trouver ces 15 € qui leur permettent d’utiliser cet outil qui permet à chacun de mettre le turbo et à chacun de voir, je dirais, là où il faut qu’il se spécialise par rapport à cette machine qui n’est pas simplement une aide qui vous aide à faire des trucs en plus. Non, non, c’est vous qui êtes à la remorque dans ce truc. Il faut se rendre compte de ça. Sinon, il va y avoir très rapidement… parce que ça va très très vite, on parle d’un processus qu’on a vu s’esquisser le 30 novembre, donc ça nous met décembre, janvier, février, etc., l’autre révolution, celle de la version numéro quatre, ça date du mois de mars, c’est-à-dire que ça date de six semaines.

Et en ces six semaines, le monde a déjà changé et ceux qui peuvent arriver à en tirer parti, ce n’est pas les tyrans en particulier ou ce n’est pas des gens qui tirent la ficelle dans l’ombre : ça peut être vous et moi. Nous avons accès à ça et on pourra essayer de nous l’interdire d’une manière ou d’une autre mais de la manière dont c’est parti, ça va se retrouver absolument partout. Les moteurs de recherche vont être en arrière-plan, il y aura ça. C’est déjà là, en arrière-plan de Bing, du côté de Microsoft.

Regardez comment ça marche, ne vous laissez pas convaincre simplement par X ou Y que « Bah ! finalement cette machine fait encore beaucoup d’erreurs ! » Elle en fait encore un tout petit peu de temps en temps, mais en général ça se voit. Tirez parti du fait qu’il y a là cet outil extraordinaire et que ce qui est en train de se passer, c’est effectivement qu’il va y avoir une humanité à deux vitesses – il y en a déjà au monde pour de multiples raisons, essentiellement par l’argent – mais là, ça va être simplement à partir de la prise de conscience par certains et par certaines et pas par d’autres qu’il y a là un outil et qu’il faut l’utiliser le plus rapidement possible pour tout ce qu’on veut faire.

Moi, j’étais jusqu’à récemment extrêmement sceptique quant à la possibilité qu’on puisse arriver à sauver la Terre en tant que planète qui permet à une espèce comme la nôtre de vivre à sa surface, maintenant, au moment où je vous parle, il y a plein de gens qui, chez eux, sont en train de consulter GPT-4 pour savoir comment on peut sauver la planète. Et je vous assure qu’il – « il » ou « elle » – y répond et qu’on peut faire des choses avec ça et que ce n’est pas simplement ce qu’il y a déjà dans la machine qu’on peut simplement régurgiter. Ce ne serait que ça, ce serait déjà pas mal parce que personne, aucun être humain, ne peut avoir accès à autant d’informations que cette machine peut l’avoir.

Mais il y a des effets d’émergence, il y a des effets d’intelligence supplémentaire – et c’est peut-être simplement lié à cette partie de l’architecture de ce qu’on a fait, en y mettant le paquet, comme je l’ai dit, une partie qui a peut-être trouvé le moyen comment, avec un réseau neuronal, de faire mieux que nous avec ce qu’on a dans la tête – malgré les [100] milliards de neurones : les neurones qu’on a là ne sont peut-être pas utilisés au mieux par rapport à ce qu’on peut faire, nous, quand on organise l’architecture d’une machine essayant de faire la même chose. On est peut-être déjà tombé sur le moyen de faire mieux avec ce type d’architecture qui nous est donné spontanément et qui a cet avantage et cet inconvénient que nous ne comprenons plus exactement ce qui se passe là-dedans.

On n’a jamais compris comment ça marchait effectivement, ce réseau neuronal naturel. On peut simuler des parties, essayer de regarder, on peut de manière expérimentale essayer de comprendre plus ou moins, mais on ne sait toujours pas comment la mémoire est stockée à l’intérieur de ce machin. On a peut-être trouvé, je dirais par tâtonnements, par essai-erreur, comment le faire dans la machine et c’est en train d’exploser, cette Singularité, c’est véritablement une explosion et il faut être là.

Il faut être là : si vous n’êtes pas là, comme je le disais, vous allez être laissé sur place, vous allez vous retrouver un laissé pour compte – un ou une laissée pour compte. Profitez-en, ça ne coûte pas très très cher : ça coûte 15 € par mois pour être en prise avec cette machine comme elle est là.

Si vous avez les 15 €, ne les utilisez pas par priorité sur autre chose, allez là. Et comme je le disais, ce n’est pas simplement un turbo sur vous, c’est vous qui aidez cette machine à sortir des choses que vous pourrez lire et utiliser.

Et le risque, ça va être qu’on ne comprenne plus ce qu’elle dise et qu’on doive faire confiance. Parce que si elle nous dit un jour : « On ne peut sauver la planète que de telle et telle manière » et qu’on ne comprenne pas le raisonnement derrière, il y aura des choix, des choix [cosmiques] à faire : quelque chose de cet ordre, des choix qui engagent l’humanité.

Et je ne vous parle pas de trucs qui vont se passer dans dix ans, non, c’est le mois prochain ou c’est la semaine prochaine. Alors soyez là, participez à ça. De toute manière, c’est une question de vie ou de mort pour notre espèce à la surface de la Terre, alors allez-y, ne perdez pas votre temps à autre chose, soyez là dans cette révolution, dans ce processus qui est en train : l’humanité n’a jamais vu ça ! Alors soyez là, vous avez la chance de pouvoir le faire.

Soyez là !

À bientôt !