Blog de Paul Jorion

Bonjour, nous sommes le jeudi 26 janvier 2023 et avant-hier j’ai fait une vidéo qui s’intitulait chatGPT a-t-il tué l’enseignement ? Alors j’ai fait des tentatives en parlant de ce nouveau type de logiciel, de le franciser. Mais quand on le francise, cela conduit à la catastrophe. Donc je vais m’abstenir de le faire et je vais prononcer cela comme les concepteurs de la firme OpenAI aux États-Unis, l’appellent : « ChatJiPiTi ».

C’est un outil qui a été bâti sur un outil précédent qui est un outil qui utilise le langage et qui, pour se constituer un vocabulaire et des choses à dire, a ingurgité un nombre considérable d’informations qui sont disponibles ici et là, essentiellement sur la toile (« Large Language Models »).

Alors, résumé en deux mots de la crise : il y a en ce moment dans les universités, des cellules de crise qui essayent de traiter la question de savoir comment faire par rapport à cette tâche essentielle de l’enseignement, qui est l’évaluation de la capacité des élèves, des étudiantes, étudiants et des élèves, d’avoir retenu une information et de l’avoir comprise.

Alors, pour ceux qui ne sont toujours pas au courant, que fait ce logiciel ChatGPT ? Eh bien il fonctionne sur le même type de fonctionnement qui était celui de ce qu’on appelait autrefois une dissertation, c’est-à-dire qu’on soumet un sujet et on demande à l’élève d’expliquer, de faire connaître une position par rapport à cela.

La méthode classique qui est celle utilisée par ChatGPT, c’est de vous produire dans un premier temps l’opinion dominante, de faire la liste des objections, des critiques, qui ont été faites et dans un troisième temps, d’expliquer pourquoi, en effet, il est justifié éventuellement de ne pas adopter telle quelle à 100 % l’opinion dominante, de tenir compte des objections qui ont été faites. Et la position qui est donnée en conclusion, c’est une sorte de synthèse de l’opinion dominante, plus des critiques intégrées parce qu’elles sont justifiées.

Quels sont les problèmes que cela pose dans le cadre de l’enseignement ? Bien entendu d’abord parce qu’on aura des étudiants qui produiront des essais d’une meilleure qualité que celle qu’on produit maintenant. Et des tests ont été faits aux États-Unis et la machine produit des résultats, je dirais de l’ordre de quinze ou seize, ce qui est plus haut que la moyenne.

Alors comment évaluer des étudiants qui vont tous simplement, des étudiants, des étudiantes, qui vont simplement produire des essais, des dissertations, artificiels de ce type là, sans qu’on ait la moindre garantie qu’ils comprennent véritablement de quoi il s’agit.

Donc ça, cela pose un problème. Cela pose le problème beaucoup plus général aussi de comparer de plus en plus, de devoir être obligé de comparer non pas le comportement de la machine par rapport à celui de l’être humain, mais de comparer du bas vers le haut le comportement de l’humain par rapport à la machine. Donc problème véritable avec l’absence de garantie que celui qui produit un essai en s’adressant au logiciel va comprendre véritablement de quoi il s’agit.

Et là, dans la vidéo faite avant-hier, je soulevais la question beaucoup plus générale – ayant travailé longtemps en entreprise – de nous dire : la machine simule un véritable savoir, et ça pose la question de tous nos contemporains qui, en réalité, dans les emplois qu’ils ont, simulent eux aussi, c’est-à-dire que par des automatismes, en ayant appris par cœur, en sachant sur quel bouton il faut pousser, simulent en réalité un savoir qu’ils ne possèdent pas véritablement, au sens de véritablement le comprendre.

Mais la question que je voudrais traiter aujourd’hui, c’est une autre question. Il se fait qu’avec un ami, Manuel Guérin, nous avons créé une firme d’intelligence artificielle : Pribor.io. Et la question qui se pose à nous est : quelle est la valeur ajoutée que nous pouvons apporter par rapport à un outil qui paraît déjà extrêmement performant ?

Et pour pour évaluer cela, pour comprendre cela, nous avions une conversation tout à l’heure où nous posions la question de l’information qui est transmise déjà dans le monde tel qu’il est, avant l’intelligence artificielle. Comment ça fonctionne ? Et nous partions je dirais vraiment de la base, c’est à dire de cette information qui est inscrite dans nos gènes sous forme du génome, les instructions qui nous construisent en tant qu’êtres vivants au départ.

Ce sont des séquences faites de molécules particulières et qui, du fait de leur interaction par la suite, produisent un certain nombre de choses, ce qu’on appelle de la morphogenèse, c’est-à-dire la production d’un être vivant.

Et nous savons que l’information qui est transmise, c’est une information très différente. On pourrait imaginer que l’évolution ait conduit justement ces génomes à se reproduire tels quels, ou alors par parthénogenèse ou par la simple reproduction donc d’un modèle qui serait considéré parfait.

Considéré par qui ? La question se pose, mais en tout cas qui pourrait survivre. Mais ce n’est pas comme cela que cela fonctionne. Pourquoi ? Parce que la nature dans la production de ce génome a tenu compte du fait que des erreurs sont faciles à se produire justement dans ces séquences de molécules. Et donc un système s’est mis en place par sélection naturelle qui en particulier, favorise la diversité.

Le fait que la reproduction pour la plupart des animaux soit bisexué, c’est à dire que la chose est rendue en fait difficile parce qu’il faut déjà rassembler deux individus. En fait, cela aide à la à la dispersion de l’information, à la reproduction, pas exactement du même.

Et on le sait, quand ce sont des génomes très très semblables qui se  rassemblent, justement, par la rencontre de gamètes produits par un mâle et une femelle, eh bien, dans ce contexte là, nous savons que quand l’information est trop similaire, des handicaps vont s’additionner, des erreurs vont se combiner et vont produire rapidement, au bout de quelques générations en général, une espèce qui ne se reproduit plus dans des conditions optimales.

Alors ça, c’est le type d’information qui est transmis par le génome. Quand nous nous reproduisons nous-mêmes, nous ne pouvons rien faire à cela, c’est-à-dire que notre volonté, notre représentation de nous-mêmes n’a aucun impact sur cela : ça se transmet automatiquement. D’où cette image, par exemple de [Richard] Dawkins, du gène « égoïste » qui cherche à se reproduire. Et nous sommes des sortes d’excroissances comme des champignons, qui servent simplement à reproduire ces gènes.

Mais le fait est que nous sommes la preuve, nous êtres humains, qu’il y a moyen de faire mieux, qu’il y a moyen de faire mieux en matière de transmission d’informations. Parce que nous faisons des choses, nous faisons des choses en tant qu’être humain et qui ont un impact ou non sur le monde. Peut-être des impacts minimes, mais cela peut-être des impacts tel qu’il y ait transmission véritablement à proprement parler. Nous pouvons, en tant qu’individu, avoir un impact sur le monde en termes de le transformer.

Pourquoi ? Parce qu’il y a ce principe général autour de nous, d’une tendance à la déstructuration, ce qu’on appelle l’entropie en termes de physique : les choses ont tendance à se déglinguer. Mais nous pouvons aussi, par notre action, participer à un principe d’organisation. Nous pouvons faire le plan d’une maison, construire cette maison et nous aurons quelque chose qui est beaucoup plus organisé que la terre pour faire les briques, que le minerai de fer qui servira à faire les barres qui seront à l’intérieur du béton et des choses de cet ordre-là : nous pouvons participer à la structuration et nous participons tous, à titre individuel, plus ou moins, à cela.

Là aussi, le fait que nous sommes des individus très différents, le fait que nos sociétés ne sont pas constituées d’un seul individu. Il y a des sociétés, il y a des animaux qui sont constitués de parcelles qui sont en fait exactement la même chose, qui sont simplement connectées. Je voyais l’image d’une énorme méduse l’autre jour, qui est en fait une collection connectée de tas de petites méduses si l’on veut, individuelles, mais qui conduisent à créer un corps immense.

Nous participons à nos sociétés qui sont des sociétés organisées. Nous jouons un rôle à l’intérieur. Il y a une division sociale du travail. Nous jouons un rôle dans les sociétés. Nous ne sommes pas tous les mêmes et nous produisons de la structuration en collaborant. Et ça, l’accent avait été mis par Proudhon là-dessus, c’est en collaborant entre nous que nous arrivions à faire des choses au-delà de ce que l’individu peut faire.

L’exemple qu’il donnait, c’était donc ces grenadiers qui avaient été rassemblés sur la place de la Concorde pour ériger l’obélisque de Louxor. Il disait : un seul grenadier en 120 jours ne serait arrivé absolument encore à rien, tandis que les 120 grenadiers en 1h ont pu ériger l’obélisque. Cela, c’est la manière dont nous sommes organisés.

Alors, toute cette introduction pour vous parler maintenant de chatGPT. Quelle est la différence ? Que fait ChatGPT par rapport à cela en termes de transmission de l’information ? La première chose est que nous savons donc du logiciel, ce qu’il fait : il ingurgite énormément d’informations qu’il peut trouver absolument partout. Cela dépend évidemment des programmeurs, ce qu’on lui donne comme accès.

Mais s’il a véritablement accès à l’Internet, il peut trouver tout ce qu’il veut là-dedans et l’accumuler. Après, une fois qu’il a ingurgité de l’information, il l’utilise de manière purement statistique, c’est-à-dire qu’il va dégager une opinion, je dirais centrale. Il va trouver des objections et dans sa conclusion, il vous rassemblera cela et il vous combinera cela avec un avis supplémentaire.

Il ne va rien inventer, il va se contenter, je dirais, de puiser dans sa base de données et il va collecter. Donc à proprement parler, par rapport à ce qui existe avant un rapport comme celui-là, la valeur ajoutée n’est pas dans une information supplémentaire : elle est dans le fait de l’avoir rassemblée et surtout d’avoir fait connecter un certain nombre de choses en nombre absolument considérable.

Bon, un lecteur de mon blog a produit un petit texte où il posait différentes questions et en particulier il posait une question particulière sur un sous-sujet. Je suis allé voir sur la toile si je pouvais trouver cette information qui était très bien résumée à propos de ce sous-sujet. Et là, en consultant, je dirais les cinq ou six premières pages de Google, je ne trouvais pas cette information. C’est à dire qu’en fait, la machine a accès à une information beaucoup plus considérable que ce que moi je peux consulter.

C’est déjà, ce que je peux consulter maintenant sur internet sous forme de Wikipedia ou autre chose, c’est déjà beaucoup plus considérable bien sûr, par un ordre de grandeur, je ne sais pas, de 10 .000 fois plus grand que ce que je pouvais faire en allant autrefois à la bibliothèque, chercher des bouquins scientifiques, etc. Mais ce n’est pas équivalent à ce que peut faire une machine comme celle là.

Donc, bénéfice de la machine : pouvoir faire connecter un certain nombre de choses. D’autre part, et là c’est une chose que connaissent bien certains, dont moi, qui ont essayé de faire des carrières un peu parallèles dans la recherche, la recherche de type classique est véritablement en silo.

C’est-à-dire qu’on distingue différentes disciplines et à l’intérieur de ces disciplines, il y a des sous-disciplines et on vous oblige, dans le cadre universitaire, à devenir spécialiste à l’intérieur peut-être d’une discipline dans le meilleur des cas, mais le plus souvent d’une sous-discipline. Alors des gens un petit peu généralistes, qu’est ce qu’ils ont fait ? Ils ont essayé de faire sauter ces silos et de s’intéresser à beaucoup de problèmes et surtout, en résolvant ces problèmes, d’aller puiser un peu partout : ne pas se contenter justement de ce qu’ils trouvent à l’intérieur d’un silo individuel.

Que fait ChatGPT ?

Il ignore entièrement ces silos. C’est-à-dire qu’il fait, je dirais un peu comme les francs-tireurs en matière scientifique, dont je suis un des représentants, il ignore tout cela. En introduisant, en produisant maintenant des textes, des dissertations qui vont entièrement faire exploser les silos existants, ils vont introduire un style particulier.

Celui, l’élève qui aura consulté le système et qui lira le rapport qui a été produit ne pourra pas s’empêcher de découvrir que la meilleure méthode pour comprendre quelque chose, c’est précisément d’ignorer ces frontières entre disciplines, ces divisions en sous-disciplines à l’intérieur des disciplines, etc. c’est d’avoir un regard véritablement généraliste.

Donc, l’avantage de cette machine, de chatGPT, sur l’étudiant individuel, de faire sauter les barrières, de faire sauter les frontières et d’introduire là aussi un nouveau style. Ce nouveau style ne va pas plaire particulièrement aux enseignants qui, eux, ont appris à l’intérieur d’une discipline particulière et qui vont se trouver débordés justement par ce caractère généraliste de la machine. Donc un avantage, là.

Qu’est ce qu’il reste ? Qu’est ce qu’il reste à faire alors ? Qui n’est pas alors fait déjà par chatGPT ?

Je vous l’ai dit, c’est un savoir consensuel et qui n’innove pas. Il se contente – c’est déjà pas mal – il se contente de rassembler une information qui est déjà là. Où va être la valeur ajoutée ? À inventer quelque chose par rapport à ce qui se trouve déjà là. Il y aura encore de la place pour les meilleurs, pour dépasser ce que fait déjà chatGPT et les machines du même ordre.

Qu’est ce qu’il pourrait faire ? Un exemple :  je vais terminer là dessus. Qu’est-ce qui pourrait être créatif ?

Prenons un exemple qui existe déjà : de l’intelligence artificielle dans le domaine de la finance, c’est ce qu’on appelle le trading à haute fréquence.

Quel est l’avantage ? Et cela, c’est une chose que j’ai expliquée il y à très longtemps, mais apparemment le message – ça date de quand ? quand j’ai expliqué cela à l’époque où je commençais à travailler dans la finance véritablement dans ce domaine, je dirais au début des années 1990. Que fait le trading à haute fréquence ? Il fait la chose suivante : on nous explique toujours en disant qu’il fait beaucoup d’erreurs, qu’il doit faire machine arrière ou alors il essaie de tapisser l’horizon en produisant des tas d’ordres qu’il annule par la suite, qu’il ne fait pas aboutir.

En fait, que fait ce logiciel ? Il essaye en lançant des ordres qu’il va annuler. Il essaye de faire la cartographie entière du marché à un moment donné. C’est-à-dire : « Qui est là, prêt à acheter et à vendre à n’importe quel prix ? ». En annulant, en lançant des ordres un peu partout et en les annulant ensuite, on arrive à faire une cartographie de l’ensemble, ce qui est évidemment un avantage considérable par rapport aux êtres humains.

Là, on profite de la vitesse et du fait qu’il n’y a pas de règles – contrairement aux êtres humains qu’on limite dans le nombre d’erreurs qu’ils peuvent faire : de choses qu’ils annulent, là non : la machine le fait à une telle vitesse qu’on n’a jamais essayé de l’empêcher de lancer des transactions qui seront annulées par la suite.

On voit là l’avantage : ce n’est pas simplement une question de taille ou de vitesse, mais c’est la possibilité même qui est, je dirais, structurante en soi, d’explorer entièrement l’environnement, ce qu’un être humain est incapable de faire. Alors, qu’est-ce qu’une machine au delà de chatGPT pourrait faire ? Elle pourrait par exemple rechercher des analogies. Elle explorerait un domaine particulier, en ferait la topologie, c’est-à-dire une représentation de la manière dont les éléments sont reliés les uns aux autres et, par le mécanisme de l’analogie, essayer de trouver dans d’autres domaines des structures qu’on appelle homéomorphes, c’est-à-dire de la même forme : des choses de la même forme.

Quel serait l’intérêt de faire un catalogue de ce type-là ? C’est que si sur un de ces éléments de l’analogie qui est le même que les autres, si des procédures existent déjà pour faire quelque chose de particulier, eh bien on pourrait reproduire alors simplement – une fois qu’on a reconnu que les formes sont les mêmes – on pourrait tenter de transposer d’un domaine à l’autre, ces procédures connues déjà d’un des domaines.

Et là, il y aurait quelque chose de l’ordre de la création. Alors, ce que je dis là peut apparaître absolument abstrait et on peut se demander de quoi il s’agit. Eh bien, le fait est que des êtres humains ont fait cela déjà ce type de démarche et donc, l’exemple est là.

Et l’exemple, je vais vous le donner. C’est la chose suivante : c’est Aristote. Aristote, a un ami, à notre connaissance c’est un ami, qui s’appelle Eudoxe. Eudoxe est un mathématicien dont on dit qu’il sera le professeur d’Euclide, c’est une hypothèse qui existe. Et Eudoxe cherche à résoudre un problème pratique à l’époque : c’est pour les nombres irrationnels, de calculer un nombre assez grand de décimales. Qu’est-ce que c’est qu’un nombre irrationnel ?

C’est par exemple ∏. Qu’est ce que c’est que ∏ ? C’est le rapport entre le diamètre d’un cercle et sa circonférence. Aussi, si l’on prend le rayon au carré, sa surface. C’est aussi la diagonale d’un carré dont le côté est un. Là aussi, la diagonale est un nombre avec un nombre infini de décimales. Et la question s’est posée, d’un point de vue pratique pour les anciens de calculer ces décimales. Eudoxe a inventé une méthode pour faire cela : la méthode de l’exhaustion, et comme un sous-produit d’avoir découvert ça, il développe une théorie entière de la proportion. Cette théorie de la proportion peut être simplement une curiosité mathématique mais qu’est-ce qui se passe?

Il a son ami Aristote. Et Aristote découvre tout de suite que l’on peut, en analysant, en rassemblant un ensemble de phrases qui sont utilisées dans des raisonnements, on s’aperçoit qu’en fait, une structure particulière, ce qu’on appelle le syllogisme, c’est une proportion. C’est une proportion continue, c’est-à-dire qu’il y a un terme moyen qui permet de rapprocher les extrêmes. Et donc, première application de la théorie des proportions d’Eudoxe, l’application par Aristote à ce qu’on appellera par la suite la logique et qui à l’époque est un ensemble qu’on appelle l’Analytique, la Dialectique et la Rhétorique. Aristote ne s’arrête pas là en si bon chemin, il reprend la théorie de la proportion et voit qu’on peut expliquer le fonctionnement de la justice à partir de là, sous deux formes particulières : la justice correctrice et la justice distributive.

Là aussi, même structure d’explication, et il fait cela dans L’éthique à Nicomaque. Et cerise sur le gâteau, le pompon, il le note dans une petite note qu’on a pu récupérer par la suite – et j’y ai participé en particulier – que si l’on pense à cela : à ce modèle qui vaut à la fois pour les raisonnements et à la fois pour le droit en le modifiant un tout petit peu, en s’intéressant à la diagonale plutôt qu’au côté du carré qu’on peut utiliser comme dessin pour représenter cela, on a la théorie de la formation des prix. Voilà ce qui a été fait par Aristote.

Et voilà ce qu’une intelligence artificielle qui irait encore au-delà de ce que fait chatGPT pourrait faire et qui serait à ce moment-là parfaitement créatrice. Mais en utilisant, comme un tremplin, cette avancée extraordinaire qui est un outil comme chatGPT qui conduit l’ensemble des enseignants à se gratter le crâne en ce moment en se demandant ce qu’ils vont bien pouvoir faire par la suite dans un nouvel environnement où il devient difficile d’évaluer les étudiants et en particulier où un savoir supérieur à celui que peut produire l’étudiant moyen est très aisément construit par la machine.

Voilà, merci.