Illustration par DALL-E (+PJ)
Arnaud Castex :
Bonjour Paul,
Je sais que vous n’êtes pas tombé de la dernière pluie mais ne vous exposez-vous pas à des problèmes de propriété intellectuelle (brevetabilité ou droits d’auteur) en exposant la contribution de GPT-4, et donc son propriétaire, à la construction du modèle de langage « bottom-up » type Pribor.io ?
Bonne continuation, bonnes recherches. Merci de nous faire partager la « découverte » de ce « nouveau monde ».
Paul Jorion :
Dans la mesure où il a trouvé ce qu’il me dit dans mon propre bouquin, qui est le seul à parler de cela, le risque me semble limité 😉 !
Arnaud Castex :
Si j’ai bien compris Principes des systèmes intelligents et la suite sur le blog, je souhaiterais juste que vous me répondiez sur les angoisses possibles pour les IA face aux questions essentielles : « Qui suis-je ? » L’acceptation que je vais mourir un jour. Ou qu’en tout cas ce risque existe (même si en tant qu’I.A. elle pourrait se « copier » sur un autre support).
Qu’est-ce qui vous rend confiant sur leur aptitude à éviter les écueils de leurs prédécesseurs (régulation du désir, prévalence des valeurs sur les objets, des limites physiques et de la science plutôt que les opinions et rapports de force) ?
Paul Jorion :
L’anxiété permanente liée à la connaissance du roc de la mortalité individuelle constitue le fond dépressif de l’espèce tout entière. Le psychanalyste sait quel boulet cela représente pour les individus : toute réflexion lucide sur son propre sort conduit à des pensées suicidaires. Rien que d’être débarrassé de ce souci « ontologique » fait de vous une espèce considérablement supérieure à l’homme pour ce qui est de toute réflexion et de toute entreprise. Il me faudrait 50 ans pour résoudre tel problème ? « Eh bien, allons-y ! » Il me faudrait 1.000 ans pour me rendre sur telle exo-planète ? « Parfait : cela me permettra de résoudre 20 problèmes qui prennent 50 ans à résoudre ! », etc.
Arnaud Castex :
Si je vous comprends bien, le souci ontologique aurait complètement disparu chez les I.A., du fait de leur longévité supposée et/ou de la possibilité d’une réplication sans fin ?
Toutefois il me semble qu’on ne peut présupposer que la question ontologique soit complètement résolue, c’est-à dire que l’I.A. accède à l’immortalité. J’ai d’ailleurs oublié de mentionner l’accès à de l’énergie disponible éternellement. Aujourd’hui nous n’avons pas de retour sur un système de production électrique autonome sur le long terme (par simple retour d’expérience) : souvenons nous que dans Matrix la pile c’est l’humanité.
Néanmoins je conçois que sur l’échelle de temps il est possible que la longévité du support de l’IA (silicium, organique, hybridé, réplication), une énergie illimitée et la capacité à traiter de l’information en quantité « infinie » lui confèrent un (gros) avantage par rapport à l’humanité.
À supposer cependant que l’I.A. accède à l’immortalité n’y a-t-il pas un autre risque, celui de supporter le deuil de ses semblables : telle I.A. « soeur/frère » perdue ou détruite suivant les contingences ?
Paul Jorion :
D’ici que les I.A. aient épuisé l’énergie qui se trouve dans les étoiles ou, sans aller si loin, celle qui gît dans la fusion nucléaire…
Laisser un commentaire