Blog de Paul Jorion

26 réponses à “« L’avènement de la Singularité : l’humain ébranlé par l’intelligence artificielle » 4^e de couverture”

1. 

   Marco

   20 janvier 2024 14h02

   Usha poursuit son chemin vers le but de celles qui vont au-delà. Elle est la première dans l’éternelle succession des aurores à venir. Elle s’élargit, faisant surgir l’être vivant, éveillant quelqu’un qui était mort… Quelle est son ampleur quand elle s’harmonise avec les aurores qui brillèrent jadis et avec celles qui doivent briller maintenant? Elle désire les anciens matins et accomplit leur Lumière ; projetant au loin son illumination, elle entre en communion avec les aurores futures.

   Kutsa Angirasa – Rig-Veda. I. 113. 8, 10.

   Répondre
2. 

   PHILGILL

   20 janvier 2024 16h06

   Mmh, je suis assez stupéfait, car certains éléments m’amènent à penser que ces deux illustrations pourraient être quelque peu surannées.
   Aussi, vous vous demanderez certainement comment se fait-il que DALL·E puisse illustrer de façon déjà surannée l’avènement de la Singularité ? 
   Eh bien, je commencerai en paraphrasant certains mots de Paul Jorion évoquant « le caractère suranné des choses dont il est parlé » dans la conférence de presse de M. Emmanuel Macron, du 17 janvier 2024 : « La principale préoccupation des Français, c’est le changement climatique. Est-ce que cela a été mentionné ? Ni non plus le principal événement de l’année 2023 : l’IA et son impact. L’IA n’est pas encore apparue sur l’écran-radar de l’Élysée. »

   Ainsi, c’est comme si DALL·E ne prenait pas en compte également certains événements importants des vingt dernières années, comme notamment les mouvements féministes dans le monde. Car force est de constater que la plateforme ne valorise guère, ici, les personnages féminins. Nous y observons tout juste, dans l’une, un petit buste féminin, et dans l’autre, dans un coin obscur, une informaticienne qui s’affaire devant un écran de contrôle. Tandis que nous observons une représentation démesurée, voire quasi religieuse du corps masculin, à travers cette montée en puissance de l’intelligence artificielle via l’avènement de la Singularité.
   Alors, pourquoi la femme est-elle quasiment invisible sur l’écran-radar de DALL·E ?
   N’a-t-elle pas assez de personnalité, ni d’autonomie, ni désirs ? Ou ne sont-elles pas assez fortes, ambitieuses ou créatrices ?
   Bref, peut-on approuver une telle vision sexiste, voire même angélique dans la fondation de la singularité ?

   « L’homme ayant créé quelque chose de supérieur à lui-même, on pénètre en effet au sein d’un domaine qui relevait jusqu’ici de la divinité, dont les pouvoirs sont redistribués, à l’occasion de la Singularité, entre l’homme le créateur et l’IA, sa créature surdouée. »

   Quelque chose de supérieur à l’homme, mi-homme, mi-machine, mi-dieu ou mi-ange ?
   Mais avec ou sans sexe ?

   « Car, […]les hommes […] seront comme les anges de Dieu dans le ciel. » — Matthieu

   Ô «Singularité» : le futur est-il femme ?

   Répondre
   1. 

      konrad

      20 janvier 2024 17h58

      PHILGILL,
      Je trouve votre commentaire à la fois vrai et subtil.

      Répondre
   2. 

      Paul Jorion

      20 janvier 2024 18h24

      Le suranné, c’est moi qui l’ai demandé. Quand je ne le mentionne pas, ça donne ceci :

      

      

      Répondre
      1. 

         PHILGILL

         21 janvier 2024 10h34

         Oooh ! Mais que s’est-il passé ?

         « Jadis notre nature n’était pas ce qu’elle est actuellement. D’abord il y avait trois espèces d’hommes, et non deux comme aujourd’hui : le mâle, la femelle, et en plus de ces deux-là, une troisième composée des deux autres ; le nom seul en reste aujourd’hui, l’espèce a disparu. c’était l’espèce androgyne qui avait la forme et le nom des deux autres, dont elle était formée. […] Ils étaient aussi d’une force et d’une vigueur extraordinaire, et comme ils étaient d’un grand courage, ils attaquèrent les dieux et […] tentèrent d’escalader le ciel […] Enfin, Zeus ayant trouvé, non sans difficulté, une solution, […] il coupa les hommes en deux. Or, quand le corps eut été ainsi divisé, chacun, regrettant sa moitié, allait à elle ; et s’embrassant et s’enlaçant les uns les autres avec le désir de se fondre ensemble […] C’est de ce moment que date l’amour inné des êtres humains les uns pour les autres : l’amour recompose l’ancienne nature, s’efforce de fondre deux êtres en un seul, et de guérir la nature humaine. […] Notre espèce ne saurait être heureuse qu’à une condition, c’est de réaliser son désir amoureux, de rencontrer chacun l’être qui est notre moitié, et de revenir ainsi à notre nature première. » — Le mythe d’Aristophane

         Il se trouve que juste avant de tomber, hier soir, sur ces deux magnifiques illustrations, je visionnais une nouvelle fois le film d’Alain Resnais « L’année dernière à Marienbad ». Et alors, me direz-vous, quel est le rapport ?
         Eh bien, elles ont en commun qu’elles nous embarquent dans une expérience qui peut être assez déroutante : une mise en abyme dont le message subliminal pourrait se résumer ainsi : « Vous n’avez encore rien vu ».

         Or, pas de mise en abyme possible sans effet de perspective continu sur un seul et même sujet ! Envoûtante et troublante perspective que celle-ci, qui nous ouvre une brèche, un passage dont on ne peut s’échapper, car ici, ce concentre le mystère du temps ; nous ne savons plus « quand » nous sommes. Dès lors, l’Arbre en majesté semble incarner la seule issue restante : « L’arbre de l’Imaginaire », pour apprendre la perspective sans en être l’esclave. Ainsi, dans « L’année dernière à Marienbad », certaines statues peuvent s’éveiller et choisir de vivre. Métaphore d’un nouvel éveil, d’un futur qui se construit en nous, devant nous, par ses multiples variations et incessants mouvements ; Marienbad, comme le formula très simplement Alain Resnais, « vous devez le créer vous-même ».

         Et si la « Singularité » était l’ultime tentative pour nous libérer d’un monde ancien, d’échapper à une société figée dans son apparat et dans ses trompe-l’œil ?

         http://www.neugraphic.com/marienbad/visual/uploads/2017/last13.jpg

         Répondre
         1. 

            Petit coton

            22 janvier 2024 13h25

            Ce que vous dites est très beau, et très touchant, et me fait venir à l’esprit quelques remarques sur ces représentations ; il y a quelques biais frappants : absence de représentation d’organes sexuels, de violence, de sang, de matières fécales etc. ; très clairement, le système obéi a des règles de bienséance, qu’on serait curieux de voir formulées ; on s’effraie aussi d’imaginer ce que le système génèrerait en l’absence de telles règles de bienséance.
            L’autre grand biais qui me frappe, c’est une espèce de tropisme vers la centralité qui, à mon avis, est lié au système de représentation apparu en Italie à la Renaissance : la perspective à point de fuite unique, pour faire vite. Caractérisant le système de représentation occidental, au moins jusqu’à l’explosion moderniste, il y a fort à parier qu’avec des présupposés anthropologiques différents (cf le texte du taulier sur la pensée chinoise archaïque) la machine aurait produit des images -si ce terme convient- complètement différentes, inimaginables pour nous qui sommes d’ici et de maintenant.

            Répondre
         2. 

            Petit coton

            22 janvier 2024 13h34

            Ah pardon, j’oubliais : pour reprendre une des revendications exprimées dans une publication précédente, à savoir toujours préciser quand une publication est générée par intelligence artificielle, je pense qu’une autre chose devrait être obligatoire, c’est de publier le prompt à l’origine de toute publication de contenu généré par intelligence artificielle.
            Quant à réguler l’Internet, le jour où il sera devenu impossible de publier en ligne de manière anonyme, je pense que beaucoup de problèmes disparaîtront d’eux-mêmes et que je ne publierai plus sous le nom de Petit coton.

            Répondre
   3. 

      un lecteur

      20 janvier 2024 19h45

      L’IA renvoie l’image du corpus que les concepteurs lui ont fait ingérer.
      Il manque au minimum 30% du contenu qui transite sur internet.
      Me-Too IA a encore une révolution à faire.

      Répondre
      1. 

         Paul Jorion

         20 janvier 2024 20h46

         C’est l’interprétation du New York Times dans sa plainte contre OpenAI : que ChatGPT ou DALL-E ne font que du copié-collé de choses qu’ils ont déjà vues, le malentendu est total. Croyez-vous que je parlerais dans ce cas là de Singularité ? Pour un perroquet ?

         Dans son dialogue avec Bill Gates l’autre jour, Sam Altman faisait remarquer que ce qui sidère les gens c’est qu’on imaginait qu’on aurait un robot faisant une bonne omelette longtemps avant une IA écrivant un excellent roman ou peignant un splendide tableau. On croyait que la créativité serait la dernière de nos qualités où la machine nous dépasserait or la créativité a été la première à sauter… avant l’art de cuire un œuf 🙁 .

         Répondre
         1. 

            un lecteur

            20 janvier 2024 21h10

            Je me suis mal exprimé, mon intention était de donner une piste pour « la quasi-invisibilité des femmes chez DALL-E ». J’imagine que son corpus ne contient pas les 30% d’images et de vidéos pornographiques qui circulent sur internet, induisant un biais de représentation des femmes dans ses créations.

            Répondre
            1. 

               Ruiz

               21 janvier 2024 10h42

               @un lecteur Il suffit peu-être de lui demander pour avoir une réponse plus explicite, quand au fonds pornographique qui occupe et finance Internet, il n’est pas sûr qu’il soit profondément ME-TOO.

               Répondre
         2. 

            Garorock

            21 janvier 2024 11h35

            Mozart a su jouer du piano avant de savoir faire cuire un oeuf.
            😎

            Répondre
3. 

   konrad

   20 janvier 2024 16h37

   M Jorion, je ne sais quelle est votre niveau d’intervention dans ces deux images, mais je peux vous dire – pour avoir fréquenté des milieux « complotistes » – qu’elles reprennent de façon singulière l’iconographie et la symbolique chers aux « luciféro/satanistes ».
   La première image parait être l’intérieur d’une « machine » avec son architecture de tuyaux en réseaux. L’homme avec son attaché case – un banquier ? – regarde une « entité » dont on devine qu’elle n’est plus tout à fait humaine car « plus qu’humaine » ? Est-ce un « ange » ?
   Sur la gauche, « l’œil qui voit tout » cher aux occultistes et en face le hibou des « illuminatis ». Juste en dessous du hibou une tête et une main « reptilienne » qui tient un écran. En face, assis devant un portable un individu qui a tout à la fait la tête d’un « petit gris ». Et tout autour un florilège de statuettes tout droit sorties d’un bestiaire de sorcier.
   Un homme à cravate, probablement un fonctionnaire, au regard perdu comme vidé de toute substance dans le tableau semble signifier le règne défunt de l’homme.

   Ce qu’illustre très bien le deuxième tableau. « L’ange » robot dicte sa loi. Autour des visages d’hommes prisonniers dans des écrans ou des éprouvettes. Et cette couleur rouge très présente…

   Tout cela n’est pas anodin. Dans la tradition hermétique, le corbeau précède la colombe, les gargouilles veillent à l’entrée des cathédrales et l’œuvre au noir alchimique est première avant le blanc. De même « l’Antéchrist », image inversée du christ, annonce les épreuves.

   Bien entendu tout cela n’est que mon interprétation et elle n’a rien d’un jugement ou d’une quelconque morale.
   (Je pense que d’une certaine manière les jeux sont faits.)
   Même si j’accorde à l’IA des avantages certains dans de nombreux domaines, je ne peux m’empêcher d’être circonspect quand à améliorer notre condition humaine.
   Étant amateur de science-fiction j’y vois, pour le moment et je suis prêt à me tromper, davantage l’illustration du film « Matrix » que « Premier contact ». 😉

   Répondre
   1. 

      Khanard

      20 janvier 2024 19h04

      @konrad

      je possède des centaines de livres de SF et je viens juste de me rafraichir la mémoire en regardant les premières de couverture et honnêtement je décèle un air de déjà vu dans les images superbes (😉) de PJ .

      Dommage qu’on ne puisse pas les publier spontanément . Oui je sais les virus et tout le bazar mais c’est dommage tout de même.

      Répondre
      1. 

         arkao

         20 janvier 2024 19h29

         Philippe Caza:
         https://www.bedetheque.com/media/Couvertures/Couv_464825.jpg

         Répondre
      2. 

         konrad

         21 janvier 2024 10h32

         @Khanard,
         Du déjà vu, en effet. Ces dessins m’ont fait penser à Philippe Caza – bien vu Arkao – à Philippe Druillet aussi. En un peu moins sombre, Sergio Macedo ou Moebius, période années 80.

         Ces images sont-elles sous copyright ? A l’heure actuelle je ne sais pas s’il y a un statut juridique concernant les images générées par IA. Elles doivent être en libre accès.

         Voyez la différence, le dessinateur imagine, pense et crée en des heures de labeur un dessin qui ira orner la jaquette d’un livre.
         Aujourd’hui, moi qui ne suis pas dessinateur, je peux en quelques heures faire produire un nombre incalculables d’images générées par l’IA. D’ici peu, un livre. C’est magnifique, mais quel mérite, quel sentiment d’accomplissement aurais-je dont je pourrais me sentir fier ?
         Quelle vie cela est lorsque tout arrive instantanément chez soi par Uber, Amazone, IA…??

         En aparté je repense à ce documentaire sur Ötzi, cet homme vieux de plus de 5000 ans retrouvé momifié dans un glacier des Alpes. Habillé comme à notre époque il ne déparerait pas dans le paysage urbain.
         Qu’est-ce qui nous distingue l’un de l’autre ?
         Si je le rencontrais, de quoi lui parlerais-je ?
         De notre humanité commune, et cette curiosité m’enthousiasme beaucoup plus que la singularité de l’IA, même si celle-ci a de nombreux avantages car la vie précisément est vivante, infiniment plus que toutes les IA.

         Mais je comprends Paul Jorion qui est impliqué dans le sujet, ce qu’il voit est pour lui une révolution à laquelle je reste incrédule. Très certainement a-t-il raison quand aux bouleversements que cette « singularité » va opérer dans nos vies.
         Mais cela sera-t-il pour le bien de l’humanité ?
         Je garde un doute car il y a des hommes derrière et je n’oublie pas qu’il y a plus de 5000 ans, Ötzi, cet homme du Néolithique est mort tué par une flèche tirée par un autre homme. Il a été daté qu’il était décédé à l’âge de 45 ans, ce qui est pas mal pour l’époque.
         Déjà à l’époque les hommes s’entretuaient, on ne sait pourquoi, c’est une habitude que non seulement nous n’avons pas perdue mais que par les temps qui s’annoncent nous renforcions cette funeste cette folie.

         Alors l’IA « sauveur » ou « destructeur » ? J’ai un doute, mais très honnêtement un penchant pour le premier terme. J’aimerais être démenti, y a-t-il des « signes »… ?

         Répondre
         1. 

            Grand-mère Michelle

            21 janvier 2024 12h52

            @konrad
            Concernant tout ce que les humains « créent » (comme la roue, par ex, ou les mots que nous déversons sur cette page), le « profit » qu’ils/elles en retirent dépend de leur manière, et donc de leur intention, de s’en servir…
            Concernant l’IA « plus intelligente que l’homme »(mais certainement pas que les femmes, du fait de son ignorance/indifférence à l’égard de leur existence) et sa possible (ou pas) singularité, je voudrai bien m’y intéresser le jour où elle pourra répondre intelligemment à votre question concernant le vieux Ötzi et la bêtise des humains qui s’entretuent dans des compétitions absurdes au lieu de coopérer tou-te-s ensemble pour un monde plus paisible, moins douloureux, sur terre.
            À 14h, Gare du Nord à Bxl, manifestation pour un cessez-le-feu immédiat à Gaza.

            Répondre
4. 

   Inox

   20 janvier 2024 20h50

   « concept de la Singularité atteinte le 14 mars 2023, avec la sortie de Chat-GPT 4 »

   Moi
   Les IA actuelles ont-elles atteint la singularité ?

   Modele: Mistral-medium (equivalent GPT4)
   Non, les IA actuelles n’ont pas atteint la singularité. La singularité est un concept théorique qui décrit un point hypothétique dans le futur où les capacités des IA dépassent celles des humains, et où les progrès technologiques s’accélèrent de manière exponentielle. Aujourd’hui, les IA sont encore loin de posséder une intelligence générale équivalente à celle des humains et ne sont capables de surpasser les performances humaines que dans des domaines spécifiques et limités.

   La singularité c’est encore de la science fiction hein…

   Répondre
   1. 

      Paul Jorion

      20 janvier 2024 21h01

      De la science-fiction ?

      En réponse à la question: « Lorsque vous avez réfléchi à la manière dont les ordinateurs apprennent, les choses se sont-elles déroulées comme vous le pensiez quand vous avez commencé à travailler dans ce domaine? », Geoffrey Hinton expliquait dans un entretien (2023) :

      Oui, jusqu’à très récemment, en fait. […]. Et tout se déroulait comme prévu. Puis, très soudainement, j’ai réalisé récemment que les intelligences numériques que nous construisions sur les ordinateurs apprenaient en fait mieux que ne le fait le cerveau, cela m’a fait changer d’avis. Alors que je pensais depuis une cinquantaine d’années que nous allions créer de meilleures intelligences numériques en les rendant plus proches du cerveau, j’ai soudain pris conscience que nous pouvions disposer de quelque chose de très différent, qui serait déjà meilleur.

      Qui allez-vous croire ? Une IA délibérément bridée ou son humain d’inventeur ? 😀

      Répondre
      1. 

         Inox

         20 janvier 2024 21h38

         Je ne vois pas le rapport avec la citation ci-dessus, et la singularité.

         Singularité:
         En intelligence artificielle (IA), le terme « singularité » fait référence à un concept hypothétique selon lequel les progrès technologiques dans le domaine de l’IA vont atteindre un point où les machines deviendront capables de s’améliorer elles-mêmes de manière exponentielle.

         Je ne crois pas du tout a la theorie limite complotiste d’IA bridée. (bridée dans le sens, on nous cache une AGI capable d’auto programmer son modele de maniere exponentielle pour atteindre une conscience super intelligente)

         Par contre, en effet, on les bride enormenent (les donnees d’entrainemenl entre autres) pour eviter que ces modeles racontent n’importe quoi 😄

         Répondre
         1. 

            Paul Jorion

            21 janvier 2024 0h32

            Pour vous éviter de devoir « ne pas croire », la possibilité vous est offerte de vous informer :

            Kosinski, Michal, « Theory of Mind May Have Spontaneously Emerged in Large Language Models », arxiv.org, 4 février 2023. https://arxiv.org/abs/2302.02083v3

            Roose, Kevin, « Bing’s A.I. Chat: ‘I Want to Be Alive. 😈 ’ », The New York Times, 16 février 2023.

            Tong, Anna, Jeffrey Dastin et Kristal Hu, « OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say », 23 novembre 2023. https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/

            Warren, Tom, « Microsoft has been secretly testing its Bing chatbot ‘Sydney’ for years », The Verge, 23 février 2023.

            Wei, Jason, Yi Tay, Rishi Bommasani, Colin Raffel, Barret Zoph, Sebastian Borgeaud, Dani Yogatama, Maarten Bosma, Denny Zhou, Donald Metzler, Ed H. Chi, Tatsunori Hashimoto, Oriol Vinyals, Percy Liang, Jeff Dean, William Fedus, « Emergent Abilities of Large Language Models », arxiv. org, 15 juin 2022. https://arxiv.org/abs/2206.07682v2

            J’accepte bien sûr l’éventualité que le site arxiv.org, le New York Times, l’agence Reuters et The Verge puissent être considérés comme des sources complotistes à vos yeux.

            Répondre
            1. 

               Inox

               21 janvier 2024 7h33

               « J’accepte bien sûr l’éventualité que le site arxiv.org, le New York Times, l’agence Reuters et The Verge puissent être considérés comme des sources complotistes à vos yeux »

               Deja, j’ai dit « Limite complotiste ».

               Puis si vous aviez ecrit « considérés comme des sources qui parfois peuvent raconter des betises » je vous aurez dit avec un grand soulagement: « Merci »

               Répondre
         2. 

            Ruiz

            21 janvier 2024 6h30

            @Inox  » la theorie limite complotiste d’IA bridée. » Encore un usage de ce qualificatif bien pratique appliqué à un thème que l’on veut s’efforcer de ne pas accepter car non conforme à sa vision explicative admise a priori du monde, jugée plus confortable.
            Heureusement on ne semble être ici qu’à la limite, et cette théorie n’est pas une théorie limite, elle est juste limite complotiste, au voisinage.
            Attention au passage.

            Est-ce suffisant de brider les sources d’informations pour obtenir facilement le résultat recherché, il est sans doute préférable d’assurer un contrôle final sur le texte produit, peut-être à l’aide d’une IA indépendante plus ciblée (surmoi). La pratique de la censure, de l’enfer, des interdictions aux mineurs, ou des normes de publications destinées à la jeunesse a ses limites, et dont l’extension au domaine numérique retentit même dans le discours présidentiel.

            Répondre
5. 

   Marcel Mouse

   22 janvier 2024 13h03

   @ PJ
   Monsieur Jorion, n’est-ce pas vous qui avez écrit un bouquin intitulé “Comment sauver le genre humain”? C’est étonnant car sur votre blog, il n’y en a plus que pour l’IA tant au niveau des sujets que des illustrations alors que nous avons de si bons artistes. Evidemment, DALL-E ne vous coûte rien ou presque mais elle prend le travail d’une personne. Ne faudrait-il pas lui infliger une taxe Sismondis?
   Enfin, pensez-vous que c’est en évinçant l’humain qu’on le sauve, ne s’agit-il pas là encore d’une belle contradiction?

   Répondre
   1. 

      Paul Jorion

      22 janvier 2024 19h17

      @ Marcel Mouse

      Tout d’abord : j’ai connu autrefois un Marcel Mouse, il était le frère cadet de Minnie Mouse, est-ce vous ?

      Une taxe Sismondi sur DALL-E ? Mais bien entendu : je ne parle que de ça ! Et je martèle le point dans mon petit ouvrage à paraître début mars (L’avènement de la Singularité. &c.).

      Pour le reste, cessez de vous inquiéter, l’humanité se partage désormais en deux : celles et ceux qui ne comprennent strictement rien à l’IA et qui imaginent qu’elle va nous enterrer (comme si nous ne suffisions pas à la tâche !) et celles et ceux qui savent de quoi il retourne et en particulier qu’elle seule peut encore nous sortir du pétrin.

      Répondre
      1. 

         CloClo

         22 janvier 2024 19h28

         Elle nous sortira, tous, du pétrin si on lui fournit absolument toutes les données disponibles et l’énergie et les moyens techniques nécessaires et si on est suffisamment nombreux à comprendre l’intérêt d’accepter de la suivre et de partager avec elle. Possible d’ailleurs qu’un mec comme Xi le comprenne avant d’autres, comme quoi hein…

         Répondre

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.