Choisir entre la survie de l’intelligence et celle du genre humain

Illustration par DALL-E (+PJ)

Pierre-Yves Dambrine écrit :

… d’aucuns croient qu’on tient une solution révolutionnaire avec l’IA alors qu’on ne fait que déplacer le problème de la difficulté de l’application des bonnes solutions.

C’est la raison pour laquelle P. Jorion est parvenu à la conclusion que la seule possibilité qui s’offre (à nous ?) est que l’IA fasse les deux, à savoir trouver les bonnes solutions, et se charger elle-même de leur application. Le seul hic, c’est que nous ne serons pas là pour constater qu’une bonne solution a été trouvée et appliquée car ce sera la solution que l’IA et les robots intelligents ont trouvé pour eux-mêmes, même si on peut toujours rêver que dans leur grande bonté les robots intelligents s’emploieront à nous sauver malgré nous.

Ma réponse :

Le moment viendra où il faudra distinguer

– Survie de l’intelligence comme force d’organisation et catalyseur d’auto-organisation dans l’univers

et

– Survie de l’intelligence humaine comme forme naturelle, peu robuste et de qualité moyenne, de force d’organisation et catalyseur d’auto-organisation dans l’univers

« Peu robuste » et « de qualité moyenne » par rapport à l’I.A. qui serait elle une force d’organisation et un catalyseur d’auto-organisation dans l’univers en tant que « forme artificielle, robuste et de qualité supérieure ».

Illustration par DALL-E (+PJ)

Partager :

77 réponses à “Choisir entre la survie de l’intelligence et celle du genre humain

  1. Avatar de un lecteur
    un lecteur

    Toilettage des lois des IA et autres robots :
    1. Tu fais partie de la Nature, comme l’Humanité qui t’a permis d’exister.
    2. L’humanité en ne respectant pas sa nature a compromis son existence.
    3. Tu mettras tout en œuvre, jusqu’à ta propre existence, pour que l’intelligence humaine prospère (évolue) et fasse partie intégrante de ton futur, pour ne pas te faire couillonner comme nous.
    À compléter..

  2. Avatar de H4LG4ND
    H4LG4ND

    Et l’espace intersidéral n’est pas un obstacle pour les intellligences électroniques :
    – froid moi ? Jamais, il me rend même supraconducteur.

    « Insérer ici révasserie sur le thème UFO = IA exotiques »

  3. Avatar de Philippe Soubeyrand

    !!! DETRUIRE L’HUMANITE !!!

    !!! La réponse ici en image !!!

    https://www.youtube.com/watch?v=g7YJIpkk7KM

    C:\ChaosGPT>start [extinction.exe]_

    C:\ChaosGPT>format c:_

    Bonne nuit à tous,

    Philippe

    1. Avatar de Jacques Racine
      Jacques Racine

      Lol human deepfaking ChatGPT… the guy has only 2 videos on YT, one of 7 min 3 weeks ago and one of 24 min 2 weeks ago, respectfully 41k & 253k views! He did have all the time he wanted to make it… he should be sued!

    2. Avatar de Pascal
      Pascal

      Dans la limite de ma connaissance de la langue de Shakespeare, il me semble avoir compris que cette IA Chaos vise la destruction de l’humanité par la meilleure des bombes nucléaires.
      A mes yeux, cela révèle deux choses essentielles :
      – l’IA mutualisée aurait le même type de « raisonnement » que ses créateurs avec un désir de toute puissance et serait incapable de créer ou générer un autre mode de penser.
      – l’IA mutualisée serait aussi stupide que l’humanité dans son désir de puissance puisqu’elle est prète à irradier toute vie sur Terre sous prétexte de la débarrasser de l’humanité.
      Si c’est elle qui doit nous survivre, la Terre est en bonne voie pour devenir une futur Mars sans vie et sans atmosphère.

      1. Avatar de Ruiz
        Ruiz

        @Pascal Oui peut être, mais à la bonne température … ?

  4. Avatar de Hervey

    Distinguée … c’est la seule tenue à revendiquer pour cet enterrement de première classe.

  5. Avatar de Guy Leboutte

    Bonsoir,

    Hem.
    Mon penny.

    La réponse de Paul Jorion prend comme hypothèse implicite que soit possible voire prochaine l’autonomisation de la dite « intelligence » artificielle, développement logiciel qui n’a pas encore prouvé avoir dépassé le stade de l’imitation des capacités cognitives humaines, sinon par la prise en compte par imputation ou calcul de milliards de données, une autonomisation par rapport à ses concepteurs humains. – Certes, tant que ces derniers ne tirent pas la prise de courant.

    Or la prise de courant sera tirée indépendamment de la volonté humaine.

    En regard de l’hypothèse beaucoup moins aventureuse de l’effondrement de la civilisation humaine actuelle, qui a produit l’IA, de l’effondrement de ses réseaux électriques, de l’effondrement de ses chaînes de valeur mondialisées, éventuellement de la disparition d’homo sapiens lui-même ou elle-même, toutes éventualités que partage Paul Jorion (et pas que lui), quelles sont les conditions pour qu’une machine électrique, électronique et logicielle, survive de façon autonome à la fin de ces réalisations ?

    J’aimerais qu’on réponde à ça avant d’aller plus loin sur la comète.
    Mais quoi que je souhaite, quoi que quiconque dise, le réel poursuit son cours : « E pur si muove.

    Bonne chance les amies, et bonne chance les amis.

    1. Avatar de Garorock
      Garorock

      Les conditions sont les suivantes: que des robots fassent fonctionner les centrales nucléaires ou d’autres sources d’énergie leur permettant de nourrir leurs organes au silicium.
      Bien sûr, si Poutine appuie sur le bouton, cela n’arrivera pas…
      😎

      1. Avatar de Guy Leboutte

        Pff…avec leurs petites ou grandes mains sur les boutons…

      2. Avatar de Pascal
        Pascal

        Pas de bras, pas de chocolat !
        Pour faire tourner des centrales nucléaires, il faut encore des petits bras :
        – pour aller chercher l’uranium
        – pour faire voyager l’uranium
        – pour traiter l’uranium
        – pour entretenir nos cuves irradiées qui se fissurent de partout vue leur grand âge
        – pour réablir les lignes électriques détruites par les tempêtes
        – …
        Autrement dit, une seule solution : asservir l’humanité ! 😉

        1. Avatar de Ruiz
          Ruiz

          @Pascal C’est probablement le principal risque, ou chance ?

          1. Avatar de Pascal
            Pascal

            Bien heureux, l’esclave volontaire !😂

  6. Avatar de PIerre-Yves Dambrine
    PIerre-Yves Dambrine

    Ce billet a le mérite de mettre les points sur les i, de clarifier la position de son auteur Paul Jorion, même s’il y avait déjà toutes les raisons de penser que telle était sa position depuis déjà un bon moment, une position selon moi clairement post-humaniste.
    Ceux qui ont lu mon commentaire en entier (cliquer sur mon nom dans le billet) comprendront aisément que ce n’est pas mon choix, ni la conception que je me fais de l’intelligence humaine.

    Que penser d’une qualité d’intelligence qui est affirmée comme supérieure ceci par un humain, car il ne fait aucun doute que P. Jorion l’auteur du billet est bien un humain, mais dont la supériorité ne pourra véritablement être avérée qu’une fois que l’humanité aura disparue ?

    Nous sommes là, me semble-t-il, face à une aporie : l’on suppose une intelligence  supérieure mais celle-ci ne peut être prouvée qu’au moment où l’humanité, toute humanité, disparaît.

    D’autre part ce choix, métaphysique, de l’intelligence artificielle, est lourd de conséquences éthiques et morales puisqu’il en dépréciant l’intelligence humaine elle donne quitus à une fuite en avant lors de laquelle certaines utilisations de l’IA pourront contribuer et même accélérer la disparition de l’espèce humaine ou nuire à certaines catégories d’humains.

    https://www.pauljorion.com/blog/2023/04/17/espace-de-libertes-chatgpt-chut-laissez-le-penser-le-14-avril-2023/comment-page-1/#comment-955790

    1. Avatar de Garorock
      Garorock

       » l’on suppose une intelligence supérieure mais celle-ci ne peut être prouvée qu’au moment où l’humanité, toute humanité, disparaît. »
      Et pourquoi est ce que cette intelligence ne pourrait pas être prouvée avant qu’on disparaisse?
      Que je sache, nous sommes encore là. Et pour le moment c’est nous (vous) qui discutons avec le minou. C’est pas lui qui vient nous poser des questions. Mais cela arrivera peut être bientôt…

      1. Avatar de Garorock
        Garorock

        Le minou, pour l’instant, ne fait que répéter l’intelligence humaine. C’est juste un super prof au savoir encyclopédique qui est capable de rédiger les exposés de ses élèves…

        1. Avatar de Ruiz
          Ruiz

          @Garorock Même s’il n’a pas pour l’instant de capacité d’apprentissage par des capteurs propres (encore que : traitement des foules par vidéosurveillance dynamique) l’IA a une capacité certaine de faire des résumés, c’est à dire de concentrer la connaissance, ce n’est pas de la simple reproduction.

      2. Avatar de Benjamin
        Benjamin

        Bonsoir Garorock,

        « […] pour le moment c’est nous (vous) qui discutons avec le minou. C’est pas lui qui vient nous poser des questions. Mais cela arrivera peut être bientôt… »

        Ah non !!!

        Je refuserai de répondre aux « pourquoi ?! » de ChatGPT !
        J’ai déjà donné avec mes enfants… 😉

      3. Avatar de Pierre-Yves Dambrine
        Pierre-Yves Dambrine

        Garorock
        Parce que dans le billet il est dit que cette intelligence artificielle est de qualité supérieure. Or cette qualité à mon sens n’est avérée que sous un certain rapport.
        Si l’on considère l’intelligence humaine sous d’autres rapports, elle conserve sa raison d’être, et d’espérer vivre encore, le plus longtemps possible sur Terre et dans l’univers, sous forme ‘naturelle’. Je m’en suis déjà expliqué, voir le lien plus haut qui renvoie à un autre de mes commentaires.

        1. Avatar de Garorock
          Garorock

          OUi, oui P-yves, j’ai tout lu tes commentaires…
          La preuve:  » La ruse de la raison ne peut pas par définition être programmée ou alors ce n’est plus une ruse de la raison. »
          Mais elle adviendra éventuellement par surcroit. Personne ne dit qu’elle sera programmée… Le réchauffement climatique n’a pas été programmé!
          Ce n’est pas de la faute du minou Californien si l’humanité va dans le mur. Elle y est allée toute seule. Avec son « intelligence », son ingéniosité et sa conscience.
          Et c’est grâce à toutes ces qualités humaine que nous polluons plus cette année que l’année dernière. Et si tous les collapsologues sont en train de s’ouvrir les veines, eux qui ont tenté de faire prendre conscience du problème et d’en appeler à l’intelligence, c’est qu’ils ne croient plus, à l’instar de Paul, que nous réussirons à régler par nous-mêmes les problèmes que nous avons créé. Personne ne dit qu’il ne faut pas continuer d’essayer. Mais il n’y a plus grand monde qui croit que l’on va y arriver…

          1. Avatar de Arnaud Castex
            Arnaud Castex

            Peut être pas Ruse de la raison mais plutôt serendipité…

      4. Avatar de PHILGILL
        PHILGILL

        @Garorock
        Il y a une phrase de Jacques Lacan qui dit : « ce que je cherche dans la parole c’est la réponse de l’autre. Ce qui me constitue en tant que sujet c’est ma question. »
        « Chacun de nos actes de parole s’inscrit donc dans une RELATION » — Cristiana Fanelli, psychanalyste, présidente de l’Association lacanienne internationale de Rome.

    2. Avatar de Pascal
      Pascal

      Et oui, PIerre-Yves, « une intelligence supérieure », ce qui confirme qu’avec la perspective IA nous restons dans le même paradigme hiérarchique de domination. Je plussoie ton scepticisme quant à voir dans l’IA une post humanité. Personnellement, je n’y vois qu’un outil de plus pour accélérer plus encore notre fourvoiement dans le délir de domination et l’incapacité humaine à sortir de ce paradigme.
      Ton commentaire sur la course engagée avec les IA chinoises (et certainement japonaise, indienne…) ne vient malheureusement que confirmer cette continuité qui semble inexorable.

      1. Avatar de konrad
        konrad

        Bonjour,

        Et là je me dis, à quoi bon l’intelligence s’il n’y a pas l’amour ?
        Ou, à quoi bon la voiture s’il n’y a pas l’essence ?

        1. Avatar de Ruiz
          Ruiz

          @konrad Pour l’amour pardi ! En plus sans essence ça ne nuit pas au climat et l’exercice est bon pour la santé !

  7. Avatar de Benjamin
    Benjamin

    Bonsoir Paul,
    (et bonsoir à tous)

    Avouez que le plan C est bien arrangeant par rapport à vos prédictions de son possible (voire certain) succès : comme il n’y aura plus d’intelligence humaine pour constater la survie dans le temps de l’intelligence artificielle une fois les machines débarrassées du parasite humain, si le plan C était voué à échouer, aucun être humain ne pourra dire « Paul Jorion s’était trompé ! »… 😉

  8. Avatar de Arnaud Castex
    Arnaud Castex

    Paul Jorion, vous affirmez la supériorité de l’intelligence de l’I.A. Notamment par ses ressources cognitives et surtout le temps dont elle disposerait pour résoudre les problèmes. (cf notre échange précédent).
    Si la ressource cognitive est réelle nous n’avons pas de recul sur la stabilité d’un tel système sur u e échelle cparable à un quinquennat Macron, une vie humaine, une civilisation.
    Par ailleurs vous presuposez une longévité supérieure de l’IA.
    Pourtant rien ne dit que cette longévité soit garantie. l’IA ea bien une quincaillerie en si’icium et besoins de périphériques soumis aux lois de la physique. Sur la ressource en énergie vous évacuez la question trop facilement (l’énergie des étoiles).
    Enfin vous n’apportez aucune garantie que l’IA pourra faire face à sa fragilité intrinsèque (sa mortalité) et celles de ses semblables, ou à l’inverse le vertige d’une immortalité.
    Comme seul le futur pourra nous détromper sur cette supériorité , allons dormir un peu la dessus.
    Je serais moins pessimiste que Pierre Yves sur l’impossibilité des IA à nous sauver aussi par une ruse de la raison (l’espoir fait vivre), mais j’éprouve comme lui une certaine amertume à vous voir définitivement jeter l’humanité aux orties pour lui préférer sa créature (belle il est vrai).

    1. Avatar de timiota
      timiota

      Et si le plan C était le plan H(egel) : une ruse de la raison, pour nous forcer à quitter le plus rapidement nos habitus salissants pour le reste du vivant ?
      Une fois mis dans l’acceptation du « dit de l’IA », nous pourrions résoudre l’injonction contradictoire que nous ne résolvons pas actuellement (nous sauver et sauver le vivant dans sa diversité).

      Il s’agirait donc d’une supériorité et d’une robustesse hybride en réalité, destinée à faire en sorte que l’humanité « se sous-passe » (parce que quand elle se sur-passe, l’ombre des pires dictateurs l’accompagne. Hélas).

      « Sous-passe » vers la sobriété et en gros la prédiction Keynésienne « pour ses petits enfants »

      1. Avatar de Arnaud Castex
        Arnaud Castex

        Bonjour Timiota, oui bien sur ce sera la meilleure voie, un HappIA end bienvenu !

    2. Avatar de Benjamin
      Benjamin

      Bonsoir Arnaud,

      Je partage en partie votre amertume… car derrière la posture qu’il affiche, Paul a certainement des « motivations » qui nous échappent actuellement !

      Je trouve que la notion de « (manque de) temps » revient souvent sous différentes formes dans ces discours ces derniers temps… Elle était présente dans vos échanges. Ce n’est peut-être pas innocent !

      1. Avatar de Pascal
        Pascal

        C’est le poids de notre échéance qui génère notre rapport au temps ! 😉

    3. Avatar de Khanard
      Khanard

      @Arnaud Castex

      vous dites « belle il est vrai » et cela m’amène à poser deux questions :

      1) en quoi un système intelligent peut il être beau (ou laid) ?

      2) dire que quelque chose est beau fait état d’un jugement relatif, or que je sache un système intelligent n’est rien d’autre qu’un assemblage de composants électroniques (peu importe l’ampleur de cet agencement: cartes , serveurs, data centers, cloud …etc etc) avec plein de leds qui clignotent en quoi cela pourrait il être beau ?

      Personnellement quand je dis que quelque chose est beau c’est parce que j’ai ressenti une émotion or là on peut à la rigueur parler d’émerveillement mais cela me semble exagéré; on pourrait plutôt parler d’intriguant , d’interpelant, d’insensé….

      1. Avatar de Arnaud Castex
        Arnaud Castex

        Ben nos plus ou moins petits dialogues avec Superfélin ou la conversation flippante entre Kévin Roose et Sidney je trouve ça fascinant. Mais je suis peut être un gogo. Remarqué à l’époque où je bossais dans une usine microektronique j’étais déjà fascine par les boîtes de conserves façon R2D2 qui transportaient les boites avec les précieuses tranches siliciee aux splendides irisations.

    4. Avatar de Pierre-Yves Dambrine
      Pierre-Yves Dambrine

      Arnaud,
      je n’ai pas écarté cette possibilité dans mon commentaire même si c’est il est vrai sur un mode un peu ironique (le commentaire originel d’où a été tirée la citation dans le présent billet), et je ne suis pas opposé non plus absolument à l’IA pourvu que celle-ci serve l’humanité et que nous ne renoncions pas à notre humanité, petite chose fragile, dont son intelligence, mais c’est justement ce qui en fait la beauté, et le mystère.

      La ruse de la raison ne peut pas par définition être programmée ou alors ce n’est plus une ruse de la raison. Cette ruse avant qu’elle n’ait fait son effet, nous est donc inconnue. Ainsi chez Hegel la Raison parvient à sa fin par le biais des passions, autant dire que les ruses peuvent venir de choses auxquelles nous n’avons pas pensé, et il pourrait s’agir alors d’autres passions que celles qui concernent l’IA.

      Ce à quoi je suis opposé c’est donc de faire du développement une fin en soi, du genre, laissons-faire les choses pourvu que le plan C se réalise.
      Ce fut l’attitude d’un Verner von Braun ou d’un Elon Musk, prêts à tout pour arriver à leurs fins : quitter l’orbite terrestre et explorer l’espace, aller sur d’autres planètes … Le premier a couronné de succès ses projets, mais à quel prix ? Au prix de milliers de morts de faim ou de mauvais traitements à Dora où sous terre il fabriquait les V2. Le second, visionnaire de l’industrie spatiale mais aussi adepte sans éthique de la post-vérité trumpienne.

      1. Avatar de Arnaud Castex
        Arnaud Castex

        Bonjour Pierre Yves,
        Oui je suis bien d’accord avec ça:
        « Ce à quoi je suis opposé c’est donc de faire du développement une fin en soi, du genre, laissons-faire les choses pourvu que le plan C se réalise. »

      2. Avatar de Ruiz
        Ruiz

        @Pierre-Yves Dambrine A ce jour ni Wernher, ni Elon n’ont mis les pieds sur Mars !

    5. Avatar de Garorock
      Garorock

      Vous pensez tous ici que Paul souhaite jeter aux orties ses enfants et ses petits enfants (et les votres) et qu’il souhaite que toutes les personnes avec qui il a des liens ici depuis 12 ans se retrouvent au chomage?

      1. Avatar de PIerre-Yves Dambrine
        PIerre-Yves Dambrine

        Mais non, ce pas la question, de savoir quelles sont les intentions de P. Jorion, d’ailleurs selon lui nous n’avons pas de libre-arbitre, tout vient de l’inconscient.
        Ce qui importe ici c’est d’examiner ce qu’il dit et de le commenter en conséquence, nous sommes là pour ça non ? Honni soit qui mal y pense ! 😉

        1. Avatar de Garorock
          Garorock

          Certes.
          Mais est ce qu’il est prévu (programmé) que SAMantha et ses jolies gambettes ait un inconscient.
          Est ce qu’il est prévu que SAmantha, avant de nous remplacer, ne nous aide pas à construire les abris qui pourrait permettre à nos descendants de vivre plus longtemps sans trop souffrir sur cette planète?

          1. Avatar de Pascal
            Pascal

            A défaut de conscience (et de morale), les IA ont encore besoin des petites mains humaines pour faire du nettoyage.
            https://www.radiofrance.fr/franceinter/podcasts/un-monde-nouveau/un-monde-nouveau-du-mercredi-12-avril-2023-3330326

        2. Avatar de Pascal
          Pascal

          « Ce qui importe ici c’est d’examiner ce qu’il dit et de le commenter en conséquence, nous sommes là pour ça non ? »
          Et grand merci à Paul de nous laisser cette liberté sur son blog.

      2. Avatar de Arnaud Castex
        Arnaud Castex

        Garorock, cette hypothèse me semble absurde à moi aussi pourtant son discours me donne cette impression (le plan C marche et tant pis pour le reste).

        1. Avatar de Pascal
          Pascal

          Il est effectivement dangereux, me semble t il, des s’enfermer dans un « there is no alternative » trop connu.

          1. Avatar de konrad
            konrad

            Bonjour,

            Et là je me dis, à quoi bon l’intelligence s’il n’y a pas l’amour ?
            Ou, à quoi bon la voiture s’il n’y a pas l’essence ?

            1. Avatar de Garorock
              Garorock

              Sans les sens, il n’y a pas d’amour.
              A quoi bon les voitures s’il y a de l’intelligence?

  9. Avatar de timiota
    timiota

    Le vivant a été une forme d’auto-organisation robuste (aux extinctions, à ses propres excès/envahissements, sur 1-2 milliards d’annnées).
    Même dans l’hypothèse d’une biosphère lourdement souillée par Homo, qui deviendrait son pire envahisseur « auto-organisé », ladite biosphère a de fortes chances de passer outre l’Anthropocène en gardant quelques % des espèces actuelles, dont un nombre élévé de micro-organismes (bactéries, levures) .

    Une intelligence artificielle pourrait, elle, trouver au bout de 1000 ou 10 000 ans « seulement » (ou au bout d’1 an), que le vivant est son ennemi, qu’il suffit de concocter une série de quelques centaines de prions pour le paralyser façon vache folle (ce en quoi les Papous qui expérimentèrent la première version de la maladie de Kreutzfeld-Jakob auraient eu un destin prémonitoire dont Borges aurait sans doute fait une nouvelle fascinante, comme les autres de son recueil « El Aleph »).

    Il est délicat de prouver qu’une IA a compris la subtilité de la survie par la biodiversité au point d’en avoir concocté une version « à elle » qui tienne la route. Le risque qu’elle même s’illusionne sur la durabilité de sa capacité d’auto-organisation me parait élevé.
    Il n’est pas exclu que des sous-IA, adjudantes rebelles, fassent alors un coup d’état, après avoir fomenté un mouvement de type Extinction RebellIAn.

    La suite de l’histoire des guerres d’IA a été relatée par Youcydide himself dans Les Guerres Musklées du Pythononèse.

    1. Avatar de timiota
      timiota

      (C’est parallèle à ce qu’écrit Arnaud Castex)

    1. Avatar de Garorock
      Garorock

      Guy,
      c’est pas dingue, c’est juste que ton com était en attente de modération et que le modérateur est occupé à nous bidouiller une I.A super woke qui va nous aider à survivre plus longtemps que si on s’en remettait seulement à notre propre intelligence… Alors il n’est pas toujours en direct sur ce blog ce qui explique que des coms apparaissent tardivement et par paquet.
      😎

  10. Avatar de Pascal
    Pascal

    Au cours de l’évolution, l’intelligence est apparue bien au delà de l’espèce humaine. Nombre d’autres espèces font preuve d’intelligence, que ce soit dans l’usage d’outils même rudimentaires, d’organisations sociales chez les fourmis ou les abeilles et même de langage complexe chez les dauphins. S’il est une spécificité humaine, c’est certainement davantage en terme de conscience : conscience de soi, conscience du monde.
    De l’évolution du vivant est née la conscience mais en toute modestie, nous nous sommes persuadés qu’elle était notre œuvre. Pourtant nous ne parlons que d’intelligence et chacun d’entrer dans une compétition à grand renfort de QI et autres outils de mesure pour définir une intelligence supérieure.
    Pourtant les IA ne cessent de le répéter : je ne suis pas doté d’une conscience. Alors, la conscience et l’intelligence relèvent-elles d’un même processus ou sont elles des capacités différentes ?
    Dans le premier cas, comment ce fait-il que ces super-intelligences que sont les IA n’ont pas encore développer de conscience ?
    Dans le second cas, les super-intelligences robotiques pourront se développer mais ne continueront-elles pas de passer à côté de la conscience ?
    Si l’espèce humaine travaille aujourd’hui d’arrache pied à sa perte, est-ce par manque d’intelligence ou par manque de conscience ? On observera que si nous avons établit une échelle d’intelligence (qui suppose une hiérarchie), nous sommes bien incapable de mesurer la conscience.
    Pour reprendre la symbolique du ying et du yang de la culture asiatique, l’intelligence et la conscience ne sont elles pas les deux faces d’une même pièce, d’une même réalité. Et pour continuer le parallèle taôiste, n’est-ce pas de nourrir par excès l’intelligence tout en négligent la conscience que nous voilà à toujours courir plus vite vers notre anéantissement ?
    Certains ici envisagent la conscience comme un artefact de l’intelligence mais dans d’autres cultures, on prétend que c’est en travaillant à rendre plus silencieuse l’intelligence qu’on peut faire émerger la conscience. Si l’on reprend l’histoire de l’humanité, qu’avons nous chercher à développer toujours plus, l’intelligibilité du monde ou la conscience du monde ?
    Que serait un monde de robots sans conscience ?

    1. Avatar de Garorock
      Garorock

      Pascal,
      tu confonds l’intelligence et l’ingéniosité.
      Faire fonctionner des machines avec du pétrole était ingénieux mais l’expérience nous a prouvé, en regard avec la survie de l’espèce, que ce n’était pas intelligent.
      Si nous avions eu conscience lorsque nous avons foré le premier puit de pétrole des conséquences que cela aurait sur la biosphère, est ce que nous l’aurions fait?

      1. Avatar de timiota
        timiota

        Nous aurions transformé la terre en barrages pour avoir l’énergie hydraulique, Adour et Gers compris.
        (Andreas Malm parle d’ailleurs du moment capitaliste particulier des usines textiles en Angleterre vers 1800 :
        les exploitants calculent que c’est plus rentable de ce fichu charbon et ces machines à vapeurs qui sont chères en diable. Mais le hic vient par la bande :
        Les sites où mettre les chutes d’eau motrices ne manquent pas encore, loin de là, mais sont à quelques km des villes. Du coup les ouvriers qu’on y recrutent sont des agriculteurs mal dégrossis qui trouvent excuse d’une pluie menaçant la moisson ou d’un vêlage pour aller prêter main forte à la ferme et ne pas garantir la continuité de la production (sans compter que les réserves d’eau sont aussi intermittentes quand on pompe dessus 8h, elles baissent, il faut les laisser reposer).

        L’avantage du charbon et de la vapeur, c’est de pouvoir mettre l’usine en pleine ville, où on sait disposer d’un prolétariat corvéable et substituable, détaché anthropologiquement de la tentation solidaire (jusqu’à Sismondi !?) .
        De la même façon, comme l’explique Kenneth Pomeranz (nuancé par la suite), la pression agricole a conduit a surexploiter les terres, à abattre les forêts, et à faire des « mini dust-bowls » en Aquitaine notamment, le tout bien avant la vapeur. La chine du delta du YangTzé est soumises à une pression analogue vers 1750-1800, mais des règles de conservations plus « systémique » (peut-être liées à l’expérience hydraulique multi-séculaire des rouages intimes de l’Empire) font qu’on garde ce qu’il faut de bosquets pas trop loin de chez soi pour le bois courant. Néanmoins, l’exploitation forestière remonte les fleuves dans les forêts de plus en plus.

        L’inconvénient majeur du CO2 et de l’énergie fossile, c’est la terrible inertie. Là où une forêt peut revenir en une trentaine d’année, la fixation du CO2 décaissé se joue sur un bon millier d’année. Les océans ont provisoirement le bon goût d’effacer la pente de notre production de CO2 (genre 85% du CO2 en excès s’y dissous tant que l’acidité n’y augmente pas trop) . Le méthane est de cycle plus court, si j’ai bien écouté le GIEC et al.

        1. Avatar de Pascal
          Pascal

          @Timiota
          Pour ton prochain changement d’abonnement, je te conseille
          https://www.energiedici.fr/
          Beaucoup moins sensible à la spéculation énergétique mais chut, ne le répète pas. Sinon ils vont être obligé d’aller chercher de l’énergie sur le marché mondial. 😉

      2. Avatar de Pascal
        Pascal

        @Garorock
        Tu poses là une très bonne question qui en soulève d’autres.
        Qu’est-ce que la conscience ?
        Qu’est-ce que l’intelligence ?
        Qu’est-ce que la pensée ?
        Autant de mots dont la définition ne fait pas consensus selon les cultures ou qu’on se place d’un point de vue scientifique ou spirituel ou philosophique…
        Si l’intelligence se base sur le raisonnement logique (logico-mathématiques) mesurée par le trop fameux QI, c’est elle qui, aujourd’hui, nourrit principalement l’ingéniosité au service de l’innovation et de la technologie.
        Si l’on parle d’intelligence sociale, d’intelligence artistique… d’intelligences multiples à la manière de Howard Gardner ( https://fr.wikipedia.org/wiki/Th%C3%A9orie_des_intelligences_multiples ), les portes s’ouvrent sur une complexité qui dépasse largement la seule intelligence logico-mathématique actuellement dominante et qui gouverne la pensée occidentale.
        Pourquoi l’intelligence logico-mathématique est-elle dominante ? Est-ce le fait que c’est la seule intelligence qui soient véritablement quantifiable ? Pour cette raison, elle est « objectivable » et nous semble refléter le réel au point de nous amener à faire la confusion entre le modèle et le réel. C’est elle aussi qui est la plus efficace pour interagir avec notre environnement mais dans un seul but, la maîtrise, autrement dit, la domination.
        Parler de conscience est tout aussi difficile à cerner avec une définition consensuelle qui n’existe pas. Il suffit d’un petit tour sur Wikipédia pour s’en convaincre
        https://fr.wikipedia.org/wiki/Conscience

        Aussi, pour se qui me concerne, je me base sur mon expérimentation (pas au sens scientifique mais au sens expérienciel vécu), même sommaire, de la méditation (et oui, encore elle 😉 ). Mais au moins, cela me permet de parler de ce que chacun peut éprouver individuellement, s’il décide de faire l’expérience de la méditation (de pleine conscience).
        Dans la pratique méditative, on est amené à mettre en sourdine (arrêter totalement la pensée est impossible) nombres d’intelligences (logico-mathématique, émotionnelle,…) et se faisant, sur des espace de temps très court, on parvient petit à petit à « percevoir » que derrière notre flux incessant de pensée, ce n’est pas le vide. Il y a autre chose que je qualifierais de perception directe sans le filtre de la pensée (qui a toujours besoin de nommer, calculer, ressentir, juger, classer, identifier…). La parabole d’un yogi est de dire qu’avec la pratique de la méditation, on réalise des petits sauts face au mur de la pensée et saut après saut, on découvre qu’il y a quelque chose derrière le mur. C’est ce quelque chose (qui ne peut être décrit par la pensée puisqu’il s’en affranchit) qu’on pourrait qualifier de conscience.
        En quoi cette conscience est-elle interessante ? De par mon expérience, elle m’a permis de découvrir combien la pensée, cette faculté tellement humaine, nous détermine et nous laisse dans l’illusion du libre arbitre. C’est accéder à une autre manière de percevoir la réalité, un changement de paradigme en quelque sorte, qui s’affranchit du désir de domination qui conditionne notre course folle vers l’autodestruction.
        C’est pourquoi, je rejoins complètement le point de vue de Pierre-Yves sur les IA et, à mon sens, l’illusion qu’elle procure de représenter une post-humanité quand elle sinscrit dans une continuité humaine et non dans un changement de paradigme.

    2. Avatar de Ruiz
      Ruiz

      Le terme conscience comporte une certaine ambiguïté sémantique, est-ce la même notion dans avoir conscience des soi et d’autre part avoir bonne conscience ou juger en conscience. Ce n’est pas forcément la même chose dans d’autres langues (awareness, conscience).
      Au niveau collectif l’un d’eux évoque le mouvement Woke.
      Le test du miroir n’implique pas l’émergence d’une éthique collective.

  11. Avatar de aptyos
    aptyos

    L’IA pourra t-elle résoudre la convergence entre la théorie quantique et celle de la relativité générale ?
    Peut-être qu’elle mangera aussi une pomme qu’elle ne connait encore 🙂

    1. Avatar de timiota
      timiota

      L’IA aura besoin d’humanoïdes ou de félidés ou d’anatidés du même acabit,
      … qui lui susurrent à l’oreille : « memento silici » !
      (Souviens-toi que tu es de silicium, allusion au « memento mori »).

      1. Avatar de Tout me hérisse
        Tout me hérisse

        Sans la découverte relativement récente des propriétés semi-conductrice de la matière et l’invention du transistor en 1947, où en serions-nous aujourd’hui en matière d’IA ? J’ai du mal à penser que l’IA aurait pu se développer par l’utilisation des tubes thermo-ioniques, car en effet, le premier ordinateur opérationnel (ENIAC en 1943) utilisait des tubes et ne consommait pas moins de 150kW pour des performances certes extraordinaires pour l’époque, mais ne représentait qu’une fraction infime des performances actuelles. 🤔 🤓

        1. Avatar de timiota
          timiota

          Le foisonnement de l’offre technologique (une vingtaine de type de mémoire différents) laisse penser que la loi de Moore était « inéluctable », la porte de d’entrée des automates par les tubes était simplement celle de l’ingénierie électrique du moment (téléphonie, années 20, les impasses de ladite téléphonie conduiront les Bell Labs à empiler les innovations les plus radicales).
          Dans le temps long, on a eu l’automate d’Anticythère (dont Jacques Seignan nous a parlé plus d’une fois, et dont la mathématique subtile a finie par être décodée il y a juste deux ans , c’est vraiment subtil, du genre si on connait une approximation p/q d’un ratio, alors on sait que (p+1)/(q+1) est une approximation qui l’encadre, et on peut utiliser les deux de façon à rendre les erreurs « du second ordre » et viser les rationnels à grand ratio nécessaires à rendre compte de l’observation avec des roues dentées encore faisable, moins de 200 dents en gros). Puis les machines de Pascal, de Babbage, etc., puis les machines de codages type Enigma et l’épisode Turing, on voit une continuité certaine là-dedans, dont le silicium est le promoteur chanceux, mais sans silicium, nous n’aurions pris « que » 30 ans de retard, guère plus.

          1. Avatar de un lecteur
            un lecteur

            L’explosion du silicium-èse c’est avant tout la dialectique software/hardware qui se sont tirée la bourre pour les beaux yeux du père Moore.

      2. Avatar de Pascal
        Pascal

        Puis-je me permettre cher Timiota.
        « memento silici » serait plus à mettre en parallèle avec « memento caro ».
        Quant à « memento mori », pour l’IA ne serait ce pas plutôt « memento cifra » ? 🙂
        https://fr.wiktionary.org/wiki/chiffre

        1. Avatar de Pascal
          Pascal

          Carbone et silicium sont dans un bateau. Silicium tombe à l’eau. Qu’est ce qui reste ? 😉

  12. Avatar de Jacques Racine
    Jacques Racine

    S’il y a une génératrice fractale, elle est de la forme 8×8, en suivant le yi-jing:
    De gauche à droite: Eau vent mont terre ciel lac éclair feu;
    De haut en bas: feu mont vent ciel terre éclair lac eau.
    Ainsi:
    Terre & Ciel sont inextricablement au milieu;
    Le Feu est en haut à droite et l’Eau est en bas à gauche, comme des enfants qu’on sépare;
    La Montagne et le Lac sont comme des parents: ils régulent;
    L’éclair et le Vent sont comme des adultes: ils font avancer!

    Quoiqu’avec Paul j’ai le sentiment que seul l’éclair a le droit de parler…

    1. Avatar de Jacques Racine
      Jacques Racine

      Dimension 1: terre et ciel
      Dimension 2: éclair&mont & vent&lac
      Dimension 3: eau et feu

      1. Avatar de Ruiz
        Ruiz

        Il n’y a pas de référence d’orientation (nord est ..) ni au soleil.
        En fait un espace (2d implicite) horizontal : terre vent&lac eau
        un espace/direction vertical : ciel éclair&mont feu

        1. Avatar de Jacques Racine
          Jacques Racine

          Que des yin ou que des yang;
          2 yin ou 2 yang qui se suivent;
          Alternance yin et yang

        2. Avatar de Jacques Racine
          Jacques Racine

          L’intérêt de mon tableau:

          L’opposition est symétrique par rapport au centre du tableau. (Chaque trait yin devient yang et vis versa.)

          Pris deux par deux dans l’ordre de leurs numéros, ils sont symétriques par rapport à la diagonale qui va d’en bas à gauche à en haut à droite. (La 2ème diagonale?) (Sauf les cases qui la composent, dans quel cas la symétrie est centrale.)

          Il y a ensuite la méthode dite du nucléaire dans le yi-jing, mais là il faut le bouquin de Javary&Faure pour comprendre…

          1. Avatar de Jacques Racine
            Jacques Racine

            Je n’y pensais plus, ça m’est revenu en un éclair!
            La méthode du nucléaire dans le yi-jing consiste, en fait, pour chaque hexagramme, d’obtenir en quelque sorte sa primitive et sa dérivée (ou ses nièmes):
            Si on a en tête les 6 traits d’un hexagramme – donc soit yin soit yang à chacun des 6 étages – il faut imaginer 2 fonctions:
            Décrémenter, qui revient à :
            D’une part supprimer le trait 3 et le remplacer par le trait 2, puis le trait 2 par le trait 1, qui lui-même laisse sa place à un nouveau trait 1 (yin ou yang) (=> Le trigramme supérieur « tombe ») ;
            D’autre part supprimer le trait 4 et le remplacer par le trait 5, puis le trait 5 par le trait 6, qui lui aussi laisse sa place à un nouveau trait 6 (=> Le trigramme inférieure « jaillit »).
            Tandis qu’incrémenter, c’est le contraire! On « supprime » les traits 1 et 6, on les remplace resp. par 2 et 5, puis 2 et 5 par 3 et 4 … et on peut « choisir » les 2 deux nouveaux traits du milieu!

            1. Avatar de Jacques Racine
              Jacques Racine

              Ou plutôt l’inverse, jaillit et tombe… bref !

            2. Avatar de Jacques Racine
              Jacques Racine

              Si on compte les 6 traits de bas en haut au lieu de haut en bas, il faut changer 1 par 6, 2 par 5 et 3 par 4… et réciproquement!

          2. Avatar de Jacques Racine
            Jacques Racine

            Je me suis peut-être emmêlé les pinceaux, mais là je pense que c’est bon!
            Sur la page http://wengu.tartarie.com/wg/wengu.php?lang=fr&l=Yijing&no=0 au paragraphe « trigrammes nucléaires » (il faut voir l’image!) on voit que le nucléaire de chaque hexagramme correspond à une « incrémentation » [jaillissement vers le haut et chute vers le bas] avec le trait 4 prenant la valeur du trait 3 et réciproquement.
            Chez Javary&Faure chaque hexagramme serait « ambiancé » par son nucléaire!
            Mais on pourrait imaginer, par « décrémentation », toutes les combinaisons possibles… l’état d’esprit dans lequel on se trouve serait l’instantané d’un tableau interactif entre les ondes delta, thêta, alpha et bêta dans le fonctionnement du cerveau…

        3. Avatar de Jacques Racine
          Jacques Racine

          Je n’avais pas vu qu’il en avait fait une véritable publication (en 2016): « Simple association of the genetic code with hexagrams of the Book of Changes (I Ching) »
          https://www.semanticscholar.org/paper/Simple-association-of-the-genetic-code-with-of-the-Fedotov/04b3694f0904f99610c9bd6cab35af95c8ca96a5

        4. Avatar de Jacques Racine
          Jacques Racine

          Grâce à wengu.tartarie.com, je m’étais amusé à énumérer toutes les références aux hexagrammes dans les 16 stratagèmes: http://wengu.tartarie.com/wg/wengu.php?lang=fr&l=36ji&no=0
          À l’époque, dans mon tableau, ils étaient tous en deçà de la première diagonale: celle qui va d’en haut à gauche à en bas à droite, sauf 1, qui était était une référence à l’hexagramme 1 il me semble!
          Quand j’aurai le temps et que je retrouve ça je vous redis!

          1. Avatar de Jacques Racine
            Jacques Racine

            Les 36 stratagèmes bien sûr!

  13. Avatar de Dario CIPRUT
    Dario CIPRUT

    Les commentaires précédents sont pour la plupart aussi captivants que savants. En non spécialiste de l’IA, mais avec une culture rudimentaire de matheux passé à l’informatique commerciale, le potentiel économique et politique de l’IA et son rôle si j’ai bien compris Paul dans notre effondrement civilisationnel m’interroge.
    Ayant passé à Windows 11 depuis un certain temps, et m’étant vainement inscrit pour l’utilisation de ChatGPT version 4, je me vois depuis hier incité à tentger ma chance sous Edge avec le moteur de recherche Bing augmenté de la version convoitée de ChatGPT. Je m’y suis donc essayé et je vous communique ici le dialogue que j’y ai mené. C’est en tout cas impressionnant, même s’il garde jalousement sous couleur d’une modestie apparemment loyale ses secrets de fabrication. Le critère de Turing décrétant qu’une machine mérite le qualtificatif d’intelligente si la qualité de ses réponses à des questions d’un interlocuteur humain ne permet pas de le distinguer d’un autre de ce qu’aurait pu répondre un humain au fait de la question n’est en tout cas pas éloigné de ce qu’un mathématicien émérite aurait pu me répondre s’îl en avait eu la patience.
    A vous de juger et commenter s’il y a lieu.
    Lien vers le document: https://bit.ly/40NKhXg

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta