Lex Fridman : La Singularité vient-elle ?

31 mai 2023 14h02

01 mai 2023 20h21

Je répondais tout à l’heure à un commentateur :

« C’est là le point commun aux objections des sceptiques ici parmi les commentateurs : vous supposez impossibles les effets d’émergence par auto-organisation engendrée par la complexité [l’éventualité d’un bond qualitatif entre la machinerie en entrée et le produit en sortie].

Réfléchissez à ceci : s’il était impossible à un être humain de créer un cerveau plus intelligent que le sien, il aurait été impossible à des atomes de devenir des molécules ( = émergence par auto-organisation), à des molécules de devenir des acides aminés ( = émergence par auto-organisation), à des acides aminés de devenir de l’ADN ( = émergence par auto-organisation), etc. Or tout cela a eu lieu : l’univers n’est pas une soupe indistincte de quarks. Donc la Singularité est possible et … preuve supplémentaire : elle a eu lieu 😉 ! »

Je vous jure que quand j’écrivais cela le 1^er mai, j’ignorais que Neil Gershenfeld dirait la même chose le 29 mai 😉 !

Grands Modèles de Langage, Intelligence Artificielle, Singularité

Lex Fridman, Neil Gershenfeld, Singularité

68 réponses à “Lex Fridman : La Singularité vient-elle ?”

Guychard

31 mai 2023 14h40

Vous vouliez sans doute dire acides nucleiques , mais peu importe , reste à nous expliquer qui est » auto «

Répondre
1. Paul Jorion
  
  31 mai 2023 17h32
  
  Il n’y a pas de saut entre acide nucléique et ADN : l’ADN est un acide nucléique.
  
  Répondre
  1. Guychard
    
    31 mai 2023 17h59
    
    Si il y a l’ARN et l’ADN n’est pas un polyamide sinon ça se saurait , mais là n’est pas la question
    
    Répondre
    1. timiota
      
      31 mai 2023 21h09
      
      Keskidi ? Question amides (dérivé azoté des acides carboxyliques), je n’en vois pas plus d’un côté que de l’autre (uracile vs thymine, U et T). Et pour la nuance désoxyribose vs ribose, c’est deux sucres. Les sucres c’est compliqué (résumé court de la physico chimie des sucres), et en tout cas c’est assez semblable au premier abord et demi.
      Un aldo-pentose qui a perdu un des 3 OH autour du (penta)cycle, qui est devenu un p’tit H, d’où dés-oxy.
      
      En revanche, il y a eu saut « organisationnel » dans la mesure où la conservation long terme est l’unique apanage de l’ADN. On soupçonne que l’ARN a été là en premier, et que U n’était pas assez stable pour émerger comme solution de stockage (« Shurgard » divin), alors que T oui.
      
      Répondre
gaston

31 mai 2023 16h33

« Je vous jure que quand j’écrivais cela … »

Mais qui vous dit que le présent blog n’est pas lu avec grande attention au M.I.T. ? 😉

Répondre
1. Paul Jorion
  
  31 mai 2023 17h44
  
  Il est lu avec grande attention par quelqu’un ayant ses entrées au M.I.T., la probabilité n’est donc pas nulle, elle n’en est pas élevée pour autant 😉 .
  
  Répondre
CloClo

31 mai 2023 18h19

Ce commentaire monté en « billet » avec la vidéo est effectivement édifiant au sens le plus correct du terme en l’espèce. Et je l’avais pris ainsi à l’époque. Sa propédeutique ouvre la réflexion.

Répondre
Garorock

31 mai 2023 18h41

» les effets d’émergence par auto-organisation engendrée par la complexité »
La complexité engendrée par la connaissance humaine a produit des effets néfastes que l’on arrive plus à combattre pour la raison que n’émerge pas une oraganisation pour le faire.
https://www.lemonde.fr/m-le-mag/article/2023/05/31/dans-le-delta-du-gange-les-premiers-refugies-climatiques_6175495_4500055.html
https://www.lemonde.fr/planete/article/2023/05/31/pollution-nous-sommes-en-train-de-creer-un-monstrueux-reservoir-de-particules-de-plastique_6175601_3244.html

Répondre
l’arsène

31 mai 2023 18h42

Si j’ai bien compris, l’être humain pour les aficionados de l’IA ne serait donc qu’une étape vers le règne des machines, des puces électroniques et des robots , les humains n’étant relégués à terme qu’à de simples molécules n’ayant plus aucune utilité.
Donc à détruire.
L’IA est donc pire que ce que Einstein avait trouvé pour maitriser les réactions de l’atome et la bombe atomique, l’IA, c’est l’extinction de l’humanité, mais en douceur, avec la complicité de tout le système capitaliste qui y trouve son compte.
La question que je pose est la suivante : quant le peuple va-t-il être consulté pour savoir pourquoi il va être contrôlé et surtout remplacé par des machines.

Répondre
1. Paul Jorion
  
  31 mai 2023 18h47
  
  Si j’ai bien compris…
  
  Non, vous n’avez rien compris du tout. Pourquoi les poissons auraient-ils dû être détruits quand les reptiles sont apparus ? Pourquoi les reptiles auraient-ils dû être détruits quand les mammifères sont apparus ?
  
  C’est vous qui introduisez cette extrapolation bizarroïde.
  
  Répondre
  1. l’arsène
    
    31 mai 2023 19h39
    
    @ Paul Jorion
    Donc vous confirmez par votre commentaire que la suite logique pour vous serait donc de laisser la place aux machines afin de remplacer l’Homme, cet être en fait ne représentant en fait pour vous qu’une espèce transitoire .
    Désolé, mais ce n’est pas du tout mon idéal, les machines, les puces et les robots ne pourront par exemple jamais créer des morceaux aussi fabuleux à la trompette que ceux produits par Chet Baker.
    Sinon, que Chat etc prouve le contraire.
    
    Répondre
    1. Paul Jorion
      
      31 mai 2023 23h28
      
      C’est ridicule : les poissons n’ont pas « laissé la place » aux reptiles, les reptiles n’ont pas « laissé la place » aux mammifères. La preuve, ils sont tous toujours là. Enfin, pour l’instant.
      
      Répondre
2. Pascal
  
  31 mai 2023 19h12
  
  Malheureusement, l’être humain n’a pas besoin d’une IA ou autre chose pour se détruire. Il se suffit à lui même ! 🙁
  
  Répondre
  1. gaston
    
    31 mai 2023 22h12
    
    @ Pascal
    
    Effectivement, un cran de plus franchit aujourd’hui, 31/05/2023 :
    
    https://www.huffingtonpost.fr/environnement/article/4-des-5-limites-climatiques-qui-pourraient-rendre-la-planete-invivable-sont-deja-depassees_218563.html
    
    Répondre
3. Garorock
  
  31 mai 2023 19h13
  
  T’es un maso l’Arsène! Voila l’explication.
  Et comme beaucoup de masos, tu aimes bien sadiser…
  » je suis une victime, mais comme vous ne voulez pas me reconnaitre comme tel, vous serez punis! » Voila ce que ici tu cris dans ton délire à longueur de commentaires…
  Poutine va tous vous tuer.
  L’OTAN va tous vous arnaquer.
  Et l’I.A, forcément, va tous nous détruire.
  😎
  
  Répondre
  1. l’arsène
    
    31 mai 2023 21h34
    
    @ Garorock
    Non camarade, sur ce coup faut pas tout mélanger mais oublier les bombes de l’Otan et les missiles de Poutine, là c’est un tout autre niveau, il s’agit du contrôle des masses par ceux qui croient que l’Homme a fait son temps, qu’il doit être » réformé » et remplacé par des machines qui par exemple ne pourront plus faire grève ou manifester ni taper sur des casseroles.
    Le rêve absolu de toute dictature.
    
    Répondre
    1. Garorock
      
      01 juin 2023 19h55
      
      L’Arsène,
      Donc tu penses que sur ce blog, tu discutes avec des gens qui sont pour le controle des masses et pour la dictature? Et tu viens nous dire cela en nous vendant du Poutine et du Mélenchon?
      Qui insulte qui?
      C’est toi qui a acheté un terrain pour que les papillons puissent vivre encore un peu tranquilles le jour où tu ne seras plus là?
      C’est toi qui a écrit des bouquins pour dire qu’il fallait impérativement changer de cadre sans quoi nous courrions à notre perte?
      C’est toi qui a « appelé » à voter Poutou? Tu sais le gars qui a travaillé à l’usine et qui n’a pas l’intention ne nous refaire le coup des bolchos qui ne nous a mené nulle part?
      Non. C’est pas toi. Et c’est pas moi non plus.
      
      Répondre
4. chatgpythie2023
  
  31 mai 2023 20h14
  
  https://vimeo.com/303264218
  Je vous invite à regarder ce documentaire. On y voit un prodige du MIT, financé par toute la tech, qui entend réaliser la singularité en 2035. Ce qui permettrait de sauver 10⁹ humains.
  
  Parmi ces aficionados, certains sont effectivement des fous dangereux, d’autres des savants fous, d’autres des gentils fous, mais certains n’ont rien à voir avec les autres, ils sont justes des fous utopistes.
  
  Ne craignez pas les insultes, et les dénigrements Arsène, sûrement l’oeuvre d’une IA éclairée messianique.
  
  PS: Oui, effectivement, nous sommes bien plus d’humains que 10⁹.
  
  Répondre
  1. Paul Jorion
    
    31 mai 2023 23h30
    
    C’est un film de 2012, les choses sont allées plus vite que prévu : il n’a pas fallu attendre 2035, l’affaire a été réglée en 2022.
    
    Répondre
Garorock

31 mai 2023 18h45

Comment est ce que vous faites pour évaluer la logique d’un cerveau plus évolué que le votre?

Répondre
1. Maddalena Gilles
  
  01 juin 2023 3h08
  
  a) Ce que démentent non pas 2 siècles mais 2 milles siècles de progrès…
  
  b) Ce cerveau « plus évolué », mais conçu par nous, ne sera t’il pas capable de programmer également sa propre auto-extermination ?
  😉
  
  Répondre
2. Garorock
  
  01 juin 2023 19h36
  
  Chatmachin,
  Donc vous mettez le cerveau d’Einstein et celui d’Hitler sur le même plan?
  Petit rappel: Albert a toujours détesté le cerveau d’Adolf!
  
  Répondre
arkao

31 mai 2023 18h51

La Singularité vient-elle ?
« Change pas de main je sens que ça vient » !
L’intelligence sans l’empire des sens a-t-elle un sens ?

Répondre
1. CloClo
  
  01 juin 2023 19h19
  
  Loupé ! Le véritable organe sexuel et orgasmique c’est le cerveau !
  
  Répondre
  1. Garorock
    
    02 juin 2023 0h04
    
    Hé oui. Pas de bras, pas de chocolat!
    😎
    
    Répondre
2. fnh
  
  01 juin 2023 19h29
  
  https://www.bonjourpoesie.fr/lesgrandsclassiques/Poemes/st%C3%A9phane_mallarme/brise_marine
  
  Répondre
3. Garorock
  
  02 juin 2023 0h03
  
  S’en fout le Minou que la chair soit triste. Il a lu tout les livres!
  ( merci Mallarmé)
  
  Répondre
Christian Brasseur

31 mai 2023 19h33

En tant que simple citoyen du monde, que puis-je espérer d’une IA, si ce n’est imaginer qu’elle puisse « adapter » ce qui peut l’être? En prenant en compte bien sûr, notre « condition humaine », comme avec pribor (si j’ai bien compris le concept).

Répondre
JeNeSauraisVoir

31 mai 2023 20h36

Peut-être est-il possible d’objecter que le processus de passage de l’atome à la molécule, de la molécule aux acides aminés et ensuite des acides aminés à l’ADN relève, comme il est justement dit, d’une auto-organisation dans laquelle les éléments de départ continuent d’exister au sein du complexe final, bien que l’on ne sache pas bien dire par exemple si les atomes se sont joints à d’autres ‘de gaité de cœur’ ou plutôt contraints et forcés, s’ils sont à l’initiative de la réaction ou s’il la subissent, s’ils possède ou non un contrôle sur le processus etc…

Or, le processus avec l’IA semble être celui d’un remplacement associé à la disparition de l’espèce humaine, du moins dans un des scénarii. Sans mettre en doute la possibilité d’une singularité, il me semble opportun de souligner qu’il s’agirait pour le moins de quelque chose d’autre que l’auto-organisation telle qu’elle apparait dans les exemples antérieurs. En définitive l’analogie parait peu immédiate et donc d’une puissance suggestive pas si évidente.

Au demeurant et pour faire le lien avec un billet récent (Ce dont on parle sur le Blog de Paul Jorion) il me semble que ce que dit l’attitude des lecteurs un peu bougons n’est pas uniquement l’incrédulité ou une méfiance excessive vis-à-vis de l’IA mais plus vraisemblablement l’impression d’être abandonnés ; d’assister à une fuite en avant.

Il s’agit, l’on peut supposer, de lecteurs qui sont parvenus, avec le Blog et les écrits de Paul Jorion à une certaine compréhension du cadre capitaliste qui structure nos sociétés et qui ont nourri, par la même occasion, l’espoir d’en sortir par le haut, sans trop de casse, grâce justement, à cette compréhension inédite du capitalisme. Mais en dépit de quelques espérances que font naître des épisodes tels que celui de la réforme des retraites, rien n’a bougé à ce jour du côté du capitalisme concentrationnaire de richesses.

Il se fait toutefois que l’explication du capitalisme n’est pas l’unique centre d’intérêt de Paul Jorion. L’anthropologie des savoirs et l’intelligence artificielle par exemple sont des sujets sur lesquels il n’a jamais cessé de travailler. Au regard de cette continuité, il n’est pas étonnant de voir passer sur le blog des publications majoritairement orientées vers l’IA, dans un moment où il se passe justement quelque chose de significatif dans ce domaine.

Il n’en demeure pas moins que pendant ce temps et au désespoir de ceux dont l’existence est plus directement sous l’emprise du capitalisme (c’est-à-dire presque tout le monde), l’on parle moins fréquemment de la transformation (du dépassement) de ce dernier que des perspectives de l’IA. Une IA qui n’est d’ailleurs pas envisagée comme un outil devant permettre d’enrayer l’effondrement annoncé de notre espèce pour nous faire bien vivre à nouveau mais plutôt comme un pas décisif vers l’option C qui consisterait à laisser choir ce que nous continuons d’être au profit de l’émergence d’une ‘société’ auto-organisée d’IA autonomes qui, bien que créées par l’espèce humaine, constituent un pas décisif vers l’exclusion de cette dernière de la suite des évènements.

Le trouble viendrait donc, me semble-t-il, de la difficulté de faire le lien entre le sujet que l’on peut considérer comme historique sur ce blog (la crise des subprimes et plus généralement de l’agonie du capitalisme) et celui de l’avènement d’une singularité dans le domaine de l’intelligence artificielle. Si ce lien n’existe pas et si l’espèce humaine est vouée à disparaitre sans pouvoir exister en marge de l’IA et sans même prétendre à la place de constituant d’une IA qui lui survivrait, est-il si étonnant d’être confronté à une certaine extinction (ou un déplacement) des enthousiasmes ?

Répondre
1. Paul Jorion
  
  31 mai 2023 23h40
  
  C’était le thème des premiers chapitres de Le dernier qui s’en va éteint la lumière (2016) que la probabilité que l’humanité abandonne la logique du profit était quasiment nulle. Celles et ceux qui croient que cette probabilité est significativement plus élevée ont bien entendu toute ma sympathie mais cela ne suffit pas à ce que je mise sur leur scénario.
  
  Répondre
  1. Hadrien
    
    01 juin 2023 9h51
    
    « la probabilité que l’humanité abandonne la logique du profit était quasiment nulle ». Oui, car cette phrase est équivalente à « la probabilité que l’humanité abandonne la consommation était quasiment nulle ». On n’a rien compris au capitalisme, si on ne constate pas que ce système récompense (trop) ceux qui sont assez malins pour satisfaire les besoins (légitimes ou non) de leurs contemporains solvables. Ce système mène le biotope à la destruction, donc la civilisation à sa perte non pas à cause de son injustice – réelle- mais par l’excès de consommation. Le problème du jorionisme (et des écolo-gauchistes): On laisse entendre qu’il suffirait de combattre l’injustice du capitalisme, alors que le problème réside dans la consommation excessive qu’il permet et exige.
    
    Répondre
    1. Arnaud Castex
      
      01 juin 2023 11h38
      
      Seul le Jancovi-Jorionisme nous sauvera de l’extinction…
      
      Répondre
      1. Hadrien
        
        02 juin 2023 9h27
        
        Jancovici dit très clairement que la crise vient de la consommation. Il ne cite quasi jamais le mot capitalisme. Il ne fait pas de politique politicienne. Ce n’est pas le cas de Jorion qui nous égare dans un gauchisme « sympathique » mais hors solution.
        
        Répondre
        
        Hervey
        
        02 juin 2023 9h41
        
        https://www.lepaturon.com/30187-large_default/masque-anti-insectes-oreilles-ane-mule.jpg
        
        Répondre
    2. Garorock
      
      02 juin 2023 0h50
      
      Y’a un truc qui colle pas, l’empereur, avec votre dernière phrase.
      Parce que si on veut combattre l’injustice du capitalisme, on veut ipso-facto combattre la consommation excessive! Sans quoi autant aller beurrer les sandwichs…
      Le communisme 3.0 ne sera pas productiviste.
      Roussel finira à côté des cactus!
      
      Répondre
      1. Ruiz
        
        02 juin 2023 1h21
        
        @Garorock La civilisation néolibérale actuelle en développant dans les villes les pistes cyclables veut ramener le transport des masses vers leur travail au mode des années 50 dans la chine communiste de Mao, tout en installant quelques places de stationement avec recharge pour les heureux détenteurs d’une Tesla (écoresponsables).
        Le rève du prolétariat ouvrier occidental syndiqué de l’époque était (comme pour l’ouvrier de Ford) de posséder grâce à son travail en les construisant, sa petite Renault, avant de se voir remplacé par une main d’oeuvre immigrée, puis de voir l’activité délocalisée (au sein L’U.E. dans le meilleur des cas), et d’adapter son vote en conséquence.
        
        Répondre
        
        Garorock
        
        02 juin 2023 2h39
        
        Quand j’étais petit, dans une ville de province, mes deux grands-pères allaient au travail soit en vélo, soit en Solex. Ce devait être sous Pompidou. La zone industrielle était dans un ou plusieurs faubourgs de la ville.
        Les détenteurs de Tesla devront prendre leur perte. Ils auront droit a 200 kms d’autonomie par mois comme tout le monde! Et a 4 voyages en avion par vie!
        L’ouvrier de l’éco-village du futur pourra grâce à son travail posséder un véhicule ancien électrifié en covoiturage. Il le fera durer le plus longtemps possible. Comme à Cuba. Une DS 21, c’est quand même plus beau qu’une Tesla. Les villages du futur ressembleront à la Havane et à un film de Melville…
        Réservez vos places dès maintenant.
        Y’en aura pas pour tout le monde!
        
        Répondre
timiota

31 mai 2023 20h58

Comme quoi dans les affects angoissants y’a pas que se penser cafard à la Kafka,
on peut aussi se penser dinosaure menacé par une météorite (voire une météorite de l’OTAN).
Rendez vous quand les dinosaures auront des plumes ! (les oiseaux actuels)
et divagueront dans les arbres comme moi ici.

Répondre
konrad

01 juin 2023 18h22

Expliquer l’Homme par des atomes puis des molécules « émergence auto-organisation » et des acides aminés = l’être humain capable de construire des fusées habitées qui font l’aller-retour sur la Lune en si peu de temps, il me semble qu’il y a des « chainons manquants » dans l’évolution.

A l’échelle de la terre, homo sapiens apparait tardivement, il y a environ 300.000 ans. L’augmentation de la taille du cerveau et la dextérité des mains ont l’une après l’autre contribué aux développements de caractéristiques typiques des humains, comme le langage complexe, l’art et l’agriculture. Ces trois caractéristiques sont apparues au cours des 100 000 dernières années.
Il y a environ 60 000 ans, d’après les preuves génétiques et fossiles, les humains modernes ont quitté l’Afrique pour coloniser le monde.
Nous partageons près de 99 % de notre séquence génétique avec les chimpanzés et les bonobos.

Et voilà qu’en si peu de temps nous avons constitué des civilisations, élaborés des langages, des éthiques, construit des architectures remarquables, inventé des engins qui volent dans le ciel et au fond des océans…
Que s’est-il passé ?
Pardon de faire acte de mon incrédulité face à ce miracle.
Je ne sais pas ce qui s’est passé mais l’explication de « l’émergence auto-organisationnelle » ne me convainc guère et me laisse sur ma faim.

Répondre
1. CloClo
  
  01 juin 2023 19h15
  
  On se fait un mac do si tu veux ? Pour combler ta faim !
  
  Rien de mieux que du bon gras et du bon sucre dans ce genre de situation 😋
  
  Répondre
2. Garorock
  
  01 juin 2023 20h03
  
  Moi, ce qui ne me convainc guère et me laisse sur ma faim c’est l’émergence d’un capitalisme ultra libéral. Y’a des explications à ce phénomème. Des milliers de livres sur le sujet.
  On sait pourquoi. On en souffre. Mais on fait avec. Et on y a tous plus ou moins participé…
  
  Répondre
  1. konrad
    
    01 juin 2023 20h37
    
    Cloclo, Garorock,
    
    Si l’histoire de la terre était racontée en 24 heures (4,5 milliards d’années).
    A 21h06, émergence du premier organisme multicellulaire.
    23h40, premiers primates.
    23h59, premiers pas d’hominidés.
    
    Ça ne vous interpelle pas ?
    Quel est donc ce miracle qui nous fait Être !?
    Que nous ayons conscience de nous, de l’autre, de notre finitude et de notre présence, cela ne peut pas, ne doit pas, nous laisser enfermer dans une vision réductrice, uniquement matérialiste de la réalité !
    Homo sapiens n’est pas qu’homo œconomicus, ce n’est pas son devenir.
    La vraie « révolution » est là : « Je suis dans le monde mais pas du monde. »
    
    Répondre
    1. CloClo
      
      01 juin 2023 22h24
      
      Qu’est ce qui devrait nous interpeller Konrad dans ton décompte ?
      
      Répondre
      1. konrad
        
        01 juin 2023 22h59
        
        Mais qu’on n’est pas qu’un corps de chair et de sang, mais aussi et surtout une âme, un principe spirituel !!
        Bon je sais ça ne fait pas l’unanimité, mais c’est là qu’est le devenir humain, prendre conscience de sa dimension spirituelle car « science sans conscience n’est que ruine de l’âme ».
        Là est le « salut » à mon avis, davantage que dans l’IA.
        Ça reste personnel, bien sur. 😉
        
        Répondre
        
        CloClo
        
        01 juin 2023 23h07
        
        Ah ok désolé, je ne suis pas au fait de ces choses là, surtout l’âme, mais je comprends un peu la spiritualité comme sensation et expérience personnelle. Je suis dans ma phase matérialiste en ce moment depuis pas mal de temps. Jusqu’à la prochaine crise mystique.
        
        Répondre
        
        Garorock
        
        01 juin 2023 23h59
        
        Moi idem. Suis plus interressé par les spiritueux que par la spiritualité…
        Maintenant Konrad, pour la centième fois, envisager, peut être naivement, que l’I.A pourra nous permettre de réaliser le plan A, n’a rien de transhumaniste. Si il a une potentialité pourquoi la refuser. Pourquoi glapir à l’avance, alors que nous sommes dans un processus, que fatalement l’I.A sera pire que nous? Votre enfant, vous souhaitiez qu’il ressemble plutôt à Einstein ou à Hitler?
        
        Répondre
        
        Garorock
        
        02 juin 2023 0h41
        
        Y »a pas quelqu’un qui a dit que l’âme était un composé gazeux?
        Non, non, c’est pas Mélenchon. C’est beaucoup plus vieux…
        
        😎
        
        Répondre
        
        Hervey
        
        02 juin 2023 14h43
        
        @Garorock
        
        Ma grand-mère.
        
        Vrai, ma grand-mère nous racontait des histoires de feux follets dans les cimetières qui la nuit se manifestaient comme des apparitions … des histoires qu’elle nous racontait le soir avant de nous endormir.
        Cauchemars assurés.
        
        Répondre
        
        konrad
        
        02 juin 2023 7h51
        
        Garorock,
        Loin de moi cette pensée. Tout bonnement je donne un point de vue qui ne cède pas au tropisme de l’IA salvatrice.
        Ça ne veut pas dire que l’IA est un outil d’aucune aide, je pense que c’est un outil utile pour certaines fonctions mais ça reste un outil devant lequel je ne m’agenouille pas.
        Je pense que pour être en équilibre il faut marcher sur deux jambes, la raison et la résonance, l’intelligence et la sensibilité… Là j’ai parfois le sentiment que l’IA et ses promoteurs sont unijambistes.
        Ça reste un sentiment très subjectif qui pourrait se démentir d’ailleurs, c’est pourquoi j’apprécie les sujets et les commentaires postés.
        Je reste confiant dans l’humain. 😉
        
        Répondre
  2. Pascal
    
    01 juin 2023 21h33
    
    Parce que quand on vit dans un « pays riche » comme l France, on profite tous du néolibéralisme et de la mondialisation. S’il fallait que les smartphones soient fabriqués en Europe avec les standards sociaux et environnementaux associés, beaucoup d’entre nous n’auraient pas les moyens de se les acheter, ni l’immense écran plasma qui trône au salon, ni les « grandes » marques…
    Qu’est ce que ça voudrait dire pour chacun de nous de renoncer volontairement au capitalisme et au néolibéralisme ? Aller vers la sobriété quand on a été biberonné à l’abondance ?
    
    Répondre
    1. Ruiz
      
      01 juin 2023 23h41
      
      @Pascal Celà ne ferait que ramener pour la plupart le mode de vie à celui d’il y a 40 à 50 ans, il était tout aussi démocratique, culturel, et inspiré de l’esprit du CNR. Pour certains cependant l’accès à ces nouvelles technologies seraient sans doute possible.
      C’est cette volonté d’égalitarisme exprimé par la société de consommation qui en utilisant la force du capitalisme entrepreuneurial a su développer une mondialisation de la production qui abouti à l’accroisement de la consommation de richesses non renouvelables notamment en Chine et se complait dans la croissance, tout en accélérant l’évolution climatique anthropique.
      
      Répondre
      1. Garorock
        
        02 juin 2023 0h18
        
        Dans les futurs villages d’Astérix, on vivra comme dans les années 50. Avec des panneaux solaires, quelques heures d’internet par jour et des téléphones portables…
        On ira bosser en vélo.
        On mangera Bio.
        Les paralythiques remarcheront.
        Les aveugles reverront.
        Et on partagera les petits pains…
        Ne vous inquiétez pas. Tout va bien se passer.
        L’avenir est hautement désirable…
        
        Répondre
    2. Garorock
      
      01 juin 2023 23h47
      
      Proposition de Jancovivi ( il doit lire ce blog et les mésaventures du pass sani-terre…):
      4 voyages en avion par personne pour toute une vie!
      Voila du radicalisme conséquent!
      Je vote pour.
      Vous voulez qu’on en parle?
      
      Répondre
      1. Ruiz
        
        02 juin 2023 0h30
        
        @Garorock Il semble que l’humanité se soit satisfaite parfaitement d’une telle contrainte (en moyenne) pendant longtemps, jusqu’aux années 1950 au moins …
        Et puis le maintien d’une humanité nombreuse 7 à 10 10^9 ne semble pas nécessiter des vols en grand nombre (à part pour les saisonniers récolteurs agricoles ?
        
        Répondre
        
        Garorock
        
        02 juin 2023 0h35
        
        Donc vous votez pour?
        Faut qu’on avance maintenant!
        
        Répondre
        
        Pascal
        
        02 juin 2023 18h14
        
        @Ruiz et Garorock
        On se satisfait pleinement de ne pas avoir un luxe qu’on n’a jamais connu. Se satisfaire de la sobriété quand on a connu une certaine aisance, c’est une autre affaire. Un changement de mentalité et pour changer des mentalités soit ce sont les contraintes extérieures qui nous y obligent et on n’a pas le choix, soit on décide de changer son rapport au monde et là, ça demande beaucoup de détermination !
        Quel choix aurons-nous ?
        
        Répondre
        
        Garorock
        
        02 juin 2023 18h30
        
        Oui Pascal, il est plus aisé de se passer de ce qu’on pas connu… C’est un fait. Mais dans le cas qui nous occupe, il va forcément, du moins en occident, falloir se passer de choses qui nous étaient agréables.
        Il n’y a pas vraiment d’autre choix.
        Et nous n’avons pas attendu ChatGPT pour le savoir…
        Et pour l’instant, dans ce combat, le Minou ne nous est d’aucune utilité.
        Il ne peut juste faire que répéter ce que disent les collapsologues…
        Donc, si on oublie le Minou 2 minutes, la proposition de Janco, qui vote pour?
        
        Répondre
        
        Pascal
        
        02 juin 2023 18h54
        
        Je viens de poser la question au Minou….
        Et tu as raison, il ne fait que répéter ce que tous les politiques racontes en campagne mais font l’inverse une fois au pouvoir.
        L’est pas très novateur le Minou !😕
        
        Répondre
        
        Pascal
        
        02 juin 2023 19h00
        
        Qui vote pour, demandes tu ?
        Je reste toujours très dubitatif quant au rôle (actuel) du vote en démocratie. Le vote n’est validé par les politiques que lorsqu’il va dans leur sens. Quand ça va à contre sens, ils s’arrangent pour le détourner.
        Sommes nous limités au vote ?
        
        Répondre
Benjamin

01 juin 2023 23h33

Bonsoir Paul,
(et bonsoir à toutes et tous),

Un des enjeux de la singularité (supposée ou avérée) de ChatGTP… N’est-ce pas la démonstration de P = NP ?

Ce qui me fait penser à ça, ce sont les cinq mondes décrits par Russel Impagliazzo – qui lui ont été inspirés par les travaux de Lenoid Levin autour des problèmes cryptographiques. Et plus particulièrement le monde que Russel Impagliazzo a appelé « Algorithmica » !

Pour le résumé, dans ce monde, P = NP est VRAI. Ainsi, les problèmes algorithmiques qui semblaient insolubles deviennent triviaux. L’intelligence artificielle y fait un bond énorme : il existe un algorithme capable de prendre en entrée des entrées et des sorties produites par un (ou des) humain(s) expert(s), et de fournir en sortie d’aussi bons résultats que ceux de(s) l’expert(s) humain(s).
Bref… L’informatique s’en trouve révolutionnée ! L’ordinateur peut se charger de toutes les tâches dévolues aux humains. Parler une langue naturelle se réduit à savoir lire et interpréter un corpus réduit de textes. Savoir multiplier revient à savoir factoriser, déchiffrer et décrypter, avec ou sans la clé, sont des problèmes de difficultés équivalentes, et aucune cryptographie n’y est possible.

En toute sincérité : Algorithmica, ça ressemble à un monde où la singularité de l’IA est avérée !?… Donc, (en faisant fi de tous les travaux mathématiques qu’il faudrait mener pour relier les différentes théories aux autres) le raccourci « si singularité de l’IA est VRAI alors P = NP est VRAI » n’est pas si « déconnant » ?!…

Après, le nouveau problème à 1 millions de dollars, c’est peut-être d’arriver (mathématiquement) à démontrer que la singularité de l’IA est VRAI ?… Et si la singularité de l’IA était indécidable, est-ce que cela aurait des impacts sur le problème de P vs NP ?

Sur cette série de questions (sans réponse…. immédiate), je vous souhaite bonne fin de soirée.

Répondre
gaston

02 juin 2023 11h19

Et dans le cas de cette expérience relatée par « The Guardian » ce jour, la singularité est-elle survenue ?

https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test

Répondre
PIerre-Yves Dambrine

02 juin 2023 11h34

Ce discours insistant à propos de la Singularité – qui pose une intelligence qui serait à terme en tous points supérieure à la nôtre et qui rabat tout ce qui fait humanité à une question d’intelligence, est post-humaniste et comme tel constitue une nouvelle forme d’anti-humanisme.
En accréditant, sans sourciller, la thèse de la Singularité comme émergence remplaçant la singularité humaine, nous acceptons et précipitons la perte de l’autonomie non seulement des humains face aux machines, mais des humains parmi les autres humains. C’est un projet d’acceptation de la disparition de l’humanité au motif que celle-ci serait incapable de relever les défis qui se présentent à elle.

C’est la raison pour laquelle j’ai évoqué dans un autre commentaire le passage d’un Jorion I à un Jorion II. Jorion I avec le Soliton évoquait une crise de la complexité comme composante indécomposable du Soliton, c’était la : » crise due à un monde où les interactions augmentent du fait que nous sommes de plus en plus nombreux dans un environnement de plus en plus mécanisé, monde où nous confions nos décisions à l’ordinateur alors que l’emploi disparaît en raison de notre remplacement par la machine sous la double forme du robot et du logiciel. » Certes, Paul Jorion pensait surtout à la finance lorsqu’il évoquait la nécessité de réduire la complexité des sociétés humaines. Mais la teneur générale de son discours semblait encore bien établie, il s’agissait pour le monde des humains de conserver et même amplifier la maîtrise de ses actions, pour oeuvrer au bien commun et à la continuation de l’aventure humaine. Ainsi citait-il volontiers Aristote, le philosophie par excellente des humains dans la Cité, où science, éthique et politique, sont pensés ensemble.

Jorion II renonce de facto à la maîtrise de la complexité des sociétés humaines avec son projet consistant à faire advenir un monde entièrement régi par les machines, fussent-elles intelligentes, dans le but de faire advenir un ‘monde’ de robots. C’est le choix d’une fuite en avant, où nous abandonnons le contrôle de notre destinée aux machines ‘intelligentes’.
Notre hôte envisage-t-il les implications éthiques et politiques de sa nouvelle ambition ? Si le nouveau paradigme émergeant ce sont les robots supérieurement intelligents l’humanité cesse d’avoir une existence propre et d’être composée de sujets éthiques et politiques. En effet le nouveau paradigme de l’intelligence émergeante des machines, par définition, par construction, instaure un monde non humain, puisque vouée à remplacer l’humanité ; s’évanouit alors la perspective que nous puissions penser avec ou contre nos semblables, et avec eux de décider de notre avenir. C’est la fin du monde cosmopolitique, même comme idéal. C’est la fin des débats au sein d’un monde humain puisque les IA conversationnelles, et a fortiori les robots supérieurement intelligents, deviennent les seuls interlocuteurs valables, se substituant alors aux interlocuteurs humains supposés désormais déficients mentaux dans la perspective du nouveau paradigme.

Bien entendu il y a une phase transitoire entre le monde actuel régi par le paradigme humain et celui du monde régi par le paradigme purement robotique : nous continuons d’interagir et de débattre avec nos semblables humains, utilisant l’IA comme un outil à notre disposition pour effectuer le cas échéant des tâches utiles pour assurer nos conditions d’existence, voire les améliorer sur certains points, mais la tendance lourde qui s’installe c’est celle de l’emprise toujours plus forte du monde machinique, fût-il ‘intelligent’, sur le monde humain, dans tous ses aspects, lequel, à terme, disparaît corps et âme : les questions qu’adressent les humains aux machines deviennent de plus en plus triviales pendant que les machines intelligentes instaurent insensiblement le règne de leur paradigme propre, où les seules questions qui vaillent sont celles relatives à la mise en place du monde robotique.

À cet horizon il n’y a donc plus de place pour l’humanité, en quelque sorte en sursis, avant disparition définitive.

La conquête de l’autonomie des humains face aux Dieux tous puissants était ce qui faisait le projet humaniste. Ici le processus s’inverse : on réinvente un Dieu, sous la forme d’une nouvelle idole nommée Singularité, devant laquelle nous devrions nous incliner.

Il ne s’agit pas comme d’aucuns le disent de tenter d’accomplir le plan A grâce à je ne sais qu’elle ruse de la raison qu’accomplirait le plan C.
Non, c’est dès maintenant que cette idéologie du robot supérieur a des conséquences : des ressources humaines et d’intelligence qui pourraient être consacrées à la survie de l’humanité, je préfère dire de l’humanité que de l’espèce, car justement en n’évoquant que l’espèce on perd en route la nature éthique et politique de l’humanité, sont détournées vers ce seul projet. Le processus en cours de dé-politisation des sociétés humaines s’en trouve amplifié alors qu’il faudrait retourner vers nos semblables de toute urgence, au contact de la nature nourricière.

Ainsi l’extractivisme et le capitalisme qui ruine les éco-systèmes deviennent peu de choses, sinon plus rien au regard du plan C. La nouvelle émergence se fiche bien de la pollution et du réchauffement climatique puisqu’il s’agit de construire des robots robustes. A quoi bon se soucier de la pollution et du réchauffement climatique si tout ce qui compte désormais c’est une intelligence soi-disant supérieure qui nous succéderait ?

Dès lors pourquoi se fier aux avis critiques des experts académiques et non académiques d’ailleurs, si les plus efficaces dans l’avancement du projet sont les ingénieurs Gafami, ces mercenaires de l’intelligence machinique qui mieux que quiconque peuvent comprendre et analyser ce qu’est la Singularité. La question de la Singularité devient alors une simple question d’expertise. L’avis des usagers de l’IA importe beaucoup moins ou plus du tout, comme si les seuls qui pourraient en parler sérieusement sont ceux qui l’on conçue. Comme si ceux qui avaient inventé la bombe atomique devraient être les seuls habilités à en parler parce que ils en connaissent le fonctionnement et tous les détails techniques. Or toute technique pour avoir une quelconque valeur humaine, doit pouvoir être discutée, critiquée, par ceux qui l’utilisent avant d’être encadrée, régulée, voire rejetée, sans quoi elle perd sa finalité humaine. A moins bien sûr qu’il faille renoncer à toute finalité humaine.

La fin de l’éthique et du politique signe la fin de l’altérité des égaux puisque nous devenons un temps, avant de disparaître complètement comme espèce, de simples agents de la construction de quelque chose qui a vocation à nous remplacer. Les humains ne sont plus que des objets, de simples variables d’ajustement pour le grand projet. Les humains avec leurs qualités, leur diversité deviennent interchangeables, et leurs qualités ne sont plus appréciées qu’au regard des nécessités du grand projet robotique. Si nous demeurons tous égaux c’est seulement devant l’IA dite supérieure, mais c’est alors en tant qu’assujettis au monde des machines intelligentes. C’est l’égalité de l’esclave parmi les esclaves.

Exit donc l’éthique et le politique. Tout ce qu’il y a d’important en ce monde semble devoir désormais se résumer à cette seule question aux yeux du post-humaniste : est-ce bon pour la Singularité, pour l’avènement du monde des robots ?

Répondre
1. Rosebud1871
  
  03 juin 2023 20h31
  
  PYD, soubeyrand signale votre envoi, pour une fois d’ac sur le fond, la singularité ???
  
  Répondre
2. timiota
  
  03 juin 2023 23h33
  
  Nous en sommes au stade où le fétichisme de la marchandise matérielle a mis l’humanité dans une mauvaise passe.
  L’envie d’autre chose pousse à « plussoyer » toute contre-tendance qui ferait fi de ce fétichisme, mais peut-être pas sur le mode amish.
  Passons-nous, dans cette contre-tendance générale, à un fétichisme de l’intelligence immatérielle (ou plutôt inorganique, siliconée à souhait), qui se présente comme « ce qu’il y a de mieux en ville » ?
  La mise à la disposition de l’AI pourrait aussi, à la limite, agir comme la mise à la disposition des langues pour les hommes suivant la mythologie : L’AI causerait un Babel à nouveau, une source de division lorsque nos niches cognitives ne peuvent communiquer. Que ce qui semble bien (la langue « sent vrai », les LLM étayent une langue qui « sent super vrai ») semble si bien qu’on ne verra pas pourquoi d’autres groupes n’adhère pas au même credo que son groupe à soi. « Ce qui semble bien », c’est évidemment aussi la politique (platoniquement ?), le choix « éclairé » du PrAInce direct branché sur l’AI, pour reprendre les torsions de mots derridiennes ou stiegleriennes (penser/panser, différence/différance, l’humain en panne d’essence).
  l’AI peut en effet bifurquer vers un Babel politique (en général pas très glorieux au final) au moins autant que vers une gouvernance globale acceptée, jouant le rôle de Bretton Woods + Bandung + quelques autres moments où les humains se sont crus investis d’une mission globale.
  
  Répondre
  1. Philippe Soubeyrand
    
    04 juin 2023 11h09
    
    Bonjour,
    
    Timiota écrit ceci ; je cite : « l’AI peut en effet bifurquer vers un Babel politique (en général pas très glorieux au final) au moins autant que vers une gouvernance globale acceptée, jouant le rôle de Bretton Woods + Bandung + quelques autres moments où les humains se sont crus investis d’une mission globale. »
    
    Certes, oui ! Mais afin d’éviter qu’il ne s’agisse-t-ici que d’une simple croyance, tout en faisant en sorte que « l’éthique et le politique » pointé du doigt par Pierre-Yves Dambrine redeviennent-ENFIN glorieux, et afin de faire en sorte que cette investiture devienne-t-ENFIN plus « difficilement » concrète (complexité d’une Humanité polyglotte oblige), il va falloir ordonner à tout le monde de procéder autrement sur le champ ; c’est triste à dire, mais l’Humanité va devoir en passer par là, je ne vois pas d’autre solution, car à ce stade, de tout ce que j’ai pu lire jusqu’ici, cette dernière s’est littéralement fourvoyée, confondant une fois n’est pas coutume, vitesse et précipitation (avec 29 milliards en poche, on ne regarde malheureusement jamais à la dépense, et ceci à grand coup de fonction softmax), abordant le problème de l’IA carrément à l’envers, oubliant même le plus important, ce qui est primordial, à savoir la qualité des données d’entrée ; dites merci à cette soif de Liberté qui, jusqu’ici, nous a toujours aveuglés sur tous les sujets, avec toutes les conséquences dramatiques que l’on connait ; pour une Humanité forte :
    
    === >>> Théorème du perce-neige : face à notre soif ergodique de Liberté
    
    … où l’IA forte sera de la partie, forcément, mais pas ce GPT !
    
    La suite arrive bientôt…
    
    Philippe Soubeyrand
    
    ps : l’IA forte sera déterministe ou ne sera pas…
    
    Répondre
3. Ruiz
  
  04 juin 2023 1h04
  
  @PIerre-Yves Dambrine » Les humains ne sont plus que des objets, de simples variables d’ajustement pour le grand projet. Les humains avec leurs qualités, leur diversité deviennent interchangeables, et leurs qualités ne sont plus appréciées qu’au regard des nécessités du grand projet »
  N’est-ce pas déjà là, toute la démarche à l’oeuvre depuis quelques décennies de l’alignement managerial néo-libéral, notament par l’esprit de la démarche qualité, des fiches de postes et entretiens d’évaluation, benchmarking et outsourcing.
  Quand à l’égalité elle n’existe que sur un plan assez théorique du droit et uniquement au sein d’une communauté auquelle l’apparenance est reconnue, nullement au niveau humain en général.
  
  Répondre
  1. PIerre-Yves Dambrine
    
    04 juin 2023 15h14
    
    Ruiz,
    A votre premiere remarque, je vous réponds oui.
    Concernant l’égalité, elle n’est pas acquise une fois pour toutes ; je l’évoquai en tant qu’aspiration légitime et reconnue comme telle, sauf bien sûr sous les régimes qui par principe n’en veulent pas, et ici à l’horizon du monde des robots où cette notion n’a plus lieu d’être non plus puisque les humains transfèrent pratiquement leurs capacités de penser le monde et de délibération aux machines intelligentes.
    
    J’avais donc en vue ici avant même de considérer l’égalité garantie par le doit puis réalisée, l’égalité dans sa dimension éthique, comme lien qui nous unit à d’autres humains, ces humains en lesquels nous reconnaissons à égalité les mêmes dispositions de pensée et de délibération dans la Cité. C’est la philia d’Aristote au fondement de la communauté politique. Or avec notre assujettissement au monde robotique, ce lien s’amenuise, voire se rompt.
    
    Répondre
Garorock

02 juin 2023 19h45

Non, il n’y a pas que le vote. Mais si tout le monde est d’accord avec une mesure qui n’est pas proposée par les politiques mais pas les citoyens, il y a plus de chance que cette mesure soit adoptée par en haut.
Tu vas me prendre l’exemple actuel de la réforme des retraites dont une majorité de citoyens ne veut pas et que veut Macron….
On peut se restreindre à ne presque plus prendre l’avion. C’est aussi une question de volonté. Pour la retraite c’est pas la même!
Et puis ici, nous ne sommes pas dans l’isoloir. On peut donner son avis, dire ce qu’on en pense, en discuter. Non?

Répondre