De Cassandre à Moïse…, par rienderien

25 février 2024 11h50

Après votre réputation de Cassandre, vous voilà revenu en Moïse de l’IA 😉 .

Illustration par DALL·E (+rienderien)

« L’avènement de la Singularité : l’humain ébranlé par l’intelligence artificielle », blog, Intelligence Artificielle, Singularité

24 réponses à “De Cassandre à Moïse…, par rienderien”

Pad

25 février 2024 12h18

Cassandre et Moïse, figures de la mythologie grecque et de la tradition religieuse juive, sont liés par leur capacité à communiquer avec le « divin » et par leur rôle de messagers porteurs d’avertissements cruciaux, souvent ignorés par leur entourage. Ils ont œuvré pour la libération ou la protection de leur peuple.

Leur héritage traverse les cultures, symbolisant l’importance de l’écoute et de la foi face aux prédictions et aux directives « divines ».

Répondre
Paul Jorion

25 février 2024 13h13

P.S. En allant sur « Sous-titres » dans « Réglages » (« Paramètres »), puis « Traduire automatiquement » vous pouvez obtenir des sous-titres en français.

Répondre
1. Pad
  
  25 février 2024 14h59
  
  De ce que j’en comprends :
  
  Le feedback rapide possible dans les environnements de jeux vidéo améliore l’efficacité de l’apprentissage par renforcement ( 70 à 100 par minute pour les jeux vidéos) en faisant un outil puissant pour la formation de l’IA de manière rentable et rapide si bien menée ???
  
  Cela bénéficie non seulement au processus d’apprentissage mais facilite également l’application des comportements appris à d’autres tâches grâce à l’apprentissage par transfert, élargissant ainsi les capacités de l’IA à travers divers domaines ???
  
  En tous les cas, il est fort le gamin, sûrement biberonné aux jeux vidéos :-))
  
  Répondre
Kikok

25 février 2024 13h35

Il est clair que le livre de PJ “L’avènement de la Singularité » va diviser très fortement l’opinion en deux camps. On l’aimera ou on le détestera… tout comme les lecteurs ici présents.

Mais cette division de l’opinion n’est-elle pas ce qui fait les grands débats de la société humaine ?

Répondre
1. Pascal
  
  25 février 2024 14h21
  
  Aimer ou détester sont des réactions affectives. Il me semble que les propos de Paul méritent mieux que cela. A partir d’une réalité technologique informatique révolutionnaire qu’il connait bien et d’une approche de ce qu’est l’intelligence qui est encore débattue, il développe un point de vue sur l’évolution de la société à venir. Si je ne m’abuse, l’intérêt et le sens de ce blog, c’est de pouvoir en débattre.
  La mode médiatique actuelle est portée sur la conflictualité avec une polarisation entre « les pours » et « les contres », je trouverai dommage que nous tombions dans ce qui pour moi est un travers néfaste pour toute société. J’espère que nous pourrons ici, continuer à débattre, chercher à comprendre les points de vues des uns et des autres sans tomber dans un dualisme stérile.
  Bon dimanche
  
  Répondre
  1. Kikok
    
    25 février 2024 14h28
    
    Je suis d’accord avec vous pour ce sujet @Pascal ! Même si sur cette affaire de paradigme je n’étais pas d’accord avec vous 😉.
    En plus, j’ai attendu un moment que vienne votre commentaire pour la sortie de livre sur le billet précédent.
    bon dimanche également !
    
    Répondre
  2. BasicRabbit en psychanalyse
    
    25 février 2024 16h34
    
    @Pascal (« évolution de la société à venir »)
    
    La position de Thom sur l’évolution en général est la suivante (et on remarquera que cette position ne prend sens que dans le cadre d’une théorie générale de l’analogie, ce qu’est, selon lui, sa théorie des catastrophes) :
    
    « Les situations dynamiques régissant l’évolution des phénomènes naturels sont fondamentalement les mêmes que celles qui régissent l’évolution de l’homme et des sociétés. ».
    
    Il est très clair pour moi que l’évolution des espèces en fait partie (et, de ce fait, je suis maintenant convaincu du caractère suspect des théories darwinienne et néo-darwinienne de l’évolution).
    
    Répondre
    1. CloClo
      
      25 février 2024 23h25
      
      Salut Basic,
      
      Thom est décédé. Game Over. Insert coins.
      
      Répondre
  3. gaston
    
    25 février 2024 19h10
    
    @ Pascal
    
    Mais non, mais, non, Pascal, ne vous inquiétez pas nous continuerons à débattre sans nous écharper.
    
    Il suffit de regarder l’image : nous sommes tous là à écouter sagement Paul Moïse en direct, ou sur son smartphone, ou sa tablette, ou celle du voisin. Pas d’agressivité de la part de quiconque, il y a même l’arsène, au fond, au coin, qui agite les bras en parlant, mais que personne n’écoute.
    
    Tout est pour le mieux dans le meilleur des mondes. 😏
    
    Répondre
    1. Pascal
      
      25 février 2024 20h47
      
      Pour la moyenne d’âge, Gaston, vous étes sûr que c’est nous ?!😄
      
      Répondre
      1. gaston
        
        25 février 2024 21h00
        
        Oui, c’est bien ainsi que DALL-E nous imagine : regardez l’âge du capitaine, à 77 ans passés, et pas une ride !
        
        Répondre
Pascal

25 février 2024 14h27

Petite conversation avec ChatGPT 3.5

Mes zigues
Qu’est-ce que le langage ?

ChatGPT
Le langage est un système de communication complexe utilisé par les êtres humains pour exprimer des idées, des sentiments, des pensées et des informations. Il peut prendre différentes formes, telles que la parole, l’écriture, les gestes et même les signaux sonores ou visuels. Le langage permet aux individus de communiquer entre eux, de transmettre des connaissances, de partager des expériences et de créer des liens sociaux. Il est essentiel au développement cognitif et social des êtres humains et joue un rôle crucial dans toutes les sphères de la vie quotidienne, de la science et de la culture.

Mes zigues
Quel est le role du langage dans la société ?

ChatGPT
Le langage joue plusieurs rôles cruciaux dans la société :

Communication : Le rôle le plus évident du langage est de permettre la communication entre les individus. Il facilite l’échange d’idées, d’informations, de pensées, de sentiments et d’expériences.

Transmission de la culture : À travers le langage, les membres d’une société transmettent leur culture, leurs traditions, leurs croyances et leur histoire aux générations futures. La littérature, la musique, le théâtre et d’autres formes d’expression culturelle reposent sur le langage pour être transmis et préservés.

Organisation sociale : Le langage aide à organiser la société en permettant aux individus de collaborer, de coordonner des activités et de former des groupes sociaux. Il établit les normes sociales, les règles et les conventions qui régissent les interactions entre les individus.

Développement personnel et professionnel : Le langage joue un rôle crucial dans le développement personnel et professionnel des individus. Il leur permet d’apprendre, de penser de manière critique, de résoudre des problèmes et de s’adapter à leur environnement.

Innovation et progrès : Le langage est également essentiel à l’innovation et au progrès dans tous les domaines de la société, de la science et de la technologie. Il permet la transmission et la diffusion des connaissances, favorisant ainsi la découverte, l’invention et l’innovation.

En résumé, le langage est bien plus qu’un simple moyen de communication ; il est au cœur de la vie sociale, culturelle, intellectuelle et économique de la société humaine.

Mes zigues
Que penser d’un langage qui ne serait accessible qu’à un minorité dans une société ?

ChatGPT
Un langage qui n’est accessible qu’à une minorité dans une société peut avoir des implications importantes sur l’égalité des chances, l’inclusion sociale et la cohésion communautaire.

Barrière à la communication : Si un langage n’est compris que par une minorité, cela crée une barrière à la communication avec le reste de la société. Cela peut entraîner des difficultés à accéder à des informations essentielles, à participer pleinement à la vie sociale et à bénéficier des opportunités disponibles dans la société.

Exclusion sociale : Les personnes qui ne maîtrisent pas ce langage peuvent se sentir exclues socialement et culturellement, ce qui peut conduire à des sentiments d’isolement et de marginalisation.

Inégalités : Lorsqu’un langage est réservé à une minorité privilégiée, cela peut renforcer les inégalités socio-économiques et accroître les disparités d’accès aux ressources et aux opportunités.

Renforcement des divisions : Un langage réservé à une minorité peut contribuer à renforcer les divisions au sein de la société en créant des groupes linguistiques distincts avec leurs propres normes, valeurs et identités culturelles.

Perte de diversité linguistique : Si ce langage devient dominant au détriment d’autres langues, cela peut également entraîner une perte de diversité linguistique et culturelle, ce qui est préoccupant du point de vue de la préservation du patrimoine culturel de l’humanité.

En conclusion, un langage réservé à une minorité peut présenter des défis importants en termes d’égalité, d’inclusion et de cohésion sociale dans une société. Il est donc essentiel de promouvoir des politiques linguistiques inclusives qui garantissent l’accès équitable à la langue et aux opportunités pour tous les membres de la société.

Mes zigues
Est-ce que le langage informatique pourrait s’inscrire dans ce type de langage ?

ChatGPT
Le langage informatique, comme tout autre langage, peut présenter des caractéristiques qui le rendent accessible à une minorité ou à un groupe spécifique dans une société. Voici quelques façons dont cela pourrait se produire :

Complexité technique : Certains langages de programmation peuvent être très complexes et nécessiter une expertise spécialisée pour être compris et utilisés efficacement. Cela crée une barrière d’entrée pour ceux qui n’ont pas eu accès à une formation ou à des ressources éducatives appropriées.

Accès limité aux ressources : L’apprentissage des langages de programmation peut nécessiter un accès à des ressources spécifiques, telles que des ordinateurs et des logiciels, qui peuvent ne pas être disponibles pour tous en raison de contraintes économiques ou géographiques.

Culture et communauté : La programmation informatique est souvent associée à une culture et à une communauté spécifiques, ce qui peut rendre difficile l’accès pour ceux qui ne se sentent pas représentés ou inclus dans cette culture.

Inégalités socio-économiques : Les inégalités socio-économiques peuvent également jouer un rôle dans l’accessibilité des langages informatiques, car certaines personnes peuvent avoir moins de possibilités d’accéder à une formation en programmation ou à des opportunités d’emploi dans le domaine de la technologie.

Cependant, il est également important de noter que le langage informatique peut être un outil puissant pour autonomiser les individus et les communautés. Il peut offrir des opportunités d’emploi, de créativité et d’innovation, et il est de plus en plus reconnu comme une compétence essentielle dans de nombreux domaines. Pour cette raison, des efforts sont déployés pour rendre l’apprentissage de la programmation informatique plus accessible à un large éventail de personnes, notamment à travers des initiatives d’éducation, des ressources en ligne gratuites et des programmes de sensibilisation.

Mes zigues
Avec l’arrivée des IA, le langage informatique ne devient-il pas un facteur de fracturation de la société ?

ChatGPT
L’arrivée des intelligences artificielles (IA) soulève effectivement des questions sur l’impact qu’elles pourraient avoir sur la société, y compris sur le rôle du langage informatique. Voici quelques façons dont le langage informatique lié aux IA pourrait potentiellement contribuer à une fracturation de la société :

Inégalités d’accès et de compétences : Les compétences en programmation informatique, y compris celles liées aux IA, peuvent devenir de plus en plus importantes dans l’économie moderne. Cependant, tout le monde n’a pas un accès égal à l’éducation et à la formation nécessaires pour acquérir ces compétences. Cela pourrait conduire à une fracture numérique accrue entre ceux qui ont les compétences nécessaires pour travailler avec les IA et ceux qui ne les ont pas.

Concentration du pouvoir économique : Les entreprises et les organisations qui développent et maîtrisent les technologies liées aux IA, y compris les langages de programmation associés, peuvent accumuler un pouvoir économique considérable. Cela pourrait contribuer à une concentration du pouvoir entre les mains de quelques-uns, ce qui pourrait accentuer les inégalités économiques et sociales.

Biais et discrimination : Les algorithmes et les modèles d’IA peuvent refléter les préjugés et les biais présents dans les données sur lesquelles ils sont formés. Cela peut entraîner des résultats injustes ou discriminatoires, ce qui pourrait aggraver les divisions sociales et renforcer les inégalités existantes.

Déséquilibre dans les opportunités économiques : Les technologies liées aux IA pourraient potentiellement automatiser de nombreux emplois, ce qui pourrait avoir un impact disproportionné sur certains segments de la main-d’œuvre, entraînant un déséquilibre dans les opportunités économiques disponibles pour différentes populations.

Cependant, il est également possible que les IA et les langages informatiques associés puissent être utilisés de manière à réduire les inégalités et à favoriser l’inclusion sociale. Par exemple, en fournissant des outils d’apprentissage en ligne accessibles à tous, en développant des politiques visant à réduire les biais dans les systèmes d’IA, et en encourageant la collaboration et le partage des connaissances dans le domaine de la technologie. L’avenir dépendra largement des choix que la société fait en matière de développement, de réglementation et d’utilisation de ces technologies.

Mes zigues
A quelle quantité de personnes estimez-vous le nombre actuel de personnes suffisamment compétents en langage informatique pour être en mesure de comprendre le phénomène IA et l’enjeu qu’elle représente ?

ChatGPT
Il est difficile de donner un chiffre précis sur le nombre exact de personnes suffisamment compétentes en langage informatique pour comprendre le phénomène de l’IA et ses enjeux. Cependant, je peux vous fournir quelques estimations générales basées sur des données disponibles.

Selon diverses études et statistiques, le nombre de personnes ayant des compétences en programmation informatique varie considérablement selon les régions du monde, les niveaux d’éducation et les domaines d’expertise. Par exemple :

Aux États-Unis, où l’enseignement de la programmation informatique est de plus en plus répandu, on estime qu’environ 60 millions de personnes ont des compétences de base en codage ou en développement informatique.

Dans l’Union européenne, un rapport de la Commission européenne estime que près de 20 millions de personnes possèdent des compétences numériques avancées, mais il n’est pas spécifié combien d’entre elles ont des compétences spécifiques en langage informatique ou en IA.

Dans les pays en développement, le nombre de personnes compétentes en programmation peut être considérablement plus faible, mais il est en augmentation avec l’essor de l’accès à l’éducation et à la technologie.

Cependant, il est important de noter que la compréhension de l’IA et de ses enjeux ne se limite pas seulement aux compétences en programmation. De nombreuses personnes peuvent avoir une compréhension générale de l’IA et de ses implications sans nécessairement avoir des compétences techniques approfondies. Des initiatives éducatives, des formations en ligne et des ressources accessibles sont de plus en plus disponibles pour aider un large éventail de personnes à comprendre les concepts fondamentaux de l’IA et ses impacts sur la société.

ChatGPT can make mistakes. Consider checking important information.

Répondre
1. Ruiz
  
  25 février 2024 15h00
  
  @Pascal Quelle belle bouillie de chat à la sauce Woke ! Un américain sur 5 saurait programmer ? vraiment ?
  Il y a probablement plus d’ingénieurs formés chaque année en Chine ou en Inde qu’aux États-Unis.
  Y a t il vraiment besoin de savoir programmer pour comprendre l’impact et l’usage de l’IA ?
  (est-ce suffisant ?)
  
  En quoi (quel langage ?) programme-t-on une IA ?
  
  Si les langages trop spécialisés réservés à une minorité qui constiuent une émergence naturelle dans toute profession, milieu jeune populaire ou délinquant, sont à proscrire pour favoriser l’égalité des chances, faut-il interdire LISP et APL dont un coup d’oeil rapide à une recherche Google pourrait faire croire qu’il s’agisse d’un langage de simulation.
  
  Répondre
2. Lagarde Georges
  
  25 février 2024 21h09
  
  Je suis tellement vieux que j’ai commencé avec des ordinateurs (appelés à ce moment là calculateurs) qui ne pouvaient pas être programmés à l’aide d’un soit-disant « langage de programmation » tel que Fortran (le premier, dont le nom correspond d’ailleurs à l’appellation plus modeste de formula translator) et plus tard beaucoup d’autres (dont Cobol, qui s’efforçait d’être proche de l’anglais mais c’était plutôt illusoire.)
  
  Dans le pire des cas il m’a fallu rentrer les instructions en utilisant des interrupteurs (position haute = 0, basse = 1) ou — encore pire — en reliant par un fil électrique un « pas d’instruction » à un plot correspondant au type d’instruction souhaité. Ça limitait quelque peu nos ambitions de programmeurs mais ça fonctionnait parfaitement 😜
  
  Tout ça pour dire que quand on parle de langage de programmation (que ce soit un « langage machine » ou un « langage évolué ») on joue un peu voire beaucoup sur les mots : ça n’est que depuis que les LLM sont disponibles qu’on peut utiliser ce qu’on considère habituellement comme un langage pour donner des instructions à un ordinateur. Avant c’était juste un rève.
  
  Coincé entre un ordinateur, qui est et restera déterministe, et un donneur d’ordre humain qui utilise un langage (forcément) ambigu et ne sait pas toujours (rarement en fait) ce qu’il veut, la position du programmeur (un humain lui aussi, du moins jusqu’ici) est souvent pas très confortable. Quand on prétend qu’un ordinateur s’est trompé c’est très souvent parce que le donneur d’ordre et le programmeur ne se sont pas compris.
  
  Personnellement j’en conclu qu’un des progrès qu’il reste à faire sur les LLM est qu’ils deviennent capables de demander des précisions avant de donner une réponse. Certains vont peut-être prétendre que c’est au contraire les ambiguïtés dans les questions et les réponses qui en font le charme?
  
  Répondre
  1. François M
    
    28 février 2024 0h16
    
    « un des progrès qu’il reste à faire sur les LLM est qu’ils deviennent capables de demander des précisions avant de donner une réponse ».
    Bien vu, merci. Je n’y avais pas pensé, merci de nous avoir insuflé cette vérité.
    
    Répondre
3. Maddalena Gilles
  
  28 février 2024 11h52
  
  @ Pascal > Qu’est-ce que le langage ?
  Dès le début : « Le langage est un système de communication complexe utilisé par les êtres humains pour… bla, bla, bla… »
  
  Moi, j’appelle ça de l’anthropomorphisme !
  
  Des tas d’espèces d’animaux, probablement tous, communiquent entre eux avec leurs langages spécifiques, ainsi qu’avec nous —mais nous ne les comprenons pas toujours :-)—, les plantes, ça fait encore débat…
  
  Cet anthropomorphisme ne serait-il pas « inoculé » à votre machine ?
  Volontairement ou pas ?
  
  Il faudra demander au psychanalyste de service si ça fait partie de sa culture… ou de son inconscient… 😉
  G.M.
  
  Répondre
  1. Pascal
    
    28 février 2024 11h57
    
    La machine est nourrie des écrits humains et reflète principalement cette pensée humaine. Elle s’appuie d’ailleurs sur nos pensées dominantes qui émergent statistiquement. Il n’est donc pas étonnant d’y retrouver certains stéréotypes.
    
    Répondre
    1. Maddalena Gilles
      
      29 février 2024 11h41
      
      Merci Pascal !
      C’est exactement ce que je voulais dire…
      Vous n’aviez pas compris, peut-être ?
      😀
      
      Ce qui me « gave » un peu quand même c’est que tant de gens (?) continuent à interroger ces machines pour leur demander…
      …ce que nous savons déjà !
      
      —Oh, bien sûr, avec de belles réponses, bien ordonnées, avec des références et tout et tout !
      …exactement comme, il y a peu, les lycéens profitaient de Gpt pour fignoler (ou faire, même !) leurs dissertations…
      Les professeurs s’en étaient alarmés —au début—, mais maintenant ce serait les « blogueurs » qui s’y mettraient ?
      
      Vous nous aviez habitués à mieux cher Pascal…
      
      Je ne cherche pas de réponses venant d’une accumulation de connaissances humaines en général… plus ou moins bien dirigées, orientées, digérées, d’ailleurs.
      😉
      
      Je cherche plutôt, fonction des connaissances et des expériences de chacun et, si possible, en les additionnant, de la créativité !
      
      Chose dont les machines (LLM ou autres) seront, paraît-il, peut-être capables, un jour ?
      Lorsque « l’émergence », dont notre hôte rêve encore, arrivera…
      
      Un jour ?
      Forcément, un jour…
      Mais je ne pense pas qu’on y soit déjà…
      
      Merci quand même pour votre réponse…
      Bonne journée,
      G.M.
      
      Répondre
BasicRabbit en psychanalyse

25 février 2024 15h28

@Pascal

Pour Thom le langage a une double origine :

» L’apparition du langage répond chez l’homme à un double besoin : une contrainte individuelle de nature évolutive, visant à réaliser la permanence de son moi en état de veille et une contrainte sociale, exprimant les grands mécanismes régulateurs du groupe social.

La première contrainte répond au besoin de virtualiser la prédation. L’homme en éveil ne peut, comme le nourrisson de neuf mois, passer son temps à saisir les objets pour les mettre en bouche. Il a mieux à faire : aussi, va-t-il « penser » c’est-à-dire saisir des être intermédiaires entre les objets extérieurs et les formes génétiques : les concepts.
(…)
La pensée conceptuelle est une embryologie permanente. ».

Le phallus impudicus comme forme génétique la plus élaborée susceptible de réalisation dans notre espace-temps 4D ? Ce n’est pas loin d’être ce que pense Thom de l’ombilic parabolique, la plus compliquée des sept catastrophes élémentaires ; c’est en tout cas l’impression que m’a laissée la lecture des pages de « Stabilité Structurelle et Morphogénèse » consacrées à la formation des organes sexuels (fin du chapitre X, épigraphé « Et le Verbe s’est fait chair »).

Cf. à ce dernier propos le commentaire de jck du 24 février 2024 22h01 (qui renvoie à un dénommé « mmatkins ») et la réponse de PJ à 22h49 dont j’extrais :

» C’est en effet l’article le plus bizarre que j’aie jamais lu 😉 . Il ne présente aucun intérêt ou bien au contraire il est essentiel. (…) Fascinant, j’y reviens demain sans faute ! « .

https://www.pauljorion.com/blog/2024/02/23/video-lavenement-de-la-singularite-a-paraitre-le-6-mars/comment-page-1/#comment-993232

Répondre
1. CloClo
  
  25 février 2024 23h28
  
  Extra ball, same player shoot again !
  
  Répondre
  1. timiota
    
    26 février 2024 1h47
    
    Jeune lycéen, j’étais tombé le jour de la grande panne électrique de 1978 ou 1979 sur des flippers dans les bars qui s’étaient réinitialisés à 40 ou 50 parties.
    Une petite débauche d’une ou deux heures s’en était suivie, sous l’oeil condescendant du tenancier…
    
    Répondre
    1. CloClo
      
      26 février 2024 2h12
      
      Tu m’étonnes ! Et ce genre de minutes sont plus précieuses que toutes les Livres de l’Univers à l’exception de ton premier doux baiser langoureux qui a jamais sera au dessus de tout. Ainsi se passe la Vie. Comme quoi il faut prêter attention aux nouveautés. ChatGPT est un comme un baiser.
      
      Répondre
      1. Pascal
        
        28 février 2024 12h02
        
        Et imagine un peu si on avait une coupure de courant sur nos chers Data Centers et que le Minou nous affiche : game over ! 😂
        Quel doux silence, juste avant l’explosion de folies.
        
        Répondre
        
        Garorock
        
        28 février 2024 12h38
        
        Le silence, c’est un baiser de l’univers.
        
        Répondre