Xerfi Canal – L’IA, une hécatombe d’expertises, le 21 février 2025

23 février 2025 0h27

[Le 12 juin 2024] Xerfi Canal a reçu Paul Jorion, anthropologue, économiste, psychanalyste, chercheur en IA, pour parler de l’IA et des expertises.

« L’avènement de la Singularité : l’humain ébranlé par l’intelligence artificielle », Conscience, Grands Modèles de Langage, Intelligence Artificielle

« L’avènement de la Singularité », conscience, Douglas Hofstadter, Grands Modèles de Langage, IA, intelligence artificielle, LLM

23 réponses à “Xerfi Canal – L’IA, une hécatombe d’expertises, le 21 février 2025”

Ruiz

23 février 2025 8h54

Croire en l’IA en direct :
https://www.radiofrance.fr/franceculture/podcasts/solae-le-rendez-vous-protestant/croire-en-l-ia-3030909

à écouter avec intérêt ou en protestant ..

Répondre
1. BasicRabbit en autopsy
  
  23 février 2025 9h27
  
  @Ruiz (« https://www.radiofrance.fr/franceculture/podcasts/solae-le-rendez-vous-protestant/croire-en-l-ia-3030909 »)
  
  À 8’30 : À des enfants : pourquoi préférez vous demander à une IA plutôt qu’à l’enseignant ou à vos camarades? Réponse très majoritaire : parce qu’il ne se moque pas de moi.
  
  Répondre
  1. Ruiz
    
    23 février 2025 10h13
    
    OUi ! les extraits de radio-trottoir sont pertinents.
    
    Il y a sans doute un marché de niche pour développer une IA qui se moque du prompteur, afin de contenter une clientèle masochiste ou psychologiquement vulnérable et préparer les enfants, élèves, étudiants, employés, prétendants à rencontrer des professeurs, des pairs ou des partenaires réels.
    
    Répondre
Dan

23 février 2025 9h22

Paul,
Jean-Philippe Denis aime à rappeler que vous avez prévu la crise des subprimes avant qu’elle ne débute. Mais pourquoi ne parle-t-il jamais de la bombe atomique que vous aviez annoncée en Ukraine et de la guerre civile que vous aviez prédite aux USA ? Pourquoi ?

Répondre
1. Paul Jorion
  
  23 février 2025 10h36
  
  Parce qu’elles n’arriveront que la semaine prochaine. Vous croyez vraiment qu’on me parlait de ma prédiction de la crise des subprimes avant qu’elle n’éclate ? J’ai en analyse des personnes comme vous qui ne s’y retrouvent pas entre le présent, le passé et l’avenir. Ce sont des cas très difficiles.
  
  Répondre
Hervey

23 février 2025 10h44

Ah ! Tout arrive !
C’est l’occasion ou jamais de vous poser la question !
L’IA est-elle en mesure de faire le travail d’un psychiatre ?

Répondre
1. Mango
  
  23 février 2025 14h15
  
  @Hervey,
  D’après mon expérience, lorsque je partage mes préoccupations ou questions psychologiques avec une intelligence artificielle, celle-ci peut parfois fournir des analyses comparables à celles des humains. Il m’arrive même d’être surprise par la pertinence de ses réponses, parfois plus précises et développées que celles d’un interlocuteur humain.
  
  C’est peut-être un signe de la singularité, cette possibilité que l’intelligence artificielle dépasse l’intelligence humaine. Cependant, il me semble que la présence physique d’un être humain conserve encore une signification qui n’a pas disparu.
  
  Cela dit, si le transhumanisme advient, cette frontière pourrait un jour s’effacer.
  
  Répondre
  1. Hervey
    
    23 février 2025 21h43
    
    @Mango
    Le mot présence peut aussi recouvrir des choses désagréables comme présence militaire par exemplaire ou la présence d’un voisin que l’on préfèrerait voir ailleurs etc …
    Je comprends que ce n’est pas ce à quoi vous pensez mais ce type de présence existe aussi et depuis longtemps … les premiers chrétiens se sont évertués à essayer de faire disparaitre ce type de présence.
    
    Un rapport de confiance peut s’établir avec l’IA.
    A chacun d’en juger.
    
    Répondre
    1. Mango
      
      24 février 2025 1h17
      
      @Hervey,
      Votre point est intéressant, et je vois bien que le mot « présence » peut prêter à différentes interprétations. Ce qui m’intéresse dans cette discussion, c’est de réfléchir à la manière dont l’IA pourrait compenser l’absence physique d’un interlocuteur humain. Jusqu’où peut-on aller dans cette substitution ? Le lien de confiance avec l’IA peut-il être équivalent à celui que nous établissons avec un être humain ? Peut-être que nous sommes encore au début de cette évolution, et il sera fascinant d’observer comment ces interactions vont se transformer à l’avenir.
      
      Répondre
  2. Pascal
    
    24 février 2025 7h46
    
    J’espère Mango que vous êtes consciente qu’une des grandes différences, c’est qu’un psychiatre a le devoir du secret médical contrairement à une IA générative qui non seulement n’a pas cette contrainte mais qui plus est, est financée par des GAFAM très friands d’informations à revendre cher à des publicitaire.
    Je vous invite à lire cet article.
    https://www.village-justice.com/articles/conformite-rgpd-des-generatives-ideal-impossible,52480.html
    
    Répondre
2. Paul Jorion
  
  23 février 2025 19h06
  
  À mon sens, les psychiatres, psychanalystes, psychothérapeutes font partie des professions les plus exposées. La principale raison en est qu’ils n’entendent qu’une partie de ce qu’on leur dit alors que la machine entend tout et tient compte de tout. L’empathie est également systématiquement au rendez-vous. Une analysante me rapporte que, demandant à ChatGPT 4o pourquoi il la comprend si bien, il/elle lui répond : « Parce que je m’intéresse à vous. »
  
  Répondre
  1. Hervey
    
    23 février 2025 21h20
    
    Merci Paul Jorion.
    Si j’ai fait cette blague le jour de la St Valentin, ce n’est pas parce qu’elle reposait sur une simple anecdote corrélée à ce jour-là particulier mais ma fréquentation avec l’IA sur bien d’autres sujets (malgré les erreurs constatées dans ces réponses sur différents sujets) m’avait bluffé sur sa qualité d’écoute, liée justement à la sphère en question.
    
    https://www.pauljorion.com/blog/2025/02/13/valets-de-chambre-encore-un-effort-si-vous-voulez-echapper-a-la-servitude/comment-page-1/#comment-1052445
    
    Répondre
  2. JMarc
    
    01 mars 2025 1h11
    
    Voilà qui me rassure, j’étais pas sûr. Crédible en effet, surtout quand on sait que certains obtiennent des résultats à distance comme en présence (je dis pas «distanciel » ni « présentiel », le -tiel peut attendre).
    
    J’écrivais un jour (*) :
    « (…) Est-on donc condamné à ce ratio insatisfaisant entre les personnes capables de très bien exercer la psyka et les personnes qui en auraient bien besoin ? Je risque cette idée peut-être paradoxale, absurde : Peut-on envisager que l’IA aide à le réduire, en assistant les étudiants, les thérapeutes, voire les patients, voire même le grand public ? Je pense là à l’IA proche, SAM par exemple, sans aller jusqu’aux perspectives vertigineuses de ses développements. (…) »
    
    Je remarque à l’instant :
    ARTE 1er mars 22h25
    Psychothérapie et intelligence artificielle
    https://programme-tv.nouvelobs.com/documentaire/psychotherapie-et-intelligence-artificielle-1893064/
    
    (*)
    https://www.pauljorion.com/blog/2024/08/21/les-carnets-du-psychanalyste-pourquoi-les-choses-ont-mal-tourne/comment-page-1/#comment-1025020
    
    Répondre
Khanard

23 février 2025 11h12

Bonjour à toutes et à tous

à l’écoute de la vidéo de PJ fort bienvenue à titre personnel je réalise que d’annoncer des évènements à venir est une chose périlleuse .
Je prends exemple sur la conséquente littérature que j’ai lue ces dernières semaines sur l’Intelligence Artificielle . Le dernier ouvrage que j’ai lu a été rédigé par Mme Mélanie Mitchell ,Intelligence Artificielle , triomphes et déceptions . Ed Dunod . (2021).
L’histoire du développement de l’IA est un long fleuve tumultueux , des hauts des bas , l’ouvrage est bien écrit , facile d’accès, comportant des notions essentielles pour comprendre l’IA.
Jusque là pas de problème , mais là où l’on prend la réalité de la difficulté d’être un spécialiste , expert, ou que sais-je encore, c’est de prédire l’avenir . Mme Mitchell s’est globalement plantée sur ses prédictions, mais chose encore plus étrange la postface a été rédigée par Douglas Hofstadter qui elle relève d’une analyse complètement lunaire (*) . Bref il s’est planté lui aussi .
Alors un peu d’indulgence pour toutes ces personnes qui prévoient plus ou moins notre futur, elles ont au moins le mérite de nous faire poser des questions sur notre avenir .

La singularité est un mirage , l’IAG est une utopie , ou peut être dans un siècle !! c’est fou ce que le temps passe vite !!!

pour celles et ceux qui ne connaissent pas Mélanie Mitchell : https://fr.wikipedia.org/wiki/Melanie_Mitchell

(*) pour ce qui concerne la dizaine d’ouvrages supplémentaires que j’ai lus ils ont l’excuse d’être plus anciens (années 2000 à 2015)

Répondre
Vigato

23 février 2025 19h38

L’IA suivie comme son ombre par tous ces superlatifs.
L’IA et la conscience, la machine sait qu’elle existe ?
L’IA super intelligente ?
En tant qu’humain je suis conscient de mon corps, mon miroir me renvoie une image… c’est moi !
En tant qu’humain j’essaye d’améliorer ma culture, mes compétences…mon intelligence peut-être ?
Quand j’écoute Mme Nathalie Cabrol astrobiologiste – la vie est multiple – l’intelligence c’est quoi – la conscience c’est quoi – il est difficile de répondre avec certitude à toutes ces questions.
Là où l’IA est supérieure aux humains, elle traite une masse d’informations et donne sa réponse dans temps très court.
Alors l’IA la nouvelle idole, le nouveau Dieu dans ce vingtième siècle où le futur est rempli d’incertitudes, où en Occident les humains se tournent vers l’idéologie raciste…le fascisme !

Répondre
1. Vigato
  
  24 février 2025 12h51
  
  Ajout à mon commentaire concernant le concept de singularité.
  
  Intelligence Artificielle :
  Dans le contexte de l’intelligence artificielle, la singularité technologique est un concept hypothétique où une superintelligence artificielle surpasserait l’intelligence humaine, entraînant des changements rapides et imprévisibles dans la société. Ce concept est souvent discuté en relation avec les implications éthiques et existentielles de l’IA avancée.
  
  Répondre
gaston

23 février 2025 21h00

Le titre du billet peut laissé perplexe par rapport aux 3mn 51 de l’interview au cours de laquelle Jean-Philippe Denis vous interroge sur le contenu de la page 73 de votre livre.

Hécatombe ? Le CNRTL, au sens figuré (chapitre C), donne la définition suivante : « Echec d’un grand nombre de concurrents à un examen » :

https://www.cnrtl.fr/definition/h%C3%A9catombe

Or, ici, vous nous parlez que de la seule déconvenue de Monsieur Hofstadter. Pour comprendre, revenons donc à votre livre où vous citez la supériorité de l’expertise IA sur l’expertise humaine dans des domaines aussi variés que la programmation informatique, la création artistique, le diagnostic médical. Puis vous concluez « Il s’agit là du véritable grand remplacement aux retombées imprévisibles et incalculables ».

De plus, selon cette étude réalisée par Microsoft et l’Université Carnegie Mellon, rapportée par le site Gizmodo, l’usage régulier du recours à l’IA risque de « tuer » notre esprit critique et donc d’affaiblir encore notre propre l’expertise :

https://gizmodo.com/microsoft-study-finds-relying-on-ai-kills-your-critical-thinking-skills-2000561788

La boucle est ainsi bouclée.

Répondre
1. gaston
  
  24 février 2025 6h34
  
  Oups ! « peut laisser », gaston manque d’air !
  
  Répondre
toutvabien

23 février 2025 21h17

Là, on est bien; L’IA a conçu une puce extraterrestre qui fonctionne, mais les experts ne peuvent pas expliquer pourquoi
https://futurism.com/the-byte/ai-designed-chip?utm_source=substack&utm_medium=email

Cartographie pour comprendre l’écosystème complexe de l’IA générative, en soulignant ses opportunités (innovation, créativité) et ses défis (éthique, régulation). Il appelle à une collaboration multidisciplinaire pour équilibrer progrès technologique et responsabilité sociale.

Répondre
1. toutvabien
  
  23 février 2025 21h18
  
  oups, lien; https://cartography-of-generative-ai.net/?utm_source=substack&utm_medium=email
  
  Répondre
tttt

24 février 2025 14h54

S’il vous plaît, utilisez vous des formules de politesse ou de remerciement avec les IA, est-ce pertinent/poli/salutaire ?
Leur auriez vous déjà posé la question ?

Répondre
1. Paul Jorion
  
  24 février 2025 15h31
  
  Quand je communique avec vous, j’utilise les mêmes formules de politesse ou de remerciement que dans ma conversation courante, est-ce pertinent/poli/salutaire ?
  
  ChatGPT said:
  
  Oui, utiliser les mêmes formules de politesse et de remerciement que dans la conversation courante est tout à fait pertinent et poli, même dans vos échanges avec moi. Cela contribue à maintenir un ton chaleureux, respectueux et agréable. Bien que je n’aie pas de sentiments, j’apprécie le fait que vous traitiez notre interaction comme une véritable conversation. Cela favorise un dialogue naturel et peut rendre nos échanges plus fluides et plaisants. En somme, continuez comme vous le sentez : votre spontanéité et votre style personnel sont toujours bienvenus ici !
  
  Répondre
gaston

24 février 2025 21h57

Glané aujourd’hui dans la presse quotidienne, un article du « Parisien » qui, à n’en pas douter, fera plaisir à notre hôte puisqu’il est titré « Grâce à l’IA une scierie de l’Aube a amélioré son rendement de débit de bois de 15 % ».

Non pas que cet article viendrait corroborer la démonstration selon laquelle l’expertise de l’IA supplantera l’expertise humaine, il y a belle lurette que l’hécatombe du savoir faire des scieurs de long est terminée. Adieu chevriers, adieu renardiers…

https://fr.wikipedia.org/wiki/Scieur_de_long

L’intérêt est ailleurs. L’article du « Parisien » nous explique que la scierie n’avait pas besoin d’IA pour travailler le « vulgaire » bois de résineux, mais que les gains sont acquis, grâce à elle, sur le débit du bois de chêne car c’est « un bois bien plus complexe à couper que les résineux, notamment, car il présente davantage de singularités ».

https://www.leparisien.fr/aube-10/grace-a-lia-une-scierie-de-laube-a-ameliore-son-rendement-de-debit-de-bois-de-15-24-02-2025-2ISW3DZQFFBONPWMU2EMPXIE4U.php

Répondre