ChatGPT et le bon psychothérapeute

27 mai 2023 17h06

Extrait :

Dans l’entretien qu’il a avec Stephen Wolfram, Lex Fridman réfléchit tout haut au style idéal à adopter dans ses amorces (« prompts »), pour tirer le maximum d’un Grand Modèle de Langage (LLM) comme ChatGPT, et l’idée qui lui vient est que c’est celui du bon psychothérapeute, qui se fait une représentation multi-couches de la structure qui existe entre ce qu’exprime et ressent son analysante ou analysant et ce que le psychothérapeute comprend être son expérience objective, brute, du monde dans lequel elle ou lui se trouve plongé. De partager désormais la double expérience, cela me semble très bien vu.

Vidéo complète (l’extrait se situe à 2h43m57s) :

Grands Modèles de Langage, Intelligence Artificielle, Psychanalyse

ChatGPT, Grands Modèles de Langage, Lex Fridman, Stephen Wolfram

18 réponses à “ChatGPT et le bon psychothérapeute”

Sigmund Freund

27 mai 2023 17h42

Oui d’accord, mais comme je le disais l’autre jour, la clientèle du psychothérapeute va certainement se tourner vers le Chatbot G1PSi puisqu’il apparaît que l’I.A dépasse déjà les compétences de l’homme. Or sauf erreur, le psy actuel est encore un homme et comme tout individu aujourd’hui, le patient souhaitera le meilleur et le plus compétent pour lui venir en aide.
Si le robot de première génération a chassé l’ouvrier de la chaîne de production, l’I.A. remplacera sans doute le praticien devenu obsolète selon le même principe.
D’ou la question : n’est-il pas temps de faire une pose dans le développement de l’I.A. qui va nous chasser du monde à brève échéance si nous souhaitons y rester ?

Répondre
1. Paul Jorion
  
  27 mai 2023 18h53
  
  Si le robot de première génération a chassé l’ouvrier de la chaîne de production, l’I.A. remplacera sans doute le praticien devenu obsolète selon le même principe.
  
  D’accord.
  
  D’ou la question : n’est-il pas temps de faire une pause dans le développement de l’I.A. qui va nous chasser du monde à brève échéance si nous souhaitons y rester ?
  
  Pourquoi dites-vous « D’où la question » ? Je ne vois aucun rapport entre la première phrase et la seconde.
  
  Répondre
  1. Sigmund Freund
    
    27 mai 2023 19h14
    
    OK, alors je ne dirai pas “d’où la question” puisque vous ne voyez pas de corrélation entre les deux propositions et que, ce faisant vous éludez la question. Je dirai plus simplement: pensez-vous qu’il n’est pas temps de faire une pose, etc… ce qui revient au même en ce qui concerne le sens de l’interrogation.
    De grâce, arrêtons de tourner autour du pot, vous savez très bien ce dont on parle.
    
    Répondre
    1. Paul Jorion
      
      27 mai 2023 19h47
      
      Je suis anthropologue et sociologue et n’ai pas entendu parler de l’humanité faisant une pause à propos de quoi que ce soit en 2.500 ans. Mais vous avez peut-être un exemple à nous soumettre.
      
      Répondre
      1. Sigmund Freund
        
        28 mai 2023 12h00
        
        Le terme pause est sans doute mal choisi mais c’est celui qu’on entend de nos jours. Vous savez cependant qu’il y d’autres domaines dans lesquels on demande aussi d’arrêter les frais: exploitation des énergies fossiles, croissance économique à tout prix, société de consommation sans limite, finance débridée, etc,… Dans ces domaines là je suppose que vous serez d’accord avec le fait qu’il faut repenser ce que 2.500 ans d’histoire ont contribuer à produire. Qu’on y soit pas encore arriver ne veut pas dire que cela n’arrivera pas ou ne doit pas arriver. Nous sommes sans doute à l’aube d’une époque où il faudra appuyer sur stop même si on ne l’a jamais fait auparavant. Et de toute façon si on ne le décide pas, l’environnement, le climat et la planète s’en chargeront pour nous.
        
        P.S. On parle aussi d’arrêter l’énergie nucléaire et je suppose que vous êtes pour. Or, précisément, il s’agit d’une énergie que les californiens on décidé d’abandonné. Ils n’ont plus qu’une centrale en activité jusqu’en 2030. Mais on sait aussi qu’ils jouissent de nombreuses coupures de courant…
        
        Répondre
        
        Paul Jorion
        
        28 mai 2023 12h58
        
        Vous savez cependant qu’il y d’autres domaines dans lesquels on demande aussi d’arrêter les frais: exploitation des énergies fossiles, croissance économique à tout prix, société de consommation sans limite, finance débridée, etc,… Dans ces domaines là je suppose que vous serez d’accord avec le fait qu’il faut repenser ce que 2.500 ans d’histoire ont contribuer à produire.
        
        Je ne l’ignore pas. D’autant moins que j’ai fait partie du petit groupe de gens ayant lancé le débat sur le risque d’extinction : concept de « soliton » (2012), Le dernier qui s’en va éteint la lumière (2016), etc. Sigh…
        
        On parle aussi d’arrêter l’énergie nucléaire et je suppose que vous êtes pour. Or, précisément, il s’agit d’une énergie que les Californiens ont décidé d’abandonner.
        
        Le Blog de PJ, grâce à l’inlassable travail de François Leclerc sur la catastrophe de Fukushima a été à la pointe du combat contre le nucléaire civil depuis 2011. Sigh…
        
        Répondre
        
        Sigmund Freund
        
        28 mai 2023 16h07
        
        @PJ
        
        Mais alors que pensez-vous des coupures de courants liées au presque tout renouvelable en Californie ?
        J’ai lu qu’une partie des Californiens (300.000 environs) avaient émigrés vers les Etats voisins pour éviter ces désagréments faisant pencher les votes des dernières présidentielles par Etat en faveur des démocrates, les ex-Californiens restant démocrates dans leur majorité. C’est intéressant de se dire que les énergies renouvelables = coupures de courant = migration = votes en faveur des démocrates = élection de BIden. On se demande quelle place occupe encore les idées et les convictions écologistes chez les américains s’ils quittent un État qui vous prive d’électricité pour un autre qui ne vous en prive pas mais qui produit la sienne avec des énergies fossiles.
        
        PS. selon l’UNSCEAR, la catastrophe de Fukushima n’a pas fait de victimes liées directement aux radiations. Mais si vous avez d’autres sources et références qui attestent le contraire j’aimerais pouvoir les consulter car je n’ai ni oeillères ni parti pris en la matière, juste une volonté de savoir. Merci d’avance.
        
        Répondre
        
        Ruiz
        
        28 mai 2023 17h19
        
        En revanche il semble que les effets indirects à Fukushima ne soient pas méconnus :
        https://www.nbcnews.com/news/world/fukushima-evacuation-has-killed-more-earthquake-tsunami-survey-says-flna8c11120007
        
        Quand aux énergies renouvelables en tant qu’énergies de flux elles sont effectivement conçues pour vous permettre de
        vous éclairer avec des LED quand il y a du soleil et de faire marcher votre climatiseur quand il y a une bonne brise.
        
        Ou l’inverse quand même !
        
        L’objectif à imposer par un nudge habile est une flexibilité temporelle des tarifs comme pour les transports, voire un temps la téléphonie, maintenant basculée sur un mode de rente mensuelle, ce sera possible avec le Linky et la suppression des tarifs réglementés historiques.
        
        Répondre
        
        Lagarde Georges
        
        29 mai 2023 0h23
        
        (Je réponds à S.F. et à P.J.)
        
        J’ai le pressentiment suivant: la population va se séparer en trois groupes principaux
        – un groupe de moins en moins nombreux qui va continuer à dire qu’il ne faut rien changer et que par conséquent le réchauffement du climat est une invention des climatologues ou qu’il n’est pas causé par l’effet de serre et qu’on n’y peut donc rien ou n’importe quoi d’autre
        – un groupe de plus en plus nombreux qui a déjà accepté l’idée qu’il faudra faire quelque chose mais y mettra tellement de conditions que le résultat ne pourra que de retarder légèrement le réchauffement et les autres problèmes
        – un groupe au départ très minoritaire et surtout composé de jeunes de moins de trente ans partageant l’idée qu’il faut absolument combattre les deux groupes précédents par tous les moyens disponibles et qu’il suffira de faire le contraire de ce que ces groupes préconisent pour que tout s’arrange.
        
        J’ai du mal à imaginer comment un quatrième groupe qui souhaiterait faire les sacrifices nécessaires pour ne pas rendre la planète complètement invivable tout en essayant de mettre en place des moyens de se nourrir, s’abriter et se soigner le mieux possible pourraient arriver à se mettre d’accord entre eux et à convaincre les autres.
        
        Répondre
2. Khanard
  
  27 mai 2023 19h26
  
  @Sigmund Freund
  
  je suis gêné quand j’entends dire « pause » , j’ai le vague sentiment que les grands esprits de la Silicon Valley en « ouvrant » l’IA au public l’auraient fait par ACCIDENT.
  Et pourquoi pas un return ?
  Dans un fil de commentaires précédent j’avais retranscris un texte de Gilbert >Simondon, début des années 60 . Sans compter tous les nombreux « pères » de l’IA dont pour nous le plus illustre est notre hôte avec Annella , 1989 tout de même !
  
  Non selon moi cette « pause » ets plutôt une pause café pour réactiver les potentialités créatrices de l’unité de groupe !🤣🤣🤣🤣
  non, non depuis les prémisses de ces recherches
  
  Répondre
  1. Khanard
    
    27 mai 2023 19h31
    
    tiens il me manque une fin de phrase………depuis les prémisses de ces recherches un seul but est recherché : palier aux forfaitures de l’homme envers lui-même . Pas fiable ce cerveau ! revoir la copie avant le plan C .
    
    Répondre
  2. Sigmund Freund
    
    28 mai 2023 12h03
    
    @ Khanard
    
    Je suis d’accord avec vous, le terme pause est mal choisi mais c’est celui qu’on entend aujourd’hui, hélas…
    
    Répondre
Khanard

27 mai 2023 19h11

Ne se pourrait il pas que l’homme se perçoive comme une stratification ?
C’est à dire que nous ne nous percevons pas comme une somme d’organes qui déambule tant bien que mal dans une enveloppe .
Lorsque je regarde un paysage je ne regarde pas l’arbre , le ruisseau, le pré, etc….je vois un ensemble et au même titre qu’un médecin qui nous ausculte le coeur , les poumons de même je peux détailler ledit paysage.

c’est pourquoi je parle de strates et notre cerveau me semble être constitué de la même manière, en superpositions .
Par contre je ne saisis pas bien comment s’articule le langage autour de cette stratification. Alors de là à expliquer comment nous arrivons à utiliser un seul langage pour gérer notre personnalité je me retrouve devant un précipice.
Je conclu sous couvert de l’approbation des spécialistes qu’un système intelligent doit avoir cette capacité à traiter plusieurs langages mais là je crois bien être tombé au fond du précipice. 😉
…

Répondre
pierre guillemot

28 mai 2023 5h20

(je n’ai pas encore écouté la discussion) Étonnant acte de foi des commentateurs qui m’ont précédé. Le psy artificiel serait meilleur que le psy humain ? Pour un diagnostic d’après un questionnaire normalisé, sûrement, c’est à peu près comme un scoring avant un prêt immobilier, ou le diagnostic en cent mots d’un radiologue qui a vu des images mais pas la personne.

Mais pour que le patient ait l’illusion que quelqu’un s’occupe de lui, je ne vois pas autre chose qu’un être humain. Or le succès du soin dépend d’abord de la confiance de celui qui est soigné. Exemple : mon médecin soignant n’est pas un aigle de sa profession, elle a sans cesse besoin de chiffres et d’avis de spécialistes. Mais nous nous connaissons, et quand elle me dit quoi faire pour aller mieux, je la crois et effectivement je vais mieux. Alors qu’avec son remplaçant je n’attends rien d’autre qu’un renouvellement de prescription. Je suppose qu’avec un psy ce n’est pas différent. J’ai eu droit à une consultation de psy une seule fois, sa tentative désespérée de me ranger dans la classification m’a dissuadé de revenir. Et étant ainsi persuadé que personne ne m’aiderait, je me suis senti beaucoup mieux.

Et mes anciens collègues commerciaux de la banque pour qui j’ai travaillé (à la mise en place d’un outil de scoring et d’un gestionnaire de procédures de contentieux) me disaient que, peu importe le score, c’est en rencontrant l’emprunteur qu’on sait quel est le vrai risque (de l’arnaqueur au père de famille qui n’a que des malchances).

Comme je disais, l’intelligence incarnée a encore de l’avenir.

Répondre
1. Paul Jorion
  
  28 mai 2023 8h35
  
  (je n’ai pas encore écouté la discussion)
  
  Effectivement, et une fois de plus cela ne vous retient pas de produire une page entière de commentaires dont vous n’avez pas la moindre idée s’ils sont pertinents ou non dans le cadre de la discussion. Mais cette fois-ci vous nous donnez l’explication : vous vous fichez du fait qu’on vous écoute ou non, du moment que vous pouvez parler. L’étudiante que Weizenbaum surprit en train de s’entretenir en secret avec ELIZA une nuit autour de 1966, eh bien, elle n’était pas stupide : elle devait savoir qu’elle parlait à un ordinateur, mais elle avait découvert que le logiciel dans cette boîte en métal, avec sa programmation primitive de phrases toutes faites mises en boîte, eh bien, il l’écoutait vraiment.
  
  Répondre
un lecteur

28 mai 2023 11h25

C’est peut-être là une contribution de la communauté des psychologues, qui pourrait faire progresser la connaissance sur les comportements émergents des LLM, et bien évidement les perfectionner. Pour l’instant, on les évalue essentiellement avec des tests de capacité intellectuelle scolaire pour estimer leur âge mentale. On découvrira peut-être un jour que pour équilibrer leurs facultés cognitives, il faudrait commencer leur apprentissage avec des areuh, areuh, pti, pti, il est mignon le chnariflet, il ressemble à sa maman…

Répondre
Jbo

29 mai 2023 13h56

Certains parlent de l homme comme incubateur à la société silicé
L avenir est effreyant car fait d incertitude. La place de l homme est de plus en plus incertaine dans la société du futur

Répondre
Vincent Teixeira

07 juin 2023 15h17

Autant j’ai tendance à vraiment apprécier les questionnements et doutes de L. Fridman, autant les réflexions de S. Wolfram, malgré leur pertinence et la maîtrise (évidente) du sujet technologique (dont je suis à des années-lumière), me laissent un peu perplexe et sceptique, en ce qui concerne le langage en particulier et « l’homme » en général…

En schématisant, Wolfram a tout de même une vision très partielle/partiale du langage humain et de l’homme, avant tout mathématicienne et déterministe (il compare d’ailleurs « sans problème » notre vie à celle d’un ordinateur – soit). Mais comme disait Benveniste, « le langage sert à vivre » (cf. une approche similaire chez Bakhtine), avec toute une faculté d’interprétation (personnelle) – il ne se limite pas à un ensemble de règles logiques et sémantiques, de codes, théorèmes, comme le calcul, l’algèbre, les algorithmes ; et n’est pas non plus seulement un outil de connaissance, etc. Wolfram aligne toute sa vision du langage sur le mécanisme d’interface linguistique, le modèle computationnel, les structures formelles, réduisant l’humain à un outil, une machine (très symptomatique d’un certain pragmatisme britannique, il dit d’ailleurs : « the humans are gonna be useful » – 1:34:56) – belle manière de tout réduire à l’utilitarisme (déjà hégémonique) et les hommes à des outils…
Mais nous parlons, pensons aussi avec notre expérience, notre imagination, nos émotions, notre sensibilité, notre corps (ce que Damasio appelle « the feeling brain »)… et le langage est aussi cela, pas seulement du calcul. Sans compter toutes les richesses et ressorts de la polysémie, et surtout de l’analogie, qui font toute la matière de la poésie, de la création littéraire (mais sont aussi en jeu dans le travail de la pensée)… mais aussi de l’humour, « composant » essentiel dans la communication. Toutes ces dimensions semblent secondaires (?) dans la pensée du langage (axée bien sûr sur son travail, ses outils et l’IA) selon Wolfram… Or, nous ne sommes pas que des « machines parlantes » ou « pensantes ».

L’art aussi (en ce qui concerne l’éducation, il donne à un moment un exemple lié à la peinture et à l’histoire de l’art) ne se réduit pas à des codes, des règles… De même que la peinture, la musique, la poésie, la littérature ne sont justement pas « utiles » et/ou pas (seulement) des connaissances – cela n’a rien à voir avec des « outils » ou des « machines ».

Il y a là aussi, sous-jacente, une normalisation, standardisation (basée sur les statistiques, des moyennes) assez effrayante, vs l’esprit critique et l’individuation. Et comme le corpus, fût-il mondial, démesuré, voire infini, n’est pas « la réalité » (mais reste un corpus de données numériques, qui ne reflète même pas la totalité des « écrits »), cela me paraît poser de graves problèmes quant aux questions de « vérité », mais aussi de liberté, sans parler d’individuation…
L’automatisation en jeu est sans doute bénéfique pour certaines questions, problèmes bien précis, ciblés, avec des données plus ou moins « objectives » ou rationnelles (« to have the right answer », comme dit Wolfram), mais comme il n’y a pas de limites ni gardes-fous, cela me paraît être beaucoup plus problématique et aléatoire quant à la conscience en général… Pour une infinité de questionnements (sans aller jusqu’à la métaphysique), « THE right answer » n’existe pas.

Répondre