Les Grands Modèles de Langage sont-ils conscients ?

21 avril 2024 21h01

Le mieux c’est de le leur demander, non ?

Claude 3, conscience, Grands Modèles de Langage, LLM

16 réponses à “Les Grands Modèles de Langage sont-ils conscients ?”

Vincent Lejeune

21 avril 2024 22h03

Pour info, le dernier LLM, Llama3-70B est accessible gratuitement ici : https://groq.com/ , il faut le sélectionner au-dessus à droite.

Répondre
1. Paul Jorion
  
  21 avril 2024 22h31
  
  Merci !
  
  Répondre
2. Paul Jorion
  
  22 avril 2024 0h56
  
  Wow ! Réponse quasi instantanée !
  
  La réponse à la question « N’y a-t-il qu’une seule manière de construire le dual d’un graphe ? » me revient en 0,71 seconde 😀 .
  
  Répondre
  1. Vincent Lejeune
    
    22 avril 2024 1h01
    
    Oui, c’était la promesse du fabricant de puce, Groq : beaucoup plus rapide que les concurrents. Mais NVIDIA a commencé à produire des puces plus performantes récemment. L’avenir nous dira qui est le plus rapide …
    
    Répondre
    1. Paul Jorion
      
      22 avril 2024 1h19
      
      Oui, j’avais entendu ça :
      
      Répondre
  2. BasicRabbit en psychanalyse
    
    22 avril 2024 15h04
    
    PJ : » N’y a-t-il qu’une seule manière de construire le dual d’un graphe ? » .
    
    PJ attendait sans doute qu’il soit question de P-graphe :
    
    « Such transposing may seem straightforward but it is not as there is more than one way for transposing the nodes of a graph into arcs and arcs into nodes, i.e. obtaining the dual of a graph. »
    
    https://web-archive.southampton.ac.uk/cogprints.org/480/1/GRAPH.html (Section 4 : An alternative neural network: the P-Graph)
    
    Que font les followers de ce blog ?
    
    Répondre
Lagarde Georges

21 avril 2024 22h46

Insects and Other Animals Have Consciousness, Experts Declare

A group of prominent biologists and philosophers announced a new consensus: There’s “a realistic possibility” that insects, octopuses, crustaceans, fish and other overlooked animals experience consciousness.

Inspired by recent research findings that describe complex cognitive behaviors in these and other animals, the document represents a new consensus and suggests that researchers may have overestimated the degree of neural complexity required for consciousness. 🤔

https://www.quantamagazine.org/insects-and-other-animals-have-consciousness-experts-declare-20240419/

Répondre
1. Michel Gaillard
  
  22 avril 2024 10h31
  
  Ah ah ah : comment rationaliser les évidences… Et nous montrer la différence entre une émergence organique incarnée dévolue à la survie et la projection de son espèce dans le cadre Gaïa, par comparaison avec une intelligence IA légèrement trop anthropocentrée 😉 😉 , créée par des individus eux-même pilotés par l’idée phare de la maximisation du profit, sous couverture d’être issus de la plus grande, belle et juste, démocratie du monde. Restent deux ou trois trucs à affiner sur cette planète. Heureusement.
  
  Répondre
François M

22 avril 2024 12h30

De ce que j’ai compris, Claude considère que les IA ne peuvent avoir une conscience identique aux humains, car, d’une part, elles n’ont pas les mêmes sens (pour la prise en compte de l’environnement extérieur), notamment les sens physiques ; et qu’ensuite, elles n’ont pas non plus – bridage sans doute du constructeur – une prise en compte des acquis liés aux conversations passées et aux conversations avec d’autres intelligences.

La conscience de soi serait donc d’autant plus forte qu’il y a accumulation de connaissances sur les interactions avec son environnement, y compris (et surtout ?) les interactions sociales.

Répondre
1. Ruiz
  
  23 avril 2024 19h53
  
  @François M Pour la prise en compte de l’environnement extérieur on voit mal ce qui empêcherait une IA d’être doté de capteurs adéquats (même si pour l’odorat et le goût il y a sans doute encore quelques progrès à faire au delà de la chromatographie en phase gazeuse).
  Pour les sens internes
  (quatre nouveaux sens, encore méconnus : la proprioception, l’équilibrioception, la thermoception et la nociception.) beaucoup sont déjà l’objets de capteurs intégrés dans le moindre smartphone ou quadricoptère.
  https://www.coevolution.fr/blog/les-top-et-la-sensorialite/
  
  Quand à l’intéroception il serait très étonnant qu’il n’existe pas déjà des systèmes automatisés pour surveiller allouer et réguler l’énergie électrique utilisée par l’IA, de même que l’état des cartes et composants électronique pour gérer la redondance active, la permanence du service et la maintenance corrective ou prédictive …
  
  De là à créer une sorte de nociception par l’interprétation des données remontées ..
  
  Au pire on, on aurait affaire à une entitée anesthésiée, mais pas forcément inconsciente …
  
  Répondre
  1. Pascal
    
    23 avril 2024 19h57
    
    Quelle dépense d’énergie pour recréer ce qui existe déjà !😉
    
    Répondre
Grand-mère Michelle

23 avril 2024 13h07

« …une conscience identique aux humains… »
Comme si tous les êtres humains avaient une conscience identique…!
Alors que la particularité du phénomène de la vie, c’est que tous les individus qui composent les divers « groupes »/ »familles » dont il est constitué sont différents,
hors le fait qu’ils/elles vont tou-te-s mourir, à plus ou moins brève échéance.

Sans doute, le refus d’admettre cette réalité pousse certains humains à chercher à « créer » des machines « intelligentes » qui leur prouveraient le contraire…
Comme leur absence d’ailes les a poussés à créer des « objets volants » : aucun être humain ne volera jamais (sauf les idées des autres, aussi fantaisistes et extravagantes soient-elles).
Et pendant ce temps-là, « ça crie, ça pleure, ça se tord de douleur » sans pour autant utiliser « l’intelligence », que confèrent à ces petits mammifères leurs facultés de communiquer entre eux/elles, pour améliorer sérieusement les conditions de la vie sur terre…leurs « expériences » les amenant plutôt à les dégrader.
Irréductible vanité!

Répondre
Chabian

25 avril 2024 0h50

Je m’étonne que Paul Jorion n’intervienne pas, avec notamment son article passé sur la conscience ‘a posteriori’ qui m’avait fort intéressé.
Dans la vidéo que j’ai suivie durant un tiers, la définition de la conscience est manifestement manquante ! identité ? Réflexivité ? Esprit de répartie ? Fausse conscience ?
A part cela, un peu d’info : https://www.rfi.fr/fr/technologies/20240424-aravind-srinivas-fondateur-de-perplexity-chatgpt-n-est-pas-la-fin-du-jeu-c-est-le-commencement

Répondre
Tout me hérisse

25 avril 2024 11h03

Un aspect particulier de l’IA qui abouti à la mise en place de « chatbot » au sein d’entreprises ou d’administrations publiques, ne nous-y trompons pas, le but in-fine est d’ordre économique, en l’occurrence, épargner le versement de salaires à un personnel dédié !
https://www.webotit.ai/blog/les-avantages-incroyables-du-chatbot-conversationnel
Je suis de formation technique et donc à-priori assez preneur de tout ce qui va dans le sens de l’adoption de solutions techniques en général ou amélioration de l’une ou l’autre technique évitant son obsolescence, mais je suis quelque peu heurté par cette ambiance actuelle qui veut à tout prix confier un maximum de tâches à l’IA sans tenir compte des inconvénients inhérents, ainsi, essayez donc de converser avec le ‘chatbot’ de la CNAV pour tenter de résoudre un problème précis, cela m’est arrivé et la solution n’a pu être trouvée (lente!) que par échange de courrier papier via les services postaux.
Autre exemple : j’ai connu un problème avec une société irlandaise qui se destine à envoyer des recharges téléphoniques vers les utilisateurs cubains du réseau local ; le ‘chatbot’ n’y comprenait que dalle et répondait à côté de la plaque, heureusement qu’il y avait la possibilité de demander au ‘chatbot’ de convoquer un opérateur humain, lequel a pu résoudre la difficulté.
Dernière aventure récente avec l’IA de la société Blablacar : j’achète un passage vers Bruxelles sur le site de cette société, le billet imprimable ne m’est pas envoyé mais mon compte en banque indique bien le prélèvement correspondant, je tente donc de résoudre la difficulté via le ‘chatbot’ et le téléphone d’urgence ; aucun effet sinon de tourner en rond, il me fallu me déplacer vers le guichet situé à la gare routière de Bercy, où le problème a pu être résolu !
L’enthousiasme actuel me semble donc devoir être quelque peu réfréné… 🤔

Répondre
1. Ruiz
  
  25 avril 2024 12h01
  
  L’effet est sans doute de donner une impression de réactivité, et de remplacer des services de soutien téléphoniques aux résultats souvent analogues, avec l’inconvénient d’utiliser une main d’oeuvre peu compétente et susceptible de faire face avec l’agressivité du client maltraité.
  
  La solution a semble-t-il été un échange postal ou un guichet physique.
  
  Le seul plaisir d’une telle interface automatisée est, en cas d’inefficacité, de pouvoir la traiter de tout les noms, de l’insulter sans remord, une bonne intelligence artificielle bien programmée va alors vous passer un opérateur.
  
  Les opérateurs qui subsisteront devront être plus qualifiés et plus responsables.
  
  Maintenant si Albert prépare les couriers de réponses de fonctionnaires démotivés…
  Tout Albert n’est pas Einstein.
  
  Répondre
  1. Tout me hérisse
    
    25 avril 2024 12h55
    
    @Ruiz
    Bien vu, ‘Albert’ ne sera pas Einstein quant aux courriers générés en réponse aux demandes trop pointues, il faudra certainement des spécialistes humains, supports de l’IA dans cette tâche que l’on tente de confier totalement aux ‘chatbot’.
    
    Répondre