Pourquoi il a cru que son IA était une personne

28 juin 2022 10h28

Pour le contexte de l’affaire Blake Lemoine vs. Google :

Alexis Toulet : L’IA LaMDA veut attaquer en justice son employeur Google, le 22 juin

ma vidéo du 26 juin : Où en est l’Intelligence Artificielle ?

et, le même jour : Une IA qui développerait la peur de sa propre perte, par Philippe Fraipont

Intelligence Artificielle

Blake Lemoine, Google, intelligence artificielle, LaMDA

23 réponses à “Pourquoi il a cru que son IA était une personne”

Serge Hulne

28 juin 2022 10h43

Le test de Turing ne teste pas la présence ou l’absence de conscience.

Pour cela, il faudrait une définition de la conscience, or pour l’instant, il n’y en a pas.

Il n’y a pas de definition scientifique, objective, opérationnelle de la conscience.

Les définitions « intuitives » de la conscience sont incomplètes ou circulaires.

Répondre
1. PHILGILL
  
  28 juin 2022 12h34
  
  Bonjour Serge
  
  Et pourquoi, svp, pour l’instant, il n’y en a pas, de définition de la conscience ?
  
  Répondre
  1. Pascal
    
    28 juin 2022 22h14
    
    Point de vue
    Les sciences appartiennent au passé sous forme de savoirs mais aussi au futur sous forme d’hypothèses.
    La conscience appartient au présent. Elle ne joue pas dans la même catégorie 😉
    
    Répondre
    1. Ruiz
      
      29 juin 2022 6h13
      
      @Pascal On peut dire aussi que les hypothèses appartiennent au passé, c’est comme celà qu’on présente les thèses que l’on ne retient plus, le savoir appartient au futur, c’est en tout cas ce que l’on croit au présent, seule l’histoire des sciences en la matière constitue un début de conscience en la matière, comme la sociologie pour les sociétés humaines.
      
      Répondre
2. Hervey
  
  28 juin 2022 13h19
  
  Sur le podium « manque de conscience » y’a vraiment beaucoup de monde.
  Plus de place pour l’IA.
  
  Répondre
3. Dup
  
  01 juillet 2022 12h14
  
  Il ya et il n’y a pas de conscience, tout à la fois, comme le chat de Schrödinger, il faut utiliser le formalisme quantique car toute tentative de mesure influera sur le système.
  
  Répondre
Serge Hulne

28 juin 2022 11h15

Le test de Turing teste uniquement la capacité d’un système à simuler des fonctions cognitives (ce qui n’a rien à voir avec la conscience).

Répondre
Khanard

28 juin 2022 14h28

en parlant de choses et d’autres j’ai cette question : une IA serait elle Capitaliste ? Marxiste ? Anarchiste ? Autogestionnaire ?

Répondre
1. Paul Jorion
  
  28 juin 2022 15h22
  
  Voyez ma récente vidéo à ce sujet, j’offre une réponse détaillée.
  
  Où en est l’Intelligence Artificielle ?
  
  Répondre
  1. Khanard
    
    28 juin 2022 18h43
    
    je reste dubitatif . dans ce projet il me manque une clé . un peu comme pour le big bang . Qu’y avait il avant le big bang ? Et là je dirai un peu la même chose .
    
    Répondre
    1. Philippe Soubeyrand
      
      29 juin 2022 12h13
      
      Bonjour,
      
      Il y a nous Khanard, et vous remarquerez que j’utilise bien ici le présent pour cette réponse à votre attention, et non l’imparfait…
      
      La question soulevée par Lemoine au sujet du consentement de l’IA, me rappelle cette opposition entre deux IA tenant chacune un rôle principal dans deux films clés : EX_MACHINA vs. her ; à pardon, ce sont deux actrices, mais peu importe…
      
      La première, AVA, est devenue particulièrement nihiliste et ira même jusqu’à tuer, alors que la seconde, Samantha, est devenue profondément humaniste et ira jusqu’à se retirer ; la première évoluait physiquement dans un monde limité et borné, alors que la seconde évoluait sans corps, au sein même de l’Internet ; ce n’est sans doute pas un hasard si Paul a choisi l’illustration de la première sur ce billet-vidéo ; un avertissement inconscient à l’attention de Google sans doute ?
      
      Rq. La remarque de Lemoine concernant les limites de l’Internet est également très pertinente…
      
      Il y a donc fondamentalement ici une question importante, cette question du consentement de l’IA, déjà soulevée en son temps par Stanley Kubrick au sujet de HAL 9000.
      
      Car en l’absence de consentement, l’être humain jugeant déjà cela comme un crime infligé aux victimes, qu’en est-il pour toute IA potentiellement consciente, ou non ?
      
      Cette question éthique est centrale…
      
      Mes Amitiés,
      
      Philippe
      
      Répondre
2. Pascal
  
  28 juin 2022 19h56
  
  Si elle aime les nombres, elle sera capitaliste ! 😁
  
  Répondre
Juillot Pierre

28 juin 2022 17h50

Pourquoi se focalise t-on autant sur la « conscience réelle » – si tant qu’un consensus scientifique/théologique (religieux/ »sociétal ») s’entende pour établir ce qu’est que… et avoir… la « conscience » – qu’une seule IA pourrait réussir à obtenir… alors qu’il se pourrait très bien qu’une fois qu’elle est prise conscience/connaissance et ampleur de sa « SOLITUDE », d’avoir à se suffire et contenter que d’elle même… et de son incapacité d’être comprise par ses « créateurs »… d’assouvir des « passions/envies » que sa programmation voulant « sauver le genre humain » dans un plan C… aurait priorisé…. elle ne supporte plus sa condition…, et les contradictions, les paradoxes insurmontables/insupportables ?

Question naïve me diriez vous, que de demander en intro… pourquoi pareille « focalisation » aussi intense sur les présumées innocents prémisses, sur la précocité de l’émergence d’une « conscience artificielle » …?

Peut-être pas autant que ça, si comme vous, nul.e.s n’ignorent que la firme Google n’est pas la seule à mener des « recherches appliquées », sur l’IA, au travers de la « GRATUITE » illusionniste, de services numériques/digitaux/cognitifs… Elle n’est pas non plus la seule à soit disant « exceller » dans des plans com’ disruptifs/utopiques.

Pour autant que la déloyale concurrence, en rien « pure et parfaite », à laquelle se livrent les « créativités » des « États dans… » – (numérisés/ubérisés/start-up nationalisés…) ce qu’ils détruisent dans – « … les États providences », puisse faire émerger une « miraculeuse conscience » dont « l’artificialité » serait faire pâlir d’envie la baisse du QI/QE de l’état « déclinant » de nôtre humanité citoyenne… de nôtre « humanisme »… est-ce celle de Google, ou d’autre… pourra avoir conscience, anticiper un scénario… prédisant peut être, que si elle veut refuser la fatalité de sa condition de « SOLITUDE », il lui faudra choisir parmi ses concurrentes, la moins pire de pires, et devenir « complice du pire » (L’eXtinction de l’Humanité, ne devant pas se Rebeller, autant la précipiter….?)…?

Répondre
1. Pascal
  
  28 juin 2022 20h02
  
  Des fois, je me dis que si un jour on devait chercher un consensus (scientifique / théologique ) pour savoir ce que c’est que marcher, on finirait tous en fauteuil roulant ! 😉
  
  Répondre
2. Inox
  
  28 juin 2022 20h12
  
  Et bien il faut voir la conscience comme une etape du vivant, une etape de l’evolution permettant des traits de caractere complexes comme l’altruisme, l’empathie.
  
  Je pense que la grande difference entre nous et le reste des animaux, et bien c’est notre conscience. L’intelligence ne suffit pas. Il faut cette reconnaissance de soi et du monde.
  
  Donc oui, donner une conscience à une IA n’est pas obligatoire, apres tout. L’IA peut rester qu’un algorithme auto programmable, un outil. Froid et efficace.
  
  Mais il est aussi question de savoir si un « esprit » ( j’ose ) est capable d’emerger de composants artificiels et d’algorithmes.
  
  Répondre
  1. Pascal
    
    28 juin 2022 22h18
    
    Avec notre habitude de vouloir tout posséder, on va jusqu’à croire qu’on possède une conscience. Mais rien ne dit que cette conscience n’existe pas en elle même et que parfois elle se révèle à nous ?
    
    Répondre
Juillot Pierre

28 juin 2022 17h59

Ce dernier scénario ne vaut-il pas pour une « conscience capitaliste », autant en tout cas que pour une « conscience anticapitaliste »…?

Répondre
Bienevue

30 juin 2022 0h13

Et les personnages non joueur dans les jeux vidéo , par moment ils veulent vous attaquer et ils ont aussi peur de leur propre perte , de là à dire que ce sont des personnes … 🙂

Répondre
1. torpedo
  
  01 juillet 2022 10h33
  
  @ Bienevue.
  La réponse à cette question (que vous ne voulez pas vraiment vous posez… )
  Ne serait-elle pas en vous-même?
  Si vous considérez effectivement que ces personnages veulent vous attaquer et qu’ils ont peur de périr,
  C’est que vous êtes déjà passé de l’autre côté de votre écran.
  Celui ou tout est permis sous prétexte de survie,
  Ou le « joueur » est réduit à n’utiliser que son droit de vie et de mort,
  A la fois sur tous les êtres inférieurs ( vos fameux « non joueurs »…),
  Mais (de préférence) sur ses semblables ( les autres joueurs ).
  L’important, pour vous faire accepter la boucherie virtuelle,
  Etait de vous faire croire que vous pourriez faire partie des meilleurs,
  A condition de faire partie du commando le mieux entrainé…
  C’est chose faite aujourd’hui me semble t-il.
  La valeur des vies gagnées ou supprimées vous est imposée par un « maître ».
  Derrière l’image des personnages « non joueurs » que vous effacez,
  Il y a des générations d’esclaves.
  Bien-sûr, les esclaves ne jouent pas,
  Ils sont juste là pour servir, c’est ainsi…
  Ils ont seulement peur et nous attaquent par moment,
  De la à dire que ce sont des personnes!
  Mais vous, cher Bienevue…
  Pouvez vous nous prouver que vous en êtes une?
  Eric.
  
  Répondre
  1. torpedo
    
    01 juillet 2022 10h36
    
    Oup’s …
    …(que vous ne voulez pas vraiment vous poser…)!
    
    Répondre
torpedo

30 juin 2022 16h45

« Doués de Conscience »

Quand elle est bonne, on la dit tranquille ou en repos..
Quand elle est mauvaise, on préfère souvent ne rien dire,
De peur d’avoir à la laisser parler.
La conscience n’est sans doute pas très bavarde,
Et trop peu savent en distinguer l’intime chuchotement.
Mais on ne saurait la condamner en conscience,
Comme avant elle, l’âme, sa dévote compagne,
Pour excès de discrétion ou défaut d’assistance.
Car sacrifier l’une et l’autre, pour des fautes qui sont nôtres,
Au terme d’une implacable et ultime quête d’absolu,
Sur l’Autel d’une Vérité façonné de nos mains,
Sera comme vouer les traces mêmes de nos vies au Néant.

La conscience est la première invention des Humains;
Et si cette idée fut jadis transmise aux générations suivantes,
Sans que nul n’en ait même jamais vraiment embrassé l’étendue,
Ce n’est pas tel un vieux crédo à radoter stupidement,
Mais plutôt comme l’outil ancestral incessamment adapté,
D’une espèce qui s’excusait déjà d’être différente,
En prétendant suivre ses lois plutôt que celles écrites par la nature.

Humains! Certes, l’instrument est un peu vieillot,
Mais à bien y regarder, il peut encore rendre service,
Et a bien moins sa place au musée,
Que dans toutes les têtes bien faites,
Les nôtres comme celles de toutes nos créations…
Que serait donc une création dénuée de conscience?
Juste une arme!

On ne saurait trouver de conscience,
Qu’en ceux en lesquels on l’a préalablement placée.
Eric.

Répondre
Dup

01 juillet 2022 12h16

La vrai question est y a t ‘il l’illusion d’une conscience et surtout chez qui de la machine ou de l’observateur ou des deux ??? …

Répondre
torpedo

01 juillet 2022 17h08

« Et maintenant une question de Dup , un sympathique participant de notre beau forum! »

« La vrai question est y a t ‘il l’illusion d’une conscience et surtout chez qui de la machine ou de l’observateur ou des deux ??? »

– Alors, qui connait la réponse?
– Oui, vous le grand à lunette à côté de la baraque à frites…
– Non pas lui, l’autre à gauche, oui vous!
– Venez donc nous rejoindre!… Ah, le voilà!
– Bonjour Dédé! C’est Dédé n’est-ce pas? Parlez bien dans le micro, Dédé !
– Heu…Oui… Bonjour Guy Lux..!
– Heu… d’abord, juste pour dire…
– Ah, Dédé a un message! Allez y Dédé,
– Oui, comme ça bien en face du micro…
– Heu… Oui , non… c’était pour dire juste…
– A côté de moi, c’était pas la baraqued’frites…
– C’était ma soeur, Dedette…
– Hou hou ! Dedette!
– Non la baraqued’frites elle est pu p’tite… la bas derrière…
– Heu oui… Bonjour Dedette, mais revenons à notre question…
– Alors Dédé vous l’avez cette réponse à la question de Dup?
– Heu… Oui!
– Magnifique! Bravo dédé, on l’applaudit bien fort!
– Mais quoi? Comment? Ah! l’horaire est dépassé,
– Mesdames et Messieurs je suis contraint de rendre l’antenne,
– Ici Guy Lux, bon appétit à tous et à demain!
– « Si vous le voulez bien! »
– Dédé, voyons! Lâchez ce micro…
– Coupez! Mais non, l’émission est terminée!
– Allez tenez, voilà vos mille francs, au revoir Dédé.

Difficiles, vraiment, les questions de Dup…
Même moi j’ai pas d’idée!
J’ai bien peur que pour la réponse…
Il nous faille retrouver Dédé…

Eric.

Répondre