Vidéo – Intelligence Artificielle et 3 lois de la robotique

13 septembre 2022 8h55

Les robots qui nous succéderont devront être autonomes et moraux

Intelligence Artificielle, Psychanalyse, Science-fiction

3 lois de la robotique, ANELLA, intelligence artificielle, Isaac Asimov, Pribor.io, robotique, robots, Science-fiction, Tay (microsoft)

16 réponses à “Vidéo – Intelligence Artificielle et 3 lois de la robotique”

Jean-Claude Svadchii

12 septembre 2022 11h42

Merci Paul,
finalement, il s’agit d’attribuer un univers psychologique éthique à chaque robot. Comme il y a une infinité de sensibilités éthiques dans le monde, comment pourrait-on en sélectionner une seule pour en doter nos robots autonomes, et éviter que ne prolifèrent des robots autonomes qui reproduiraient les travers des sociétés humaines ?

Répondre
Nosfératu

12 septembre 2022 12h13

« ……..robots….autonomes et moraux »
C’est très idéaliste tout ca. Regardez la Chine, où est la morale. C’est la morale du parti « communiste » et de ses obsédés du pouvoir qui décident ce qui est moral et ce qui ne l’est pas. On a le même problème quant au capitalisme, ou à l’économie tout court. Tout dépend de ce qu’on fait. Et regardez l’histoire: ca laisse plutôt un goût de pessimisme.

Répondre
1. Paul Jorion
  
  12 septembre 2022 13h27
  
  Il me semble que c’est exactement ce que je dis. Où voyez-vous une différence ?
  
  Répondre
  1. Nosfératu
    
    13 septembre 2022 15h33
    
    Tant mieux. J’ajouterais un détail: la découverte de l’énergie nucléaire avait comme finialité l’application en recherche, diagnostique et thérapie dans le domaine médical – dixit Madame Curie.
    
    Répondre
Tout me hérisse

12 septembre 2022 12h57

Comme rien n’est parfait en ce bas monde, donc la possibilité de ‘coups de canif’ dans le contrat éthique, pourrions-nous imaginer un jour voir apparaître des ‘robots juges’ destinés à juger leurs pairs fautifs ?
D’un autre côté, ne risque-t-on pas de voir apparaître des ‘robots politiques’ arguant de leur intelligence supérieure et tenter de prendre le pouvoir sur l’humain ?
Attention à la notion d’affect introduite dans l’IA, il faut veiller à ce qu’elle ne soit pas auto-modifiable dans un sens non désirable à l’aide de filtres ‘durcis’…🤓

Répondre
John

12 septembre 2022 15h49

Bonjour,

J’ai pensé à la version de 2002 du film « La Machine à voyager dans le Temps » où à la fin l’IA de la bibliothèque enseigne aux humains du futur au milieu de vestiges.

Selon « Jean-Claude Svadchii » plus haut: et si chaque robot pouvait aussi apprendre d’autres robots. On aurait une communauté de robots veillant sur la communauté humaine.

Selon Paul, pour le militaire, en inversant les lois, on a Terminator par Skynet.

John

Répondre
Lagarde Georges

12 septembre 2022 15h58

Dans le cas de robots ayant remplacé l’humanité disparue, une transposition est évidemment nécessaire puisque faire autant de bien que possible aux humains sans jamais leur faire de mal n’a plus aucun sens.

La première idée qui m’est venue est de remplacer la première loi par « Un robot ne peut porter atteinte à un autre robot ni, restant passif, laisser ce robot exposé au danger », mais pour les autres lois remplacer humain par robot ne résout absolument rien. La seule solution qui semble convenir serait d’énoncer clairement le ou les buts à assigner de manière globale aux robots.

C’est un sujet qui semble d’autant plus intéressant qu’il met peut-être en lumière le fait que les lois qui devraient gouverner les robots seraient bien plus claires si les humains commençaient par se mettre d’accord sur ce qu’ils veulent et ce qu’ils ne veulent pas. Malheureusement les guerres – tout particulièrement les guerres de religion – semblent expliquer pourquoi Asimov ne s’y est pas risqué.

Finalement en informatique, donc probablement aussi en robotique, la principale difficulté est d’arriver à faire dire à l’avance au donneur d’ordre ce qu’il veut réellement. Attention: le plus facile, et de très loin, pour un informaticien est de décider des « détails » à sa place.

Répondre
Romain Vitorge

12 septembre 2022 19h12

Un parallèle avec le texte de la Genèse ?
…/… Puis Dieu dit : Faisons l’homme à notre image, selon notre ressemblance, et qu’il domine sur les poissons de la mer, sur les oiseaux du ciel, sur le bétail, sur toute la terre, et sur tous les reptiles qui rampent sur la terre. Dieu créa l’homme à son image, il le créa à l’image de Dieu, il créa l’homme et la femme. Dieu les bénit, et Dieu leur dit : Soyez féconds, multipliez, remplissez la terre, et l’assujettissez; et dominez sur les poissons de la mer, sur les oiseaux du ciel, et sur tout animal qui se meut sur la terre …/…

Dieu aurait fait l’homme à son image est-ce pour autant que nous devrions l’imiter en se proposant de faire pareil « et » en mieux ?
Un robot plus humain que les humains, plus justes que les humains, plus éthique que les humains, etc.

Vos robots seront-ils tous identiques ou prévoyez vous qu’ils puissent évoluer et se diversifier comme le vivant ?

Répondre
pierre guillemot

13 septembre 2022 10h41

Déjà dit : les robots doués d’intelligence artificielle ressemblent de très près aux Esprits du « Livre des Esprits » d’Allan Kardec (1857). (en ligne https://fr.wikisource.org/wiki/Le_Livre_des_Esprits , et en livre de poche J’ai lu) Ils passent par le même processus d’éducation et d’enrichissement intellectuel. Comme Allan Kardec a écrit au temps où la haute technologie c’était la locomotive, la rotative, et le chronomètre, les Esprits s’incarnent dans des êtres humains quand ils désirent agir dans le monde. Quelle sera l’incarnation des robots du futur, quand il n’y aura plus d’espèce humaine (exterminée par la catastrophe climatique, selon la doxa) ni même de vie au sens de la biologie ?

Répondre
1. Lagarde Georges
  
  13 septembre 2022 13h11
  
  S’il n’y a plus d’humains, n’envisager qu’un seul « robot » – mais ce terme serait alors inapproprié puisqu’il dérive du mot du tchèque robota, travail forcé – semble plus simple et surtout plus prudent pour éviter que s’il y en a plusieurs ils héritent de nos mauvaises habitudes et s’avèrent incapables de se faire la guerre.
  
  Cet unique entité consciente – à quoi bon si elle ne l’est pas? – devrait probablement disposer de mécanismes indépendants pour recueillir l’énergie nécessaire à son fonctionnement, assurer les réparations indispensables et les améliorations souhaitables, mais il doit être possible d’éviter que ça ressemble trop à un autre de nos principaux travers, l’esclavage.
  
  Répondre
  1. Lagarde Georges
    
    13 septembre 2022 16h11
    
    … ne pas se faire la guerre …
    
    Répondre
2Casa

13 septembre 2022 14h07

À notre image et à notre ressemblance, seront-ils confrontés aux mêmes apories que nous ?

Nouveau hacking des IA à venir, les mettre en rideau face à des dilemmes moraux… Construire la situation en jouant sur les contradictions de leurs lois pour leur faire cramer les diodes ?

Sauront-ils effectuer des « sauts » comme nous ? L’absurdité, l’humour… Comment affronteront-ils le regret, les remords, la foi, l’espérance ? Sauront-ils s’émouvoir d’un châssis titane profilé en soufflerie de chez Boston Dynamics, de la douce pulsation d’une batterie atomique ? Noieront-ils leur chagrin dans les piles de 12 volts ? Rêveront-ils de moutons électriques ?

Tout cela est-il quantifiable ?

Répondre
Didier Rombosch

13 septembre 2022 16h20

Il faut détruire Alpha 60 et sauver ceux qui pleurent.

Répondre
torpedo

14 septembre 2022 8h55

« Les robots qui nous succéderont devront être autonomes et moraux »

Dépêchons nous donc d’être autonomes et moraux nous même,
Afin que les robot puissent intégrer les notions de bien, de mal, de vertu et de vice,
Où bien ils ne pourront être conçus qu’à l’image de ce que nous sommes,
Avant de s’entre-détruire.

Eric.

Répondre
1. pierre guillemot
  
  15 septembre 2022 22h00
  
  » … intégrer les notions de bien, de mal, de vertu et de vice … » Hypothèse hasardeuse du bien et du mal comme des notions qui ont une définition sur laquelle les êtres humains, ou des êtres artificiels créés par les humains, pourraient être d’accord. Les Indiens Tupinambas du Brésil consacraient leurs loisirs à la guerre, dans le but de faire des prisonniers, ensuite tués selon un rite, en présence de ceux qui le mangeront en commun, expression des qualités humaines de celui qui organise la fête (Hans Staden 1557). On peut raisonnablement supposer que, pour les Indiens Tupinambas, agir ainsi est bien (alors que tuer sans cette raison est mal).
  
  « La Loi c’est : ne fais pas aux autres ce que tu ne voudrais pas qu’on te fasse ; le reste est commentaire. » (attribué à Hillel) L’idée qu’on pourrait définir le bien et le mal absolus, même à partir de cette définition, me ravit.
  
  Répondre
torpedo

14 septembre 2022 14h45

Bonjour,
Les êtres qui nous survivront sont déjà parmi nous.
Ils sont bien plus autonomes et moraux que les humains,
Et le sont bien plus que ne le sera jamais aucun robot créé par nous.
Et c’est ce qui les rend si aptes à s’adapter aux changements de leur environnement.
Mais ils ne témoigneront sans doute pas en faveur de notre règne sur la Terre.
Puisque nous les avons réduit en esclavage…
Je veux parler bien-sûr des animaux !
Mais quelques robots ne seront sans doute pas de trop pour chanter nos louanges,
Sur les cendres et les immondices de nos vies.

Eric.

Répondre