Ouvert aux commentaires.
Comme le fait remarquer O’Connell dans son remarquable To Be a Machine (2017), la Singularité, telle que la comprennent les transhumanistes correspond bien à ce que J. Good, un ancien agent du contrespionnage britannique, avait caractérisé dans le titre d’un article publié par la NASA en 1965 comme « La dernière invention que l’homme devra jamais faire » (The last invention man need ever make) (90) : à partir de ce point de basculement, la machine inventerait tout, alors que nous, êtres humains, nous nous trouverions dans la position inconfortable du chimpanzé tentant d’interpréter ce qu’un être plus intelligent que lui tel que nous, décide de faire autour de lui.
Mais les conditions à réunir pour que le robot soit « la dernière invention que l’homme ait à faire » du fait qu’il prend tout en charge à partir de là, sont beaucoup plus problématiques que les transhumanistes ne le laissent entendre.
Un robot fabriquant un robot est facile à imaginer, puisqu’il n’est jamais question là que d’une machine fabriquant une autre machine. Mais, si les hommes devaient véritablement être désormais entièrement hors de la boucle, il faudrait pour en être là que le processus conduisant au robot fabriquant un autre robot soit entièrement automatisé. Ce qui veut dire, que des robots : de l’extraction du minerai, à la fabrication des différentes pièces en passant par l’extraction du métal du minerai, ou du raffinage du pétrole jusqu’à l’obtention des composants synthétiques qui en sont des dérivés, etc.
Ces nombreuses questions d’ordre pratique auraient-elles même été réglées, d’autres difficultés demeureraient. Si l’on parle en effet de machines capables de s’améliorer de leur propre initiative, deux options sont envisageables. Dans la première, un « robot au sens large » améliore sa performance individuelle par apprentissage, ou par une optimisation à partir d’une analyse statistique qu’il effectuerait de son comportement passé, ou encore en recourant à un algorithme génétique appliqué à d’anciennes stratégies ayant été payantes autrefois, en vue de les recycler si un nouveau contexte les rend à nouveau rentables.
Si une telle machine capable d’acquérir à titre individuel de nouvelles connaissances comme fruit d’un apprentissage transmettait son savoir acquis à d’autres, on parlerait dans ce cas-là s’il s’agissait d’êtres humains d’une « innovation culturelle » due à quelqu’un par opposition à une découverte à usage purement personnel ; une contribution à la culture en tant que telle étant susceptible de bénéficier à l’ensemble des générations à venir, à condition qu’une rupture dans la transmission n’intervienne pas en chemin.
La seconde option quand on évoque des machines capables de s’améliorer est qu’il s’agisse plutôt de machines susceptibles d’engendrer une toute nouvelle génération d’elles-mêmes, plus efficace par dessein dans chacune de ses instances avant même tout processus d’apprentissage. Il est question, autrement dit, d’une machine capable d’inventer au sens propre du mot de nouvelles approches pour l’ensemble de ses congénères de « nouvelle génération », qui seront alors ses véritables « descendants ». La chose n’est pas impossible, les programmeurs ayant constaté dès les tout débuts de l’IA, la capacité de leurs logiciels à les surprendre. O’Connell cite ainsi Norbert Wiener, pionnier de la cybernétique, qui observait dans un article intitulé « Some moral and technical consequences of automation », (1960) « la tendance des machines à développer des stratégies inattendues alors qu’elles apprennent à des vitesses qui sidèrent leurs programmeurs » (96-97).
J’avais noté la même chose en 1989 à propos d’ANELLA (Associative Network with Emergent Logical and Learning Abilities = réseau associatif à capacités de logique émergente et d’apprentissage), le logiciel d’I.A. que j’avais développé pour British Telecom, qu’elle avait inventé un nouveau type d’inférence :
« 3) Rex a une niche,
une niche est un abri,
DONC
l’abri de Rex est une niche » (Jorion 1989 : 181).
J’ajoutais :
« La troisième figure met en évidence une inférence qui n’appartient pas à la logique classique, mais qu’il a semblé intéressant d’autoriser ANELLA à produire tout de même. Un exemple moins bizarre du même type serait celui-ci :
le coquelicot est rouge,
rouge est une couleur,
DONC
la couleur du coquelicot est rouge » (ibid. 182).
Quand le 15 mars 2015, le logiciel AlphaGo de la firme DeepMind battit Lee Sedol, le numéro 3 mondial du jeu de go, ses programmeurs firent remarquer qu’ils n’avaient rien programmé de l’ordre de l’« intuition », dont tous les commentateurs avaient pourtant prédit que son absence serait un élément déterminant dans la défaite probable de la machine. De même, lorsque le 30 janvier 2017, le logiciel Libratus l’emporta par une vaste marge contre quatre champions de poker, son programmeur Noam Brown déclara : « Quand j’ai vu l’IA se lancer dans le bluff en face d’humains, je me suis dit “mais, je ne lui ai jamais appris à faire cela !” C’est une satisfaction pour moi de me dire que j’ai réussi à créer quelque chose capable de cela » (Trévise 2017). Abdul Razack, le patron de la firme d’IA Infosys fit à cette occasion la remarque suivante : « L’I.A. devient vraiment intéressante dans les cas où le nombre d’inconnues est égal ou supérieur à celui des [variables] connues. Mais je n’avais jamais vu un système meilleur que l’humain face à l’inconnu » (Ryan 2017).
Un bémol doit donc être mis aux espérances les plus folles de l’Intelligence Artificielle : historiquement, les difficultés à résoudre ont très souvent été beaucoup plus sérieuses que l’enthousiasme du moment n’avait voulu l’envisager, mais, bémol à mettre à ce bémol lui-même : les goulets d’étranglement rencontrés, en qui les esprits chagrins de toutes les époques voulurent lire la présence d’obstacles insurmontables, furent toujours surmontés, même s’il fallut dix ans plutôt que les cinq ans initialement envisagés.
=============
Paul Jorion, Principes des systèmes intelligents, Masson 1989 ; Le Croquant 2012
Mark O’Connell, To Be a Machine. Adventures Among Cyborgs, Utopians, Hackers, and the Futurists Solving the Modest Problem of Death, Granta Books 2017
Kevin J. Ryan, « Why It Matters That Artificial Intelligence Is About to Beat the World’s Best Poker Players », Inc.com, le 27 janvier 2017
Daniel Trévise, « Pourquoi la victoire d’une intelligence artificielle au poker est plus inquiétante qu’il n’y paraît Les robots, désormais meilleurs bluffeurs que l’homme », Epoch Times, le 5 février 2017
Laisser un commentaire