Retranscription de Les temps qui sont les nôtres : Le chien est intelligent mais l’homme l’est-il ?. Merci à Marianne Oppitz et à Catherine Cappuyns ! Ouvert aux commentaires.
Bonjour. Nous sommes le samedi 7 avril 2018 et aujourd’hui je ferai une petite causerie dont le titre provocateur est : « Le chien est intelligent mais l’homme l’est-il ? ». Et si vous suivez un petit peu mon actualité, vous vous doutez d’ores et déjà qu’il s’agit de réflexions dans le sillage de la table ronde qui a eu lieu il y a exactement une semaine à Paris, à la Sorbonne, où j’étais interrogé en compagnie de Madame Catherine Simon qui est une spécialiste de la robotique, de Monsieur Raja Shatila qui représente la recherche en intelligence artificielle en France et nous étions interrogés par Madame Maylis Besserie. L’émission est visible sur l’internet – le podcast également maintenant – et elle est passée en direct en fait entre 14 heures et 15 heures, hier vendredi sur France Culture.
Vous avez vu, c’est une table ronde : on n’a pas le temps de dire grand-chose. On a envie de dire des choses mais la personne qui vous interroge a une idée très précise de ce qu’elle essaie de vous faire dire. Bon, c’est la règle du jeu. Mais du coup on se retrouve à ne pas pouvoir faire un exposé systématique comme on pourrait le faire si l’on vous demandait de parler du sujet en tant que tel et en tant qu’une personne qui dispose de quarante minutes ou de vingt-cinq minutes mais qui pourrait faire un exposé systématique sur ces questions.
Alors, qu’est-ce que j’essaie de dire avec mon « Le chien est intelligent mais l’homme l’est-il ? », c’est que vous verrez sans doute – ou vous avez dû avoir vent – dans l’actualité, de deux types de propos qui sont en réalité extrêmement contradictoires. Les deux choses ont l’air d’aller de soi mais en réalité quand on les confronte, on s’aperçoit que l’une en réalité devrait exclure l’autre.
De quoi est-ce que je parle ? Je parle des discussions qui ont lieu sur l’intelligence artificielle – et on en parle beaucoup. Le Président de la République Monsieur Macron en France en a parlé. Monsieur Cédric Villani en a parlé longuement. Il était d’ailleurs une des personnes qui a déposé un rapport sur l’intelligence artificielle. Il a d’ailleurs aussi participé à cette émission enregistrée à la Sorbonne il y a une semaine. Tout le monde en parle ! Enfin, pas tout le monde, heureusement, parce qu’il y a quand même pas mal de gens qui ne sont pas vraiment très informés du sujet. Mais on en parle et, par ailleurs, on parle aussi en parallèle de cette affaire qui a été révélée, c’est-à-dire la manipulation des élections américaines et plus que probablement aussi – c’est apparu – du référendum du Brexit, par des firmes qui se spécialisent dans la collecte de données individuelles et qui incitent les gens à voter d’une manière bien particulière durant les élections.
Alors, qu’est-ce que je veux dire par là ? L’image qui émerge de la réflexion sur l’intelligence artificielle en ce moment, c’est que l’intelligence humaine est une chose très difficile à définir, que les machines essayent de le faire mais que c’est très compliqué et beaucoup de gens vous diront qu’on est encore très loin d’avoir obtenu de véritables résultats. En particulier, vous pourrez entendre Monsieur Shatila dire ça, qu’en fait la machine ne comprend pas ce qu’elle fait exactement et Monsieur Villani, Cédric Villani, est une personne qui dans ses discours dit que la machine en réalité ne comprend rien de ce qu’elle fait : c’est une interprétation que nous faisons d’elle de dire qu’elle est intelligente et j’ai l’impression que ce qu’il essaie de dire, c’est que la machine n’a pas de conscience. Et là vous le savez, moi, j’ai une opinion tout à fait différente : j’ai une représentation, j’ai un modèle de la conscience que j’ai mis au point à la fin du XXème siècle (rires), en 1999 dans un article et qui distingue très clairement la question de la conscience, de l’intelligence. Je ne crois pas qu’il y ait un grand rapport entre les deux. Enfin, je m’en explique beaucoup plus longuement dans ce livre qui va paraître et qui s’appelle « Défense et illustration du genre humain ». Ça paraît le mois prochain.
Alors, d’une part une représentation de l’intelligence humaine comme quelque chose d’assez élusif, de quelque chose qui est assez difficile à saisir, qui est sans doute beaucoup plus compliqué qu’on ne l’imagine maintenant, que les machines font des choses mais que ce n’est sûrement pas à la hauteur de ce que nous appelons l’intelligence humaine. Et par ailleurs, une autre représentation de nous-mêmes comme des sortes de machines justement qui sont même manipulables et corvéables à souhait. Qu’il suffit en fait de posséder quelques données sur qui nous sommes pour pouvoir nous imposer de voter de telle ou telle manière, c’est-à-dire une représentation qui nous montre en fait comme des créatures absolument pas intelligentes, comme des espèces de machines pavloviennes qui réagissent simplement à des stimulus ou des stimuli et à qui on peut faire faire n’importe quoi si on décide de le faire. Comme si nous étions en fait hypnotisés de manière permanente.
Ce qui me distrait, c’est l’idée que, effectivement, il y a un état ou il y a des états dans lesquels nous pouvons nous trouver qui ressemblent à l’hypnose sans que nous ayons été hypnotisés. C’est le fait que nous soyons dépendants de substances, que nous ayons une addiction, c’est-à-dire qu’en fait, manifestement, un besoin de notre corps prend le dessus entièrement sur les décisions que nous pourrions prendre. Les effets de propagande dont il est question récemment en utilisant essentiellement comme données au départ des données qui sont récoltées par Facebook et en les utilisant par des firmes comme Cambridge Analytica dont on a découvert – avec stupeur – qu’à la tête de cette entreprise qui utilisait de manière massive les données de Facebook pour essayer d’influer sur le vote de la présidentielle aux États-Unis, se trouvent des gens extrêmement proches en réalité de Trump : Monsieur Steve Bannon qui a été son conseiller, qui ne l’a plus été : il a été viré à la suite du fait qu’il était l’informateur principal d’un livre de potins, de révélations sur Trump. Mais apparemment ils restent en contact : la sortie a l’air un peu bidon. Et ce Monsieur Steve Bannon travaillait dans le cadre de son agence de presse Breitbart, financée par Monsieur Robert Mercer et la fille de Monsieur Robert Mercer qui s’appelle Rebekah Mercer. Un Monsieur qui a travaillé pour IBM, pour des hedge funds, un monsieur qui est partisan de la peine de mort et qui met de l’argent à essayer de réhabiliter ça et qui a donc créé, pour plusieurs millions de dollars américains, une firme qui allait utiliser les données récoltées par Facebook pour essayer d’influer sur la campagne électorale américaine.
Alors, il y a des études qui sont faites, maintenant, qui sortent, par des universitaires pour savoir si ces gens ont pu effectivement influer sur les élections et il semble bien que oui *, parce qu’en fait l’élection présidentielle s’est décidée sur trois États : si j’ai bon souvenir c’est le Michigan, le Wisconsin et Pennsylvania. Et les calculs qui sont faits montrent qu’on a pu faire changer le vote de l’ordre de 2% des personnes, au moins 2%, peut-être jusqu’à 4%, mais qu’en ce qui concerne ces États en particulier, la victoire de Trump s’est faite sur des marges qui sont parfois de 0,2 %, c’est-à-dire que l’effet de propagande, l’effet de manipulation, est probablement, plus que probablement, plus important que les marges qui ont été les différences de vote entre les deux camps dans cette élection. Donc, cela a dû probablement être décisif dans l’élection. Il y a une hypothèse qui ferait que ça n’a pas été décisif, c’est si l’influence de la manipulation avait été par extraordinaire quasiment nulle précisément dans ces trois États, contrairement à ce qu’on a pu observer dans l’ensemble.
Donc, d’un côté on nous dit : l’intelligence humaine est une chose extrêmement délicate, admirable, difficile à reconstituer (on laisse entendre que nous en sommes tous pourvus). Et par ailleurs, on nous fait émerger une image de nous comme entièrement manipulables, comme des robots auxquels on peut faire faire ce qu’on veut. Et ce n’est pas récent, bien entendu. Avant cette manipulation directe sur des votes… la publicité existe depuis très longtemps, qui a pour but précisément de faire cela : de nous influencer pour que nous achetions tel ou tel produit. La réflexion sur la publicité, tout ça date des années ’20. Il y a un fameux livre d’Edward Bernays, un neveu de Freud, qui s’appelle « Propaganda » et qui est une réflexion sur la propagande (des réflexions intéressantes de ce côté-là, j’y reviendrai sans doute : je suis en train de lire ce petit livre). Comme des réflexions assez curieuses sur le fait que la démocratie aurait peut-être besoin de la propagande parce que les gens trop stupides ne peuvent pas comprendre comment ça marche et donc il faut en fait les convaincre d’aller dans le sens de la marche et de l’intérêt général parce que ça ne leur viendrait pas naturellement.
Il y a peut-être un peu dans l’observation (rires) du populisme en ce moment, il y a peut-être quelque chose de cet ordre-là : quand je vois qu’il y a des émissions très regardées où les gens vont découvrir si c’est vrai ou non que la terre est creuse et qu’il y a des habitants au centre, je ne devrais pas rire : il y a un nombre non négligeable de personnes qui croient ce genre de choses. On se demande où est passée l’école. Il y avait quand même une époque où les gens allaient à l’école (rires) et on les décourageait quand-même d’apprendre ça ! Qu’est-ce qui s’est passé avec les élèves et les professeurs pour que, maintenant, un grand nombre de jeunes – je ne dis pas la majorité, mais un grand nombre – soient prêts à croire que la terre est creuse ? Ou alors, on les endoctrine vraiment à croire que les massacres qui ont eu lieu récemment aux États-Unis, avec des gens qui mitraillent la foule, qu’en fait ce sont des mises en scène en studio et que ça n’a pas véritablement eu lieu ! Que les jeunes qui protestent contre un massacre dans leur école sont manifestement manipulés par les services secrets et qu’en réalité ce sont des acteurs ! Enfin, chers Amis professeurs, chers Amis enseignants, ce sont quand même vos élèves ! J’ai enseigné encore cet année-ci : j’ai eu des élèves, je leur ai parlé, j’ai essayé de comprendre ce qu’ils pensaient, j’ai essayé de les mener dans la bonne direction avec des informations et ça a été très gratifiant : nous avons eu des échanges intéressants. Est-ce que c’est devenu si difficile d’apprendre des choses aux élèves ? De leur dire que les « illuminati » ça n’existe pas ? Que le monde n’est pas encore dirigé par les Reptiliens – qui sont en réalité des extra-terrestres ! Enfin bon, je m’égare un petit peu.
Alors, publicité, propagande, manipulation, surveillance généralisée. Vous verrez qu’on attire beaucoup l’attention sur le fait qu’en Chine, l’hypersurveillance est déjà en place : il y a des caméras partout, on observe votre comportement, il y a des commissariats de police où on essaye de prédire des vols qui vont avoir lieu à partir du comportement de certaines personnes qu’on a déjà repérées, etc. et on nous dit : « Regardez, c’est abominable ce qui se passe en Chine ! » et on laisse entendre qu’on n’en est pas là. J’en parle aussi dans le livre qui va sortir : j’ai appelé ça « Le Surmoi remplacé par le Big Data ». En fait, c’est assez comique, mais la conclusion n’est pas comique. On en est là chez nous, aussi. La différence avec la Chine – il y a une différence avec la Chine – c’est que ce n’est pas le gouvernement qui nous surveille comme ça, c’est le secteur privé ! Et, l’information qu’on peut en tirer, c’est que ce n’est pas le gouvernement, l’État qui en tire des conséquences, c’est le plus offrant : c’est celui qui paye le plus pour les données ou qui arrive à embobiner Facebook plus facilement que les autres – c’est ce qu’on a vu – et qui parviennent à nous faire voter pour un Brexit qui est une catastrophe ambulante.
Quand on regarde les articles en Grande-Bretagne, maintenant… Moi, j’ai dit au départ : « Ça ne se fera pas le Brexit ! ». Mais, quand on regarde les articles dans le journaux britanniques, maintenant, c’est : « Comment est-ce qu’on en est arrivé là ? » Les gens en rigolent. Les Britanniques en rigolent eux-mêmes, de voir la catastrophe qui est en train d’avoir lieu – en raison d’une décision qui a été prise – mais, dont on découvre maintenant, qu’il y a eu, là aussi, et là, je n’ai pas encore eu de calculs – mais là aussi on a demandé à des firmes, de tirer des données personnelles, le moyen de manipuler les gens pour qu’ils votent en faveur du Brexit, avec la catastrophe que ça produit en ce moment.
Alors, est-ce que l’explication générale – et là, je tombe dans le complotisme (rires) – est-ce que c’est vraiment Moscou qui est arrivé à manipuler Monsieur Mercer Robert et sa fille Rebekha et Monsieur Steve Bannon, à ce que les Américains aient le plus mauvais président possible ? Est-ce que c’est vraiment Moscou qui a essayé de détruire l’Europe en faisant voter les gens pour le Brexit ? Personnellement, je ne le crois pas. Bon, tout ça se rencontre : la bannière brandie par cette jeune femme que vous avez dû voir avec ses trois héros : Trump, Poutine et Marine Le Pen – ce n’est pas une invention – ça se passe bien à Moscou ! Mais, à la limite, on pourrait se dire : « Est-ce que les Russes sont assez malins, véritablement, pour arriver à manipuler tout ça de la manière dont on voit que ça se passe ? » Non, je crois que ce Monsieur Robert Mercer et cette Rebekha Mercer, ce sont des libertariens, c’est-à-dire une espèce de – je dirais – de variante, entièrement dévoyée de l’anarchisme, qui se situe entièrement à l’extrême-droite. Ce sont des gens qui ont soutenu d’autres conservateurs avant que Monsieur Trump se présente. Je crois qu’ils étaient soutiens de Rubio – si j’ai bon souvenir – ou de Ted Cruz. Non je crois que c’est de Rubio [P.J. : raté, c’était de Cruz !]. Et puis voilà, ils ont pris Trump parce que l’autre s’est effondré. Ils se sont rabattus sur Trump.
Donc, je ne crois pas qu’il y avait de complot, véritablement. Mais il y a simplement rencontre entre le populisme et les conservatismes sous leur forme les plus bizarres, sous forme libertarienne. Tout ça se retrouve dans la mode du bitcoin (rires) des crypto-monnaies ou pseudo-crypto-monnaies. En fait, c’est ça : c’est le populisme, c’est l’explication fausse, au pouvoir. Explication fausse, d’une certaine manière parce qu’elle est plus simple et donc, elle est plus facile à comprendre. Mais aussi, parce que d’une certaine manière, les zélites font barrage à l’information juste – parce que ça ne les arrange pas trop qu’on sache comment ça marche – et les autres s’engouffrent dans la brèche. Il y a là un prêté pour un rendu, pas nécessairement maîtrisé mais, c’est comme ça que ça marche.
Alors, le chien est-il plus intelligent que l’homme ou est-il le seul à être intelligent ? Comment réconcilier ces deux visions ? De l’homme comme tellement intelligent que la machine n’arrivera jamais à le faire et que nous-mêmes n’avons pas encore compris exactement comment ça marche. Et, d’autre part, un pantin que n’importe quel marionnettiste qui met un petit peu d’argent là-dedans, peut faire aller exactement dans la direction où il veut et faire exactement les gestes qui sont voulus.
Eh bien, la réponse – à mon sens – elle est claire : les deux sont vrais ! Du côté de l’intelligence, il y a le calcul. Du côté de l’absence totale d’intelligence et du côté manipulable – en direction du populisme et compagnie – c’est bien sûr l’émotion. C’est l’émotion et nous sommes fait entièrement des deux. Nous sommes fait entièrement des deux. Je m’intéresse beaucoup dans « Défense et illustration du genre humain » à nos deux types de volonté. De la volonté immédiate – dont on sait que c’est le corps qui la décide, qui la détermine – et notre conscience de ce qui est en train de se passer arrive entre une demi et dix secondes plus tard. Les décisions sont prises au niveau du corps, ce qui ne nous empêche pas de réagir à notre propre comportement et d’intégrer – dans une représentation de nous même – la manière dont nous réagissons aux événements.
Si je me trouve dans des circonstances où je me suis manifesté – à ma grande surprise – comme un total couard ou comme quelqu’un d’un courage extraordinaire, il faudra que j’intègre cette information – négative ou positive – à l’intérieur de l’image que j’ai de moi. Et, quand je fais des calculs, à long terme, parce que ça, on peut le faire aussi : on peut s’inventer des soucis à projeter dans l’avenir, par exemple, d’aller à tel endroit à un moment précis de la semaine prochaine ou de réussir mes examens ou d’écrire une thèse : on peut se donner des projets comme cela. Et le fait que la thèse n’est pas terminée, c’est un souci qui va vous rester jusqu’à ce que vous la déposiez et après, vous pourrez vous créer d’autres soucis, d’autres priorités, et ainsi de suite. Ça, nous pouvons le faire aussi : nous pouvons non seulement réagir dans l’instant avec des décisions qui sont purement d’ordre inconscient, c’est-à-dire que c’est le corps qui prend la décision tout de suite et puis qui vous informe par la « lucarne » (le « regard » ou la « lucarne ») de la conscience, de ce qui s’est passé. Mais, nous pouvons aussi, assis autour d’une table, délibérer et nous dire : « Nous allons faire telle chose ! » et inscrire ce projet comme un souci qui sera notre souci jusqu’à ce qu’on l’ai résolu.
Alors, voilà ! Est-ce qu’il y a moyen de mettre les deux idées ensemble ? Mais, oui ! Il y a un fameux ouvrage (rires), il y a un fameux ouvrage qui date de 1989 qui s’appelle « Principe des systèmes intelligents » qui a été écrit par une personne, à l’époque où il était … une personne (elle), le monsieur en question (il), « Principe des systèmes intelligents » publié en 1989 – à l’époque chez Masson – maintenant on peut l’obtenir aux éditions du Croquant. Et c’est, voilà, ma réflexion sur l’intelligence artificielle, à l’époque où je travaillais sur un projet d’intelligence artificielle – de 1987 à 1990 – pour la compagnie britannique British Telecom dans le cadre du projet « Connex » et dont on nous a appris, au moment où on nous a laissés partir, qu’en fait il avait été financé par le ministère de la défense britannique et non pas par British Telecom. Qu’il ne s’agissait pas de répondre aux gens qui appeleraient au téléphone la compagnie, comme on nous avait dit que tel était le projet, mais qu’il s’agissait plutôt d’avoir un système qui pourrait répondre à un pilote dans un cockpit d’avion – alors que le pilote est occupé à plein de choses – de pouvoir avoir des échanges intelligents avec la machine, avec l’avion lui-même, autour de lui. On avait déjà vu ça, à l’époque dans le film « 2001 » et donc, c’était de la science-fiction qu’on essayait de réaliser.
Alors, voilà ! Qu’est-ce qu’il y a dans Principe des systèmes intelligents ? Eh bien, il y a le projet que moi j’avais mis au point à l’époque, c’est-à-dire un système qui est intelligent mais son intelligence émerge de ce que j’avais appelé « une dynamique d’affect ». C’est-à-dire, justement, d’émotions. Un univers de mots est disponible, de la machine : ANELLA. Le système Anella : Associative Network with Emerging Logical and Learning Abilities (système associatif en réseau avec des propriétés émergentes de logique et d’apprentissage). Eh bien, ce système – une dynamique d’affect – avait accès au vocabulaire et pouvait utiliser les mots et les mettre ensemble, à partir de ces émotions – simulées, bien entendu. Alors, quelle est la différence entre des émotions simulées et des émotions réelles ? Eh bien, simplement, qu’on dit que c’est simulé quand c’est une machine et que c’est réel quand c’est nous. Il n’y a pas, à ma connaissance, d’autre différence. Pour les gens qui me diront « Oui, mais dans la machine c’est simulé ! », eh bien oui : quand c’est la machine, on dit que c’est simulé. Voilà ! C’est une convention de langage. Donc, il n’y a pas trop à s’étonner de ça.
Alors, pourquoi ça n’a pas eu lieu. Pourquoi est-ce que mon livre n’a jamais été mis en application ? Eh bien, c’est parce que la représentation de l’humain de cette dynamique d’affect que j’avais mis là, c’est la représentation de la psychanalyse. J’ai pris ça chez Freud, j’ai pris ça chez Lacan, chez Mélanie Klein, et ainsi de suite. Avec quelques ingrédients (rires) que j’ai ajoutés en plus. Et, c’est ça ma représentation du fonctionnement de l’humain.
Or les gens qui viennent dans le domaine de l’intelligence artificielle sont des gens qui sont, en général, des mathématiciens, des ingénieurs, qui auront plutôt fréquenté – je dirais – la psychologie de type classique plutôt que la psychanalyse et qui, du coup, ne sont encore nulle part en termes d’essayer de simuler une logique émotionnelle, une dynamique d’affect, à l’intérieur d’une machine.
Eh bien, le livre est toujours là. Il est toujours lisible. Vous me signalez, ici et là, que vous le lisez et que ça vous paraît neuf. Évidemment, ça vous paraît neuf, puisque personne n’a encore utilisé ça dans un projet véritable. Il y a pas mal de gens, au fil des années, qui m’en ont parlé comme ci – comme ça. Il y a même un Monsieur Minsky, au départ, qui est un spécialiste de l’intelligence artificielle, qui dans les années 80, déjà, a dit : « C’est le jour où on mettra de l’émotion dans le robot que ça marchera véritablement ! ». Mais, voilà ! il a prêché dans le désert. Je lui ai un jour, écrit pour lui dire : « Mais écoutez, pourquoi est-ce qu’on ne le fait pas ? » Il ne m’a jamais répondu (rires). Donc, il ne devait pas être tellement… – il est mort depuis – il ne devait pas être tellement excité par sa propre idée !
J’ai essayé de mettre tout ça ensemble, sur un sujet particulier. Ce n’est pas de l’actualité à proprement parler, mais, c’est ce paradoxe : nous nous représentons à la fois comme tellement intelligents qu’on ne peut pas comprendre exactement à quel point nous sommes intelligents. Et, par ailleurs, tellement stupides que nous sommes des marionnettes qu’on peut simplement agiter comme on veut, simplement en poussant sur le bon bouton ou en tirant sur la bonne ficelle. Allez, à bientôt !
=================
* The Washington Post : A new study suggests fake news might have won Donald Trump the 2016 election, par Aaron Blake, le 3 avril 2018
Selective Exposure to Misinformation: Evidence from the consumption of fake news during the 2016 U.S. presidential campaign, par Andrew Guess, Brendan Nyhan, Jason Reifler, le 9 janvier 2018
Fake News May Have Contributed to Trump’s 2016 Victory, par Richard Gunther, Paul A. Beck, Erik C. Nisbet, le 8 mars 2018
Laisser un commentaire