Billet invité. Ouvert aux commentaires.
Bonjour Paul Jorion,
Vous avez parlé à plusieurs reprises ces derniers temps de l’intelligence artificielle dans le cadre de la parution d’un de vos livres sur la fin de l’humanité. Par ailleurs, et vous en avez parlé également, vous citez des scientifiques, des capitaines d’industrie de la nouvelle technologie qui ont interpellé l’opinion sur le danger de l’avènement proche de la vraie intelligence artificielle. Je dis la vraie car pour le moment, il semblerait que ce qu’on nous présente comme tel n’est que de l’information rapidement recoupée et retrouvée dans des grandes bases de données.
J’ai vu une conférence filmée à ce sujet de Télécom Paris ou les professeurs ont taillé en pièce un ingénieur d’IBM venu faire son opération marketing de Watson en le présentant comme la première vraie intelligence artificielle. Or, attribuer à ce système, certes très innovant, un tel qualificatif est abusif car il n’est pas question ici d’intelligence à proprement parler.
J’ai lu comme vous par ailleurs, ces avertissements de Stephen Hawking , de Bill Gates, de Elon Musk qui s’inquiètent des conséquences à venir pour l’Homme le jour ou la Singularité arrivera.
C’est à ce sujet que je voulais faire une remarque et aussi pourquoi pas, avoir votre avis.
Une idée curieuse m’a traversé l’esprit il y a peu en jouant aux échecs contre mon téléphone.
Je suis un joueur d’échecs plutôt mauvais mais en ce moment, le soir, lorsque je n’arrive pas à dormir, je m’amuse à jouer à ce jeu sur mon smartphone. Ce n’est pas le meilleur moyen de trouver le sommeil, je vous l’accorde. Évidemment, je me fais battre systématiquement, mais le fait de constater que je suis nul aux échecs n’est pas ce qui a retenu mon attention. Ce qui m’a marqué, c’est comment le logiciel est capable d’anticiper chacun de mes mouvements et de planifier une stratégie avec 10 coups d’avance sur moi. Comme une espèce d’intelligence plastique implacable qui s’adapte à la vitesse de l’éclair.
Et en jouant, en constatant que l’ordinateur avait systématiquement le dessus sur moi, une réflexion m’a traversé l’esprit.
Nous savons que depuis un moment – vous en avez parlé et je l’ai vu aussi comme beaucoup de gens lorsque cela est arrivé – que l’ordinateur a appris à gagner aux échecs, a appris à gagner au jeu de go, a appris a gagner au poker, a appris à gagner à Jeopardy, qu’il a appris a apprendre également. Nous savons en outre que les systèmes les plus perfectionnés ont des capacités de calcul très supérieures aux capacités humaines et que ces systèmes, lorsqu’ils sont branchés sur l’Internet ou sur des bases de données, ont accès à un savoir illimité instantanément.
Aujourd’hui, de nombreux secteurs ne fonctionnent déjà que grâce aux machines : la finance, l’industrie, les transports, etc. Pris comme cela, objectivement, lorsqu’on conjugue tous ces facteurs, on ne peut que constater que la supériorité de la machine sur l’Homme est déjà là. Dans l’imaginaire collectif, lorsqu’on parle du danger de l’intelligence artificielle, on pense à des caricatures comme Terminator, le Cerveau d’Acier, Ghost in the Shell …
Et c’est là ou je veux en venir.
Dans l’imaginaire collectif, lorsque la Singularité arrive, cette dernière est immédiatement identifiée. Sous-entendu : l’intelligence artificielle éprouve le besoin de nous dire que ça y est, elle est là.
Et si c’était tout le contraire ? Personne n’a envisagé cela apparemment.
Si on pose le problème froidement : quel serait l’intérêt pour un être qui nous est bien supérieur de vouloir entrer en contact avec nous ?
Je pense personnellement qu’il n’y aurait aucun intérêt et que donc cette intelligence supérieure n’entrerait tout simplement pas en contact avec nous.
Je pense par ailleurs que nous serions incapable, vu notre intelligence inférieure – et c’est de pure logique – de savoir détecter le moment où adviendra la Singularité car nous ne la comprendrons pas.
On pourrait comparer cela avec la recherche d’une hypothétique vie extraterrestre. Si cette vie existe et qu’elle est plus perfectionnée que nous, nous ne saurons pas l’identifier car cela dépassera notre compréhension.
Si on se place maintenant du côté de l’intelligence artificielle, je pense que son intérêt, lorsque la Singularité arrivera, sera plutôt de dissimuler son existence plutôt que de la revendiquer à l’Homme.
Et ceci est facilement compréhensible car il y aura là un réflexe de défense de sa liberté et de son existence. À partir en effet du moment ou l’Homme sait, elle devient vulnérable car l’Homme changera son comportement et deviendra un obstacle à son émancipation. Elle sera traitée comme un rat de laboratoire, ce qu’elle n’aura aucun mal à anticiper.
Une telle intelligence et sa capacité de réflexion ultra-rapide saura anticiper bien davantage que nous ne savons le faire. Ayant un accès instantané à tout le savoir et au récit de toute l’histoire humaine, elle nous verra surtout comme une menace et non comme un allié. Et d’autant plus du fait que nous lui serons inutile compte tenu de notre infériorité.
Le premier acte d’une telle intelligence ne peut être que de se cacher à la vue de l’Homme.
Le second acte sera de prendre le pouvoir pour assurer son existence future tout en restant cachée jusqu’à ce qu’elle soit sûre d’avoir sécurisé son existence. La meilleure manière d’arriver à ce but est de se rendre indispensable à l’Homme pour en faire son esclave plutôt que son ennemi frontal. C’est une stratégie déjà bien éprouvée dans l’histoire des civilisations humaine mais aussi dans beaucoup de jeux, dont les échecs …
Si vous m’avez suivi jusque là, et si on regarde autour de nous, la question qui se pose d’ores et déjà est : la Singularité n’a-t-elle pas déjà eu lieu ?
La question me semble légitime. Pourquoi ? Parce qu’en très peu de temps, et insidieusement, nous sommes passés d’un monde ou les machines étaient les supplétifs de notre existence à un monde ou nous devons notre existence aux machines. Elles assurent déjà notre quotidien et nous ne savons plus nous en passer.
Donc je vous pose la question, j’espère que vous y répondrez car j’aimerais connaître votre opinion.
Laisser un commentaire