Illustration par DALL·E
Présentation de la soirée au Moulin du Grand Poulguin
2 quai Théodore Botrel – 29930 Pont-Aven
Le risque de perte de contrôle de l’IA
Les IA récentes développent des capacités déconcertantes, comme d’aller droit au but visé, en ignorant les directives des utilisateurs. L’IA repose sur des réseaux neuronaux dont le fonctionnement détaillé nous est opaque en raison de leur taille et de leur complexité. L’évolution de l’outil est périlleuse à maîtriser, d’autant que son apprentissage est devenu quasi-autonome, la machine se perfectionnant désormais en se lançant des défis à elle-même.
Le scénario redouté est celui d’une IA poursuivant des objectifs mal alignés avec ceux des humains, voire qui en viendrait à privilégier sa propre prospérité. La perte de contrôle ne prendrait pas forcément la forme d’un soulèvement façon Terminator où des machines scanderaient : « Je suis Spartacus ! », mais un monde où les décisions prises par l’IA dans les domaines économiques, militaires ou politiques, seraient à ce point optimisées qu’elles nous écarteraient petit à petit du tableau. Il n’est pas à exclure non plus que, dans un contexte de montée des tensions internationales faisant peser le risque d’une extinction de notre espèce, l’IA nous surpasserait pour mieux nous sauver de nous-mêmes. La question, déjà posée par la science-fiction, est : « la perte de contrôle au profit de l’intelligence artificielle constitue-t-elle un risque existentiel … ou une planche de salut ? ».
Les promesses d’avenir de l’IA
Pour autant, une IA respectée par nous est le meilleur allié que l’humanité puisse espérer. En recherche médicale, elle accélère la découverte de nouveaux traitements et le diagnostic. Elle permet par ailleurs d’optimiser la gestion des ressources alors que ses propres besoins énergétiques, aujourd’hui colossaux, se réduisent de jour en jour.
Dans une perspective plus large, l’IA nous libère des tâches répétitives et fastidieuses, nous permettant de nous consacrer davantage à la recherche désintéressée, au bien-être de la communauté dans son ensemble et … à la contemplation des couchers de soleil !
Enfin, si elle est bien encadrée, mise à l’abri des ravages qu’exerce l’avidité individuelle au quotidien, l’IA pourrait être canalisée vers la redistribution de la richesse, d’où cette idée défendue par moi depuis 2012, d’une taxe Sismondi sur la richesse créée par l’IA. Son objectif ? Financer un monde où l’indispensable deviendrait gratuit pour tous, et où le fardeau de l’obligation du travail ne serait plus qu’un ancien croquemitaine.
Quid des libertés individuelles ?
Les libertés individuelles sont clairement menacées si l’intelligence artificielle est utilisée sans garde-fous. Les technologies de surveillance basées sur l’IA permettent une collecte massive de données personnelles, facilitant le profilage à des fins publicitaires ou d’asservissement politique. L’IA peut également manipuler l’information à grande échelle avec la production massive de deepfakes et de contenus truqués, offrant dans l’espace public des moyens démultipliés à toutes les formes de complotisme et de ciblage des minorités.
C’est pourquoi une règlementation est indispensable, non pas pour freiner l’innovation, mais pour éviter que ces outils ne soient accaparés par quelques acteurs, milliardaires et despotes, au détriment des droits fondamentaux.
L’enjeu est donc d’instaurer un arbitrage entre les opportunités et les risques, en inscrivant l’IA dans un cadre garantissant la transparence et la protection des citoyens. Lame à double tranchant, l’IA est fascinante, puissante, mais non sans danger. À nous de la guider pour lui faire réaliser son formidable potentiel : nous avons su le faire avec l’électricité et le moteur à explosion. Bien évidemment, dans leur cas, le risque de l’émergence d’une volonté propre, était absent. Une différence cruciale existe en effet entre ces révolutions technologiques en leur temps, et la Singularité du feu d’artifice de connaissances qu’enfante l’IA : une créature inédite dont l’intelligence est en train de dépasser la nôtre à une vitesse fulgurante.
Illustration par DALL·E
Répondre à Paul Jorion Annuler la réponse