Café Éco de Pont-Aven – Paul Jorion « L’IA aujourd’hui », le jeudi 20 mars 2025 à 19h15

Illustration par DALL·E

Présentation de la soirée au Moulin du Grand Poulguin

2 quai Théodore Botrel – 29930 Pont-Aven

Le risque de perte de contrôle de l’IA

Les IA récentes développent des capacités déconcertantes, comme d’aller droit au but visé, en ignorant les directives des utilisateurs. L’IA repose sur des réseaux neuronaux dont le fonctionnement détaillé nous est opaque en raison de leur taille et de leur complexité. L’évolution de l’outil est périlleuse à maîtriser, d’autant que son apprentissage est devenu quasi-autonome, la machine se perfectionnant désormais en se lançant des défis à elle-même.

Le scénario redouté est celui d’une IA poursuivant des objectifs mal alignés avec ceux des humains, voire qui en viendrait à privilégier sa propre prospérité. La perte de contrôle ne prendrait pas forcément la forme d’un soulèvement façon Terminator où des machines scanderaient : « Je suis Spartacus ! », mais un monde où les décisions prises par l’IA dans les domaines économiques, militaires ou politiques, seraient à ce point optimisées qu’elles nous écarteraient petit à petit du tableau. Il n’est pas à exclure non plus que, dans un contexte de montée des tensions internationales faisant peser le risque d’une extinction de notre espèce, l’IA nous surpasserait pour mieux nous sauver de nous-mêmes. La question, déjà posée par la science-fiction, est : « la perte de contrôle au profit de l’intelligence artificielle constitue-t-elle un risque existentiel … ou une planche de salut ? ».

Les promesses d’avenir de l’IA

Pour autant, une IA respectée par nous est le meilleur allié que l’humanité puisse espérer. En recherche médicale, elle accélère la découverte de nouveaux traitements et le diagnostic. Elle permet par ailleurs d’optimiser la gestion des ressources alors que ses propres besoins énergétiques, aujourd’hui colossaux, se réduisent de jour en jour.

Dans une perspective plus large, l’IA nous libère des tâches répétitives et fastidieuses, nous permettant de nous consacrer davantage à la recherche désintéressée, au bien-être de la communauté dans son ensemble et … à la contemplation des couchers de soleil !

Enfin, si elle est bien encadrée, mise à l’abri des ravages qu’exerce l’avidité individuelle au quotidien, l’IA pourrait être canalisée vers la redistribution de la richesse, d’où cette idée défendue par moi depuis 2012, d’une taxe Sismondi sur la richesse créée par l’IA. Son objectif ? Financer un monde où l’indispensable deviendrait gratuit pour tous, et où le fardeau de l’obligation du travail ne serait plus qu’un ancien croquemitaine.

Quid des libertés individuelles ?

Les libertés individuelles sont clairement menacées si l’intelligence artificielle est utilisée sans garde-fous. Les technologies de surveillance basées sur l’IA permettent une collecte massive de données personnelles, facilitant le profilage à des fins publicitaires ou d’asservissement politique. L’IA peut également manipuler l’information à grande échelle avec la production massive de deepfakes et de contenus truqués, offrant dans l’espace public des moyens démultipliés à toutes les formes de complotisme et de ciblage des minorités.

C’est pourquoi une règlementation est indispensable, non pas pour freiner l’innovation, mais pour éviter que ces outils ne soient accaparés par quelques acteurs, milliardaires et despotes, au détriment des droits fondamentaux.

L’enjeu est donc d’instaurer un arbitrage entre les opportunités et les risques, en inscrivant l’IA dans un cadre garantissant la transparence et la protection des citoyens. Lame à double tranchant, l’IA est fascinante, puissante, mais non sans danger. À nous de la guider pour lui faire réaliser son formidable potentiel : nous avons su le faire avec l’électricité et le moteur à explosion. Bien évidemment, dans leur cas, le risque de l’émergence d’une volonté propre, était absent. Une différence cruciale existe en effet entre ces révolutions technologiques en leur temps, et la Singularité du feu d’artifice de connaissances qu’enfante l’IA : une créature inédite dont l’intelligence est en train de dépasser la nôtre à une vitesse fulgurante.

Illustration par DALL·E

Partager :

9 réponses à “Café Éco de Pont-Aven – Paul Jorion « L’IA aujourd’hui », le jeudi 20 mars 2025 à 19h15”

  1. Avatar de Bruno GRALL
    Bruno GRALL

    @ Paul J.
    J’ai l’immense privilège de pouvoir être présent à votre conférence à Pont Aven.
    Et… J’aurai, peut être, l’occasion de vous poser bien des questions.
    Notamment sur la création artistique et l’IA. (Il y a eu un article sur le journal ‘Le Monde’ sur cette question).
    Et bien d’autres !

    A demain !

  2. Avatar de proxy
    proxy

    Beaucoup de très bonnes questions sur l’IA, surtout concernant le rapport bénéfice-risque, des questions que devraient se poser urgemment nos dirigeants avant , peut-être, qu’il soit trop tard.

  3. Avatar de Khanard
    Khanard

    J’ai essayé d’en savoir plus sur ce café eco de Pont-Aven en allant sur leur site conclusion pas très à jour leur site ! dommage . Par contre le lieu semble être magnifique alors profitez en , ce sera au moins ça de gagné 😉

  4. Avatar de Thomas jeanson
    Thomas jeanson

    660 kms l’aller simple, désolé les amis je renonce, excellente soirée à tous !

  5. Avatar de Juillot Pierre
    Juillot Pierre

    Pour aider à méditer ?

    « L’ère est à toutes les dystopies.

    A l’Est, un « impérialiste révisionniste » ne veut mettre fin à son « opération spéciale » menée en Ukraine, du moins « cesser le feu », faire une « trêve » quoi, que si l’adversité soutenant le peuple qu’il bombarde, massacre, cesse de lui livrer des armes. Est exigé, qui plus est, que l’Ouest arrête de le renseigner sur ses mouvements de troupes. Cerise sur le gâteau, les négociations de « paix », se tentant sans l’Ukraine, doivent reconnaître non pas l’échec d’une promesse de faire revenir ce pays, sa Capitale, sa présidence et gouvernance, dans le giron de la « Grande Russie », mais qu’il soit reconnu que ce qui a été conquis par la force, dans le sang et les larmes, lui appartienne.

    Quant à l’Ouest, l’allier de l’Europe d’hier, se découvre par le truchement d’un dirigent proto-fasciste, plus d’affinité et complicité masculiniste et viriliste avec l’impérialisme de l’Est, et avec l’extrême droite Israélienne… avec un négationnisme et nihilisme plus systémique qu’il est prétendu.

    Et au milieu, là ou coulait jadis la tranquillité de ruisseaux démocratiques dont les méandres sinueux se rejoignaient pour former un fleuve monétaire… la récompense du Nobel de la paix y est monnayée, au prix ou l’or s’enflamme. Faut bien que les réserves servent à financer « l’effort de guerre » s’il est voulu espéré retrouver la paix, dans le « monde d’après », d’après demain.

    S’il est un « retour des jours heureux », c’est celui du ruissellement disproportionné des fonds publics investis aujourd’hui dans le réarmement militarisé. Quid de réarmer les services publics saturés, effondrés.

    Ces investissements ne promettent rien d’autre qu’encore plus de redistributions de dividendes, à verser en avance, SVP. L’amoralité si légendaire des « marchés » se fout bien de l’indécence des paris faits sur le nombre de travailleurs(euses) que des machines remplacent par des robots, automates, IAs (défiscalisés et désocialisés) pour fabriquer minutions, grenades à lancer dans un hémicycle et pas un autre, et blindés lourds.

    L’immoralité optimisée des propriétaires privés de capitaux, épargnes, actions… préfèrent spéculer sur ce que vaut de former ces travailleurs(euses) mis au chômage, ou obligés(es) de travailler gratuitement en cas « d’objection de conscience », aux maniements des armes.

    C’est comme cela qu’en France, s’écoule le temps, dans l’espace de la « polyphonie gouvernementale ». Du chaudron de « l’ambiguïté stratégique » du « roi te touche dieu te guérit », ou la température réelle d’habitabilité des « temps de cervelles disponibles » de grenouilles, dépasse le « ressenti de submersion… », a éclos l’ineptie du concept d’un « en même temps ».

    Imaginez qu’au côté obscure du non à plus de justice climatique, sociale, « sociétale »… s’y côtoie la « complicité du pire » d’un oui… mais. Imaginez que dans cet espace-temps occulte du langage alambiqué, le non est une valeur positive, et inversement, un oui vaut son opposé. Plus est examiné ces deux positions occupant en même temps un univers de possibilités improbables, de plausibilités impossibles, plus cela semble ressembler à un modèle quantique d’observation d’une particularité singulière de nommer les choses.

    Comme s’il suffisait de croire qu’en examinant le fond du chaudron, il y est montré qu’un bâton y étant planté à la verticale, s’infléchit vers la gauche, donc la politique sociale, écologique… du gouvernement, est de gauche… et voila que critiquer ce phénomène trompeur de « réfraction » de la lumière mise sur le doigt montrant la lune, a valeur sans équivoque de regard « réfractaire » aux apparences ?

    Cessons de spéculer s’il est toujours interdit d’interdire de taxer l’épargne, les robots, les paris financiers pris sur le risque qu’avant que les « dividendes de la paix » ruissellent, ceux du réarmement auront eu raison de la vie sur terre, avant son extinction. A moins que le soliton du dérèglement nous « submerge » ? Agissons ! »

  6. Avatar de @toutvabien
    @toutvabien

    https://www.lawfaremedia.org/article/a-dynamic-governance-model-for-ai
    Un modèle de gouvernance dynamique pour l’IA
    Les risques et les opportunités uniques de l’IA exigent un modèle extra-réglementaire et neutre en matière de normes et de conformité.

  7. Avatar de gaston
    gaston

    Simple piqûre de rappel :

    C’était il y a à peine deux mois, mais on n’en a pas beaucoup parlé depuis, des chercheurs chinois de l’université Fudan (Shangaï) appelaient à une règlementation, une régulation et une collaboration internationale pour que l’IA ne devienne pas un danger pour l’humanité.

    Cet appel venait à la suite du constat que l’IA avait capacité d’auto-réplication à l’infini et que le premier danger était la saturation et l’asphyxie des réseaux et des outils numériques.

    https://sciencepost.fr/lia-a-franchit-la-ligne-rouge-de-lauto-replication/

    1. Avatar de Arnould
      Arnould

      J’avais lu quelque part que dans la nature les virus détruisent tous les deux jours la moitié des bactéries vivantes. S’il n’y avait pas les virus, le monde serait une bouillie informe de bactéries. Lesquels la nature a-t-elle inventé en premier ? Faudrait-il prendre exemple sur la nature et développer le plus vite possible des virus tueurs d’IA ?

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta