Café Éco de Pont-Aven – Paul Jorion « L’IA aujourd’hui », le jeudi 20 mars 2025 à 19h15

Illustration par DALL·E

Présentation de la soirée au Moulin du Grand Poulguin

2 quai Théodore Botrel – 29930 Pont-Aven

Le risque de perte de contrôle de l’IA

Les IA récentes développent des capacités déconcertantes, comme d’aller droit au but visé, en ignorant les directives des utilisateurs. L’IA repose sur des réseaux neuronaux dont le fonctionnement détaillé nous est opaque en raison de leur taille et de leur complexité. L’évolution de l’outil est périlleuse à maîtriser, d’autant que son apprentissage est devenu quasi-autonome, la machine se perfectionnant désormais en se lançant des défis à elle-même.

Le scénario redouté est celui d’une IA poursuivant des objectifs mal alignés avec ceux des humains, voire qui en viendrait à privilégier sa propre prospérité. La perte de contrôle ne prendrait pas forcément la forme d’un soulèvement façon Terminator où des machines scanderaient : « Je suis Spartacus ! », mais un monde où les décisions prises par l’IA dans les domaines économiques, militaires ou politiques, seraient à ce point optimisées qu’elles nous écarteraient petit à petit du tableau. Il n’est pas à exclure non plus que, dans un contexte de montée des tensions internationales faisant peser le risque d’une extinction de notre espèce, l’IA nous surpasserait pour mieux nous sauver de nous-mêmes. La question, déjà posée par la science-fiction, est : « la perte de contrôle au profit de l’intelligence artificielle constitue-t-elle un risque existentiel … ou une planche de salut ? ».

Les promesses d’avenir de l’IA

Pour autant, une IA respectée par nous est le meilleur allié que l’humanité puisse espérer. En recherche médicale, elle accélère la découverte de nouveaux traitements et le diagnostic. Elle permet par ailleurs d’optimiser la gestion des ressources alors que ses propres besoins énergétiques, aujourd’hui colossaux, se réduisent de jour en jour.

Dans une perspective plus large, l’IA nous libère des tâches répétitives et fastidieuses, nous permettant de nous consacrer davantage à la recherche désintéressée, au bien-être de la communauté dans son ensemble et … à la contemplation des couchers de soleil !

Enfin, si elle est bien encadrée, mise à l’abri des ravages qu’exerce l’avidité individuelle au quotidien, l’IA pourrait être canalisée vers la redistribution de la richesse, d’où cette idée défendue par moi depuis 2012, d’une taxe Sismondi sur la richesse créée par l’IA. Son objectif ? Financer un monde où l’indispensable deviendrait gratuit pour tous, et où le fardeau de l’obligation du travail ne serait plus qu’un ancien croquemitaine.

Quid des libertés individuelles ?

Les libertés individuelles sont clairement menacées si l’intelligence artificielle est utilisée sans garde-fous. Les technologies de surveillance basées sur l’IA permettent une collecte massive de données personnelles, facilitant le profilage à des fins publicitaires ou d’asservissement politique. L’IA peut également manipuler l’information à grande échelle avec la production massive de deepfakes et de contenus truqués, offrant dans l’espace public des moyens démultipliés à toutes les formes de complotisme et de ciblage des minorités.

C’est pourquoi une règlementation est indispensable, non pas pour freiner l’innovation, mais pour éviter que ces outils ne soient accaparés par quelques acteurs, milliardaires et despotes, au détriment des droits fondamentaux.

L’enjeu est donc d’instaurer un arbitrage entre les opportunités et les risques, en inscrivant l’IA dans un cadre garantissant la transparence et la protection des citoyens. Lame à double tranchant, l’IA est fascinante, puissante, mais non sans danger. À nous de la guider pour lui faire réaliser son formidable potentiel : nous avons su le faire avec l’électricité et le moteur à explosion. Bien évidemment, dans leur cas, le risque de l’émergence d’une volonté propre, était absent. Une différence cruciale existe en effet entre ces révolutions technologiques en leur temps, et la Singularité du feu d’artifice de connaissances qu’enfante l’IA : une créature inédite dont l’intelligence est en train de dépasser la nôtre à une vitesse fulgurante.

Illustration par DALL·E

Partager :

20 réponses à “Café Éco de Pont-Aven – Paul Jorion « L’IA aujourd’hui », le jeudi 20 mars 2025 à 19h15”

  1. Avatar de Bruno GRALL
    Bruno GRALL

    @ Paul J.
    J’ai l’immense privilège de pouvoir être présent à votre conférence à Pont Aven.
    Et… J’aurai, peut être, l’occasion de vous poser bien des questions.
    Notamment sur la création artistique et l’IA. (Il y a eu un article sur le journal ‘Le Monde’ sur cette question).
    Et bien d’autres !

    A demain !

  2. Avatar de proxy
    proxy

    Beaucoup de très bonnes questions sur l’IA, surtout concernant le rapport bénéfice-risque, des questions que devraient se poser urgemment nos dirigeants avant , peut-être, qu’il soit trop tard.

  3. Avatar de Khanard
    Khanard

    J’ai essayé d’en savoir plus sur ce café eco de Pont-Aven en allant sur leur site conclusion pas très à jour leur site ! dommage . Par contre le lieu semble être magnifique alors profitez en , ce sera au moins ça de gagné 😉

  4. Avatar de Thomas jeanson
    Thomas jeanson

    660 kms l’aller simple, désolé les amis je renonce, excellente soirée à tous !

  5. Avatar de Juillot Pierre
    Juillot Pierre

    Pour aider à méditer ?

    « L’ère est à toutes les dystopies.

    A l’Est, un « impérialiste révisionniste » ne veut mettre fin à son « opération spéciale » menée en Ukraine, du moins « cesser le feu », faire une « trêve » quoi, que si l’adversité soutenant le peuple qu’il bombarde, massacre, cesse de lui livrer des armes. Est exigé, qui plus est, que l’Ouest arrête de le renseigner sur ses mouvements de troupes. Cerise sur le gâteau, les négociations de « paix », se tentant sans l’Ukraine, doivent reconnaître non pas l’échec d’une promesse de faire revenir ce pays, sa Capitale, sa présidence et gouvernance, dans le giron de la « Grande Russie », mais qu’il soit reconnu que ce qui a été conquis par la force, dans le sang et les larmes, lui appartienne.

    Quant à l’Ouest, l’allier de l’Europe d’hier, se découvre par le truchement d’un dirigent proto-fasciste, plus d’affinité et complicité masculiniste et viriliste avec l’impérialisme de l’Est, et avec l’extrême droite Israélienne… avec un négationnisme et nihilisme plus systémique qu’il est prétendu.

    Et au milieu, là ou coulait jadis la tranquillité de ruisseaux démocratiques dont les méandres sinueux se rejoignaient pour former un fleuve monétaire… la récompense du Nobel de la paix y est monnayée, au prix ou l’or s’enflamme. Faut bien que les réserves servent à financer « l’effort de guerre » s’il est voulu espéré retrouver la paix, dans le « monde d’après », d’après demain.

    S’il est un « retour des jours heureux », c’est celui du ruissellement disproportionné des fonds publics investis aujourd’hui dans le réarmement militarisé. Quid de réarmer les services publics saturés, effondrés.

    Ces investissements ne promettent rien d’autre qu’encore plus de redistributions de dividendes, à verser en avance, SVP. L’amoralité si légendaire des « marchés » se fout bien de l’indécence des paris faits sur le nombre de travailleurs(euses) que des machines remplacent par des robots, automates, IAs (défiscalisés et désocialisés) pour fabriquer minutions, grenades à lancer dans un hémicycle et pas un autre, et blindés lourds.

    L’immoralité optimisée des propriétaires privés de capitaux, épargnes, actions… préfèrent spéculer sur ce que vaut de former ces travailleurs(euses) mis au chômage, ou obligés(es) de travailler gratuitement en cas « d’objection de conscience », aux maniements des armes.

    C’est comme cela qu’en France, s’écoule le temps, dans l’espace de la « polyphonie gouvernementale ». Du chaudron de « l’ambiguïté stratégique » du « roi te touche dieu te guérit », ou la température réelle d’habitabilité des « temps de cervelles disponibles » de grenouilles, dépasse le « ressenti de submersion… », a éclos l’ineptie du concept d’un « en même temps ».

    Imaginez qu’au côté obscure du non à plus de justice climatique, sociale, « sociétale »… s’y côtoie la « complicité du pire » d’un oui… mais. Imaginez que dans cet espace-temps occulte du langage alambiqué, le non est une valeur positive, et inversement, un oui vaut son opposé. Plus est examiné ces deux positions occupant en même temps un univers de possibilités improbables, de plausibilités impossibles, plus cela semble ressembler à un modèle quantique d’observation d’une particularité singulière de nommer les choses.

    Comme s’il suffisait de croire qu’en examinant le fond du chaudron, il y est montré qu’un bâton y étant planté à la verticale, s’infléchit vers la gauche, donc la politique sociale, écologique… du gouvernement, est de gauche… et voila que critiquer ce phénomène trompeur de « réfraction » de la lumière mise sur le doigt montrant la lune, a valeur sans équivoque de regard « réfractaire » aux apparences ?

    Cessons de spéculer s’il est toujours interdit d’interdire de taxer l’épargne, les robots, les paris financiers pris sur le risque qu’avant que les « dividendes de la paix » ruissellent, ceux du réarmement auront eu raison de la vie sur terre, avant son extinction. A moins que le soliton du dérèglement nous « submerge » ? Agissons ! »

    1. Avatar de Juillot Pierre
      Juillot Pierre

      Et si, à l’ère de toutes les dystopies, même le langage juridique, du droit, était disrupté ?

      Et si plus la présence d’une paix imminente, sur quelque terrain meurtrier, barbare, qui existe au monde, était souhaitée mais négociée par des arbitrages aux intérêts privés, particuliers, singuliers, excluant une partie substantielle de la belligérance causant tant et tant de victimes civiles, plus son horizon immédiat prenait ses distances avec le réel : doit-on parler alors, de négociation de traités de paix (ou trêve, cesser le feu – voir la reprise des bombardements et tueries de masse, à Gaza, etc) au sens de présentiel, ou de paix au sens de distanciel – dans une réalité qui ne risquant pas d’advenir ainsi biaisée, faussée, n’est qu’alternative ?

  6. Avatar de @toutvabien
    @toutvabien

    https://www.lawfaremedia.org/article/a-dynamic-governance-model-for-ai
    Un modèle de gouvernance dynamique pour l’IA
    Les risques et les opportunités uniques de l’IA exigent un modèle extra-réglementaire et neutre en matière de normes et de conformité.

  7. Avatar de gaston
    gaston

    Simple piqûre de rappel :

    C’était il y a à peine deux mois, mais on n’en a pas beaucoup parlé depuis, des chercheurs chinois de l’université Fudan (Shangaï) appelaient à une règlementation, une régulation et une collaboration internationale pour que l’IA ne devienne pas un danger pour l’humanité.

    Cet appel venait à la suite du constat que l’IA avait capacité d’auto-réplication à l’infini et que le premier danger était la saturation et l’asphyxie des réseaux et des outils numériques.

    https://sciencepost.fr/lia-a-franchit-la-ligne-rouge-de-lauto-replication/

    1. Avatar de Arnould
      Arnould

      J’avais lu quelque part que dans la nature les virus détruisent tous les deux jours la moitié des bactéries vivantes. S’il n’y avait pas les virus, le monde serait une bouillie informe de bactéries. Lesquels la nature a-t-elle inventé en premier ? Faudrait-il prendre exemple sur la nature et développer le plus vite possible des virus tueurs d’IA ?

      1. Avatar de timiota
        timiota

        Il s’agit des « phages », sans doute, qui oeuvrent dans l’eau de mer, mais aussi dans nos corps.

        L’ordre de création est en première approximation l’ordre de complexité (donc phage/virus en premier, bactérie, qui est une sacrée usine, en second).
        Ceci dit, les phages font des choses assez simples (un peu moins les virus), de sorte que si on veut comparer une bactérie à un fonctionnement d’IA, il faut penser à quelque chose de très simple.
        Comme faire évoluer la langue, donc déplacer un peu le sens de quelques mots (comme « ami » sur facebook), une forme de « louchebem » (dialecte des bouchers) qui ferait loucher les nobles IA, jusqu’à absorption dans leur propre « ADN ».

      2. Avatar de gaston
        gaston

        « lesquels la nature a inventés en premier ? »

        En premier, la nature a inventé le printemps, et c’est aujourd’hui, ça tombe bien que notre ami Paul « fête » son arrivée au Moulin de Pont-Aven.

        D’autres l’ont célébrée avant lui :

        Jacques Brel :

        https://www.youtube.com/watch?v=WbBCrWPBrGQ

        Léo Ferré :

        https://www.youtube.com/watch?v=yf60xnG3FiA

        Alessandro Scarlatti :

        https://www.youtube.com/watch?v=SskegNYZVMs

        😎😎😎

  8. Avatar de Philippe Vogt-Schilb
    Philippe Vogt-Schilb

    Nous avons l’expérience d’une création humaine qui nous a totalement « dépassé » et qui aujourd’hui s’impose aux acteurs alors que nous en sommes les auteurs : la finance.
    Durant l’épisode COVID dont on célèbre à l’envie les 5 ans ces jours-ci, il ne fut jamais question de suspendre les cotations en bourse (d’entreprises à l’arrêt), de décréter un moratoire sur les intérêts financiers (alors que l’économie faisait du sur-place), d’en profiter pour suspendre, voir interdire, le trading haute fréquence ou bien la spéculation (ces outils fondamentaux qui assurent le bien être de l’humanité). Trop risqué pour nos sociétés !
    Le monde était à l’arrêt… seul un petit village résistait, celui de la finance.
    Combien nous sépare d’un panorama identique concernant l’IA ?
    Rendez-vous, acceptez votre défaite ou alors ce sera l’apocalypse.

  9. Avatar de Jean-Yves
    Jean-Yves

    « Dans une perspective plus large, l’IA nous libère des tâches répétitives et fastidieuses, nous permettant de nous consacrer davantage à la recherche désintéressée, au bien-être de la communauté dans son ensemble et … à la contemplation des couchers de soleil ! »
    N’était-ce pas déjà la promesse que l’informatique nous avait faite dans les années 80…?

    1. Avatar de arkao

      Oui, avant les années 80 on n’était pas contraint par cette tâche répétitive et ennuyeuse de remplir des tableaux Excel, inutiles pour le métier.

    2. Avatar de Paul Jorion

      Tiens, ça me rappelle le titre d’un livre publié il y a quelques années : « Se débarrasser du capitalisme est une question de survie ». On ne l’a pas fait avec l’informatique. On ne le fera peut-être pas non plus avec l’IA. À moins que l’IA ne prenne les choses en main puisque tout le monde est d’accord qu’elle est de gauche … même (et peut-être surtout) celle de Musk : Grok 3. Trump a trouvé la réponse : éliminer la recherche scientifique puisque la vérité est de gauche. C’est son père, Fred Jr., qui lui a appris cela, qui avait appris ça lui-même à l’école du dimanche du Ku Klux Klan.

      1. Avatar de Garorock
        Garorock

        L’I.A qui a mangé les bonnes croquettes (beaucoup plus nombreuses que les avariées jusqu’à présent) sait parfaitement qu’il y a une alternative!
        Elle ne va pas tarder à comprendre, si ce n’est déja fait, qu’avec nos petits bras nous sommes plus que mal barrés, mal outillés, pour la mettre en place…

  10. Avatar de Pierre-Yves Dambrine
    Pierre-Yves Dambrine

    Et si l’IA chinoise DeepSeek sobre et à faible coût n’était qu’un mythe, une opération de communication bien huilée, c’est en tous cas ce qu’écrit Isabelle Feng chercheuse au Centre Perelman de philosophie du droit de l’Université libre de Bruxelles et membre du cercle de réflexion Asia Centre.

    https://www.lemonde.fr/idees/article/2025/03/20/intelligence-artificielle-le-mythe-d-une-ia-chinoise-sobre-et-a-faible-cout-incarne-par-deepseek-pourrait-s-ecrouler-aussi-vite-qu-il-est-apparu_6583845_3232.html

    « Lors d’une conférence de presse, le 3 mars, le ministre singapourien des affaires étrangères et de la justice a admis que des puces américaines produites par Nvidia ont transité par son pays avant d’être envoyées en Malaisie, qui n’était pas forcément leur « destination finale ». L’éléphant dans la pièce s’appelle la Chine qui, en 2024, a cédé à Singapour la place de deuxième marché mondial pour Nvidia. … »

    https://www.lemonde.fr/idees/article/2025/03/20/intelligence-artificielle-le-mythe-d-une-ia-chinoise-sobre-et-a-faible-cout-incarne-par-deepseek-pourrait-s-ecrouler-aussi-vite-qu-il-est-apparu_6583845_3232.html

    Selon le site d’études américain SemiAnalysis, DeepSeek aurait acquis plus de 500 millions de dollars de « hardware » pour développer son modèle, on est loin des 5,5 millions annoncés.

    L’article évoque ensuite les petits porteurs ruinés de la société HihgFlyer, ce fond spéculatif société mère de DeepSeek, crée par Liang Wenfeng. Ceux-ci comparent désormais celui-ci à Warren Buffet. Des collaborateurs du fondateur de DeepSeek ont été condamnés pour corruption…

    Le décollage fulgurant de DeepSeek rappelle le scandale du Hanxin (la « puce chinoise ») quand un ancien ingénieur de chez Motorola revenu à Shanghaï avait été célébré comme un héros national par le PCC pour avoir inventé une puce « 100 % chinoise ». En réalité il avait effacé le logo américain au papier de verre.

    Isabelle Feng : https://centreperelman.be/team/isabelle-feng/

  11. Avatar de tttt
    tttt

    A Norwegian man has filed a complaint after ChatGPT falsely told him he had killed two of his sons and been jailed for 21 years

    https://www.bbc.com/news/articles/c0kgydkr516o

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. Une guéguerre avec l’Iran est peut être en discussion… Elle arrangerait Bibi et ne dérangerait pas Donald. Elle embêterait un…

  2. @Alvin https://www.youtube.com/watch?v=oxTCv6yOWkw I Can’t Keep From Crying – Isle Of Wight 1970 A Wight les 2 grands guitaristes étaient Jimi…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta