Blog de Paul Jorion

La fermeture d’un institut à l’Université d’Oxford pourrait passer pour un événement d’un intérêt purement anecdotique. Or ce n’est pas le cas et si vous suivez l’actualité du Blog de PJ vous l’aurez aussitôt compris. L’événement impacte à des degrés divers mais significatifs un certain nombre de choses dont l’avenir du courant politique qu’est le libertarianisme, la réception et l’intégration de l’intelligence artificielle dans notre vie quotidienne sous la forme de la réglementation plus ou moins tatillonne du secteur et d’un vent de panique savamment orchestré à son propos, le futur de l’influence géopolitique d’Elon Musk et d’un Nouvel Ordre Mondial à la tête duquel il se nommerait, ainsi que la perspective pour Sam Bankman-Fried, empereur déchu des cryptos, de demeurer en prison 25 ans comme la justice le lui a promis.

L’article du Guardian est très complet et nous pourrons couvrir ce qui manquerait dans les commentaires. Si toutefois le nom de Nick Bostrom vous était inconnu, cliquez sur le lien pour en savoir plus et si vous n’avez jamais entendu parler du mouvement (de la secte) de l’effective altruism (altruisme efficace), voyez ce que j’en disais mardi dans mon billet intitulé Purge chez OpenAI : Elon Musk, Nouvel Ordre Mondial altruiste, etc.

Oxford ferme un institut dirigé par un philosophe soutenu par Elon Musk

Le Future of Humanity Institute de Nick Bostrom a fermé ses portes cette semaine dans ce que le philosophe d’origine suédoise qualifie de « mort par la bureaucratie ».

Nick Robins-Early
samedi 20 avril 2024

L’Université d’Oxford a fermé cette semaine un institut universitaire dirigé par l’un des philosophes préférés d’Elon Musk. Le Future of Humanity Institute, consacré au mouvement long-termiste et à d’autres idées approuvées par la Silicon Valley telles que l’altruisme efficace, a fermé ses portes cette semaine après 19 ans d’activité. Musk avait fait don d’un million de livres sterling au FHI en 2015, par l’intermédiaire d’une organisation sœur, afin d’étudier la menace que représente l’intelligence artificielle. Il avait également encouragé les idées de son dirigeant pendant près d’une décennie sur X, anciennement Twitter.

Le centre était dirigé par Nick Bostrom, un philosophe d’origine suédoise dont les écrits sur la menace à long terme d’une IA remplaçant l’humanité ont fait de lui une célébrité parmi l’élite technologique et l’ont régulièrement fait figurer sur les listes des plus grands penseurs mondiaux. Le directeur général d’OpenAI, Sam Altman, le fondateur de Microsoft, Bill Gates, et le chef de Tesla, Musk, ont tous écrit des notices pour son best-seller de 2014, Superintelligence.

« Il vaut la peine de lire Superintelligence de Bostrom. Nous devons être très prudents avec l’IA. Potentiellement plus dangereuse que les armes nucléaires », a tweeté Musk en 2014.

Bostrom a démissionné d’Oxford à la suite de la fermeture de l’institut, a-t-il déclaré au Guardian.

La fermeture du centre de Bostrom est un nouveau coup dur pour les mouvements de l’altruisme efficace et du long-termisme que le philosophe a défendus pendant des décennies et qui, ces dernières années, se sont embourbés dans des scandales liés au racisme, au harcèlement sexuel et à la fraude financière. L’année dernière, M. Bostrom lui-même a présenté ses excuses après qu’un courriel vieux de plusieurs dizaines d’années a fait surface, dans lequel il affirmait que « les Noirs sont plus stupides que les Blancs » et utilisait le mot « nigger ».

Bostrom, qui a popularisé la théorie selon laquelle l’humanité pourrait bien vivre dans une simulation, que Musk n’a cessé de répéter, a évoqué la fermeture de l’institut dans un long rapport final publié sur son site internet cette semaine. Il a fait l’éloge du travail du centre, tout en précisant qu’il était confronté à des « vents contraires administratifs » de la part d’Oxford et de son département de philosophie.

« La fermeture est l’aboutissement d’un processus qui s’est déroulé sur plusieurs années », a déclaré M. Bostrom au Guardian par courrier électronique. « Nous avons été financés initialement pour trois ans, en 2005, puis cette période a été prolongée à plusieurs reprises.

« Finalement, une pression de conformisme a commencé à s’exercer (nous étions administrativement hébergés au sein de la faculté de philosophie, même si la majorité de notre équipe de recherche était alors composée de non-philosophes), et la bureaucratie nous a tués ».

M. Bostrom a ajouté qu’il avait été touché par le nombre de personnes s’exprimant en faveur du travail de l’institut, et que ce fut un privilège de travailler avec ses collègues.

 » FHI était un endroit spécial avec une culture intellectuelle unique et très fructueuse « , a déclaré M. Bostrom. « Je pense que nous avons fait un bon parcours !

Une déclaration sur le site web de Future of Humanity affirme qu’Oxford a gelé la collecte de fonds et l’embauche en 2020, et que fin 2023, la faculté de philosophie a décidé de ne pas renouveler les contrats du personnel restant de l’institut. Oxford et son département de philosophie n’ont pas répondu aux demandes de commentaires.

L’altruisme efficace, la croyance utilitariste selon laquelle les gens devraient focaliser leur vie et leurs ressources sur la maximisation du bien-être pour le plus grand nombre qu’ils sont susceptibles d’accomplir, est devenu une philosophie fortement promue ces dernières années. Les philosophes qui en sont à l’origine, tels que William MacAskill, professeur à Oxford, ont également fait l’objet d’une énorme couverture médiatique et de profils dans les magazines à couverture de papier glacé. L’un des plus grands soutiens du mouvement a été Sam Bankman-Fried, l’ancien milliardaire aujourd’hui en disgrâce qui a fondé la bourse de crypto-monnaies FTX.

Bostrom est un partisan du mouvement apparenté du « long-termisme », selon lequel l’humanité devrait se préoccuper principalement des menaces existentielles à long terme qui pèsent sur elle, telles que l’IA et les voyages dans l’espace. Les détracteurs du long-termisme ont tendance à affirmer que le mouvement applique un calcul extrémiste au monde qui ne tient pas compte des problèmes actuels tangibles, tels que le changement climatique et la pauvreté, et qu’il s’oriente vers des idées autoritaristes. Dans un article, Bostrom a proposé le concept d’une  » badge de la Liberté  » porté par tous, qui surveillerait en permanence les individus grâce à l’IA et signalerait toute activité suspecte à une force de police qui pourrait les arrêter pour avoir menacé l’humanité.

Bostrom et le long-termisme ont acquis de nombreux et puissants partisans au fil des ans, notamment Musk et d’autres milliardaires du secteur technologique. En 2018, l’institut de Bostrom a reçu 13,3 millions de livres sterling de l’Open Philanthropy Project – une organisation à but non lucratif soutenue financièrement par Dustin Moskovitz, cofondateur de Facebook.

Ces dernières années ont toutefois été tumultueuses pour l’altruisme efficace, la fraude de plusieurs milliards de dollars de Bankman-Fried ayant entaché le mouvement et suscité des accusations selon lesquelles ses dirigeants auraient ignoré les alertes relatives à sa conduite. Les inquiétudes quant à l’utilisation de l’altruisme efficace pour blanchir la réputation de Bankman-Fried et les questions sur le bien-fondé des organisations d’altruisme efficace ont proliféré au cours des années qui ont suivi la chute de Bankman-Fried.

Entre-temps, le courriel de Bostrom datant des années 1990 a refait surface l’année dernière et l’a amené à publier une déclaration dans laquelle il répudie ses remarques racistes et clarifie son point de vue sur des sujets tels que l’eugénisme. Certaines de ses réponses – « Suis-je favorable à l’eugénisme ? Non, pas au sens où ce terme est communément compris » – ont suscité de nouvelles critiques de la part de ses collègues universitaires, qui l’ont accusé d’être évasif.

L’université a lancé une enquête sur la conduite de M. Bostrom après la découverte de son courriel raciste, tandis que d’autres grands groupes d’altruisme efficace ont pris leurs distances avec lui.

« Nous condamnons sans équivoque les propos imprudents, erronés et répréhensibles de Nick Bostrom », a déclaré à l’époque le Centre for Effective Altruism, fondé par des collègues philosophes d’Oxford et soutenu financièrement par Bankman-Fried, dans un communiqué.

Traduction DeepL (+PJ)