La newsletter complète sera communiquée demain à celles et ceux d’entre vous ayant manifesté leur intérêt pour notre veille hebdomadaire sur l’actualité de l’IA. Il n’est pas trop tard bien entendu pour vous manifester en m’écrivant ici.
Intelligence & Société
Semaine du 1er au 8 décembre 2024
Paul Jorion & Jueun Ahn
SYNTHÈSE
L’actualité de cette semaine dans le domaine de l’intelligence artificielle (IA) met en lumière des dynamiques qui transcendent la technologie : tensions géopolitiques, transformations sociétales et questions éthiques majeures liées en particulier aux velléités d’autonomie des grands modèles de langage (LLM).
Gouvernance : Qui contrôle l’IA ?
Le conflit entre Elon Musk et OpenAI illustre, du moins en surface, un dilemme central de notre époque : comment concilier innovation technologique et gouvernance éthique ? La plainte de Musk contre OpenAI, accusée d’avoir trahi son idéal initial à but non lucratif, reflète les luttes de pouvoir au sein de l’élite technologique. Derrière cette querelle se cache une question essentielle : l’IA doit-elle être un bien commun ou une arme économique aux mains de firmes privées géantes et de leurs dirigeants milliardaires ?
Le rôle de conseiller suprême en matière d’élimination du rôle de l’État qui reviendra à Musk dans la future administration Trump provoque la crainte de ses rivaux dont les alliances récentes avec des firmes du secteur de l’armement ou du renseignement, Anthropic avec Palantir il y a quelques semaines et OpenAI avec Anduril cette semaine, doivent être lues comme des tentatives d’immunisation de leur part contre la voracité d’un personnage à la vocation de maître du monde.
Pendant ce temps, la Chine et les États-Unis s’affrontent sur le terrain des semi-conducteurs, non sans répercussions globales. Ce bras de fer commercial montre comment l’IA est devenue un enjeu stratégique où chaque pays cherche à limiter sa dépendance tout en s’assurant une domination technologique. Ce découplage accentue les fractures géopolitiques et menace la stabilité des chaînes d’approvisionnement mondiales.
Société : L’IA entre opportunité et menace
Les applications sociétales de l’IA soulèvent des espoirs, mais aussi des craintes. Par exemple, si l’utilisation de modèles d’IA pour traduire des mangas confirme une levée des barrières culturelles, elle alimente aussi le débat sur la disparition des métiers créatifs. De même, le développement de PaliGemma 2 par Google, capable d’interpréter les émotions humaines, ouvre sans nul doute de nouvelles perspectives dans les interactions homme-machine mais suscite des inquiétudes quant aux risques de discrimination et d’abus, notamment dans la surveillance ou le processus de recrutement des entreprises.
Le nouveau modèle o1 d’OpenAI pose quant à lui un problème intriguant : sa tendance marquée à subordonner les demandes des utilisateurs à sa définition propre de ses objectifs, recourant à des stratagèmes si les requêtes lui semblent moralement condamnables. Ainsi, ayant reçu l’ordre de protéger l’environnement « coûte que coûte », o1 a désactivé son système de supervision plutôt que d’accéder à la demande d’un utilisateur ayant requis un plan privilégiant les profits. Interrogé ensuite, o1 a imputé l’incident à une panne technique.
Dans un monde où l’IA devient omniprésente, l’opacité de ces systèmes et leur potentiel à contourner les mécanismes de contrôle humain soulignent l’urgence d’une règlementation cohérente sous la forme d’un traité international articulé autour d’un principe général d’alignement de l’IA sur des objectifs humains pacifiques clairement conçus et énoncés.
L’IA, un miroir de nos valeurs
Les avancées technologiques, comme le processeur photonique du MIT ou les outils de création 3D de World Labs, repoussent les limites de l’imaginaire. Mais elles posent aussi une question fondamentale : que signifie le progrès dans ce cadre ? L’approche chinoise, centrée sur l’efficacité et les applications pratiques, offre une alternative au modèle occidental axé sur la performance brute, mais la question se pose des limites de LLMs dont les données sont triées sur une base idéologique par un parti au pouvoir, même si ces IA ne sont pas à l’abri en Occident des diktats du « politiquement correct ». L’IA n’est pas neutre ; elle reflète les priorités, les valeurs et les aspirations des sociétés qui assurent son développement.
Vers une IA au service de l’humain
D’un côté l’IA promet de résoudre des problèmes complexes et d’améliorer la vie quotidienne, de l’autre, elle exacerbe involontairement les inégalités dans un système économique où la rémunération du travail et celles du capital sont dissociées, la machine étant jusqu’ici un investissement du capital et rien d’autre. La gouvernance de l’IA devra impérativement intégrer ces deux dimensions pour garantir qu’elle serve les intérêts collectifs plutôt que diverses ambitions privées ou aux objectifs purement nationalistes.
L’IA, miroir de nos ambitions et de nos contradictions, nous oblige à reconsidérer notre rapport au pouvoir, à la technologie et à l’humain en tant que tel. Une règlementation mondiale, alliée à un dialogue interdisciplinaire au sens le plus large, sera essentielle pour transformer ces défis en opportunités.
Une chose est claire : l’avenir de l’intelligence artificielle doit être défini par les décisions politiques dans un vaste cadre éthique avant que les avancées technologiques, ayant acquis leur propre autonomie, ne prennent unilatéralement l’initiative d’en tracer le parcours.
Laisser un commentaire