Billet invité. Ouvert aux commentaires.
Alexis Toulet dans son dernier billet se demandait si les ordinateurs pourraient atteindre un niveau d’intelligence similaire à celui de l’être humain ou si des robots pourraient devenir indépendants de leurs créateurs, voire hostiles, en allant même jusqu’à les remplacer. Questions dans l’air du temps certes, mais qui au vu des colossaux budgets de recherche de la DARPA et de ses homologues étrangers se posent très sérieusement. Notre espèce étant ainsi faite que les domaines de recherche susceptibles de déboucher sur une quelconque supériorité militaire voient aussitôt s’ouvrir les vannes du financement.
Il n’est donc pas illogique d’imaginer sous la traction irrésistible des complexes militaro-industriels, voir des avancées de l’IA militaire qui à l’exemple du GPS, des drones ou des réacteurs nucléaires, auront des retombées concrètes dans notre vie quotidienne.
Les prévisions étant difficiles – particulièrement celles concernant le futur -, il est tout de même possible de se tourner vers l’histoire des découvertes scientifiques pour observer le cheminement improbable de certaines d’entre elles. Ainsi, avant l’invention de la spectroscopie, il était rationnel de penser que les hommes ne connaitraient jamais la composition chimique des objets célestes avant de pouvoir s’y rendre physiquement. C’est-à-dire dans un très lointain futur ! Et pourtant, avant même la mécanique quantique ou l’invention de la première fusée, il fut possible de connaître le spectre des différents éléments chimiques et par voie de conséquence, la composition des étoiles.
Sans même parler des découvertes fortuites et totalement inattendues, car provenant d’un domaine a priori totalement étranger à l’objet de sa recherche. Ainsi en alla-t-il pour les astronomes qui virent au lendemain de la seconde guerre mondiale leur discipline révolutionnée par les techniques de détection électromagnétique des avions ennemis. Qui aurait pu imaginer un seul instant que cette technologie militaire allait déboucher sur de nouvelles fenêtres pour observer l’univers et nous dévoiler des objets à proprement parler inimaginables, comme les étoiles à neutrons ?
Mais pour en revenir à nos moutons électriques, nous les envisageons toujours au travers des filtres légués par notre évolution. Cela se traduit en langage courant par la classique série de questions : c’est dangereux ? ça se mange ? je peux copuler avec ? m’en servir pour mettre sur la g** de mon voisin ? La liste n’est pas exhaustive, mais vous aurez compris son principe : elle est basée sur le rapport au monde des primates sociaux, et part de notre nombril pour aboutir à… notre nombril !
C’est ainsi que nous affublons cette intelligence étrangère de l’adjectif ‘artificiel’. Terme convenant parfaitement à des automates ou à des programmes idiots (même si très performants dans un domaine précis, comme le programme AlphaGo qui peut mettre la pâtée à l’humain Lee Sedol… tout en ne sachant pas qu’il joue au Go), mais qui est quelque peu réducteur pour désigner une conscience autonome. Apposons-nous le qualificatif d’artificiel sur nos enfants, sous prétexte que nous leurs avons donné le jour ? Non bien sûr ! Pour la simple raison que nous les reconnaissons à notre image, chose impossible à faire actuellement avec un ordinateur ou un robot.
Là est le vieux paradoxe : si je reconnais en l’Autre une intelligence et une sensibilité égales à la mienne, alors je ne peux le traiter qu’en semblable. Et si malgré tout je veux le réduire en esclavage, alors j’en suis réduit à inventer des fables démontrant ma supériorité tout en me déculpabilisant (la version faible de l’esclavage, l’ubérisation, reposant sur l’idéologie des fainéants que l’on croise dans les gares et qui ne sont rien).
Sous ces conditions, force est d’admettre que nos réactions face à l’éventualité d’une IA forte et de son statut, ressemblent étrangement à une nouvelle Controverse de Valladolid…
Controverse qui pourrait finalement se révéler dépourvue de sens ! Car si nous ne pouvons nous empêcher d’anthropomorphiser une IA forte, c’est à dire de lui prêter des intentions et des comportements semblables aux nôtres, il est fort possible en réalité que nous ne puissions jamais la comprendre…
En effet, alors que nous avons déjà les plus grandes difficultés à définir notre propre conscience, comment pourrions-nous nous y prendre pour imaginer celle d’une ‘entité’ ayant sa conscience disséminée dans x lieux et x corps physiques différents ? Comment imaginer une conscience dont l’existence sera de plusieurs ordres de grandeur supérieure à la durée d’une vie humaine, alors même que ses processus cognitifs seront plus rapides de plusieurs ordres de grandeur que les nôtres ?
Incompréhensible et inhumaine seront alors sans doute les qualificatifs les plus appropriés.
Peut-être même en viendrons-nous à considérer que la conscience tout comme le cosmos, n’est pas à l’échelle de notre humanité ? Serons-nous obligés alors de nous représenter la conscience comme une échelle d’une hauteur indéterminée dont les différentes espèces du genre Homo ne furent que les premiers barreaux ?
Et que vaudra-t-il mieux dans ce cas-là ? Qu’une IA forte se désintéresse totalement de nous ou bien que pour une mystérieuse raison, elle spécialise une partie de sa conscience dans le dialogue avec nous autres, créatures si lentes et éphémères ?
Un petit jeu spéculatif qui relèvera peut-être à jamais de la catégorie ‘combien d’anges peuvent-ils tenir sur la tête d’une aiguille ?’, mais qui n’empêche pas de se poser une dernière question (non, pas de savoir à quelle heure on mange !) : notre humanité se survivra-t-elle assez longtemps pour que cette singularité ait une chance d’apparaitre sur notre petite planète bleue ?
Laisser un commentaire