Ouvert aux commentaires.
Une réaction à cet article du NYT :
« Alors que les machines deviennent de plus en plus rapides et que les humains restent en place avec leurs neurones fonctionnant à des échelles de temps de quelques millisecondes, un autre jour viendra où nous ne pourrons plus suivre. L’aube de la perspicacité humaine peut rapidement se transformer en crépuscule.
Supposons qu’il existe des régularités ou des modèles plus profonds à découvrir – dans la façon dont les gènes sont régulés ou dont le cancer progresse ; dans l’orchestration du système immunitaire ; dans la danse des particules subatomiques. Et supposons que ces schémas puissent être prédits, mais seulement par une intelligence bien supérieure à la nôtre. Si AlphaInfinity pouvait les identifier et les comprendre, cela nous semblerait être un oracle.
Nous nous assiérions à ses pieds et écouterions attentivement. Nous ne comprendrions pas pourquoi l’oracle a toujours raison, mais nous pourrions vérifier ses calculs et ses prédictions par rapport aux expériences et aux observations, et confirmer ses révélations. La science, cette entreprise de l’homme qui le caractérise par-dessus tout, aurait réduit notre rôle à celui de spectateurs, bouches bées dans l’émerveillement et la confusion.
Peut-être qu’un jour, notre manque de perspicacité ne nous dérangerait plus. »
Je conçois volontiers que le sentiment de petitesse, de sidération, que ressentent les gens et mêmes ses concepteurs face aux performances insaisissables d’AlphaZero soit une nouvelle blessure narcissique pour certains individus et l’Humanité en général (après Copernic, Darwin, Freud, Meadows, etc.).
Mais ce sentiment de petitesse, de sidération, s’agit-il vraiment d’un sentiment nouveau pour l’espèce humaine ? Ou bien d’un non-événement pour le commun des mortels ? Qui sur cette planète se sent vraiment « en contrôle de la situation », à part quelques idiots, savants ou politiciens fous ?
– La sidération et ce sentiment d’être devant des oracles, n’était-ce pas déjà un sentiment vieux comme le monde pour :
0) les humains préhistoriques face à pratiquement l’entièreté du Cosmos ?
1) à tout instant, les 50% de gens qui ont un QI inférieur ou égal à 100 par rapport aux 2% de gens qui ont un QI séparé du leur par 2 écarts-types au minimum ? (si on croit qu’il y a une réalité concrète, proxy de l’intelligence « générale », derrière le QI évidemment)
2) Les 99% de gens qui ne font pas partie d’un centile de la population spécialisé dans un domaine technique-scientifique-d’expérience, quand ils parlent de ce domaine à un représentant de ce centile qui en sait un million de fois plus qu’eux ? (chirurgiens, physiciens nucléaires, mathématiciens, chimistes, concertistes virtuoses, horlogers, etc.)
3) Le 1% de la population qui découvre des nouvelles connaissances scientifiques, et qui ne sont capables d’en donner aucune explication intuitive ni à eux-mêmes, ni à leurs pairs, ni au grand public (théorie de la relativité, monde sub-atomique, théories cosmologiques, etc.)
4) La majorité de la population humaine d’aujourd’hui, même plus ou moins instruite des phénomènes principaux du Cosmos ? (est-on moins sidéré parce qu’on en sait plus ? Je penserais l’inverse)
Enfin, pour conclure, une reformulation des phrases de l’auteur :
La science, cette entreprise de l’homme qui le caractérise par-dessus tout, a depuis longtemps déjà réduit notre rôle à celui de spectateurs, bouches bées dans l’émerveillement et la confusion.
Depuis la préhistoire, notre manque de perspicacité ne nous a jamais dérangé.
Pour qu’il y ait crépuscule, il faut qu’il y ait aube. Y a-t-il eu une aube pour la perspicacité humaine (le niveau de conscience moyen de la population) au cours de la préhistoire ou de l’histoire ? On peut se poser la question tant nous sommes aliénés et fous à la fois, vus de l’espace par un « observateur neutre extraterrestre ». Risque d’effondrement et d’extinction de l’espèce humaine, menace de guerre nucléaire permanente, prise de pouvoir par la technologie et l’IA, dépendance à la technologie, inégalités ahurissantes entre humains, condition humaine qu’on refuse aux bêtes, il serait peut-être temps que ce manque de perspicacité nous dérange un peu aux entournures… Ce qui signerait le passage à l’âge de la majorité selon Kant.
Enfin, autre point de débat, pour rebondir sur Bruno Latour (Nous n’avons jamais été modernes) : ces IA vont-elles nous permettre de réaliser le programme de la modernité, c’est-à-dire un savoir complètement indépendant du social et du politique ? Ou est-ce encore une illusion ?
Le savoir qu’elles vont produire, qu’elles produisent déjà, ou mieux, le savoir-pouvoir pour reprendre Foucault, va-t-il être éminemment social et politique. L’IA pour les riches et pour les pauvres ? Pour le Premier et le Tiers monde ? Pour ou contre l’Humain ?
J’aimerais poser ces questions à AlphaInfinity quand il serait prêt, et je m’assoirai gentiment pour attendre (moins d’une milliseconde), sa réponse, si du moins je suis capable de la comprendre…
Laisser un commentaire