Blog de Paul Jorion

Billet invité.

L’homme peut-il créer une Intelligence Artificielle forte, c’est-à-dire une machine consciente d’elle-même, éprouvant des émotions et des sentiments ? N’est-ce pas plutôt là un fantasme de toute puissance ? Le signe d’une grande puérilité de la part d’une créature qui ne sait même pas définir ce qu’est la conscience, et dont le représentant standard, éprouve déjà les plus grandes difficultés devant la notice de montage d’un meuble suédois ?

Comment dès lors imaginer raisonnablement, qu’il nous soit possible de reproduire le fonctionnement de notre cerveau, alors que nous en avons une compréhension si parcellaire ? Alors que nous sommes bien incapables de modéliser ses cascades de phénomènes physico-chimiques et les innombrables boucles de rétroaction qui aboutissent à la conscience ?

Pour prendre un exemple concret, l’industriel Lockheed Martin adossé au gargantuesque complexe militaro-industriel américain, est toujours bien incapable de faire voler avec un minimum d’efficacité opérationnelle son F-35. La raison en est simple : la surcomplexité de ses logiciels embarqués, entre 9 et 10 millions de lignes de code, annihile tout semblant d’efficacité. En effet, lorsqu’il est impossible de subdiviser les tâches parce qu’il est nécessaire de coordonner les différentes équipes d’informaticiens, alors l’effort augmente en n(n-1)/2.

Autrement dit, les besoins en activités de coordination augmentent trop rapidement pour pouvoir être compensés par le travail des équipes. En conséquence, la pleine capacité prévue pour les années 2010-2015, devrait être atteinte avec une bonne quinzaine d’années de retard ! Quant aux surcoûts engendrés par ces retards, ils ont valu à l’appareil le sobriquet peu flatteur de « Trillion program ».

Bref, si nous ne savons pas maitriser la complexité d’une dizaine de millions de lignes de code, comment espérer en concevoir les milliards qui seraient nécessaires à l’émergence d’une conscience artificielle ?

À moins qu’il ne soit possible d’imiter dans le domaine informationnel, les phénomènes d’auto-organisation spontanée… de la vie elle-même !

Comme ces mouvements de nature hydrodynamique que nous voyons dans le monde physique, à l’exemple bien connu de ces nuages d’étourneaux comportant des milliers d’individus qui coordonnent leur vol. L’incroyable avantage étant que les étapes de ces enroulements hydrodynamiques, facilement exprimables en fonctions mathématiques, semblent pouvoir démontrer des bases universelles physico-chimiques, sous-tendant l’évolution du vivant.

Il est dès lors très tentant de penser que cette fascinante théorie, développée par Vincent Fleury qui travaille au CNRS sur la morphogénèse des embryons, puisse être également appliquée à l’évolution des algorithmes…

Un des chemins menant à l’IA forte sans intervention des humains, pourrait être le pendant informationnel du gène égoïste de Richard Dawkins. L’humain biologique ne serait alors que le ‘simple’ ’initiateur d’une réaction en chaine lui échappant immédiatement. Par exemple avec des programmes « comprenant » le langage naturel et connectés à l’Internet.

Les algorithmes les plus performants, ceux permettant de construire une base de connaissance avec l’accaparement des savoirs humains seraient alors sélectionnés, à l’image des gènes les plus performants. Une réaction en chaine s’ensuivrait, les générations de programmes se succédant de plus en plus rapidement sur des échelles temporelles de plusieurs ordres de grandeur inférieures à celle de l’évolution du vivant biologique.

C’est un des chemins possibles, et dont seul le tout début nécessiterait l’intervention – plus ou moins consciente – d’homo-sapiens. Rien de techniquement délirant. Un scénario que redoute Stephen Hawking, d’autant plus qu’il ne s’agit pas de ‘big science’ nécessitant d’immenses crédits et des équipes multinationales.

Après tout, personne n’est capable de ‘construire’ un bébé tant sa complexité est énorme, et pourtant nous en faisons.

Et de toute manière, la nature a bien plus d’imagination que nous !