Blog de Paul Jorion

Billet invité. À propos de DIX ÊTRES HUMAINS RÉSOLUS POUR SAUVER UNE ESPÈCE EN DANGER !

Jusqu’à quel point sommes-nous engagés (emprisonnés ?) dans un monde totalement informatisé ? La question est délicate ! J’essaye 🙂 .

Si aujourd’hui les systèmes informatisés s’arrêtaient brutalement, la catastrophe serait énorme en termes de vies humaines perdues, et le retour en arrière sur nos modes de vie serait monstrueux. Je ne vous apprends rien. Les choses ne seraient néanmoins probablement pas fatales pour la race humaine (il y a d’autres dangers qui le sont).

Où en sommes-nous ? Au point d’inflexion, probablement (1).

L’informatique se répand dans nos technologies exactement comme le langage s’est répandu dans nos sociétés, et probablement pour la même raison : la numérisation rend le message plus clair et plus facile à apprendre car plus pauvre (2).

Le premier pas a été franchi quand on est passé du calcul numérique à la communication numérique. La conséquence est claire : la copie du message numérique est aisée et omniprésente, un message mail est copié un nombre extraordinaire de fois avant d’atteindre son destinataire. Chaque copie laisse des traces. Les déductions sont évidentes mais elles ne sont pas prises en compte, tentés que nous sommes de conserver les mêmes principes d’analyse et de conception qu’auparavant (voyez les tentatives de Digital Right Management mathématiquement impossibles mais réalisées quand même).

Le second pas est en cours. Il y a depuis quelques années un bouleversement technique : le programme informatique sort des ordinateurs et rentre dans toutes les autres machines. Les besoins de communication ne sont plus uniquement ceux des humains, nous prenons en compte les besoins des machines qui doivent communiquer entre elles. Nous prenons en compte l’augmentation du volume des informations numériques rendu possible par la baisse des coûts de production de ces informations. Mais nous prenons ça par le côté technique (ce qui entraîne une complication énorme comme un effet de bord) en oubliant de déterminer le sens contenu dans ces communications (3). On retrouve dans ce phénomène l’idée de base évoquée par Jean-Baptiste Auxiètre et Paul Jorion : aucun dessein, on essaye tout et on garde ce qui marche, avec une définition purement économique de « ce qui marche ». Le résultat est évident : les machines communiquent, mais nous ne savons plus très bien ce qu’elles se disent. On peut comprendre, a posteriori et ponctuellement, grâce à des efforts grandissants (qui garantissent du travail à une cohorte d’experts), mais nous perdons tranquillement le contrôle. L’exemple des systèmes de trading HF est un exemple clair, il y en a d’autres (4).

Le troisième pas est annoncé : les programmes informatiques vont prendre des décisions impliquant l’humain, à la place de l’humain (5). Les justifications seront aisées et probablement toutes appuyées sur des assertions non prouvées (des dogmes). Les algorithmes de décision seront produits par petits morceaux, en mode artisanal, sans examiner le sens ni la résultante globale, comme d’habitude.

Tout ceci ressort de l’observation. La crainte qu’on peut en tirer ne vient pas du sujet lui-même, l’informatique apporte des choses intéressantes qu’on ne peut nier, comme toute technologie. La crainte vient du fait que cette inflexion se produit trop tôt alors que la maturité de l’espèce semble encore très loin du point d’inflexion qui rendrait les choses saines. En lisant le blog de Paul Jorion, je suis entraîné à dire la même chose de l’écologie, de l’économie et de la politique. Et je pense que les éléments profonds d’explication sont les mêmes : des dogmes qui empêchent de penser et faire autrement. Dans le paysage général, l’informatisation est un accélérateur de la catastrophe annoncée, mais n’est que ça. Et nous avons aujourd’hui les moyens d’éviter que l’informatisation nous appuie la tête au fond du trou. Ils ne sont, hélas, pas plus mis en avant que les moyens écologiques, économiques et politiques qui pourraient nous éviter d’accélérer face au mur.

Donc, on y est jusqu’au cou, dans le monde informatisé, mais ce n’est qu’une composante de l’ensemble, en aucun cas ni la composante essentielle, ni une cause.
==========================

(1) Ce point d’inflexion intervient en même temps que d’autres points importants, écologique, économique, politique, moral. Il y a des liens, c’est évident, tant en termes de causes que de conséquences, mais lesquels et à quel degré, et quelles sont les boucles de rétroaction entre les liens causes et les liens conséquences ?

(2) Le langage peut être vu comme une numérisation, une discrétisation, (donc une réduction de la richesse), de la communication par cris analogiques modulés.

(3) Un exemple pour rire : le BigData vs les bases de données structurées.

(4) Par exemple les effets de bord des analyseurs automatiques de news pour calculer les news à faire apparaître, les ratés des publicités ciblées…

(5) Existent déjà : les drones militaires et de police, les profileurs qui déterminent nos goûts et bientôt nos intentions, les délestages automatisés d’électricité sur les grids américains, les voitures qui décident de la vitesse… Tous ces systèmes présentent des comportements parfois erratiques dont les explications ponctuelles sont de plus en plus délicates (et la réalité de plus en plus souvent niée, au moins à la première question).