Blog de Paul Jorion

Billet invité.

Se méfie-t-on assez des algorithmes ? À voir le branle-bas de combat sonné à leur encontre, il y de sérieuses raisons de se préoccuper de leur rôle insidieux, en raison de leur omniprésence dans la vie quotidienne et dans la conduite de l’économie qui bien que grandissante reste largement ignorée. Progressivement, la main du marché devient numérique ! Ce qui fait notamment craindre que la montée en puissance de l’Intelligence Artificielle et l’implication d’algorithmes de plus en plus puissants ne contribuent à la constitution de cartels maintenant les prix à un niveau élevé au détriment des consommateurs, les lois anti-trusts dépassées.

Un rapport de l’OCDE, un autre de la Chambre des Lords britannique et un troisième de la Maison Blanche se sont dernièrement penchés sur les problèmes posés par la tarification algorithmique, la Commission européenne engageant une réflexion. L’OCDE résume ainsi le risque que recèlent les systèmes de tarification automatisés : appelés à devenir de plus en plus autonomes, ils vont être en mesure de pratiquer des collusions à la faveur de leurs interactions, c’est à dire des ententes illicites et anticoncurrentielles qui ne sont pas décelables aujourd’hui par les autorités.

Afin de remplir cette mission, les algos tarifaires dévoués à cette tâche prennent en compte les instructions des vendeurs, tels les objectifs de profit, en s’appuyant sur une connaissance de plus en plus affinée des acheteurs. Il en résulte la mise en œuvre de modèles opaques de tarification, les autorités se révélant impuissantes face à des robots vendeurs et à des bots capables de fixer automatiquement et à convenance les prix à très grande vitesse. L’OCDE prévient que « trouver des moyens de prévenir la collusion entre les algorithmes d’apprentissage (self-learning) pourrait être un des plus grands défis à affronter ». Ajoutant que, « dans le cas de l’Intelligence artificielle, il n’y a pas de bases légales permettant de rendre responsable un ingénieur informatique qui a programmé une machine qui apprend à coordonner ses prix avec d’autres »…

Pratiquant la fixation des prix en suivant leur propre logique, les algos les déterminent à la tête du client. Déjà présents dans de nombreux secteurs d’activité – assurances et industries financières, aériennes et hôtelières – ils se répandent progressivement dans tous les autres. Permettant par exemple de calculer à partir de données l’itinéraire le plus rapide pour se rendre à un endroit, ou de recommander un livre susceptible de plaire en fonction des achats précédents. Mais derrière les services affichés, d’autres objectifs peuvent se trouver dissimulés.

En France, la Commission nationale informatique et liberté (CNIL) lance un cycle de débats publics sur les algos, qui se tiendra cette année, dans le but d’établir un état des lieux des défis et des enjeux qu’ils soulèvent. Car c’est parfois là où on ne les attend pas qu’ils font leur percée, dans tous les aspects de la vie sociale, notamment dans le domaine de la justice. Fondée sur la confiance, celle-ci pourrait être à terme de plus en plus rendue en s’appuyant sur des algos prédictifs, comme cela commence à être le cas pour les peines de probation aux États-Unis. Les jugements pourraient demain reposer sur une gigantesque base de données anonymisée des décisions judiciaires déjà rendues, ouvrant la porte à une justice aux bases automatisées. Les justiciables seraient alors de moins en moins jugés par leurs pairs et de plus en plus selon le verdict des algorithmes…

Cela fait chaud au cœur de voir tant d’importantes institutions au fait de la question. Est-ce pour autant une garantie que les mesures adéquates seront prises ? Le sort réservé au trading à haute fréquence, qui prospère, laisse dubitatif. On n’arrête pas le progrès, surtout quand il grossit les tirelires !