Billet invité
Nous voguons de mystère en mystère dans un monde de plus en plus complexe et fragile (ce qui va de pair). La European Securities and Markets Authority (ESMA) invite depuis Londres à une timide tentative de régulation des CFD (les contrats pour la différence, des instruments financiers dérivés non réglementés) et la Commission nationale de l’informatique et des libertés (CNIL) tente d’établir depuis Paris un panorama des questions éthiques que posent les algorithmes. L’opacité, cela va sans le dire, est dans les deux cas la règle.
Se pencher sur les algos, c’est être à la fois ébloui par leurs performances, particulièrement quand ils disposent de masses de données, et effrayé par ces « armes de destruction mathématiques » (1), ainsi qualifiées en référence à l’appréciation par le financier Warren Buffett des produits dérivés et à un épisode resté fameux de mensonge d’État. Pourtant, un fait est là : les algos sont devenus indispensables. Et c’est d’ailleurs parce qu’ils sont efficaces qu’ils représentent aussi un danger.
Sans que nous en ayons conscience, ils sont devenus omniprésents, déployés dans tous les domaines. Cela va de la reconnaissance faciale – une application chinoise permet de payer ses achats ainsi – au trading électronique sur les places boursières, jusqu’à la détection de certaines affections dans le domaine médical et la prédiction des comportements en règle générale. Sans oublier le décryptage des données résultant de la surveillance électronique mondiale de la National Security Agency (NSA), la rencontre des âmes seules dans le cadre des clubs de rencontre sur Internet, la détection de toute information en réponse à une requête, l’obtention d’un crédit ou d’un emploi, l’aide pour se diriger en terrain inconnu, etc. Cet inventaire est loin d’être exhaustif.
Dans notre nouveau monde numérique, les algorithmes parviennent à reconstituer qui nous sommes, identifient nos préférences – sexuelles, politiques, en tant que consommateur – et prédisent nos comportements en partant des traces informatiques que nous laissons derrière nous. Plus rien à voir avec ces autres traces que sont nos empreintes digitales ou notre ADN qui ne permettent que de nous identifier. Et à une échelle qui n’est plus la même.
Notre rapport au monde est de plus en plus dépendant d’algorithmes et, comme il est souvent dit, « maintenant, c’est l’ordinateur qui décide ! » ; sans avoir l’opportunité de mieux s’expliquer et argumenter, de tenter de convaincre ou de séduire, et sans avoir de recours au bout du compte. La loi est publique et nul n’est censé l’ignorer, mais les algorithmes sont des boîtes noires dont le contenu est méconnu et jalousement gardé secret.
Désormais, ils se substituent à la main du marché pour former les prix. On connaissait l’IP tracking (2), qui permet d’augmenter le prix d’objet ou d’un service quand un internaute hésite, au bord de l’achat, afin de lui signifier qu’il va encore augmenter. Des cookies implantés dans les ordinateurs des clients se sont depuis vu confier la modulation des prix en fonction de leur comportement et le yield management qui optimise le remplissage et la recette des avions et des hôtels a pris son essor.
Mais tout cela est en passe d’être dépassé, des algorithmes tarifaires sont désormais capables d’optimiser les prix au bénéfice du vendeur qui les programme selon son bon vouloir. L’algorithme d’Uber, qui maîtrise tous les paramètres de son marché fermé en est un bon exemple. Jusqu’ici, la distance, la demande, l’heure, le jour et le lieu de prise en charge étaient pris en compte pour déterminer le prix d’une course. Selon un nouveau système de tarification, le client payera plus cher s’il effectue un trajet entre deux quartiers huppés de la capitale, ainsi que s’il emprunte un itinéraire populaire, ou bien selon que la demande est forte ou faible.
C’est sans limite, d’autres paramètres peuvent être utilisés. L’adresse IP de l’acheteur permet par exemple de le localiser et d’estimer son revenu en fonction du revenu moyen de la zone où il habite (en dehors des heures de bureau). L’expression « à la tête du client » n’aura jamais trouvé plus parfaite illustration.
Mais cela va plus loin. L’emploi des algorithmes de tarification permet une nouvelle forme de collusion indétectable, des concurrents pouvant adopter la même technologie de fixation de prix, qui réagit de manière identique aux évolutions des conditions du marché. Exactement comme s’ils s’entendaient sur les prix sans que cela soit nécessaire. Cette logique achevée, le marché deviendrait contrôlé.
Cela va plus loin encore : ainsi que le souligne un rapport de l’OCDE, comment rendre responsable un programme qui a appris à se coordonner avec d’autres pour ajuster ses prix ? Les experts en droit de la concurrence sont démunis devant une collusion entre algorithmes munis de capacité d’apprentissage et apprenant de leurs propres interactions sans laisser de traces…
Qu’importe, les algorithmes de tarification se répandent inexorablement, on n’arrête pas le progrès…
——
(1) Cathy 0’Neil, mathématicienne et membre du mouvement Occupy.
(2) L’adresse IP, pour Internet Protocol, permet d’identifier – provisoirement ou pas – une machine connectée à Internet.
@Khanard Ce qui m’intéresse actuellement, dans mon auto-psychanalyse, c’est de séparer mon « moi » causal, périphérique, de mon « moi » raisonnable, central…