Blog de Paul Jorion

Billet invité.

Les algorithmes n’ont pas fini de s’insinuer dans toutes les activités de nos sociétés, pour le meilleur et pour le pire. Parfois de manière surprenante là où on ne les attend pas. Ils sont par exemple mobilisés pour rendre la justice dans certains cas ou pour déterminer les peines de probation dans d’autres…

Le site de vente aux enchères eBay les utilise afin de régler les 60.000 litiges auxquels il doit faire face annuellement. Un algorithme aide ceux qui sont dans ce cas à en trouver le règlement sans intervention humaine, celle-ci n’intervenant qu’en dernière instance. La méthode a fait école, utilisée en Hollande pour faciliter les divorces ou les gardes d’enfant, ou bien en Colombie britannique pour régler les désaccords entre propriétaires et locataires, ou les troubles de voisinage.

D’autres projets sont en cours de développement, notamment en Angleterre. Les expériences sont encore limitées, mais leurs artisans sont enthousiastes, sur le thème que l’accès à la justice est facilité et à moindre coût, car ceux qui utilisent ces services le font sur la base du volontariat.

Cela ne s’arrête pas là, avec les algorithmes prédictifs. Destiné aux juges, un système développé par une société privée et dénommé COMPAS est en service aux États-Unis, qui se propose de mesurer le risque de récidive des délinquants, auxquels ceux-ci infligent alors une peine de probation sur mesure. Sur la base des données relatives à l’inculpé, COMPAS donne au juge un « risk score », sur le mode du « credit score » qui évalue aux États-Unis le comportement vis à vis du crédit de chacun et le suit toute sa vie.

Mais le problème est que ce système est une boîte noire, comme tous les algos, et qu’elle contient des biais auxquels le commun des mortels n’a pas accès. Disons-le tout de suite, il vaut mieux ne pas être black et pauvre quand on passe à sa moulinette ! Ses partisans font au contraire valoir que son utilisation élimine la subjectivité des juges et qu’elle réduit le coût global des peines de probation à la charge de l’État.

Richard Berk, professeur à l’Université de Pennsylvanie, est l’expert reconnu dans ce domaine. Il se sent pousser des ailes, travaillant à un algorithme qui serait selon lui capable de prédire à la naissance d’un individu la probabilité qu’il commette un crime lorsqu’il atteindra ses 18 ans. Pour le professeur, qui ne précise pas la conclusion qu’il faut en tirer si la réponse est positive, « l’avantage de la technologie d’apprentissage des machines ( machine learning ) est qu’elle élimine le besoin de comprendre les raisons pour lesquelles quelqu’un devient violent ». Dont acte !