Blog de Paul Jorion

Billet invité.

Nos sociétés mettent progressivement en place les instruments d’un contrôle social sophistiqué. Alimentée par les révélations sur la NSA américaine, cette alarme a ensuite pris corps. Puis elle a été confortée en Chine, où ce contrôle s’installe dans une version accomplie, sous les auspices d’un comité ad hoc que préside Xi-Jinping, son nouvel empereur.

Les projets d’applications associant algorithmes et banques de données massives se multiplient. En vertu de l’application de ces nouvelles technologies et des progrès substantiels de l’Intelligence Artificielle, notre environnement a déjà considérablement changé. Plus inquiétant, nous ne nous en rendons même pas compte, nous n’en sommes pas la plupart du temps avertis, les recours contre des décisions pouvant nous être préjudiciables, ou le résultat d’une erreur, n’étant tout simplement pas prévus. Particulièrement sensibilisés, des juristes nous interpellent à cet égard, mais sans être entendus.

La reconnaissance faciale est au premier rang de ces nouvelles applications ambivalentes, porteuses à la fois d’un service et d’une menace. Le nouveau téléphone portable d’Apple reconnaîtra le visage de son propriétaire et le débloquera, et pas question de le déjouer en lui présentant une photographie. Rien n’interdira par contre à un policier de le braquer sur le visage d’un suspect pour pouvoir fouiller tous ses contenus ou à un voleur pour accéder sous la contrainte à des données financières. Couplée avec les réseaux de caméras de surveillance, on pressent ce que permettra la biométrie.

Mais le principal risque n’est pas là. Il réside dans la banalisation de la reconnaissance faciale, dans son utilisation marketing ainsi que policière. Très avancés, les projets chinois montrent à cet égard que les deux s’épaulent parfaitement. L’association American Civil Liberties Union (ACLU) relève que « Il y a de vraies raisons de s’inquiéter du fait que la reconnaissance faciale se fraye progressivement un chemin dans notre culture et qu’elle devienne un outil de surveillance détourné ». Des chercheurs de l’université de Georgetown de Washington ont déjà découvert qu’environ 117 millions d’adultes figuraient à leur insu dans des bases de données permettant la reconnaissance faciale utilisées par les forces de l’ordre.

Le caractère insidieux de nombre de ces nouvelles applications n’est plus à démontrer. Prises isolément, elles peuvent conduire à considérer comme négligeable la menace qu’elles représentent ; mises toutes ensemble, cela prend une autre dimension et devient une toute autre affaire. Banalisées, procurant en contrepartie un service réel ou factice, leur déploiement à grande échelle en cours est au final accepté. Est-il encore temps de réagir, le pli étant pris ?

La société de surveillance ne repose sur la répression qu’en seconde instance. En première approche, elle vise à repérer les comportements déviants de toutes natures, pour mieux les enregistrer et si nécessaire les punir. Plus fort encore, elle a pour objet d’intégrer dans le comportement de tous la nécessité de respecter des règles, chacun ayant conscience qu’il est susceptible d’être repéré s’il dévie des normes établies. Il n’est plus possible d’escompter l’impunité en application du vieux principe « pas vu, pas pris ! ».

Toutefois, une certaine défiance pourrait laisser espérer que l’encadrement de l’utilisation de ces nouvelles technologies finira par prévaloir. Les GAFA alimentent pour leur part un mouvement de résistance, soucieux des réactions de leur clientèle et de protéger leur fonds de commerce. Mais il ne faut pas se leurrer, les révélations explosives sur la NSA et ses homologues n’ont strictement rien changé à la surveillance qu’ils continuent d’exercer !

Les hackers d’aujourd’hui n’opèrent plus depuis leur garage comme de petits artisans. Les États ont pris le relais et la guerre a acquis une dimension électronique primordiale. Ayant fait le choix de s’investir dans ce domaine, que peut-on attendre des plus hautes autorités ? qu’elles protègent la vie privée de leurs citoyens ou qu’elles en fassent leur miel ? Il est loin le temps où les grévistes pouvaient déjouer les charges à cheval des gendarmes mobiles en lançant des billes sous les pattes de leurs montures. Les leviers de la société de contrôle et de surveillance sont aujourd’hui inaccessibles, protégés par le plus opaque des Secret défense…

En son temps, la République démocratique allemande (RDA) a représenté le nec plus ultra de ce contrôle à très grande échelle avec des moyens qui apparaissent aujourd’hui surannés. Mais l’appareil de coercition déployé n’employait que pour partie les écoutes et les filatures, comme il a été constaté à l’ouverture des dossiers de la Stasi. Les éléments à charge reposaient en premier lieu sur les dénonciations de bons citoyens endoctrinés, souvent de proches amis et même des membres de la famille.

Enfin, la répression n’est jamais plus forte que lorsqu’elle est intériorisée, car il ne reste plus alors que des petites minorités de rebelles à traiter par des moyens plus conventionnels, dans lesquelles la majorité ne se reconnait pas et qu’il est facile d’isoler pour les réprimer.

« Moi, je n’ai rien à cacher » répondent les naïfs qui n’y voient pas malice.