Blog de Paul Jorion

Un robot qu’on ne peut pas punir, est-il vraiment intelligent ?

Dans l’ouvrage de Robert Musil L’homme sans qualités (ou « sans particularités » faudrait-il peut-être dire plutôt), son héros, Ulrich, assiste au chapitre 18 du premier volume qui en compte 123, au procès de Christian Moosbrugger, assassin présumé d’une prostituée. Le verdict est la mort. 

Le personnage de Moosbrugger réapparaîtra ensuite – y compris dans le second tome inachevé – comme un sous-marin faisant épisodiquement surface, hantant le roman d’un bout à l’autre.

Avec Moosbrugger, Musil nous convie à réfléchir sur l’adhésion plus ou moins marquée d’un individu aux actes qu’il pose et dont les paroles qu’il énonce sont l’un des éléments majeurs. Il attribue ainsi le marasme de la « Cacanie », le sobriquet dont il affuble l’empire austro-hongrois en 1913, à la distance que chacun prend, et la classe politique en particulier, par rapport à ce qu’il fait ou déclare. Il n’y a plus, affirme Musil, derrière les événements que l’on observe, de véritables sujets s’identifiant à ce qu’ils font, mais des ombres laissant entendre qu’elles simulent les gestes qu’on les observe faire, et qui se contentent dans ce qu’elles affirment, de citer quelqu’un ayant dit cela ailleurs autrefois. 

Est-il question là de la « responsabilité » ? Peut-être, si ce n’est que Musil souligne justement que ce à quoi ce mot renvoie se dissipe aussitôt que l’on tente de l’examiner de trop près, le procès de Moosbrugger scrupuleusement rapporté en faisant foi.

Ainsi dans ce passage où sont confrontés le point de vue du juge et de l’assassin présumé :

« Ce juge réunissait tous les éléments, à partir des rapports de police et de l’accusation de vagabondage, en un seul tout dont il chargeait l’inculpé ; mais pour Moosbrugger, ce n’était qu’une série d’incidents entièrement distincts sans rapport les uns avec les autres et résultant chacun d’une cause différente, laquelle était à chercher en-dehors de lui, quelque part dans l’univers. Aux yeux du juge, ses actes provenaient de lui, mais aux yeux de Moosbrugger, ils lui étaient plutôt arrivés comme un vol d’oiseaux venu à sa rencontre ».

« Vous savez toujours rejeter la faute sur les autres ! » reproche le juge à Moosbrugger, ce que l’on traduirait ordinairement en « vous n’assumez pas vos responsabilités ». Or, là où nous recourons au seul mot de « responsabilité », l’anglais nous surprend en y voyant trois notions distinctes : « imputability », « accountability » et « answerability ». 

Le concept d’imputation ne nous est pas étranger : quel est le facteur sans l’intervention duquel l’événement fâcheux ne se serait certainement jamais produit ? C’est bien là en effet l’un des sens de responsable : avoir été la cause. 

Dans le mot « accountability », il y a « account », c’est-à-dire « compte », comme dans « accountant », qui signifie « comptable ». L’« accountability », c’est notre capacité à rendre compte de manière rationnelle de ce qui s’est passé, dans des termes qui feront sens aux oreilles d’un juge et d’un jury ; le cadre de référence là, c’est la capacité à distinguer le faux du vrai. Mais, dénonce Musil, la capacité à rendre compte se confond désormais en Cacanie avec le talent à raconter sa vie comme un roman : au lieu du compte-rendu véridique d’autrefois nous ne proposons plus aujourd’hui à autrui que les fragments d’une autobiographie romancée.

Dans « answerability », il y a « to answer », répondre à une question, où l’on retrouve l’étymologie de « responsable ». Est en jeu ici la capacité de l’accusé à saisir pourquoi il a été convoqué devant un juge, pourquoi la justice envisage de le mettre hors d’état de nuire, et vise, comme considération annexe, à assurer sa future rédemption. Et à « répondre » de ses actes, en adhérant pleinement au statut d’accusé qui est le sien à cet instant en disant : « Oui, c’est bien moi : je suis la personne en question ! ». Autrement dit le degré de son identification à l’individu qui se trouve là dans le box des accusés, et les éléments qu’il doit alors apporter, en vue d’alléger sa peine, pour assurer qu’il saura comment s’amender – si le verdict n’est pas la mort. Le cadre de référence n’est plus ici ni le vrai ni le faux, mais le Bien et le Mal et le talent de chacun à les distinguer sans se tromper. Or, dans la Cacanie d’aujourd’hui, dit Musil, le « C’est bien moi ! » s’est effacé au profit d’un « C’est la faute à pas d’chance ! » généralisé.

Pour imputer, il faut qu’il y ait des preuves. Pour ce qui est de la capacité de l’inculpé à rendre compte, les témoins viendront corroborer ou non ses propos. Reste l’answerability : la disposition ne dépendant que de lui, d’un inculpé à comprendre pour quel motif précis la justice lui fait procès. 

La capacité de Moosbrugger à répondre de ses actes, il la fait exploser, alors même que le verdict est déjà tombé et que l’affaire semble close. « La séance fut levée, tout était consommé, écrit Musil, il se retourna, tandis que les gendarmes déjà l’emmenaient […] et s’écria […] ‘Je suis satisfait, encore que je doive vous avouer que vous avez condamné un fou !’ » Las ! le talent supposé à chacun de répondre de ses gestes, la folie le réduit à néant !

Un mouvement est né au milieu du XIX^e siècle aux États-Unis, qui déboucherait sur l’attribution de la personnalité juridique aux entreprises, considérées désormais comme « personnes morales », habilitées aux droits qui sont ceux de la personne physique, tel le droit de propriété. L’objectif légitime était de remédier à la dissolution d’une entreprise à la suite du décès de son fondateur. Les choses allèrent très loin, jusqu’au fameux arrêt dit Citizens United de la Cour suprême américaine en 2010 permettant aux sociétés de contribuer pour des sommes potentiellement illimitées à la publicité d’un candidat lors des campagnes électorales. Il s’agissait là, affirmèrent les juges, d’une implication du premier amendement à la Constitution garantissant… la liberté d’expression. 

Les personnes morales que sont les entreprises exercent leurs droits et s’expriment par le biais de personnes physiques, susceptibles de répondre de leurs actes – même si le chantage à l’emploi émascule ici le bon exercice de la justice dans la majorité des cas. Or il est question maintenant, prenant prétexte de leur intelligence, d’accorder la personnalité juridique aux robots aussi, en ignorant le caractère artificiel de leur génie. 

Imputabilité en cas d’accident causé par un robot ? Oui bien sûr : la voiture autonome, sans conducteur, qui renverse un piéton, est bien la cause de l’accident. La punition sera ici de mettre en position « off » l’interrupteur du robot lui-même et de faire remonter l’imputabilité à son constructeur ou son usager, selon ce que déterminera la loi, complétée ensuite, pour le vague subsistant, de la jurisprudence.

Capacité à rendre compte de ses gestes ? Pourquoi pas ? Une machine intelligente devrait être capable de raconter son histoire, quitte à broder un peu pour améliorer la qualité du récit, à l’instar de ce que nous faisons nous-mêmes. Mais sera-t-elle sensible au précepte qu’« il n’est pas beau de mentir » ? Il est permis d’en douter.

Pour ce qui est maintenant de la capacité d’un robot à adhérer à la personne qu’il affirme être, pour ce qui est de son degré de détermination dans le respect de sa parole donnée quand il aura promis-juré (et affirmera alors mettre en jeu son honneur !), pour ce qui est de son talent à nous convaincre de la sincérité de son remords, garant de sa volonté de s’amender en vue d’assurer son salut, là, nous demanderons certainement à voir !