Je ne sais pas si vous vous souvenez de ce qui fut la 1ère affaire judiciaire dans laquelle on utilisa un bracelet connecté, et les données idoines, comme élément de preuve. Je vous en avais parlé dans ce billet : "La preuve par les données, et la justice comme boîte noire." Pour vous éviter une relecture complète dudit article, il s'agissait d'une jeune femme victime plusieurs années auparavant d'un accident de voiture, et dont les avocats avaient utilisé les données du bracelt FitBit pour "prouver" que son comportement et son activité (après l'accident) étaient statistiquement inférieurs ou dégradés par rapport à ceux d'un individu "normal".
Rape Me, I'm Quantified.
Or voici qu'une nouvelle fois, les données collectées par un objet connecté (en l'occurrence, encore un bracelet FitBit) se trouvent au centre d'une nouvelle affaire ... de viol. Comme le rapport le site "Objets Connectés" qui le tient lui-même de l'article d'Engadget :
"Un homme s’est vu injustement accusé de viol aux Etats-Unis par une femme. (...) Selon ses dires, elle se serait réveillé vers minuit avec un étranger au-dessus d’elle et qui aurait commis son méfait. Pendant qu’elle se débattait, elle aurait fait tomber son tracker d’activité. Oui, mais voilà, quand les autorités on retrouvé le fameux tracker, les résultats de son suivi n’étaient pas conforme à ses dires. Le Fitbit l'a enregistré éveillée et, pire encore, active et se déplaçant tout au long de la nuit. Combiné à d’autres éléments incohérents, la police en a conclu qu’elle mentait et l’enquête s’est arrêtée là."
Où l'on se prend à regretter que DSK et Naffissatou Diallo n'aient pas eu leur bracelet Fitbit avec eux. Et à imaginer comment la face du monde en eut - ou pas d'ailleurs - été changée.
Cette affaire - et l'utilisation d'un objet connecté comme élément de preuve - outre son côté sordide, amène naturellement à considérer sous un regard assez embarrassé le développement des objets connectés "dédiés" à la mesure de notre activité sexuelle.
Ce matin un lapin a tué un chasseur. Et un robot a tué un homme.
Le même semaine que cette affaire - et le même jour que la sortie du nouveau Terminator en salle - on apprenait qu'un robot avait tué un homme. La scène s'est produite dans une usine d'assemblage Volkswagen en Allemagne, lorsqu'un robot a confondu un employé avec une plaque de métal (enfin il l'a projeté sur une plaque de métal). Lequel employé est ensuite décédé de ses blessures. La nouvelle a beaucoup tourné sur les réseaux sociaux (parce qu'en plus c'est une certaine Sarah O'Connor qui l'a twitté, si si j'vous jure, d'ailleurs Martin Lessard revient sur ce phénomène viral), et elle est devenue en quelques jours le premier "meurtre" commis par un robot. Moi-même j'avoue avoir cédé un peu rapidement à l'emballement. Ce n'est bien sûr malheureusement pas la première fois qu'un ouvrier est blessé, mutilé ou même tué par un automatisme sur une chaîne de montage.
Et contrairement à l'emballage médiatique qui a suivi, ce n'est pas du tout non plus le 1er "meurtre" commis par un robot, même si l'on ne prend pas en compte les victimes des drones et autres applications de robotique militaire ou les futures victimes des voitures automatiques sans chauffeur.
En Juin 2014 le New-York Times publiait un article dans lequel les premières affaires d'ouvriers tués par des robots remontent en fait à 2006. Plus globalement, pendant les 30 dernières années aus USA, ce seraient plus de 33 personnes qui auraient trouvé la mort suite à un accident causé par un robot :
"Robots have caused at least 33 workplace deaths and injuries in the United States in the last 30 years, according to data from the Occupational Safety and Health Administration."
Donc non, un robot, même de dernière génération, n'en est pas encore au stade du Terminator. Et non, il ne s'agit pas d'un meurtre mais d'un accident. Il n'empêche.
UberBots + Driveless Cars + IoT + Data Justice = Gros bordel.
A croiser les avancées dans le domaine de la robotique voire de l'intelligence artificielle avec celles de l'internet des objets et du world wide wear, à voir les progrès hallucinants de ces dernières années dans la mise au point d'interfaces vocales et d'assistants "intelligents" ou à tout le moins "personnalisés", à brasser le tout avec le mouvement d'Uberisation de secteurs économiques dans leur ensemble ainsi qu'avec "l'automatisation" non plus seulement de process industriels mais de pans entiers du secteur des services et des soins à la personne, à constater l'inéluctable évolution de la pregnance d'une "judiciarisation" de la collecte et du traitement des données personnelles, il serait aujourd'hui clairement criminel de ne pas engager de réflexion éthique et morale approfondie sur les implications de ces différentes (r)évolutions.
Le bandeau (des algos), le glaive (des données) et la balance (de la traçabilité).
Si nous le le faisons pas, les 3 attributs classiques de la justice - le bandeau, le glaive et la balance - risquent fort de devenir le bandeau de l'opacité de la collecte et du traitement de nos données personnelles, le glaive de l'automatisation, et la balance des algorithmes décisionnels.
Le numérique n'est pas un espace de non-droit. Mais il ne saurait être l'espace du droit tel qu'il est pensé et rédigé pour réguler les conflits à l'échelle d'un territoire physique et de la communauté humaine qui le peuple. Les incessants débats autour du droit d'auteur nous en apportent la preuve chaque jour. Nous avons besoin d'un autre droit. La tentative aussi pathétique qu'infructueuse d'imposer un "droit à l'oubli" aux moteurs de recherche prouve si besoin était que Google n'est ni un tribunal ni un juge, mais qu'inscrire dans la loi ce droit à l'oubli le place de facto en situation de rendre seul sa justice. Là aussi nous avons besoin d'une autre approche du droit.
D'autant que la doxa juridique des GAFAM est claire, déjà édictée, et tient en 3 phrases :
- "si vous n'avez rien à vous reprocher, alors vous n'avez rien à cacher"
- "s'il est possible de le faire, nous le ferons"
- "nul n'est censé vraiment lire nos CGU"
D'autant que leur code est déjà la loi.
Le bracelet du Terminator.
Le Terminator (en tant que robot ou automate "justiciable") et son bracelet connecté (en tant que "preuve par les données") nous placent dès aujourd'hui dans une double contrainte : il est certains aspects du droit qu'il est vain et contre-productif de tenter de calquer dans l'environnement numérique, de la même manière que l'application de certaines règles de droit dénaturent l'essence même du numérique (pensez aux DRM et à ces livres, fichiers dématérialisés, qui deviennent impossibles à lire dès lors qu'ils sont "prêtés") mais, a contrario, il est nécessaire que la législation évolue (droit civil, droit pénal, droit constitutionnel, droit du travail) pour proposer un cadre, non pas à certaines pratiques que le numérique n'a pas inventé mais dont il se contente de multiplier l'effet d'audience et la persistance dans le temps (comme pour le "droit à l'oubli" et l'un de ses corrélats, le "revenge porn"), mais aux nouvelles pratiques constitutives de ce "milieu" qu'est le numérique. Penser le droit à partir des usages plutôt que de légiférer sur des usages que l'on postule être de "non-droit".
Il nous faut un droit d'usage qui soit conforme aux usages réels ainsi qu'aux "lois" et aux invariants de ce nouveau milieu qu'est le numérique. Un peu à l'image de ce qu'ont permis les licences Creative Commons. Sans cela nous basculerons immanquablement de l'algorithmophobia d'hier à la robophobie de demain. Deux phobies qui reposent sur un même enjeu : celui du contrôle, de la maîtrise de nos données, des données en général et de l'autonomie qu'elles permettent de conférer à des automates et aux programmes qui les alimentent.
Commentaires