29 Mar 2020 Datajust : juste de la data ?

Le décret 2020-356 du 27 mars 2020, publié au journal officiel le 29 mars 2020 crée un traitement automatisé de données à caractère personnel dénommé « DataJust ».

La publication de ce décret a immédiatement provoqué le 29 mars 2020 sur les réseaux sociaux une série de messages de protestations et d’inquiétudes.

L’objectif de ce billet est de tenter de comprendre ce que sera ce traitement et son utilité réelle ou supposée. Il s’agit d’un billet rapide, écrit « à chaud » et qui contiendra certainement des erreurs et des approximations.

Dans ce décret, le ministre de la justice est autorisé à mettre en œuvre un traitement automatisé de données à caractère personnel pour développer un algorithme servant à atteindre quatre objectifs.

Depuis la loi informatique et libertés de 1978, et encore plus depuis l’entrée en vigueur du règlement général sur la protection des données (le RGPD), tous les traitements de données à caractère personnel doivent obéir à des finalités précises.

Le premier objectif est de réaliser des évaluations rétrospectives et prospectives des politiques publiques en matière de responsabilité civile ou administrative. Derrière ce galimatias, on croit pouvoir deviner que le logiciel (un traitement automatisé de données est un logiciel) va permettre d’étudier le passé des décisions rendues par les tribunaux civils (les tribunaux judiciaires) et les tribunaux administratifs. C’est l’aspect rétrospectif. De ce côté-là, il n’y a rien de véritablement nouveau car il existe déjà des logiciels qui permettent de mener ce type d’études, même si c’est sur une base relativement artisanale. Les magistrats ont parfois accès aux bases de données des éditeurs publics (Dalloz ou LexisNexis) et il semble qu’ils disposent de bases de données « internes », ce qui paraît assez logique.

En revanche, sur l’aspect prospectif, on est probablement face à quelque chose de relativement nouveau que l’on désigne parfois sous le terme de « justice prédictive ». C’est un terme très large et qui est à mon sens très ambigu, voire critiquable.

Tout d’abord, les avocats dans leur rôle de conseil font tous les jours de la justice prédictive en indiquant au début d’un dossier à leurs clients leur probabilité de perte ou de gain d’un procès et ce qu’ils peuvent espérer gagner en termes d’indemnités par exemple.

Il s’agit peut-être de développer au sein du ministère de la justice des outils comparables (au moins dans les objectifs) par les sociétés Case Law Analytics, Predictice ou Juripredis.

Ce qui est beaucoup plus étonnant est que cet objectif semble avoir pour ambition de tenter de chiffrer par avance « les politiques publiques en matière de responsabilité civile ou administrative ». Difficile de deviner se qui se cache derrière cet objectif, étant bien précisé que tout cela semble circonscrit aux préjudices corporels.

Le deuxième objectif est d’élaborer un référentiel indicatif d’indemnisation des préjudices corporels. Les barèmes existent en matière d’indemnisation des préjudices corporels depuis au moins les années 80, certains développés de manière quasi artisanale par des collectes de jurisprudence qui devenait progressivement des barèmes officieux. Il semble même qu’il existe au sein du ministère de la justice des barèmes quasi officiels qui permettent de déterminer à quelques centaines d’euros les indemnités reçues après un accident du travail ou un accident de la route.

On sent bien que le rédacteur du décret a voulu prendre la précaution de développer un référentiel seulement « indicatif ». En effet, un des reproches adressés à ce type d’outils et son caractère « performatif ». En d’autres termes, ces barèmes constituent parfois des prophéties auto réalisatrices. Si la machine indique à un juge que la perte d’un bras droit vaut 50 000 €, il y a un risque que ce chiffre n’évolue jamais dans le temps, et surtout qu’il ne s’adapte pas à la situation précise de chaque personne. Pour parler clair, si j’ai un accident de voiture qui m’occasionne la perte d’un bras droit, ce sera sûrement gênant mais cela ne m’empêchera pas d’exercer mon métier. En revanche, la situation est totalement différente pour un mécanicien automobile ou un violoniste professionnel.

On verra ce qui sortira de cette étude de 2 ans. On peut compter sur la vigilance des magistrats et de beaucoup de praticiens de ce domaine (dont une partie est « vent debout » contre les outils de « justice prédictive »).

Le 3^e objectif affiché et l’information des parties et l’aide à l’évaluation du montant de l’indemnisation. Parlons clairement : à partir du moment où le barème vous indiquera que vous pouvez prétendre à une somme comprise entre 50 000 et 60 000  € pour votre bras droit, il n’y aura plus de procès. La négociation sera rapide avec l’assureur et il y aura une médiation rapidement conclue. La volonté est très clairement depuis plusieurs années et avant même ce gouvernement de « désengorger les tribunaux », qui est une façon polie de dire que le souhait est de faire disparaître tout un pan du contentieux devant les tribunaux judiciaires et les tribunaux administratifs. On a déjà connu cela avec la mise en œuvre de la loi dite « Badinter » en 1985 qui a fait quasiment disparaître des tribunaux judiciaires tous les contentieux liés aux accidents de la route.

Et pour que les choses soient bien claires, le 4^e objectif est d’informer ou de documenter les juges appelés à statuer sur les demandes d’indemnisation des préjudices corporels. Reprenons notre exemple de l’accident de la route qui a conduit à la perte de mon bras droit. Le barème m’a indiqué une somme comprise entre 50 000 et 60 000 €. L’assureur de l’auteur de l’accident m’a proposé 55 000 €. J’ai rejeté cette offre pour des raisons qui m’appartiennent. Le jour où j’arriverai devant mon juge et que je réclamerai par exemple une somme de 100 000 € pour des raisons tenant à la spécificité de ma situation (parce que je suis un violoniste international), il faudra convaincre le juge contre la présomption qui sera établie par le traitement.

À titre personnel, je pense que l’effet « performatif » les outils de justice prédictive sera assez limité. Les juges et les avocats sont assez rétifs à recevoir des instructions. Pour certains avocats, c’est même une douce litote. Mais il est incontestable que cet outil va aboutir à établir des présomptions (la présomption que votre bras droit vaut entre 50 000 et 60 000 € ).

Pour comprendre ces présomptions, il faudra connaître avec beaucoup de précision la manière dont l’outil fonctionne, les données sur lesquels il s’appuie (les datasets), et finalement que cet outil soit disponible auprès de tous. Et c’est là la principale inquiétude que l’on peut nourrir à la première lecture. J’ai assisté à plusieurs conférences au cours desquels j’intervenais et certains magistrats (minoritaires, je pense) souhaitent disposer à titre exclusif d’un outil pour leur seul usage. Or, en la matière, il faut que cet outil, développé à base de données publique, avec des deniers publics, soit mis à disposition de tous les acteurs de la réparation du préjudice en matière de responsabilité civile ou administrative. L’une des critiques les plus raisonnables à l’égard de certains traitements algorithmiques est leur aspect obscur, le côté « black box ». Il faut que ce traitement soit complètement « open ».

Les données seront livrées au ministère de la justice par le conseil d’État et la Cour de cassation apparaît avoir été « anonymisées » (fin de l’article 2). Un nombre restreint de personnes aura accès à ces données au sein du ministère et seulement sur la base de « la limite du besoin d’en connaître », notion bien connue des militaires en matière de renseignement…

Les accès seront « loggés » (article 5), les données seront conservées seulement pour 2 ans.

Concernant les droits des personnes directement concernées (les personnes citées dans les décisions de justice soit comme victime soit comme auteur), l’article 6 les restreint beaucoup. En application du RGPD, il est prévu un droit à l’information, un droit à l’opposition, un droit d’accès, de rectification et de limitation.

Ces droits disparaissent quasiment. D’abord, la personne nommée dans un jugement « mangé par la machine » ne sera pas prévenu que la décision qui la mentionne fera parti du traitement. On peut le comprendre et c’est d’ailleurs prévu par l’article 14 du RGPD.

Le droit de faire opposition à un traitement est purement et simplement annulé. Ainsi, si l’idée me passe par la tête de demander au ministère de la justice de ne pas traiter le jugement qui me concerne, je ne peux pas exercer ce droit d’opposition. Sur ce point, le décret me semble extrêmement critiquable. Il est prévu une exception au droit d’opposition quand l’intérêt général le commande, mais seulement par une mesure législative (article 23 du RGPD). Tout le monde sait que nous sommes entrés dans une situation juridique relativement inconnue avec les règles édictées dans le cadre de l’état d’urgence sanitaire, mais il me semble qu’un décret ne peut pas autoriser cette exception au droit d’opposition.

Les droits d’accès, de rectification, et à la limitation sont en revanche toujours ouverts. En d’autres termes, je peux écrire au ministère de la justice pour obtenir la référence de la décision qui m’a indemnisé lorsque j’ai perdu mon bras droit (droit d’accès), et la rectifier si elle a été mal copiée. Autant dire qu’en pratique, peu de gens exerceront ces droits et on peut même s’interroger sur la portée pratique de ces dispositions puisque par définition, les données qui arriveront au ministère de la justice auront été préalablement « anonymisées » par la Cour de cassation et le conseil d’État.

Ce décret est donc extrêmement maladroit et témoigne d’un mépris complet à l’égard de la profession d’avocat qui est d’une grande susceptibilité à l’égard de ces outils d’intelligence artificielle. Je suis de la catégorie de ceux qui sont favorables à l’usage de ces outils, et de manière publique et revendiquée, mais sur le plan politique, cette publication en plein milieu de l’état d’urgence sanitaire est une faute politique majeure.

Sur le fond, le décret est probablement défectueux car seule une loi peut supprimer le droit d’opposition (voir l’article 23 du RGPD). Surtout, ce décret organise un outil totalement verrouillé auquel personne n’aura accès, car aucune garantie n’est donnée sur l’ouverture des algorithmes qui feront tourner la machine. C’est, de mon point de vue, et quelques heures après avoir lu ce décret (donc sûrement de manière imparfaite) son plus grand défaut.

Ce traitement va-t-il ouvrir la voie à l’automatisation de l’indemnisation des litiges ? Probablement pas. Mais il fait incontestablement partie de cet arsenal de mesures visant à assécher le contentieux judiciaire.

Complément du 30 mars 2020.

1- Je n’avais pas vu l’avis de la CNIL. Il est éclairant, notamment sur le fait que la CNIL craint des biais algorithmiques, et sur le fait que l’outil développé devrait (théoriquement) être mis à disposition du public. L’avis est publié en PDF image (donc pas en caractères), ce qui est très anormal. La réutilisation par copier/coller, l’exploitation par recherche de mots clefs sont impossibles. L’avis de la CNIL révèle que le ministère de la justice pourra faire appel à des sous-traitants. Rien n’est prévu à ce titre dans le décret. Il faut que cet aspect soit particulièrement sécurisé par le ministère. La CNIL ne relève pas le problème que je pointe (la disparition du droit d’opposition par un décret).

2- Ce projet avait été annoncé fin 2018 par le ministère, et a fait l’objet d’un projet « entrepreneurs d’intérêt général ». La vidéo qui est sur la page de ce projet est très révélatrice : les personnes consultées pour réaliser cet outil sont les victimes, les associations de victimes et les magistrats (vidéo à 2’30 »). Avocats ? ce n’est pas dit. Assureurs ? non plus. Alors que l’ambition affichée est de développer un outil permettant à tous de mieux travailler ensemble, cette consultation très partielle est un problème.