Droit et intelligence artificielle : quelle régulation du marché pour des outils de justice prévisionnelle dignes de confiance?
Mise à jour juin 2021
DELABORDE Agnès, HYDE Aurore, LICOPPE Christian
Laboratoire national de métrologie et d'essais, Université de Rouen-Centre universitaire rouennais d'études juridiques (CUREJ EA 4703)
Recherche débutée en 2020-11 - Achevée en 2023-02
Référence : 20.21
Type de projet : Appel à projets
Programme : Les enjeux de la construction d'une justice prévisionnelle dans un contexte d'émergence d'un marché économique des outils d'IA
Présentation de la recherche
Le projet de recherche vise à analyser le développement des produits et services mettant en œuvre l’intelligence artificielle à destination des professionnels du droit, dans une perspective pluraliste (économie, droit, sociologie) s’attachant à cerner la manière dont la confiance peut être assurée dans ces dispositifs ainsi que les conditions sous lesquelles ceux-ci peuvent devenir des sources du droit, tant du côté de l’offre que du côté de la demande. Dans une première partie, la structuration de l’offre et des marchés, ainsi que les stratégies concurrentielles seront étudiées. L’objectif est ici d’analyser les bénéfices et les limites d’une régulation publique, par rapport à l’effectivité attendue d’autres formes de régulation (telles que l’auto-régulation par les opérateurs privés ou une régulation portée par des autorités de certification dont le rôle et le périmètre seraient à définir).
Une deuxième partie examinera, dans une perspective à la fois plus juridique et plus focalisée, ce qui dans ces dispositifs de justice prévisionnelle peut être règlementé (par exemple leurs domaines d’application) et ce qui, au contraire, doit relever d’autres formes de régulation. Cela nous conduira à envisager les formes que peuvent prendre cette régulation (normalisation, certification, audit) pour garantir la fiabilité des systèmes et étayer la confiance des utilisateurs finaux. Dans le cadre d’une étude de cas, nous analyserons la chaîne de qualification d’un outil précis, mis au point par un des partenaires industriels du projet. Enfin dans une troisième partie, nous exploiterons une expérimentation auprès d’un tribunal de grande instance pour examiner comment de tels dispositifs peuvent effectivement être utilisés, parmi d’autres, à l’appui de décisions judiciaires (dans le domaine du contentieux familial et des indemnités compensatoires associées). L’objectif est ici d’identifier, de quelle manière ces outils peuvent modifier l’activité des magistrats, et s’ils peuvent modifier le rapport aux « précédents ». À partir d’enquêtes qualitatives par entretiens, nous chercherons, in fine, à partir d’une compréhension de la décision judiciaire « équipée » par les dispositifs IA, les conditions sous lesquelles ceux-ci peuvent devenir des « sources du droit » et peut- être participer ainsi à une certaine réduction des disparités entre les décisions.
Mots-clés : justice prévisionnelle ; régulation ; legaltechs ; usages ; sources du droit; confiance ; opérationnalisation des principes éthiques en matière d’intelligence artificielle
Abstract
The research project aims at analyzing the development of products and services using AI for legal professionals, from a pluralistic perspective (economy, law, sociology), in order to identify the way in which trust can be ensured in these devices and the conditions under which they can become sources of law, both on the supply and demand sides. In the first part, the structuring of supply and markets, as well as competitive strategies will be studied. The objective here is to analyze the benefits and limits of public regulation, in relation to the expected effectiveness of other forms of regulation (such as self-regulation by private operators or regulation carried out by certification authorities whose role and scope would have to be defined).
A second part will examine, from a more legal and focused perspective, what can be regulated in these systems of provisional justice (e.g. their fields of application) and what, on the contrary, should be regulated by other forms of regulation. This will lead us to consider the forms that such regulation can take (standardization, certification, auditing) to guarantee the reliability of systems and underpin the confidence of end users. Within the framework of a case study, we will analyze the qualification chain of a specific tool, developed by one of the industrial partners of the project. Finally, in a third part, we will exploit an experiment with a regional court to examine how such devices can effectively be used, among others, in support of judicial decisions (in the field of family litigation and associated compensatory allowances). The objective here is to identify how these tools can modify the activity of magistrates, and whether they can modify the relationship to "precedents". Based on qualitative surveys through interviews, we will seek, in fine, from an understanding of the judicial decision "equipped" by AI devices, the conditions under which they can become "sources of law" and thus perhaps participate in a certain reduction of disparities between decisions.
Keywords: predictive justice; regulation; legaltechs; uses; sources of law; trust; operationalization of ethical principles in the field of artificial intelligence.
Note de synthèse : Document non disponible
Rapport de recherche : Document non disponible