Actualités : derniers articles

Cyberharcèlement sur les réseaux sociaux : comment réagir ?

Lundi 26 juillet 2021

Ce billet est en cours de rédaction ("work in progress"). Il sera amélioré et augmenté progressivement.

Agir à court terme

Premiers éléments urgents de réponse technique au cyberharcèlement d’abord :

  • se mettre en mode "Avion", puis couper les notifications de l’application
  • bannir les pires harceleurs
  • pour le reste limiter les personnes pouvant répondre répondre à vos messages (tweets etc).

Certes, il reste possible aux harceleurs de "citer" vos messages, notamment vos tweets. Mais cela sort le nouveau message du fil (thread), donc de la chaîne des réponses.

Inconvénient : ça limite aussi la portée de vos tweets.

Source : thread Twitter F. Mehrez 16 juillet 2021.

Voir aussi la page Que faire du site Non au harcèlement et surtout la remarquable liste de conseils et de ressources tenue par le site Féministes vs cyberharcèlement. Notamment :

  • appeler un numéro vert
  • faire appel à un soignant
  • augmenter la sécurité de vos comptes en ligne
  • ...

Pour les enfants et les adolescents, il y a la ligne gratuite Net Ecoute au 3018, gérée par l’association E-Enfance. 12 permanents y répondent au téléphone.

Agir à moyen terme : déposer plainte

Ensuite, répliquer, sur le plan juridique. Conseils pour se protéger et pour déposer plainte. Que faire, et dans quel ordre. Par l’officier de gendarmerie Matthieu Audibert, doctorant en droit privé et sciences criminelles, spécialiste cybercriminalité.

Car le harcèlement en ligne est punissable pénalement.

Source : Cyberharcèlement sur les réseaux sociaux : comment réagir (sur un plan juridique d’abord) ? Archive PDF par ThreadReader.

Agir à long terme : nettoyer, renforcer les obligations de modération

Pour agir efficacement contre le cyberharcèlement, il y a aussi les agences de de e-réputation, qui ne sont pas gratuites et ne remplaceront pas une action plus forte des pouvoirs publics et de Google, Facebook, Instagram, Twitter, Snapchat, Pinterest, etc. Attention : les agences de SEO (référencement web) ou de veille, ce n’est pas la même chose. Les agences de e-réputation sont des nettoyeurs ou plutôt des modificateurs de réputation en ligne.

La loi Avia a échoué, mais à notre sens, il ne faudrait pas abandonner la voie d’une obligation renforcée de modération rapide. Les ancêtres des réseaux sociaux, les listes de discussion par email puis les forums, étaient souvent modérés, certains a priori, d’autres a posteriori — ce qui n’empêcha pas de premiers abus [1]. J’ai été co-modérateur d’une liste de discussion et il m’est clairement apparu que la modération est une nécessité mais aussi un véritable travail — autrement dit, elle a généralement un coût ... La Commission nationale consultative des droits de l’homme (CNCDH) va clairement dans ce sens dans son avis relatif à la lutte contre la haine en ligne (A - 2021 - 9). La CNCDH est grosso modo satisfaite de l’état du droit ... mais pas des moyens alloués et préconise de faciliter certaines actions en justice. Et elle recommande de crééer des obligations de modération accrue pour les réseaux sociaux (recommandations n° 7 à 12) [2].

Sur le plan psychologique, il y a des exemples de résilience à glâner dans le livre de David Doucet La haine en ligne (Albin Michel, 2020, 232 pages, dans toute bonne librairie ou bien votre bibliothèque municipale). David Doucet procède également à une une analyse assez complète des causes du cyberharcèlement, auquel les adolescents sont extrêmement sensibles.

Emmanuel Barthe
juriste documentaliste

Liste des recommandations de la CNCDH dans son avis relatif à la lutte contre la haine en ligne (A - 2021 - 9) [3] :

Recommandation n° 1 : la CNCDH recommande aux pouvoirs publics :

  • d’augmenter les moyens humains et financiers octroyés au nouveau pôle spécialisé du Parquet du Tribunal judiciaire de Paris en raison de l’ampleur du phénomène de la haine en ligne ;
  • de veiller au maintien de la place du juge dans le contentieux relatif à la haine en ligne.

Recommandation n° 2 : La CNCDH recommande aux magistrats compétents de recourir davantage à la procédure sur requête aux fins d’identification de l’auteur du contenu litigieux.

Recommandation n° 3 : La CNCDH recommande au ministère de la justice de réfléchir à une simplification de cette procédure par double requête afin d’accélérer le traitement de ce contentieux, et d’en limiter les frais.

Recommandation n° 4 : La CNCDH recommande aux pouvoirs publics d’augmenter les moyens humains et financiers alloués à la plateforme PHAROS, qui permet de signaler des contenus illicites sur internet et fait partie intégrante du dispositif judiciaire de lutte contre la haine en ligne.

Recommandation n° 5 : la CNCDH recommande la création d’un organisme indépendant dédié à la lutte contre la haine en ligne, placé sous l’égide de l’ARCOM. Il serait notamment chargé de l’accompagnement de l’utilisateur des services numériques, et du développement de la recherche sur les systèmes algorithmiques de modération de contenus.

Recommandation n° 6 : La CNCDH recommande de promouvoir que, pour mener à bien ses missions, le Comité européen s’inspire de celles confiées au niveau national à l’organisme public indépendant, telles que définies précédemment.

Recommandation n° 7 : La CNCDH recommande de :

  • harmoniser les dispositifs de signalement internes aux plateformes ainsi que les critères de signalement, notamment par la création d’une interface commune aux plateformes à but lucratif, dont l’activité sur le territoire français, qu’elles y soient ou non établies, dépasse un seuil de nombre de connexions fixé par décret ;
  • mettre à la charge des plateformes l’obligation de renvoyer les utilisateurs vers les dispositifs publics de signalement, tel celui de PHAROS, dans un objectif de simplification et d’articulation des dispositifs de signalement existants ;
  • traiter, de manière prioritaire et dans les meilleurs délais, les notifications soumises par les signaleurs de confiance, afin de consacrer leur place dans le processus de signalement ;
  • informer sur la désignation et le rôle de ces signaleurs de confiance ;
  • mettre en place des mesures graduées contre les signalements abusifs, telles que plusieurs avertissements préalables à la suspension du traitement des notifications, et le déclassement de ces notifications.

Recommandation n° 8 : La CNCDH recommande que :

  • la prise de décision dans le cadre de la modération des contenus soit complétée, lorsque nécessaire, par l’intervention de modérateurs humains ;
  • les modérateurs humains bénéficient d’une formation professionnelle ainsi que d’un accompagnement adapté à la nature et au contexte culturel et linguistique de leur mission. Elle recommande également de garantir à ces travailleurs des conditions de travail transparentes et satisfaisantes.

Recommandation n° 9 : la CNCDH recommande aux plateformes de mettre en place les moyens nécessaires afin de mieux détecter les moyens de viralité artificielle dès lors qu’ils visent à diffuser les contenus haineux et, le cas échant, de suspendre les comptes ayant recours à de tels mécanismes. Elle recommande également de réfléchir à l’équilibre à trouver entre la liberté d’expression et le ralentissement voire le blocage de la diffusion de certains contenus viraux par les plateformes.

Recommandation n° 10 : la CNCDH recommande que les plateformes aient l’obligation de :

  • renseigner, dans leurs conditions générales d’utilisation, de façon aisément accessible et de manière claire et précise, les impacts d’un contenu haineux et les mécanismes clé de propagation de ces contenus ;
  • expliciter les critères selon lesquels les moyens humains et automatisés interviennent dans le dispositif de modération ;
  • fournir aux usagers les informations relatives à toute intervention sur la visibilité d’un contenu, tant dans le but d’augmenter que de restreindre sa viralité ;
  • mettre en place des mesures graduées permettant de diminuer la visibilité de certains contenus, afin que le dispositif de modération ne repose pas uniquement sur le retrait ou le blocage des contenus haineux.

Recommandation n° 11 : la CNCDH recommande que les plateformes soient sanctionnées au titre des pratiques commerciales trompeuses dès lors que leur communication publique n’est pas en conformité avec leurs pratiques de modération.

Recommandation n° 12 : la CNCDH recommande de prévoir la possibilité, pour l’auteur du contenu signalé, de s’exprimer avant que ne soit prise une décision de modération, afin de permettre un débat contradictoire.

Recommandation n° 13 : la CNCDH recommande de :

  • octroyer au CSA, et à la future ARCOM, les moyens matériels et humains de mener les audits des plateformes afin de contrôler le respect de leurs obligations prévues par le projet de loi confortant le respect des principes de la République et de lutte contre le séparatisme.
  • permettre au CSA et aux chercheurs indépendants d’accéder aux systèmes algorithmiques des très grandes plateformes.
  • prévoir que l’accès des chercheurs aux systèmes algorithmiques des très grandes plateformes soit consacré par le projet de loi confortant le respect des principes de la République et de lutte contre le séparatisme.

Recommandation n° 14 : La CNCDH recommande l’adoption d’un plan d’action national sur la formation à la citoyenneté numériques, afin d’assurer l’effectivité de l’éducation à la citoyenneté numérique dans le cadre scolaire en l’intégrant au sein d’un programme uniformisé à l’échelle nationale ; en garantissant une formation adéquate du personnel enseignant aux usages des nouvelles technologies, notamment par l’intervention d’acteurs associatifs ; en promouvant la sensibilisation de tous les publics, par un effort coordonné des pouvoirs publics, du milieu associatif et des plateformes ; en prenant en compte l’expérience utilisateur dans l’élaboration et le déploiement de ces ressources pédagogiques.

Recommandation n° 15 : La CNCDH recommande de :

  • prévoir d’adapter la sécurité, les fonctionnalités et l’ergonomie du service aux fins de protection des utilisateurs mineurs ;
  • prévoir d’accompagner les parents, par le biais de ressources adaptées et d’espaces de documentation dédiés au sein des plateformes, aux fins de promouvoir leur compréhension des activités en ligne de leurs enfants.

Recommandation n° 16 : La CNCDH recommande de garantir une traduction en FALC (facile à lire et à comprendre) [4] des dispositifs de formation et de signalement des utilisateurs, et leur respect des standards d’accessibilité numérique.

Recommandation n° 17 : La CNCDH recommande de renforcer le soutien aux associations et leurs partenariats avec les plateformes pour augmenter leur visibilité et accompagner les utilisateurs victimes de propos haineux.
Recommandation n° 18 : La CNCDH recommande de développer une application permettant d’orienter et de soutenir les victimes de contenus haineux ou choquants.

Recommandation n° 19 : La CNCDH recommande d’assurer l’effectivité de l’information de l’utilisateur par la plateforme par le biais de l’ergonomie des interfaces.

Recommandation n° 20 : La CNCDH recommande de :

  • consacrer au profit de l’utilisateur un droit au paramétrage effectif des contenus reçus et émis sur les très grandes plateformes, selon des modalités aisément accessibles et transparentes ;
  • promouvoir l’interopérabilité des plateformes.

Recommandation n° 21 : La CNCDH recommande de développer des solutions techniques permettant d’attirer l’attention de l’utilisateur sur le caractère potentiellement haineux de son contenu avant publication ou relais, dans le respect de la liberté d’expression, ainsi que des contenus reçus dès lors qu’ils ont fait l’objet de signalements.

Recommandation n° 22 : La CNCDH recommande d’inciter les plateformes à mettre à disposition de l’utilisateur un support pédagogique simple détaillant les principaux contenus illicites et le processus de signalement, puis à distinguer lors du signalement entre l’illicéité du contenu et le droit au paramétrage.

Recommandation n° 23 : La CNCDH recommande de permettre à l’utilisateur de désactiver, supprimer et filtrer les commentaires sous ses publications et d’être alerté lors du signalement d’un contenu sur son espace, afin de le mettre en mesure de le modérer.

Recommandation n° 24 : La CNCDH recommande d’encourager les actions des pouvoirs publics à l’encontre de détenteurs de pages, de comptes ou de sites internet en leur qualité d’hébergeur ou de directeur de la publication dans certaines circonstances, lorsque ceux-ci bénéficient d’une audience conséquente et tirent manifestement profit des commentaires haineux suscités par leurs contenus.

Edition juridique et sécurité informatique : quelques questions d’actualité

Jeudi 22 juillet 2021

[billet publié initialement le 22 février 2021 et mis à jour depuis]

Editeurs juridiques, legal tech, connaissez-vous les incendies, les cyberattaques ? Etes-vous (bien) protégés ? Que prévoyez-vous en cas de hack ?

Inutile de se voiler la face : les abonnements papier en documentation juridique sont en train de faire les frais de la crise économique liée à l’épidémie mais aussi au développement du télétravail, devenu fortement recommandé (mais non pas obligatoire stricto sensu puisqu’il s’agit de droit mou). Les frais, également, de l’évolution des habitudes de travail des juristes, en cours depuis longtemps.

Je ne cherche pas à dire ici que le papier ne garde pas ses avantages ou que la coexistence du en ligne et de l’imprimé est dépassée, pas du tout [5]. Juste que l’époque est, quand même, on ne peut plus favorable au en ligne.

Et alors, me dira-t-on, où est le problème ? Il est dans l’augmentation exponentielle des risques qu’il y a à travailler en ligne et de la probabilité de leur réalisation. Et il n’y en a pas un, de problème ici, il y en a quatre.

1. Pandémie => ↑ du télétravail => ↑ du en ligne => ↑ des coûts

Il y a déjà un problème bien connu des gestionnaires de budgets et de collection : le coût. Les plateformes en ligne des éditeurs coûtent beaucoup plus cher que leurs équivalents papier, surtout pour les moyennes et grandes structures, avec la fréquente tarification au nombre d’utilisateurs (réels et plus encore, potentiels).

2. Pandémie => ↑ du télétravail => ↑ du en ligne => et en cas de panne/crash/bug/incendie/inondation ?

Pour les pannes, cela fait longtemps que certains documentalistes recommandent de faire ajouter une clause (dite clause pénale [6], même si c’est du droit civil) dans les conditions particulières du contrat [7] : en cas de panne totale de plus de 24h, on enlève, au prorata, la somme de la facturation.

Ajoutons les risques suivants, qui peuvent toucher les réseaux téléphoniques (ADSL) et informatiques (fibre, Transpac ...) et les systèmes informatiques de production et d’hébergement :

  • pannes chez les divers opérateurs :
    • sur le réseau téléphonique et fibre, particulièrement celui de l’opérateur historique Orange
    • chez un hébergeur, comme par exemple le français OVH
    • chez des intermédiaires essentiels, comme les sociétés spécialisées dans la mise à disposition de serveurs cache pour les entreprises (Content Delivery Netywork, CDN), notamment Akamai le 22 juillet 2021 [8] ou Fastly le 8 juin 2021
  • inondations
  • gel par grand froid (les poteaux téléphoniques ou électriques peuvent tomber)
  • tempêtes (idem supra). Exemple : décembre 1999
  • incendie.
  • etc.

Exemple d’incendie chez un hébergeur : un peu plus d’un data center entier (le SBG-2) de l’hébergeur OVH a été perdu par le feu à Strasbourg le 10 mars 2021. Au 10 mars : SBG1 : 4 conteneurs détruits. SBG2 : complètement détruit. SBG3 : salles et équipements OK, électricité coupée. SBG4 : idem SBG3.

Conséquences de l’ "OVH fire" sur les sites web hébergés :

  • OVH héberge la base de données Doctrinal de l’éditeur juridique Transactive : l’incendie du datacenter a signifié une semaine d’arrêt pour le Doctrinal, le temps de regrouper les sauvegardes et remonter le serveur et l’aplication [9]. Mais au 5 juillet 2021, les articles de la Revuye trimestrielle de droit financier (RTDF, publiée par Transactive) disponibles par le Doctrinal ne sont toujours pas revenus en ligne. Un message indique que l’éditeur y travaille ...
  • le site droit-technologie.org tenu par le cabinet Ulys était toujours inaccessible le 25 mars. Mais au 5 juillet 2021, il était en ligne
  • un message LinkedIn de Romain Rambaud remerciant le Club des Juristes de l’héberger temporairement indique que son Blog du droit électoral était "down". Au 25 mars, il était de retour
  • les bibliographies de l’Ecole nationale d’administration pénitentiaire (ENAP) sont également tojours KO au 25 mars
  • la Lexradio de l’éditeur juridique Lexbase était HS au 19 mars, mais il continuait ses émissions sur Youtube. Au 25 mars, le site était de retour mais les anciens contenus de Lexradio sont définitivement perdus, comme le reconnaît la page d’accueil du site
  • Lamyline, Actualités du droit (la newsletter de Lamy), Data.gouv.fr et le site Antidiscrimination.fr du Défenseur des droits ont été hors ligne totalement ou partiellement le 10 au matin — ces sites étaient de retour l’après-midi. Concernant les Actualités du droit, le site est bien rétabli au 19 mars, mais il semble que des données n’avaient pas été sauvegardées. Une collègue signale sur la liste Juriconnexion que « toutes les alertes qu’[elle avait] posées pour recevoir les informations par mail avaient disparu, et certains comptes personnels qu’[elle avait] créés n’existaient plus ». Cela a été confirmé par l’éditeur, qui cherche toujours à les récupérer mais conseille aux utilisateurs du site de les recréer
  • selon l’Agefi, « les médias spécialisés Stratégies et CB News (groupe MediaSchool) n’ont pas pu envoyer leurs newsletters le 10 matin. Maddyness, site d’actualité consacré aux start-up, était encore hors-service le 10 après-midi, tout comme News Assurance Pro, média consacré aux professionnels du secteur de l’assurance. [...] Et l’Autorité européenne des marchés financiers est également touchée par des pannes » [10]. Au 19 mars, Maddyness était toujours hors ligne, mais il était de retour au 25. News Assurance Pro était également en ligne au 25 mars.

NB : selon SolutionsNumériques.com :

  • « l’article 7.7 des conditions générales de vente d’OVHcloud prévoit l’incendie comme un cas de force majeure, ce qui l’exonère contractuellement de sa responsabilité dans ce cas. Il s’engage à indiquer par écrit les circonstances de l’événement et l’évolution de la situation aux clients concernés. Si elle dure plus de trente jours, le client est alors libre de mettre fin aux services ... »
  • « OVH hébergerait les 2/3 de l’Internet français ».

Même si un tel evénement est rare, voire très rare, OVH n’est pas et ne sera pas le seul à qui cela arrive. En 2018, c’est le datacenter de Tokyo du géant Amazon Web Services (AWS), numéro un mondial du secteur du cloud, qui disparaissait dans les flammes [11].

Voir aussi sur ce blog : Les hébergeurs des plateformes juridiques en ligne.


OVH Strasbourg le 10 mars 2021 : le data center SBG2 en flammes

3. Pandémie => ↓ du papier => besoin d’archives numériques

Il y a aussi le problème des archives non fournies : le client paye pendant des années pour des ouvrages à mise à jour, des revues et s’il se désabonne, il n’a plus rien. On conçoit l’impossibilité technique de délivrer des archives des ouvrages à mise à jour ou d’une base de jurisprudence [12]. En fait, on pense à une archive des revues en PDF, ni plus ni moins. Et comme les éditeurs juridiques sont de plus en plus nombreux à les publier sur leur plateforme en PDF, ça ne devrait pas être si compliqué ni si cher que ça ... [13]

4. Pandémie => ↑ du télétravail => ↑ du en ligne => ↑ des hacks

Mais il y a un dernier problème, qui va devenir crucial : les cyberattaques.

Illustration récente : un éditeur juridique est victime d’une cyberattaque : à partir du 18 février 2021, les sites de l’Afnor ont été hors ligne pendant une semaine entière, et étaient encore le 10 mars en mode dégradé. En interne, les équipes informatiques ont pris les mesures pour empêcher le ransomware Ryuk de continuer à se répandre.

La boutique en ligne des normes et ouvrages a mis entre une et deux semaines pour revenir en ligne. Entre temps, comment faire pour consulter ou acheter une publication Afnor si vous ne l’aviez pas gardée précieusement sur votre réseau interne ?

Depuis 2020, le problème est devenu plus que réel : incontournable. Hôpitaux, municipalités, grandes entreprises, même les spécialistes de la cybersécurité voient leurs réseaux informatiques infiltrés/cryptés. Il semble que toutes les catégories d’organismes soient touchées ou à (fort) risque. Et le délai de retour à la normale totale cité dans les articles sur le sujet oscille entre 3 semaines (le minimum selon l’ANSSI) [14] et plus souvent 2 mois. Et là, comme pour l’incendie ou l’inondation, la disponibilité de sauvegardes hors site (et en plus "air gap") est capitale. Ce n’est pas pour rien que ces derniers temps, face à l’épidémie de rançongiciels ("ransomware"), on voit refleurir les sauvegardes sur bandes (ex-cassettes DAT).

Pouvez-vous vous passer de votre abonnement Navis, Lexis 360, Lamyline, Dalloz.fr, Lexbase, Revue Fiduciaire (Groupe RF) ou Lextenso pendant deux semaines ? Y a-t-il assez de documentation gratuite en ligne pour vous permettre de traiter les questions posées par les contentieux que vous traitez, surtout si vous n’avez pas de bibliothèque papier interne ?

Ajoutons que les CGV des éditeurs ne prévoient aucune indemnisation en cas de panne ou bug de leurs plateformes et aucun "dépannage" sous forme de fourniture d’archive numérique (cf supra).

J’ajouterai enfin que l’ANSSI, la Gendarmerie et le Gouvernement recommandent de plus en plus vocalement aux organismes touchés par des ransomwares de ne pas payer la rançon demandée. De toute manière, vu la situation, les primes des assurances cyber ne peuvent qu’augmenter en flèche. Selon S&P, les primes de cyber-assurance pourraient augmenter de 20 à 30% par an [15].

L’édition juridique est allée très loin dans la diffusion en ligne, éphémère. Vu les sommes et les risques croissants en jeu, il faudrait faire revenir le balancier vers la conservation sur site, durable elle. Et qui peut être sous forme d’archive numérique ... ou papier, eh oui !

Emmanuel Barthe
bibliothécaire documentaliste juridique

PS : les conservateurrs, bibliothécaires et documentalistes ont eux aussi un devoir de préserver les collections qu’ils gèrent avec un plan de continuité d’activité (PCA).Voir Sauvegarder son patrimoine et ses donnée, par Clotilde Vaissaire-Agard, CF2ID, 17 mars 2021.

Les robots, avocats et juges de demain ? Pas vraiment ... Mais la contrainte budgétaire y pousse

Intelligence artificielle en droit : derrière la "hype", la réalité

Justice prédictive, legal tech, analyse de contrats, Ross, Case Law Analytics, Predictice, Softlaw, Hyperlex, Minority report, machine learning, réseaux neuronaux, NLP, Big data etc.

Lundi 19 juillet 2021

[Ce "paper", initialement publié en janvier 2017, est régulièrement mis à jour. Une version plus courte et plus synthétique a été publiée à la Semaine juridique édition Générale (JCP G) du 8 avril 2019 sous le titre "Les outils de l’intelligence artificielle pour le droit français".]

Legal tech, justice prédictive et plus encore "intelligence artificielle" (IA) en droit sont devenus des sujets à la mode depuis 2015-2016 [16].

Mais discours marketing et flou sur les technologies comme sur les performances sont légion dans la majorité des articles disponibles — qui ressemblent souvent plus à de la communication qu’à de l’information.

De qui et de quoi parle-t-on exactement quand on parle d’IA : quelles sociétés, quelles fonctions, quelles technologies ?
Quels sont les outils juridiques méritant l’appellation IA ?
Quels sont les véritables risques pour l’emploi des professionnels du droit (avocats, stagiaires, juristes d’entreprise, magistrats, notaires) et de leurs "paralegals", documentalistes et veilleurs ?
Quels sont, également, les risques de la justice prédictive ?

C’est le sujet de ce billet, qui vise à démystifier les fonctionnalités et performances des applications présentées comme des "IA" (intelligences artificielles) en droit, tant pour le présent que pour le futur. Il s’appuie sur la lecture d’une bonne partie de la littérature disponible et sur des discussions personnelles avec certains acteurs et utilisateurs.

Résumé / Executive summary (TL ;DR)

En neuf points pour ceux qui sont pressés :

1. L’intelligence artificielle est d’abord un champ de recherche et un terme de marketing très vendeur mais fourre-tout. Les spécialistes la définissent comme la frange la plus avancée de l’informatique. Autrement dit, les réalisations dignes de ce nom, particulièrement en droit, sont rares. Le reste, c’est de l’informatique très classique.

2. Techniquement, l’IA en droit se caractérise par l’utilisation combinée :

  • du Big data
  • du machine learning (ML), de plus en plus utilisé à la place des regex (recherche de chaînes de caractères)
  • de calculs de probabilité, avec toutes les limites des statistiques
  • et surtout du traitement du langage naturel (TAL) — en anglais "natural language processing" (NLP). Soit (cas rare jusqu’en 2020) dopé par le machine learning et l’analyse syntaxique, soit (cas moins fréquent depuis 2020) à base de systèmes experts s’appuyant eux-mêmes sur les chaînes de caractères. Ce qui signifie que les soi-disant "intelligences artificielles" en droit sont en fait a) des moteurs de recherche de nouvelle génération (tous) et b) des systèmes d’aide à la décision (en France, uniquement Predictice et Case Law Analytics). Pas des cerveaux juridiques
  • et de systèmes experts, où on formalise l’expertise de spécialistes, notamment par le biais d’arbres hiérarchiques ou dans le domaine du vocabulaire (ce qui participe au TAL).

3. La valeur créée par l’intelligence artificielle provient des données nécessaires à l’apprentissage bien plus que de l’algorithme, dont les développements se font en open source. Autrement dit, les données comptent plus que les logiciels. Cela devrait permettre aux éditeurs juridiques français traditionnels, actuellement à la traîne, de revenir dans la course car ce sont eux qui détiennent les données les plus riches en droit français, tout particulièrement la doctrine.

4. Si on a beaucoup parlé de Ross, l’IA d’IBM, c’est d’abord grâce à une offensive marketing et communicationnelle de première ampleur. Mais ses performances réelles sont en deçà de sa réputation. Elle ne fait que de la recherche et de l’analyse sur la jurisprudence de droit américain dans des domaines précis, comme les faillites ou la propriété intellectuelle.

5. A plus faible dose mais régulièrement depuis une dizaine d’années, Westlaw et Lexis Advance intègrent des petits bouts d’IA, essentiellement du NLP pour améliorer la pertinence des recherches par une sorte de synonymie et de désambigüisation améliorées, mais aussi, depuis peu, par des statistiques par juge ou avocat.

6. Cet accent sur la recherche et la justice dite "prédictive" (la traduction correcte de l’anglais est "justice prévisible") fait oublier que le type d’application d’IA juridique le plus répandu sont probablement les logiciels de "contract review" (détection, analyse et classification de clauses dans les contrats anglo-saxons) : eBrevia, Kira ou Luminance par exemple.

7. En droit français, à l’heure actuelle, seul un nombre limité d’applications peuvent prétendre à être qualifiées d’IA :

  • en "contract review", Softlaw et Hyperlex
  • en justice (dite) prédictive, Case Law Analytics, Predictice et Legalmetrics de Lexbase [17]. Tous ne travaillent que sur la jurisprudence, à l’exclusion du contentieux pénal, Case Law Analytics ayant une approche très délimitée et haute couture, quand Predictice est de facto plus axé sur le droit du travail et la responsabilité civile. On peut à la limite ajouter le pionnier Jurisprudence chiffrée de Francis Lefebvre, qui travaillait déjà sur le langage naturel en 2010. Les apports de ces applications : une recherche facilitée, et le calcul du montant prévisible des dommages-intérêts et des chances de gagner un procès. Cet apport ne suffit pas toujours à convaincre les magistrats, qui disposent d’outils internes mieux adaptés (barèmes), mais suscite l’intérêt croissant des cabinets d’avocats et des assureurs
  • sur les textes officiels, RegMind de Luxia, une application de veille et de suivi automatiques du droit bancaire et financier.

7. Les risques de suppression nette d’emplois dans le secteur juridique sont un sujet de débat mais il demeure que la recherche par mot-clés va être grandement simplifiée, que les tâches simples et "découpables" seront automatisées et que les collaborateurs, les "paralegals" et les documentalistes juridiques devront apprendre à travailler avec l’IA (et non à côté d’elle), autrement dit à l’utiliser et l’améliorer. Quant à l’IA connectée au cerveau, même si des recherches existent, on en est très loin.

8. La justice dite prédictive pourrait entraîner de sérieux risques (mais ce n’est pas démontré en l’état actuel des outils), au premier plan desquels le jugement sur des critères obscurs et le conformisme des juges à ce qui a déjà été jugé. Des limites légales existent déjà et des parades techniques sont proposées, notamment l’open source du code ou des tests de vérification à partir de jeux de données. La justice dite prédictive a pour avantage de faciliter le calcul des chances de gagner ou perdre un contentieux, ce qui pousse à la transaction et peut réduire l’encombrement des tribunaux, confrontés à un sous-financement budgétaire. Exécutif et législatif poussent clairement à la roue puisqu’avec la loi de réforme de la Justice du 23 mars 2019 et son décret d’application du 11 décembre 2019, la conciliation ou médiation préalable est devenue obligatoire pour les litiges en dessous de 5000 euros et les conflits de voisinage (même si les textes d’application ... compliquent le versant certification — optionnelle — de cette réforme [18])

9. En conclusion, vu l’importance des enjeux et en même temps le fossé entre la com’ et les fantasmes d’une part et la réalité d’autre part, nous recommandons fortement de tester par soi-même ces nouvelles applications. Aucune n’étant en open source ni disponible en démo gratuite, il est nécessaire de se faire sa propre opinion, par soi-même.

Sommaire

Un sujet très tendance depuis 2016

Début janvier 2017, Les Echos publient un article au titre provocateur : Les robots seront-ils vraiment les avocats de demain ?.

En fait, ses auteurs, Pierre Aidan, cofondateur de Legalstart.fr [19] et Florence Gsell, professeur de droit à l’université de Lorraine et ancien conseiller scientifique du Conseil national des barreaux (CNB) de 2007 à 2017, réagissent, dans le but de rassurer les professions judiciaires, à un autre article.

Ce dernier, beaucoup plus provocateur sur le fond, a été publié en octobre 2016 à la Harvard Business Review, par le célèbre consultant en informatique juridique britannnique Richard Susskind et son fils Daniel, économiste : Technology Will Replace Many Doctors, Lawyers, and Other Professionals (Les nouvelles technologies remplaceront beaucoup de médecins, juristes et autres professionnels libéraux). Cet article est en fait un résumé du dernier ouvrage des Susskind publié en octobre 2015 : The Future of the Professions : How Technology Will Transform the Work of Human Experts (Le futur des professions libérales : comment les nouvelles technologies vont transformer le travail des experts humains, Oxford University Press, OUP) [20]. Quant au consultant américain Jaap Bosman, son ouvrage Death of a law firm (Mort d’un cabinet d’avocats) prédit la fin du "business model" actuel des cabinets d’avocats en soulevant l’épineuse question de la standardisation du service juridique grâce à l’intelligence artificielle (IA) [21].

Et en novembre 2016, la journaliste britannique Joanna Goodman [22] publie Robots in Law : How Artificial Intelligence is Transforming Legal Services (Les robots juridiques : comment l’intelligence artificielle transforme les services juridiques, Ark Group) [23].

Toujours début janvier 2017, la Semaine juridique publie, elle, une étude d’Antoine Garapon, magistrat, secrétaire général de l’Institut des hautes études sur la Justice (IHEJ) et spécialiste reconnu des questions de justice, intitulée « Les enjeux de la justice prédictive » [24]. Et pour ne pas être en reste, le Recueil Dalloz s’empare aussi du sujet avec une tribune de Marc Clément, Premier conseiller à la cour administrative d’appel de Lyon [25]. C’est la newsletter Dalloz Actualité qui a publié peut-être un des meilleurs articles sur le sujet : L’intelligence artificielle va provoquer une mutation profonde de la profession d’avocat, par Caroline Fleuriot, 14 mars 2017. Le seul reproche que je ferais à cet article est de reprendre, sans recul, des phrases chocs, excessives, destinées à impressionner ou à faire peur [26].

La revue Expertises, enfin, publie en janvier 2017 une interview de Rubin Sfadj, avocat aux barreaux de Marseille et New York et grand blogueur et twitteur devant l’Eternel. Interview portant sur l’IA juridique [27] et plus concrète et plus claire — plus tranchée, peut-on dire — que les deux articles précédents.

Depuis fin 2016, donc, le sujet ne quitte plus la Une des revues juridiques françaises, de la presse économique et des nombreux sites consacrés à la "French legal tech".

C’est en fait depuis les premiers succès commerciaux de ROSS Intelligence, l’IA d’IBM en droit [28], que l’attention des médias s’est portée sur l’IA appliquée au domaine du droit. Depuis l’application du système de machine learning Watson développé par IBM au droit américain des faillites ou de la propriété intellectuelle, l’intelligence artificielle (IA) en droit est devenue tendance [29]. On parle beaucoup aussi de justice prédictive.

A lire aussi sur ce même sujet :

On peut rapprocher ces publications d’une note de McKinsey (décembre 2016) sur le futur du travail [30]. Elle prévoit dans le monde entier une automatisation croissante des tâches, pouvant supprimer 5% des emplois actuels et en modifier beaucoup plus.

Toujours selon McKinsey (avril 2018), ce ne sera pas le secteur des professions juridiques ni même celui des consultants ou des professions libérales qui devrait le plus bénéficier — en terme de création de valeur/augmentation de revenus — de l’IA mais la vente et le marketing (services aux clients, recommandations d’achat, tarification dynamique), la logistique et la production (maintenance prédictive) et le voyage (Bookings.com, Liligo, Trainline et autres comparateurs de prix d’hôtels et de billets d’avion et de train) [31].

De quoi parle-t-on exactement ? Ou comment définir les legal tech et l’IA en droit aujourd’hui

Les différents types de technologies utilisés en "IA"

Les différents types de technologies utilisés en "IA" (NB : pas de robotique en droit et la "vision" mentionnée dans ce schéma recouvre en fait le machine learning (ML) et d’autres technologies)

Pour comprendre où en est l’intelligence artificielle en droit, il faut savoir de quoi on parle. Et pour savoir de quoi on parle, il faut bien commencer par des catégories et des définitions. Le premier stade de ce travail de définition et de catégorisation, c’est celui des technologies utilisées et des entreprises impliquées.

Définir l’intelligence artificielle

Il faut définir les technologies, car s’en tenir à la définition d’origine de l’intelligence artificielle, vu son flou, est impossible. Les nombreuses définitions que nous avons collectées, une fois comparées et combinées, aboutissent à deux conceptions de l’IA.

La première, officielle et héritée d’un des fondateurs de la "discipline", comporte trois éléments :

  • l’IA est un :
    • ensemble de techniques
    • ET/OU une discipline
  • l’IA simule l’intelligence humaine. Plus précisément, elle exécute des fonctions associées à l’intelligence humaine.

La notion de simulation (on ne reproduit pas mais on fait comme si) présente dans cette première conception est très importante, non seulement dans la définition de l’IA, mais aussi comme critère très concret permettant de trier le bon grain de l’ivraie, i.e. distinguer l’IA juridique rigoureuse de solutions qui en fait ne font que s’en approcher, particulièrement en justice dite "prédictive". Simuler est un critère exigeant : il faut s’approcher très près du même résultat par d’autres moyens.

Cette première conception illustre aussi un autre point essentiel de l’IA juridique : il ne s’agit pas réellement d’intelligence, mais de fonctions, de petits morceaux. Il n’ya pas de globalité.

La deuxième conception insiste sur :

  • l’aspect promotionnel du terme
  • et sur le fait que l’IA surfe sur les technologies informatiques les plus avancées.

Cette deuxième conception offre l’avantage d’une plus grande franchise et d’une plus grande clarté. Elle est donc plus facile à appliquer.

Une troisième conception, enfin, propose une conception fondée sur l’autonomie et l’adaptativité. Elle a l’avantage de décrire le mieux l’IA telle qu’on la pratique aujourd’hui (machine learning), deep learning).

Voyons les différentes définitions en détail.

Le terme « intelligence artificielle », créé par John McCarthy, est défini par l’un de ses créateurs, Marvin Lee Minsky, comme « la construction de programmes informatiques qui s’adonnent à des tâches qui sont, pour l’instant, accomplies de façon plus satisfaisante par des êtres humains car elles demandent des processus mentaux de haut niveau tels que : l’apprentissage perceptuel, l’organisation de la mémoire et le raisonnement critique ». La définition du Larousse est un peu moins floue mais reste insuffisante : « l’ensemble des théories et des techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence ».

Elle est proche de celle adoptée par la norme ISO/IEC 2382 Vocabulaire des technologies de l’information : « Capacité d’une unité fonctionnelle à exécuter des fonctions généralement associées à l’intelligence humaine, telles que le raisonnement et l’apprentissage ». Voici enfin la définition de l’IA par le meilleur dictionnaire de langue française, celui élaboré par l’ATILF [32], le Trésor de la langue française (TLF) : « Intelligence artificielle : recherche de moyens susceptibles de doter les systèmes informatiques de capacités intellectuelles comparables à celles des êtres humains ».

Dans la même veine, selon Jean-Gabriel Ganascia, chercheur au Laboratoire informatique de Sorbonne-Université (LIP6) et président du comité d’éthique du CNRS, l’IA « désigne une discipline scientifique qui a pour but de décomposer l’intelligence en fonctions élémentaires, au point qu’on puisse fabriquer un ordinateur pour les simuler » [33].

Le philosophe et chercheur en sciences de l’information et de la communication Pierre Lévy, avec franchise, définit, lui, l’IA de manière plus tranchée et, de fait, plus claire : « L’intelligence artificielle est une expression de type "marketing" pour designer en fait la zone la plus avancée et toujours en mouvement des techniques de traitement de l’information » [34].

Robert Bentz, qui a créé et dirigé une équipe de cinquante personnes spécialisée en IA au sein du Commissariat à l’énergie atomique (CEA) écrit, dans une tribune au Monde : « La mise au point de ces algorithmes n’a jamais prétendu faire appel à l’intelligence artificielle, mais plutôt à des modèles mathématiques, de la linguistique, du traitement du signal. Alors pourquoi parler de solutions d’intelligence artificielle ? [...] Oui, l’informatique nous aide par sa rapidité, mais en rien par une intelligence non démontrée. Ce que nous appelons intelligence artificielle, doit se nommer algorithmique rapide, évoluée ou avancée » [35].

Cet aspect « avancé » est aussi ce sur quoi Jean-Gabriel Ganascia insiste : « certains [dans les années 1990] préféraient parler d’“informatique avancée” ou d’“intelligence augmentée” » (qui permettent en plus de conserver l’acronyme « IA »). Luc Julia, cocréateur de Siri (Apple), penche pour cette dernière expression, en soulignant que « c’est notre intelligence à nous qui est augmentée ». Mais, reconnaît-il, « c’est compliqué de changer de terme maintenant, c’est entré dans le langage courant, c’est utilisé depuis soixante ans… C’est l’image qu’il y a dans la tête des gens qu’il faut changer. On a fait une erreur dans le terme, maintenant il faut expliquer ce qu’il y a derrière » [36].

L’Université d’Helsinki, dans son remarquable cours en ligne (MOOC) d’initiation à l’IA, si elle reconnaît l’absence de définition officielle de l’intelligence artificielle, propose de dépasser la définition — trop simple — proposée plus haut d’informatique avancée. Ce cours, intitulé Elements of AI, propose une définition de l’IA centrée sur l’autonomie et l’adaptativité. Pour citer le cours : « Autonomie : capacité d’effectuer des tâches dans des environnements complexes sans être constamment guidé par un utilisateur. l’adaptativité : capacité d’améliorer le rendement en tirant des leçons de l’expérience. » [37] Cette définition est certes reliée aux technologies qui dominent actuellement le domaine de l’IA : le machine learning, et plus particulièrement le deep learning et ses réseaux de neurones. Mais comme nous allons le voir, elle éclaire assez bien le champ de l’IA en droit.

Autonomie et adaptativité : ce sont des critères qu’on retrouve mis en avant dans la définition très détaillée adoptée par le Parlement européen dans ses trois recommandations sur l’IA du 20 octobre 2020 proposant un règlement européen sur l’IA : « système qui est soit fondé sur des logiciels, soit intégré dans des dispositifs matériels, et qui fait preuve d’un comportement intelligent, notamment en collectant et traitant des données, en analysant et en interprétant son environnement et en prenant des mesures, avec un certain degré d’autonomie, pour atteindre des objectifs spécifiques » [38].

Aspect marketing et hype

Le but marketing cité par Pierre Lévy [39] se voit dès l’origine même du terme "intelligence artificielle". Selon Tom Morisse, research manager chez Faber Novel : « si le mathématicien de formation John McCarthy utilise ces mots pour proposer le Dartmouth Summer Research Project — atelier de l’été 1956 que beaucoup considèrent comme le coup d’envoi de la discipline — c’est autant pour la distinguer des travaux connexes qu’étaient la théorie des automates et la cybernétique que pour la doter d’une définition idoine » [40].

L’aspect marketing est toujours très prégnant, aujourd’hui, dans les produits estampillés "IA". Concrètement, les "tech" se sont retrouvées dans une ruée vers l’or de l’intelligence artificielle. Mais, comme le dit Meredith Whittaker, cofondatrice d’AI Now et dirigeante du groupe Google Open Research, à The Verge, « de nombreuses affirmations sur les avantages et l’utilité de l’intelligence artificielle et des algorithmes ne sont pas étayées par des preuves scientifiques publiquement accessibles » [41]. Ses propos sont recoupés par ceux d’Olivier Ezratty sur FrenchWeb : « L’IA est parée de capacités qu’elle n’a pas encore et n’est pas prête d’avoir. On est en pleine construction d’une vision mythique de l’IA, basée sur des mécanismes de propagande de l’innovation [...]. Ces mécanismes sont amplifiés par la communication marketing des fournisseurs tels qu’IBM et Google qui embellissent toujours la mariée, par une stratégie de la sidération, par la difficulté de vérifier les faits avancés ou la fainéantise intellectuelle ambiante, et par l’absence généralisée de connaissances techniques sur l’IA, même chez la majorité des spécialistes du numérique » [NB : notamment chez les journalistes et les prospectivistes] [42]

En fait, l’IA est d’abord une idéologie, et non une technologie, selon deux chercheurs travaillant chez Microsoft [43]. Plus précisément, écrivent-ils : « En fait, le plus grand avantage de la Chine en matière d’IA est moins [leur industrie et leurs données] de surveillance qu’une vaste main-d’œuvre de l’ombre qui labelllise (met des "étiquettes") activement les données introduites dans les algorithmes. [...] Des recherches récentes ont montré que sans la création des êtres humains qu’est Wikipedia, la valeur des moteurs de recherche s’effondrerait (puisque c’est là que se trouvent souvent les meilleurs résultats de recherches substantielles), et ce, quand bien même les services de recherche sont présentés comme des exemples de première ligne de la valeur de l’IA. »

Mike Mallazzo, un spécialiste du marketing pour applications et e-commerce, est allé plus loin dans un post Medium de juin 2019, en affirmant que « les startups rebaptisent sans vergogne les algorithmes rudimentaires d’apprentissage machine comme l’aube de la singularité, avec l’aide d’investisseurs et d’analystes qui ont un intérêt direct dans le développement du battage publicitaire. » Selon M. Mallazo, « la définition de l’intelligence artificielle devient [alors] si confuse que toute application du terme devient défendable. » [44] Il cite notamment cet article de Devin Coldewey publié sur Tech Crunch en 2017 : ‘AI-powered’ is tech’s meaningless equivalent of ‘all natural’ ("IA" est l’équivalent technologique et sans signification de "naturel"). Pour Mike Mallazo, les journalistes (américains) savent parfaitement que c’est du « f...age de gu... » mais y sacrifient sans problème.

On peut faire un parallèle avec les promesses de l’IA en matière de finance, de spéculation boursière et de banque. Citons ici deux [articles du Financial Times, le premier signé par un "founder and chief investment officer", un professionnel du "trading", qui pourrait en large part être appliqué à l’IA en droit [45] :
« Ne croyez pas la "hype" à propos de l’IA et de la gestion de fonds. L’apprentissage machine peut générer des améliorations marginales mais rien de véritablement transformationnel. [...] [un autre problème] est qu’un système d’IA tire des leçons du passé. Or en finance, le passé n’est pas un bon guide pour l’avenir. [...] Si on veut qu’un système d’IA réagisse rapidement aux événements, il doit construire un modèle sur une histoire très courte, ce qui réduit la quantité de données dont le système peut tirer des enseignements. [...]
Enfin, [dans] les données financières, [...] bien qu’il ne soit pas entièrement aléatoire, le rapport signal/bruit est certainement faible. Dans les domaines où l’IA a été couronnée de succès, ce n’est généralement pas le cas. [...]
Bien qu’il soit peu probable que l’IA crée de nouvelles sources de revenus "scalables", elle s’avère utile dans des tâches plus banales. L’IA est très efficace pour nettoyer les données et pour détecter des caractéristiques intéressantes dans des ensembles de données gigantesques, par exemple. »

Des spécialistes de l’IA dans les banques font le même constat [46]. Pour Foteini Agrafioti, responsable de Borealis, la branche de recherche sur l’IA de la Banque Royale du Canada, « il y a trop de gens qui font ces déclarations [sur les coûts élevés et l’impact sur l’emploi]. Les problèmes que nous avons résolus sont très limités. » Le professeur Patrick Henry Winston, qui a dirigé le laboratoire d’IA du MIT entre 1972 et 1997 et désormais titulaire de la chaire Ford au même MIT, partage les préoccupations de Mme Agrafioti concernant les limites de l’IA : « Une grande partie de ce dont vous avez besoin pour remplacer les gens qui pensent n’est pas à la portée des systèmes d’intelligence artificielle actuels, qui sont en réalité plus perceptifs que cognitifs. Quand le cognitif arrivera-t-il ? In fine, oui, il arrivera, mais ma boule de cristal est trouble sur le timing. Peu de personnes travaillant sur l’IA aujourd’hui travaillent réellement sur le côté cognitif. »

Tout récemment (septembre 2020), ce sont les Echos eux-mêmes — pourtant de chauds défenseurs des start-ups (ils leur consacrent une rubrique spécifique) — qui soulignaient que « l’intelligence artificielle cale : si les applications se multiplient dans les entreprises, les révolutions grand public de la voiture autonome ou des assistants personnels nécessiteront de nouvelles avancées conceptuelles dont nous sommes encore bien loin » [47]. En citant même l’inévitable Yann Le Cun, qui demande de la patience : selon l’article, « l’idéal serait de disposer de machines capables d’inférences causales, c’est-à-dire d’établir directement toutes les relations causes-effets possibles entre des modèles (si je pousse ce verre, il bascule, et la table est mouillée…). Mais c’est alors tout le modèle conceptuel de l’IA qu’il faudrait revoir. » L’article cite aussi Jean-François Gagné, cofondateur et PDG d’Element AI, un éditeur canadien d’algorithmes : « L’IA, telle que nous la connaissons aujourd’hui, ne peut pas faire de miracle si elle ne dispose pas de données à partir desquelles apprendre » (ce qui prend tout son sens en droit quand on sait le manque de décisions pénales disponibles et plus encore le manque de motivation en fait et en droit de celles disponibles, cf infra).

Jeremy Kun, professeur de mathématiques, programmeur en machine learning (maths et stats sont au coeur du ML) et ingénieur informatique chez Google, le dit encore plus abruptement — et qui plus est de manière générale — sur son compte Twitter : « Les personnes qui veulent classifier les sexes de manière algorithmique doivent faire beaucoup plus d’efforts pour trouver de vrais problèmes à résoudre. Je commence à penser que les applications de ML sont des pièges pour les paresseux qui ne veulent pas apprendre la connaissance du domaine sur quoi que ce soit. » [48]

L’IA, une discipline ?

Le terme même de discipline, pour l’IA, est sujet à caution. Certes, la norme ISO 2328 et Jean-Michel Ganascia cités plus haut la qualifient de discipline — qui plus est expressément, pour J.M. Ganascia.

Mais il ne s’agit pas d’une discipline scientifique bien délimitée. On emploiera plus facilement les termes de matière, de sujet ou encore de champ de recherches. En ce sens, voir la partie 7-1.1 Les disciplines de l’intelligence artificielle de la thèse de Daniel K. Schneider sur la Modélisation de la démarche du décideur politique dans la perspective de l’intelligence artificielle [49] :

« L’intelligence artificielle n’a pas d’objet de recherche académique bien défini à part l’intérêt porté au "mental" et aux représentations de connaissances. Elle s’est divisée en de nombreuses sous-disciplines focalisant sur des problèmes bien distincts (tel que la vision, la résolution de problèmes, la compréhension du langage, l’apprentissage,...). Il n’existe pas de paradigme unifié de recherche et certaines branches de l’IA sont devenues des terrains d’échanges multidisciplinaires où se côtoient philosophes, psychologues, informaticiens et autres qui s’intéressent aux divers problématiques de l’intelligence. »

Il y a donc des technologies, qu’il faut distinguer les unes des autres, et derrière ces technologies, il y a des applications (des logiciels, si vous préférez) et leurs développeurs, grosses sociétés de l’informatique et de l’Internet ou start-ups, l’ensemble des sociétés travaillant sur l’application des technologies informatiques au droit étant communément appelé les "legal tech" [50]. Les entreprises et les produits d’IA en droit sont un sous-ensemble des legal tech. Pour autant, il faut bien distinguer l’IA de l’ensemble des legal tech.

Que font les legal tech ?

Le Lexique des termes juridiques [51] définit les legal tech (ou legaltech) comme d’une part, « le recours à la technologie et aux logiciels pour offrir des services juridiques » et d’autre part, « l’ensemble des jeunes entreprises (dites start-up) exploitant les technologies de l’information dans le domaine juridique afin de proposer des services innovants ».

On notera au passage à quel point le terme "legal tech" isole voire rejette les éditeurs traditionnels de logiciel juridiques (comme par exemple les logiciels de gestion de cabinet d’avocats ou de gestion juridique des sociétés) et plus encore les éditeurs juridiques traditionnels [52]. Du style : les jeunes contre les vieux. Toute une stratégie marketing et communicationnelle dans une expression "legal tech", alors que les éditeurs juridiques font de l’informatique juridique depuis les années ’90 [53] Et même si les plateformes en ligne actuelles de certains peuvent manquer d’ergonomie ou de rapidité, ce n’est déjà plus le cas de Service Public, Lexbase, Lextenso voire la nouvelle version de Lamyline.

Pour sa granularité/précision, on reprendra ici la liste très complète de Benoît Charpentier développée dans son article précité. Les legal tech « proposent de très nombreux services et produits, comme :

  • le calcul de probabilité concernant les décisions de justice [ça, c’est de l’IA. De l’IA (très) faible, mais de l’IA. Voir plus loin pour les explications]
  • le financement de contentieux (third-party litigation funding)
  • les plateformes d’actions collectives
  • la génération automatisée de documents juridiques dynamiques [ici aussi, il peut y avoir de l’IA (très) faible]
  • le déploiement de systèmes intelligents ou d’intelligence artificielle (fondés par exemple sur le machine learning, notamment ses variantes natural language processing et deep learning)
  • les plateformes de mise en relation avec des professionnels du droit
  • les solutions cloud
  • l’édition de logiciels spécialisés
  • la résolution de litiges non contentieux en ligne
  • les procédures d’arbitrage en ligne
  • les procédures de divorce en ligne
  • la signature électronique
  • la certification de documents (par exemple grâce à la technologie blockchain)
  • la réalisation de formalités et de dépôts en ligne (mise en demeure, acte introductif d’instance)
  • la visualisation de données complexes issues du Big Data
  • la programmation de contrats intelligents (smart contracts)
  • la mise en oeuvre d’outils collaboratifs
  • la revue de documents assistée par la technologie (Technology Assisted Review (TAR)) [il peut y avoir de l’IA]
  • les outils de conformité
  • les outils de calculs fiscaux
  • les outils de gestion et de production des actes courants de la vie des sociétés, notamment des assemblées générales et coseils d’administration
  • les outils de gestion de contrats (contract management, audit de contrats) [auxquels j’ajouterais les outils d’automatisation (partielle) de la production de contrats]
  • les outils de recherche juridique [là aussi, il peut y avoir de l’IA. Toujours (très) faible] ».

Une autre classification, plus resserrée mais moins évocatrice, est disponible sur l’article de Case.One (une de ces legal tech) LegalTech 2018 : où allons-nous ? (janvier 2018) :

  • information juridique
  • rédaction d’actes
  • litiges en ligne
  • mise en relation [avec des avocats]
  • outils métier [pour avocats ou juristes d’entreprise].
  • IA/machine learning/justice prédictive. Selon une enquête réalisée fin 2018 par le site d’actualité des startups Maddyness et les Actualités du droit (Wolters Kluwer), 19% des legal tech disent utiliser l’IA dans leurs technologies mais 13% seulement selon l’annuaire des legal tech du Village de la Justice [54]. En réalité, et au vu des startups listées dans le segment IA dans l’annuaire du Village de la Justice si on s’en tient à une définition stricte de l’IA (voir infra), le chiffre est probablement encore plus faible.

Qui sont ces legal tech ?

Il existe une liste gratuite, fiable et quasi-exhaustive des legal techs françaises ou implantées en France (PDF), celle de Benoît Charpentier, consultant et avocat, mais elle date de début 2017. En décembre 2018, Florian Herlicq, product manager de LegalCluster, une legal tech elle-même, a entrepris de mettre à jour sa liste Les 100+ de la Legaltech française [55]. Une autre liste est celle de l’annuaire des legal tech du Village de la Justice, certes autodéclaratif, mais qui a l’avantage d’être mis à jour en continu. Pour une liste mondiale, voir [56] :

A mon goût, beaucoup de ces initiatives sont certes "legal" mais leur degré d’innovation en "tech" est faible : par exemple, simple mise en ligne de formulaires ou intermédiation entre avocats et prospects. Comme l’écrit de manière inconoclaste et pourtant très justement Martin Bussy, président de Legal Innovation, société de conseil stratégique et transformation digitale pour les professionnels du droit, « on est plutôt sur du "techwashing", technique consistant à faire passer des solutions classiques pour des innovations » [57]. Alors voici une liste personnelle de legal tech françaises (ou plutôt présentes en France), non triée, forcément incomplète mais tendant à se focaliser sur l’innovation technologique (machine learning, big data, analytics, langages de programmation simplifiés pour juristes, moteurs de recherche améliorés ...) :

Sur la production partiellement automatisée de contrats pour TPE et particuliers, voir le rigoureux comparatif — plus précisément une « évaluation de la qualité d’un “contrat de prestations de services” généré “en temps réel” » — publié par Philippe Gabillault (Toltec) fin janvier 2019 : Contribution #3–10 Legal Techs au banc d’essai..

Pour une liste quasi-exhaustive des legal tech exerçant sur le territoire français, voir la liste en annexe de la thèse de Bertrand Cassar, La transformation numérique du monde du droit (décembre 2020) p. XVIII [63].

A noter, car très souvent citée par les articles présents sur le Net mais non présente en France : DoNotPay conteste les PV de stationnement en justice sans avocat et avec un taux de succès important. Selon Olivier Ezratty, « l’ensemble exploite IBM Watson, ce qui montre qu’avec un peu de détemination une personne isolée peut le paramétrer efficacement » [64].

NB : l’importance de la legal tech française est très surévaluée. Comme l’écrit Martin Bussy début 2021 (le gras est de nous) [65] :
« Sur le plan du financement, la legaltech française et ses 220 start-up référencées ont levé 52 millions d’euros en 2019 (dont 32 millions par cinq start-up seulement). De l’autre côté de l’Atlantique, ce sont 1,6 milliard de dollars qui ont été investis. C’est un rapport de 1 à 30, très supérieur à l’écart de taille de marché (32 milliards d’euros contre 314 milliards). En Europe, la France est distancée par l’écosystème britannique (61 millions de livres sterling en 2018 soit 80 millions d’euros levés).
En tout, les legaltechs françaises représentent à peine 1,2 % de l’ensemble des levées de fonds de toutes les start-up en France en 2019. Ce n’est pas négligeable, mais cela correspond tout au plus au poids du droit dans l’économie. Malgré le retard digital du secteur, il n’y a aucun rattrapage en cours, mais plutôt une sorte d’autosatisfaction fondée sur les quelques belles opérations réalisées.
Du côté de la demande, en l’absence de données précises sur les investissements, les chiffres d’affaires ou même les usages, il est ardu de tirer des conclusions. On peut néanmoins s’interroger sur la réelle prise de conscience des clients (avocats, notaires, juristes). Une étude présentée en juillet 2019 parlait d’absence de marché du côté des clients. Le nombre de cabinets ou d’études utilisant véritablement des legaltechs au quotidien est extrêmement réduit. Les Ordres professionnels sont encore conservateurs sur ces sujets et accompagnent de loin l’innovation, sans exercer de pression au changement. »

Et on ne parle pas du chiffre d’affaires ...

IA juridique ancienne (logiciels experts) et IA juridique récente (ML, NLP)

Attention : très peu parmi ces sociétés se rangent dans la catégorie de l’intelligence artificielle telle qu’on la pratique aujourd’hui, autrement dit une IA à base de machine learning et/ou de traitement du langage naturel (natural language processing, NLP).

Beaucoup se rangent dans les logiciels experts, une catégorie d’IA déjà ancienne à laquelle le cloud donne une nouvelle jeunesse mais qui n’est pas de l’IA telle qu’on la voit aujourd’hui (sur les logiciels experts et l’IA récente, voir infra). Cette IA "à l’ancienne" de type logiciel expert peut être très efficace si ses concepteurs ont accumulé beaucoup d’expérience et à condition de ne pas lui en demander trop. L’exemple le plus connu et le plus utilisé est probablement la génération automatisée de documents, qui s’appuie sur l’ancienne technique des formulaires.

Un exemple plus "récent" et très innovant à l’époque est Jurisprudence chiffrée conçu chez l’éditeur juridique Francis Lefebvre il y a une dizaine d’années (voir infra). Ce produit utilise les cartouches sémantiques ex-Luxid (devenues Cognito Discover) conçues et développées justement depuis plus de vingt cinq ans par la société Expert System (ex-Temis) [66]. Ces cartouches se retrouvent chez de nombreux éditeurs juridiques, y compris LexisNexis et Legifrance [67].

Les technologies qui caractérisent l’IA d’aujourd’hui

Après avoir présenté les prestations et les entreprises du secteur des legal tech et avoir défini l’intelligence artificielle, voici les cinq principales technologies en cause dans l’IA en droit aujourd’hui [68] :

  • les systèmes experts. Un système expert est, selon Wikipedia, un outil capable de reproduire les mécanismes cognitifs d’un expert, dans un domaine particulier, par des règles logiques. Cette première des voies tentant d’aboutir à l’intelligence artificielle a donné des résultats décevants : par exemple, à partir d’une centaine de règles voire moins, certaines se contredisent et il devient nécessaire de les pondérer, ce qui est en fait peu rigoureux ; leur coût élevé est un autre écueil. Un exemple de système expert en droit, le prototype NATIONALITE du défunt IRETIJ (Institut de recherche et d’études pour le traitement de l’information juridique [69]) est décrit dans une contribution de 1989 [70]. En droit français, sur ce type de technologie, on doit beaucoup aux trois pionniers de ce qu’on n’appelait pas de l’IA mais simplement de l’informatique juridique : Pierre Catala (IRETIJ, Montpellier, un laboratoire défunt), à l’origine notamment de la base de données Juris-Data (un partenariat entre le ministère de la Justice et les Editions du JurisClasseur), Jean-Paul Buffelan-Lanore (Institut de recherche en informatique juridique, IRIJ - Université de Paris VIII), auteur de Jurindex, première banque de données juridiques française en 1970-1971 aux Éditions Masson et Lucien Mehl (droit public). Fondamentalement, dans les années 60 à 80 en France, l’informatique juridique, c’est essentiellement des systèmes experts et, surtout, des thésaurus et des index (qui auront beaucoup plus de succès sur le long terme que les systèmes experts).
    Les logiciels de gestion de contrats sont un bon exemple de logiciels experts en droit. L’autre grand exemple est l’utilisation des chaînes de caractères et des expressions régulières (regex) pour la recherche de notions exprimables de dizaines de façons différentes, même si l’utilisation de règles et la modélisation y sont peu développées et d’un niveau peu élevé. Ce travail sur le vocabulaire et les chaînes de caractères, c’est aussi une forme de traitement automatique du langage (TAL, NLP en anglais). Du TAL à l’ancienne, avec ses limites, mais bien rodé, notamment dans les cartouches de langage d’Expert System (ex-Temis), utilisées par plusieurs grands éditeurs juridiques, que nous avons citées supra à propos de l’application Jurisprudence Chiffrée. C’est de l’IA "de papa" [71] : rien de révolutionnaire, en réalité, mais ça fonctionne.
    Mais c’est l’émergence des quatre technologies suivantes et la relance des statistiques qui ont relancé les espoirs des spécialistes de la recherche en IA
  • le big data et surtout le (legal data) analytics. Il ne s’agit là que de technologies correspondant à des logiciels (Apache Hadoop, MongoDB, Microsoft Azure ...) faits pour traiter des masses de données énormes et/ou des données pas assez structurées, nécessitant des logiciels différents des systèmes de gestion de base de données (SGBD) classiques
  • les statistiques, avec toutes leurs limites. Par exemple, en justice dite prédictive, où il s’agit d’estimer l’issue d’un contentieux, ces limites sont :
    • pour les fonds de décisions de justice utilisés (l’échantillon, comme on dit en "stats") :
      • non exhaustivité, voire forte sélectivité
      • les biais contenus dans les données. Voici les types de biais possibles, selon un article de LeMagIT [72] :
        • « le biais de confirmation est un biais cognitif humain. Il consiste à sélectionner et à analyser les données de manière à refléter un point de vue préexistant
        • la variable confondante, un facteur aléatoire, influence à la fois les variables dépendantes et les variables explicatives. Il s’agit essentiellement d’un élément ayant un impact sur le résultat qui n’a pas été pris en compte. En l’occurrence, cette notion engendre la différenciation entre corrélation et causalité
        • le surajustement (ou surapprentissage) résulte d’une analyse qui est trop étroitement liée à un ensemble de données spécifiques. Exemple classique, un modèle prédictif peut fonctionner correctement sur les données initiales d’entraînement, mais son niveau de précision diminue lorsque de nouvelles données sont introduites
        • le biais d’échantillon est un échantillon qui ne représente pas la population qu’il est censé dépeindre
        • le biais de sélection correspond au fait de sélectionner des données pour l’analyse ou de choisir par inadvertance un échantillon non représentatif (ce qui est plus probable)
        • le paradoxe de Simpson se produit lorsqu’une tendance disparaît ou s’inverse à différents niveaux d’agrégation. Par exemple, une tendance peut être présente lorsque plusieurs groupes sont étudiés séparément, mais la tendance peut ne pas exister ou peut être le contraire lorsque les groupes sont combinés et analysés comme une seule population
        • l’asymétrie est une distribution de probabilité inégale qui peut être causée par des valeurs aberrantes, mais plus souvent par des valeurs surreprésentées »
      • en matière de justice dite prédictive, dès que le nombre de critères est élevé, le panel de décisions sur lequel on effectue les calculs est de petite taille (particulièrement sur la Cour de cassation et les cours d’appel judiciaires). Ce qui pose un problème de biais d’échantillon, d’autant que les décisions judiciaires de première instance ne seront pas disponibles en open data avant au mieux 2023 (à notre avis) et en cout cas pas avant avril 2022, de l’aveu même de la première présidente de la Cour de cassation, interviewée par le Figaro en février 2021 [73]
      • le manque de motivation (l’argumentation du juge), extrêmement fréquente en première instance en pénal. En pratique, en première instance, même si l’obligation de motivation au pénal existe [74], les motifs de la condamnation soit sont implicites ou très brefs car les faits sont établis, soit sont dans le dossier, mais celui-ci n’est ni consultable ni transmissible aux tiers. En gros, au pénal, on plaide la peine, son type, son montant [75]. Le côté peu pratique et trop exigeant du logiciel utilisé pour la rédaction des décisions n’aide pas
      • les statistiques ne donnent des informations que sur le passé
      • corrélation n’est pas causalité : deux facteurs corrélés peuvent l’être dans entretenir la moindre relation [76]
    • le côté "déformant" de la moyenne, à laquelle hélas la plupart des juristes sont habitués, comme le grand public — la médiane est moins déformante
    • l’absence de correction des biais statistiques
  • le machine learning [77] (ML, en français apprentissage automatique). Cet apprentissage peut être supervisé (des tags ou des humains apprennent à l’algorithme à reconnaître les formes ou les notions) ou non supervisé. Michael Benesty, avocat fiscaliste et data scientist français, auteur de l’ancien site de démonstration Supra Legem, définit ainsi le machine learning utilisé actuellement dans le cadre du droit [78] :

    « Il s’agit d’une expression vague qui regroupe toute une famille d’algorithmes qui ont en commun d’apprendre par eux-mêmes en observant des données. Ces algorithmes sont inspirés de différentes sciences et notamment des statistiques.
    En matière de justice prédictive, c’est la sous-famille des algorithmes supervisés qui est utilisée. »

Une excellente interview donnée par le chercheur français Yann LeCun, directeur du laboratoire d’IA de Facebook, au journal Le Monde, explique de manière simple comment fonctionnent les réseaux neuronaux, l’apprentissage supervisé et l’apprentissage non supervisé [79]. Ross d’IBM, aux Etats-Unis, utilise le machine learning, dans sa version supervisée : initialement, la machine est entraînée sur des données déjà "étiquetées" (de l’anglais "labeled" : on pourrait dire classées ou indexées à titre de comparaison) puis des juristes, des avocats ont "enseigné" et "corrigé" l’application et continuent de le faire [80]. Thomson Reuters, propriétaire de Westlaw, a lancé un laboratoire en 2015 et collabore avec IBM pour intégrer la technologie Watson dans ses produits. ROSS est un système à apprentissage automatique supervisé. En France, Case Law Analytics [81] utilise (en partie) aussi le machine learning (Supra Legem l’utilisait aussi).

Pour comprendre très concrètement ce que permet le machine learning en droit et comment le ML fonctionne sur des documents juridiques, voir l’excellent article d’Arthur Dyevre (Leuven Centre for Empirical Jurisprudence), Text-mining for Lawyers : How Machine Learning Techniques Can Advance our Understanding of Legal Discourse (SSRN, 4 décembre 2020).

  • le deep learning (apprentissage automatique profond), concrètement, est un développement du machine learning. Il utilise à fond la technique des réseaux neuronaux pour tenter de se passer complètement d’une vérification/correction par des humains. Les réseaux neuronaux sont une technologie développée à l’origine pour la reconnaissance automatique d’image ("pattern recognition"). Pour (tenter de) comprendre, il faut lire les exemples de fonctionnement d’un réseau neuronal donnés par deux spécialistes français interviewés par Le Monde [82] :

Yann LeCun : « Le deep learning utilise lui aussi l’apprentissage supervisé, mais c’est l’architecture interne de la machine qui est différente : il s’agit d’un "réseau de neurones", une machine virtuelle composée de milliers d’unités (les neurones) qui effectuent chacune de petits calculs simples. La particularité, c’est que les résultats de la première couche de neurones vont servir d’entrée au calcul des autres. Ce fonctionnement par "couches" est ce qui rend ce type d’apprentissage "profond". »

Yann Ollivier, chercheur en IA au CNRS et spécialiste du sujet, donne un exemple parlant : « Comment reconnaître une image de chat ? Les points saillants sont les yeux et les oreilles. Comment reconnaître une oreille de chat ? L’angle est à peu près de 45°. Pour reconnaître la présence d’une ligne, la première couche de neurones va comparer la différence des pixels au-dessus et en dessous : cela donnera une caractéristique de niveau 1. La deuxième couche va travailler sur ces caractéristiques et les combiner entre elles. S’il y a deux lignes qui se rencontrent à 45°, elle va commencer à reconnaître le triangle de l’oreille de chat. Et ainsi de suite. »


Deep learning : intervention de Yann LeCun, à l’USI, 22 juin 2015. Autre vidéo de Yann LeCun disponible sur le même sujet : celle de son intervention au Collège de France le 4 février 2016

On peut aussi citer le résumé utilisé par le journaliste des Echos Rémy Demichelis [83] :

« [Les] réseaux de neurones [sont] la technologie à l’origine du grand retour en grâce de l’IA ces dernières années pour sa capacité d’apprendre à partir de grandes bases de données ; le Big Data constitue son carburant. Sous le capot, il faut s’imaginer plein de cellules qui font des opérations d’une simplicité enfantine — on pourrait utiliser un tableur Excel pour y parvenir. Ces cellules commencent par des valeurs aléatoires puis ajustent leurs calculs au fil de leur entraînement, de leurs erreurs ou de leurs succès : c’est ainsi que le réseau constitué de ces « neurones » artificiels apprend. Un peu comme dans un jeu vidéo : " Perdu, essaie encore ! " Seulement, il faut énormément de données, et souvent aussi un humain derrière pour dire quand la réponse est bonne ou mauvaise. »

D’après Michael Benesty, le créateur de Supra Legem, toutefois, en machine learning sur du droit, on est plus dans le traitement automatique du langage (NLP) (voir juste infra) [84] que dans les réseaux neuronaux [85]. Les réseaux neuronaux ici réduisent le traitement des données en amont, mais leur apport en droit est très inférieur à ce qu’ils ont fait pour la reconnaissance d’image. De plus, ils coûtent très cher du fait de la puissance et du temps de calcul nécessaires (location de serveurs et de logiciels) [86].

Un réseau de neurones convolutifs schématisé
  • le traitement automatique du langage naturel ou TALN (dit traitement automatique des langues ou TAL) (en anglais "natural language processing", NLP). Ross, Predictice ou Supra Legem [87] sont des applications utilisant le NLP. Cette utilisation du NLP est centrale dans la technologie de l’IA juridique récente, comme l’illustre l’interview par Robert Ambrogi, en octobre 2019, de deux des fondateurs de ROSS, son CEO (DG) Andrew Arruda et son CTO (DSI) Jimoh Ovbiagele, dont plus de la moitié est consacré à ce sujet [88]. Plus précisément, il s’agit du traitement du langage naturel tel qu’on le pratique aujourd’hui : à base de techniques d’analyse syntaxique ("parsing", en anglais) [89], de machine learning, et non plus d’analyse sémantique. Le top du NLP actuel, c’est l’application du machine learning, en version non assistée, au langage, plus précisément aux textes. Le NLP à base de machine learning a été énormément facilité par la diffusion en open source en 2013 par Google du logiciel Word2vec (W2V), qui transforme les mots en vecteurs. Concrètement, Word2vec devine les termes similaires (proches par le sens) d’un mot en utilisant les autres mots faisant partie du contexte de ce mot [90].
    Le successeur de Word2vec est BERT. Egalement issu de la recherche de développeurs de Google, et également publié en open source, il a été implémenté sur les pages de langue française dans Google Web Search en décembre 2019 et pourrait l’être en 2021 par certains grands éditeurs juridiques voire une ou deux legal tech. BERT (Bidirectional Encoder Representations from Transformers) est un progrès par rapport à Word2vec en termes de désambiguïsation du langage naturel (face à la polysémie par exemple), notamment par une meilleure "compréhension" par l’algorithme du sens des phrases (sujet verbe complément) et du contexte [91] BERT consiste à utiliser un "modèle de langage" pré-entraîné ("pre-trained language model") par les ordinateurs surpuissants de Google, un modèle mis à disposition par Google. BERT utilise aussi le deep learning. A l’heure actuelle, BERT semble encore peu utilisé par le secteur de l’IA juridique. On sait toutefois qu’en avril 2020, ROSS travaillait dessus chez Vector (un institut canadien destiné à "doper" l’industrie canadienne de l’IA) et envisageait clairement de l’implémenter [92]. BERT peut servir non seulement en mode moteur de recherche mais aussi en mode réponse à des questions, y compris sur des questions juridiques simples, domaine où il est moins performant, selon le test effectué par Laurent Gouzènes de KM2 Conseil [93]
    Après la présentation en ligne "Search On" par Google le 15 octobre 2020, le responsable de l’activité Search de Google a publié un billet qui résume assez bien ce qu’on peut attendre de BERT dans une utilisation généraliste. La conclusion qu’on peut en tirer est que BERT est très puissant et représente un net progrès par rapport à Word2Vec. Tout particulièrement, BERT améliore la représentation vectorielle des mots ("word embedding") déjà au coeur de Word2vec. Voici quelques liens sur BERT pour mieux comprendre cet aspect (lire le début de ces posts) :
    https://searchengineland.com/a-deep-dive-into-bert-how-bert-launched-a-rocket-into-natural-language-understanding-324522
    https://is-rajapaksha.medium.com/bert-word-embeddings-deep-dive-32f6214f02bf
    https://towardsdatascience.com/nlp-extract-contextualized-word-embeddings-from-bert-keras-tf-67ef29f60a7b
    Pour aller plus loin sur BERT : DeepRank : A New Deep Architecture for Relevance Ranking in Information Retrieval, par Liang Pang, Yanyan Lan, Jiafeng Guo, Jun Xu, Jingfang Xu, Xueqi Cheng, conference paper at CIKM 2017, CIKM’17, November 6-10, 2017, Singapore TextNet, arXiv:1710.05649 [cs.IR] (l’algorithme DeepRank du moteur de recherche web de Google est une implémentation de BERT).
    En revanche, on parle plus de spaCy et de Flair, même s’ils sont considérés comme moins efficaces en pseudonymisation. Ainsi, dans une vidéo publiée mi-novembre 2019, Juliette, linguiste computationnelle chez Predictice, révèle qu’ils s’apprêtent à utiliser spaCy.
    Toutefois le NLP à la sauce ML a des limites :
  • notamment s’il "détecte" — indirectement et implicitement — le sens des mots, il ne sait pas en détecter la logique : licéité et illicéité, par exemple, risquent fort d’être similaires pour lui — sauf si BERT réussit à lever cette ambiguïté.
  • le ML n’est pas la seule technologie d’IA utilisée en NLP aujourd’hui. L’analyse des appels d’offre par le produit DocuChecker de la startup française Golem.ai utilise la linguistique universelle puis un enrichissement en vocabulaire du secteur. Mais pas de machine learning [94].

Enfin, il faut bien comprendre que pour imiter des fonctions caractéristiques des humains, comme classer automatiquement des documents par thème, un simple logiciel ne suffit pas :

  • déjà, de nombreux programmes informatiques (de type ML ou logiciel expert comme vu précédemment) doivent être testés, combinés et adaptés par un ou des développeurs. Ce ne sont pas des produits sur étagère, ce sont ce que l’on appelle dans l’industrie informatique des développements spécifiques
  • ensuite — et c’est encore moins connu —, le machine learning et les réseaux neuronaux nécessitent une architecture matérielle et réseau très spécifique elle aussi, autrement dit choisir les composants — notamment les processeurs, massivement utilisés pour l’"apprentissage automatique" en machine/deep learning — et savoir assembler ad hoc des serveurs très puissants, avec leurs systèmes d’exploitation (OS), repérer les goulots d’étranglement dans la circulation et le traitement des données sur Internet, dans les serveurs et entre eux, savoir comment régler et "booster" les performances de ces matériels ... Pour les petits et moyens programmes, cela passe par la location (vite onéreuse) de ressources en "cloud computing" : du temps et de la capacité de serveur disponible par Internet. Le plus utilisé est Amazon Web Services (AWS). On peut citer aussi Microsoft Azure et Google Cloud (avec son produit applicatif TensorFlow). Sur les gros programmes d’IA, le travail sur cette architecture matérielle mobilise jusqu’à la moitié des spécialistes affectés au projet. Sur ce segment, Google, Facebook, Amazon et Microsoft ont une puissance et une avance énormes sur leurs concurrents. Pour avoir une idée de l’importance des aspects hardware dans les technologies dites d’IA, jetez un coup d’oeil sur les slides 1 à 29 de cette présentation [95]. De ce point de vue, il n’est pas surprenant que ce soit justement l’IA qui succède au Big data en matière de hype. L’arrivée de l’informatique quantique [96] et sa généralisation d’ici 2028 [97] promettent des pas de géant au machine learning et particulièrement à sa variante le deep learning.

NB : pour celles et ceux qui veulent plus de précisions sur les systèmes experts, le machine learning, le deep learning et l’infrastructure matérielle nécessaire, je recommande la lecture de l’ebook gratuit d’Olivier Ezratty, déjà mis à jour à trois reprises : Les usages de l’intelligence artificielle 2018 (PDF, 522 p.).

Il faut enfin noter, comme le faisait remarquer Moïse Zapater du groupe français Septeo lors du webinaire Présentation des bénéfices de l’IA appliquée aux métiers des avocats notaires et juristes d’entreprise organisée en ligne par Legiteam le 24 févier 2021, que les produits dits d’IA juridique s’appuient sur quantité d’autres briques logicielles, souvent en open source, comme Hadoop, qu’emploient aussi des grands acteurs comme Netflix.

Dans cette présentation des technologies dites d’IA, il reste enfin à expliquer dans quels produits, concrètement, on les emploie.

Selon Ron Friedmann, consultant américain en informatique juridique depuis 30 ans [98], sur le marché américain, « il existe au moins quatre utilisations presque banales de l’intelligence artificielle que les cabinets d’avocats et les directions juridiques peuvent aisément déployer à partir de produits IA standards, de manière similaire à d’autres technologies :

  • "document review" dans la procédure [très américaine] d’"e-discovery" ("predictive coding”) [99]
  • l’audit/vérification en masse de contrats et de clauses (Kira, LawGeex, Luminance, Hyperlex, SoftLaw ... : voir infra)
  • outils de recherche dans de multiples domaines juridiques (Westlaw, Lexis Advance, Ross, Context, Supra Legem, Case Law Analytics, Predictice ... : voir infra). C’est le second domaine en terme d’importance de l’implémentation. Là, les progrès ont essentiellement consisté en une synonymie contextuelle automatique et une classification automatique par domaines du droit très améliorées
  • saisie et gestion des temps et des dossiers.

Comme on vient de le voir, il faut être concret et relativiser les performances des outils à base d’IA utiles pour les directions juridiques. Leur emploi est techniquement circonscrit. Le degré de cet emploi au sein des DAJ est également faible pour l’instant, à l’exception des banques et assureurs. L’étude de PwC Avocats Digitalisation de la fonction juridique : quelles priorités en 2018 ? publiée en mai 2018 qualifie l’intelligence artificielle de « machine à fantasme ». L’étude précise : « Les réponses dénotent également une certaine confiance dans cette technologie dont les capacités actuelles ne sont peut être pas au niveau des attentes sur tous ces points. Néanmoins, les répondants n’envisagent pas d’intégrer de l’IA à court terme, ce qui est en phase avec leur maturité digitale. »

Cet emploi de l’IA dans les DAJ est toutefois amené à s’étendre. Une étude similaire publiée en février 2019 [100] et réalisée conjointement par le Cercle Montesquieu, CMS Francis Lefebvre Avocats et le cabinet de conseil Day One « conclut que 2019 sera une année de bascule dans la prise en main des technologies par les directions juridiques ». A noter tout particulièrement cet extrait du communiqué :
« Les directions juridiques prévoient une transformation digitale profonde de leur métier d’ici cinq ans, avec le déploiement du "Machine Learning", du "Natural Language Processing" (NLP) et des "Knowledge Graph", autant d’outils englobés par l’intelligence artificielle qui bouleverseront la gestion des dossiers juridiques. Ces technologies vont permettre :

  • l’automatisation de l’analyse de documents, la création et la saisie automatiques de la base contractuelle selon le type de contrats
  • la détection de lois obsolètes dans les contrats ainsi que la vérification des clauses contractuelles, de leur présence, de leur intégrité et de leur pertinence
  • et enfin la prise en charge des réponses aux questions récurrentes via des chatbot ou voicebot pour alléger le quotidien des juristes. »

Je me demande si la percée de l’IA dans le milieu juridique ne se fera pas aussi via les logiciels brassant et combinant des données de sources et formats divers [101] pour faire de la "business intelligence" (dits également "logiciels orientés visualisation de données") comme Tableau Desktop, Microsoft Power BI ou, Qlik Sense Enterprise. Notamment dans les départements dits de "business development" (BD) et de "knowledge management" (KM). Pour l’instant, ces applications ne sont pas de l’IA très moderne ni très juridique, mais plutôt du logiciel expert (fonctionnant à base de règles métiers et des arbres décisionnels) combiné avec des macros. Mais c’est nettement en train d’évoluer : le machine learning rentre dans ce secteur [102].

A propos des chatbots (agents conversationnels en bon français) : ceux utilisés en droit, par exemple ceux de ce cabinet d’avocats, semblent pour l’instant difficilement qualifiables d’IA, au sens des critères que nous avons exposés supra. Ou alors de la très ancienne IA, car le niveau d’arbre décisionnel et de traitement du langage naturel qu’ils utilisent reste extrêmement basique. Par exemple, un chatbot juridique s’exprimant en anglais ne comprend pas que Yikes est une forme argotique de Yes ou bien, à propos du RGPD, oublie de vous préciser que le 25 mai 2018 est déjà passé depuis longtemps et qu’appliquer le RGPD est devenu urgent. En fait, le nombre de questions que l’on peut poser à un chatbot juridique est très limité.

Ces lacunes ne sont pas spécifiques aux chatbots juridiques, mais générales, comme l’avoue un article de ZDNet traduit en français [103] : « La qualité des chatbots est mauvaise. Une série de nouveaux articles de Facebook et de ses partenaires universitaires offrent cependant de nouvelles orientations prometteuses. L’objectif du dialogue fluide avec un humain semble encore cependant assez lointain. » Et on ne parle même pas ici d’un dialogue juridique, juste d’une aide (très limitée) à la recherche d’un livre ou d’une tentative d’empathie.

L’apport, le "truc" du chatbot se situe ailleurs : c’est un petit logiciel servant à engager la discussion avec un prospect ou un utilisateur par des questions principalement à réponse de type Oui/Non et à l’amener à préciser sa demande afin de l’orienter ... vers le mail d’un humain [104]. Un des autres noms des chatbots, justement, est assistant virtuel.

Les données comptent plus que les applications

Nous venons de présenter les technologies impliquées dans l’IA en droit. Et de voir que les deux critères principaux (et alternatifs) pour parler d’IA (faible) en droit, sont soit l’appartenance de l’application à la catégorie des systèmes experts soit l’utilisation de machine learning.

Pourtant, sur le plan stratégique, le plus important en IA n’est pas là. Pour le comprendre, il faut lire le rapport de France Stratégie sur l’IA publié en mars 2017 [105].

Dans ce rapport, la contribution spécifique du Conseil National du Numérique (CNNum) souligne l’importance fondamentale des données :

« La valeur créée par l’intelligence artificielle provient des données nécessaires à l’apprentissage bien plus que de l’algorithme, dont les développements se font de manière ouverte (en open source). En conséquence, les organisations doivent prendre conscience de l’importance stratégique des données qu’elles détiennent. Il s’agit également, à plus long terme, d’engager une réflexion sur les modes de partage de la valeur entre acteurs privés. En ce sens, le Conseil s’est par ailleurs saisi de la question de la libre circulation des données aux niveaux international et européen, d’un point de vue de transfert entre les territoires mais également entre acteurs économiques. »

En droit français, cette difficulté donne raison au professeur (et avocat) Bertrand Warusfel, quand il écrit, interrogé par ActuEL Direction Juridique (Editions Législatives) [106] :

« on va certainement [...] dématérialiser plus encore les procédures, voire les audiences. A mon sens, ce n’est qu’une fois que cette première phase de dématérialisation de la justice aura été menée à bien qu’il serait justifié d’envisager d’introduire des outils plus "intelligents". Sauter une étape serait sans doute peu cohérent, voire dangereux. »

Ce sont justement leurs bases de données qui font l’avance de Google et Facebook. C’est pourquoi cela ne les gêne pas de mettre leurs logiciels en open source. Au contraire, cela accélère l’adoption de l’IA par les développeurs puis la société dans son ensemble.

Une démarche imitée de manière un peu différente par les sociétés qui rejoignent LexisNexis USA, mais où on retrouve l’importance cruciale de l’accès à certains "data repositories" précieux et bien précis — Lexis gagnant, elle, en technologie :

  • l’éditeur américain annonce en mars 2017 qu’il va donner accès à ses contenus et à son expertise, ainsi que celle de sa filiale LexMachina, à cinq start-ups sélectionnées : Visabot, TagDox, Separate.us, Ping, and JuriLytics [107]. Lexis espère profiter de leurs innovations. Mais ce type de démarche chez LexisNexis est rare : en général, le rapprochement et donc le partage des données se fait par un rachat voire une joint-venture (cf le rachat de Lex Machina en novembre 2015 puis de Ravel Law en juin 2017 et la joint-venture avec Knowable en juillet 2019 ; voir juste infra)
  • juste après l’annonce du rachat par Lexis, en juin 2017, de Ravel Law, le fondateur de Ravel Law Daniel Lewis explique à cette occasion que le rachat donnera à Ravel Law « accès à un vaste assortiment de données de haute qualité, quelque chose qui est nécessaire. Même la meilleure IA ne peut surmonter les défauts dus à un accès limité en terme de données », dit-il. « On a besoin de données de haute qualité en entrée », ajoute-t-il. « Si vous avez de la mauvaise qualité en entrée, vous avez de la mauvaise qualité en sortie. » [108]
  • rebelote en juillet 2019 avec la joint-venture entre Lexis et l’éditeur de l’application d’analyse automatique de contrats Knowable. Le CEO de Knowable, Mark Harris explique qu’ « en Lexis, sa société a trouvé un partenaire qui [...] a de profondes réserves de contenu sur lesquelles s’appuyer » [109].

Nous venons de présenter les produits et les sociétés des legal tech puis de définir l’IA en droit, pour éviter de gober le discours marketing selon lequel tout ce qui est legal tech serait IA et, plus généralement, selon lequel tout ce qui est IA aurait des performances à la limite du miraculeux.

Ce discours, ce storytelling d’ "IA partout" et d’ "IA miracle" [110] inonde depuis 2016 la presse, les pages web et le café du commerce. Au point qu’on peut parler de « hype » (battage médiatique) et d’ "IA washing" [111]. D’autant qu’une part importante d’applications, de produits présentés comme des IA n’en sont pas sur le plan des technologies utilisées (cf l’étude très commentée de la société de capital-risque britannique MMC Ventures The State of AI : Divergence 2019 mais aussi le billet précité de Mike Mallazo sur la fausse IA — « phony AI ») [112].

Le battage médiatico-publicitaire inonde même le secteur juridique. Dera Nevin est spécialiste de l’"information governance" et de l’"e-discovery" au cabinet Baker McKenzie. Voici ce qu’elle en dit (traduction par nos soins) [113] :
« Je n’aime pas beaucoup le marketing autour de la legal tech. En tant qu’évaluateur et acheteur de longue date de technologie juridique, j’estime que les informations qui me sont fournies sur les produits ne m’aident pas à comprendre l’impact potentiel de la technologie sur celui pour qui je l’achète — le juriste en cabinet d’avocats ou en direction juridique — et à la mettre en œuvre. »

Le fondateur de Predictice le reconnaît lui-même [114] : « Quand on parle de justice prédictive, c’est purement marketing ». On peut aussi citer le point de vue d’un avocat geek spécialiste du contentieux puisque ancien avoué [115] : « Depuis le jour où j’entends parler de justice prédictive, je suis méfiant. Car à l’heure où le robot le plus intelligent de Google ne sait que prendre un rendez-vous chez le coiffeur sans se planter, je me suis toujours dit que nous étions loin de prédire le droit (ou alors l’acception du mot « prédire » m’échappe…). » Ou encore celui de Xavier Ronsin, premier président de la Cour d’appel de Rennes, en 2017 [116] : « On est encore loin du fantasme de la "justice bouton". »

Selon les consultants de la branche conseil de la SSII Sopra Steria, dans un rapport (non public) rendu en octobre 2020 par le Conseil national des barreaux (CNB), la "justice prédictive" correspond avant tout à « un concept marketing », et il est préférable, selon les rapporteurs, d’utiliser les notions de "justice simulative" ou de "jurimétrie" pour désigner les solutions technologiques qui visent à mesurer les décisions de justice avec des outils scientifiques [117].

Nous verrons plus loin dans cette étude que les acteurs les plus avancés dans l’IA juridique en France sont à la fois les plus modestes ... et les plus discrets.

Nous allons continuer à river son clou à ce phénomène en présentant maintenant en détail les outils IA de recherche et d’analyse de la jurisprudence (encore une fois, des IA faibles). Nous commencerons par la première IA vedette — une vedette américaine, j’ai nommé ROSS — puis nous verrons les implémentation de l’IA (du NLP surtout) dans les grandes plateformes des éditeurs juridiques américains traditionnels et enfin les IA juridiques françaises.

ROSS : points forts et limites d’un moteur de recherche en langage naturel à base de machine learning avec supervision

Fin 2016-début 2017, c’est surtout le produit d’IBM qui faisait parler de lui — voir notamment notre "webliographie" sélective sur Ross infra. Et même si, de fait, on peut parler d’une intense campagne de presse, je crois quand même qu’on tient confirmation d’une amélioration radicale de la recherche documentaire en droit dans les articles sur l’implémentation de Ross par le petit cabinet d’avocats américain Salazar Jackson : en effet, selon le principal associé de cette firme, ROSS fait les recherches sur la jurisprudence aussi bien et plus vite qu’un jeune collaborateur [118]. Ce que semble confirmer une étude réalisée par une firme indépendante (certes payée par IBM) qui parle d’un gain de temps dans les recherches de 30% [119].

Concrètement, ROSS débarrasse le juriste de la nécessité d’utiliser des opérateurs de recherche (dits aussi opérateurs logiques ou booléens) et de prévoir toutes les expressions synonymes des termes qu’il a en tête pour sa recherche. C’est ce que les informaticiens appellent le langage naturel, par opposition au langage informatique.

ROSS serait même, soi-disant, capable de résumer sa recherche en un mémo ? L’avocat Rubin Sfadj estime que la prétendue capacité de ROSS à sortir un mémo est exagérée. Il a raison. Jimoh Ovbiagele, le CTO de ROSS, a fini par reconnaître en mars 2017 devant un journaliste du New York Times que des humains se chargent du brouillon produit par ROSS et créent le mémo final, et c’est pour cela que ça prend un jour entier [120].

Bien sûr, ROSS nécessite une interaction homme-machine. Il s’améliore en apprenant des retours des juristes sur ses recherches [121]. C’est donc de l’apprentissage automatique avec supervision [122].

A l’origine, fin 2017, ROSS était spécialisé uniquement dans la jurisprudence américaine du droit de la faillite (US bankruptcy law) et de la propriété intellectuelle (US IP law) — il s’agit en fait de deux applications différentes, ROSS ne traitant pas les deux matières en même temps [123]. Mais la diversité des tâches et des domaines possibles est une caractéristique du machine learning le plus récent (depuis environ 2015). Le cabinet américain Latham & Watkins, implanté à Paris, était en 2017 en phase de « test » avec ROSS [124], suivi par de plus petites structures et l’Ordre des avocats de Lille.

Le dirigeant et co-fondateur de ROSS Intelligence, Andrew Arruda, expliquait justement en août 2016 :

« La version actuelle du système est utilisée pour aider les juristes spécialisés en procédures collectives travaillant dans des firmes américaines. Les futures versions du système couvriront d’autres domaines du droit et d’autres juridictions. »

 [125]

Rubin Sfadj estimait quant à lui en 2017 que ROSS sera capable de gérer les textes officiels (en sus de la jurisprudence) français. En tout cas, en avril 2020, sept mois avant sa fermeture, ROSS indexait toute la jurisprudence et tous les "statutes" et "regulations" de l’Etat fédéral et des 50 États fédérés américains, ainsi que les "specialty court, tribunal, and administrative decisions" [126].

Quoiqu’il en soit, en mai 2020, le géant américain de l’édition juridique Thomson Reuters lance une action en justice contre ROSS, dans laquelle il avance que ROSS a "pompé" ses bases de données. Il semble qu’à cette date, après plus de quatre ans d’activité, ROSS dépendait encore des investisseurs pour son financement [127]. Le 11 décembre 2020, ROSS annonçait sur son site l’arrêt de toutes ses activités autres que sa défense vis-à-vis de cette action en justice. Un aspect troublant de la défense de ROSS est qu’ils invoquent in limine litis l’absence de protection par le copyright sur les "headnotes" et "key number" de la base de jurisprudence de Westlaw, ce qui revient à reconnaître plus ou moins les faits.

NB : ROSS a été développé à l’origine par des étudiants de l’Université de Toronto au Canada, en 2014-2016 [128]. De fait, avec les Etats-Unis, Israël et la Chine, le Canada est le 4e pays vraiment "bon en IA". Et avec Lexum, l’éditeur dédié aux avocats, l’Institut canadien d’information juridique (CanLII), et le Laboratoire de cyberjustice de l’Université de Montréal, le Canada est également en avance sur la maîtrise de la donnée juridique numérique et des bases de données associées.

En théorie, ROSS pourrait avoir encore bien d’autres applications en droit. À l’image de Watson, l’application d’IBM dont ROSS est dérivé. Watson sert déjà à de multiples tâches, dont certaines juridiques :

Autres exemples de la capacité du machine learning à s’appliquer à tous les domaines :

  • la Lettre de l’Expansion du 16 janvier signale que le réseau social interne développé par Orange, installé chez eux à l’automne 2015 [135] et également vendu par l’opérateur sous le nom de Business Together Sharespace [136] « s’appuie sur la technologie "machine learning" [...] et inclut des robots à même de suggérer à l’utilisateur des informations pertinentes ou des collègues susceptibles d’enrichir son activité »
  • Google a présenté fin novembre un algorithme repérant des signes de rétinopathie diabétique dans des photos du fond d’oeil. Et Facebook comme Microsoft ont dévoilé cette année des systèmes capables de "regarder" des images et en décrire le contenu pour les aveugles [137]

A priori (le manque d’information détaillées sur ROSS étant criant), les limites d’un système comme Ross, sont :

  • ça a probablement changé, ROSS étant apparemment devenu généraliste, mais en 2016, les applications dérivées du Watson d’IBM étaient étroitement spécialisées et nécessitent d’énormes développements informatiques spécifiques et un très gros travail d’input et d’apprentissage par des experts [138], travail qui peut ne pas suffire. A titre d’exemple de promesse non tenue et de difficulté avec la méthode retenue par IBM : selon une enquête du média américain d’investigation STAT [139], la « révolution » promise par IBM avec son outil de conseil en matière de traitement contre le cancer accuse un retard conséquent au centre de traitement et de recherche sur le cancer Memorial Sloan Kettering Cancer Center. Pire : en juillet 2018, les mêmes journalistes expliquent que le superprogramme a régulièrement prodigué de mauvaises recommandations pour traiter des cancers [140]. La conclusion des journalistes de STAT est que l’IA semble incapable de conseiller les bons traitements sans apprendre à partir de cas réels
  • comme la plupart des bases de données en ligne actuelles, son manque de confidentialité. Je sais que les éditeurs de services en ligne garantissent la "confidentialité" des données de leurs clients, mais de fait, si elles ne sont pas cryptées de bout en bout, elles ne sont pas réellement confidentielles. Il serait intéressant à cet égard de savoir si ROSS crypte les données de ses clients
  • sa dépendance à la "data". Si les données sont incomplètes, non exhaustives ou comportent un biais, les résultats seront biaisés [141]
  • le poids du passé (même s’il pourra certainement intégrer les projets de loi), car la donnée c’est du passé
  • sa dépendance aux compétences des personnes qui "l’entraînent" (cas du machine learning supervisé)
  • son degré d’acceptation par la société, encore limité mais qui croîtra selon tout vraisemblance. Voir la dernière partie de cette étude et infra, les paragraphes sur les limites des applications de justice prédictive françaises
  • à court et moyen terme, le délai d’implémentation en droit français. ROSS — tout comme ses concurrents français — ne pourra pas être implémenté en droit français global avec une pleine efficacité avant un minimum de huit ans à compter de 2017. Là aussi, je vous renvoie aux paragraphes sur qui suivent les limites des applications de justice prédictive françaises.

Il faut enfin noter, pour être complet sur ROSS, qu’IBM en 2017 avait du mal à rentabiliser son activité "cognitive" (l’adjectif à la mode pour désigner les activités d’IA). Comme le relève une enquête du Monde [142], le chiffre d’affaires du groupe — qui a parié sur l’IA pour sa croissance et a investi 15 milliards de dollars depuis le lancement du projet Watson (alors appelé DeepQ) en 2007 — décroît de 2011 à 2016 : « au final, en cinq ans, un quart des recettes a disparu. La capitalisation boursière [est passée] de presque 250 milliards de dollars en 2011 à un peu plus de 136 milliards aujourd’hui. Pour l’instant, Watson a du mal à tenir ses promesses. » (Le CA d’IBM est toutefois remonté en 2017.) Selon Le Monde, les raisons sont principalement liées :

  • à l’absence d’étude longue de longue durée à sur la fiabilité des diagnostics livrés par Watson et ses conjugaisons
  • au fait qu’il s’agit à chaque fois d’un développement spécifique, pas de l’installation d’un produit standard. Les prospects hésitent : il faut investir un budget, un temps de travail de plusieurs mois minimum (18 mois pour le Crédit Mutuel, pourtant client de longue date d’IBM), des équipes et des petites mains pour "former" le progiciel. Le retour sur investissement est long. C’est cet aspect que souligne la directrice du KM de Latham Paris dans la citation précédente extraite de l’article de l’Agefi Hebdo
  • les concurrents, même si leur marketing et leur communication sont moins efficaces, sont très actifs. Le cabinet d’avocats d’affaires international Baker & McKenzie a ainsi annoncé, en août 2017, adopter comme principal outil d’intelligence artificielle non pas ROSS, mais eBrevia (cf infra).

Westlaw, Lexis Advance : les améliorations machine learning en cours et prévisibles

D’après Michael Mills [143], co-fondateur et chief strategy officer de Neota Logic (une société précurseur dans les outils d’aide à la décision en droit puis d’IA juridique aux Etats-Unis), cela fait 11 ans que LexisNexis et Weslaw ont commencé à intégrer du NLP dans leurs moteurs de recherche. Et Lexis a racheté Lex Machina en 2015 puis Ravel Law en 2017, LE spécialiste américain du ML sur la jurisprudence (voir infra).

Par exemple, la fonction Westlaw Answers répond carrément directement aux questions courantes/"bateau" en quelques phrases, avec les citations de jurisprudence qui conviennent.

Autre exemple : Lexis Advance offre la possibilité de chercher en langage naturel (fonction ”Run search as natural language") et surtout d’ajouter à la recherche les expressions juridiques synonymes de celles saisies (fonction "Include legal phrases equivalents"). Et depuis 2017, un clic sur le nom juge ou de l’avocat permet de consulter des tableaux de données sur eux, cela ne marchant que pour les domaines de pratique couverts par Lex Machina [144]. A partir de ces tableaux, les abonnés à Lex Machina peuvent analyser plus avant. Là, cependant, il ne s’agit plus d’IA à strictement parler, juste d’"analytics" [145]. Pour résumer, Lex Machina utilise les décisions disponibles dans PACER et fournit des données utiles pour la stratégie judiciaire.

A noter chez Bloomberg Law, un concurrent de Lexis et Thomson West apparu récemment : grâce au machine learning, Points of Law identifie, parmi les opinions des juges américains, les phrases qui font jurisprudence [146]

Les améliorations prévisibles résident dans la continuation et l’amélioration des précédentes :

  • du NLP state "of the art"
  • des suggestions/recommandations (soit de notions à ajouter, soit de régimes juridiques/bases légales) découlant de l’analyse par le machine learning du comportement des utilisateurs dans leurs recherches. Notamment, en analysant les arrêts déjà mis de côté/sélectionnés par l’utilisateur, il est possible d’en déduire ceux qui manquent. Ce type d’amélioration exploite à fond les excellentes perfomances du ML en catégorisation ("taxonomy" lit-on souvent)
  • plus de "direct answers"
  • des statistiques sur les tendances des juges américains. Dans Lexis Advance, c’est fait en décembre 2018, suite à l’intégration de Ravel Law : Lexis USA lance enfin la suite de Ravel Law : Context, son premier véritable outil de justice prédictive [147]. Pour le texte intégral, il faut un accès à Lexis Advance, avec lequel cette application fonctionne apparemment en tandem
  • une interaction vocale avec l’application, grâce à l’envol de l’utilisation des smartphones, y compris les fonctions d’envoi des résultats et d’impression.

Audit de contrats : l’offre existante

C’est clairement dans ce domaine de l’audit/vérification de contrats et de clauses que les progrès de l’IA juridique ont été les plus grands, comme l’illustre la victoire en février 2018 du logiciel LawGeex AI (qui utilise le ML avec apprentissage) sur 20 juristes de droit des affaires très expérimentés dans un test de rapidité et de pertinence : il s’agissait d’analyser les risques/failles présents dans cinq contrats de confidentialité ("non-disclosure agreement" ou NDA) de 2 à 6 pages, un outil très classique aux Etats-Unis [148]. Le "contract review", plus précisément, consiste en l’analyse en masse de contrats pour en extraire informations et clauses contestables ou à revoir.

Le "contract analytics", bien que beaucoup plus discret médiatiquement que la justice prédictive, est aussi le secteur de l’IA juridique qui nous semble le plus dynamique et le plus rentable. C’est ce que sous-entend un article d’Artificial Lawyer. Pour l’auteur du site, qui observe et promeut les legal tech depuis longtemps, « d’après les observations de ce site, une grande partie de la legal tech est façonnée par deux moteurs puissants et toujours présents : la force des transactions ("deals") et la force des bases de connaissances ("accumulation of knowledge, arranging it into libraries and making it searchable"). » Il ajoute l’e-discovery, quelque chose de typiquement américain. Mais nulle part il ne parle de la justice prédictive [149].

Les principaux acteurs sont :

  • côté anglo-saxon [150] :
    • la société canadienne Kira Systems et son logiciel d’audit de contrats de cession d’actions/parts de société est selon la société déployé dans 200 établissements. Il a été notamment adopté par les cabinets d’avocats Linklaters, Clifford Chance, Allen & Overy, DLA Piper, Freshfields et Latham & Watkins [151].
    • Seal Software propose différents produits de type "contract analytics" (analyse automatique ou "audit" de contrats), chacun taillé pour un besoin précis (RGPD, Brexit, M&A, Libor ...). Ils ont été rachetés fin février 2020 par le leader mondial de la signature électronique DocuSign, qui n’avait jusqu’ici pas investi dans l’IA [152]
    • LawGeex
    • Luminance, dont le produit a été adopté notamment par le cabinet anglais Slaughter & May, et qui a abordé le marché européen courant 2018
    • eBrevia, conçu par une start-up créée en 2011 dans l’Etat du Connecticut, a, tout comme Ross, un partenariat universitaire fort : sa technologie a été initialement développée à l’Université de Columbia [153]. L’application, utilise le machine learning pour faire du "contract review". Signe des temps : eBrevia, début mars 2018, s’alliait avec le groupe d’édition juridique Thomson Reuters, le propriétaire de la plateforme Westlaw [154] puis, en décembre 2018, était racheté par Donnelley Financial Solutions [155]
    • RAVN a été racheté mi-2017 par iManage, mélangeant ainsi le "document management" avec l’IA de type NLP et classification automatique [156]. Le produit a été utilisé en 2017 par une équipe d’investigateurs de l’agence anti-corruption britannique (Serious Fraud Office) pour fouiller 30 millions de documents à la vitesse de 600 000 par jour [157] dans une affaire de pots-de-vin et de corruption impliquant un important industriel [158]. Autre gros client : British Telecom [159]. Une particularité d’iManage est son intégration étroite et de longue date avec la suite Office de Microsoft et particulièrement sa messagerie Outlook. Un détail qui compte
    • Neota Logic est spécialisé dans la préparation de contrats de confidentialité de droit américain (NDAs), le même secteur que LawGeex, mais le but ici est de proposer des "templates" et non de faire de l’audit ("review")
    • Klarity gère la revue de contrats de droit américain en cloud dans des fichiers Word qui sont automatiquement annotés
    • Legal Sifter : signale les parties importantes d’un contrat de droit américain afin de le vérifier (ou négocier) avant de le signer [160]
    • Knowable, un récent "spin off" d’Axiom, a formé une "joint-venture" avec LexisNexis, a pour ambition d’aller plus loin que ses concurrents américains en "contract analytics" en répondant à des questions comme "Pouvons-nous sortir de certains des contrats de notre récente acquisition ?" [161]
    • on mentionne parfois HotDocs dans ce compartiment mais ce produit est en réalité largement basé sur une technologie très ancienne [162]. Grosso modo, HotDocs est un générateur de modèles (de contrats) ("contract automation") se basant sur les précédents de la structure
  • côté français :
    • en audit de contrats pour des fusions-acquisitions et en compliance, la startup française Softlaw, créée par Sandrine Morard [163], ex-avocate collaboratrice en M&A, travaille uniquement en interne (pas de cloud pour répondre aux demandes des directions juridiques et avocats qui ne veulent pas le moindre risque de fuite) et en français. Fin avril 2020, Softlaw a rejoint Septeo [164], un groupe français qui fait montre d’ambitions dans le secteur des logiciels juridiques, secteur qu’on appelle désormais la legal tech [165]. Septeo est notamment propriétaire de Secib, logiciel de gestion de cabinets d’avocats et de GenApi, important éditeur de logiciels pour les notaires. Après son rachat, Septeo intègre Sotlaw dans ses autres produits. En 2021, le logiciel de gestion de contrats Galexy de Legal Suite (groupe Septeo) intègre les fonctionnalités reconnaissance des "entités nommées" (type de contrat, parties, dates, adresses etc.) de Softlaw (intervention de Stéphane Lescher, directeur de marchés de Legal Suite, au webinaire Legiteam précité). Galexy automatise la saisie des infos du contrat grâce aux fonctionnalités de Softlaw puis le gère comme un logiciel de gestion de contrats classique (renouvellement, échéances ...). Idem, le logiciel pour notaires iNot de Genapi (groupe Septeo) intègre les mêmes fonctionnalités de Softlaw, selon Stéphane Fauvel (webinaire précité)
    • Hyperlex, fondée en 2017 par trois ingénieurs, est une société française développant une solution en ligne de gestion et d’analyse de contrats pour les entreprises] [166]. Selon Oliver Ezratty, « Hyperlex analyse les contrats d’entreprise pour identifier les clauses clés et permet leur revue collaborative dans l’entreprise. L’outil comprend surtout un dashboard de suivi de contrats et de leur circuit de signature, une fonction de workflow assez traditionnelle [167]. » Pour citer Alexandre Grux, le dirigeant d’Hyperlex, interviewé par le Data Analytics Post : « Notre outil permet [à nos clients] de trier leurs contrats pour les ranger et y accéder plus rapidement, y retrouver des clauses précises ou des données contractuelles (dates, montants…) avec un système d’alertes automatiques, générer automatiquement une synthèse pour faciliter la prise de décision ». Hyperlex a pour particularité d’utiliser toutes les technologies d’IA disponibles, y compris la reconnaissance de formes dans les images (ici identifier un tampon ou un logo dans un scan). Cette utilisation de la diversité de l’IA rapproche Hyperlex de Case Law Analytics (voir infra dans nos développements sur la justice prédictive). L’expertise d’Hyperlex va être utilisée par la Chambre des notaires de Paris pour taguer automatiquement des documents notariaux (annonce de février 2020). Dans un premier temps, ce sont les notaires et leurs collaborateurs qui vont mettre manuellement les labels sur ces documents et il s’agira de reconnaître uniquement le type de document. Mais le projet veut aller jusqu’à ce que Hyperlex fait pour les contrats, un "audit" (dans le sens anglo-saxon du terme, ici : repérer des clauses problématiques) des documents. Ce projet, nommé VictorIA, doit s’étaler sur plusieurs années [168].

Ce sous-sous-secteur de la legal tech se rattache au sous-secteur des "alternative legal process providers" (ALSP, prestataires de services juridiques en ligne), en partie utilisateur d’IA (au sens de technologies informatiques très récentes à base de NLP et de machine learning), est également celui qui fait le plus de chiffre d’affaires. Beaucoup plus que la justice prédictive. Selon une étude de Thomson Reuters, le groupe d’édition juridique américain, les "legal process providers" ont fait 13 milliards USD en 2019 contre 8 en 2015 [169] ...

eBrevia, RAVN, Seal Software ... : le marché anglo-saxon de l’audit de contrats est nettement en train de se consolider, plus encore que le secteur plus large de l’IA juridique ou de la legal tech, où en France même un tel mouvement de concentration est attendu [170].

Olivier Ezratty, dans son ebook précité Les usages de l’intelligence artificielle 2021, liste également un tout autre type d’application métier en juridique : la propriété industrielle (marques et brevets). Parmi les sociétés qu’il cite, je retiendrai celles-ci :

  • Juristat (USA) « réalise des "analytics" sur les données publiques sur les brevets et les avis des agents de l’USPTO pour optimiser les stratégies de protection de brevets »
  • Turbo Patent (USA) et son application RoboReview [171]
  • Lex Machina (acquis par LexisNexis, on en a parlé plus haut)
  • Data&Data (créée en 2012, France) fait de la veille sur les ventes de contrefaçons des produits de luxe sur les sites marchands et les réseaux sociaux [172]. « L’outil à base d’IA s’appuie sur la détection d’anomalies dans les prix et les images des articles en vente ». Ses algorithmes sont basés en partie sur la technologie Azure Machine Learning du cloud Microsoft
  • Clarivate Analytics est arrivée dans l’IA, explique O. Ezratty, « via son acquisition de TrademarkVision qui utilise le deep learning pour reconnaître les logos des marques et faire des recherches d’antériorité. »

Justice (dite) prédictive : calculer les chances de gagner un procès en droit français (avec ou sans machine learning)

Abordons maintenant les IA juridiques françaises. Si l’on excepte les applications de contract review Softlaw et Hyperlex précitées, ce sont des applications dites de justice prédictive — ou qui visent à le devenir. Là aussi, comme pour le terme "intelligence artificielle", l’emploi de l’expression "justice prédictive" a un côté marketing accentué.

Au niveau des technologies, le machine learning n’est pas encore systématiquement utilisé, les systèmes experts et le traitement automatique du langage naturel par chaînes de caractères (l’IA "à la papa") sont encore très répanduus.

Les limites des "IA" juridiques françaises en matière de justice prédictive

Côté justice prédictive, pour le moment, on n’en est en réalité qu’à une analyse (par thème, par juridiction, par société [173], des montants des dommages-intérêts ou de quel type de camp a gagné) de la jurisprudence disponible et à une recherche en langage naturel sur celle-ci. C’est le sens du billet très mesuré du professeur Dondero cité en introduction. Plus généralement, déjà en 2014, un spécialiste du machine learning, le professeur Michael Jordan, estimait qu’on attendait beaucoup trop beaucoup trop tôt du deep learning et du big data [174]. Antoine Garapon pointe l’origine anglo-saxonne du terme et rappelle très justement que la traduction exacte est « justice prévisible » et non prédictive [175]. On pourrait aussi traduire par "justice prévisionnelle", même si cela sonne bizarre.

Pour l’instant, le machine learning en droit français — quand il est réellement utilisé, ce qui, on va le voir, n’est pas systématique — n’est pas de l’intelligence artificielle au sens fort du terme (cf propos infra sur l’IA forte et faible). Du temps de la lutte entre Microsoft et les autres éditeurs de logiciels de bureautique (années 80), on appelait ça du vaporware : annoncer des sorties d’applications entre 6 mois et 2 ans à l’avance pour pousser les clients à attendre la nouvelle version. Et à ne surtout pas aller chez la concurrence — ici, je dirais : ne pas se servir de ce qui marche déjà très bien, comme les compétences des meilleurs documentalistes juridiques ou l’application Jurisprudence chiffrée (cf juste infra).

L’article précité de Valérie de Senneville aux Echos le souligne :

« pour le moment, " il y a beaucoup d’effets d’annonce ", remarque Jean Lassègue, philosophe et chercheur au CNRS. L’épistémologue, qui a consacré de nombreux travaux à l’informatique [il est l’auteur, avec Antoine Garapon, de l’ouvrage de référence « Justice digitale »], invite à s’interroger sur le problème de la qualification des faits et de leur catégorisation. " La machine ne peut pas régler cela ", affirme Jean Lassègue. »

Antoine Garapon, secrétaire général de l’Institut des hautes études sur la justice (IHEJ), ne dit pas autre chose dans son entretien avec Les Petites Affiches (septembre 2017) [176] :

« LPA — L’impact réel des legaltechs sur le droit ne reste-t-il pas néanmoins encore assez limité ?
A. G. — Bien sûr et je pense que l’impact le plus important du de la legaltech se situe en réalité sur le plan imaginaire. [...] Il est en effet frappant de constater à quel point on évoque legaltech et justice prédictive quand les réalisations pratiques restent très mineures puisque ces technologies ne sont pas encore matures. »

Seuls Predictice et plus encore Case Law Analytics [177], comme on le verra plus loin, peuvent avoir la prétention — toute relative — de prédire, avec une marge d’erreur, les jugements.

D’abord, définir. La "justice prédictive" est, selon le rapport Cadiet, remis en 2017 à la Chancellerie, « un ensemble d’instruments développés grâce à l’analyse de grandes masses de données de justice qui proposent, notamment à partir d’un calcul de probabilités, de prévoir autant qu’il est possible l’issue d’un litige ». Notez bien le « notamment », car il est également possible de modéliser les critères de prise des décisions de justice au lieu de les "statistiser" et c’est un point capital du débat.

Le Dictionnaire de droit privé de Serge Braudo propose, lui, la définition suivante : « "La justice prédictive" est une notion récente évoquée par une partie de la presse, et par une partie des professionnels du Droit qui partent de la constatation que toute décision judiciaire comporte sa part d’aléa. Le calcul portant sur la fréquence des décisions rendues par les tribunaux devrait permettre de dégager des algorithmes mesurant les risques courus dans l’engagement d’une procédure ou d’un arbitrage. Le fait de quantifier le risque juridique permettrait de désengorger les juridictions et un traitement de masse des dossiers libérant les professionnels de la réalisation de tâches bien trop souvent répétitives. »

Autre tentative de définition : Eloi Buat-Ménard, adjoint au directeur du Service de documentation, des études et du rapport (SDEC) de la Cour de cassation, dans sa contribution à un dossier sur Les défis de la justice numérique, veut écarter les fantasmes sur ce qu’est la justice dite "prédictive" [178]. Nous le citons quasiment in extenso car ce propos vient d’un magistrat très bien placé pour parler de la justice prédictive, vu son poste :
« Est "prédictif" ce qui permet de prévoir des faits à partir d’éléments donnés. Si l’on entend par "prévoir" le fait d’apprécier la probabilité d’un fait futur, alors oui, le concept de justice prédictive peut avoir du sens, à l’instar de la notion de médecine prédictive, qui détermine, par l’étude des gènes, la probabilité de développer une maladie donnée. [...]
Mais si l’on rattache la notion, non à la prévision mais à la prédiction, c’est-à-dire à l’action d’annoncer à l’avance un événement, comme sa racine l’y invite, alors le concept est inepte. Cela pour une raison très simple : la jurisprudence n’est pas un système clos. Autrement dit, une décision de justice n’est, et de loin, pas la résultante des seules décisions passées mais d’une pluralité de facteurs plus ou moins bien identifiés : contexte jurisprudentiel, certes, mais aussi normatif, politique, social, professionnel, médiatique, voire affectif, climatique (juge-t-on de la même façon en période orageuse ou de canicule ?), alimentaire (juge-t-on de la même façon le ventre creux ?), familial (juge-t-on de la même façon sous le coup d’une rupture douloureuse ?), culturel, etc. Bref, tout ce qui fait que la justice est et demeurera, du moins l’espère-t-on, une oeuvre humaine.
Dans cette acception, un algorithme proprement "prédictif", c’est-à-dire capable de prendre en compte une telle pluralité d’interactions causales, reste à ce jour une pure vue de l’esprit, sauf à envisager une drastique restriction du champ des causalités jurisprudentielles à la seule raison juridique (déjà quelque peu délicate à identifier précisément), figée - ou limitée - dans son évolution, ce qui nous éloigne immanquablement du concept même de justice. Les juristes romains avaient déjà parfaitement perçu le danger d’une "justice" totalement prévisible dans son application qu’ils tenaient précisément pour une forme d’injustice : c’est ce qu’exprime l’adage summus ius, summa iniuria. »

Jacques Lévy Véhel, chercheur à l’INRIA et fondateur de Case Law Analytics, estime qu’il faudrait parler de « quantification de l’aléa juridique » [179].

Il est en effet difficile de prétendre que la justice prédictive au sens de prévision judiciaire — comme la prévision météorologique — existerait actuellement en France. Et le terme, comme nous l’avons vu plus, haut porte beaucoup (trop) de "hype" en lui. Le concept d’analyse mathématique et algorithmique des décisions de justice est plus proche de la réalité. Plus concrètement, il s’agit de statistique et/ou de modélisation imparfaites des décsions de justice. Cette description nous semble plus réaliste et plus opérationelle. [180]. C’est ce que nous allons tenter de montrer.

Une justice prédictive imparfaite pour l’instant, car 200 000 décisions judiciaires publiées par an, alors que 3.8 millions sont rendues sur la même période, c’est un échantillon insuffisant en termes de statistiques. Sans compter que dans de nombreux cas, les faits ne sont pas détaillés ou insuffisamment détaillés, même dans le jugement de première instance, si on l’avait (cas classique des décisions pénales, que par déontologie Predictive et Case Law Analytics ont choisi d’exclure — ce qui nous semble justifié).

A court et moyen terme, le délai d’implémentation de la justice prédictive sur la grande masse du contentieux est incompressible. En effet, elle ne pourra pas être implémenté sur l’ensemble des décisions de justice de première instance et avec une pleine efficacité avant un minimum de huit ans à compter de 2017.

Explication. Compte tenu des spécificités du droit français (pas de la common law ... mais pas un véritable problème [181]), de la (relativement) petite taille du marché français du droit, de l’absence pour l’instant de disponibilité en accès libre et gratuit (open data) [182] des décisions judiciaires de première instance [183] avant des années malgré la loi Lemaire pour une République numérique [184], de la nécessité d’un partenariat entre un éditeur juridique et un éditeur de système de machine learning [185], cela devrait prendre au minimum huit ans à compter de 2017 et peut-être plus.

A noter que le NLP à la "sauce" machine learning, en droit français, sert de nos jours de plus en plus à pseudonymiser (on ne dit plus anonymiser, ça c’était avant le RGPD) automatiquement les décisions de justice. La legal tech Doctrine.fr s’était lancé dès ses débuts en 2016 dans cette tâche, ce qui avait d’ailleurs entraîné à l’époque un débat [186] très intéressant avec le développeur et ingénieur ML Michaël Benesty, attelé à la même tâche, sur les limites des performances du ML en la matière. L’état de l’art en 2016-2017 était en fait très insatisfaisant. Pour citer M. Benesty fin 2016 :
« Pour avoir un taux d’erreur de 10% (qui est déjà important), il faudrait un algorithme ayant un taux d’identification par mention de plus de 99% (en théorie). L’état de l’art en septembre 2016 des algorithmes mis au point dans les universités (donc en avance sur les systèmes utilisés dans l’industrie) est à 92%. Même en “trichant” par l’ajout de règles manuelles, on arrive péniblement à 96%. Or, d’une manière générale en machine learning, plus le taux est haut, plus il faut d’efforts pour progresser.
En matière de bases de données en santé (où le problème de l’anonymisation des données se pose aussi), le taux de rappel (différent de l’accuracy, on en parle ici pour comparaison des grandeurs) rapporté en anglais (langue plus facile à traiter pour les machines, car morphologiquement pauvre) est de 94%.
On voit bien que l’approche anonymisation à 100% via le machine learning (c’est-à-dire sans aucune intervention humaine) se heurte à un plafond de verre. »

Toutefois, les ingénieurs machine learning/"data scientists" d’Etalab (EIG) envoyés assister la Cour de cassation ont beaucoup beaucoup progressé en 2019 en utilisant deux librairies de "Named Entity Recognition" bien connues, spaCy et Zalando Flair : « diminution de 32% du taux d’erreur avec une meilleure utilisation de la connaissance de l’ensemble des données au lieu de simplement travailler au niveau de la phrase » et atteinte d’un « taux de réussite de 99,96 % sur les noms et prénoms » [187]. Selon l’article d’Acteurs Publics (accés réservé) :
« La mission Etalab se chargera, à ce titre, de faire office de courroie de transmission avec les autres institutions désireuses d’appliquer la méthode de la Cour de cassation pour anonymiser leurs documents. Pour autant, la généralisation du nouveau moteur d’anonymisation à toutes les institutions judiciaires n’est pas pour demain, tant le paysage des applicatifs informatiques du ministère de la Justice reste encore aujourd’hui éclaté. En attendant, la Cour devrait adopter le nouveau logiciel mis au point par les deux EIG d’ici la fin de l’année [2019]. »

Revenons à notre notion d’analyse statistique imparfaite des décisions de justice. Elle vaut aussi pour l’avenir. Car l’idée qu’on va pouvoir vérifier que, dans une même situation, les juges rendent des décisions identiques, au-delà même des inconvénients de la pression politico-médiatico-sociale que cela leur mettrait, est largement biaisée. Ce, pour plusieurs raisons :

  • « un seul et même juge peut adopter des solutions divergentes dans des affaires présentant les mêmes caractéristiques » [188]. Particulièrement, le moment de la journée compte beaucoup : quand le/la juge, peu avant 13h, a faim, cela influence sa décision. De même, le soir tard, quand il/elle est fatiguée et veut en finir pour rentrer chez lui/elle
  • la notion de "même situation" est une illusion : dans le détail, les situations de fait sont très rarement totalement identiques dans les décisions de justice (et j’en ai lues beaucoup). C’est la qualification juridique de ces faits qui peut donner cette impression
  • les statistiques sont une autre illusion (vu les interprétations hâtives et abusives qu’on en fait le plus souvent, notamment en utilisant des graphiques), mais *en partie* seulement (sauf si elles sont faites sans suivre les règles, ce qui arrive plus souvent qu’on croit : représentativité échantillon, biais ...). Elles permettent en revanche de *tenter* de décrypter la jurisprudence [189]. Comme le disait le Premier président de la Cour de cassation Bertrand Louvel lors du colloque de 2016 sur l’open data de la jurisprudence : la « jurisprudence », c’est « la tendance habituelle d’une juridiction ou d’une catégorie de juridictions à juger dans tel sens » [190]
  • une statistique est une *simplification*, outrancière si elle manque de finesse (préférer les déciles ou la médiane à la moyenne, par ex.). Cette simplification permet toutefois de détecter ou prouver des tendances.
    Les exemples suivants donnés par Jacques Lévy Véhel illustrent bien le problème [191] :
    « Mettre à disposition des décisions en masse conduira inévitablement à des traitements statistiques qui auront plus d’effets négatifs que positifs. Si on peut classer des films de cinéma selon leur popularité, classer des juridictions ou des avocats suivant leur "performance" me semble poser problème.
    Malheureusement, l’histoire montre que la facilité est toujours privilégiée, et ce type de classement apparaîtra très vite, comme c’est le cas par exemple aux USA. Ces classements seront entachés d’une multitude de biais bien connus, que le public n’aura pas les moyens de détecter. Est-ce qu’un avocat qui défend des entreprises qui ont commis une infraction et dont le but est de réduire le montant des condamnations prononcées sera mal classé parce qu’il « perd » tous ses procès ? Ou bien, au contraire sera-t-il très bien classé car il divise par exemple par 10 les montants qui devront être versés par son client ?
    Est-ce qu’on peut de façon sensée comparer les montants accordés pour une prestation compensatoire par un juge aux affaires familiales qui officie à Versailles à ceux donnés par un juge de la cour d’appel de Douai ? Comment redresser les montants pour ajuster la différence évidente entre les populations qu’ils ont à considérer ? On pourrait multiplier les exemples. Les statistiques donneront une vision simpliste et faussée de la réalité, et les corriger est complexe même pour des professionnels du droit travaillant avec des statisticiens. »

A l’heure actuelle, les statistiques de la justice prédictive restent donc fragiles car leur substrat est peu représentatif. On constate aussi, à tester les outils, que ces statistiques nécessitent fréquemment des interprétations et des explications. De plus, la qualité varie selon les outils.

Les statistiques de la justice prédictive restent fragiles également parce que comme le souligne le sociologue et chercheur CNRS Julien Larrègue les applis et expériences menées nous « apprennent peu de choses sur les raisons et le sens des décisions » [192] (sans même parler du problème de l’explicabilité des résultats de l’IA).

Encore une fragilité des statistiques de justice prédictive (cf à nouveau J. Larrègue [193]) : en droit pénal (et peut-être en droit civil — droit de garde lors du divorce —, voire procédures collectives), les applications ignorent les recherches menées en sciences sociales et celles de "jurimetrics" menées depuis les années 40. Pour citer J. Larrègue : « Les quelques juristes qui réalisent des études de sentencing, en analysant notamment les facteurs juridiques et extra-juridiques qui influencent les condamnations pénales, s’insèrent dans la filiation directe des sciences sociales et n’utilisent pas l’expression de "justice prédictive", preuve que les deux mouvements sont découpés. » Pour lui, « la raison d’être du mouvement de justice prédictive n’est pas de faire œuvre scientifique, mais « de réduire les risques de perdre un procès tout en réduisant les coûts associés à l’institution judiciaire ».

Notez bien que nous avons parlé jusqu’ici des limites des *statistiques* en matière de décisions de justice. Pas des limites de la *modélisation* de la prise de ces décisions, ce qui est fait par une seul acteur, Case Law Analytics, et s’avère in fine plus rigoureux, particulièrement face au manque très net de décisions couvrant le même cas dans le même type de contentieux. Ainsi, pour obtenir des statistiques solides en droit du licenciement sans cause réelle et séreuse, il faudrait avoir quelques centaines de décisions du même bassin d’emploi ou au minimum émanant de tribunaux du même ressort de cour d’appel, de moins de 5 ans d’écart, sur le même type de poste/métier, même niveau de responsabilité, même niveau de rémunération et même ancienneté. Actuellement, dans le meilleur des cas, on arrive à quelques dizaines de décisions de ce type, souvent liées à un unique gros plan social. Or le fait même que ces décisions soient de facto majoritairement issues de la même affaire est un biais statistique lié à l’échantillon ... C’est pourquoi modéliser les critères de la décision de justice est une piste plus intéressante.

Dernière limite, enfin, le degré d’acceptation par la société, encore limité (cf la dernière partie de ce billet). Toutefois, si l’on s’en tient à l’histoire récente des innovations, les systèmes de machine learning en droit finiront, selon toute probabilité, par être assez rapidement acceptés par les consommateurs de droit. Les professionnels du droit vont donc, à terme, devoir suivre. En fait, un nombre important d’avocats et encore plus important d’assureurs se sont déjà lancés, en prenant des abonnements chez Predictice et Case Law Analytics. Comme le rappelle un professionnel américain des enquêtes ("fact finding") pour avocats, dans un excellent article qui remet les pendules à l’heure, les "IA" d’aujourd’hui sont les "logiciels" de demain [194].

Les limites des "IA" juridiques françaises en matière de recherche en langage naturel

Marc Clément, président de chambre au tribunal administratif de Lyon, ex-rapporteur à la cour d’appel administrative de Lyon et important commentateur des apports du numérique aux juridictions administratives [195] fait remarquer que « dans la réflexion sur la "justice prédictive", il est très rarement fait allusion au fait que l’outil informatique est déjà au cœur du métier du juge », et ce, à travers les recherches sur les bases de données de jurisprudence et de doctrine, particulièrement les juges administratifs qui bénéficient de l’ensemble des grandes plateformes des éditeurs juridiques (pas les magistrats de l’ordre judiciaire, pauvre, lui). En effet, face au nombre de résultats trop important pour qu’on les lise tous, les juristes sont obligés, soit de diminuer ce nombre en ajoutant des mots-clés soit de faire confiance à l’algorithme de tri par pertinence. Le choix d’un "mauvais" mot-clé peut faire disparaître des résultats pertinents, tandis que les règles dirigeant l’algorithme de tri par pertinence ont leurs propres biais [196].

Entre parenthèses, l’argument — tout à fait exact — de M. Clément renforce la nécessité d’apprendre aux jeunes juristes à chercher en suivant tout simplement les tables des matières, index alphabétiques, plan de classement, thésaurus, notes de bas de page et autres accès hiérarchiques ou guidés. Le plan de classement de la jurisprudence administrative (PCJA) maintenu par les équipes du Conseil d’État n’est rien d’autre que ça : un guide extrêmement performant pour trouver rapidement toute la "JP" faisant autorité sur un sujet. Evidemment, les outils hiérarchiques et d’indexation matière ont leurs propres limites : ils ne sont jamais exhaustifs, coûtent cher à maintenir et, du fait de leur réalisation humaine [197], ne pourraient probablement pas traiter une masse de plusieurs millions de documents (les juridictions judiciaires rendent 3,8 millions de décisions par an, dont 1,2 pour les décisions pénales [198]). C’est justement pour ça qu’on cherche aujourd’hui par mots-clés et que les technologies de l’IA s’attaquent aux limites de ce mode de recherche.

Pour autant, les techniques de recherche utilisant le machine learning ont leurs limites à elles, bien plus gênantes si on considère qu’on ne sait pas précisément pourquoi tel mot va trouver tel résultat. C’est le fameux problème de la transparence des IA, non résolu à cette heure, et que Marc Clément rappelle à juste titre. Oui, mais si l’algorithme est plus pertinent que la recherche en texte intégral, on est globalement gagnant, me direz-vous. Certes, mais avec l’IA actuelle, on va vers des logiciels dont les utilisations seront différentes et les conséquences bien plus importantes puisqu’on parle de statistiques sur les solutions des litiges, le montants des indemnisations et potentiellement les peines de prison. Le manque de transparence de l’IA est alors autrement plus gênant.

Marc Clément, toujours lui, fait également remarquer que « les structures des textes juridiques sont des points d’appui précieux pour construire une analyse automatique. On peut ainsi sans trop de difficultés identifier des références à des articles de code ou à des jurisprudences, ce qui place d’emblée un texte juridique dans un réseau d’autres textes » [199].

En pure théorie, M. Clément a raison : les références, dans les documents juridiques [200], aux autres documents sont autant de liens et de recommandations implicites qui devraient aider les algorithmes de machine learning à identifier les documents les plus pertinents par rapport à la "question" posée — la requête devrait-on dire.

Mais la réalité est autre :

  1. Primo, si c’était si simple, les legal tech, depuis trois ans qu’elles existent en France, auraient dû arriver à quelque chose de mieux, avec les arrêts des juridictions suprêmes et des cours d’appel, que ce qui existe actuellement. C’est donc qu’il y a de sérieuses difficultés dans ces arrêts.
  2. Les décisions des juridictions administratives sont beaucoup mieux structurées que celles des juridictions judiciaires. Parce qu’elles ont plus de moyens financiers et en personnel [201], parce qu’elles produisent plus de dix fois moins de décisions (260 000 par an contre 3,8 millions), parce qu’elles n’ont pas la même indépendance que celle des cours d’appel et tribunaux judiciaires et que les règles de rédaction des décisions sont donc précises et unifiées [202]. Cette bien meilleure structuration rend leur mise en base de données, leur pseudonymisation et les recherches dessus beaucoup plus faciles — c’était évident quand on interrogeait Supra Legem — et moins chères. Exemple de ce qu’il faudrait faire sur les décisions judiciaires, un travail collaboratif dans le cadre du forum Open Law en 2017 a permis de dégager une quarantaine de champs et d’annoter environ 400 décisions extraites de Legifrance. Pour plus de détails, voir notre billet L’open data des décisions des cours d’appel et tribunaux n’est pas pour demain.
  3. Et puis, les décisions des tribunaux judiciaires de première instance ne sont pour l’instant pas disponibles : ni numérisées nativement dans la très grande majorité des cas [203], ni suffisamment structurées, ni suffisamment balisées au plan du code informatique. Même les jugements des tribunaux de commerce ne sont pas ni assez structurés ni assez balisés informatiquement pour pouvoir être "mangés" efficacement par une base de données. L’objet du fameux contrat entre Infogreffe et Doctrine.fr (finalement résilié par Infogreffe) était justement probablement de traiter ces jugements pour résoudre en partie ce problème [204] — les autres aspects étant leur pseudonymisation [205] leur "mise en base de données".

Tout ceci explique très largement pourquoi, selon toute probabilité et à l’exception totale de l’ex-Supra Legem [206] et partielle de Case Law Analytics, les applications de justice prédictive utilisent essentiellement, pour leur moteur de recherche et l’analyse des décisions, des systèmes fondés sur les chaînes de caractères et les expressions régulières (regex), dont le précurseur en France sont les cartouches ex-Luxid (devenues Cognito Discover) de la société Expert System, ex-Temis [207], dont nous avons parlé plus haut.

Selon les consultants de Sopra Steria, dans le rapport précité d’octobre 2020 rendu par le Conseil national des barreaux (CNB), les 12 solutions jugées les plus pertinentes pour les professionnels du droit formés en droit continental sont Predictice (France), Case Law Analytics (France), Jurisdata Analytics (France), Legalmetrics (France), Tirant Analytics (Espagne), Lex Machina (USA), Ross Intelligence (USA), MaitreData (France), Predilex (France), Juge Robot (Estonie), Ravel Law (USA) et Jurimetria (Espagne). Deux autres legaltechs, Doctrine et JuriPredis, « n’apparaissent pas comme des acteurs de la jurimétrie telle que définie dans cette étude » mais « fournissent des prestations qui en constituent des briques élémentaires » [208].

Voyons maintenant les produits français un par un.

Predictice

Créé en 2016 par le jeune avocat Louis Larret-Chahine, Predictice est un outil d’aide à la décision à destination des professionnels du droit et des assureurs [209]. Dans une première étape, il permet d’accéder à la jurisprudence via [210] :

  • un moteur de recherche en langage naturel utilisant des technologies d’analyse syntaxiques simples mais aussi les opérateurs booléens classiques [211], ce qui est un plus pour les spécialistes de la recherche (et pas seulement les documentalistes)
  • des filtres : juridictions, chef de demande dans le dispositif de la décision, s’il a été accepté ou refusé, montant alloué, type de solution (confirmation, infirmation, partielle ou pas), base légale/texte cité. Certains filtres sont spécifiques à une matière, comme ceux du salaire brut et de l’ancienneté du salarié en matière de licenciement
  • une fois arrivé sur une décision, des suggestions de décisions similaires.

Une fois les résultats atteints, la deuxième étape est l’analyse statistique du contentieux (dite "prédictive"). On sélectionne un chef de demande parmi ceux trouvés par l’application lors de la recherche — on peut aussi en taper un autre. Un algorithme calcule alors les probabilités de résolution du contentieux, le montant des indemnités potentielles et identifie les moyens de droit ou les faits les plus influents dans les décisions antérieures rendues par les juridictions [212]. La restitution des analyses se fait sous forme graphique ou statistiques. L’application utilise des technologies de NLP (TAL) simples à base de synonymie et de règles pour chercher dans les décisions de justice, les analyser et extraire les données.

Concrètement, chez Predictice, il s’agit d’abord de lister le type de partie vainqueur et donc de donner un pourcentage de chances de remporter un procès sur un type de contentieux, et de déterminer les montants de dommages-intérêts alloués selon la cour d’appel, sans oublier la répartition des montants (par décile par exemple), le tout cartographié [213]. S’ajoute à ces informations les décisions les plus récentes en votre faveur ou en votre défaveur, celles ayant alloué les dommages-intérêts les plus importants et les moins importants et d’autres statistiques plus détaillées. L’analyse produite est facile à télécharger ou imprimer — et donc à présenter au client ou à la partie adverse, c’est prévu et voulu par Predictice. Les analyses statistiques sont réalisées avec les avocats et juristes partenaires.

D’abord en pilote auprès de structures partenaires (Orange, AXA, Covéa, Dentons, Solocal, Taylor Wessing), Predictice est commercialisé depuis septembre 2017 [214].

Le test de l’application au sein des deux cours d’appel de Rennes et Douai s’est terminé début octobre 2017 : les magistrats n’ont pas adopté l’outil, estimant que, malgré sa « modernité », il « méritait d’être sensiblement amélioré [215].

En fait, ce que les magistrats testeurs reprochaient à l’application, c’était la non-prise en compte de biais statistiques [216] : « Xavier Ronsin est le premier président de la cour d’appel de Rennes. Ses magistrats ont testé un logiciel (Predictice, pas celui développé à Nantes) pendant quelques mois. Bilan  ? "C’est la déception. Rien ne remplace le regard d’un juge. Le logiciel que nous avons testé n’apporte aucune plus-value dans le travail des magistrats." Xavier Ronsin évoque même des "biais de raisonnement" du logiciel qui se fonde sur des comparaisons de décisions passées, sans forcément en examiner les motivations. »

Il faut lire l’interview de Xavier Ronsin donnée à Dalloz Actualité en 2017 pour mieux comprendre ce que techniquement les magistrats reprochaient à l’outil [217] :

« On se situe plus dans un projet d’approche statistique et quantitative que qualitative. Parfois, les résultats peuvent même être aberrants. Prenons l’exemple d’un calcul d’indemnités de licenciement sans cause réelle et sérieuse. Les montants sont calculés par le juge en mois de salaire. Or le salaire d’un cadre n’est pas le même qu’un ouvrier. Il suffit qu’une décision de justice concerne un cadre pour fausser complètement l’analyse, selon l’affaire ou le bassin d’emplois, et pour que le résultat proposé ne dise rien du cas à résoudre. Il serait plus pertinent de privilégier une approche selon le nombre de mois de salaire alloué, plutôt que savoir si le résultat probable sera de 4 000 ou 8 000 €. [...]
Le logiciel ne s’intéresse qu’au dispositif d’une décision de justice. L’algorithme ne sait pas lire toutes les subtilités de la motivation, surtout lorsque la décision est complexe. »

 [218]

Après deux mois d’utilisation intensive de Predictice, l’avocat geek Frédéric Cuif a fait son bilan [219]. Il apporte d’autres éléments intéressants.

En 2018, le nombre d’abonnés a visiblement cru — sans que la société publie de chiffre. Les assureurs Covéa, Allianz, la Maif et Pacifica sont clients [220]. La page d’accueil du site de Predictice affiche les cabinets d’avocats utilisateurs.

Case Law Analytics

Case Law Analytics (CLA) était en fait, jusqu’en 2017, une recherche interne à l’INRIA (Institut national de recherche en informatique et automatique). Ce n’est qu’en septembre 2017 que CLA est devenu une société. Elle est basée à l’Atlanpole de Nantes et a été sélectionnée par Microsoft pour son programme d’incubation au sein de Station F à Paris. Cet "offshoot" de l’INRIA a été créé à l’origine mi ou fin 2015 par Jacques Lévy Véhel, mathématicien et à l’époque directeur de recherche à l’INRIA [221] et Jérôme Dupré, alors magistrat en disponibilité, et devenu depuis avocat au barreau de Nantes. C’est J. Lévy Véhel qui a créé la société [222] et il est aujourd’hui associé principal [223] — mais d’après lui, Jérôme Dupré continue à jouer un rôle de conseiller.

Sur Case Law Analytics, il n’y avait, jusqu’au printemps 2017, que très peu de choses à lire. La startup était alors très discrète sur le plan médiatique. Le passage au statut de société approchant [224], les publications se sont ensuite succédées [225]. Il s’agissait à l’origine d’une évaluation probabiliste des dommages-intérêts, elle-même découlant de travaux sur les montants des indemnités de licenciement faits pour la préparation de la loi Travail et d’un intérêt personnel du fondateur de CLA pour la quantification des décisions de justice, ayant été lui-même confronté à un contentieux [226]. En 2014, Jacques Lévy Véhel avait initié une collaboration avec le magistrat Jérôme Dupré, autour de la modélisation des prestations compensatoires. Extrait de l’article du Village de la Justice (mars 2017) :

« " Il ne s’agit pas de dire la probabilité d’aller au contentieux mais plutôt d’estimer les sommes d’argent que vous pouvez être condamné à payer dans tel ou tel cas de figure, explique Jérôme Dupré. Nous n’aimons pas l’expression “justice prédictive”, qui est à notre avis trompeuse et parfois même dangereuse. C’est pourquoi nous ne donnons pas un chiffre unique mais une distribution probabiliste des montants de condamnation possibles. Il est difficile de calculer ce risque parce que les aspects procéduraux sont complexes à modéliser pour le moment mais c’est possible dans certains cas. " »

Ensuite, Case Law Analytics a évolué vers un logiciel qui fonctionne pour partie comme un système expert et pour partie comme un outil d’aide à la décision. Mais ses créateurs se fondent moins que Predictice sur la statistique — J. Lévy Véhel refuse notamment de donner des moyennes — et plus sur un système qu’ils qualifient de « juges virtuels ». L’interview de J. Lévy Véhel par Ekipio et celle par le MediaLab de France Télévisions soulignent les points-clés de son produit :

  • Case Law Analytics fonctionnant en partie comme un système expert (voir infra), il ne dépend pas de la disponibilité d’une masse de décisions statistiquement significative et peut donc compenser le manque de magistrats face au nombre de dossiers (une différence fondamentale avec Predictice) [227]. Au moins, lui est clair là-dessus. Au demeurant, en tant que justiciable et juriste en même temps, je ne partage pas complètement son avis : quantité d’affaires qui paraissent basiques, qui selon des juges ne méritent pas qu’on y passe du temps, le mériteraient (il faudrait faire des recherches, en fait et en droit, qui ne sont pas faites [228]) et sont traitées par dessus la jambe. Là-dessus (pour les particuliers justiciables de base), la justice prédictive, selon moi, ne permettra en effet que de gagner du temps — rien d’autre
  • comme Louis Larret-Chahine de Predictice, J. Lévy Véhel dit ne pas croire pas au danger d’uniformisation de la jurisprudence. Pour lui, son logiciel est un outil d’aide à la décision. Entre parenthèses, questionné par un de ses interviewers, J. Lévy Véhel reconnaît qu’il faut « un peu de formation » pour les justiciables et recommande une formation de base en mathématiques et statistiques pour les juristes, ce qui montre l’importance — et la difficulté relative — d’interpréter les résultats des applications de justice prédictive
  • CLA ne travaille que sur un nombre limité de domaines du droit, relativement étroits et homogènes. Par opposition, Predictice est un généraliste. CLA se limite actuellement (fin 2018) à une quinzaine de domaines : rupture brutale des relations commerciales, marchés publics, abus de position dominante , baux commerciaux, licenciement sans cause réelle et sérieuse, opérations d’initiés (droit boursier). Les manquements d’initiés sont un domaine où les décisions sont très peu nombreuses (on parle d’environ 230 décisions à fin novembre 2018), ce qui illustre assez bien le côté système expert. Idem pour la rupture brutale : 2200 décisions environ. CLA ne peut pas travailler sur un dossier exceptionnel, en revanche
  • les techniques et étapes utilisées : dans un premier temps, J. Lévy Véhel et son équipe font parler « un grand nombre de magistrats et d’avocats spécialistes du domaine pour établir l’ensemble des critères intervenant dans la prise de décision » (entre 20 et 120) et le raisonnement utilisés par les juges pour trancher. Ça, c’est une technique d’IA à l’ancienne : c’est du logiciel expert (cf supra). Et cela permet à CLA de dire qu’ils offrent des « juges virtuels ». Un « référentiel » plutôt, en réalité, pour reprendre un autre terme utilisé par J. Lévy Véhel.
    Dans un deuxième temps, CLA constitue une base de données de décisions de justice sur le sujet (peu d’IA là-dedans). J. Lévy Véhel : « Nous utilisons bien sûr des outils de traitement du langage naturel, pour retrouver automatiquement certains critères, mais une partie du travail est effectuée manuellement, par des humains. »
    Dans un troisième temps, en utilisant les critères dégagés à l’étape 1 et les données regroupées dans l’étape 2, CLA "apprend" à la machine à s’approcher d’un raisonnement de juge. En clair, la troisième étape consiste à créer un logiciel ad hoc qui va se nourrir de cette jurisprudence codifiée pour repérer les zones dans les arrêts où se trouvent les critères de décision des juges et modéliser la prise de décision d’un juge dans ce type d’affaires. J. Lévy Véhel : « Nous faisons appel, sans a priori, à toutes les techniques d’apprentissage automatique à notre disposition. Il peut s’agir de réseaux de neurones, de forêts aléatoires, de machines à vecteurs de support, de réseaux bayésiens ... Nous choisissons ceux qui nous semblent efficaces dans le cas de figure et nous construisons un logiciel unique à partir de là. » La voilà, l’IA.
    Mais elle est est limitée (enfin, moins que chez les autres acteurs de la legal tech) parce qu’il semble, d’après des informations concordantes, que CLA utilise également des analystes pour découper les décisions et les qualifier/indexer. Un travail proche de ce que faisait (et fait encore) Juris-Data (LexisNexis) depuis les années 80 (voir infra "Deux prédécesseurs ..."
    Enfin, après que l’utilisateur ait choisi dans l’interface ses réponses aux critères (ses paramètres en quelque sorte), CLA sort un éventail de décisions et de dommages-intérêts représentatifs [229]. Plus précisément, « Case Law Analytics n’ambitionne pas de produire un seul jugement, mais une palette des décisions possibles ». Comme l’explique J. Lévy Véhel : « J’entraîne dans ma machine 100 juges virtuels. Ces 100 juges vont chacun prendre une décision et l’ensemble de ces 100 jugements ne reflètent ni plus ni moins que les décisions qui seraient prises à la cour d’appel de Paris à tel moment, sur tel dossier. » La fiabilité des résultats, selon le mathématicien, « oscille entre 85 % et 95 % » [230].
    Clairement, à travers ces techniques et les propos de J. Lévy Véhel, CLA se positionne comme de la "justice prédictive" haute couture, pas du prêt-à-porter. Case Law Analytics n’est pas un éditeur de logiciel mais une sorte de SSII vendant ce qui s’apparente en réalité à des développements spécifiques. Pour citer J. Lévy Véhel : CLA travaille « au cas par cas »
  • CLA n’offre pas de moteur de recherche de décisions, une fonctionnalité pourtant présente chez tous les autres acteurs de la justice prédictive, particulièrement Predictice. CLA fournit juste les n° RG d’une sélection de décisions représentatives, à titre d’illustration, avec pour chacune (depuis 2020) un lien vers le texte intégral sur Dalloz Avocats (mais cela suppose d’y être abonné) [231]
  • CLA n’a pas accès aux arrêts hors des bases CASS, INCA et JuriCA, sauf décisions inédites fournies par ses partenaires (situation très similaire à celle de Predictice). Pas de jugements de première instance pour l’instant
  • J. Lévy Véhel refuse de se ranger dans la course à la taille. Pour lui, un échantillon de 1500 décisions (isolées dans une base beaucoup plus grande, cf étape 1) suffisent à la machine pour "apprendre". En même temps, les 2000 arrêts rendus par la CA de Paris depuis 2012 sur la rupture brutale des relations commerciales sont insuffisantes : c’est notamment pour surmonter cela que CLA utilise sa technique dite de "juge virtuel"
  • CLA refuse de profiler les juges et les avocats. Elle anonymise leurs noms dans les décisions. Et comme Predictice, J. Lévy Vehel et son associé J. Dupré refusent de travailler sur le contentieux pénal.

J. Lévy Vehel mène une politique de pédagogie scientifique et de formation, intervenant à l’EFB, à l’ENM, dans plusieurs universités, au barreau entrepreneurial de Paris, au barreau des Hauts de Seine et dans de nombreux colloques sur l’intelligence artificielle dans le domaine du droit.

Actuellement (décembre 2020), Case Law Analytics propose les modules suivants : Harcèlement moral, Rupture brutale des relations commerciales établies, Concurrence déloyale, Ententes, Franchise, Manquement d’initié, Sanctions disciplinaires, Marché public de travaux, Préjudice corporel, Trouble de jouissance, Trouble anormal du voisinage, Contrefaçon de marquesl. Début 2021, de nouveaux modules devraient être disponibles : Circonstances vexatoires, Licenciement nul, Préjudice d’anxiété, Marchés publics de travaux, Rupture du contrat d’agent commercial, Contrefaçon de dessins et modèles.

Pour une présentation expresse mais sans erreur, regardez la vidéo de tediprod (technologie, droit et innovation). L’auteur de la vidéo, Arthur Sauzé, avocat et consultant legal tech (Tedi Legal), liste les limites de l’outil Case Law Analytics — limites découlant de ses qualités — :

  • il faut être praticien dans le domaine interrogé pour interpréter les résultats. Autrement dit, ce n’est pas un outil pour particulier ou TPE
  • le design du rapport produit à la fin pourrait être amélioré
  • enfin, c’est un outil complexe, avec un peu trop de clics.

L’étude précitée (non rendue publique) confiée par le CNB à Sopra Steria Next sur les legal tech du domaine de la jurimétrie énonce que « seule une solution, portée par Case Law Analytics, nous semble présenter les caractéristiques d’une technologie de rupture en ce qu’elle répond à un concept de justice simulative, lequel concept est infiniment préférable à tout autre (à l’exception, sans doute, de celui de "jurimétrie") en raison de son exactitude technologique et de ses résultats concrets » [232].

Personnellement, j’ajouterai que c’est un outil rigoureux, scientifique et par conséquent nuancé — autrement dit, CLA ne se survend pas, une qualité rare dans le secteur des legal tech. Son aspect mathématique peut toutefois le rendre difficile à comprendre et appréhender par les juristes, dont le cursus est massivement littéraire et non scientifique. Il faut l’utiliser comme un outil de simulation pour savoir combien on demande en indemnisation, particulièrement en MARL, et non pas comme moteur de recherche de jurisprudence. On fait varier un paramètre et on voit ce qui se passe.

En novembre 2017, le cabinet d’avocats (spécialisé en droit social) Clichy Grangé a annoncé s’être équipé de l’outil Case Law Analytics [233]. Autres clients selon CLA : le cabinet d’avocats Quinn Emanuel, la direction juridique de SNCF Réseau et les assureurs Axa Protection juridique et Allianz. D’autres utilisateurs sont listés sur la page d’accueil du site de CLA.

Comme chez Predictice, les abonnements ont semble-t-il cru en 2018 — là aussi sans chiffres publiés.

Au vu de ses particularités, CLA mérite donc plus que les autres applications de justice prédictive le qualificatif d’IA.

Legalmetrics (Lexbase)

Legalmetrics, sorti à l’été 2018, utilise le fonds jurisprudentiel de l’éditeur juridique Lexbase. A partir du nom d’une société, il affiche un camembert avec les divers types de contentieux qui l’ont concernée. Il s’agit en fait de notions juridiques directement reliées aux tables du Bulletin des arrêts civils de la Cour de cassation. Cliquer sur les tranches amène ensuite aux décisions.

La démarche est certes innovatrice et apprend à l’utilisateur quelque chose d’impossible à trouver/déduire avec les bases traditionnelles de jurisprudence, mais on aimerait voir l’éditeur aller plus loin dans l’analyse du contentieux et proposer d’autres fonctionnalités. Legalmetrics laisse l’impression d’un POC ("proof of concept").

Peu d’IA et pas de justice prédictive là dedans, donc.

Deux prédécesseurs : Jurisprudence chiffrée et Données quantifiées Juris-Data

C’est quelque chose que l’éditeur juridique Francis Lefebvre avait déjà approché avec son produit Jurisprudence chiffrée fondé sur les faits et chiffres présents dans les arrêts de cour d’appel de la base JuriCA. Jurisprudence chiffrée trouve depuis 2010 des arrêts de cour d’appel correspondants aux critères exacts donnés et le montant des dommages-intérêts. Par exemple, à partir de la profession et l’ancienneté, Jurisprudence chiffrée donne le montant des dommages-intérêts pour licenciement sans cause réelle et sérieuse [234]. Jurisprudence chiffrée utilise un programme qui identifie les zones des arrêts d’appel riches en information de type juridiction, adresse, profession, âge, ancienneté, montant des indemnités etc., isole ces informations et permet de mener une recherche d’arrêts très rigoureuse par ces critères combinés. Mais à l’époque de sa conception, les avancées du machine learning commençaient à peine, il est donc peu probable que Jurisprudence chiffrée utilise le ML [235]. En revanche, il y a un travail fin sur le langage naturel, à base de cartouches de langage d’Expert System (ex-Temis, cf supra).

Jurisprudence chiffrée est un outil de traitement du langage naturel (TAL). A ce titre, il a été le précurseur.

Interface de recherche de l’application Jurisprudence chiffrée en matière d’indemnité d’éviction (baux commerciaux)

La base (et ouvrage) rivale de LexisNexis Contentieux de l’indemnisation devenue JurisData Analytics (et accessible par l’onglet Pratique & Outils de Lexis360, mais non comprise dans l’abonnement standard à Lexis360) est elle, en revanche, faite "à la main" et sans TAL/NLP, ce qui permet tout au plus de la ranger dans la catégorie analyse prédictive (les résultats sont présentés sous une forme assez dans le style "tableau de bord") mais pas dans celle de l’IA [236]. Fondée sur une conception de l’informatique juridique datant des années 60, elle est nourrie avec une sélection d’arrêts d’appel "épluchés" pour leurs données et provenant de la base Juris-Data [237], soit 50 000 arrêts à novembre 2017 [238]. Tout comme Jurisprudence chiffrée, elle ne traite que certains thèmes : licenciement, rupture de bail commercial, pension alimentaire et prestation compensatoire ...

Doctrine.fr

Doctrine.fr, malgré son nom, ne contient pas de doctrine, mais des liens (très nombreux) vers des actualités gratuites des éditeurs juridiques (EFL Actualités, Dalloz Actualité, site de la Gazette du Palais, LegalNews ...), vers des billets de blogs juridiques (celui du professeur Dondero y est en bonne place) et vers quelques sites de définitions (le Dictionnaire de droit privé de Serge Braudo) ou de synthèse (Open Dalloz). En matière de doctrine (et encore, Dalloz.fr mis à part, je parlerais plutôt d’actualités), c’est donc un métamoteur. Pour le reste et pour l’essentiel, c’est une base de données de jurisprudence brute qui a récemment perdu son avance en termes de contenu [239].

De même, Doctrine.fr n’appartient pas au champ de la justice dite prédictive. La raison pour laquelle elle est fréquemment citée dans ce champ lexical, c’est, selon le rapport Outils de "justice prédictive" de la Mission de recherche Droit & justice « qu’ils se conçoivent eux-mêmes comme des concurrents [de Predictice] en lutte sur un même marché et qu’ils sont considérés comme tels par leurs potentiels clients » [240].

Ses apports sont ailleurs :

  • d’abord, proposer un moteur de recherche de jurisprudence extrêmement simple à utiliser et extrêmement rapide (dit "search-as-you-type") [241]. Le "learning curve" (délai d’apprentissage) est quasiment nul. Certes, construire une plateforme et un moteur "from scratch" aide beaucoup ici. Il n’empêche : les éditeurs juridiques traditionnels feraient bien d’en prendre de la graine et certains ont déjà adopté la technologie plébiscitée du type-as-you-search [242]
  • également, le moteur personnalise les résultats en fonction du profil de l’utilisateur (recherches déjà effectuées, résultats visualisés), en agissant sur leur tri [243]
  • ensuite, utiliser le machine learning pour pseudonymiser les décisions de justice, pour les classer par matière suite à une recherche (voir la colonne de gauche) et pour aider à sélectionner les documents à envoyer dans les alertes email. Le NLP à la "sauce" ML ne semble pas utilisé directement pour la recherche elle-même, mais pour classer automatiquement les décisions de justice par domaine du droit — le résultat est pertinent — et les découper (date, numéro, motifs, dispositif etc.) [244], ce qui aide à affiner les résultats de la recherche. Il est également utilisé par Doctrine.fr pour pseudonymiser (anonymiser disait-on avant le RGPD) les décisions, c’est-à-dire remplacer les noms de parties personnes physiques par des lettres majuscules comme A..., B...
  • le "business analytics", version "legal" : Doctrine.fr lie les entreprises (définies par leur numéro RCS) à leur fiche RCS, lie les décisions sur les entreprises aux avocats qui ont travaillé sur l’affaire et présente des statistiques à partir de cela. Il est possible que le repérage des noms des avocats utilise du machine learning, mais fondamentalement, les champs Parties (retirés depuis quelques années [245] mais bien présents auparavant) et texte intégral des bases de données actuelles de jurisprudence permettent déjà d’établir ce type de liens [246], certes de manière nettement moins pratique
  • enfin, une fonctionnalité inédite jusque-là (mais rapidement imitée par Predictice avec Scan puis Lexbase avec Lextract) dans la legal tech et l’édition juridique : Document Analyzer [247] (voir aussi la vidéo de démonstration rapide sur le site de Doctrine). Les algorithmes de Doctrine analysent le texte des conclusions (chaînes de caractère), identifient (en faisant appel à leur base de jurisprudence et textes officiels) les sources de droit citées dans ce document et créent les liens hypertextes vers ces sources. Le nombre de commentaires répertoriés par Doctrine permet de classer les décisions de justice par importance. Cette fonctionnalité Analyzer plaît semble-t-il beaucoup aux stagiaires et jeunes collaborateurs à qui elle fait économiser beaucoup de temps de recherche. Elle a été très rapidement reproduite par Predictice puis Lexbase. Ce qui montre à la fois que c’est une idée intelligente et une nouveauté très demandée mais aussi que ce n’est pas une révolution technologique. Par ailleurs, on peut s’interroger sur les aspects RGPD du traitement informatisé des conclusions lorsqu’elles contiennent des noms de personnes physiques. Il est à espérer que ces noms et autres informations indirectement nominatives sont expurgées au début même du "process". Par ailleurs, des avocats se demandent s’il y a des questions de protection de la confidentialité du dossier du client (liée au devoir de secret professionnel de l’avocat [248]) à se poser sur le transfert à un tiers autre que les juridictions de documents faisant partie de la procédure [249].

Pour l’instant, le moteur de Doctrine.fr fonctionne donc essentiellement comme un "full text" [250] à réponse quasi-instantanée. Et l’application n’appartient pas au segment de la justice prédictive. Même s’il utilise des technologies d’IA, il est donc difficile de qualifier l’ensemble d’IA au sens où le coeur du système, le moteur de recherche semble en utiliser peu.

JuriPredis

JuriPredis (aussi écrit Juri’predis), lancé officiellement en octobre 2018, est un moteur de recherche de jurisprudence sur le fonds Legifrance (bases CASS, INCA, CAPP, JADE, CONSTIT : autrement dit la Cour de cassation, le Conseil d’Etat et les cours administratives d’appel), la base de cours d’appel payante JuriCA et depuis mars 2020 le TUE (ex-TPICE) et la CJUE (fonds de jurisprudence d’EUR-Lex).

Il utilise, selon nos tests, un moteur de recherche capable, sur certaines requêtes, de très bien "ranker" les arrêts, et de moins bien "comprendre" la requête de l’utilisateur sur d’autres [251]. NLP à la sauce ML ou bons vieux systèmes à base de chaînes de caractères ? Au vu des informations disponibles, le second cas.

Selon l’interview donnée à BFM TV en octobre 2018 par son fondateur le professeur Frédéric Rouvière, de l’Université d’Aix-Marseille, spécialiste de droit civil et de théorie du droit, JuriPredis veut faciliter la recherche par mots-clés, « limiter les déchets dans la recherche ». Ce nouveau moteur de recherche de jurisprudence ne va pas pour l’instant vers le prédictif (proposer des statistiques ou des solutions), mais s’y intéresse quand même.

Le financement initial est probablement venu de l’incubateur du Barreau de Marseille, cité sur la page partenaires du site de JuriPredis. Ce soutien financier supposant une forte approbation du projet par le Barreau local. Après 7 mois seulement de développement, JuriPredis était déjà en mode commercialisation en novembre 2018 (abonnement et "marque grise") [252].

La marque "born South" est décidément très nette sur cette application. En sus des traits déjà notés (ses créateurs, son incubateur), Juri’Predis « annonce être soutenue par une vingtaine de cabinets, à 90 % implantés en Provence Alpes Côte d’Azur ». Les tests et l’évaluation initiale pourraient bien être l’oeuvre des 10 juristes du cabinet aixois LexCausa voire d’autres ayant adopté le moteur. Et les chercheurs en droit de l’Université d’Aix-Marseille ont visiblement aidé. Et l’article (assez promotionnel vu l’insistance sur les termes "IA" et "machine learning") précité de la Tribune n’est pas publié par la Tribune tout court mais pas son édition locale Provence Alpes Côte d’Azur et sur une URL dédiée marseille.latribune.fr.

Les tarifs sont publics — jusqu’à 5 utilisateurs. Fait notable, car cela devient de plus en plus rare dans l’édition juridique.

En résumé, au vu du sujet et de l’angle d’attaque de cette étude, JuriPredis, c’est un tout petit peu d’IA (dans le moteur) — et encore, à l’ancienne — mais pas de justice prédictive.

Dernier né, Justice.cool

La conciliation ou médiation étant devenue obligatoire depuis le 1er janvier 2020 pour la grande majorité des litiges de moins de 5000 euros et les conflits de voisinage (loi de réforme de la justice du 23 mars 2019 et son décret d’application du 11 décembre [253]), se lance le premier site de médiation en ligne français assisté, selon eux-mêmes, par l’intelligence artificielle : Justice.cool [254]. Il a été créé par le Français qui a lancé en 2016 le site RefundMyTicket (réclamation automatisée d’indemnisation pour retard d’avion important), toutefois par le biais d’une société distincte et dont le siège est à une adresse différente (Europe Médiation SAS, créée le 31 décembre 2019, pour Justice.cool, et Claim Assistance pour Refundmyticket). Soyons clair : en matière de plateforme de médiation en ligne française, ce n’est pas le premier site. Mais en terme de plateforme de médiation avec assistance par l’IA, ça semble bien être le premier. Le fondateur, Romain Drosne en est à sa quatrième entreprise, après dix-sept ans dans le marketing digital.

Le modèle d’affaires (cf la FAQ du site) s’inspire de celui de RefundMyTicket et va au-delà :

  • ils ne prennent en médiation un dossier que :
    • en dessous de 5000 euros
    • pour l’instant, uniquement en droit des transports (retard ou annulation d’hôtel ou de vol, donc proche de RefundMyTicket) ou en droit du travail (licenciement, modification du contrat de travail)
    • et si vous avez plus de chances d’arriver à un accord que d’échouer. Attention, le site ne dit pas que cet accord sera forcément à votre avantage. A vous de vérifier si l’accord vous convient avant d’accepter
  • les frais (forfaitaires) sont de 36 euros et sont remboursés si vous ne trouvez pas un accord avec la partie adverse sous 60 jours
  • en cas d’échec de la médiation, et selon votre score, le site propose de continuer les démarches en justice avec l’un de leurs avocats partenaires. Justice.cool avance alors les frais de justice, mais prend une commission de succès de 25% TTC.

A propos de leur technologie, voici ce que dit l’article 5.3 de leurs conditions générales d’utilisation (CGU) et leur page Indicateurs :

  • sur les chances de succès (le "Score") :
    « L’algorithme qui permet d’établir ce score repose sur deux approches statistiques conjuguées :
    La première s’appuie sur une approche de modélisation manuelle élaborée par nos juristes, nos partenaires avocats et universitaires.
    La seconde résulte d’un traitement par apprentissage automatique (Machine Learning) qui compare les faits présentés à une base de données de 1,8 million de décisions de Justice.
    Ce score est ensuite présenté de plusieurs façons :
    Un score par demande qui indique au demandeur le nombre de décisions similaires qui ont fait droit à sa demande
    Le score global qui représente la moyenne des scores de l’ensemble des demandes effectuées par le demandeur. »
    « Une fois le Litige enregistré et l’Opposant identifié par le Demandeur, celui-ci obtiendra un Score. [...]
    Le Score tient compte des éléments fournis par le Demandeur relativement au Litige, de la réglementation en vigueur et des décisions de justice rendues dans des situations présentant des éléments de similitudes avec les faits tels que rapportés par l’Utilisateur.
    D’une part, le Score est calculé grâce à un système expert de modélisation de la loi, élaboré par une équipe de juristes, d’ingénieurs et et d’avocats. D’autre part, le Score est pondéré par un algorithme d’apprentissage automatique, dit "Machine Learning", qui se fonde sur une analyse par similarité d’un nombre significatif de décisions de justice rendues par différentes juridictions. [...]
    Le Score de Justice.cool n’est pas une décision de justice, ni conseil juridique ou une décision de médiation. Le Score de Justice.cool ne prétend pas à l’exhaustivité : il reflète une analyse statistique de la situation par rapport à la loi et à la jurisprudence et ne présume pas de l’issue réelle d’un litige. Ce Score doit être utilisé en bonne intelligence par les Utilisateurs, comme un indicateur et ne lie ni Justice.cool ni les Utilisateurs. »
  • sur l’estimation des dommages-intérêts :
    « Les évaluations présentées tout au long du processus résultent, tout comme pour le score, d’une approche conjuguée :
    d’algorithmes manuellement définis par nos juristes et par nos partenaires avocats et universitaires sur la base des calculs établis par les textes de lois (codes, conventions collectives, réglementations, accords d’entreprises etc.)
    d’une approche comparée à la jurisprudence dans laquelle un traitement par apprentissage automatique (Machine Learning) est appliqué pour comparer le cas décrit à l’ensemble de la jurisprudence disponible (1,8 million de décisions de Justice). »

Il serait intéressant de savoir qui sont les juristes et avocats de l’équipe et d’en apprendre un peu plus sur l’algorithme utilisé (protégé par le secret des affaires, dixit les CGU) ainsi que sur le fonds de 1,8 millions de décisions de justice sur lesquelles s’appuie la startup. En effet, il existe peu de décisions de première instance disponibles et parmi les petits litiges, peu vont en appel.

Il y a d’autres plateformes de médiation en ligne françaises mais aucune autre assistée par de l’IA : Marcel Médiation, CMAP (en cours), Litiges.fr, Le Médiateur de la Consommation (Médiation Service).

Par ailleurs, certaines plateformes de médiation en ligne très utilisées sont en fait des services annexes de grands sites de commerce électronique : Ebay, Paypal, Amazon notamment. Elles peuvent intégrerhttps://www.juripredis.com/fr/blog/... des fonctionnalités de type IA [255].

Supra Legem, l’IA gratuite de droit public

Seule application de "justice prédictive" (en fait, on vient de le voir, de recherche fine et d’aide à la décision) à proposer une démo grandeur nature, qui plus est gratuite, Supra Legem (le site a été mis hors ligne), développée par l’avocat fiscaliste, programmeur et data scientist Michael Benesty avec l’aide d’un ami ingénieur machine learning (travaillant incidemment chez Google) [256], aidait à améliorer la pertinence et la rapidité des recherches, identifier un revirement de jurisprudence, identifier les moyens de l’administration qui n’ont pas fonctionné, identifier des tendances de certaines chambres, voire prédire des revirements de jurisprudence du Conseil d’Etat [257]. A lire absolument pour plus de précisions sur le projet Supra Legem et de manière générale sur les applications de justice prédictive, le compte-rendu que M. Benesty en a fait au Journal of Open Access to Law (JOAL) début 2017 [258].

Pour autant, les déductions qu’on pouvait tirer des analyses des statistiques présentées par Supra Legem doivent être prises avec des pincettes, comme l’a montré un vif débat lors du lancement de l’application et des premiers articles écrits sur elle.

À noter qu’un de mes contacts estime que le machine learning en droit a beaucoup d’avenir si le deep learning non supervisé y perce. Et ce, même sur des marchés juridiques en régression comme le marché français. Imaginons par exemple que les algorithmes de deep learning arrivent à détecter des similitudes ("patterns") indépendantes de la langue et entre les documents juridiques allemands (un marché en meilleure santé) et français : les recherches entreprises sur le droit allemand — un marché bien plus rentable que le droit français — seraient alors transposables et réutilisables en droit français ...

On remarque que les éditeurs juridiques français traditionnels (groupe ELS avec Francis Lefebvre, Dalloz et Editions Législatives, Lexbase, LexisNexis SA, Wolters Kluwer France, Lextenso) ne proposent pas de produit incorporant du machine learning. Pour certains, je dirais : pas encore, mais je serais surpris que cela tarde [259] D’autant que ce sont les éditeurs qui détiennent le commentaire de la jurisprudence (dit aussi doctrine). Or en droit français, la donnée qui relie entre elles et permet de comprendre les décisions de justice, c’est la doctrine. Alors qu’en pays de "common law", le "case law" (jurisprudence) contient ses propres liens et son propre commentaire. En effet, le principe du "stare decisis" impose au juge anglo-saxon de citer les précédents pertinents et les juges des cours donnent leur "opinion" — autrement dit, ils commentent leur propre décision, chose impensable en France [260].

Arbitrage international

A noter que l’arbitrage international est en train d’attirer les regards du secteur :

  • le français Case Law Analytics a embauché fin 2019 une experte en droit international avec une spécialisation en arbitrage pour « de nouveaux modules »
  • ArbiLex, une legal tech américaine incubée au Harvard Innovation Lab et utilisant un machine learning bayésien, se prépare début 2020 à se lancer [261]
  • la legal tech française Jus Mundi, sans correspondre exactement à la définition de l’IA, s’est lancé à l’automne 2018 sur le secteur du droit international (traités, règlements d’arbitrage, sentences arbitrales) en commençant par l’arbitrage international d’investissement (CIRDI etc.).

L’IA et les textes officiels

Legal tech d’avant les legal tech, créée en 2009, l’éditeur juridique et SSII éditoriale Luxia est le créateur de la base de données Alinea by Luxia, qui avec une licence Legifrance, reprend textes officiels et jurisprudence, améliore la présentation ("time lines" notamment), la recherche et propose de la veille.

Luxia a lancé en janvier 2019 RegMind, une application qui fait de la veille automatisée en droit bancaire et financier (français et européen) à destination des banques et cabinets d’avocats [262]. Elle consolide automatiquement les textes, colorise les modifications (une fonctionnalité historique d’Alinea by Luxia) [263] et les lie entre eux [264], y compris des autorités de régulation, signale les modifications (à travers une visualisation graphique sous forme d’arbre) et facilite leur suivi par les juristes, dans un domaine intéressant ici car particulièrement complexe. Jurisprudence et sanctions sont intégrées, dit l’article du Monde du Droit [265]. Luxia n’utilise pas le terme d’IA pour la qualifier et sa présentation n’évoque pas l’utilisation de machine learning [266], mais elle tente bien d’automatiser un processus humain.

Quatre banques – dont Natixis, à l’origine du projet et qui a investi dedans — et un cabinet d’avocats (Allen & Overy) ont collaboré, testé et amélioré RegMind sur deux ans (2017-2019).

Formé par l’informaticien pionnier de l’information juridique publique Robert Mahl qui depuis le Centre de recherches en informatique (CRI) de l’Ecoles Mines a participé à la création du site Adminet, Georges-André Silber, le président fondateur de Luxia, a travaillé avec Christian Le Hir, directeur juridique de Natixis.

RegMind est le premier outil d’IA juridique français portant sur les textes officiels — et non la jurisprudence.

Pourquoi une montée des "IA" en droit ?

Une première raison du lancement des applications de justice prédictive en France ces dernières années est conjoncturelle. Elle réside tout simplement dans les promesses d’open data judiciaire des décisions d’appel et de première instance insérées en 2016 dans la loi Lemaire pour une République numérique (articles 12 bis A et 12 bis B nouveaux, devenus après renumérotation articles 20 et 21) par des amendements surprises venus de l’entourage de la secrétaire d’Etat Axelle Lemaire, en charge du projet de loi [267]. Autant dire la promesse d’une abondante matière première gratuite. 2016, c’est le lancement de Doctrine.fr et Predictice ...

Il faut toutefois préciser que ces promesses n’ont pas été tenues : le décret d’application de la loi Lemaire n’a jamais été publié tel qu’on pouvait l’imaginer en 2016, puisque la loi de programmation et de réforme de la justice du 23 mars 2019 [268] a ajouté aux articles 20 et 21 de la loi de 2016. L’article 33 de la loi de 2019 a ajouté que les éléments permettant d’identifier les personnes physiques doivent être occultés (une simple application du RGPD et de la loi Informatique et libertés, entre parenthèses, aurait pu suffire, ce qui souligne les enjeux de la pseudonymisation et l’intensité du débat) et que les noms des professionnels de justice, avocats mis à part, ne doivent être ni cherchables ni traités. Un autre décret (d’application de cette loi de 2019, en réalité) doit donc être pris : un décret sur l’open data des décisions de justice est finalement publié au Journal officiel du 30 juin 2020 [269]. Mais pour que l’open data soit effectif, il faudra encore attendre. Pour des raisons notamment d’équipement informatique et logiciel, la Cour de cassation désirant continuer à maîtriser la diffusion des décisions judiciaires. Confirmation dans la tribune de la première présidente Chantal Arens à Dalloz Actualité [270] : « la Cour de cassation pourra effectivement assurer pour 2021-2022 l’accessibilité en open data de ses décisions et des décisions des cours d’appel en matière civile mais la mise à disposition des autres décisions risque d’être reportée à une date très incertaine. »

Les raisons de ce retard sont fondamentalement au-delà de la problématique de la pseudonymisation renforcée (ex-anonymisation) amenée par la loi de 2016 (exigence d’« analyse du risque de ré-identification des personnes ») et plus encore celle de 2019 [271]. Elles existaient déjà début 2016 avant la loi Lemaire et sont toujours là [272] :

  • exigence de pseudonymisation découlant de la position de la CNIL, interprétant la loi Informatique et libertés — exigence reprise et renforcée depuis par le RGPD [273]
  • les moyens humains et budgétaires nécessaires dans les juridictions pour pseudonymiser et traiter informatiquement les décisions (sans parler d’écluser les stock d’affaires en retard, plus encore avec les confinements imposés par la pandémie de Covid-19, voir infra) n’existent tout simplement pas
  • sur le plan informatique, rien ne sera ni prêt ni adapté avant longtemps. Même si les data scientists d’Etalab envoyés assister la Cour de cassation ont beaucoup progressé en 2019 dans la pseudonymisation des décisions juridiciaires en utilisant deux librairies de "Named Entity Recognition" (NER) bien connues, spaCy et Zalando Flair [274] : « diminution de 32% du taux d’erreur avec une meilleure utilisation de la connaissance de l’ensemble des données au lieu de simplement travailler au niveau de la phrase ».

Si on se penche maintenant sur les aspects structurels, une des raisons de la montée des IA en droit s’impose : les économies — qu’elles soient réalisées ou juste attendues. C’est, avec la rapidité, LE motif mis en avant par le managing partner d’une "small law firm" spécialisée en droit américain des faillites, le premier domaine de Ross.
En droit américain, l’argument des économies de personnel réalisées dans le cabinet d’avocats sent déjà son pesant de marketing. En droit français, qui n’est pas un droit de common law mais un droit écrit et où les recherches de jurisprudence sont à la fois moins cruciales et moins complexes, on ne peut guère avancer cet avantage. Du reste, nous n’avons pas trouvé trace de témoignages en ce sens.
La rapidité pour déterminer les montants moyens ou maximaux des condamnations, en revanche, est souvent invoquée et s’avère fondée. Et le gain de temps qui en découle dans les recherches pour les collaborateurs est un argument souvent entendu et fondé lui aussi.

Mais pour l’heure, l’essentiel des économies potentielles est à chercher ailleurs. La Justice française a un problème budgétaire criant, reconnu par le ministre de la Justice de 2016, Jean-Jacques Urvoas [275] et régulièrement mise en évidence [276] par des rapports de la Cour des comptes et de la Commission européenne pour l’efficacité de la justice du Conseil de l’Europe (CEPEJ) [277]. Une tribune iconoclaste aux Echos, rédigée par des non juristes (évidemment ...), propose d’ailleurs carrément de confier la justice française à l’intelligence artificielle [278]. Et confirmation le 5 avril 2017 : la proposition n° 48 du rapport de la mission d’information sénatoriale sur le redressement de la justice présidée par Philippe Bas (voir pp. 20, 21 et 36 du dossier de presse) consiste à « mettre les outils de la "justice prédictive" au service du bon fonctionnement de la justice et de la qualité des décisions de justice et prévenir leurs dérives possibles » [279].

La volonté des pouvoirs exécutif et législatif de profiter de la justice prédictive pour compenser le manque de moyens et les retards de la Justice française par la médiation et la transaction est tout aussi claire dans la loi de réforme de la Justice la Justice, où on autorise les services de médiation en ligne et permet même leur certification (facultative) [280]. Si, comme l’écrivaient les Affiches Parisiennes à propos de l’enquête (autodéclarative) 2018 sur les legal tech publiée par Maddyness et les Actualités du droit (Lamy) [281], « le pourcentage des start-up qui proposaient une plateforme de médiation en ligne [fin 2018 était] faible », c’est probablement parce que les investisseurs attendaient ce feu vert officiel. Pour citer les Affiches : « Alors que le projet de loi Justice leur consacre spécifiquement un article, seules 1,6 % [des legal tech] proposent, pour l’heure, un tel service. Le boom aura certainement lieu l’an prochain [en 2020, donc], après le vote de la réforme » [282].

Et en effet, un an après ce constat, c’est le lendemain même de l’entrée en vigueur le 1er janvier 2020 de l’obligation de médiation pour les petits litiges (loi de réforme de la justice du 23 mars 2019), que le site Justice.cool, en fait un site de médiation assisté par IA (cf supra), est lancé [283].

Un bémol toutefois

De leur côté, les dirigeants de Case Law Analytics l’assument depuis l’origine : leur produit est taillé pour favoriser les transactions et désengorger les tribunaux [284] :

« Les assureurs sont également des clients, en particulier les assureurs de protection juridique. On a un outil très performant pour les assurés qui ont très rapidement une vision précise du risque et de l’analyse de leur cas. L’objectif premier étant d’éviter le procès et de raccourcir les délais d’indemnisation.
Notre outil va également avoir son rôle à jouer pour favoriser les modes alternatifs de règlement des litiges.
En effet, le nombre de litiges augmente, et il n’y aura pas deux fois plus de juges dans 10 ans et il n’y aura pas 2 fois plus de budget dans 10 ans. En revanche, il y aura beaucoup d’outils qui vont permettre de s’assoir autour d’une table pour décider et négocier sur des bases solides. »

On retrouve le même objectif, affirmé cette fois par Predictice et un assureur, dans un article de l’Argus de l’assurance [285] :

« " Si nous avons un outil prédictif, nous disposons d’un argument supplémentaire pour convaincre les clients de faire un compromis. C’est un outil d’aide à la décision augmentée ", explique Christophe Bardet, directeur général de Covéa PJ. Selon un sondage anonyme réalisé par Predictice auprès de treize de ses utilisateurs, tous déclarent que cette solution leur permet de mieux négocier et de favoriser un mode alternatif de résolution des litiges. »

Le rapport final de la mission de recherche Droit & Justice "Comment le numérique transforme le droit et la justice" (juillet 2019), auquel J. Lévy Véhel a collaboré, propose un volet intitulé "Encadrement juridique des modes algorithmiques d’analyse des décisions" (MAAD), rédigé par Lêmy Godefroy, maître de conférences en droit privé, dont la finalité est clairement exprimée dans le titre de son VI : "La finalité : le règlement des litiges à l’aide des MAAD" [286]. C’est la partie de loin la plus novatrice et la plus audacieuse du document, notamment par ses implications en termes de nombre et de place des juges et des avocats dans la Justice. Et ce, en dépit du caractère facultatif annoncé et des précautions prises par l’auteure pour ne pas totalement enfermer juge et avocat dans la procédure qu’elle propose, mais qui ne tromperont pas un lecteur attentif.

Jugez-en par vous-même : voici les extraits pertinents des règles de procédure proposées :

  • « les MAAD aident à qualifier le litige. Si celui-ci est juridiquement singulier, il est dirigé vers la procédure ordinaire. S’il est juridiquement analogue, il sera orienté vers une procédure dématérialisée spécifique, amiable ou judiciaire. Le concours des MAAD est signalé aux parties qui peuvent exprimer leur refus »
  • « l’assistance et/ou la représentation par avocat n’est pas obligatoire »
  • « dans le règlement amiable, les MAAD fournissent un socle à la discussion entre les parties. Dans le règlement judiciaire, le juge, utilisant les MAAD, établit l’existence d’un droit en faveur de l’une des parties (dommages-intérêts [...]). Toujours aidé des MAAD, il définit le montant à allouer au créancier du droit à réparation »
  • conformément aux art. 5 C. civ. (interdiction des arrêts de règlement) et 455 CPC (obligation de motivation d’après les circonstances particulières du procès) « le juge justifie des raisons de fait et/ou de droit pour lesquelles il rejette ou accueille la demande » [NB : on sent là comme une contradiction, vu le peu de temps qu’ont déjà aujourd’hui les juges pour traiter une affaire. En effet, si on leur achète un tel outil, sera-ce à effectifs égaux et sans augmentation du flux de nouvelles affaires ? Vu le passé, on peut légitimement en douter]
  • « l’orientation procédurale des appels [...] est réalisée de manière dématérialisée par une chambre spéciale attachée à la Cour d’appel. La représentation par avocat est obligatoire. A l’aide des MAAD, cette chambre recherche l’éventuelle singularité juridique du litige. Plus précisément, par comparaison aux résultats fournis par les MAAD, le juge vérifie dans l’énoncé des chefs du jugement critiqués si le litige soulève une question de principe et/ou suscite une évolution de jurisprudence, s’il porte sur une question nouvelle ou inédite ou sur une question non résolue par une jurisprudence établie, s’il renferme une certaine complexité (divergences de jurisprudence, difficultés de qualification juridique des faits, problèmes d’interprétation de la règle applicable, etc.), des problématiques sérieuses ou d’« importance fondamentale ». À l’issue de cet examen, l’appel est soit traité sur la plateforme dématérialisée à l’aide des MAAD, soit soumis à la Cour d’appel selon la procédure ordinaire. »

On voit bien à la lecture de cette proposition de règles procédurales que les outils d’IA reviennent à chaque instant, y compris en appel. Quant au caractère facultatif, il suffira d’évoquer le délai supplémentaire (pour causes budgétaires ...) de la voie procédurale ordinaire pour dissuader les justiciables de l’emprunter.

Impact prévisible des "IA" sur les jeunes collaborateurs, stagiaires, paralegals et documentalistes juridiques ?

Avant d’aborder, très concrètement, ce que l’IA modifie actuellement et peut modifier à l’avenir dans le travail des juristes et des administratifs qui travaillent pour eux, il faut revenir sur la définition de l’intelligence artificielle. Là déjà, on peut calmer les peurs, les fantasmes que déclenche le seul terme d’IA.


Sommaire du livre L’intelligence artificielle et le droit (Larcier, 2017)

Les limites de l’IA faible

On l’a vu plus haut, ce qu’on appelle IA est, à strictement parler, un champ de recherche. Par extension, on qualifie aussi d’IA les produits qui se rangent dans ce champ [287]. On parle bien ici de *recherche* : on n’en est pas à reproduire le fonctionnement d’une intelligence humaine. Un des deux co-fondateurs de l’équipe de recherche en IA de Uber, Gary Marcus, professeur de psychologie à l’Université de New York, le dit clairement [288] : « Il y a tout ce que vous pouvez faire avec le deep learning [...]. Mais ça ne veut pas dire que c’est de l’intelligence. L’intelligence est une variable multi-dimensionnelle. Il y a beaucoup de choses qui rentrent dedans. [...] La véritable IA est plus éloignée que ce que pensent les gens. »

En fait, ce que nous voyons aujourd’hui, c’est ce que les spécialistes de l’IA appellent "week AI" (ou "narrow AI"). Comme l’expliquent Wikipédia et Techopedia, l’IA faible est une intelligence artificielle non-sensible qui se concentre sur une tâche précise. Autrement dit, l’IA faible consiste à imiter une fonction étroite typiquement humaine, comme reconnaître un chat sur une photo floue (reconnaissance de forme/d’image) et de le faire plus rapidement. L’IA faible est définie par contraste avec l’IA forte (une machine dotée de conscience, de sensibilité et d’esprit, tout comme un être humain) ou l’intelligence artificielle générale ou AGI [289] (une machine capable d’appliquer l’intelligence à tout problème plutôt qu’un problème spécifique et douée de conscience). Le point le plus important ici est que tous les systèmes d’IA actuellement existants sont considérés comme des intelligences artificielles faibles.

Face à l’affirmation récente tant par Mark Zuckerberg que par Shane Legg, le directeur du programme DeepMind de Google, que d’ici 2020 on aura atteint une IA de niveau humain, Melanie Mitchell, professeur d’informatique à l’Université d’Etat de Portland s’inscrit en faux dans le New York Times [290]. Pour elle, ce ne sont pas le machine learning ni les réseaux neuronaux qui parviendront à une réelle compréhension et au simple bon sens des humains [291].

Certains spécialistes du cerveau et de la connaissance estiment même une AGI quasi-impossible. Ainsi, Antonio Damasio, le neuroscientifique directeur du Brain and Creativity Institute à Los Angeles [292], « reste assez sceptique quant à ce qu’on appelle l’"IA forte" » à cause de la part émotionnelle et physiologique en jeu dans le fonctionnement du cerveau et des processus cognitifs de l’être humain [293].

Pierre Lévy écrit, lui : « Aussi bien les journalistes que les auteurs de roman ou de série TV présentent les robots ou l’intelligence artificielle comme capable d’autonomie et de conscience, que ce soit dès maintenant ou dans un futur proche. Cette représentation est à mon avis fausse, mais elle fonctionne très bien parce qu’elle joue ou bien sur la peur d’être éliminé ou asservi par des machines, ou bien sur l’espoir que l’intelligence artificielle va nous aider magiquement à résoudre tous nos problèmes ou – pire – qu’elle représenterait une espèce plus avancée que l’homme. » [294] Il ajoute qu’ « il faut bien constater l’échec théorique de l’IA puisque, malgré la multitude des outils algorithmiques disponibles, l’intelligence artificielle ne peut toujours pas exhiber de modèle convaincant de la cognition. La discipline a prudemment renoncé à simuler l’intelligence dans son intégralité. » [295]

Enfin, selon les mots du célèbre psychologue cognitiviste canadien Steven Pinker dans un magazine américain de vulgarisation scientifique [296] : « On nous a dit de craindre les robots, [mais] le soulèvement des robots est un mythe. [...] [Sa] première fausseté est une confusion entre intelligence et motivation, entre connaissances et désirs, entre inférences et buts, pensée et volonté. »

D’ailleurs, vu les fonctionnalités et performances réelles des produits que nous avons exposées plus haut, il est évident que parler d’intelligence artificielle en droit au sens strict est très exagéré. On devrait plutôt parler des différents types ou niveaux d’IA.

Il faut ajouter à ces limites deux obstacles classiques : la résistance au changement, si tant est que cette résistance ne découle pas d’un manque d’anticipation ... de la résistance (inévitable) ou d’une relation managers-employés brisée [297], et la difficulté des dirigeants à saisir ce qu’une nouvelle technologie peut leur apporter [298]. Enfin, si tant est que cette nouvelle technologie offre un progrès réel ou quelque chose de réellement nouveau (cf infra). On notera par exemple que si le machine learning permet aux investisseurs d’exploiter d’énormes masses de données comme les publications sur les réseaux sociaux, en dépit de ce potentiel, ses performances restent mitigées. L’indice Eurekahedge AI Hedge Fund, qui retrace le rendement de 13 "hedge funds" qui utilisent le machine learning, n’a gagné que 7% par an sur 2013-2017, quand l’indice S&P 500 gagnait 13%. Selon Marcos López de Prado, responsable machine learning chez AQR Capital Management et auteur du livre Advances in Financial Machine Learning (Wiley, 2018), l’un des pièges potentiels des stratégies d’apprentissage automatique est le rapport signal/bruit extrêmement faible sur les marchés financiers. Les algorithmes d’apprentissage automatique identifieront toujours un motif, même s’il n’en existe aucun, dit-il. Les algorithmes sont donc susceptibles d’identifier de fausses stratégies. Il faut une connaissance approfondie des marchés pour appliquer avec succès l’apprentissage automatique aux séries financières [299] (si tant est que ce soit possible, car le professionnel auteur de l’article précité du Financial Times sur la "hype" de l’IA en finance de marché estime qu’en finance, l’IA ne peut pas tirer d’enseignements du passé).

Il y a aussi un débat sur la légalité et l’opportunité de laisser les legal tech investir le marché du droit (principalement celui des avocats mais aussi celui des notaires) et de l’information juridique. Sur ce sujet, je vous renvoie aux articles cités en première partie plus haut. Sur les risques de la justice prédictive, voir infra. On peut aussi citer l’avocate Michèle Bauer [300] :

« Les legaltech ne sont rien sans les avocats [301]. Les services proposés sont la plupart du temps des services dans lesquels sont associés les avocats : rédaction de statuts de société pas chère, demandes de devis, recherche d’un postulant ... »

IA et documentalistes

Les outils d’IA juridique auront un impact sur la recherche — et donc la veille — documentaire juridique : les tâches répétitives et "découpables" en petits morceaux seront robotisées, les autres ne le seront pas. Par exemple, Ross réalise la recherche booléenne et la première analyse des résultats. Selon les termes d’Andrew Arruda [302] (traduction par nos soins) :

« La technologie AI de ROSS remplace le besoin d’utiliser les opérateurs et mots-clés de la recherche booléenne par du langage ordinaire. Si un juriste d’affaires a besoin de connaître la différence entre les deux concepts juridiques "loss" et "recoupment", tout ce dont le juriste a besoin est de demander à ROSS : "Quelle est la différence entre "loss" et "recoupment" ?
Le résultat fourni par le système va au-delà de la simple identification des arrêts pertinents. Au lieu de cela, il attire l’attention du juriste sur les passages clés dans l’affaire qui devrait répondre idéalement à la question posée.
Quand vous posez une question à ROSS sur l’état du droit, vous la posez comme vous le feriez avec un collègue humain. ROSS découpe la phrase pour déterminer le sens de la question, puis conduit la recherche. »

Fin 2020, grâce à la mise en open source de l’algorithme BERT de Google, les départements informatiques des éditeurs juridiques français pourraient s’approcher d’un moteur de recherche aux performances similaires à celles de Google, au sens où il est capable d’afficher en premier le document qui répond à la question.

Autrement dit, les applications de justice prédictives restent des moteurs de recherche (nettement voire très nettement) améliorés et des outils (statistiques) d’aide à la décision. Ce ne sont pas de véritables intelligences juridiques globales. Elles ne menacent guère que la fonction recherche — et encore : lisez ce qui suit.

Si on se projette dans environ sept ans [303], plus le travail du documentaliste juridique français procédera, « d’heuristiques pointues pratiquant pour partie un mode intuitif (opérer par rapprochements semi conscients) » [304], plus il aura une conscience d’artisan et d’expert de haut vol (notamment dans la maîtrise des sources méconnues ou mal indexées [305]), et moins au final il aura de chances d’être automatisé.

Mais aussi : plus il travaillera *avec* l’IA. Le documentaliste, le veilleur, le paralegal, le stagiaire juriste, le collaborateur, l’éditeur vérifieront, compléteront et amélioreront le travail de l’IA. Selon Christophe Tricot, expert IA chez Kynapse (son compte Twitter), « le collaborateur qui participe à la création d’une IA va devoir expliciter les règles, ses tâches au quotidien et comment il les aborde, parce que souvent les choses sont cachées ». Se former à l’IA, c’est donc savoir aussi parler de son fonctionnement quotidien, même lorsqu’on n’y prête pas attention et, encore mieux, le formaliser avec des règles. Par exemple : « S’il n’y a plus de papier dans la photocopieuse, alors il faut en remettre dans le tiroir. » Les règles en « si... alors... » (implication logique) sont facilement formalisables en langage informatique [306].

Comme l’écrit de manière futuriste, provocatrice mais pertinente Tyler Cowen, professeur d’économie à la George Mason University et blogueur connu sur Marginal revolution, dans son ouvrage Average is Over (Dutton, 2013, non traduit en français) :

« Les travailleurs se classeront de plus en plus en deux catégories. Les questions clés seront : Savez-vous bien travailler avec des machines intelligentes ou pas ? Vos compétences sont-elles un complément aux compétences de l’ordinateur, ou l’ordinateur fonctionne-t-il mieux sans vous ? Pire : est-ce que vous vous battez contre l’ordinateur ? » (traduction par nos soins)

D’ores et déjà, si l’on en croit les consultants spécialisés dans l’externalisation des services tertiaires, les applications de type RPA (Robotics Process Automation ou automation software) "carburant" au machine learning [307] sont en train de frapper à la porte des bureaux des Indiens, Philippins et autres pays d’externalisation [308].

Dans le secteur de la bibliothèque documentation juridique, en réalité, l’automatisation n’a pas attendu l’IA, le machine learning ni les réseaux neuronaux. Elle a commencé il y a plus de vingt ans, avec le téléchargement des notices de catalogue OCLC et Gallica puis les produits de veille directement destinés aux juristes, comme Dalloz Actualité, PaRR ou Mlex.

Voyons pour le futur.

Côté gestion de bibliothèque, on peut penser au bulletinage des revues électroniques ou au catalogage et à l’indexation et classement matière des ebooks. Encore que cela suppose que les éditeurs juridiques laissent des logiciels étrangers rentrer sur leurs serveurs et dans leurs systèmes — on touche là aux multiples problèmes pratiques et très ras-de-terre que pose l’IA. Les imprimés, c’est nettement moins évident vu leur nature physique.

Côté documentation juridique et open legal data, voici un exemple donné par Jean Gasnault :

« La préparation [des] données est essentielle pour un bon fonctionnement des algorithmes les traitant. Les documentalistes ont une carte à jouer dans cette évolution, en raison de leur compétence spécifique d’enrichissement des données. Cela donne un axe bien identifiable de progression de leurs connaissances : métadonnées, FRBR, normes ELI-ECLI, etc. »

Cela dit, fournir un savoir-faire sans contrepartie [309] n’aurait guère de sens. Il serait prudent de poser des questions sur les utilisations futures des outils de gestion des mails et des tâches et autres "bases de knowledge" et en l’absence de précisions, de savoir garder pour soi ses trucs et techniques de haut-vol.

D’ailleurs, il vaut mieux, pour le professionnel de l’information et le juriste, comme pour leur employeur, garder la connaissance des processus métiers de base mêmes, quand bien même certains — et c’est là toute la contradiction — ne seraient pratiquement plus utilisés. En effet, comme l’explique Sylvain Duranton du Boston Consulting Group (BCG) [310] :

« "Un risque énorme est la perte du savoir-faire métier. Car c’est le savoir-faire qui permet de perfectionner les outils." Un opérateur peut se contenter de suivre les instructions d’une IA sans lui-même savoir comment la perfectionner. C’est à ce moment que son emploi est menacé, pas tellement par l’IA [NB : impossible de ne pas relever ici une certaine hypocrisie, mêlée de réalisme], mais par la baisse du niveau de compétence requis : plus besoin d’être qualifié pour faire son job. »

Puisqu’une partie — à déterminer, car les obstacles sont légion et le plus souvent incontournables — de leur travail est à terme — un terme là aussi à déterminer — automatisable et sera automatisée, une partie croissante du travail des bibliothécaires documentalistes juridiques va consister à détecter, tester, sélectionner et pousser les nouveaux produits des éditeurs et legal tech et les nouvelles techniques de bibliothèque, documentation, recherche documentaire, veille, gestion électronique de documents, gestion des archives et knowledge management. Mais aussi à détecter les prétentions sans fondement dans le discours marketing, autrement dit ce qui ne marche pas. Des qualités de curieux, de découvreur, de testeur, de geek, d’évangélisateur et de créatif devraient devenir beaucoup plus importantes chez les documentalistes juridiques — et peut-être aussi chez les paralegals.

Pour la formation et les recherches — ainsi que les conseils et l’aide à la recherche — je ne vois pas de substitution prochaine, vu que les questions qui sont posées aux documentalistes juridiques sont presque toujours difficiles et très spécifiques. La réalité, c’est que les bibliothécaires documentalistes juridiques interviennent à la demande du juriste, quand il ne s’en sort pas. Ils sont de facto des "super searchers", comme l’ex-"librarian" américaine Reva Basch a qualifié la profession. Certes, les nouveaux moteurs développés par les startups tendent à constituer une base de données des "intentions", domaines de travail et préférences personnelles des utilisateurs avant de traiter leurs requêtes. Mais ces algorithmes ont de nombreux défauts et biais [311] et s’ils fonctionnent (à peu près) correctement, là encore, le documentaliste devra débugguer et former, les mains dans le cambouis.

Les documentalistes juridiques sont des professionnels de la recherche dans les bases de données de jurisprudence. Le plus souvent, dans les cabinets d’avocats, ce sont les documentalistes, et plus rarement les KML et PSL (knowledge management lawyers, practice support lawyers) qui doivent faire les recherches thématiques sur les décisions inédites [312], non sélectionnées [313] et non commentées [314], qui représentent la très grande masse des décisions disponibles dans les bases de données. Les stagiaires, du fait notamment de l’absence de formation dédiée dans les formations universitaires et les BU, sont généralement mal outillés sur le plan méthodologique et pratique face à cette tâche.

Par "déformation professionnelle" ;-) nous sommes très exigeants sur la qualité et l’exhaustivité de la donnée et la performance des outils de recherche. Nous avons une expertise là-dessus, on peut le dire. Les documentalistes juridiques (et les paralegals) ont donc un rôle clé de testeur, d’évaluateur et d’acheteur d’applications de justice prédictive, d’audit de contrats et plus généralement d’IA. Comme l’écrit Dera Nevin, spécialiste de l’"information governance" et de l’"e-discovery" au cabinet Baker McKenzie [315] : « Beaucoup de ces nouvelles technologies nécessiteront un travail humain significatif (souvent non refacturable au client) pour entraîner et gérer les entrées de données et les données produites par ces technologies ; c’est particulièrement vrai du machine learning [...] Il y a souvent des coûts nouveaux (et parfois plus élevés) associés à la technologie qui doivent être pris en compte [...] Les acheteurs de technologie juridique peuvent jouer un rôle critique dans l’amélioration de l’achat de cette technologie en s’assurant que les questions stratégiques sont posées et traitées avant d’être mises sur le marché. »

Il y a encore bien d’autres choses qu’un documentaliste juridique apporte *en plus* d’un robot. Sur ce sujet, voir notre billet Documentaliste : un nouveau métier, de nouveaux noms. Pour ne pas rallonger le présent billet, je me contenterai de (re)citer une bibliothécaire documentaliste juridique américaine [316] :

« L’IA est itérative et continuera à s’améliorer, mais elle ne sait pas grand chose du facteur qu’est le contexte de la question posée ni comment le gérer. Pour que l’IA soit utile dans des recherches complexes (et non juste des recherches sur références bibliographiques) dans la plupart des structures juridiques, j’estime qu’elle aura besoin d’apports significatifs en savoir interne. Il est déjà difficile de faire correctement (voire de faire tout court) du KM. Comment alors allons nous documenter le savoir historique de la structure de manière à ce qu’un robot puisse correctement l’interpréter et l’appliquer ? Ce qui est saisi ne constitue pas réellement la totalité de la requête que l’on entre dans une machine : il y a bien plus de choses à préciser pour que la machine puisse fournir une réponse. »

Il faut aussi lire ce billet de Christophe Doré, consultant, professionnel de haut niveau de la veille, domaine ou excellent les documentalistes : La Veille : 70% d’humain et 30% d’informatique. J’ai appris en lisant cet article un nouveau concept aux termes assez éclairants : la pensée latérale. Les systèmes de veille automatique, les chatbots (cf supra) et les agrégateurs de sources numériques ne sont pas si performants en eux-mêmes. Ils ont besoin d’humains pour déterminer les sources à surveiller et affiner les requêtes booléennes. De plus, on a encore besoin d’un humain pour identifier et suivre les signaux faibles, pour sortir des sentiers battus, pour laisser agir la sérendipité et regarder là où la machine n’ira pas parce que ce n’est pas dans son algorithme.

Un des meilleurs "papers" sur ce sujet, sur un plan technique — et non économique — est celui publié à la Savannah Law Review [317] par l’"investigateur" américain Philip Segal (Charles Griffin Intelligence), spécialiste des recherches de personnes, d’informations et de faits dont le contentieux américain est friand. P. Segal est donc très proche du métier des documentalistes juridiques. Il parle d’améliorations sur des outils que nous utilisons déjà, comme YouTube par exemple, qui devrait bientôt pouvoir se voir appliquer des moteurs de recherche vidéo très puissants. Et en ce qui concerne les nouveaux outils pour son métier, il est loin de les craindre. Il signale précisément leurs avantages comme leurs limites. Ainsi, il recommande :

  • de comparer et évaluer les IA comme toute autre base de données en ligne *avant* de les acheter
  • d’accumuler une expérience concrète des "trucs" à savoir pour les interroger sans se "faire avoir" par leurs biais.

Ces deux tâches sont clairement une des voies de développement naturel — j’allais écrire normal — des métiers de documentaliste juridique et de "legal knowledge manager". En tout cas, les professionnels de l’information juridique sont outillés et légitimes pour s’en occuper. Ils pourront sans problème conseiller les dirigeants de leurs structures sur ces sujets, gérer le projet d’acquisition ou de co-développement interne et son adaptation aux besoins de la structure, former les juristes et négocier les prix — qui promettent pour l’instant d’être élevés.

Comme l’écrit le jounaliste et consultant américain Robert Ambrogi, qui est un chaud partisan des legal tech : « Robots are not coming for law librarians’ jobs. » [318], les bibliothécaires documentalistes juridiques ont des rôles essentiels, notamment celui de "legal technologist" ou évaluateur de la valeur réelle des nouveaux outils : « Dans les cabinets d’avocats, les bibliothécaires juridiques sont souvent les examinateurs des nouvelles technologies, aidant à vérifier et à évaluer les produits avant que leur cabinet ne gaspille de précieux dollars. [...] Ils sont, si vous voulez, la police de la technologie. Ils ont la compétence et le savoir-faire nécessaires pour examiner les revendications des vendeurs et s’assurer que la réalité est conforme au marketing. De cette façon, les bibliothécaires - peut-être plus que tout autre rôle dans la profession juridique - sont essentiels pour maintenir l’honnêteté du secteur. [...] "Les documentalistes, qui savent quels résultats peuvent être obtenus de manière optimale par une recherche particulière, peuvent évaluer les lacunes ou les faiblesses d’un système d’IA en évaluant les résultats de la recherche" ».

IA et avocats

La journaliste britannique Joanna Goodman, dans son ouvrage précité Robots in Law : How Artificial Intelligence is Transforming Legal Services écrit que l’IA pour les juristes n’est pas une option. Selon elle, les juristes qui accepteront la réalité de l’IA et l’incorporeront dans leur pratique professionnelle sont ceux qui réussiront le mieux dans les années à venir, car l’IA modifie le partage de la valeur entre les acteurs de la "chaîne" juridique. Lire à ce propos le compte-rendu du livre par Robert Ambrogi [319]. Cette collaboration-amélioration avec l’IA est déjà en cours en France avec Case Law Analytics et Predictice : leurs analyses prédictives ont été développées et validées avec des cabinets d’avocats ou des directions juridiques partenaires. Par exemple, les cabinets Taylor Wessing, Vogel & Vogel, Dentons ou Bruzzo Dubucq pour Predictice. SNCF, Axa ou le cabinet Flichy Grangé pour Case Law Analytics.

Une autre façon, française cette fois et plus diplomate, de formuler cela : l’Ordre des avocats au barreau de Lille étant partenaire de Prédictice, son bâtonnier a cherché à convaincre ses collègues [320] de l’utiliser. Voici ce qu’il en dit :

« Il faut tuer tout de suite le fantasme, ça ne remplacera pas les avocats dont les analyses ne peuvent être automatisées »

Selon lui, il s’agit plutôt d’un outil stratégique :

« Le défenseur peut, entre autres, voir quelle juridiction sera la plus encline à rendre une décision favorable à son client. »

Comme le dit Guillaume Drouot, professeur de droit privé à l’Université de Bordeaux [321] (le gras est de nous) :

« M. Neuville, dans un ouvrage de philosophie à l’attention des juristes, expose l’idée suivante : " [...] la méthode d’apprentissage qui consiste à former les étudiants pour qu’ils deviennent de bons techniciens du droit capables de mémoriser quantité de textes afin de trouver la meilleure solution, sans leur donner d’ailleurs les moindres rudiments de philosophie du droit. Cette méthode sera évidemment bien vite dépassée avec le développement de l’intelligence artificielle. "
Le développement des algorithmes et de l’intelligence artificielle invite ainsi à envisager notre manière de penser le droit, à mieux définir ce qu’est le droit, tout comme, si l’on veut raisonner par analogie, la dématérialisation invite à repenser certains mécanismes juridiques (la saisie, le droit de rétention) pour en extraire l’essence, la véritable raison d’être.
Quoiqu’ignorant dans une large mesure ce dont sont exactement capables les algorithmes, il nous paraît peu probable qu’ils remplacent un jour les juristes. Non pas parce que nous doutons de leurs capacités de calcul, mais bien plutôt parce que, même performants, les algorithmes n’ont aucune conscience de ce qu’ils font.
[...]
L’irruption des algorithmes et la pensée de Kropotkine nous invitent à revenir à une vision du droit comme science (ou art) du juste et de l’injuste. L’idée du droit que donne François Ost à partir des symboles de la justice (glaive, balance, bandeau) apparaît à cet égard particulièrement pertinente [...] : " Pour le juriste au quotidien, le symbole du bandeau implique une méthodologie du doute qui le conduit non seulement à s’enquérir du point de vue minoritaire (...), mais encore à résister aux paradigmes scientifiques dominants, ainsi qu’à la pseudo-évidence des faits. Sa tâche est de rendre justice et non de décrire la réalité : dire le droit implique un arbitrage entre vérités multiples s’articulant souvent sur des plans distincts. (...) Telle est la fonction essentielle du droit, trop souvent oubliée aujourd’hui : dire le sens de la vie en société. Au-delà de ses rôles répressifs et gestionnaires, le droit est d’abord cela : une parole, socialement autorisée, qui nomme, classe et départage ". »

Et là encore, il faut lire le "paper" précité de l’"investigateur" américain Philip Segal à la Savannah Law Review. Il reconnaît que l’IA apportera d’importants changements dans la pratique des juristes américains. Mais il est loin de craindre ces nouveaux outils pour son métier.

IA et jeunes collaborateurs/paralegals

Pour les postes de paralegals orientés recherches et veille (par exemple, les spécialistes de la recherche, de la veille et de l’enregistrement des brevets) et pour les jeunes collaborateurs (qui font aux Etats-Unis énormément de recherches, ce qui correspond en France aux stagiaires, mais en font aussi beaucoup en France durant leur première année), une étude d’Altman Weill datant de 2015 est pessimiste [322]. La brève précitée de la Lettre de l’Expansion est encore plus explicite :

« Watson [...] est réputé pour son rôle dans la destruction d’emplois. »

Pour les autres paralegals, le risque à court terme, surtout en France, est faible mais à long terme, leurs tâches découpables seront probablement automatisées.

Un monde sans travail ?

Plus généralement, de nombreux entrepreneurs millionnaires comme Bill Gates ou Elon Musk (voitures électriques Tesla) et des scientifiques comme l’astrophysicien Stephen Hawking ou le docteur Laurent Alexandre (fondateur de Doctissimo) estiment que l’IA va créer du chômage et que les conséquences sociales de cette nouvelle révolution sont encore largement sous-estimées. Elon Musk estimait par exemple le 15 février 2017 que les conducteurs professionnels (soit 15% de la population active mondiale) pourraient se retrouver sans emploi dans les 20 prochaines années, et qu’il y aura de moins en moins de métiers qu’un robot ne pourra pas faire [323]. Le cabinet américain Forrester anticipe, pour le marché de l’emploi des Etats-Unis, une disparition nette de 7% des jobs d’ici 2025 imputable à l’automatisation [324].

Côté France, la journaliste indépendante Tiffany Blandin préconise en conclusion de son enquête Un monde sans travail ? [325], de « regarder l’automatisation dans les yeux ». Elle explique que « personne ne peut dire précisément combien d’emplois vont disparaître à cause de l’intelligence artificielle » et que « c’est pour cela que les dirigeants de la Silicon Valley se sont pris de passion pour le revenu universel ». Et le Canard Enchaîné d’ironiser sur les 10% de postes en danger d’être détruits selon le rapport précité du 10 janvier 2017 du Conseil d’orientation pour l’emploi (COE) [326], en notant que cela représente quand même 3 millions de chômeurs en plus [327].

On ne parlera pas ici de l’ubérisation, que redoutent aussi bien le magazine Capital qu’un un enseignant de l’Université Paris Dauphine [328].

Les spécialistes en intelligence artificielle, eux, vont même plus loin : un sondage (pre-print) mené fin 2016 auprès de 352 chercheurs en IA également auteurs d’articles et présents lors de deux conférences sur le sujet [329] a donné le résultat suivant : selon eux, en se plaçant donc en 2016, il y a une chance sur deux que l’IA soit meilleure que les humains à à peu près tout type de tâche individuelle ("High level machine intelligence - AI human tasks") dans 45 ans. et une chance sur deux que tous les emplois humains soient automatisés ("AI human jobs"), y compris la recherche en IA, dans 122 ans (voir les graphiques en fin d’article). Fin 2017, ce sondage est encore fréquemment cité.

Re-la-ti-vi-ser. Ou les (grosses) limites de l’IA juridique

Mais le magazine Business Insider, en rendant compte [330] de ce sondage, appelle à la prudence. Il commence par rappeller que de nombreuses prédictions d’experts dans le passé se sont avérées fausses. Surtout, Business Insider explique que :

« Quarante ans est un chiffre important lorsque les humains font des prédictions parce que c’est la durée de la vie active de la plupart des gens. Donc, si un changement est censé se réaliser après, cela signifie qu’il se produira au-delà de la durée de vie active de tous ceux qui travaillent aujourd’hui. En d’autres termes, il ne peut se produire avec une technologie dont les experts d’aujourd’hui ont une expérience pratique. Cela suggère qu’il s’agit d’un chiffre à traiter avec prudence. »

Quant à l’IA connectée au cerveau, ce n’est vraiment pas pour tout de suite. Des recherches existent, comme le projet Kiwi de la société Nitoo de Newton Howard [331]. Nitoo a mis au point un prototype d’implant neuronal de la taille d’un grain de riz et pesant moins de 2 grammes, qui pourrait être implanté dans la cloison nasale. Cet implant permet de capter des informations envoyées par les neurones et de leur répondre.

Mais pour Ricardo Chavarriaga Lozano, spécialiste de l’interface cerveau-machine à l’Ecole Polytechnique Fédérale de Lausanne, « il faut prendre des pincettes : beaucoup de recherches doivent encore être effectuées avant de pouvoir modifier le vivant » [332]. Le chirurgien français Laurent Alexandre, fondateur du site Doctissimo, et partisan de l’être humain augmenté (ou transhumanisme), commentant les prédictions du singulariste (et par ailleurs employé de Google) Ray Kurzweil, estime qu’ « un cerveau connecté, on en est encore loin. Croire qu’on y arrivera d’ici 15/20 ans, il me semble que c’est faire preuve de naïveté neuro-technologique. Pour l’instant, les seules choses que nous arrivons à faire, c’est recréer des faux souvenirs chez des rats par exemple, en les "connectant". Mais on leur bousille le cerveau, on est très loin d’être au point sur ce sujet-là » [333].

Surtout, comme l’explique Olivier Ezratty (ancien de Microsoft France), les livres et articles sur l’impact de l’IA sur l’emploi font l’impasse sur plusieurs points clés [334] :

  • « au démarrage des précédentes révolutions industrielles, les métiers disparus comme les nouveaux métiers ont rarement été bien anticipés. Pour ce qui est du futur, à vrai dire, on n’en sait pas grand chose », car il y a « [trop de] paramètres à prendre en compte »
  • un phénomène induit par le numérique et qui n’a rien à voir avec l’intelligence artificielle : « le transfert du travail non pas seulement vers les machines mais aussi vers les clients » (clic work ou digital labor [335]). Exemples : les formulaires et modèles de contrats en ligne que nous remplissons nous-mêmes ou les guichets automatiques bancaires
  • ils se focalisent sur la situation aux Etats-Unis, ignorant la plupart du temps totalement le reste du monde
  • ils ont « bien du mal à faire le tri dans les évolutions de l’emploi entre ce qui provient de l’automatisation, de la globalisation et de la concurrence asiatique dans l’industrie manufacturière et même indienne, dans les emplois concernant les services informatiques. L’emploi a surtout migré géographiquement. Les emplois perdus dans l’industrie aux USA et en Europe se sont retrouvés en Asie » [et en Europe de l’Est].

Autre publication relativisant les choses : selon le rapport précité du COE [336], moins de 10% des emplois sont "très exposés" aux mutations technologiques et présentent donc le risque d’être supprimés — mais près de la moitié des emplois devront toutefois évoluer [337]. Les emplois juridiques évoqués supra ne sont pas dans la liste des 10% du COE. Et Anne-France de Saint-Laurent Kogan, spécialiste des transformations du travail liées au numérique, tempère elle aussi les choses [338].

Dans une autre étude (américano-britannique), The Future of Skills’ Employment in 2030, le panel des personnes interrogées estime que tant les juristes que les bibliothécaires documentalistes feront partie des métiers pour lesquels la demande va augmenter à l’échéance 2030. Cette enquête a été produite par l’éditeur scolaire et universitaire Pearson, NESTA, une fondation pour l’innovation globale et l’Oxford Martin School. Surprise : les bibliothécaires documentalistes sont carrément listés dans le segment "haute croissance". Toutefois, les compétences demandées aux bibliothécaires documentalistes vont probablement évoluer dans les années à venir [339]

Menée par les professeurs américains Dana Remus (Faculté de droit de Université de Caroline du Nord) et Frank Levy (économiste, Massachusetts Institute of Technology, le fameux MIT), une étude publiée en novembre 2016 suggère que l’IA a « un effet modéré » sur des métiers tels que la recherche documentaire juridique et la rédaction de contrats [340]. L’étude indique que les tâches précitées représentent environ 40% de la facturation globale des avocats.

Cela dit, selon cette étude — un gros article scientifique de 77 pages publié sur le Legal SSRN —, l’impact estimé de l’IA sur des domaines tels que le "fact-checking" (vérification des faits, typique du droit anglo-saxon), le conseil aux clients, la gestion électronique de documents (GED), la rédaction de conclusions et les audiences — le tout représentant près de 55% des heures facturées — est « faible ».

Mais l’intelligence artificielle a un rôle plus important à jouer dans d’autres domaines. Selon l’étude, l’impact estimé de l’IA sur l’examen de documents ("document review", là aussi une procédure inconnue en droit français) — qui consiste essentiellement à passer en revue de grandes masses de documents pour y chercher les détails pertinents dans le cadre d’un contentieux — est « fort ». Heureusement pour les avocats anglo-saxons, l’étude ajoute que cela représente seulement 4% des heures facturées [341].

Le professeur Joël Monéger, spécialiste des baux, dans une tribune à la revue Loyers et Copropriété [342], formule ainsi les possibilités et les limites de la justice prédictive à la française :

« Prévoir le droit positif tient [...] de la gageure. [...] Certes, la prédictibilité de la solution paraît possible lorsque la plus haute juridiction a tranché le point de droit avec fermeté et de manière répétée. De même, semble-t-il, lorsqu’elle donne des signes annonciateurs d’un revirement possible de la jurisprudence. Mais, au-delà, la jurisprudence, même émanant de nos plus hautes juridictions, est bien souvent délicate à prévoir, notamment face à des textes récents, mal rédigés, ou à des textes en décalage grave avec les réalités sociales ou économiques. Cela tient à l’art de la rédaction des arrêts qui suppose un lecteur formé au décryptage de formules insuffisamment enseignées. De plus, la Cour de cassation ne peut pratiquer l’ultra petita et ne répond qu’aux moyens du pourvoi. »

Pour l’illustrer, il donne l’exemple de deux jurisprudences récentes de la Cour de cassation.

En fait, il faut garder à l’esprit que toute la com’ — car c’en est — sur les performances de l’IA viennent du besoin des startups et des éditeurs de logiciels de vendre leurs produits. Dès qu’on lit la littérature scientifique, comme vous avez pu le constater supra, les choses sont grandement relativisées. Comme l’avocate Michèle Bauer le dit — très directement — avec ses mots [343] :

« Les legaltech ne publient pas leurs chiffres et ne font que des effets d’annonce en prétendant avoir levé des millions d’euros, il est donc impossible de connaître leur véritable pouvoir économique. [...]
Méfiez-vous des fakes, des effets d’annonce et des informations diffusées sur le net, les legaltech en sont les artisans, les initiateurs. Le mensonge et l’embellissement de la réalité est une pratique courante sur la toile. »

IA juridique et science-fiction ou les risques de la justice prédictive

Et si on en arrivait un jour là où Google semble être arrivé du fait de l’intégration de machine learning dans ses algorithmes (ses ingénieurs ne savent plus totalement en détail comment leur moteur fonctionne : en tout cas, c’est ce que dit un scientifique chez un rival, Qwant [344]) ? Car c’est un fait : l’IA à base de ML est impénétrable [345]. En arriverait-on à ce que Ross n’est pas, c’est-à-dire une véritable intelligence artificielle ?

Voici les (éventuels et futurs) risques tels qu’ils sont décrits dans la presse et par la doctrine (revues juridiques) :

  • "boîte noire" : on ne saurait ni qui exactement nous juge ni pourquoi on nous condamne
  • "power to the machine". On ferait plus confiance à l’algorithme qu’à l’humain, dans une époque méfiante vis-à-vis de la Justice. On ne tenterait plus sa chance en justice si elle est faible. La situation et ce risques sont assez bien décrits dans une brève intervention d’Antoine Garapon sur France Inter et surtout dans son interview au Point par Laurence Neuer dans la remarquable série Mon petit droit m’a dit [346]
  • effet performatif (dit aussi effet moutonnier ou risque de conformisme) : risque que le juge, par paresse, pour aller vite ou encore par souci de ne pas faire de vagues, se conforme à la solution majoritaire. La crainte d’un tel effet est très présente dans la grande majorité des articles de presse et dans les revues juridiques, autrement dit ce que les juristes appellent la doctrine.
    Les magistrats judiciaires interrogés par Lêmy Godefroy pour la mission de recherche Droit & Justice ne sont pourtant que 40% à partager cette crainte. Pour ces magistrats, les outils de justice quantitative (OQJ) doivent être considérés comme une simple aide à la décision [347]. Pour les avocats, la peur d’être désintermediés explique largement cette crainte, mais là aussi, nombre de cabinets d’avocats ont adopté un outil de justice prédictive et le considèrent comme une aide à la décision. _ Pour la doctrine, il semble, d’après le mémoire très bien construit de Camille Bordere , qu’en réalité, ce que la doctrine reproche à la justice prédictive, c’est de révéler (en partie seulement pour l’instant, vu le manque de la première instance) la masse des décisions du fond et des faits qu’elle contient, concurrençant ainsi les "cathédrales jurisprudentiellles" construites par ... la doctrine [348]. D’ailleurs, ce que la doctrine commente, ce ne sont pas les effets des outils actuels, mais ceux supposés arriver un jour. Comme l’écrit très justement C. Bordere, « pour des écrits qui craignent à foison que l’outil prédictif ne factualise le raisonnement juridique ou ne le rende trop "réaliste", le grand absent reste précisément la réalité de l’objet, complètement occultée par la plupart des auteurs. Aucun outil de justice prédictive, à ce stade de leur développement, ne fonctionne correctement et n’accomplit encore totalement la tâche qui lui est assignée ». De ce point de vue, on peut se demander si la doctrine n’a pas elle aussi été intoxiquée par la "hype", autrement dit la masse de com’ et de marketing que nous décrivons en introduction
  • la possibilité, en droit pénal, pour un délinquant ou un criminel, de déterminer à l’avance si et comment, en suivant un certain modus operandi, il pourrait échapper à condamnation pour son délit/crime. Sur ce point précis, la réponse (officielle) de Predictice et Case Law Analytics est d’exclure de travailler sur ce domaine.

La science-fiction a déjà envisagé ces risques (nous ne parlerons pas ici des lois de la robotique d’Asimov, non pertinentes ici et de toute façon déjà dépassées [349].).

Le tome 3 de la bande dessinée SOS Bonheur, un classique du genre publié en 1989 [350] parle de justice automatisée : chaque avocat soumet ses conclusions dans une machine et la machine rend son verdict, le juge n’est là que pour contrôler le bon fonctionnement de cette dernière. Ainsi la justice est aveugle et équitable puisqu’elle est censée rendre le même verdict pour tous ceux qui sont dans la même situation sur tout le territoire. Jusqu’au jour où la machine condamne un homme qui a commis un délit mineur à la peine de mort alors que cette dernière a été abolie il y a déjà de nombreuses années. Peut-on désobéir à la machine au risque de remettre en cause tous les autres jugements déjà rendus ?

Nous avons (presque) tous vu le film Minority report de Steven Spielberg avec Tom Cruise (d’après la nouvelle éponyme de Philip K. Dick). Même si ce sont des êtres humains spéciaux (des"precogs") qui y tiennent le rôle des logiciels et des données et statistiques, le sens en est clair :

Un article de Vincent Vigneau, conseiller à la Cour de cassation, à la Revue de jurisprudence commerciale de janvier 2019, liste et examine en détail ces risques (et d’autres), ainsi que les limites prévisibles de l’exercice [360]. C’est probablement celui qu’il faut lire pour avoir une vue complète et juridique et judiciaire du sujet. M. Vigneau y dénonce notamment la conception d’un juge comme une « machine à syllogisme ». Il rappelle qu’elle fait face à l’absence de caractère obligatoire de la jurisprudence — même celle de la Cour de cassation — et à l’absence de droit acquis à une jurisprudence figée (autrement dit, la France n’est pas un pays de "case law"), à la qualification juridique des faits où « derrière l’apparente logique du raisonnement exprimé dans les jugements, peut se cacher de multiples considérations et arguments plus ou moins avouables » [361] et enfin à l’obligation pour le juge de statuer, même en cas d’insuffisance ou d’obscurité de la loi (art. 4 du Code civil) et donc d’interpréter.

L’article, comme presque tous ceux publiés objectant à la justice prédictive, reste toutefois ancré dans la réalité judiciaire d’aujourd’hui. Or elle pourrait bien être bouleversée à la fois par le développement des MARL (modes alternatifs de règlement des litiges : médiation, conciliation, arbitrage) auxquels l’exécutif pousse par manque ou refus de moyens financiers pour la Justice et par l’utilisation hors procès — chez les assureurs et les avocats — des applications déjà existantes de justice prédictive ou dite telle. D’autant qu’au moins une application de médiation (Justice.cool) s’appuie sur un algorithme de justice prédictive pour accélérer et faciliter une issue positive à la médiation.

A ces programmes de "police prédictive", s’ajoute l’utilisation des énormes progrès de la reconnaissance d’images permis par le deep learning. Ils permettent, notamment en Chine, pays le plus "avancé" dans ce domaine, de repérer et arrêter un délinquant ou un dissident passé entre les mailles du filet policier pendant des années. Or cette technologie, notamment celle chinoise, s’exporte très bien. Sur ce sujet, lire ce court mais instructif billet de The Conversation, un excellent site de vulgarisation écrit par ... des universitaires : How artificial intelligence systems could threaten democracy (avril 2019).

Il faut toutefois relativiser, particulièrement en France : un état actuel (mars 2021) de la police prédictive montre qu’elle n’est même pas prédictive [362].

L’ouvrage Minority report de Philip K. Dick avec pour couverture l’affiche du film

Si le machine learning finit, ce qui est probable selon nous (cf supra), par être utilisé par le juge, il est à espérer que les conclusions d’Antoine Garapon et Marc Clément (dans les articles de revues juridiques cités au début de ce billet) s’imposeront :

Eviter le risque de « l’effet "moutonnier" de la justice prédictive qui pousse au conformisme et réclame plus aux juges qui estiment qu’ils doivent aller à contre-courant, c’est-à-dire faire leur métier tout simplement ! »

« Il sera donc capital que les modes de raisonnement inscrits dans les algorithmes soient parfaitement explicites et maîtrisés par le juge. Il conviendra, de plus, que des méthodes alternatives soient proposées et que l’on ne se retrouve pas en situation de monopole avec une seule technologie utilisable. »

Sur l’impact prévisible de la justice prédictive, lire l’ouvrage (beaucoup plus détaillé et complet que cette dernière partie de ce billet) d’Antoine Garapon et Jean Lassègue : Justice digitale : Révolution graphique et rupture anthropologique (PUF, avril 2018). L’adjectif graphique est utilisé ici dans son sens de traitant de l’écriture. L’ouvrage insiste notamment sur la perte prévisible du symbolique, du rituel, pour le gain de la rapidité et du confort, recul de la loi, remplacée par la technique. Mais son sujet est plus vaste que celui de la justice prédictive, puisqu’il traite en fait de la numérisation et du passage en ligne de la justice. Ce sont les chapitres VIII et X qui sont spécifiquement consacrés à la justice prédictive, avec quelques interrogations clés, dont :

  • peut-on remplacer la causalité par la corrélation  ?
  • quelle est la taille suffisante (de la base pour obtenir des statistiques significatives) ?
  • le futur peut-il être déduit du passé  ?
  • la pression de la multitude.

Isabelle Sayn formule ainsi ses propres craintes : « le pouvoir d’appréciation du juge peut être affecté, selon qu’il connaît ou non les décisions prises par les autres magistrats. À quel point ces connaissances vont-elles donc avoir une influence sur l’activité du juge, et en quoi sont-elles compatibles avec la conception hiérarchique de la règle de droit ? En effet, nous ne nous situons pas dans un système de précédent, de common law. Laisser croire à des usagers qu’ils peuvent se défendre en justice via les solutions fournies par des legaltech, basées sur la jurisprudence, n’est donc pas forcément une bonne idée. Et puis, il y a aussi la crainte des magistrats qu’elles soient utilisées pour automatiser les décisions » [363].

I. Sayn redoute également une justice prédictive reproduisant les biais illégitimes des décisions, comme, en matière de prestations compensatoires et alimentaires, le sexe du juge ou la présence d’un avocat lorsqu’elle n’est pas obligatoire [364].

I. Sayn souligne enfin que beaucoup de choix faits par les parties (stratégie judiciaire ...) sont absents de la décision [365]. Là encore, donc, s’appuyer sur les décisions pour faire des prédictions rencontrerait ses limites.

Aurore-Angélique Hyde, maître de conférences en droit privé à l’Université de Rouen et chercheuse associée à l’Institut des hautes études sur la justice (IHEJ) et au CERDI, dans un article à la fois pragmatique et très pertinent au Recueil Dalloz écrit sur l’intérêt pour un avocat d’utiliser des outils de justice prédictive, suite à une décision canadienne reprochant à un avocat de ne pas avoir utilisé d’IA [366]. Elle conclut que « bien que les outils de justice prédictive soient à la mode, l’obligation d’y recourir, outre qu’elle entraverait la liberté professionnelle des avocats, ne protégerait aucunement ces derniers de toute responsabilité en cas de solution erronée ou insuffisamment pertinente ». En effet, pour elle, « l’obligation pour un avocat de consulter des outils de justice prédictive est parfaitement discutable, et ce à plus d’un titre. D’une part, c’est surtout la pertinence du résultat obtenu par l’avocat qui doit compter et non le moyen auquel il recourt pour y parvenir. [...] D’autre part, tous les outils existants ne proposent pas exactement le même service. ». Enfin, elle décrit ses tests d’outils et met le doigt dans la plaie : leurs limites, notamment quand il s’agit d’identifier la jurisprudence la plus récente et la plus pertinente [367].

Il faut préciser ici que les tests logiciels, non seulement lors du développement, mais aussi en production et en permanence, sont impératifs en intelligence artificielle. Cela fait partie d’une bonne assurance qualité, comme l’illustre cet article de Forbes.com [368].

Toutefois, les tests dont on parle ici ne sont pas ceux faits par les utilisateurs finaux (documentalistes et juristes) dont nous parlions plus haut — et c’est bien là que le bât blesse. Il s’agit pour les programmeurs et développeurs eux-mêmes de tester le code ou au minimum des unités (on parle alors de "unit tests") de l’application. Il y a des niveaux de test et des méthodes de test bien connues pour cela (voir la page Wikipedia EN Software testing), parmi lesquelles celle, fondamentale en IA, de l’échantillon de données (dont on connaît d’avance les résultats prévisibles) mis de côté et sur lequel l’algorithme n’a pas été entraîné.

Concernant la justice prédictive, Rubin Sfadj, dans son entretien précité avec la revue Expertises, souligne que lorsque les outils de justice prédictive seront utilisés par la puissance publique, cet usage devrait reposer sur trois grands principes éthiques — qui, à bien les lire, ne sont pas si exigeants que ça :

  • le principe de responsabilité conduisant à désigner pour chaque algorithme utilisé une personne référente, à l’instar du directeur de publication en droit de la presse
  • le principe de clarté, c’est-à-dire la mention explicite dans une décision de justice élaborée avec l’aide d’un algorithme de ce procédé et la motivation sur laquelle repose le recours à ce type d’outil
  • le principe de précision permettant de corriger une source d’erreur à tout stade du traitement algorithmique.

Responsabilité ? Justement, si on veut éviter certains excès et rassurer les justiciables, et si on parle responsabilité des concepteurs d’applications, ce que redoutent les magistrats de l’ordre judiciaire interrogés par Lêmy Godefroy, enseignante-chercheuse et maître de conférences en droit privé, c’est que, en cas d’erreur de l’application de justice prédictive, « le caractère sophistiqué de cet outil rende difficile la preuve d’une faute sans recourir à l’expertise, sauf abus manifeste [369]. D’où on pourrait déduire qu’il sera plus facile de mettre la responsabilité de l’avocat en cause ...

Et en effet, les chefs de juridictions juridiciaires interrogés par Lêmy Godefroy relèvent « une probable augmentation des risques de mise en cause de la responsabilité professionnelle des avocats et de leur manquement au devoir de conseil par des engagements et des promesses, des actions engagées sur la base de ces outils pour aboutir à des solutions juridictionnelles totalement différentes » [370].

Quant aux juges administratifs — et d’autres magistrats du judiciaire —, leur réplique à la justice prédictive est déjà prête : "Convainquez-nous avec des arguments juridiques, peu nous chaut vos statistiques". Le Conseil d’Etat, par la voix de Christian Vigouroux, lors du colloque sur l’open data de la jurisprudence organisé en octobre 2016 par la Cour de cassation, a déjà prévenu que la juridiction administrative suprême ferait en sorte que le juge administratif ne puisse pas se voir opposer sa propre jurisprudence [371]. Côté justice judiciaire, selon Xavier Ronsin, Premier président de la cour d’appel de Rennes [372] :

« L’hypothèse selon laquelle des plaideurs assistés d’avocats, renonceraient à aller jusqu’au bout d’un contentieux judiciaire classique, parce qu’ils auraient lu les résultats d’un logiciel dit de "prédictibilité de la justice" et qu’ils décideraient alors de transiger, est contestée par beaucoup et mérite à tout le moins d’être vérifiée. Lorsque l’on constate la difficulté de faire aboutir les "modes alternatifs de règlement des litiges (MARD)", il y a de quoi être sceptique, mais pourquoi ne pas l’espérer ?
Au-delà d’un refus de principe sur la possibilité d’enfermer la future décision d’un juge dans le raisonnement d’un algorithme basé sur des "précédents jurisprudentiels", je pense malgré tout que les magistrats doivent se préparer à comprendre ce processus, et à recevoir des dossiers d’avocats comportant des analyses savantes ainsi que des contenus statistiques de milliers de décisions au soutien d’une thèse et de prétentions de leurs clients. De tels dossiers n’empêcheront de toute façon pas la liberté du juge de faire du "sur-mesure" pour chaque dossier, mais ils pourront peut-être éclairer son raisonnement. »

Dans un entretien avec Acteurs publics.com, Xavier Ronsin ajoute [373] :

« C’est une opération complexe que la motivation intellectuelle d’un juge, une opération subtile qui s’articule à un raisonnement et non à une simple corrélation d’items factuels. »

Pour autant, dans les résultats de l’enquête de terrain réalisée par L. Godefroy pour le rapport de recherche "Comment le numérique transforme le droit et la Justice" (juillet 2019) [374], grosso modo, les 67 magistrats judiciaires consultés — attention, il y a un biais : presque tous sont des chefs de juridiction (TGI ou cour d’appel) [375] ; or ce sont les plus sensibles aux impératifs de productivité [376] — sont majoritairement favorables à la justice prédictive (dénommée "outils de justice quantitative" (OQJ) dans l’enquête). Sous un certain nombre — voire un nombre certain — de conditions :

  • qu’elle intègre (et respecte) les nouveaux textes et la jurisprudence des cours suprêmes
  • qu’elle n’empêche jamais l’appel
  • qu’elle permette toujours un examen personnalisé
  • que ces outils soient « encadrés, contrôlés, supervisés par les services du ministère de la Justice (par exemple, par une participation de magistrats à la détermination des critères de sélection des décisions par type de problématiques ou par une validation des critères choisis par les concepteurs) »
  • et enfin qu’ils « correspondent à une démarche scientifique et déontologique vérifiable et certifiable » (comme nous l’écrivions plus haut : encore la certification !). Notamment : qu’ils citent « les sources, le nombre de décisions prises en compte, la répartition au niveau des cours d’appel et des tribunaux [...] et la période sur laquelle a porté la recherche (possibles revirements de jurisprudence) ».

Ajoutons que pour les magistrats interrogés, il apparaît que les outils de justice prédictive « contribueraient à une multiplication du recours aux modes alternatifs de règlement des différends (MARD : arbitrage, conciliation, médiation ...) par l’amélioration de la prévisibilité des issues du litige ».

En creux, on y voit le refus d’un traitement automatique mais pas, en vérité, d’un traitement de masse. On y voit aussi une très forte exigence des chefs de juridiction vis-à-vis de l’outil de justice prédictive qui leur serait fourni. Ce niveau d’exigence rejoint quelque part les critiques adressées par le président de la cour d’appel de Rennes à Predictice en 2017 (cf supra).

Du côté des avocats, Pascal Eydoux, président du Conseil national des barreaux (CNB) estime officiellement qu’ « il n’est pas question que la profession d’avocats envisage de s’opposer à cette évolution car elle est inéluctable et attendue » [377]. Sanjay Navy, avocat à Lille où il a testé Predictice, pense que « ça peut permettre de dire à l’adversaire : " regardez les condamnations en moyenne, négociez sinon vous risquez d’être condamné à tant, ce n’est pas moi qui le prétends, mais la jurisprudence ! " » [378].

Autrement dit, la justice prédictive aurait pour avantage de faciliter le calcul des chances de gagner ou perdre un contentieux, limitant ainsi la prise de risque et facilitant grandement le travail des avocats et plus encore des assureurs. Pour les assureurs, qui ont déjà développé des bases de données de jurisprudence et de dommages-intérêts comme AGIRA, l’avantage de la justice prédictive est de faciliter la connaissance de la "vraie" (à leurs yeux) jurisprudence, celle des statistiques. Les assureurs Allianz, Covéa, la Maif et Pacifica font partie des clients de Predictice [379], et Axa Protection Juridique ainsi qu’Allianz font partie des utilisateurs de Case Law Analytics [380].

À condition, évidemment, qu’aucune des parties ne fasse appel, qu’une juridiction suprême ne procède pas à un revirement de jurisprudence et que les textes applicables ne soient pas modifiés. Pour le magistrat Yannick Meneceur, détaché auprès du Conseil de l’Europe, « la forte évolutivité des règles juridiques constitue en elle-même une limite technique pour les algorithmes. Car les règles juridiques n’évoluent pas de façon linéaire comme dans les sciences dures, où une nouvelle règle vient compléter la précédente sans nécessairement l’invalider. Dans les systèmes de droit continental, il suffit que le texte fondamental change pour que la jurisprudence qui était fondée dessus se trouve écartée » [381]. Sur ce point, le bouleversement du droit du licenciement et de la procédure prud’homale par la loi Travail en 2016 puis les ordonnances Macron en 2017 constitue un excellent exemple : le contentieux de droit du travail pré-2017 a perdu une partie importante de son intérêt, particulièrement le montant des indemnités. Par ailleurs, comme le rappelle Bruno Mathis, consultant, la justice prédictive est « inutile pour estimer des dommages-intérêts obéissant à un barème [...] et où la justice prédictive sera-t-elle la plus utile ? Dans la masse des décisions qui ne sont ni trop spécifiques ni trop communes. » [382]

Il y a un risque que je n’ai vu mentionner que par l’ouvrage de Garapon et Lassègue. Il est caractéristique des soucis de ma profession, centrée sur l’information et les documents, leur production, leur recherche, leur diffusion. Il faut absolument le souligner : quid à long terme de la justice prédictive si celle-ci progresse et avec elle la déjudiciarisation, c’est-à-dire l’appauvrissement relatif des moyens humains et financiers du service public de la Justice ? Quid, parce que si, comme nous l’avons vu plus haut, la justice prédictive [383] et la modernisation de l’action publique (MAP, ex-RGPP) favorisent, développent, poussent vers le compromis, la transaction, la médiation, la conciliation et l’arbitrage (dits modes alternatifs de résolution des litiges ou MARL), alors les décisions ne seront plus disponibles, car par définition ces procédures ne sont pas publiques [384] et leurs décisions non plus. Alors, plus d’open data judiciaire, plus de données et plus de justice prédictive possible. A titre d’illustration, on estime, en arbitrage commercial international, que les diverses revues et bases de données disponibles [385] ne publient qu’au mieux 3000 sentences arbitrales par an. Essayez donc de faire de la statistique avec ça. Mais c’est justement le défi auquel tente de répondre (avec rigueur) Case Law Analytics : analyser les critères des juges et non leurs statistiques afin de pouvoir travailler avec un fonds de seulement quelques centaines de décisions (comme dans le contentieux boursier du manquement d’initié).

Propriété intellectuelle (accès au code source ?), tests, certification, droit des données personnelles

On peut aussi craindre une anonymisation insuffisamment forte, c’est-à-dire n’empêchant pas, d’ici les huit ans (à compter de 2017) nécessaires pour que les jugements de première instance accèdent à l’open data [386], la réidentification du fait d’un apprentissage statistique automatique ayant beaucoup progressé et s’appuyant les données indirectement nominatives. Ce risque est réel : le rapport Cadiet sur l’open data des décisions de justice, qui est en réalité d’abord l’œuvre de la haute magistrature [387], préconise une pseudonymisation renforcée, et non une véritable lutte contre la réidentification [388]. Or cette pseudonymisation renforcée ne semble être rien d’autre que la formalisation des pratiques actuelles des juridictions suprêmes, désormais en charge de l’anonymisation (pardon, pseudonymisation) et qui doivent faire face au coût que cela représente. La confirmation de cette anonymisation insuffisante est arrivée avec l’article 33 de la loi de programmation et de réforme 2018-2022 pour la justice.

Le professeur Anne Debet, ancien commissaire de la CNIL, et un des meilleurs spécialistes français du droit des données personnelles, interrogée par la mission Cadiet, explique pourtant que :

  • au regard de la jurisprudence de la Cour européenne des droits de l’homme, « on peut imaginer une condamnation de la CEDH sur le fondement d’une possible réidentification des personnes dans une décision contenant des données sensibles non correctement anonymisées »
  • au regard des exigences du RGPD, la simple pseudonymisation (le terme même employé par le rapport) est insuffisante : « L’anomymisation doit être conforme aux exigences posées par la loi informatique et libertés et par le RGPD. [...] Il ne doit pas s’agir d’une simple pseudonymisation, [...] Cette amélioration a néanmoins un coût et un budget conséquent doit y être consacré. » On ne saurait être plus clair.

Les avocats craignent aussi une certaine déshumanisation ou une justice au rabais, voire un possible risque de "fainéantisation". Comme le formule Me Navy lui-même : « On vient me voir avec un problème, je tape sur le logiciel, j’ai 90% de chances de le perdre, donc je ne prends pas le dossier alors qu’en s’y penchant bien, je pourrais soulever un point particulier et gagner. » [389]

Directement concerné par ces soucis éthiques, Predictice a choisi :

  • de créer un Comité éthique et scientifique de la justice prédictive, dont les membres, des avocats et enseignants en droit [390], ont accès à l’application de Predictice
  • et de commander une étude à l’Ecole de droit de Sciences-Po [391], intitulée Les enjeux éthiques de la justice prédictive et rendue publique le 21 novembre 2018 [392]. Bien que le commanditaire de l’étude soit Predictice, les rédacteurs ont consulté et pris en compte l’ensemble des acteurs (legal techs comme éditeurs juridiques) présentant des solutions que l’on pourrait assimiler à de la justice prédictive. L’essentiel des recommandations de l’étude :
    • documenter les processus, les choix, les contenus et les échantillons (pp. 52-66 de l’étude). Par exemple, documenter le processus de constitution des bases de données utilisées pour la justice prédictive. Si les décisions sont différentes ou si elles ne sont pas enrichies et structurées de la même façon, les résultats, notamment les statistiques, devraient en effet être très différents. Documenter aussi la logique de constitution des échantillons d’apprentissage automatique. Etc. L’idée est celle d’une certaine transparence, pour permettre d’expliquer les différences de résultats entre outils. Si l’on y réfléchit, cela aurait pour avantage d’éviter de mettre en cause les fondements mêmes de la justice prédictive, et ainsi de protéger cette toute jeune activité
    • repenser le travail du juge, qui va clairement être tenté d’automatiser ses décisions (voir supra ce qu’expose Florence G’Sell, notamment l’exemple américain du logiciel Compass, souvent cité)
    • Philippe Glaser, associé du cabinet Taylor Wessing et associé à ces travaux, va plus loin, proposant de soumettre les algorithmes à une procédure d’audit réalisée par une institution une autorité administrative indépendante comme la CNIL, et, en attendant, faire adopter une charte éthique, que pour l’instant seul Predictice s’est engagé à suivre.

Les magistrats de l’ordre judiciaire interrogés par L. Godefroy [393]. sont nombreux à réclamer, comme le Conseil national des Barreaux (CNB) et l’Ordre des avocats de Paris, une certification des outils de justice prédictive pour assurer leur qualité et éviter des erreurs d’analyse. En 2018 et 2019, la certification obligatoire semblait même devenue une sorte d’incantation dans ces milieux. Tout en ressemblant beaucoup à une tentative de barrière normative aux legal tech. D’ailleurs, peu d’acteurs ont avancé sur le contenu technique d’une certification. Et résoudrait-elle pour autant tous les problèmes de la justice prédictive ?
La certification, pour l’instant, reste purement optionnelle. Pas d’obligation. C’est le résultat des débats législatifs sur la loi de réforme de la Justice [394], qui ont donné lieu à un intense lobbying. Le décret n° 2020-1682 du 23 décembre 2020 [395] entend préciser « les modalités de l’audit d’accréditation, de la suspension et du retrait de l’accréditation ainsi que les conséquences de la cessation d’activité de l’organisme certificateur ». Il est accompagné d’un arrêté du même jour. Le système, selon Dalloz Actualité, est d’une grande complexité et ne favoriserait pas les modes alternatifs de règlement des différends (MARD) en ligne. [396]. En annexe 1, figure le référentiel qui s’adresse aux organismes certificateurs souhaitant être accrédités pour délivrer la certification des services en ligne fournissant des prestations de conciliation, de médiation, ainsi qu’aux services en ligne souhaitant obtenir cette certification. En annexe 2, est publié le référentiel qui "s’adresse aux services en ligne fournissant lesdits services ainsi qu’aux organismes certificateurs délivrant le certificat". »]]

A noter que la Commission européenne pour l’efficacité de la justice (CEPEJ) vient d’adopter une étude de faisabilité sur la mise en place éventuelle d’un mécanisme de certification des outils et des services d’intelligence artificielle [397]. Cette étude se base sur la Charte de la CEPEJ concernant l’utilisation de l’intelligence artificielle dans les systèmes judiciaires et leur environnement, adoptée en décembre 2018. Le Conseil de l’Europe, s’il décidait la création d’un tel mécanisme, pourrait être un pionnier dans ce domaine. Après consultation de l’ensemble des Etats membres et observateurs, cette étude de faisabilité sera suivie d’un plan d’action que la CEPEJ préparera et transmettra au Comité des ministres du Conseil de l’Europe pour examen courant 2021.

Côté solutions, certains vont plus loin, en proposant voire exigeant que le code des applications sur lesquelles se fonde une décision de justice soit disponible en open source. Pour reprendre les mots de Michael Benesty : « la confiance que l’on placerait dans des outils de justice prédictive implique, au cours du processus, que le calculs et les caractéristiques du modèle de prédiction soient visibles et compréhensibles par le juriste, avocat ou magistrat, qui les emploie. Cela se traduit par une obligation de transparence sur les algorithmes, que garantit la libération en open source de la solution autant que par une vigilance et une expertise juridique sur les données mobilisées. » [398] Le code source de Supra Legem, l’application de M. Benesty, est déjà en open source [399].

Le magistrat Antoine Garapon, dans son entretien précité aux Petites Affiches, penche, de manière moins radicale, pour la création d’un service public chargé de contrôler le code source, sous condition de secret professionnel [400].

Jacques Lévy Véhel (Case Law Analytics) [401] est lui aussi favorable à un contrôle du code source par un tiers de confiance, mais il insiste surtout sur la vérification des résultats des logiciels par les juges.

Le magistrat administratif Marc Clément, plus réaliste à mon sens, estime quant à lui que la protection de la propriété intellectuelle des entreprises est un obstacle pur et simple à la divulgation, même limitée du code source, sans parler de sa compréhension.

Un article de la série Futurography sur Slate.com, propose une autre troisième voie entre secret et open source. Un amendement à loi fédérale américaine FOIA (Freedom Of Information Act [402]) donnerait le droit au public de soumettre des jeux de données tests à l’administration. Celle-ci devrait les passer à travers ses programmes et publier les résultats. Experts et journalistes pourraient alors calculer le taux d’erreur de ces algorithmes [403].

Enfin, selon un article d’Internet Actu [404], l’évolution des technologies d’IA pourrait permettre de sortir de l’opacité du fonctionnement de deep learning pour les humains. Algorithmes génétiques et IA symbolique, par exemple, peuvent être compris et débuggués. Il serait aussi possible de demander au programme d’expliquer ce qu’il fait.

En France, notre droit permet en tout cas de demander communication du code source des logiciels créés et utilisés par l’Administration, au titre de la communication des documents administratifs. La Commission d’accès au documents administratifs (CADA) [405] puis le tribunal administratif (TA) de Paris [406] l’ont confirmé à propos du logiciel simulant le calcul de l’impôt sur les revenus des personnes physiques. La DGFiP s’est résolu à s’y conformer l’an dernier, juste avant que le TA ne rende sa décision. La CADA a enfoncé le clou en 2016 en autorisant la communication à une association de lycéens du code source du logiciel Admission post bac (APB) [407]. Le Ministère de l’Education nationale s’y est conformé partiellement [408].

Ne pas oublier non plus que l’article 11 du règlement (européen) général de protection des données (RGPD), applicable en 2018, interdit toute décision automatisée qui affecterait significativement un citoyen européen et que les articles 12 et 14 créent, pour les autres décisions, un "droit à explication" [409]. Une décision de justice prédictive, par exemple [410]. Toutefois, si en dehors des décisions de justice, cela a de fortes chances de rester un principe sans application concrète, en vue de l’open data des décisions, la loi de réforme de la justice du 23 mars 2019 interdit expressément les

Enfin, du côté des structures privées (les cabinets d’avocats les premiers), les meilleures n’auront-elles pas intérêt à maintenir une expertise en recherche et veille afin de contrôler la pertinence des réponses ? Attention aux biais dans les contenus et les statistiques ... Pour le dire en anglais : « Content experts and data scientists needed ».

Conclusion : testez !

En conclusion, vu l’importance des enjeux et en même temps le fossé entre la com’ et les fantasmes d’une part et la réalité d’autre part, nous recommandons fortement de tester par soi-même ces nouvelles applications. Et de lire l’ouvrage de Garapon et Lassègue, "Justice digitale". Il est grand temps de déchirer le voile de hype et d’opacité de l’IA et que chacun se fasse sa propre opinion par lui-même.

En effet, il n’existe aucune démo gratuite en accès libre de Ross ni de Predictice ou Case Law Analytics (CLA), le site web du produit Ross est d’un vide intersidéral (le compte Twitter est beaucoup plus riche !) et les structures utilisatrices donnent très peu d’exemples d’utilisation ni de recherche et, à l’exception notable de CLA, aucun autre détail.

C’est là que la libre disponibilité de l’interface et du code source de Supra Legem remplissait son office : permettre au grand public de tester un outil de "justice prédictive".

Emmanuel Barthe
bibliothécaire documentaliste et veilleur juridique, spécialiste des moteurs de recherche pour le droit et des données juridiques publiques
licence en droit, Faculté de droit de Sceaux

Bibliographie

Les notes de bas de page (plus de 340) de ce long billet en composent la bibliographie. Une bibliographie en bonne et due forme représenterait trop de travail pour une publication qui reste après tout un exercice de vulgarisation et d’information.

Trois autres bibliographies très riches sur l’IA en droit français

Trois publications permettent toutefois d’accéder à des bibliographies extrêmement riches et beaucoup plus axées "juridique" que nos propres sources :

Les bibliographies de ces publications (placées comme toujours à la fin du document) comportent d’abord des références d’articles et ouvrages de juristes sur l’IA, les mathématiques, les statistiques et les algorithmes appliqués au droit (essentiellement français), mais aussi d’articles de mathématiciens, informaticiens et sociologues. Celle de l’ouvrage de Yanick Meneceur est disponible gratuitement en ligne (voir le lien) mais ne pas négliger les deux précédentes, plus complètes.

Une "webliographie" sélective et rapide sur Ross (2017)

Dernières brèves

Cyberharcèlement sur les réseaux sociaux : comment réagir ?

Lundi 26 juillet 2021

Lire la suite »

Ce billet est en cours de rédaction ("work in progress"). Il sera amélioré et augmenté progressivement.

Agir à court terme

Premiers éléments urgents de réponse technique au cyberharcèlement d’abord :

  • se mettre en mode "Avion", puis couper les notifications de l’application
  • bannir les pires harceleurs
  • pour le reste limiter les personnes pouvant répondre répondre à vos messages (tweets etc).

Certes, il reste possible aux harceleurs de "citer" vos messages, notamment vos tweets. Mais cela sort le nouveau message du fil (thread), donc de la chaîne des réponses.

Inconvénient : ça limite aussi la portée de vos tweets.

Source : thread Twitter F. Mehrez 16 juillet 2021.

Voir aussi la page Que faire du site Non au harcèlement et surtout la remarquable liste de conseils et de ressources tenue par le site Féministes vs cyberharcèlement. Notamment :

  • appeler un numéro vert
  • faire appel à un soignant
  • augmenter la sécurité de vos comptes en ligne
  • ...

Pour les enfants et les adolescents, il y a la ligne gratuite Net Ecoute au 3018, gérée par l’association E-Enfance. 12 permanents y répondent au téléphone.

Agir à moyen terme : déposer plainte

Ensuite, répliquer, sur le plan juridique. Conseils pour se protéger et pour déposer plainte. Que faire, et dans quel ordre. Par l’officier de gendarmerie Matthieu Audibert, doctorant en droit privé et sciences criminelles, spécialiste cybercriminalité.

Car le harcèlement en ligne est punissable pénalement.

Source : Cyberharcèlement sur les réseaux sociaux : comment réagir (sur un plan juridique d’abord) ? Archive PDF par ThreadReader.

Agir à long terme : nettoyer, renforcer les obligations de modération

Pour agir efficacement contre le cyberharcèlement, il y a aussi les agences de de e-réputation, qui ne sont pas gratuites et ne remplaceront pas une action plus forte des pouvoirs publics et de Google, Facebook, Instagram, Twitter, Snapchat, Pinterest, etc. Attention : les agences de SEO (référencement web) ou de veille, ce n’est pas la même chose. Les agences de e-réputation sont des nettoyeurs ou plutôt des modificateurs de réputation en ligne.

La loi Avia a échoué, mais à notre sens, il ne faudrait pas abandonner la voie d’une obligation renforcée de modération rapide. Les ancêtres des réseaux sociaux, les listes de discussion par email puis les forums, étaient souvent modérés, certains a priori, d’autres a posteriori — ce qui n’empêcha pas de premiers abus [1]. J’ai été co-modérateur d’une liste de discussion et il m’est clairement apparu que la modération est une nécessité mais aussi un véritable travail — autrement dit, elle a généralement un coût ... La Commission nationale consultative des droits de l’homme (CNCDH) va clairement dans ce sens dans son avis relatif à la lutte contre la haine en ligne (A - 2021 - 9). La CNCDH est grosso modo satisfaite de l’état du droit ... mais pas des moyens alloués et préconise de faciliter certaines actions en justice. Et elle recommande de crééer des obligations de modération accrue pour les réseaux sociaux (recommandations n° 7 à 12) [2].

Sur le plan psychologique, il y a des exemples de résilience à glâner dans le livre de David Doucet La haine en ligne (Albin Michel, 2020, 232 pages, dans toute bonne librairie ou bien votre bibliothèque municipale). David Doucet procède également à une une analyse assez complète des causes du cyberharcèlement, auquel les adolescents sont extrêmement sensibles.

Emmanuel Barthe
juriste documentaliste

Liste des recommandations de la CNCDH dans son avis relatif à la lutte contre la haine en ligne (A - 2021 - 9) [3] :

Recommandation n° 1 : la CNCDH recommande aux pouvoirs publics :

  • d’augmenter les moyens humains et financiers octroyés au nouveau pôle spécialisé du Parquet du Tribunal judiciaire de Paris en raison de l’ampleur du phénomène de la haine en ligne ;
  • de veiller au maintien de la place du juge dans le contentieux relatif à la haine en ligne.

Recommandation n° 2 : La CNCDH recommande aux magistrats compétents de recourir davantage à la procédure sur requête aux fins d’identification de l’auteur du contenu litigieux.

Recommandation n° 3 : La CNCDH recommande au ministère de la justice de réfléchir à une simplification de cette procédure par double requête afin d’accélérer le traitement de ce contentieux, et d’en limiter les frais.

Recommandation n° 4 : La CNCDH recommande aux pouvoirs publics d’augmenter les moyens humains et financiers alloués à la plateforme PHAROS, qui permet de signaler des contenus illicites sur internet et fait partie intégrante du dispositif judiciaire de lutte contre la haine en ligne.

Recommandation n° 5 : la CNCDH recommande la création d’un organisme indépendant dédié à la lutte contre la haine en ligne, placé sous l’égide de l’ARCOM. Il serait notamment chargé de l’accompagnement de l’utilisateur des services numériques, et du développement de la recherche sur les systèmes algorithmiques de modération de contenus.

Recommandation n° 6 : La CNCDH recommande de promouvoir que, pour mener à bien ses missions, le Comité européen s’inspire de celles confiées au niveau national à l’organisme public indépendant, telles que définies précédemment.

Recommandation n° 7 : La CNCDH recommande de :

  • harmoniser les dispositifs de signalement internes aux plateformes ainsi que les critères de signalement, notamment par la création d’une interface commune aux plateformes à but lucratif, dont l’activité sur le territoire français, qu’elles y soient ou non établies, dépasse un seuil de nombre de connexions fixé par décret ;
  • mettre à la charge des plateformes l’obligation de renvoyer les utilisateurs vers les dispositifs publics de signalement, tel celui de PHAROS, dans un objectif de simplification et d’articulation des dispositifs de signalement existants ;
  • traiter, de manière prioritaire et dans les meilleurs délais, les notifications soumises par les signaleurs de confiance, afin de consacrer leur place dans le processus de signalement ;
  • informer sur la désignation et le rôle de ces signaleurs de confiance ;
  • mettre en place des mesures graduées contre les signalements abusifs, telles que plusieurs avertissements préalables à la suspension du traitement des notifications, et le déclassement de ces notifications.

Recommandation n° 8 : La CNCDH recommande que :

  • la prise de décision dans le cadre de la modération des contenus soit complétée, lorsque nécessaire, par l’intervention de modérateurs humains ;
  • les modérateurs humains bénéficient d’une formation professionnelle ainsi que d’un accompagnement adapté à la nature et au contexte culturel et linguistique de leur mission. Elle recommande également de garantir à ces travailleurs des conditions de travail transparentes et satisfaisantes.

Recommandation n° 9 : la CNCDH recommande aux plateformes de mettre en place les moyens nécessaires afin de mieux détecter les moyens de viralité artificielle dès lors qu’ils visent à diffuser les contenus haineux et, le cas échant, de suspendre les comptes ayant recours à de tels mécanismes. Elle recommande également de réfléchir à l’équilibre à trouver entre la liberté d’expression et le ralentissement voire le blocage de la diffusion de certains contenus viraux par les plateformes.

Recommandation n° 10 : la CNCDH recommande que les plateformes aient l’obligation de :

  • renseigner, dans leurs conditions générales d’utilisation, de façon aisément accessible et de manière claire et précise, les impacts d’un contenu haineux et les mécanismes clé de propagation de ces contenus ;
  • expliciter les critères selon lesquels les moyens humains et automatisés interviennent dans le dispositif de modération ;
  • fournir aux usagers les informations relatives à toute intervention sur la visibilité d’un contenu, tant dans le but d’augmenter que de restreindre sa viralité ;
  • mettre en place des mesures graduées permettant de diminuer la visibilité de certains contenus, afin que le dispositif de modération ne repose pas uniquement sur le retrait ou le blocage des contenus haineux.

Recommandation n° 11 : la CNCDH recommande que les plateformes soient sanctionnées au titre des pratiques commerciales trompeuses dès lors que leur communication publique n’est pas en conformité avec leurs pratiques de modération.

Recommandation n° 12 : la CNCDH recommande de prévoir la possibilité, pour l’auteur du contenu signalé, de s’exprimer avant que ne soit prise une décision de modération, afin de permettre un débat contradictoire.

Recommandation n° 13 : la CNCDH recommande de :

  • octroyer au CSA, et à la future ARCOM, les moyens matériels et humains de mener les audits des plateformes afin de contrôler le respect de leurs obligations prévues par le projet de loi confortant le respect des principes de la République et de lutte contre le séparatisme.
  • permettre au CSA et aux chercheurs indépendants d’accéder aux systèmes algorithmiques des très grandes plateformes.
  • prévoir que l’accès des chercheurs aux systèmes algorithmiques des très grandes plateformes soit consacré par le projet de loi confortant le respect des principes de la République et de lutte contre le séparatisme.

Recommandation n° 14 : La CNCDH recommande l’adoption d’un plan d’action national sur la formation à la citoyenneté numériques, afin d’assurer l’effectivité de l’éducation à la citoyenneté numérique dans le cadre scolaire en l’intégrant au sein d’un programme uniformisé à l’échelle nationale ; en garantissant une formation adéquate du personnel enseignant aux usages des nouvelles technologies, notamment par l’intervention d’acteurs associatifs ; en promouvant la sensibilisation de tous les publics, par un effort coordonné des pouvoirs publics, du milieu associatif et des plateformes ; en prenant en compte l’expérience utilisateur dans l’élaboration et le déploiement de ces ressources pédagogiques.

Recommandation n° 15 : La CNCDH recommande de :

  • prévoir d’adapter la sécurité, les fonctionnalités et l’ergonomie du service aux fins de protection des utilisateurs mineurs ;
  • prévoir d’accompagner les parents, par le biais de ressources adaptées et d’espaces de documentation dédiés au sein des plateformes, aux fins de promouvoir leur compréhension des activités en ligne de leurs enfants.

Recommandation n° 16 : La CNCDH recommande de garantir une traduction en FALC (facile à lire et à comprendre) [4] des dispositifs de formation et de signalement des utilisateurs, et leur respect des standards d’accessibilité numérique.

Recommandation n° 17 : La CNCDH recommande de renforcer le soutien aux associations et leurs partenariats avec les plateformes pour augmenter leur visibilité et accompagner les utilisateurs victimes de propos haineux.
Recommandation n° 18 : La CNCDH recommande de développer une application permettant d’orienter et de soutenir les victimes de contenus haineux ou choquants.

Recommandation n° 19 : La CNCDH recommande d’assurer l’effectivité de l’information de l’utilisateur par la plateforme par le biais de l’ergonomie des interfaces.

Recommandation n° 20 : La CNCDH recommande de :

  • consacrer au profit de l’utilisateur un droit au paramétrage effectif des contenus reçus et émis sur les très grandes plateformes, selon des modalités aisément accessibles et transparentes ;
  • promouvoir l’interopérabilité des plateformes.

Recommandation n° 21 : La CNCDH recommande de développer des solutions techniques permettant d’attirer l’attention de l’utilisateur sur le caractère potentiellement haineux de son contenu avant publication ou relais, dans le respect de la liberté d’expression, ainsi que des contenus reçus dès lors qu’ils ont fait l’objet de signalements.

Recommandation n° 22 : La CNCDH recommande d’inciter les plateformes à mettre à disposition de l’utilisateur un support pédagogique simple détaillant les principaux contenus illicites et le processus de signalement, puis à distinguer lors du signalement entre l’illicéité du contenu et le droit au paramétrage.

Recommandation n° 23 : La CNCDH recommande de permettre à l’utilisateur de désactiver, supprimer et filtrer les commentaires sous ses publications et d’être alerté lors du signalement d’un contenu sur son espace, afin de le mettre en mesure de le modérer.

Recommandation n° 24 : La CNCDH recommande d’encourager les actions des pouvoirs publics à l’encontre de détenteurs de pages, de comptes ou de sites internet en leur qualité d’hébergeur ou de directeur de la publication dans certaines circonstances, lorsque ceux-ci bénéficient d’une audience conséquente et tirent manifestement profit des commentaires haineux suscités par leurs contenus.

Edition juridique et sécurité informatique : quelques questions d’actualité

Jeudi 22 juillet 2021

Lire la suite »

[billet publié initialement le 22 février 2021 et mis à jour depuis]

Editeurs juridiques, legal tech, connaissez-vous les incendies, les cyberattaques ? Etes-vous (bien) protégés ? Que prévoyez-vous en cas de hack ?

Inutile de se voiler la face : les abonnements papier en documentation juridique sont en train de faire les frais de la crise économique liée à l’épidémie mais aussi au développement du télétravail, devenu fortement recommandé (mais non pas obligatoire stricto sensu puisqu’il s’agit de droit mou). Les frais, également, de l’évolution des habitudes de travail des juristes, en cours depuis longtemps.

Je ne cherche pas à dire ici que le papier ne garde pas ses avantages ou que la coexistence du en ligne et de l’imprimé est dépassée, pas du tout [5]. Juste que l’époque est, quand même, on ne peut plus favorable au en ligne.

Et alors, me dira-t-on, où est le problème ? Il est dans l’augmentation exponentielle des risques qu’il y a à travailler en ligne et de la probabilité de leur réalisation. Et il n’y en a pas un, de problème ici, il y en a quatre.

1. Pandémie => ↑ du télétravail => ↑ du en ligne => ↑ des coûts

Il y a déjà un problème bien connu des gestionnaires de budgets et de collection : le coût. Les plateformes en ligne des éditeurs coûtent beaucoup plus cher que leurs équivalents papier, surtout pour les moyennes et grandes structures, avec la fréquente tarification au nombre d’utilisateurs (réels et plus encore, potentiels).

2. Pandémie => ↑ du télétravail => ↑ du en ligne => et en cas de panne/crash/bug/incendie/inondation ?

Pour les pannes, cela fait longtemps que certains documentalistes recommandent de faire ajouter une clause (dite clause pénale [6], même si c’est du droit civil) dans les conditions particulières du contrat [7] : en cas de panne totale de plus de 24h, on enlève, au prorata, la somme de la facturation.

Ajoutons les risques suivants, qui peuvent toucher les réseaux téléphoniques (ADSL) et informatiques (fibre, Transpac ...) et les systèmes informatiques de production et d’hébergement :

  • pannes chez les divers opérateurs :
    • sur le réseau téléphonique et fibre, particulièrement celui de l’opérateur historique Orange
    • chez un hébergeur, comme par exemple le français OVH
    • chez des intermédiaires essentiels, comme les sociétés spécialisées dans la mise à disposition de serveurs cache pour les entreprises (Content Delivery Netywork, CDN), notamment Akamai le 22 juillet 2021 [8] ou Fastly le 8 juin 2021
  • inondations
  • gel par grand froid (les poteaux téléphoniques ou électriques peuvent tomber)
  • tempêtes (idem supra). Exemple : décembre 1999
  • incendie.
  • etc.

Exemple d’incendie chez un hébergeur : un peu plus d’un data center entier (le SBG-2) de l’hébergeur OVH a été perdu par le feu à Strasbourg le 10 mars 2021. Au 10 mars : SBG1 : 4 conteneurs détruits. SBG2 : complètement détruit. SBG3 : salles et équipements OK, électricité coupée. SBG4 : idem SBG3.

Conséquences de l’ "OVH fire" sur les sites web hébergés :

  • OVH héberge la base de données Doctrinal de l’éditeur juridique Transactive : l’incendie du datacenter a signifié une semaine d’arrêt pour le Doctrinal, le temps de regrouper les sauvegardes et remonter le serveur et l’aplication [9]. Mais au 5 juillet 2021, les articles de la Revuye trimestrielle de droit financier (RTDF, publiée par Transactive) disponibles par le Doctrinal ne sont toujours pas revenus en ligne. Un message indique que l’éditeur y travaille ...
  • le site droit-technologie.org tenu par le cabinet Ulys était toujours inaccessible le 25 mars. Mais au 5 juillet 2021, il était en ligne
  • un message LinkedIn de Romain Rambaud remerciant le Club des Juristes de l’héberger temporairement indique que son Blog du droit électoral était "down". Au 25 mars, il était de retour
  • les bibliographies de l’Ecole nationale d’administration pénitentiaire (ENAP) sont également tojours KO au 25 mars
  • la Lexradio de l’éditeur juridique Lexbase était HS au 19 mars, mais il continuait ses émissions sur Youtube. Au 25 mars, le site était de retour mais les anciens contenus de Lexradio sont définitivement perdus, comme le reconnaît la page d’accueil du site
  • Lamyline, Actualités du droit (la newsletter de Lamy), Data.gouv.fr et le site Antidiscrimination.fr du Défenseur des droits ont été hors ligne totalement ou partiellement le 10 au matin — ces sites étaient de retour l’après-midi. Concernant les Actualités du droit, le site est bien rétabli au 19 mars, mais il semble que des données n’avaient pas été sauvegardées. Une collègue signale sur la liste Juriconnexion que « toutes les alertes qu’[elle avait] posées pour recevoir les informations par mail avaient disparu, et certains comptes personnels qu’[elle avait] créés n’existaient plus ». Cela a été confirmé par l’éditeur, qui cherche toujours à les récupérer mais conseille aux utilisateurs du site de les recréer
  • selon l’Agefi, « les médias spécialisés Stratégies et CB News (groupe MediaSchool) n’ont pas pu envoyer leurs newsletters le 10 matin. Maddyness, site d’actualité consacré aux start-up, était encore hors-service le 10 après-midi, tout comme News Assurance Pro, média consacré aux professionnels du secteur de l’assurance. [...] Et l’Autorité européenne des marchés financiers est également touchée par des pannes » [10]. Au 19 mars, Maddyness était toujours hors ligne, mais il était de retour au 25. News Assurance Pro était également en ligne au 25 mars.

NB : selon SolutionsNumériques.com :

  • « l’article 7.7 des conditions générales de vente d’OVHcloud prévoit l’incendie comme un cas de force majeure, ce qui l’exonère contractuellement de sa responsabilité dans ce cas. Il s’engage à indiquer par écrit les circonstances de l’événement et l’évolution de la situation aux clients concernés. Si elle dure plus de trente jours, le client est alors libre de mettre fin aux services ... »
  • « OVH hébergerait les 2/3 de l’Internet français ».

Même si un tel evénement est rare, voire très rare, OVH n’est pas et ne sera pas le seul à qui cela arrive. En 2018, c’est le datacenter de Tokyo du géant Amazon Web Services (AWS), numéro un mondial du secteur du cloud, qui disparaissait dans les flammes [11].

Voir aussi sur ce blog : Les hébergeurs des plateformes juridiques en ligne.


OVH Strasbourg le 10 mars 2021 : le data center SBG2 en flammes

3. Pandémie => ↓ du papier => besoin d’archives numériques

Il y a aussi le problème des archives non fournies : le client paye pendant des années pour des ouvrages à mise à jour, des revues et s’il se désabonne, il n’a plus rien. On conçoit l’impossibilité technique de délivrer des archives des ouvrages à mise à jour ou d’une base de jurisprudence [12]. En fait, on pense à une archive des revues en PDF, ni plus ni moins. Et comme les éditeurs juridiques sont de plus en plus nombreux à les publier sur leur plateforme en PDF, ça ne devrait pas être si compliqué ni si cher que ça ... [13]

4. Pandémie => ↑ du télétravail => ↑ du en ligne => ↑ des hacks

Mais il y a un dernier problème, qui va devenir crucial : les cyberattaques.

Illustration récente : un éditeur juridique est victime d’une cyberattaque : à partir du 18 février 2021, les sites de l’Afnor ont été hors ligne pendant une semaine entière, et étaient encore le 10 mars en mode dégradé. En interne, les équipes informatiques ont pris les mesures pour empêcher le ransomware Ryuk de continuer à se répandre.

La boutique en ligne des normes et ouvrages a mis entre une et deux semaines pour revenir en ligne. Entre temps, comment faire pour consulter ou acheter une publication Afnor si vous ne l’aviez pas gardée précieusement sur votre réseau interne ?

Depuis 2020, le problème est devenu plus que réel : incontournable. Hôpitaux, municipalités, grandes entreprises, même les spécialistes de la cybersécurité voient leurs réseaux informatiques infiltrés/cryptés. Il semble que toutes les catégories d’organismes soient touchées ou à (fort) risque. Et le délai de retour à la normale totale cité dans les articles sur le sujet oscille entre 3 semaines (le minimum selon l’ANSSI) [14] et plus souvent 2 mois. Et là, comme pour l’incendie ou l’inondation, la disponibilité de sauvegardes hors site (et en plus "air gap") est capitale. Ce n’est pas pour rien que ces derniers temps, face à l’épidémie de rançongiciels ("ransomware"), on voit refleurir les sauvegardes sur bandes (ex-cassettes DAT).

Pouvez-vous vous passer de votre abonnement Navis, Lexis 360, Lamyline, Dalloz.fr, Lexbase, Revue Fiduciaire (Groupe RF) ou Lextenso pendant deux semaines ? Y a-t-il assez de documentation gratuite en ligne pour vous permettre de traiter les questions posées par les contentieux que vous traitez, surtout si vous n’avez pas de bibliothèque papier interne ?

Ajoutons que les CGV des éditeurs ne prévoient aucune indemnisation en cas de panne ou bug de leurs plateformes et aucun "dépannage" sous forme de fourniture d’archive numérique (cf supra).

J’ajouterai enfin que l’ANSSI, la Gendarmerie et le Gouvernement recommandent de plus en plus vocalement aux organismes touchés par des ransomwares de ne pas payer la rançon demandée. De toute manière, vu la situation, les primes des assurances cyber ne peuvent qu’augmenter en flèche. Selon S&P, les primes de cyber-assurance pourraient augmenter de 20 à 30% par an [15].

L’édition juridique est allée très loin dans la diffusion en ligne, éphémère. Vu les sommes et les risques croissants en jeu, il faudrait faire revenir le balancier vers la conservation sur site, durable elle. Et qui peut être sous forme d’archive numérique ... ou papier, eh oui !

Emmanuel Barthe
bibliothécaire documentaliste juridique

PS : les conservateurrs, bibliothécaires et documentalistes ont eux aussi un devoir de préserver les collections qu’ils gèrent avec un plan de continuité d’activité (PCA).Voir Sauvegarder son patrimoine et ses donnée, par Clotilde Vaissaire-Agard, CF2ID, 17 mars 2021.

Les robots, avocats et juges de demain ? Pas vraiment ... Mais la contrainte budgétaire y pousse

Intelligence artificielle en droit : derrière la "hype", la réalité

Justice prédictive, legal tech, analyse de contrats, Ross, Case Law Analytics, Predictice, Softlaw, Hyperlex, Minority report, machine learning, réseaux neuronaux, NLP, Big data etc.

Lundi 19 juillet 2021

Lire la suite »

[Ce "paper", initialement publié en janvier 2017, est régulièrement mis à jour. Une version plus courte et plus synthétique a été publiée à la Semaine juridique édition Générale (JCP G) du 8 avril 2019 sous le titre "Les outils de l’intelligence artificielle pour le droit français".]

Legal tech, justice prédictive et plus encore "intelligence artificielle" (IA) en droit sont devenus des sujets à la mode depuis 2015-2016 [16].

Mais discours marketing et flou sur les technologies comme sur les performances sont légion dans la majorité des articles disponibles — qui ressemblent souvent plus à de la communication qu’à de l’information.

De qui et de quoi parle-t-on exactement quand on parle d’IA : quelles sociétés, quelles fonctions, quelles technologies ?
Quels sont les outils juridiques méritant l’appellation IA ?
Quels sont les véritables risques pour l’emploi des professionnels du droit (avocats, stagiaires, juristes d’entreprise, magistrats, notaires) et de leurs "paralegals", documentalistes et veilleurs ?
Quels sont, également, les risques de la justice prédictive ?

C’est le sujet de ce billet, qui vise à démystifier les fonctionnalités et performances des applications présentées comme des "IA" (intelligences artificielles) en droit, tant pour le présent que pour le futur. Il s’appuie sur la lecture d’une bonne partie de la littérature disponible et sur des discussions personnelles avec certains acteurs et utilisateurs.

Résumé / Executive summary (TL ;DR)

En neuf points pour ceux qui sont pressés :

1. L’intelligence artificielle est d’abord un champ de recherche et un terme de marketing très vendeur mais fourre-tout. Les spécialistes la définissent comme la frange la plus avancée de l’informatique. Autrement dit, les réalisations dignes de ce nom, particulièrement en droit, sont rares. Le reste, c’est de l’informatique très classique.

2. Techniquement, l’IA en droit se caractérise par l’utilisation combinée :

  • du Big data
  • du machine learning (ML), de plus en plus utilisé à la place des regex (recherche de chaînes de caractères)
  • de calculs de probabilité, avec toutes les limites des statistiques
  • et surtout du traitement du langage naturel (TAL) — en anglais "natural language processing" (NLP). Soit (cas rare jusqu’en 2020) dopé par le machine learning et l’analyse syntaxique, soit (cas moins fréquent depuis 2020) à base de systèmes experts s’appuyant eux-mêmes sur les chaînes de caractères. Ce qui signifie que les soi-disant "intelligences artificielles" en droit sont en fait a) des moteurs de recherche de nouvelle génération (tous) et b) des systèmes d’aide à la décision (en France, uniquement Predictice et Case Law Analytics). Pas des cerveaux juridiques
  • et de systèmes experts, où on formalise l’expertise de spécialistes, notamment par le biais d’arbres hiérarchiques ou dans le domaine du vocabulaire (ce qui participe au TAL).

3. La valeur créée par l’intelligence artificielle provient des données nécessaires à l’apprentissage bien plus que de l’algorithme, dont les développements se font en open source. Autrement dit, les données comptent plus que les logiciels. Cela devrait permettre aux éditeurs juridiques français traditionnels, actuellement à la traîne, de revenir dans la course car ce sont eux qui détiennent les données les plus riches en droit français, tout particulièrement la doctrine.

4. Si on a beaucoup parlé de Ross, l’IA d’IBM, c’est d’abord grâce à une offensive marketing et communicationnelle de première ampleur. Mais ses performances réelles sont en deçà de sa réputation. Elle ne fait que de la recherche et de l’analyse sur la jurisprudence de droit américain dans des domaines précis, comme les faillites ou la propriété intellectuelle.

5. A plus faible dose mais régulièrement depuis une dizaine d’années, Westlaw et Lexis Advance intègrent des petits bouts d’IA, essentiellement du NLP pour améliorer la pertinence des recherches par une sorte de synonymie et de désambigüisation améliorées, mais aussi, depuis peu, par des statistiques par juge ou avocat.

6. Cet accent sur la recherche et la justice dite "prédictive" (la traduction correcte de l’anglais est "justice prévisible") fait oublier que le type d’application d’IA juridique le plus répandu sont probablement les logiciels de "contract review" (détection, analyse et classification de clauses dans les contrats anglo-saxons) : eBrevia, Kira ou Luminance par exemple.

7. En droit français, à l’heure actuelle, seul un nombre limité d’applications peuvent prétendre à être qualifiées d’IA :

  • en "contract review", Softlaw et Hyperlex
  • en justice (dite) prédictive, Case Law Analytics, Predictice et Legalmetrics de Lexbase [17]. Tous ne travaillent que sur la jurisprudence, à l’exclusion du contentieux pénal, Case Law Analytics ayant une approche très délimitée et haute couture, quand Predictice est de facto plus axé sur le droit du travail et la responsabilité civile. On peut à la limite ajouter le pionnier Jurisprudence chiffrée de Francis Lefebvre, qui travaillait déjà sur le langage naturel en 2010. Les apports de ces applications : une recherche facilitée, et le calcul du montant prévisible des dommages-intérêts et des chances de gagner un procès. Cet apport ne suffit pas toujours à convaincre les magistrats, qui disposent d’outils internes mieux adaptés (barèmes), mais suscite l’intérêt croissant des cabinets d’avocats et des assureurs
  • sur les textes officiels, RegMind de Luxia, une application de veille et de suivi automatiques du droit bancaire et financier.

7. Les risques de suppression nette d’emplois dans le secteur juridique sont un sujet de débat mais il demeure que la recherche par mot-clés va être grandement simplifiée, que les tâches simples et "découpables" seront automatisées et que les collaborateurs, les "paralegals" et les documentalistes juridiques devront apprendre à travailler avec l’IA (et non à côté d’elle), autrement dit à l’utiliser et l’améliorer. Quant à l’IA connectée au cerveau, même si des recherches existent, on en est très loin.

8. La justice dite prédictive pourrait entraîner de sérieux risques (mais ce n’est pas démontré en l’état actuel des outils), au premier plan desquels le jugement sur des critères obscurs et le conformisme des juges à ce qui a déjà été jugé. Des limites légales existent déjà et des parades techniques sont proposées, notamment l’open source du code ou des tests de vérification à partir de jeux de données. La justice dite prédictive a pour avantage de faciliter le calcul des chances de gagner ou perdre un contentieux, ce qui pousse à la transaction et peut réduire l’encombrement des tribunaux, confrontés à un sous-financement budgétaire. Exécutif et législatif poussent clairement à la roue puisqu’avec la loi de réforme de la Justice du 23 mars 2019 et son décret d’application du 11 décembre 2019, la conciliation ou médiation préalable est devenue obligatoire pour les litiges en dessous de 5000 euros et les conflits de voisinage (même si les textes d’application ... compliquent le versant certification — optionnelle — de cette réforme [18])

9. En conclusion, vu l’importance des enjeux et en même temps le fossé entre la com’ et les fantasmes d’une part et la réalité d’autre part, nous recommandons fortement de tester par soi-même ces nouvelles applications. Aucune n’étant en open source ni disponible en démo gratuite, il est nécessaire de se faire sa propre opinion, par soi-même.

Sommaire

Un sujet très tendance depuis 2016

Début janvier 2017, Les Echos publient un article au titre provocateur : Les robots seront-ils vraiment les avocats de demain ?.

En fait, ses auteurs, Pierre Aidan, cofondateur de Legalstart.fr [19] et Florence Gsell, professeur de droit à l’université de Lorraine et ancien conseiller scientifique du Conseil national des barreaux (CNB) de 2007 à 2017, réagissent, dans le but de rassurer les professions judiciaires, à un autre article.

Ce dernier, beaucoup plus provocateur sur le fond, a été publié en octobre 2016 à la Harvard Business Review, par le célèbre consultant en informatique juridique britannnique Richard Susskind et son fils Daniel, économiste : Technology Will Replace Many Doctors, Lawyers, and Other Professionals (Les nouvelles technologies remplaceront beaucoup de médecins, juristes et autres professionnels libéraux). Cet article est en fait un résumé du dernier ouvrage des Susskind publié en octobre 2015 : The Future of the Professions : How Technology Will Transform the Work of Human Experts (Le futur des professions libérales : comment les nouvelles technologies vont transformer le travail des experts humains, Oxford University Press, OUP) [20]. Quant au consultant américain Jaap Bosman, son ouvrage Death of a law firm (Mort d’un cabinet d’avocats) prédit la fin du "business model" actuel des cabinets d’avocats en soulevant l’épineuse question de la standardisation du service juridique grâce à l’intelligence artificielle (IA) [21].

Et en novembre 2016, la journaliste britannique Joanna Goodman [22] publie Robots in Law : How Artificial Intelligence is Transforming Legal Services (Les robots juridiques : comment l’intelligence artificielle transforme les services juridiques, Ark Group) [23].

Toujours début janvier 2017, la Semaine juridique publie, elle, une étude d’Antoine Garapon, magistrat, secrétaire général de l’Institut des hautes études sur la Justice (IHEJ) et spécialiste reconnu des questions de justice, intitulée « Les enjeux de la justice prédictive » [24]. Et pour ne pas être en reste, le Recueil Dalloz s’empare aussi du sujet avec une tribune de Marc Clément, Premier conseiller à la cour administrative d’appel de Lyon [25]. C’est la newsletter Dalloz Actualité qui a publié peut-être un des meilleurs articles sur le sujet : L’intelligence artificielle va provoquer une mutation profonde de la profession d’avocat, par Caroline Fleuriot, 14 mars 2017. Le seul reproche que je ferais à cet article est de reprendre, sans recul, des phrases chocs, excessives, destinées à impressionner ou à faire peur [26].

La revue Expertises, enfin, publie en janvier 2017 une interview de Rubin Sfadj, avocat aux barreaux de Marseille et New York et grand blogueur et twitteur devant l’Eternel. Interview portant sur l’IA juridique [27] et plus concrète et plus claire — plus tranchée, peut-on dire — que les deux articles précédents.

Depuis fin 2016, donc, le sujet ne quitte plus la Une des revues juridiques françaises, de la presse économique et des nombreux sites consacrés à la "French legal tech".

C’est en fait depuis les premiers succès commerciaux de ROSS Intelligence, l’IA d’IBM en droit [28], que l’attention des médias s’est portée sur l’IA appliquée au domaine du droit. Depuis l’application du système de machine learning Watson développé par IBM au droit américain des faillites ou de la propriété intellectuelle, l’intelligence artificielle (IA) en droit est devenue tendance [29]. On parle beaucoup aussi de justice prédictive.

A lire aussi sur ce même sujet :

On peut rapprocher ces publications d’une note de McKinsey (décembre 2016) sur le futur du travail [30]. Elle prévoit dans le monde entier une automatisation croissante des tâches, pouvant supprimer 5% des emplois actuels et en modifier beaucoup plus.

Toujours selon McKinsey (avril 2018), ce ne sera pas le secteur des professions juridiques ni même celui des consultants ou des professions libérales qui devrait le plus bénéficier — en terme de création de valeur/augmentation de revenus — de l’IA mais la vente et le marketing (services aux clients, recommandations d’achat, tarification dynamique), la logistique et la production (maintenance prédictive) et le voyage (Bookings.com, Liligo, Trainline et autres comparateurs de prix d’hôtels et de billets d’avion et de train) [31].

De quoi parle-t-on exactement ? Ou comment définir les legal tech et l’IA en droit aujourd’hui

Les différents types de technologies utilisés en "IA"

Les différents types de technologies utilisés en "IA" (NB : pas de robotique en droit et la "vision" mentionnée dans ce schéma recouvre en fait le machine learning (ML) et d’autres technologies)

Pour comprendre où en est l’intelligence artificielle en droit, il faut savoir de quoi on parle. Et pour savoir de quoi on parle, il faut bien commencer par des catégories et des définitions. Le premier stade de ce travail de définition et de catégorisation, c’est celui des technologies utilisées et des entreprises impliquées.

Définir l’intelligence artificielle

Il faut définir les technologies, car s’en tenir à la définition d’origine de l’intelligence artificielle, vu son flou, est impossible. Les nombreuses définitions que nous avons collectées, une fois comparées et combinées, aboutissent à deux conceptions de l’IA.

La première, officielle et héritée d’un des fondateurs de la "discipline", comporte trois éléments :

  • l’IA est un :
    • ensemble de techniques
    • ET/OU une discipline
  • l’IA simule l’intelligence humaine. Plus précisément, elle exécute des fonctions associées à l’intelligence humaine.

La notion de simulation (on ne reproduit pas mais on fait comme si) présente dans cette première conception est très importante, non seulement dans la définition de l’IA, mais aussi comme critère très concret permettant de trier le bon grain de l’ivraie, i.e. distinguer l’IA juridique rigoureuse de solutions qui en fait ne font que s’en approcher, particulièrement en justice dite "prédictive". Simuler est un critère exigeant : il faut s’approcher très près du même résultat par d’autres moyens.

Cette première conception illustre aussi un autre point essentiel de l’IA juridique : il ne s’agit pas réellement d’intelligence, mais de fonctions, de petits morceaux. Il n’ya pas de globalité.

La deuxième conception insiste sur :

  • l’aspect promotionnel du terme
  • et sur le fait que l’IA surfe sur les technologies informatiques les plus avancées.

Cette deuxième conception offre l’avantage d’une plus grande franchise et d’une plus grande clarté. Elle est donc plus facile à appliquer.

Une troisième conception, enfin, propose une conception fondée sur l’autonomie et l’adaptativité. Elle a l’avantage de décrire le mieux l’IA telle qu’on la pratique aujourd’hui (machine learning), deep learning).

Voyons les différentes définitions en détail.

Le terme « intelligence artificielle », créé par John McCarthy, est défini par l’un de ses créateurs, Marvin Lee Minsky, comme « la construction de programmes informatiques qui s’adonnent à des tâches qui sont, pour l’instant, accomplies de façon plus satisfaisante par des êtres humains car elles demandent des processus mentaux de haut niveau tels que : l’apprentissage perceptuel, l’organisation de la mémoire et le raisonnement critique ». La définition du Larousse est un peu moins floue mais reste insuffisante : « l’ensemble des théories et des techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence ».

Elle est proche de celle adoptée par la norme ISO/IEC 2382 Vocabulaire des technologies de l’information : « Capacité d’une unité fonctionnelle à exécuter des fonctions généralement associées à l’intelligence humaine, telles que le raisonnement et l’apprentissage ». Voici enfin la définition de l’IA par le meilleur dictionnaire de langue française, celui élaboré par l’ATILF [32], le Trésor de la langue française (TLF) : « Intelligence artificielle : recherche de moyens susceptibles de doter les systèmes informatiques de capacités intellectuelles comparables à celles des êtres humains ».

Dans la même veine, selon Jean-Gabriel Ganascia, chercheur au Laboratoire informatique de Sorbonne-Université (LIP6) et président du comité d’éthique du CNRS, l’IA « désigne une discipline scientifique qui a pour but de décomposer l’intelligence en fonctions élémentaires, au point qu’on puisse fabriquer un ordinateur pour les simuler » [33].

Le philosophe et chercheur en sciences de l’information et de la communication Pierre Lévy, avec franchise, définit, lui, l’IA de manière plus tranchée et, de fait, plus claire : « L’intelligence artificielle est une expression de type "marketing" pour designer en fait la zone la plus avancée et toujours en mouvement des techniques de traitement de l’information » [34].

Robert Bentz, qui a créé et dirigé une équipe de cinquante personnes spécialisée en IA au sein du Commissariat à l’énergie atomique (CEA) écrit, dans une tribune au Monde : « La mise au point de ces algorithmes n’a jamais prétendu faire appel à l’intelligence artificielle, mais plutôt à des modèles mathématiques, de la linguistique, du traitement du signal. Alors pourquoi parler de solutions d’intelligence artificielle ? [...] Oui, l’informatique nous aide par sa rapidité, mais en rien par une intelligence non démontrée. Ce que nous appelons intelligence artificielle, doit se nommer algorithmique rapide, évoluée ou avancée » [35].

Cet aspect « avancé » est aussi ce sur quoi Jean-Gabriel Ganascia insiste : « certains [dans les années 1990] préféraient parler d’“informatique avancée” ou d’“intelligence augmentée” » (qui permettent en plus de conserver l’acronyme « IA »). Luc Julia, cocréateur de Siri (Apple), penche pour cette dernière expression, en soulignant que « c’est notre intelligence à nous qui est augmentée ». Mais, reconnaît-il, « c’est compliqué de changer de terme maintenant, c’est entré dans le langage courant, c’est utilisé depuis soixante ans… C’est l’image qu’il y a dans la tête des gens qu’il faut changer. On a fait une erreur dans le terme, maintenant il faut expliquer ce qu’il y a derrière » [36].

L’Université d’Helsinki, dans son remarquable cours en ligne (MOOC) d’initiation à l’IA, si elle reconnaît l’absence de définition officielle de l’intelligence artificielle, propose de dépasser la définition — trop simple — proposée plus haut d’informatique avancée. Ce cours, intitulé Elements of AI, propose une définition de l’IA centrée sur l’autonomie et l’adaptativité. Pour citer le cours : « Autonomie : capacité d’effectuer des tâches dans des environnements complexes sans être constamment guidé par un utilisateur. l’adaptativité : capacité d’améliorer le rendement en tirant des leçons de l’expérience. » [37] Cette définition est certes reliée aux technologies qui dominent actuellement le domaine de l’IA : le machine learning, et plus particulièrement le deep learning et ses réseaux de neurones. Mais comme nous allons le voir, elle éclaire assez bien le champ de l’IA en droit.

Autonomie et adaptativité : ce sont des critères qu’on retrouve mis en avant dans la définition très détaillée adoptée par le Parlement européen dans ses trois recommandations sur l’IA du 20 octobre 2020 proposant un règlement européen sur l’IA : « système qui est soit fondé sur des logiciels, soit intégré dans des dispositifs matériels, et qui fait preuve d’un comportement intelligent, notamment en collectant et traitant des données, en analysant et en interprétant son environnement et en prenant des mesures, avec un certain degré d’autonomie, pour atteindre des objectifs spécifiques » [38].

Aspect marketing et hype

Le but marketing cité par Pierre Lévy [39] se voit dès l’origine même du terme "intelligence artificielle". Selon Tom Morisse, research manager chez Faber Novel : « si le mathématicien de formation John McCarthy utilise ces mots pour proposer le Dartmouth Summer Research Project — atelier de l’été 1956 que beaucoup considèrent comme le coup d’envoi de la discipline — c’est autant pour la distinguer des travaux connexes qu’étaient la théorie des automates et la cybernétique que pour la doter d’une définition idoine » [40].

L’aspect marketing est toujours très prégnant, aujourd’hui, dans les produits estampillés "IA". Concrètement, les "tech" se sont retrouvées dans une ruée vers l’or de l’intelligence artificielle. Mais, comme le dit Meredith Whittaker, cofondatrice d’AI Now et dirigeante du groupe Google Open Research, à The Verge, « de nombreuses affirmations sur les avantages et l’utilité de l’intelligence artificielle et des algorithmes ne sont pas étayées par des preuves scientifiques publiquement accessibles » [41]. Ses propos sont recoupés par ceux d’Olivier Ezratty sur FrenchWeb : « L’IA est parée de capacités qu’elle n’a pas encore et n’est pas prête d’avoir. On est en pleine construction d’une vision mythique de l’IA, basée sur des mécanismes de propagande de l’innovation [...]. Ces mécanismes sont amplifiés par la communication marketing des fournisseurs tels qu’IBM et Google qui embellissent toujours la mariée, par une stratégie de la sidération, par la difficulté de vérifier les faits avancés ou la fainéantise intellectuelle ambiante, et par l’absence généralisée de connaissances techniques sur l’IA, même chez la majorité des spécialistes du numérique » [NB : notamment chez les journalistes et les prospectivistes] [42]

En fait, l’IA est d’abord une idéologie, et non une technologie, selon deux chercheurs travaillant chez Microsoft [43]. Plus précisément, écrivent-ils : « En fait, le plus grand avantage de la Chine en matière d’IA est moins [leur industrie et leurs données] de surveillance qu’une vaste main-d’œuvre de l’ombre qui labelllise (met des "étiquettes") activement les données introduites dans les algorithmes. [...] Des recherches récentes ont montré que sans la création des êtres humains qu’est Wikipedia, la valeur des moteurs de recherche s’effondrerait (puisque c’est là que se trouvent souvent les meilleurs résultats de recherches substantielles), et ce, quand bien même les services de recherche sont présentés comme des exemples de première ligne de la valeur de l’IA. »

Mike Mallazzo, un spécialiste du marketing pour applications et e-commerce, est allé plus loin dans un post Medium de juin 2019, en affirmant que « les startups rebaptisent sans vergogne les algorithmes rudimentaires d’apprentissage machine comme l’aube de la singularité, avec l’aide d’investisseurs et d’analystes qui ont un intérêt direct dans le développement du battage publicitaire. » Selon M. Mallazo, « la définition de l’intelligence artificielle devient [alors] si confuse que toute application du terme devient défendable. » [44] Il cite notamment cet article de Devin Coldewey publié sur Tech Crunch en 2017 : ‘AI-powered’ is tech’s meaningless equivalent of ‘all natural’ ("IA" est l’équivalent technologique et sans signification de "naturel"). Pour Mike Mallazo, les journalistes (américains) savent parfaitement que c’est du « f...age de gu... » mais y sacrifient sans problème.

On peut faire un parallèle avec les promesses de l’IA en matière de finance, de spéculation boursière et de banque. Citons ici deux [articles du Financial Times, le premier signé par un "founder and chief investment officer", un professionnel du "trading", qui pourrait en large part être appliqué à l’IA en droit [45] :
« Ne croyez pas la "hype" à propos de l’IA et de la gestion de fonds. L’apprentissage machine peut générer des améliorations marginales mais rien de véritablement transformationnel. [...] [un autre problème] est qu’un système d’IA tire des leçons du passé. Or en finance, le passé n’est pas un bon guide pour l’avenir. [...] Si on veut qu’un système d’IA réagisse rapidement aux événements, il doit construire un modèle sur une histoire très courte, ce qui réduit la quantité de données dont le système peut tirer des enseignements. [...]
Enfin, [dans] les données financières, [...] bien qu’il ne soit pas entièrement aléatoire, le rapport signal/bruit est certainement faible. Dans les domaines où l’IA a été couronnée de succès, ce n’est généralement pas le cas. [...]
Bien qu’il soit peu probable que l’IA crée de nouvelles sources de revenus "scalables", elle s’avère utile dans des tâches plus banales. L’IA est très efficace pour nettoyer les données et pour détecter des caractéristiques intéressantes dans des ensembles de données gigantesques, par exemple. »

Des spécialistes de l’IA dans les banques font le même constat [46]. Pour Foteini Agrafioti, responsable de Borealis, la branche de recherche sur l’IA de la Banque Royale du Canada, « il y a trop de gens qui font ces déclarations [sur les coûts élevés et l’impact sur l’emploi]. Les problèmes que nous avons résolus sont très limités. » Le professeur Patrick Henry Winston, qui a dirigé le laboratoire d’IA du MIT entre 1972 et 1997 et désormais titulaire de la chaire Ford au même MIT, partage les préoccupations de Mme Agrafioti concernant les limites de l’IA : « Une grande partie de ce dont vous avez besoin pour remplacer les gens qui pensent n’est pas à la portée des systèmes d’intelligence artificielle actuels, qui sont en réalité plus perceptifs que cognitifs. Quand le cognitif arrivera-t-il ? In fine, oui, il arrivera, mais ma boule de cristal est trouble sur le timing. Peu de personnes travaillant sur l’IA aujourd’hui travaillent réellement sur le côté cognitif. »

Tout récemment (septembre 2020), ce sont les Echos eux-mêmes — pourtant de chauds défenseurs des start-ups (ils leur consacrent une rubrique spécifique) — qui soulignaient que « l’intelligence artificielle cale : si les applications se multiplient dans les entreprises, les révolutions grand public de la voiture autonome ou des assistants personnels nécessiteront de nouvelles avancées conceptuelles dont nous sommes encore bien loin » [47]. En citant même l’inévitable Yann Le Cun, qui demande de la patience : selon l’article, « l’idéal serait de disposer de machines capables d’inférences causales, c’est-à-dire d’établir directement toutes les relations causes-effets possibles entre des modèles (si je pousse ce verre, il bascule, et la table est mouillée…). Mais c’est alors tout le modèle conceptuel de l’IA qu’il faudrait revoir. » L’article cite aussi Jean-François Gagné, cofondateur et PDG d’Element AI, un éditeur canadien d’algorithmes : « L’IA, telle que nous la connaissons aujourd’hui, ne peut pas faire de miracle si elle ne dispose pas de données à partir desquelles apprendre » (ce qui prend tout son sens en droit quand on sait le manque de décisions pénales disponibles et plus encore le manque de motivation en fait et en droit de celles disponibles, cf infra).

Jeremy Kun, professeur de mathématiques, programmeur en machine learning (maths et stats sont au coeur du ML) et ingénieur informatique chez Google, le dit encore plus abruptement — et qui plus est de manière générale — sur son compte Twitter : « Les personnes qui veulent classifier les sexes de manière algorithmique doivent faire beaucoup plus d’efforts pour trouver de vrais problèmes à résoudre. Je commence à penser que les applications de ML sont des pièges pour les paresseux qui ne veulent pas apprendre la connaissance du domaine sur quoi que ce soit. » [48]

L’IA, une discipline ?

Le terme même de discipline, pour l’IA, est sujet à caution. Certes, la norme ISO 2328 et Jean-Michel Ganascia cités plus haut la qualifient de discipline — qui plus est expressément, pour J.M. Ganascia.

Mais il ne s’agit pas d’une discipline scientifique bien délimitée. On emploiera plus facilement les termes de matière, de sujet ou encore de champ de recherches. En ce sens, voir la partie 7-1.1 Les disciplines de l’intelligence artificielle de la thèse de Daniel K. Schneider sur la Modélisation de la démarche du décideur politique dans la perspective de l’intelligence artificielle [49] :

« L’intelligence artificielle n’a pas d’objet de recherche académique bien défini à part l’intérêt porté au "mental" et aux représentations de connaissances. Elle s’est divisée en de nombreuses sous-disciplines focalisant sur des problèmes bien distincts (tel que la vision, la résolution de problèmes, la compréhension du langage, l’apprentissage,...). Il n’existe pas de paradigme unifié de recherche et certaines branches de l’IA sont devenues des terrains d’échanges multidisciplinaires où se côtoient philosophes, psychologues, informaticiens et autres qui s’intéressent aux divers problématiques de l’intelligence. »

Il y a donc des technologies, qu’il faut distinguer les unes des autres, et derrière ces technologies, il y a des applications (des logiciels, si vous préférez) et leurs développeurs, grosses sociétés de l’informatique et de l’Internet ou start-ups, l’ensemble des sociétés travaillant sur l’application des technologies informatiques au droit étant communément appelé les "legal tech" [50]. Les entreprises et les produits d’IA en droit sont un sous-ensemble des legal tech. Pour autant, il faut bien distinguer l’IA de l’ensemble des legal tech.

Que font les legal tech ?

Le Lexique des termes juridiques [51] définit les legal tech (ou legaltech) comme d’une part, « le recours à la technologie et aux logiciels pour offrir des services juridiques » et d’autre part, « l’ensemble des jeunes entreprises (dites start-up) exploitant les technologies de l’information dans le domaine juridique afin de proposer des services innovants ».

On notera au passage à quel point le terme "legal tech" isole voire rejette les éditeurs traditionnels de logiciel juridiques (comme par exemple les logiciels de gestion de cabinet d’avocats ou de gestion juridique des sociétés) et plus encore les éditeurs juridiques traditionnels [52]. Du style : les jeunes contre les vieux. Toute une stratégie marketing et communicationnelle dans une expression "legal tech", alors que les éditeurs juridiques font de l’informatique juridique depuis les années ’90 [53] Et même si les plateformes en ligne actuelles de certains peuvent manquer d’ergonomie ou de rapidité, ce n’est déjà plus le cas de Service Public, Lexbase, Lextenso voire la nouvelle version de Lamyline.

Pour sa granularité/précision, on reprendra ici la liste très complète de Benoît Charpentier développée dans son article précité. Les legal tech « proposent de très nombreux services et produits, comme :

  • le calcul de probabilité concernant les décisions de justice [ça, c’est de l’IA. De l’IA (très) faible, mais de l’IA. Voir plus loin pour les explications]
  • le financement de contentieux (third-party litigation funding)
  • les plateformes d’actions collectives
  • la génération automatisée de documents juridiques dynamiques [ici aussi, il peut y avoir de l’IA (très) faible]
  • le déploiement de systèmes intelligents ou d’intelligence artificielle (fondés par exemple sur le machine learning, notamment ses variantes natural language processing et deep learning)
  • les plateformes de mise en relation avec des professionnels du droit
  • les solutions cloud
  • l’édition de logiciels spécialisés
  • la résolution de litiges non contentieux en ligne
  • les procédures d’arbitrage en ligne
  • les procédures de divorce en ligne
  • la signature électronique
  • la certification de documents (par exemple grâce à la technologie blockchain)
  • la réalisation de formalités et de dépôts en ligne (mise en demeure, acte introductif d’instance)
  • la visualisation de données complexes issues du Big Data
  • la programmation de contrats intelligents (smart contracts)
  • la mise en oeuvre d’outils collaboratifs
  • la revue de documents assistée par la technologie (Technology Assisted Review (TAR)) [il peut y avoir de l’IA]
  • les outils de conformité
  • les outils de calculs fiscaux
  • les outils de gestion et de production des actes courants de la vie des sociétés, notamment des assemblées générales et coseils d’administration
  • les outils de gestion de contrats (contract management, audit de contrats) [auxquels j’ajouterais les outils d’automatisation (partielle) de la production de contrats]
  • les outils de recherche juridique [là aussi, il peut y avoir de l’IA. Toujours (très) faible] ».

Une autre classification, plus resserrée mais moins évocatrice, est disponible sur l’article de Case.One (une de ces legal tech) LegalTech 2018 : où allons-nous ? (janvier 2018) :

  • information juridique
  • rédaction d’actes
  • litiges en ligne
  • mise en relation [avec des avocats]
  • outils métier [pour avocats ou juristes d’entreprise].
  • IA/machine learning/justice prédictive. Selon une enquête réalisée fin 2018 par le site d’actualité des startups Maddyness et les Actualités du droit (Wolters Kluwer), 19% des legal tech disent utiliser l’IA dans leurs technologies mais 13% seulement selon l’annuaire des legal tech du Village de la Justice [54]. En réalité, et au vu des startups listées dans le segment IA dans l’annuaire du Village de la Justice si on s’en tient à une définition stricte de l’IA (voir infra), le chiffre est probablement encore plus faible.

Qui sont ces legal tech ?

Il existe une liste gratuite, fiable et quasi-exhaustive des legal techs françaises ou implantées en France (PDF), celle de Benoît Charpentier, consultant et avocat, mais elle date de début 2017. En décembre 2018, Florian Herlicq, product manager de LegalCluster, une legal tech elle-même, a entrepris de mettre à jour sa liste Les 100+ de la Legaltech française [55]. Une autre liste est celle de l’annuaire des legal tech du Village de la Justice, certes autodéclaratif, mais qui a l’avantage d’être mis à jour en continu. Pour une liste mondiale, voir [56] :

A mon goût, beaucoup de ces initiatives sont certes "legal" mais leur degré d’innovation en "tech" est faible : par exemple, simple mise en ligne de formulaires ou intermédiation entre avocats et prospects. Comme l’écrit de manière inconoclaste et pourtant très justement Martin Bussy, président de Legal Innovation, société de conseil stratégique et transformation digitale pour les professionnels du droit, « on est plutôt sur du "techwashing", technique consistant à faire passer des solutions classiques pour des innovations » [57]. Alors voici une liste personnelle de legal tech françaises (ou plutôt présentes en France), non triée, forcément incomplète mais tendant à se focaliser sur l’innovation technologique (machine learning, big data, analytics, langages de programmation simplifiés pour juristes, moteurs de recherche améliorés ...) :

Sur la production partiellement automatisée de contrats pour TPE et particuliers, voir le rigoureux comparatif — plus précisément une « évaluation de la qualité d’un “contrat de prestations de services” généré “en temps réel” » — publié par Philippe Gabillault (Toltec) fin janvier 2019 : Contribution #3–10 Legal Techs au banc d’essai..

Pour une liste quasi-exhaustive des legal tech exerçant sur le territoire français, voir la liste en annexe de la thèse de Bertrand Cassar, La transformation numérique du monde du droit (décembre 2020) p. XVIII [63].

A noter, car très souvent citée par les articles présents sur le Net mais non présente en France : DoNotPay conteste les PV de stationnement en justice sans avocat et avec un taux de succès important. Selon Olivier Ezratty, « l’ensemble exploite IBM Watson, ce qui montre qu’avec un peu de détemination une personne isolée peut le paramétrer efficacement » [64].

NB : l’importance de la legal tech française est très surévaluée. Comme l’écrit Martin Bussy début 2021 (le gras est de nous) [65] :
« Sur le plan du financement, la legaltech française et ses 220 start-up référencées ont levé 52 millions d’euros en 2019 (dont 32 millions par cinq start-up seulement). De l’autre côté de l’Atlantique, ce sont 1,6 milliard de dollars qui ont été investis. C’est un rapport de 1 à 30, très supérieur à l’écart de taille de marché (32 milliards d’euros contre 314 milliards). En Europe, la France est distancée par l’écosystème britannique (61 millions de livres sterling en 2018 soit 80 millions d’euros levés).
En tout, les legaltechs françaises représentent à peine 1,2 % de l’ensemble des levées de fonds de toutes les start-up en France en 2019. Ce n’est pas négligeable, mais cela correspond tout au plus au poids du droit dans l’économie. Malgré le retard digital du secteur, il n’y a aucun rattrapage en cours, mais plutôt une sorte d’autosatisfaction fondée sur les quelques belles opérations réalisées.
Du côté de la demande, en l’absence de données précises sur les investissements, les chiffres d’affaires ou même les usages, il est ardu de tirer des conclusions. On peut néanmoins s’interroger sur la réelle prise de conscience des clients (avocats, notaires, juristes). Une étude présentée en juillet 2019 parlait d’absence de marché du côté des clients. Le nombre de cabinets ou d’études utilisant véritablement des legaltechs au quotidien est extrêmement réduit. Les Ordres professionnels sont encore conservateurs sur ces sujets et accompagnent de loin l’innovation, sans exercer de pression au changement. »

Et on ne parle pas du chiffre d’affaires ...

IA juridique ancienne (logiciels experts) et IA juridique récente (ML, NLP)

Attention : très peu parmi ces sociétés se rangent dans la catégorie de l’intelligence artificielle telle qu’on la pratique aujourd’hui, autrement dit une IA à base de machine learning et/ou de traitement du langage naturel (natural language processing, NLP).

Beaucoup se rangent dans les logiciels experts, une catégorie d’IA déjà ancienne à laquelle le cloud donne une nouvelle jeunesse mais qui n’est pas de l’IA telle qu’on la voit aujourd’hui (sur les logiciels experts et l’IA récente, voir infra). Cette IA "à l’ancienne" de type logiciel expert peut être très efficace si ses concepteurs ont accumulé beaucoup d’expérience et à condition de ne pas lui en demander trop. L’exemple le plus connu et le plus utilisé est probablement la génération automatisée de documents, qui s’appuie sur l’ancienne technique des formulaires.

Un exemple plus "récent" et très innovant à l’époque est Jurisprudence chiffrée conçu chez l’éditeur juridique Francis Lefebvre il y a une dizaine d’années (voir infra). Ce produit utilise les cartouches sémantiques ex-Luxid (devenues Cognito Discover) conçues et développées justement depuis plus de vingt cinq ans par la société Expert System (ex-Temis) [66]. Ces cartouches se retrouvent chez de nombreux éditeurs juridiques, y compris LexisNexis et Legifrance [67].

Les technologies qui caractérisent l’IA d’aujourd’hui

Après avoir présenté les prestations et les entreprises du secteur des legal tech et avoir défini l’intelligence artificielle, voici les cinq principales technologies en cause dans l’IA en droit aujourd’hui [68] :

  • les systèmes experts. Un système expert est, selon Wikipedia, un outil capable de reproduire les mécanismes cognitifs d’un expert, dans un domaine particulier, par des règles logiques. Cette première des voies tentant d’aboutir à l’intelligence artificielle a donné des résultats décevants : par exemple, à partir d’une centaine de règles voire moins, certaines se contredisent et il devient nécessaire de les pondérer, ce qui est en fait peu rigoureux ; leur coût élevé est un autre écueil. Un exemple de système expert en droit, le prototype NATIONALITE du défunt IRETIJ (Institut de recherche et d’études pour le traitement de l’information juridique [69]) est décrit dans une contribution de 1989 [70]. En droit français, sur ce type de technologie, on doit beaucoup aux trois pionniers de ce qu’on n’appelait pas de l’IA mais simplement de l’informatique juridique : Pierre Catala (IRETIJ, Montpellier, un laboratoire défunt), à l’origine notamment de la base de données Juris-Data (un partenariat entre le ministère de la Justice et les Editions du JurisClasseur), Jean-Paul Buffelan-Lanore (Institut de recherche en informatique juridique, IRIJ - Université de Paris VIII), auteur de Jurindex, première banque de données juridiques française en 1970-1971 aux Éditions Masson et Lucien Mehl (droit public). Fondamentalement, dans les années 60 à 80 en France, l’informatique juridique, c’est essentiellement des systèmes experts et, surtout, des thésaurus et des index (qui auront beaucoup plus de succès sur le long terme que les systèmes experts).
    Les logiciels de gestion de contrats sont un bon exemple de logiciels experts en droit. L’autre grand exemple est l’utilisation des chaînes de caractères et des expressions régulières (regex) pour la recherche de notions exprimables de dizaines de façons différentes, même si l’utilisation de règles et la modélisation y sont peu développées et d’un niveau peu élevé. Ce travail sur le vocabulaire et les chaînes de caractères, c’est aussi une forme de traitement automatique du langage (TAL, NLP en anglais). Du TAL à l’ancienne, avec ses limites, mais bien rodé, notamment dans les cartouches de langage d’Expert System (ex-Temis), utilisées par plusieurs grands éditeurs juridiques, que nous avons citées supra à propos de l’application Jurisprudence Chiffrée. C’est de l’IA "de papa" [71] : rien de révolutionnaire, en réalité, mais ça fonctionne.
    Mais c’est l’émergence des quatre technologies suivantes et la relance des statistiques qui ont relancé les espoirs des spécialistes de la recherche en IA
  • le big data et surtout le (legal data) analytics. Il ne s’agit là que de technologies correspondant à des logiciels (Apache Hadoop, MongoDB, Microsoft Azure ...) faits pour traiter des masses de données énormes et/ou des données pas assez structurées, nécessitant des logiciels différents des systèmes de gestion de base de données (SGBD) classiques
  • les statistiques, avec toutes leurs limites. Par exemple, en justice dite prédictive, où il s’agit d’estimer l’issue d’un contentieux, ces limites sont :
    • pour les fonds de décisions de justice utilisés (l’échantillon, comme on dit en "stats") :
      • non exhaustivité, voire forte sélectivité
      • les biais contenus dans les données. Voici les types de biais possibles, selon un article de LeMagIT [72] :
        • « le biais de confirmation est un biais cognitif humain. Il consiste à sélectionner et à analyser les données de manière à refléter un point de vue préexistant
        • la variable confondante, un facteur aléatoire, influence à la fois les variables dépendantes et les variables explicatives. Il s’agit essentiellement d’un élément ayant un impact sur le résultat qui n’a pas été pris en compte. En l’occurrence, cette notion engendre la différenciation entre corrélation et causalité
        • le surajustement (ou surapprentissage) résulte d’une analyse qui est trop étroitement liée à un ensemble de données spécifiques. Exemple classique, un modèle prédictif peut fonctionner correctement sur les données initiales d’entraînement, mais son niveau de précision diminue lorsque de nouvelles données sont introduites
        • le biais d’échantillon est un échantillon qui ne représente pas la population qu’il est censé dépeindre
        • le biais de sélection correspond au fait de sélectionner des données pour l’analyse ou de choisir par inadvertance un échantillon non représentatif (ce qui est plus probable)
        • le paradoxe de Simpson se produit lorsqu’une tendance disparaît ou s’inverse à différents niveaux d’agrégation. Par exemple, une tendance peut être présente lorsque plusieurs groupes sont étudiés séparément, mais la tendance peut ne pas exister ou peut être le contraire lorsque les groupes sont combinés et analysés comme une seule population
        • l’asymétrie est une distribution de probabilité inégale qui peut être causée par des valeurs aberrantes, mais plus souvent par des valeurs surreprésentées »
      • en matière de justice dite prédictive, dès que le nombre de critères est élevé, le panel de décisions sur lequel on effectue les calculs est de petite taille (particulièrement sur la Cour de cassation et les cours d’appel judiciaires). Ce qui pose un problème de biais d’échantillon, d’autant que les décisions judiciaires de première instance ne seront pas disponibles en open data avant au mieux 2023 (à notre avis) et en cout cas pas avant avril 2022, de l’aveu même de la première présidente de la Cour de cassation, interviewée par le Figaro en février 2021 [73]
      • le manque de motivation (l’argumentation du juge), extrêmement fréquente en première instance en pénal. En pratique, en première instance, même si l’obligation de motivation au pénal existe [74], les motifs de la condamnation soit sont implicites ou très brefs car les faits sont établis, soit sont dans le dossier, mais celui-ci n’est ni consultable ni transmissible aux tiers. En gros, au pénal, on plaide la peine, son type, son montant [75]. Le côté peu pratique et trop exigeant du logiciel utilisé pour la rédaction des décisions n’aide pas
      • les statistiques ne donnent des informations que sur le passé
      • corrélation n’est pas causalité : deux facteurs corrélés peuvent l’être dans entretenir la moindre relation [76]
    • le côté "déformant" de la moyenne, à laquelle hélas la plupart des juristes sont habitués, comme le grand public — la médiane est moins déformante
    • l’absence de correction des biais statistiques
  • le machine learning [77] (ML, en français apprentissage automatique). Cet apprentissage peut être supervisé (des tags ou des humains apprennent à l’algorithme à reconnaître les formes ou les notions) ou non supervisé. Michael Benesty, avocat fiscaliste et data scientist français, auteur de l’ancien site de démonstration Supra Legem, définit ainsi le machine learning utilisé actuellement dans le cadre du droit [78] :

    « Il s’agit d’une expression vague qui regroupe toute une famille d’algorithmes qui ont en commun d’apprendre par eux-mêmes en observant des données. Ces algorithmes sont inspirés de différentes sciences et notamment des statistiques.
    En matière de justice prédictive, c’est la sous-famille des algorithmes supervisés qui est utilisée. »

Une excellente interview donnée par le chercheur français Yann LeCun, directeur du laboratoire d’IA de Facebook, au journal Le Monde, explique de manière simple comment fonctionnent les réseaux neuronaux, l’apprentissage supervisé et l’apprentissage non supervisé [79]. Ross d’IBM, aux Etats-Unis, utilise le machine learning, dans sa version supervisée : initialement, la machine est entraînée sur des données déjà "étiquetées" (de l’anglais "labeled" : on pourrait dire classées ou indexées à titre de comparaison) puis des juristes, des avocats ont "enseigné" et "corrigé" l’application et continuent de le faire [80]. Thomson Reuters, propriétaire de Westlaw, a lancé un laboratoire en 2015 et collabore avec IBM pour intégrer la technologie Watson dans ses produits. ROSS est un système à apprentissage automatique supervisé. En France, Case Law Analytics [81] utilise (en partie) aussi le machine learning (Supra Legem l’utilisait aussi).

Pour comprendre très concrètement ce que permet le machine learning en droit et comment le ML fonctionne sur des documents juridiques, voir l’excellent article d’Arthur Dyevre (Leuven Centre for Empirical Jurisprudence), Text-mining for Lawyers : How Machine Learning Techniques Can Advance our Understanding of Legal Discourse (SSRN, 4 décembre 2020).

  • le deep learning (apprentissage automatique profond), concrètement, est un développement du machine learning. Il utilise à fond la technique des réseaux neuronaux pour tenter de se passer complètement d’une vérification/correction par des humains. Les réseaux neuronaux sont une technologie développée à l’origine pour la reconnaissance automatique d’image ("pattern recognition"). Pour (tenter de) comprendre, il faut lire les exemples de fonctionnement d’un réseau neuronal donnés par deux spécialistes français interviewés par Le Monde [82] :

Yann LeCun : « Le deep learning utilise lui aussi l’apprentissage supervisé, mais c’est l’architecture interne de la machine qui est différente : il s’agit d’un "réseau de neurones", une machine virtuelle composée de milliers d’unités (les neurones) qui effectuent chacune de petits calculs simples. La particularité, c’est que les résultats de la première couche de neurones vont servir d’entrée au calcul des autres. Ce fonctionnement par "couches" est ce qui rend ce type d’apprentissage "profond". »

Yann Ollivier, chercheur en IA au CNRS et spécialiste du sujet, donne un exemple parlant : « Comment reconnaître une image de chat ? Les points saillants sont les yeux et les oreilles. Comment reconnaître une oreille de chat ? L’angle est à peu près de 45°. Pour reconnaître la présence d’une ligne, la première couche de neurones va comparer la différence des pixels au-dessus et en dessous : cela donnera une caractéristique de niveau 1. La deuxième couche va travailler sur ces caractéristiques et les combiner entre elles. S’il y a deux lignes qui se rencontrent à 45°, elle va commencer à reconnaître le triangle de l’oreille de chat. Et ainsi de suite. »


Deep learning : intervention de Yann LeCun, à l’USI, 22 juin 2015. Autre vidéo de Yann LeCun disponible sur le même sujet : celle de son intervention au Collège de France le 4 février 2016

On peut aussi citer le résumé utilisé par le journaliste des Echos Rémy Demichelis [83] :

« [Les] réseaux de neurones [sont] la technologie à l’origine du grand retour en grâce de l’IA ces dernières années pour sa capacité d’apprendre à partir de grandes bases de données ; le Big Data constitue son carburant. Sous le capot, il faut s’imaginer plein de cellules qui font des opérations d’une simplicité enfantine — on pourrait utiliser un tableur Excel pour y parvenir. Ces cellules commencent par des valeurs aléatoires puis ajustent leurs calculs au fil de leur entraînement, de leurs erreurs ou de leurs succès : c’est ainsi que le réseau constitué de ces « neurones » artificiels apprend. Un peu comme dans un jeu vidéo : " Perdu, essaie encore ! " Seulement, il faut énormément de données, et souvent aussi un humain derrière pour dire quand la réponse est bonne ou mauvaise. »

D’après Michael Benesty, le créateur de Supra Legem, toutefois, en machine learning sur du droit, on est plus dans le traitement automatique du langage (NLP) (voir juste infra) [84] que dans les réseaux neuronaux [85]. Les réseaux neuronaux ici réduisent le traitement des données en amont, mais leur apport en droit est très inférieur à ce qu’ils ont fait pour la reconnaissance d’image. De plus, ils coûtent très cher du fait de la puissance et du temps de calcul nécessaires (location de serveurs et de logiciels) [86].

Un réseau de neurones convolutifs schématisé
  • le traitement automatique du langage naturel ou TALN (dit traitement automatique des langues ou TAL) (en anglais "natural language processing", NLP). Ross, Predictice ou Supra Legem [87] sont des applications utilisant le NLP. Cette utilisation du NLP est centrale dans la technologie de l’IA juridique récente, comme l’illustre l’interview par Robert Ambrogi, en octobre 2019, de deux des fondateurs de ROSS, son CEO (DG) Andrew Arruda et son CTO (DSI) Jimoh Ovbiagele, dont plus de la moitié est consacré à ce sujet [88]. Plus précisément, il s’agit du traitement du langage naturel tel qu’on le pratique aujourd’hui : à base de techniques d’analyse syntaxique ("parsing", en anglais) [89], de machine learning, et non plus d’analyse sémantique. Le top du NLP actuel, c’est l’application du machine learning, en version non assistée, au langage, plus précisément aux textes. Le NLP à base de machine learning a été énormément facilité par la diffusion en open source en 2013 par Google du logiciel Word2vec (W2V), qui transforme les mots en vecteurs. Concrètement, Word2vec devine les termes similaires (proches par le sens) d’un mot en utilisant les autres mots faisant partie du contexte de ce mot [90].
    Le successeur de Word2vec est BERT. Egalement issu de la recherche de développeurs de Google, et également publié en open source, il a été implémenté sur les pages de langue française dans Google Web Search en décembre 2019 et pourrait l’être en 2021 par certains grands éditeurs juridiques voire une ou deux legal tech. BERT (Bidirectional Encoder Representations from Transformers) est un progrès par rapport à Word2vec en termes de désambiguïsation du langage naturel (face à la polysémie par exemple), notamment par une meilleure "compréhension" par l’algorithme du sens des phrases (sujet verbe complément) et du contexte [91] BERT consiste à utiliser un "modèle de langage" pré-entraîné ("pre-trained language model") par les ordinateurs surpuissants de Google, un modèle mis à disposition par Google. BERT utilise aussi le deep learning. A l’heure actuelle, BERT semble encore peu utilisé par le secteur de l’IA juridique. On sait toutefois qu’en avril 2020, ROSS travaillait dessus chez Vector (un institut canadien destiné à "doper" l’industrie canadienne de l’IA) et envisageait clairement de l’implémenter [92]. BERT peut servir non seulement en mode moteur de recherche mais aussi en mode réponse à des questions, y compris sur des questions juridiques simples, domaine où il est moins performant, selon le test effectué par Laurent Gouzènes de KM2 Conseil [93]
    Après la présentation en ligne "Search On" par Google le 15 octobre 2020, le responsable de l’activité Search de Google a publié un billet qui résume assez bien ce qu’on peut attendre de BERT dans une utilisation généraliste. La conclusion qu’on peut en tirer est que BERT est très puissant et représente un net progrès par rapport à Word2Vec. Tout particulièrement, BERT améliore la représentation vectorielle des mots ("word embedding") déjà au coeur de Word2vec. Voici quelques liens sur BERT pour mieux comprendre cet aspect (lire le début de ces posts) :
    https://searchengineland.com/a-deep-dive-into-bert-how-bert-launched-a-rocket-into-natural-language-understanding-324522
    https://is-rajapaksha.medium.com/bert-word-embeddings-deep-dive-32f6214f02bf
    https://towardsdatascience.com/nlp-extract-contextualized-word-embeddings-from-bert-keras-tf-67ef29f60a7b
    Pour aller plus loin sur BERT : DeepRank : A New Deep Architecture for Relevance Ranking in Information Retrieval, par Liang Pang, Yanyan Lan, Jiafeng Guo, Jun Xu, Jingfang Xu, Xueqi Cheng, conference paper at CIKM 2017, CIKM’17, November 6-10, 2017, Singapore TextNet, arXiv:1710.05649 [cs.IR] (l’algorithme DeepRank du moteur de recherche web de Google est une implémentation de BERT).
    En revanche, on parle plus de spaCy et de Flair, même s’ils sont considérés comme moins efficaces en pseudonymisation. Ainsi, dans une vidéo publiée mi-novembre 2019, Juliette, linguiste computationnelle chez Predictice, révèle qu’ils s’apprêtent à utiliser spaCy.
    Toutefois le NLP à la sauce ML a des limites :
  • notamment s’il "détecte" — indirectement et implicitement — le sens des mots, il ne sait pas en détecter la logique : licéité et illicéité, par exemple, risquent fort d’être similaires pour lui — sauf si BERT réussit à lever cette ambiguïté.
  • le ML n’est pas la seule technologie d’IA utilisée en NLP aujourd’hui. L’analyse des appels d’offre par le produit DocuChecker de la startup française Golem.ai utilise la linguistique universelle puis un enrichissement en vocabulaire du secteur. Mais pas de machine learning [94].

Enfin, il faut bien comprendre que pour imiter des fonctions caractéristiques des humains, comme classer automatiquement des documents par thème, un simple logiciel ne suffit pas :

  • déjà, de nombreux programmes informatiques (de type ML ou logiciel expert comme vu précédemment) doivent être testés, combinés et adaptés par un ou des développeurs. Ce ne sont pas des produits sur étagère, ce sont ce que l’on appelle dans l’industrie informatique des développements spécifiques
  • ensuite — et c’est encore moins connu —, le machine learning et les réseaux neuronaux nécessitent une architecture matérielle et réseau très spécifique elle aussi, autrement dit choisir les composants — notamment les processeurs, massivement utilisés pour l’"apprentissage automatique" en machine/deep learning — et savoir assembler ad hoc des serveurs très puissants, avec leurs systèmes d’exploitation (OS), repérer les goulots d’étranglement dans la circulation et le traitement des données sur Internet, dans les serveurs et entre eux, savoir comment régler et "booster" les performances de ces matériels ... Pour les petits et moyens programmes, cela passe par la location (vite onéreuse) de ressources en "cloud computing" : du temps et de la capacité de serveur disponible par Internet. Le plus utilisé est Amazon Web Services (AWS). On peut citer aussi Microsoft Azure et Google Cloud (avec son produit applicatif TensorFlow). Sur les gros programmes d’IA, le travail sur cette architecture matérielle mobilise jusqu’à la moitié des spécialistes affectés au projet. Sur ce segment, Google, Facebook, Amazon et Microsoft ont une puissance et une avance énormes sur leurs concurrents. Pour avoir une idée de l’importance des aspects hardware dans les technologies dites d’IA, jetez un coup d’oeil sur les slides 1 à 29 de cette présentation [95]. De ce point de vue, il n’est pas surprenant que ce soit justement l’IA qui succède au Big data en matière de hype. L’arrivée de l’informatique quantique [96] et sa généralisation d’ici 2028 [97] promettent des pas de géant au machine learning et particulièrement à sa variante le deep learning.

NB : pour celles et ceux qui veulent plus de précisions sur les systèmes experts, le machine learning, le deep learning et l’infrastructure matérielle nécessaire, je recommande la lecture de l’ebook gratuit d’Olivier Ezratty, déjà mis à jour à trois reprises : Les usages de l’intelligence artificielle 2018 (PDF, 522 p.).

Il faut enfin noter, comme le faisait remarquer Moïse Zapater du groupe français Septeo lors du webinaire Présentation des bénéfices de l’IA appliquée aux métiers des avocats notaires et juristes d’entreprise organisée en ligne par Legiteam le 24 févier 2021, que les produits dits d’IA juridique s’appuient sur quantité d’autres briques logicielles, souvent en open source, comme Hadoop, qu’emploient aussi des grands acteurs comme Netflix.

Dans cette présentation des technologies dites d’IA, il reste enfin à expliquer dans quels produits, concrètement, on les emploie.

Selon Ron Friedmann, consultant américain en informatique juridique depuis 30 ans [98], sur le marché américain, « il existe au moins quatre utilisations presque banales de l’intelligence artificielle que les cabinets d’avocats et les directions juridiques peuvent aisément déployer à partir de produits IA standards, de manière similaire à d’autres technologies :

  • "document review" dans la procédure [très américaine] d’"e-discovery" ("predictive coding”) [99]
  • l’audit/vérification en masse de contrats et de clauses (Kira, LawGeex, Luminance, Hyperlex, SoftLaw ... : voir infra)
  • outils de recherche dans de multiples domaines juridiques (Westlaw, Lexis Advance, Ross, Context, Supra Legem, Case Law Analytics, Predictice ... : voir infra). C’est le second domaine en terme d’importance de l’implémentation. Là, les progrès ont essentiellement consisté en une synonymie contextuelle automatique et une classification automatique par domaines du droit très améliorées
  • saisie et gestion des temps et des dossiers.

Comme on vient de le voir, il faut être concret et relativiser les performances des outils à base d’IA utiles pour les directions juridiques. Leur emploi est techniquement circonscrit. Le degré de cet emploi au sein des DAJ est également faible pour l’instant, à l’exception des banques et assureurs. L’étude de PwC Avocats Digitalisation de la fonction juridique : quelles priorités en 2018 ? publiée en mai 2018 qualifie l’intelligence artificielle de « machine à fantasme ». L’étude précise : « Les réponses dénotent également une certaine confiance dans cette technologie dont les capacités actuelles ne sont peut être pas au niveau des attentes sur tous ces points. Néanmoins, les répondants n’envisagent pas d’intégrer de l’IA à court terme, ce qui est en phase avec leur maturité digitale. »

Cet emploi de l’IA dans les DAJ est toutefois amené à s’étendre. Une étude similaire publiée en février 2019 [100] et réalisée conjointement par le Cercle Montesquieu, CMS Francis Lefebvre Avocats et le cabinet de conseil Day One « conclut que 2019 sera une année de bascule dans la prise en main des technologies par les directions juridiques ». A noter tout particulièrement cet extrait du communiqué :
« Les directions juridiques prévoient une transformation digitale profonde de leur métier d’ici cinq ans, avec le déploiement du "Machine Learning", du "Natural Language Processing" (NLP) et des "Knowledge Graph", autant d’outils englobés par l’intelligence artificielle qui bouleverseront la gestion des dossiers juridiques. Ces technologies vont permettre :

  • l’automatisation de l’analyse de documents, la création et la saisie automatiques de la base contractuelle selon le type de contrats
  • la détection de lois obsolètes dans les contrats ainsi que la vérification des clauses contractuelles, de leur présence, de leur intégrité et de leur pertinence
  • et enfin la prise en charge des réponses aux questions récurrentes via des chatbot ou voicebot pour alléger le quotidien des juristes. »

Je me demande si la percée de l’IA dans le milieu juridique ne se fera pas aussi via les logiciels brassant et combinant des données de sources et formats divers [101] pour faire de la "business intelligence" (dits également "logiciels orientés visualisation de données") comme Tableau Desktop, Microsoft Power BI ou, Qlik Sense Enterprise. Notamment dans les départements dits de "business development" (BD) et de "knowledge management" (KM). Pour l’instant, ces applications ne sont pas de l’IA très moderne ni très juridique, mais plutôt du logiciel expert (fonctionnant à base de règles métiers et des arbres décisionnels) combiné avec des macros. Mais c’est nettement en train d’évoluer : le machine learning rentre dans ce secteur [102].

A propos des chatbots (agents conversationnels en bon français) : ceux utilisés en droit, par exemple ceux de ce cabinet d’avocats, semblent pour l’instant difficilement qualifiables d’IA, au sens des critères que nous avons exposés supra. Ou alors de la très ancienne IA, car le niveau d’arbre décisionnel et de traitement du langage naturel qu’ils utilisent reste extrêmement basique. Par exemple, un chatbot juridique s’exprimant en anglais ne comprend pas que Yikes est une forme argotique de Yes ou bien, à propos du RGPD, oublie de vous préciser que le 25 mai 2018 est déjà passé depuis longtemps et qu’appliquer le RGPD est devenu urgent. En fait, le nombre de questions que l’on peut poser à un chatbot juridique est très limité.

Ces lacunes ne sont pas spécifiques aux chatbots juridiques, mais générales, comme l’avoue un article de ZDNet traduit en français [103] : « La qualité des chatbots est mauvaise. Une série de nouveaux articles de Facebook et de ses partenaires universitaires offrent cependant de nouvelles orientations prometteuses. L’objectif du dialogue fluide avec un humain semble encore cependant assez lointain. » Et on ne parle même pas ici d’un dialogue juridique, juste d’une aide (très limitée) à la recherche d’un livre ou d’une tentative d’empathie.

L’apport, le "truc" du chatbot se situe ailleurs : c’est un petit logiciel servant à engager la discussion avec un prospect ou un utilisateur par des questions principalement à réponse de type Oui/Non et à l’amener à préciser sa demande afin de l’orienter ... vers le mail d’un humain [104]. Un des autres noms des chatbots, justement, est assistant virtuel.

Les données comptent plus que les applications

Nous venons de présenter les technologies impliquées dans l’IA en droit. Et de voir que les deux critères principaux (et alternatifs) pour parler d’IA (faible) en droit, sont soit l’appartenance de l’application à la catégorie des systèmes experts soit l’utilisation de machine learning.

Pourtant, sur le plan stratégique, le plus important en IA n’est pas là. Pour le comprendre, il faut lire le rapport de France Stratégie sur l’IA publié en mars 2017 [105].

Dans ce rapport, la contribution spécifique du Conseil National du Numérique (CNNum) souligne l’importance fondamentale des données :

« La valeur créée par l’intelligence artificielle provient des données nécessaires à l’apprentissage bien plus que de l’algorithme, dont les développements se font de manière ouverte (en open source). En conséquence, les organisations doivent prendre conscience de l’importance stratégique des données qu’elles détiennent. Il s’agit également, à plus long terme, d’engager une réflexion sur les modes de partage de la valeur entre acteurs privés. En ce sens, le Conseil s’est par ailleurs saisi de la question de la libre circulation des données aux niveaux international et européen, d’un point de vue de transfert entre les territoires mais également entre acteurs économiques. »

En droit français, cette difficulté donne raison au professeur (et avocat) Bertrand Warusfel, quand il écrit, interrogé par ActuEL Direction Juridique (Editions Législatives) [106] :

« on va certainement [...] dématérialiser plus encore les procédures, voire les audiences. A mon sens, ce n’est qu’une fois que cette première phase de dématérialisation de la justice aura été menée à bien qu’il serait justifié d’envisager d’introduire des outils plus "intelligents". Sauter une étape serait sans doute peu cohérent, voire dangereux. »

Ce sont justement leurs bases de données qui font l’avance de Google et Facebook. C’est pourquoi cela ne les gêne pas de mettre leurs logiciels en open source. Au contraire, cela accélère l’adoption de l’IA par les développeurs puis la société dans son ensemble.

Une démarche imitée de manière un peu différente par les sociétés qui rejoignent LexisNexis USA, mais où on retrouve l’importance cruciale de l’accès à certains "data repositories" précieux et bien précis — Lexis gagnant, elle, en technologie :

  • l’éditeur américain annonce en mars 2017 qu’il va donner accès à ses contenus et à son expertise, ainsi que celle de sa filiale LexMachina, à cinq start-ups sélectionnées : Visabot, TagDox, Separate.us, Ping, and JuriLytics [107]. Lexis espère profiter de leurs innovations. Mais ce type de démarche chez LexisNexis est rare : en général, le rapprochement et donc le partage des données se fait par un rachat voire une joint-venture (cf le rachat de Lex Machina en novembre 2015 puis de Ravel Law en juin 2017 et la joint-venture avec Knowable en juillet 2019 ; voir juste infra)
  • juste après l’annonce du rachat par Lexis, en juin 2017, de Ravel Law, le fondateur de Ravel Law Daniel Lewis explique à cette occasion que le rachat donnera à Ravel Law « accès à un vaste assortiment de données de haute qualité, quelque chose qui est nécessaire. Même la meilleure IA ne peut surmonter les défauts dus à un accès limité en terme de données », dit-il. « On a besoin de données de haute qualité en entrée », ajoute-t-il. « Si vous avez de la mauvaise qualité en entrée, vous avez de la mauvaise qualité en sortie. » [108]
  • rebelote en juillet 2019 avec la joint-venture entre Lexis et l’éditeur de l’application d’analyse automatique de contrats Knowable. Le CEO de Knowable, Mark Harris explique qu’ « en Lexis, sa société a trouvé un partenaire qui [...] a de profondes réserves de contenu sur lesquelles s’appuyer » [109].

Nous venons de présenter les produits et les sociétés des legal tech puis de définir l’IA en droit, pour éviter de gober le discours marketing selon lequel tout ce qui est legal tech serait IA et, plus généralement, selon lequel tout ce qui est IA aurait des performances à la limite du miraculeux.

Ce discours, ce storytelling d’ "IA partout" et d’ "IA miracle" [110] inonde depuis 2016 la presse, les pages web et le café du commerce. Au point qu’on peut parler de « hype » (battage médiatique) et d’ "IA washing" [111]. D’autant qu’une part importante d’applications, de produits présentés comme des IA n’en sont pas sur le plan des technologies utilisées (cf l’étude très commentée de la société de capital-risque britannique MMC Ventures The State of AI : Divergence 2019 mais aussi le billet précité de Mike Mallazo sur la fausse IA — « phony AI ») [112].

Le battage médiatico-publicitaire inonde même le secteur juridique. Dera Nevin est spécialiste de l’"information governance" et de l’"e-discovery" au cabinet Baker McKenzie. Voici ce qu’elle en dit (traduction par nos soins) [113] :
« Je n’aime pas beaucoup le marketing autour de la legal tech. En tant qu’évaluateur et acheteur de longue date de technologie juridique, j’estime que les informations qui me sont fournies sur les produits ne m’aident pas à comprendre l’impact potentiel de la technologie sur celui pour qui je l’achète — le juriste en cabinet d’avocats ou en direction juridique — et à la mettre en œuvre. »

Le fondateur de Predictice le reconnaît lui-même [114] : « Quand on parle de justice prédictive, c’est purement marketing ». On peut aussi citer le point de vue d’un avocat geek spécialiste du contentieux puisque ancien avoué [115] : « Depuis le jour où j’entends parler de justice prédictive, je suis méfiant. Car à l’heure où le robot le plus intelligent de Google ne sait que prendre un rendez-vous chez le coiffeur sans se planter, je me suis toujours dit que nous étions loin de prédire le droit (ou alors l’acception du mot « prédire » m’échappe…). » Ou encore celui de Xavier Ronsin, premier président de la Cour d’appel de Rennes, en 2017 [116] : « On est encore loin du fantasme de la "justice bouton". »

Selon les consultants de la branche conseil de la SSII Sopra Steria, dans un rapport (non public) rendu en octobre 2020 par le Conseil national des barreaux (CNB), la "justice prédictive" correspond avant tout à « un concept marketing », et il est préférable, selon les rapporteurs, d’utiliser les notions de "justice simulative" ou de "jurimétrie" pour désigner les solutions technologiques qui visent à mesurer les décisions de justice avec des outils scientifiques [117].

Nous verrons plus loin dans cette étude que les acteurs les plus avancés dans l’IA juridique en France sont à la fois les plus modestes ... et les plus discrets.

Nous allons continuer à river son clou à ce phénomène en présentant maintenant en détail les outils IA de recherche et d’analyse de la jurisprudence (encore une fois, des IA faibles). Nous commencerons par la première IA vedette — une vedette américaine, j’ai nommé ROSS — puis nous verrons les implémentation de l’IA (du NLP surtout) dans les grandes plateformes des éditeurs juridiques américains traditionnels et enfin les IA juridiques françaises.

ROSS : points forts et limites d’un moteur de recherche en langage naturel à base de machine learning avec supervision

Fin 2016-début 2017, c’est surtout le produit d’IBM qui faisait parler de lui — voir notamment notre "webliographie" sélective sur Ross infra. Et même si, de fait, on peut parler d’une intense campagne de presse, je crois quand même qu’on tient confirmation d’une amélioration radicale de la recherche documentaire en droit dans les articles sur l’implémentation de Ross par le petit cabinet d’avocats américain Salazar Jackson : en effet, selon le principal associé de cette firme, ROSS fait les recherches sur la jurisprudence aussi bien et plus vite qu’un jeune collaborateur [118]. Ce que semble confirmer une étude réalisée par une firme indépendante (certes payée par IBM) qui parle d’un gain de temps dans les recherches de 30% [119].

Concrètement, ROSS débarrasse le juriste de la nécessité d’utiliser des opérateurs de recherche (dits aussi opérateurs logiques ou booléens) et de prévoir toutes les expressions synonymes des termes qu’il a en tête pour sa recherche. C’est ce que les informaticiens appellent le langage naturel, par opposition au langage informatique.

ROSS serait même, soi-disant, capable de résumer sa recherche en un mémo ? L’avocat Rubin Sfadj estime que la prétendue capacité de ROSS à sortir un mémo est exagérée. Il a raison. Jimoh Ovbiagele, le CTO de ROSS, a fini par reconnaître en mars 2017 devant un journaliste du New York Times que des humains se chargent du brouillon produit par ROSS et créent le mémo final, et c’est pour cela que ça prend un jour entier [120].

Bien sûr, ROSS nécessite une interaction homme-machine. Il s’améliore en apprenant des retours des juristes sur ses recherches [121]. C’est donc de l’apprentissage automatique avec supervision [122].

A l’origine, fin 2017, ROSS était spécialisé uniquement dans la jurisprudence américaine du droit de la faillite (US bankruptcy law) et de la propriété intellectuelle (US IP law) — il s’agit en fait de deux applications différentes, ROSS ne traitant pas les deux matières en même temps [123]. Mais la diversité des tâches et des domaines possibles est une caractéristique du machine learning le plus récent (depuis environ 2015). Le cabinet américain Latham & Watkins, implanté à Paris, était en 2017 en phase de « test » avec ROSS [124], suivi par de plus petites structures et l’Ordre des avocats de Lille.

Le dirigeant et co-fondateur de ROSS Intelligence, Andrew Arruda, expliquait justement en août 2016 :

« La version actuelle du système est utilisée pour aider les juristes spécialisés en procédures collectives travaillant dans des firmes américaines. Les futures versions du système couvriront d’autres domaines du droit et d’autres juridictions. »

 [125]

Rubin Sfadj estimait quant à lui en 2017 que ROSS sera capable de gérer les textes officiels (en sus de la jurisprudence) français. En tout cas, en avril 2020, sept mois avant sa fermeture, ROSS indexait toute la jurisprudence et tous les "statutes" et "regulations" de l’Etat fédéral et des 50 États fédérés américains, ainsi que les "specialty court, tribunal, and administrative decisions" [126].

Quoiqu’il en soit, en mai 2020, le géant américain de l’édition juridique Thomson Reuters lance une action en justice contre ROSS, dans laquelle il avance que ROSS a "pompé" ses bases de données. Il semble qu’à cette date, après plus de quatre ans d’activité, ROSS dépendait encore des investisseurs pour son financement [127]. Le 11 décembre 2020, ROSS annonçait sur son site l’arrêt de toutes ses activités autres que sa défense vis-à-vis de cette action en justice. Un aspect troublant de la défense de ROSS est qu’ils invoquent in limine litis l’absence de protection par le copyright sur les "headnotes" et "key number" de la base de jurisprudence de Westlaw, ce qui revient à reconnaître plus ou moins les faits.

NB : ROSS a été développé à l’origine par des étudiants de l’Université de Toronto au Canada, en 2014-2016 [128]. De fait, avec les Etats-Unis, Israël et la Chine, le Canada est le 4e pays vraiment "bon en IA". Et avec Lexum, l’éditeur dédié aux avocats, l’Institut canadien d’information juridique (CanLII), et le Laboratoire de cyberjustice de l’Université de Montréal, le Canada est également en avance sur la maîtrise de la donnée juridique numérique et des bases de données associées.

En théorie, ROSS pourrait avoir encore bien d’autres applications en droit. À l’image de Watson, l’application d’IBM dont ROSS est dérivé. Watson sert déjà à de multiples tâches, dont certaines juridiques :

Autres exemples de la capacité du machine learning à s’appliquer à tous les domaines :

  • la Lettre de l’Expansion du 16 janvier signale que le réseau social interne développé par Orange, installé chez eux à l’automne 2015 [135] et également vendu par l’opérateur sous le nom de Business Together Sharespace [136] « s’appuie sur la technologie "machine learning" [...] et inclut des robots à même de suggérer à l’utilisateur des informations pertinentes ou des collègues susceptibles d’enrichir son activité »
  • Google a présenté fin novembre un algorithme repérant des signes de rétinopathie diabétique dans des photos du fond d’oeil. Et Facebook comme Microsoft ont dévoilé cette année des systèmes capables de "regarder" des images et en décrire le contenu pour les aveugles [137]

A priori (le manque d’information détaillées sur ROSS étant criant), les limites d’un système comme Ross, sont :

  • ça a probablement changé, ROSS étant apparemment devenu généraliste, mais en 2016, les applications dérivées du Watson d’IBM étaient étroitement spécialisées et nécessitent d’énormes développements informatiques spécifiques et un très gros travail d’input et d’apprentissage par des experts [138], travail qui peut ne pas suffire. A titre d’exemple de promesse non tenue et de difficulté avec la méthode retenue par IBM : selon une enquête du média américain d’investigation STAT [139], la « révolution » promise par IBM avec son outil de conseil en matière de traitement contre le cancer accuse un retard conséquent au centre de traitement et de recherche sur le cancer Memorial Sloan Kettering Cancer Center. Pire : en juillet 2018, les mêmes journalistes expliquent que le superprogramme a régulièrement prodigué de mauvaises recommandations pour traiter des cancers [140]. La conclusion des journalistes de STAT est que l’IA semble incapable de conseiller les bons traitements sans apprendre à partir de cas réels
  • comme la plupart des bases de données en ligne actuelles, son manque de confidentialité. Je sais que les éditeurs de services en ligne garantissent la "confidentialité" des données de leurs clients, mais de fait, si elles ne sont pas cryptées de bout en bout, elles ne sont pas réellement confidentielles. Il serait intéressant à cet égard de savoir si ROSS crypte les données de ses clients
  • sa dépendance à la "data". Si les données sont incomplètes, non exhaustives ou comportent un biais, les résultats seront biaisés [141]
  • le poids du passé (même s’il pourra certainement intégrer les projets de loi), car la donnée c’est du passé
  • sa dépendance aux compétences des personnes qui "l’entraînent" (cas du machine learning supervisé)
  • son degré d’acceptation par la société, encore limité mais qui croîtra selon tout vraisemblance. Voir la dernière partie de cette étude et infra, les paragraphes sur les limites des applications de justice prédictive françaises
  • à court et moyen terme, le délai d’implémentation en droit français. ROSS — tout comme ses concurrents français — ne pourra pas être implémenté en droit français global avec une pleine efficacité avant un minimum de huit ans à compter de 2017. Là aussi, je vous renvoie aux paragraphes sur qui suivent les limites des applications de justice prédictive françaises.

Il faut enfin noter, pour être complet sur ROSS, qu’IBM en 2017 avait du mal à rentabiliser son activité "cognitive" (l’adjectif à la mode pour désigner les activités d’IA). Comme le relève une enquête du Monde [142], le chiffre d’affaires du groupe — qui a parié sur l’IA pour sa croissance et a investi 15 milliards de dollars depuis le lancement du projet Watson (alors appelé DeepQ) en 2007 — décroît de 2011 à 2016 : « au final, en cinq ans, un quart des recettes a disparu. La capitalisation boursière [est passée] de presque 250 milliards de dollars en 2011 à un peu plus de 136 milliards aujourd’hui. Pour l’instant, Watson a du mal à tenir ses promesses. » (Le CA d’IBM est toutefois remonté en 2017.) Selon Le Monde, les raisons sont principalement liées :

  • à l’absence d’étude longue de longue durée à sur la fiabilité des diagnostics livrés par Watson et ses conjugaisons
  • au fait qu’il s’agit à chaque fois d’un développement spécifique, pas de l’installation d’un produit standard. Les prospects hésitent : il faut investir un budget, un temps de travail de plusieurs mois minimum (18 mois pour le Crédit Mutuel, pourtant client de longue date d’IBM), des équipes et des petites mains pour "former" le progiciel. Le retour sur investissement est long. C’est cet aspect que souligne la directrice du KM de Latham Paris dans la citation précédente extraite de l’article de l’Agefi Hebdo
  • les concurrents, même si leur marketing et leur communication sont moins efficaces, sont très actifs. Le cabinet d’avocats d’affaires international Baker & McKenzie a ainsi annoncé, en août 2017, adopter comme principal outil d’intelligence artificielle non pas ROSS, mais eBrevia (cf infra).

Westlaw, Lexis Advance : les améliorations machine learning en cours et prévisibles

D’après Michael Mills [143], co-fondateur et chief strategy officer de Neota Logic (une société précurseur dans les outils d’aide à la décision en droit puis d’IA juridique aux Etats-Unis), cela fait 11 ans que LexisNexis et Weslaw ont commencé à intégrer du NLP dans leurs moteurs de recherche. Et Lexis a racheté Lex Machina en 2015 puis Ravel Law en 2017, LE spécialiste américain du ML sur la jurisprudence (voir infra).

Par exemple, la fonction Westlaw Answers répond carrément directement aux questions courantes/"bateau" en quelques phrases, avec les citations de jurisprudence qui conviennent.

Autre exemple : Lexis Advance offre la possibilité de chercher en langage naturel (fonction ”Run search as natural language") et surtout d’ajouter à la recherche les expressions juridiques synonymes de celles saisies (fonction "Include legal phrases equivalents"). Et depuis 2017, un clic sur le nom juge ou de l’avocat permet de consulter des tableaux de données sur eux, cela ne marchant que pour les domaines de pratique couverts par Lex Machina [144]. A partir de ces tableaux, les abonnés à Lex Machina peuvent analyser plus avant. Là, cependant, il ne s’agit plus d’IA à strictement parler, juste d’"analytics" [145]. Pour résumer, Lex Machina utilise les décisions disponibles dans PACER et fournit des données utiles pour la stratégie judiciaire.

A noter chez Bloomberg Law, un concurrent de Lexis et Thomson West apparu récemment : grâce au machine learning, Points of Law identifie, parmi les opinions des juges américains, les phrases qui font jurisprudence [146]

Les améliorations prévisibles résident dans la continuation et l’amélioration des précédentes :

  • du NLP state "of the art"
  • des suggestions/recommandations (soit de notions à ajouter, soit de régimes juridiques/bases légales) découlant de l’analyse par le machine learning du comportement des utilisateurs dans leurs recherches. Notamment, en analysant les arrêts déjà mis de côté/sélectionnés par l’utilisateur, il est possible d’en déduire ceux qui manquent. Ce type d’amélioration exploite à fond les excellentes perfomances du ML en catégorisation ("taxonomy" lit-on souvent)
  • plus de "direct answers"
  • des statistiques sur les tendances des juges américains. Dans Lexis Advance, c’est fait en décembre 2018, suite à l’intégration de Ravel Law : Lexis USA lance enfin la suite de Ravel Law : Context, son premier véritable outil de justice prédictive [147]. Pour le texte intégral, il faut un accès à Lexis Advance, avec lequel cette application fonctionne apparemment en tandem
  • une interaction vocale avec l’application, grâce à l’envol de l’utilisation des smartphones, y compris les fonctions d’envoi des résultats et d’impression.

Audit de contrats : l’offre existante

C’est clairement dans ce domaine de l’audit/vérification de contrats et de clauses que les progrès de l’IA juridique ont été les plus grands, comme l’illustre la victoire en février 2018 du logiciel LawGeex AI (qui utilise le ML avec apprentissage) sur 20 juristes de droit des affaires très expérimentés dans un test de rapidité et de pertinence : il s’agissait d’analyser les risques/failles présents dans cinq contrats de confidentialité ("non-disclosure agreement" ou NDA) de 2 à 6 pages, un outil très classique aux Etats-Unis [148]. Le "contract review", plus précisément, consiste en l’analyse en masse de contrats pour en extraire informations et clauses contestables ou à revoir.

Le "contract analytics", bien que beaucoup plus discret médiatiquement que la justice prédictive, est aussi le secteur de l’IA juridique qui nous semble le plus dynamique et le plus rentable. C’est ce que sous-entend un article d’Artificial Lawyer. Pour l’auteur du site, qui observe et promeut les legal tech depuis longtemps, « d’après les observations de ce site, une grande partie de la legal tech est façonnée par deux moteurs puissants et toujours présents : la force des transactions ("deals") et la force des bases de connaissances ("accumulation of knowledge, arranging it into libraries and making it searchable"). » Il ajoute l’e-discovery, quelque chose de typiquement américain. Mais nulle part il ne parle de la justice prédictive [149].

Les principaux acteurs sont :

  • côté anglo-saxon [150] :
    • la société canadienne Kira Systems et son logiciel d’audit de contrats de cession d’actions/parts de société est selon la société déployé dans 200 établissements. Il a été notamment adopté par les cabinets d’avocats Linklaters, Clifford Chance, Allen & Overy, DLA Piper, Freshfields et Latham & Watkins [151].
    • Seal Software propose différents produits de type "contract analytics" (analyse automatique ou "audit" de contrats), chacun taillé pour un besoin précis (RGPD, Brexit, M&A, Libor ...). Ils ont été rachetés fin février 2020 par le leader mondial de la signature électronique DocuSign, qui n’avait jusqu’ici pas investi dans l’IA [152]
    • LawGeex
    • Luminance, dont le produit a été adopté notamment par le cabinet anglais Slaughter & May, et qui a abordé le marché européen courant 2018
    • eBrevia, conçu par une start-up créée en 2011 dans l’Etat du Connecticut, a, tout comme Ross, un partenariat universitaire fort : sa technologie a été initialement développée à l’Université de Columbia [153]. L’application, utilise le machine learning pour faire du "contract review". Signe des temps : eBrevia, début mars 2018, s’alliait avec le groupe d’édition juridique Thomson Reuters, le propriétaire de la plateforme Westlaw [154] puis, en décembre 2018, était racheté par Donnelley Financial Solutions [155]
    • RAVN a été racheté mi-2017 par iManage, mélangeant ainsi le "document management" avec l’IA de type NLP et classification automatique [156]. Le produit a été utilisé en 2017 par une équipe d’investigateurs de l’agence anti-corruption britannique (Serious Fraud Office) pour fouiller 30 millions de documents à la vitesse de 600 000 par jour [157] dans une affaire de pots-de-vin et de corruption impliquant un important industriel [158]. Autre gros client : British Telecom [159]. Une particularité d’iManage est son intégration étroite et de longue date avec la suite Office de Microsoft et particulièrement sa messagerie Outlook. Un détail qui compte
    • Neota Logic est spécialisé dans la préparation de contrats de confidentialité de droit américain (NDAs), le même secteur que LawGeex, mais le but ici est de proposer des "templates" et non de faire de l’audit ("review")
    • Klarity gère la revue de contrats de droit américain en cloud dans des fichiers Word qui sont automatiquement annotés
    • Legal Sifter : signale les parties importantes d’un contrat de droit américain afin de le vérifier (ou négocier) avant de le signer [160]
    • Knowable, un récent "spin off" d’Axiom, a formé une "joint-venture" avec LexisNexis, a pour ambition d’aller plus loin que ses concurrents américains en "contract analytics" en répondant à des questions comme "Pouvons-nous sortir de certains des contrats de notre récente acquisition ?" [161]
    • on mentionne parfois HotDocs dans ce compartiment mais ce produit est en réalité largement basé sur une technologie très ancienne [162]. Grosso modo, HotDocs est un générateur de modèles (de contrats) ("contract automation") se basant sur les précédents de la structure
  • côté français :
    • en audit de contrats pour des fusions-acquisitions et en compliance, la startup française Softlaw, créée par Sandrine Morard [163], ex-avocate collaboratrice en M&A, travaille uniquement en interne (pas de cloud pour répondre aux demandes des directions juridiques et avocats qui ne veulent pas le moindre risque de fuite) et en français. Fin avril 2020, Softlaw a rejoint Septeo [164], un groupe français qui fait montre d’ambitions dans le secteur des logiciels juridiques, secteur qu’on appelle désormais la legal tech [165]. Septeo est notamment propriétaire de Secib, logiciel de gestion de cabinets d’avocats et de GenApi, important éditeur de logiciels pour les notaires. Après son rachat, Septeo intègre Sotlaw dans ses autres produits. En 2021, le logiciel de gestion de contrats Galexy de Legal Suite (groupe Septeo) intègre les fonctionnalités reconnaissance des "entités nommées" (type de contrat, parties, dates, adresses etc.) de Softlaw (intervention de Stéphane Lescher, directeur de marchés de Legal Suite, au webinaire Legiteam précité). Galexy automatise la saisie des infos du contrat grâce aux fonctionnalités de Softlaw puis le gère comme un logiciel de gestion de contrats classique (renouvellement, échéances ...). Idem, le logiciel pour notaires iNot de Genapi (groupe Septeo) intègre les mêmes fonctionnalités de Softlaw, selon Stéphane Fauvel (webinaire précité)
    • Hyperlex, fondée en 2017 par trois ingénieurs, est une société française développant une solution en ligne de gestion et d’analyse de contrats pour les entreprises] [166]. Selon Oliver Ezratty, « Hyperlex analyse les contrats d’entreprise pour identifier les clauses clés et permet leur revue collaborative dans l’entreprise. L’outil comprend surtout un dashboard de suivi de contrats et de leur circuit de signature, une fonction de workflow assez traditionnelle [167]. » Pour citer Alexandre Grux, le dirigeant d’Hyperlex, interviewé par le Data Analytics Post : « Notre outil permet [à nos clients] de trier leurs contrats pour les ranger et y accéder plus rapidement, y retrouver des clauses précises ou des données contractuelles (dates, montants…) avec un système d’alertes automatiques, générer automatiquement une synthèse pour faciliter la prise de décision ». Hyperlex a pour particularité d’utiliser toutes les technologies d’IA disponibles, y compris la reconnaissance de formes dans les images (ici identifier un tampon ou un logo dans un scan). Cette utilisation de la diversité de l’IA rapproche Hyperlex de Case Law Analytics (voir infra dans nos développements sur la justice prédictive). L’expertise d’Hyperlex va être utilisée par la Chambre des notaires de Paris pour taguer automatiquement des documents notariaux (annonce de février 2020). Dans un premier temps, ce sont les notaires et leurs collaborateurs qui vont mettre manuellement les labels sur ces documents et il s’agira de reconnaître uniquement le type de document. Mais le projet veut aller jusqu’à ce que Hyperlex fait pour les contrats, un "audit" (dans le sens anglo-saxon du terme, ici : repérer des clauses problématiques) des documents. Ce projet, nommé VictorIA, doit s’étaler sur plusieurs années [168].

Ce sous-sous-secteur de la legal tech se rattache au sous-secteur des "alternative legal process providers" (ALSP, prestataires de services juridiques en ligne), en partie utilisateur d’IA (au sens de technologies informatiques très récentes à base de NLP et de machine learning), est également celui qui fait le plus de chiffre d’affaires. Beaucoup plus que la justice prédictive. Selon une étude de Thomson Reuters, le groupe d’édition juridique américain, les "legal process providers" ont fait 13 milliards USD en 2019 contre 8 en 2015 [169] ...

eBrevia, RAVN, Seal Software ... : le marché anglo-saxon de l’audit de contrats est nettement en train de se consolider, plus encore que le secteur plus large de l’IA juridique ou de la legal tech, où en France même un tel mouvement de concentration est attendu [170].

Olivier Ezratty, dans son ebook précité Les usages de l’intelligence artificielle 2021, liste également un tout autre type d’application métier en juridique : la propriété industrielle (marques et brevets). Parmi les sociétés qu’il cite, je retiendrai celles-ci :

  • Juristat (USA) « réalise des "analytics" sur les données publiques sur les brevets et les avis des agents de l’USPTO pour optimiser les stratégies de protection de brevets »
  • Turbo Patent (USA) et son application RoboReview [171]
  • Lex Machina (acquis par LexisNexis, on en a parlé plus haut)
  • Data&Data (créée en 2012, France) fait de la veille sur les ventes de contrefaçons des produits de luxe sur les sites marchands et les réseaux sociaux [172]. « L’outil à base d’IA s’appuie sur la détection d’anomalies dans les prix et les images des articles en vente ». Ses algorithmes sont basés en partie sur la technologie Azure Machine Learning du cloud Microsoft
  • Clarivate Analytics est arrivée dans l’IA, explique O. Ezratty, « via son acquisition de TrademarkVision qui utilise le deep learning pour reconnaître les logos des marques et faire des recherches d’antériorité. »

Justice (dite) prédictive : calculer les chances de gagner un procès en droit français (avec ou sans machine learning)

Abordons maintenant les IA juridiques françaises. Si l’on excepte les applications de contract review Softlaw et Hyperlex précitées, ce sont des applications dites de justice prédictive — ou qui visent à le devenir. Là aussi, comme pour le terme "intelligence artificielle", l’emploi de l’expression "justice prédictive" a un côté marketing accentué.

Au niveau des technologies, le machine learning n’est pas encore systématiquement utilisé, les systèmes experts et le traitement automatique du langage naturel par chaînes de caractères (l’IA "à la papa") sont encore très répanduus.

Les limites des "IA" juridiques françaises en matière de justice prédictive

Côté justice prédictive, pour le moment, on n’en est en réalité qu’à une analyse (par thème, par juridiction, par société [173], des montants des dommages-intérêts ou de quel type de camp a gagné) de la jurisprudence disponible et à une recherche en langage naturel sur celle-ci. C’est le sens du billet très mesuré du professeur Dondero cité en introduction. Plus généralement, déjà en 2014, un spécialiste du machine learning, le professeur Michael Jordan, estimait qu’on attendait beaucoup trop beaucoup trop tôt du deep learning et du big data [174]. Antoine Garapon pointe l’origine anglo-saxonne du terme et rappelle très justement que la traduction exacte est « justice prévisible » et non prédictive [175]. On pourrait aussi traduire par "justice prévisionnelle", même si cela sonne bizarre.

Pour l’instant, le machine learning en droit français — quand il est réellement utilisé, ce qui, on va le voir, n’est pas systématique — n’est pas de l’intelligence artificielle au sens fort du terme (cf propos infra sur l’IA forte et faible). Du temps de la lutte entre Microsoft et les autres éditeurs de logiciels de bureautique (années 80), on appelait ça du vaporware : annoncer des sorties d’applications entre 6 mois et 2 ans à l’avance pour pousser les clients à attendre la nouvelle version. Et à ne surtout pas aller chez la concurrence — ici, je dirais : ne pas se servir de ce qui marche déjà très bien, comme les compétences des meilleurs documentalistes juridiques ou l’application Jurisprudence chiffrée (cf juste infra).

L’article précité de Valérie de Senneville aux Echos le souligne :

« pour le moment, " il y a beaucoup d’effets d’annonce ", remarque Jean Lassègue, philosophe et chercheur au CNRS. L’épistémologue, qui a consacré de nombreux travaux à l’informatique [il est l’auteur, avec Antoine Garapon, de l’ouvrage de référence « Justice digitale »], invite à s’interroger sur le problème de la qualification des faits et de leur catégorisation. " La machine ne peut pas régler cela ", affirme Jean Lassègue. »

Antoine Garapon, secrétaire général de l’Institut des hautes études sur la justice (IHEJ), ne dit pas autre chose dans son entretien avec Les Petites Affiches (septembre 2017) [176] :

« LPA — L’impact réel des legaltechs sur le droit ne reste-t-il pas néanmoins encore assez limité ?
A. G. — Bien sûr et je pense que l’impact le plus important du de la legaltech se situe en réalité sur le plan imaginaire. [...] Il est en effet frappant de constater à quel point on évoque legaltech et justice prédictive quand les réalisations pratiques restent très mineures puisque ces technologies ne sont pas encore matures. »

Seuls Predictice et plus encore Case Law Analytics [177], comme on le verra plus loin, peuvent avoir la prétention — toute relative — de prédire, avec une marge d’erreur, les jugements.

D’abord, définir. La "justice prédictive" est, selon le rapport Cadiet, remis en 2017 à la Chancellerie, « un ensemble d’instruments développés grâce à l’analyse de grandes masses de données de justice qui proposent, notamment à partir d’un calcul de probabilités, de prévoir autant qu’il est possible l’issue d’un litige ». Notez bien le « notamment », car il est également possible de modéliser les critères de prise des décisions de justice au lieu de les "statistiser" et c’est un point capital du débat.

Le Dictionnaire de droit privé de Serge Braudo propose, lui, la définition suivante : « "La justice prédictive" est une notion récente évoquée par une partie de la presse, et par une partie des professionnels du Droit qui partent de la constatation que toute décision judiciaire comporte sa part d’aléa. Le calcul portant sur la fréquence des décisions rendues par les tribunaux devrait permettre de dégager des algorithmes mesurant les risques courus dans l’engagement d’une procédure ou d’un arbitrage. Le fait de quantifier le risque juridique permettrait de désengorger les juridictions et un traitement de masse des dossiers libérant les professionnels de la réalisation de tâches bien trop souvent répétitives. »

Autre tentative de définition : Eloi Buat-Ménard, adjoint au directeur du Service de documentation, des études et du rapport (SDEC) de la Cour de cassation, dans sa contribution à un dossier sur Les défis de la justice numérique, veut écarter les fantasmes sur ce qu’est la justice dite "prédictive" [178]. Nous le citons quasiment in extenso car ce propos vient d’un magistrat très bien placé pour parler de la justice prédictive, vu son poste :
« Est "prédictif" ce qui permet de prévoir des faits à partir d’éléments donnés. Si l’on entend par "prévoir" le fait d’apprécier la probabilité d’un fait futur, alors oui, le concept de justice prédictive peut avoir du sens, à l’instar de la notion de médecine prédictive, qui détermine, par l’étude des gènes, la probabilité de développer une maladie donnée. [...]
Mais si l’on rattache la notion, non à la prévision mais à la prédiction, c’est-à-dire à l’action d’annoncer à l’avance un événement, comme sa racine l’y invite, alors le concept est inepte. Cela pour une raison très simple : la jurisprudence n’est pas un système clos. Autrement dit, une décision de justice n’est, et de loin, pas la résultante des seules décisions passées mais d’une pluralité de facteurs plus ou moins bien identifiés : contexte jurisprudentiel, certes, mais aussi normatif, politique, social, professionnel, médiatique, voire affectif, climatique (juge-t-on de la même façon en période orageuse ou de canicule ?), alimentaire (juge-t-on de la même façon le ventre creux ?), familial (juge-t-on de la même façon sous le coup d’une rupture douloureuse ?), culturel, etc. Bref, tout ce qui fait que la justice est et demeurera, du moins l’espère-t-on, une oeuvre humaine.
Dans cette acception, un algorithme proprement "prédictif", c’est-à-dire capable de prendre en compte une telle pluralité d’interactions causales, reste à ce jour une pure vue de l’esprit, sauf à envisager une drastique restriction du champ des causalités jurisprudentielles à la seule raison juridique (déjà quelque peu délicate à identifier précisément), figée - ou limitée - dans son évolution, ce qui nous éloigne immanquablement du concept même de justice. Les juristes romains avaient déjà parfaitement perçu le danger d’une "justice" totalement prévisible dans son application qu’ils tenaient précisément pour une forme d’injustice : c’est ce qu’exprime l’adage summus ius, summa iniuria. »

Jacques Lévy Véhel, chercheur à l’INRIA et fondateur de Case Law Analytics, estime qu’il faudrait parler de « quantification de l’aléa juridique » [179].

Il est en effet difficile de prétendre que la justice prédictive au sens de prévision judiciaire — comme la prévision météorologique — existerait actuellement en France. Et le terme, comme nous l’avons vu plus, haut porte beaucoup (trop) de "hype" en lui. Le concept d’analyse mathématique et algorithmique des décisions de justice est plus proche de la réalité. Plus concrètement, il s’agit de statistique et/ou de modélisation imparfaites des décsions de justice. Cette description nous semble plus réaliste et plus opérationelle. [180]. C’est ce que nous allons tenter de montrer.

Une justice prédictive imparfaite pour l’instant, car 200 000 décisions judiciaires publiées par an, alors que 3.8 millions sont rendues sur la même période, c’est un échantillon insuffisant en termes de statistiques. Sans compter que dans de nombreux cas, les faits ne sont pas détaillés ou insuffisamment détaillés, même dans le jugement de première instance, si on l’avait (cas classique des décisions pénales, que par déontologie Predictive et Case Law Analytics ont choisi d’exclure — ce qui nous semble justifié).

A court et moyen terme, le délai d’implémentation de la justice prédictive sur la grande masse du contentieux est incompressible. En effet, elle ne pourra pas être implémenté sur l’ensemble des décisions de justice de première instance et avec une pleine efficacité avant un minimum de huit ans à compter de 2017.

Explication. Compte tenu des spécificités du droit français (pas de la common law ... mais pas un véritable problème [181]), de la (relativement) petite taille du marché français du droit, de l’absence pour l’instant de disponibilité en accès libre et gratuit (open data) [182] des décisions judiciaires de première instance [183] avant des années malgré la loi Lemaire pour une République numérique [184], de la nécessité d’un partenariat entre un éditeur juridique et un éditeur de système de machine learning [185], cela devrait prendre au minimum huit ans à compter de 2017 et peut-être plus.

A noter que le NLP à la "sauce" machine learning, en droit français, sert de nos jours de plus en plus à pseudonymiser (on ne dit plus anonymiser, ça c’était avant le RGPD) automatiquement les décisions de justice. La legal tech Doctrine.fr s’était lancé dès ses débuts en 2016 dans cette tâche, ce qui avait d’ailleurs entraîné à l’époque un débat [186] très intéressant avec le développeur et ingénieur ML Michaël Benesty, attelé à la même tâche, sur les limites des performances du ML en la matière. L’état de l’art en 2016-2017 était en fait très insatisfaisant. Pour citer M. Benesty fin 2016 :
« Pour avoir un taux d’erreur de 10% (qui est déjà important), il faudrait un algorithme ayant un taux d’identification par mention de plus de 99% (en théorie). L’état de l’art en septembre 2016 des algorithmes mis au point dans les universités (donc en avance sur les systèmes utilisés dans l’industrie) est à 92%. Même en “trichant” par l’ajout de règles manuelles, on arrive péniblement à 96%. Or, d’une manière générale en machine learning, plus le taux est haut, plus il faut d’efforts pour progresser.
En matière de bases de données en santé (où le problème de l’anonymisation des données se pose aussi), le taux de rappel (différent de l’accuracy, on en parle ici pour comparaison des grandeurs) rapporté en anglais (langue plus facile à traiter pour les machines, car morphologiquement pauvre) est de 94%.
On voit bien que l’approche anonymisation à 100% via le machine learning (c’est-à-dire sans aucune intervention humaine) se heurte à un plafond de verre. »

Toutefois, les ingénieurs machine learning/"data scientists" d’Etalab (EIG) envoyés assister la Cour de cassation ont beaucoup beaucoup progressé en 2019 en utilisant deux librairies de "Named Entity Recognition" bien connues, spaCy et Zalando Flair : « diminution de 32% du taux d’erreur avec une meilleure utilisation de la connaissance de l’ensemble des données au lieu de simplement travailler au niveau de la phrase » et atteinte d’un « taux de réussite de 99,96 % sur les noms et prénoms » [187]. Selon l’article d’Acteurs Publics (accés réservé) :
« La mission Etalab se chargera, à ce titre, de faire office de courroie de transmission avec les autres institutions désireuses d’appliquer la méthode de la Cour de cassation pour anonymiser leurs documents. Pour autant, la généralisation du nouveau moteur d’anonymisation à toutes les institutions judiciaires n’est pas pour demain, tant le paysage des applicatifs informatiques du ministère de la Justice reste encore aujourd’hui éclaté. En attendant, la Cour devrait adopter le nouveau logiciel mis au point par les deux EIG d’ici la fin de l’année [2019]. »

Revenons à notre notion d’analyse statistique imparfaite des décisions de justice. Elle vaut aussi pour l’avenir. Car l’idée qu’on va pouvoir vérifier que, dans une même situation, les juges rendent des décisions identiques, au-delà même des inconvénients de la pression politico-médiatico-sociale que cela leur mettrait, est largement biaisée. Ce, pour plusieurs raisons :

  • « un seul et même juge peut adopter des solutions divergentes dans des affaires présentant les mêmes caractéristiques » [188]. Particulièrement, le moment de la journée compte beaucoup : quand le/la juge, peu avant 13h, a faim, cela influence sa décision. De même, le soir tard, quand il/elle est fatiguée et veut en finir pour rentrer chez lui/elle
  • la notion de "même situation" est une illusion : dans le détail, les situations de fait sont très rarement totalement identiques dans les décisions de justice (et j’en ai lues beaucoup). C’est la qualification juridique de ces faits qui peut donner cette impression
  • les statistiques sont une autre illusion (vu les interprétations hâtives et abusives qu’on en fait le plus souvent, notamment en utilisant des graphiques), mais *en partie* seulement (sauf si elles sont faites sans suivre les règles, ce qui arrive plus souvent qu’on croit : représentativité échantillon, biais ...). Elles permettent en revanche de *tenter* de décrypter la jurisprudence [189]. Comme le disait le Premier président de la Cour de cassation Bertrand Louvel lors du colloque de 2016 sur l’open data de la jurisprudence : la « jurisprudence », c’est « la tendance habituelle d’une juridiction ou d’une catégorie de juridictions à juger dans tel sens » [190]
  • une statistique est une *simplification*, outrancière si elle manque de finesse (préférer les déciles ou la médiane à la moyenne, par ex.). Cette simplification permet toutefois de détecter ou prouver des tendances.
    Les exemples suivants donnés par Jacques Lévy Véhel illustrent bien le problème [191] :
    « Mettre à disposition des décisions en masse conduira inévitablement à des traitements statistiques qui auront plus d’effets négatifs que positifs. Si on peut classer des films de cinéma selon leur popularité, classer des juridictions ou des avocats suivant leur "performance" me semble poser problème.
    Malheureusement, l’histoire montre que la facilité est toujours privilégiée, et ce type de classement apparaîtra très vite, comme c’est le cas par exemple aux USA. Ces classements seront entachés d’une multitude de biais bien connus, que le public n’aura pas les moyens de détecter. Est-ce qu’un avocat qui défend des entreprises qui ont commis une infraction et dont le but est de réduire le montant des condamnations prononcées sera mal classé parce qu’il « perd » tous ses procès ? Ou bien, au contraire sera-t-il très bien classé car il divise par exemple par 10 les montants qui devront être versés par son client ?
    Est-ce qu’on peut de façon sensée comparer les montants accordés pour une prestation compensatoire par un juge aux affaires familiales qui officie à Versailles à ceux donnés par un juge de la cour d’appel de Douai ? Comment redresser les montants pour ajuster la différence évidente entre les populations qu’ils ont à considérer ? On pourrait multiplier les exemples. Les statistiques donneront une vision simpliste et faussée de la réalité, et les corriger est complexe même pour des professionnels du droit travaillant avec des statisticiens. »

A l’heure actuelle, les statistiques de la justice prédictive restent donc fragiles car leur substrat est peu représentatif. On constate aussi, à tester les outils, que ces statistiques nécessitent fréquemment des interprétations et des explications. De plus, la qualité varie selon les outils.

Les statistiques de la justice prédictive restent fragiles également parce que comme le souligne le sociologue et chercheur CNRS Julien Larrègue les applis et expériences menées nous « apprennent peu de choses sur les raisons et le sens des décisions » [192] (sans même parler du problème de l’explicabilité des résultats de l’IA).

Encore une fragilité des statistiques de justice prédictive (cf à nouveau J. Larrègue [193]) : en droit pénal (et peut-être en droit civil — droit de garde lors du divorce —, voire procédures collectives), les applications ignorent les recherches menées en sciences sociales et celles de "jurimetrics" menées depuis les années 40. Pour citer J. Larrègue : « Les quelques juristes qui réalisent des études de sentencing, en analysant notamment les facteurs juridiques et extra-juridiques qui influencent les condamnations pénales, s’insèrent dans la filiation directe des sciences sociales et n’utilisent pas l’expression de "justice prédictive", preuve que les deux mouvements sont découpés. » Pour lui, « la raison d’être du mouvement de justice prédictive n’est pas de faire œuvre scientifique, mais « de réduire les risques de perdre un procès tout en réduisant les coûts associés à l’institution judiciaire ».

Notez bien que nous avons parlé jusqu’ici des limites des *statistiques* en matière de décisions de justice. Pas des limites de la *modélisation* de la prise de ces décisions, ce qui est fait par une seul acteur, Case Law Analytics, et s’avère in fine plus rigoureux, particulièrement face au manque très net de décisions couvrant le même cas dans le même type de contentieux. Ainsi, pour obtenir des statistiques solides en droit du licenciement sans cause réelle et séreuse, il faudrait avoir quelques centaines de décisions du même bassin d’emploi ou au minimum émanant de tribunaux du même ressort de cour d’appel, de moins de 5 ans d’écart, sur le même type de poste/métier, même niveau de responsabilité, même niveau de rémunération et même ancienneté. Actuellement, dans le meilleur des cas, on arrive à quelques dizaines de décisions de ce type, souvent liées à un unique gros plan social. Or le fait même que ces décisions soient de facto majoritairement issues de la même affaire est un biais statistique lié à l’échantillon ... C’est pourquoi modéliser les critères de la décision de justice est une piste plus intéressante.

Dernière limite, enfin, le degré d’acceptation par la société, encore limité (cf la dernière partie de ce billet). Toutefois, si l’on s’en tient à l’histoire récente des innovations, les systèmes de machine learning en droit finiront, selon toute probabilité, par être assez rapidement acceptés par les consommateurs de droit. Les professionnels du droit vont donc, à terme, devoir suivre. En fait, un nombre important d’avocats et encore plus important d’assureurs se sont déjà lancés, en prenant des abonnements chez Predictice et Case Law Analytics. Comme le rappelle un professionnel américain des enquêtes ("fact finding") pour avocats, dans un excellent article qui remet les pendules à l’heure, les "IA" d’aujourd’hui sont les "logiciels" de demain [194].

Les limites des "IA" juridiques françaises en matière de recherche en langage naturel

Marc Clément, président de chambre au tribunal administratif de Lyon, ex-rapporteur à la cour d’appel administrative de Lyon et important commentateur des apports du numérique aux juridictions administratives [195] fait remarquer que « dans la réflexion sur la "justice prédictive", il est très rarement fait allusion au fait que l’outil informatique est déjà au cœur du métier du juge », et ce, à travers les recherches sur les bases de données de jurisprudence et de doctrine, particulièrement les juges administratifs qui bénéficient de l’ensemble des grandes plateformes des éditeurs juridiques (pas les magistrats de l’ordre judiciaire, pauvre, lui). En effet, face au nombre de résultats trop important pour qu’on les lise tous, les juristes sont obligés, soit de diminuer ce nombre en ajoutant des mots-clés soit de faire confiance à l’algorithme de tri par pertinence. Le choix d’un "mauvais" mot-clé peut faire disparaître des résultats pertinents, tandis que les règles dirigeant l’algorithme de tri par pertinence ont leurs propres biais [196].

Entre parenthèses, l’argument — tout à fait exact — de M. Clément renforce la nécessité d’apprendre aux jeunes juristes à chercher en suivant tout simplement les tables des matières, index alphabétiques, plan de classement, thésaurus, notes de bas de page et autres accès hiérarchiques ou guidés. Le plan de classement de la jurisprudence administrative (PCJA) maintenu par les équipes du Conseil d’État n’est rien d’autre que ça : un guide extrêmement performant pour trouver rapidement toute la "JP" faisant autorité sur un sujet. Evidemment, les outils hiérarchiques et d’indexation matière ont leurs propres limites : ils ne sont jamais exhaustifs, coûtent cher à maintenir et, du fait de leur réalisation humaine [197], ne pourraient probablement pas traiter une masse de plusieurs millions de documents (les juridictions judiciaires rendent 3,8 millions de décisions par an, dont 1,2 pour les décisions pénales [198]). C’est justement pour ça qu’on cherche aujourd’hui par mots-clés et que les technologies de l’IA s’attaquent aux limites de ce mode de recherche.

Pour autant, les techniques de recherche utilisant le machine learning ont leurs limites à elles, bien plus gênantes si on considère qu’on ne sait pas précisément pourquoi tel mot va trouver tel résultat. C’est le fameux problème de la transparence des IA, non résolu à cette heure, et que Marc Clément rappelle à juste titre. Oui, mais si l’algorithme est plus pertinent que la recherche en texte intégral, on est globalement gagnant, me direz-vous. Certes, mais avec l’IA actuelle, on va vers des logiciels dont les utilisations seront différentes et les conséquences bien plus importantes puisqu’on parle de statistiques sur les solutions des litiges, le montants des indemnisations et potentiellement les peines de prison. Le manque de transparence de l’IA est alors autrement plus gênant.

Marc Clément, toujours lui, fait également remarquer que « les structures des textes juridiques sont des points d’appui précieux pour construire une analyse automatique. On peut ainsi sans trop de difficultés identifier des références à des articles de code ou à des jurisprudences, ce qui place d’emblée un texte juridique dans un réseau d’autres textes » [199].

En pure théorie, M. Clément a raison : les références, dans les documents juridiques [200], aux autres documents sont autant de liens et de recommandations implicites qui devraient aider les algorithmes de machine learning à identifier les documents les plus pertinents par rapport à la "question" posée — la requête devrait-on dire.

Mais la réalité est autre :

  1. Primo, si c’était si simple, les legal tech, depuis trois ans qu’elles existent en France, auraient dû arriver à quelque chose de mieux, avec les arrêts des juridictions suprêmes et des cours d’appel, que ce qui existe actuellement. C’est donc qu’il y a de sérieuses difficultés dans ces arrêts.
  2. Les décisions des juridictions administratives sont beaucoup mieux structurées que celles des juridictions judiciaires. Parce qu’elles ont plus de moyens financiers et en personnel [201], parce qu’elles produisent plus de dix fois moins de décisions (260 000 par an contre 3,8 millions), parce qu’elles n’ont pas la même indépendance que celle des cours d’appel et tribunaux judiciaires et que les règles de rédaction des décisions sont donc précises et unifiées [202]. Cette bien meilleure structuration rend leur mise en base de données, leur pseudonymisation et les recherches dessus beaucoup plus faciles — c’était évident quand on interrogeait Supra Legem — et moins chères. Exemple de ce qu’il faudrait faire sur les décisions judiciaires, un travail collaboratif dans le cadre du forum Open Law en 2017 a permis de dégager une quarantaine de champs et d’annoter environ 400 décisions extraites de Legifrance. Pour plus de détails, voir notre billet L’open data des décisions des cours d’appel et tribunaux n’est pas pour demain.
  3. Et puis, les décisions des tribunaux judiciaires de première instance ne sont pour l’instant pas disponibles : ni numérisées nativement dans la très grande majorité des cas [203], ni suffisamment structurées, ni suffisamment balisées au plan du code informatique. Même les jugements des tribunaux de commerce ne sont pas ni assez structurés ni assez balisés informatiquement pour pouvoir être "mangés" efficacement par une base de données. L’objet du fameux contrat entre Infogreffe et Doctrine.fr (finalement résilié par Infogreffe) était justement probablement de traiter ces jugements pour résoudre en partie ce problème [204] — les autres aspects étant leur pseudonymisation [205] leur "mise en base de données".

Tout ceci explique très largement pourquoi, selon toute probabilité et à l’exception totale de l’ex-Supra Legem [206] et partielle de Case Law Analytics, les applications de justice prédictive utilisent essentiellement, pour leur moteur de recherche et l’analyse des décisions, des systèmes fondés sur les chaînes de caractères et les expressions régulières (regex), dont le précurseur en France sont les cartouches ex-Luxid (devenues Cognito Discover) de la société Expert System, ex-Temis [207], dont nous avons parlé plus haut.

Selon les consultants de Sopra Steria, dans le rapport précité d’octobre 2020 rendu par le Conseil national des barreaux (CNB), les 12 solutions jugées les plus pertinentes pour les professionnels du droit formés en droit continental sont Predictice (France), Case Law Analytics (France), Jurisdata Analytics (France), Legalmetrics (France), Tirant Analytics (Espagne), Lex Machina (USA), Ross Intelligence (USA), MaitreData (France), Predilex (France), Juge Robot (Estonie), Ravel Law (USA) et Jurimetria (Espagne). Deux autres legaltechs, Doctrine et JuriPredis, « n’apparaissent pas comme des acteurs de la jurimétrie telle que définie dans cette étude » mais « fournissent des prestations qui en constituent des briques élémentaires » [208].

Voyons maintenant les produits français un par un.

Predictice

Créé en 2016 par le jeune avocat Louis Larret-Chahine, Predictice est un outil d’aide à la décision à destination des professionnels du droit et des assureurs [209]. Dans une première étape, il permet d’accéder à la jurisprudence via [210] :

  • un moteur de recherche en langage naturel utilisant des technologies d’analyse syntaxiques simples mais aussi les opérateurs booléens classiques [211], ce qui est un plus pour les spécialistes de la recherche (et pas seulement les documentalistes)
  • des filtres : juridictions, chef de demande dans le dispositif de la décision, s’il a été accepté ou refusé, montant alloué, type de solution (confirmation, infirmation, partielle ou pas), base légale/texte cité. Certains filtres sont spécifiques à une matière, comme ceux du salaire brut et de l’ancienneté du salarié en matière de licenciement
  • une fois arrivé sur une décision, des suggestions de décisions similaires.

Une fois les résultats atteints, la deuxième étape est l’analyse statistique du contentieux (dite "prédictive"). On sélectionne un chef de demande parmi ceux trouvés par l’application lors de la recherche — on peut aussi en taper un autre. Un algorithme calcule alors les probabilités de résolution du contentieux, le montant des indemnités potentielles et identifie les moyens de droit ou les faits les plus influents dans les décisions antérieures rendues par les juridictions [212]. La restitution des analyses se fait sous forme graphique ou statistiques. L’application utilise des technologies de NLP (TAL) simples à base de synonymie et de règles pour chercher dans les décisions de justice, les analyser et extraire les données.

Concrètement, chez Predictice, il s’agit d’abord de lister le type de partie vainqueur et donc de donner un pourcentage de chances de remporter un procès sur un type de contentieux, et de déterminer les montants de dommages-intérêts alloués selon la cour d’appel, sans oublier la répartition des montants (par décile par exemple), le tout cartographié [213]. S’ajoute à ces informations les décisions les plus récentes en votre faveur ou en votre défaveur, celles ayant alloué les dommages-intérêts les plus importants et les moins importants et d’autres statistiques plus détaillées. L’analyse produite est facile à télécharger ou imprimer — et donc à présenter au client ou à la partie adverse, c’est prévu et voulu par Predictice. Les analyses statistiques sont réalisées avec les avocats et juristes partenaires.

D’abord en pilote auprès de structures partenaires (Orange, AXA, Covéa, Dentons, Solocal, Taylor Wessing), Predictice est commercialisé depuis septembre 2017 [214].

Le test de l’application au sein des deux cours d’appel de Rennes et Douai s’est terminé début octobre 2017 : les magistrats n’ont pas adopté l’outil, estimant que, malgré sa « modernité », il « méritait d’être sensiblement amélioré [215].

En fait, ce que les magistrats testeurs reprochaient à l’application, c’était la non-prise en compte de biais statistiques [216] : « Xavier Ronsin est le premier président de la cour d’appel de Rennes. Ses magistrats ont testé un logiciel (Predictice, pas celui développé à Nantes) pendant quelques mois. Bilan  ? "C’est la déception. Rien ne remplace le regard d’un juge. Le logiciel que nous avons testé n’apporte aucune plus-value dans le travail des magistrats." Xavier Ronsin évoque même des "biais de raisonnement" du logiciel qui se fonde sur des comparaisons de décisions passées, sans forcément en examiner les motivations. »

Il faut lire l’interview de Xavier Ronsin donnée à Dalloz Actualité en 2017 pour mieux comprendre ce que techniquement les magistrats reprochaient à l’outil [217] :

« On se situe plus dans un projet d’approche statistique et quantitative que qualitative. Parfois, les résultats peuvent même être aberrants. Prenons l’exemple d’un calcul d’indemnités de licenciement sans cause réelle et sérieuse. Les montants sont calculés par le juge en mois de salaire. Or le salaire d’un cadre n’est pas le même qu’un ouvrier. Il suffit qu’une décision de justice concerne un cadre pour fausser complètement l’analyse, selon l’affaire ou le bassin d’emplois, et pour que le résultat proposé ne dise rien du cas à résoudre. Il serait plus pertinent de privilégier une approche selon le nombre de mois de salaire alloué, plutôt que savoir si le résultat probable sera de 4 000 ou 8 000 €. [...]
Le logiciel ne s’intéresse qu’au dispositif d’une décision de justice. L’algorithme ne sait pas lire toutes les subtilités de la motivation, surtout lorsque la décision est complexe. »

 [218]

Après deux mois d’utilisation intensive de Predictice, l’avocat geek Frédéric Cuif a fait son bilan [219]. Il apporte d’autres éléments intéressants.

En 2018, le nombre d’abonnés a visiblement cru — sans que la société publie de chiffre. Les assureurs Covéa, Allianz, la Maif et Pacifica sont clients [220]. La page d’accueil du site de Predictice affiche les cabinets d’avocats utilisateurs.

Case Law Analytics

Case Law Analytics (CLA) était en fait, jusqu’en 2017, une recherche interne à l’INRIA (Institut national de recherche en informatique et automatique). Ce n’est qu’en septembre 2017 que CLA est devenu une société. Elle est basée à l’Atlanpole de Nantes et a été sélectionnée par Microsoft pour son programme d’incubation au sein de Station F à Paris. Cet "offshoot" de l’INRIA a été créé à l’origine mi ou fin 2015 par Jacques Lévy Véhel, mathématicien et à l’époque directeur de recherche à l’INRIA [221] et Jérôme Dupré, alors magistrat en disponibilité, et devenu depuis avocat au barreau de Nantes. C’est J. Lévy Véhel qui a créé la société [222] et il est aujourd’hui associé principal [223] — mais d’après lui, Jérôme Dupré continue à jouer un rôle de conseiller.

Sur Case Law Analytics, il n’y avait, jusqu’au printemps 2017, que très peu de choses à lire. La startup était alors très discrète sur le plan médiatique. Le passage au statut de société approchant [224], les publications se sont ensuite succédées [225]. Il s’agissait à l’origine d’une évaluation probabiliste des dommages-intérêts, elle-même découlant de travaux sur les montants des indemnités de licenciement faits pour la préparation de la loi Travail et d’un intérêt personnel du fondateur de CLA pour la quantification des décisions de justice, ayant été lui-même confronté à un contentieux [226]. En 2014, Jacques Lévy Véhel avait initié une collaboration avec le magistrat Jérôme Dupré, autour de la modélisation des prestations compensatoires. Extrait de l’article du Village de la Justice (mars 2017) :

« " Il ne s’agit pas de dire la probabilité d’aller au contentieux mais plutôt d’estimer les sommes d’argent que vous pouvez être condamné à payer dans tel ou tel cas de figure, explique Jérôme Dupré. Nous n’aimons pas l’expression “justice prédictive”, qui est à notre avis trompeuse et parfois même dangereuse. C’est pourquoi nous ne donnons pas un chiffre unique mais une distribution probabiliste des montants de condamnation possibles. Il est difficile de calculer ce risque parce que les aspects procéduraux sont complexes à modéliser pour le moment mais c’est possible dans certains cas. " »

Ensuite, Case Law Analytics a évolué vers un logiciel qui fonctionne pour partie comme un système expert et pour partie comme un outil d’aide à la décision. Mais ses créateurs se fondent moins que Predictice sur la statistique — J. Lévy Véhel refuse notamment de donner des moyennes — et plus sur un système qu’ils qualifient de « juges virtuels ». L’interview de J. Lévy Véhel par Ekipio et celle par le MediaLab de France Télévisions soulignent les points-clés de son produit :

  • Case Law Analytics fonctionnant en partie comme un système expert (voir infra), il ne dépend pas de la disponibilité d’une masse de décisions statistiquement significative et peut donc compenser le manque de magistrats face au nombre de dossiers (une différence fondamentale avec Predictice) [227]. Au moins, lui est clair là-dessus. Au demeurant, en tant que justiciable et juriste en même temps, je ne partage pas complètement son avis : quantité d’affaires qui paraissent basiques, qui selon des juges ne méritent pas qu’on y passe du temps, le mériteraient (il faudrait faire des recherches, en fait et en droit, qui ne sont pas faites [228]) et sont traitées par dessus la jambe. Là-dessus (pour les particuliers justiciables de base), la justice prédictive, selon moi, ne permettra en effet que de gagner du temps — rien d’autre
  • comme Louis Larret-Chahine de Predictice, J. Lévy Véhel dit ne pas croire pas au danger d’uniformisation de la jurisprudence. Pour lui, son logiciel est un outil d’aide à la décision. Entre parenthèses, questionné par un de ses interviewers, J. Lévy Véhel reconnaît qu’il faut « un peu de formation » pour les justiciables et recommande une formation de base en mathématiques et statistiques pour les juristes, ce qui montre l’importance — et la difficulté relative — d’interpréter les résultats des applications de justice prédictive
  • CLA ne travaille que sur un nombre limité de domaines du droit, relativement étroits et homogènes. Par opposition, Predictice est un généraliste. CLA se limite actuellement (fin 2018) à une quinzaine de domaines : rupture brutale des relations commerciales, marchés publics, abus de position dominante , baux commerciaux, licenciement sans cause réelle et sérieuse, opérations d’initiés (droit boursier). Les manquements d’initiés sont un domaine où les décisions sont très peu nombreuses (on parle d’environ 230 décisions à fin novembre 2018), ce qui illustre assez bien le côté système expert. Idem pour la rupture brutale : 2200 décisions environ. CLA ne peut pas travailler sur un dossier exceptionnel, en revanche
  • les techniques et étapes utilisées : dans un premier temps, J. Lévy Véhel et son équipe font parler « un grand nombre de magistrats et d’avocats spécialistes du domaine pour établir l’ensemble des critères intervenant dans la prise de décision » (entre 20 et 120) et le raisonnement utilisés par les juges pour trancher. Ça, c’est une technique d’IA à l’ancienne : c’est du logiciel expert (cf supra). Et cela permet à CLA de dire qu’ils offrent des « juges virtuels ». Un « référentiel » plutôt, en réalité, pour reprendre un autre terme utilisé par J. Lévy Véhel.
    Dans un deuxième temps, CLA constitue une base de données de décisions de justice sur le sujet (peu d’IA là-dedans). J. Lévy Véhel : « Nous utilisons bien sûr des outils de traitement du langage naturel, pour retrouver automatiquement certains critères, mais une partie du travail est effectuée manuellement, par des humains. »
    Dans un troisième temps, en utilisant les critères dégagés à l’étape 1 et les données regroupées dans l’étape 2, CLA "apprend" à la machine à s’approcher d’un raisonnement de juge. En clair, la troisième étape consiste à créer un logiciel ad hoc qui va se nourrir de cette jurisprudence codifiée pour repérer les zones dans les arrêts où se trouvent les critères de décision des juges et modéliser la prise de décision d’un juge dans ce type d’affaires. J. Lévy Véhel : « Nous faisons appel, sans a priori, à toutes les techniques d’apprentissage automatique à notre disposition. Il peut s’agir de réseaux de neurones, de forêts aléatoires, de machines à vecteurs de support, de réseaux bayésiens ... Nous choisissons ceux qui nous semblent efficaces dans le cas de figure et nous construisons un logiciel unique à partir de là. » La voilà, l’IA.
    Mais elle est est limitée (enfin, moins que chez les autres acteurs de la legal tech) parce qu’il semble, d’après des informations concordantes, que CLA utilise également des analystes pour découper les décisions et les qualifier/indexer. Un travail proche de ce que faisait (et fait encore) Juris-Data (LexisNexis) depuis les années 80 (voir infra "Deux prédécesseurs ..."
    Enfin, après que l’utilisateur ait choisi dans l’interface ses réponses aux critères (ses paramètres en quelque sorte), CLA sort un éventail de décisions et de dommages-intérêts représentatifs [229]. Plus précisément, « Case Law Analytics n’ambitionne pas de produire un seul jugement, mais une palette des décisions possibles ». Comme l’explique J. Lévy Véhel : « J’entraîne dans ma machine 100 juges virtuels. Ces 100 juges vont chacun prendre une décision et l’ensemble de ces 100 jugements ne reflètent ni plus ni moins que les décisions qui seraient prises à la cour d’appel de Paris à tel moment, sur tel dossier. » La fiabilité des résultats, selon le mathématicien, « oscille entre 85 % et 95 % » [230].
    Clairement, à travers ces techniques et les propos de J. Lévy Véhel, CLA se positionne comme de la "justice prédictive" haute couture, pas du prêt-à-porter. Case Law Analytics n’est pas un éditeur de logiciel mais une sorte de SSII vendant ce qui s’apparente en réalité à des développements spécifiques. Pour citer J. Lévy Véhel : CLA travaille « au cas par cas »
  • CLA n’offre pas de moteur de recherche de décisions, une fonctionnalité pourtant présente chez tous les autres acteurs de la justice prédictive, particulièrement Predictice. CLA fournit juste les n° RG d’une sélection de décisions représentatives, à titre d’illustration, avec pour chacune (depuis 2020) un lien vers le texte intégral sur Dalloz Avocats (mais cela suppose d’y être abonné) [231]
  • CLA n’a pas accès aux arrêts hors des bases CASS, INCA et JuriCA, sauf décisions inédites fournies par ses partenaires (situation très similaire à celle de Predictice). Pas de jugements de première instance pour l’instant
  • J. Lévy Véhel refuse de se ranger dans la course à la taille. Pour lui, un échantillon de 1500 décisions (isolées dans une base beaucoup plus grande, cf étape 1) suffisent à la machine pour "apprendre". En même temps, les 2000 arrêts rendus par la CA de Paris depuis 2012 sur la rupture brutale des relations commerciales sont insuffisantes : c’est notamment pour surmonter cela que CLA utilise sa technique dite de "juge virtuel"
  • CLA refuse de profiler les juges et les avocats. Elle anonymise leurs noms dans les décisions. Et comme Predictice, J. Lévy Vehel et son associé J. Dupré refusent de travailler sur le contentieux pénal.

J. Lévy Vehel mène une politique de pédagogie scientifique et de formation, intervenant à l’EFB, à l’ENM, dans plusieurs universités, au barreau entrepreneurial de Paris, au barreau des Hauts de Seine et dans de nombreux colloques sur l’intelligence artificielle dans le domaine du droit.

Actuellement (décembre 2020), Case Law Analytics propose les modules suivants : Harcèlement moral, Rupture brutale des relations commerciales établies, Concurrence déloyale, Ententes, Franchise, Manquement d’initié, Sanctions disciplinaires, Marché public de travaux, Préjudice corporel, Trouble de jouissance, Trouble anormal du voisinage, Contrefaçon de marquesl. Début 2021, de nouveaux modules devraient être disponibles : Circonstances vexatoires, Licenciement nul, Préjudice d’anxiété, Marchés publics de travaux, Rupture du contrat d’agent commercial, Contrefaçon de dessins et modèles.

Pour une présentation expresse mais sans erreur, regardez la vidéo de tediprod (technologie, droit et innovation). L’auteur de la vidéo, Arthur Sauzé, avocat et consultant legal tech (Tedi Legal), liste les limites de l’outil Case Law Analytics — limites découlant de ses qualités — :

  • il faut être praticien dans le domaine interrogé pour interpréter les résultats. Autrement dit, ce n’est pas un outil pour particulier ou TPE
  • le design du rapport produit à la fin pourrait être amélioré
  • enfin, c’est un outil complexe, avec un peu trop de clics.

L’étude précitée (non rendue publique) confiée par le CNB à Sopra Steria Next sur les legal tech du domaine de la jurimétrie énonce que « seule une solution, portée par Case Law Analytics, nous semble présenter les caractéristiques d’une technologie de rupture en ce qu’elle répond à un concept de justice simulative, lequel concept est infiniment préférable à tout autre (à l’exception, sans doute, de celui de "jurimétrie") en raison de son exactitude technologique et de ses résultats concrets » [232].

Personnellement, j’ajouterai que c’est un outil rigoureux, scientifique et par conséquent nuancé — autrement dit, CLA ne se survend pas, une qualité rare dans le secteur des legal tech. Son aspect mathématique peut toutefois le rendre difficile à comprendre et appréhender par les juristes, dont le cursus est massivement littéraire et non scientifique. Il faut l’utiliser comme un outil de simulation pour savoir combien on demande en indemnisation, particulièrement en MARL, et non pas comme moteur de recherche de jurisprudence. On fait varier un paramètre et on voit ce qui se passe.

En novembre 2017, le cabinet d’avocats (spécialisé en droit social) Clichy Grangé a annoncé s’être équipé de l’outil Case Law Analytics [233]. Autres clients selon CLA : le cabinet d’avocats Quinn Emanuel, la direction juridique de SNCF Réseau et les assureurs Axa Protection juridique et Allianz. D’autres utilisateurs sont listés sur la page d’accueil du site de CLA.

Comme chez Predictice, les abonnements ont semble-t-il cru en 2018 — là aussi sans chiffres publiés.

Au vu de ses particularités, CLA mérite donc plus que les autres applications de justice prédictive le qualificatif d’IA.

Legalmetrics (Lexbase)

Legalmetrics, sorti à l’été 2018, utilise le fonds jurisprudentiel de l’éditeur juridique Lexbase. A partir du nom d’une société, il affiche un camembert avec les divers types de contentieux qui l’ont concernée. Il s’agit en fait de notions juridiques directement reliées aux tables du Bulletin des arrêts civils de la Cour de cassation. Cliquer sur les tranches amène ensuite aux décisions.

La démarche est certes innovatrice et apprend à l’utilisateur quelque chose d’impossible à trouver/déduire avec les bases traditionnelles de jurisprudence, mais on aimerait voir l’éditeur aller plus loin dans l’analyse du contentieux et proposer d’autres fonctionnalités. Legalmetrics laisse l’impression d’un POC ("proof of concept").

Peu d’IA et pas de justice prédictive là dedans, donc.

Deux prédécesseurs : Jurisprudence chiffrée et Données quantifiées Juris-Data

C’est quelque chose que l’éditeur juridique Francis Lefebvre avait déjà approché avec son produit Jurisprudence chiffrée fondé sur les faits et chiffres présents dans les arrêts de cour d’appel de la base JuriCA. Jurisprudence chiffrée trouve depuis 2010 des arrêts de cour d’appel correspondants aux critères exacts donnés et le montant des dommages-intérêts. Par exemple, à partir de la profession et l’ancienneté, Jurisprudence chiffrée donne le montant des dommages-intérêts pour licenciement sans cause réelle et sérieuse [234]. Jurisprudence chiffrée utilise un programme qui identifie les zones des arrêts d’appel riches en information de type juridiction, adresse, profession, âge, ancienneté, montant des indemnités etc., isole ces informations et permet de mener une recherche d’arrêts très rigoureuse par ces critères combinés. Mais à l’époque de sa conception, les avancées du machine learning commençaient à peine, il est donc peu probable que Jurisprudence chiffrée utilise le ML [235]. En revanche, il y a un travail fin sur le langage naturel, à base de cartouches de langage d’Expert System (ex-Temis, cf supra).

Jurisprudence chiffrée est un outil de traitement du langage naturel (TAL). A ce titre, il a été le précurseur.

Interface de recherche de l’application Jurisprudence chiffrée en matière d’indemnité d’éviction (baux commerciaux)

La base (et ouvrage) rivale de LexisNexis Contentieux de l’indemnisation devenue JurisData Analytics (et accessible par l’onglet Pratique & Outils de Lexis360, mais non comprise dans l’abonnement standard à Lexis360) est elle, en revanche, faite "à la main" et sans TAL/NLP, ce qui permet tout au plus de la ranger dans la catégorie analyse prédictive (les résultats sont présentés sous une forme assez dans le style "tableau de bord") mais pas dans celle de l’IA [236]. Fondée sur une conception de l’informatique juridique datant des années 60, elle est nourrie avec une sélection d’arrêts d’appel "épluchés" pour leurs données et provenant de la base Juris-Data [237], soit 50 000 arrêts à novembre 2017 [238]. Tout comme Jurisprudence chiffrée, elle ne traite que certains thèmes : licenciement, rupture de bail commercial, pension alimentaire et prestation compensatoire ...

Doctrine.fr

Doctrine.fr, malgré son nom, ne contient pas de doctrine, mais des liens (très nombreux) vers des actualités gratuites des éditeurs juridiques (EFL Actualités, Dalloz Actualité, site de la Gazette du Palais, LegalNews ...), vers des billets de blogs juridiques (celui du professeur Dondero y est en bonne place) et vers quelques sites de définitions (le Dictionnaire de droit privé de Serge Braudo) ou de synthèse (Open Dalloz). En matière de doctrine (et encore, Dalloz.fr mis à part, je parlerais plutôt d’actualités), c’est donc un métamoteur. Pour le reste et pour l’essentiel, c’est une base de données de jurisprudence brute qui a récemment perdu son avance en termes de contenu [239].

De même, Doctrine.fr n’appartient pas au champ de la justice dite prédictive. La raison pour laquelle elle est fréquemment citée dans ce champ lexical, c’est, selon le rapport Outils de "justice prédictive" de la Mission de recherche Droit & justice « qu’ils se conçoivent eux-mêmes comme des concurrents [de Predictice] en lutte sur un même marché et qu’ils sont considérés comme tels par leurs potentiels clients » [240].

Ses apports sont ailleurs :

  • d’abord, proposer un moteur de recherche de jurisprudence extrêmement simple à utiliser et extrêmement rapide (dit "search-as-you-type") [241]. Le "learning curve" (délai d’apprentissage) est quasiment nul. Certes, construire une plateforme et un moteur "from scratch" aide beaucoup ici. Il n’empêche : les éditeurs juridiques traditionnels feraient bien d’en prendre de la graine et certains ont déjà adopté la technologie plébiscitée du type-as-you-search [242]
  • également, le moteur personnalise les résultats en fonction du profil de l’utilisateur (recherches déjà effectuées, résultats visualisés), en agissant sur leur tri [243]
  • ensuite, utiliser le machine learning pour pseudonymiser les décisions de justice, pour les classer par matière suite à une recherche (voir la colonne de gauche) et pour aider à sélectionner les documents à envoyer dans les alertes email. Le NLP à la "sauce" ML ne semble pas utilisé directement pour la recherche elle-même, mais pour classer automatiquement les décisions de justice par domaine du droit — le résultat est pertinent — et les découper (date, numéro, motifs, dispositif etc.) [244], ce qui aide à affiner les résultats de la recherche. Il est également utilisé par Doctrine.fr pour pseudonymiser (anonymiser disait-on avant le RGPD) les décisions, c’est-à-dire remplacer les noms de parties personnes physiques par des lettres majuscules comme A..., B...
  • le "business analytics", version "legal" : Doctrine.fr lie les entreprises (définies par leur numéro RCS) à leur fiche RCS, lie les décisions sur les entreprises aux avocats qui ont travaillé sur l’affaire et présente des statistiques à partir de cela. Il est possible que le repérage des noms des avocats utilise du machine learning, mais fondamentalement, les champs Parties (retirés depuis quelques années [245] mais bien présents auparavant) et texte intégral des bases de données actuelles de jurisprudence permettent déjà d’établir ce type de liens [246], certes de manière nettement moins pratique
  • enfin, une fonctionnalité inédite jusque-là (mais rapidement imitée par Predictice avec Scan puis Lexbase avec Lextract) dans la legal tech et l’édition juridique : Document Analyzer [247] (voir aussi la vidéo de démonstration rapide sur le site de Doctrine). Les algorithmes de Doctrine analysent le texte des conclusions (chaînes de caractère), identifient (en faisant appel à leur base de jurisprudence et textes officiels) les sources de droit citées dans ce document et créent les liens hypertextes vers ces sources. Le nombre de commentaires répertoriés par Doctrine permet de classer les décisions de justice par importance. Cette fonctionnalité Analyzer plaît semble-t-il beaucoup aux stagiaires et jeunes collaborateurs à qui elle fait économiser beaucoup de temps de recherche. Elle a été très rapidement reproduite par Predictice puis Lexbase. Ce qui montre à la fois que c’est une idée intelligente et une nouveauté très demandée mais aussi que ce n’est pas une révolution technologique. Par ailleurs, on peut s’interroger sur les aspects RGPD du traitement informatisé des conclusions lorsqu’elles contiennent des noms de personnes physiques. Il est à espérer que ces noms et autres informations indirectement nominatives sont expurgées au début même du "process". Par ailleurs, des avocats se demandent s’il y a des questions de protection de la confidentialité du dossier du client (liée au devoir de secret professionnel de l’avocat [248]) à se poser sur le transfert à un tiers autre que les juridictions de documents faisant partie de la procédure [249].

Pour l’instant, le moteur de Doctrine.fr fonctionne donc essentiellement comme un "full text" [250] à réponse quasi-instantanée. Et l’application n’appartient pas au segment de la justice prédictive. Même s’il utilise des technologies d’IA, il est donc difficile de qualifier l’ensemble d’IA au sens où le coeur du système, le moteur de recherche semble en utiliser peu.

JuriPredis

JuriPredis (aussi écrit Juri’predis), lancé officiellement en octobre 2018, est un moteur de recherche de jurisprudence sur le fonds Legifrance (bases CASS, INCA, CAPP, JADE, CONSTIT : autrement dit la Cour de cassation, le Conseil d’Etat et les cours administratives d’appel), la base de cours d’appel payante JuriCA et depuis mars 2020 le TUE (ex-TPICE) et la CJUE (fonds de jurisprudence d’EUR-Lex).

Il utilise, selon nos tests, un moteur de recherche capable, sur certaines requêtes, de très bien "ranker" les arrêts, et de moins bien "comprendre" la requête de l’utilisateur sur d’autres [251]. NLP à la sauce ML ou bons vieux systèmes à base de chaînes de caractères ? Au vu des informations disponibles, le second cas.

Selon l’interview donnée à BFM TV en octobre 2018 par son fondateur le professeur Frédéric Rouvière, de l’Université d’Aix-Marseille, spécialiste de droit civil et de théorie du droit, JuriPredis veut faciliter la recherche par mots-clés, « limiter les déchets dans la recherche ». Ce nouveau moteur de recherche de jurisprudence ne va pas pour l’instant vers le prédictif (proposer des statistiques ou des solutions), mais s’y intéresse quand même.

Le financement initial est probablement venu de l’incubateur du Barreau de Marseille, cité sur la page partenaires du site de JuriPredis. Ce soutien financier supposant une forte approbation du projet par le Barreau local. Après 7 mois seulement de développement, JuriPredis était déjà en mode commercialisation en novembre 2018 (abonnement et "marque grise") [252].

La marque "born South" est décidément très nette sur cette application. En sus des traits déjà notés (ses créateurs, son incubateur), Juri’Predis « annonce être soutenue par une vingtaine de cabinets, à 90 % implantés en Provence Alpes Côte d’Azur ». Les tests et l’évaluation initiale pourraient bien être l’oeuvre des 10 juristes du cabinet aixois LexCausa voire d’autres ayant adopté le moteur. Et les chercheurs en droit de l’Université d’Aix-Marseille ont visiblement aidé. Et l’article (assez promotionnel vu l’insistance sur les termes "IA" et "machine learning") précité de la Tribune n’est pas publié par la Tribune tout court mais pas son édition locale Provence Alpes Côte d’Azur et sur une URL dédiée marseille.latribune.fr.

Les tarifs sont publics — jusqu’à 5 utilisateurs. Fait notable, car cela devient de plus en plus rare dans l’édition juridique.

En résumé, au vu du sujet et de l’angle d’attaque de cette étude, JuriPredis, c’est un tout petit peu d’IA (dans le moteur) — et encore, à l’ancienne — mais pas de justice prédictive.

Dernier né, Justice.cool

La conciliation ou médiation étant devenue obligatoire depuis le 1er janvier 2020 pour la grande majorité des litiges de moins de 5000 euros et les conflits de voisinage (loi de réforme de la justice du 23 mars 2019 et son décret d’application du 11 décembre [253]), se lance le premier site de médiation en ligne français assisté, selon eux-mêmes, par l’intelligence artificielle : Justice.cool [254]. Il a été créé par le Français qui a lancé en 2016 le site RefundMyTicket (réclamation automatisée d’indemnisation pour retard d’avion important), toutefois par le biais d’une société distincte et dont le siège est à une adresse différente (Europe Médiation SAS, créée le 31 décembre 2019, pour Justice.cool, et Claim Assistance pour Refundmyticket). Soyons clair : en matière de plateforme de médiation en ligne française, ce n’est pas le premier site. Mais en terme de plateforme de médiation avec assistance par l’IA, ça semble bien être le premier. Le fondateur, Romain Drosne en est à sa quatrième entreprise, après dix-sept ans dans le marketing digital.

Le modèle d’affaires (cf la FAQ du site) s’inspire de celui de RefundMyTicket et va au-delà :

  • ils ne prennent en médiation un dossier que :
    • en dessous de 5000 euros
    • pour l’instant, uniquement en droit des transports (retard ou annulation d’hôtel ou de vol, donc proche de RefundMyTicket) ou en droit du travail (licenciement, modification du contrat de travail)
    • et si vous avez plus de chances d’arriver à un accord que d’échouer. Attention, le site ne dit pas que cet accord sera forcément à votre avantage. A vous de vérifier si l’accord vous convient avant d’accepter
  • les frais (forfaitaires) sont de 36 euros et sont remboursés si vous ne trouvez pas un accord avec la partie adverse sous 60 jours
  • en cas d’échec de la médiation, et selon votre score, le site propose de continuer les démarches en justice avec l’un de leurs avocats partenaires. Justice.cool avance alors les frais de justice, mais prend une commission de succès de 25% TTC.

A propos de leur technologie, voici ce que dit l’article 5.3 de leurs conditions générales d’utilisation (CGU) et leur page Indicateurs :

  • sur les chances de succès (le "Score") :
    « L’algorithme qui permet d’établir ce score repose sur deux approches statistiques conjuguées :
    La première s’appuie sur une approche de modélisation manuelle élaborée par nos juristes, nos partenaires avocats et universitaires.
    La seconde résulte d’un traitement par apprentissage automatique (Machine Learning) qui compare les faits présentés à une base de données de 1,8 million de décisions de Justice.
    Ce score est ensuite présenté de plusieurs façons :
    Un score par demande qui indique au demandeur le nombre de décisions similaires qui ont fait droit à sa demande
    Le score global qui représente la moyenne des scores de l’ensemble des demandes effectuées par le demandeur. »
    « Une fois le Litige enregistré et l’Opposant identifié par le Demandeur, celui-ci obtiendra un Score. [...]
    Le Score tient compte des éléments fournis par le Demandeur relativement au Litige, de la réglementation en vigueur et des décisions de justice rendues dans des situations présentant des éléments de similitudes avec les faits tels que rapportés par l’Utilisateur.
    D’une part, le Score est calculé grâce à un système expert de modélisation de la loi, élaboré par une équipe de juristes, d’ingénieurs et et d’avocats. D’autre part, le Score est pondéré par un algorithme d’apprentissage automatique, dit "Machine Learning", qui se fonde sur une analyse par similarité d’un nombre significatif de décisions de justice rendues par différentes juridictions. [...]
    Le Score de Justice.cool n’est pas une décision de justice, ni conseil juridique ou une décision de médiation. Le Score de Justice.cool ne prétend pas à l’exhaustivité : il reflète une analyse statistique de la situation par rapport à la loi et à la jurisprudence et ne présume pas de l’issue réelle d’un litige. Ce Score doit être utilisé en bonne intelligence par les Utilisateurs, comme un indicateur et ne lie ni Justice.cool ni les Utilisateurs. »
  • sur l’estimation des dommages-intérêts :
    « Les évaluations présentées tout au long du processus résultent, tout comme pour le score, d’une approche conjuguée :
    d’algorithmes manuellement définis par nos juristes et par nos partenaires avocats et universitaires sur la base des calculs établis par les textes de lois (codes, conventions collectives, réglementations, accords d’entreprises etc.)
    d’une approche comparée à la jurisprudence dans laquelle un traitement par apprentissage automatique (Machine Learning) est appliqué pour comparer le cas décrit à l’ensemble de la jurisprudence disponible (1,8 million de décisions de Justice). »

Il serait intéressant de savoir qui sont les juristes et avocats de l’équipe et d’en apprendre un peu plus sur l’algorithme utilisé (protégé par le secret des affaires, dixit les CGU) ainsi que sur le fonds de 1,8 millions de décisions de justice sur lesquelles s’appuie la startup. En effet, il existe peu de décisions de première instance disponibles et parmi les petits litiges, peu vont en appel.

Il y a d’autres plateformes de médiation en ligne françaises mais aucune autre assistée par de l’IA : Marcel Médiation, CMAP (en cours), Litiges.fr, Le Médiateur de la Consommation (Médiation Service).

Par ailleurs, certaines plateformes de médiation en ligne très utilisées sont en fait des services annexes de grands sites de commerce électronique : Ebay, Paypal, Amazon notamment. Elles peuvent intégrerhttps://www.juripredis.com/fr/blog/... des fonctionnalités de type IA [255].

Supra Legem, l’IA gratuite de droit public

Seule application de "justice prédictive" (en fait, on vient de le voir, de recherche fine et d’aide à la décision) à proposer une démo grandeur nature, qui plus est gratuite, Supra Legem (le site a été mis hors ligne), développée par l’avocat fiscaliste, programmeur et data scientist Michael Benesty avec l’aide d’un ami ingénieur machine learning (travaillant incidemment chez Google) [256], aidait à améliorer la pertinence et la rapidité des recherches, identifier un revirement de jurisprudence, identifier les moyens de l’administration qui n’ont pas fonctionné, identifier des tendances de certaines chambres, voire prédire des revirements de jurisprudence du Conseil d’Etat [257]. A lire absolument pour plus de précisions sur le projet Supra Legem et de manière générale sur les applications de justice prédictive, le compte-rendu que M. Benesty en a fait au Journal of Open Access to Law (JOAL) début 2017 [258].

Pour autant, les déductions qu’on pouvait tirer des analyses des statistiques présentées par Supra Legem doivent être prises avec des pincettes, comme l’a montré un vif débat lors du lancement de l’application et des premiers articles écrits sur elle.

À noter qu’un de mes contacts estime que le machine learning en droit a beaucoup d’avenir si le deep learning non supervisé y perce. Et ce, même sur des marchés juridiques en régression comme le marché français. Imaginons par exemple que les algorithmes de deep learning arrivent à détecter des similitudes ("patterns") indépendantes de la langue et entre les documents juridiques allemands (un marché en meilleure santé) et français : les recherches entreprises sur le droit allemand — un marché bien plus rentable que le droit français — seraient alors transposables et réutilisables en droit français ...

On remarque que les éditeurs juridiques français traditionnels (groupe ELS avec Francis Lefebvre, Dalloz et Editions Législatives, Lexbase, LexisNexis SA, Wolters Kluwer France, Lextenso) ne proposent pas de produit incorporant du machine learning. Pour certains, je dirais : pas encore, mais je serais surpris que cela tarde [259] D’autant que ce sont les éditeurs qui détiennent le commentaire de la jurisprudence (dit aussi doctrine). Or en droit français, la donnée qui relie entre elles et permet de comprendre les décisions de justice, c’est la doctrine. Alors qu’en pays de "common law", le "case law" (jurisprudence) contient ses propres liens et son propre commentaire. En effet, le principe du "stare decisis" impose au juge anglo-saxon de citer les précédents pertinents et les juges des cours donnent leur "opinion" — autrement dit, ils commentent leur propre décision, chose impensable en France [260].

Arbitrage international

A noter que l’arbitrage international est en train d’attirer les regards du secteur :

  • le français Case Law Analytics a embauché fin 2019 une experte en droit international avec une spécialisation en arbitrage pour « de nouveaux modules »
  • ArbiLex, une legal tech américaine incubée au Harvard Innovation Lab et utilisant un machine learning bayésien, se prépare début 2020 à se lancer [261]
  • la legal tech française Jus Mundi, sans correspondre exactement à la définition de l’IA, s’est lancé à l’automne 2018 sur le secteur du droit international (traités, règlements d’arbitrage, sentences arbitrales) en commençant par l’arbitrage international d’investissement (CIRDI etc.).

L’IA et les textes officiels

Legal tech d’avant les legal tech, créée en 2009, l’éditeur juridique et SSII éditoriale Luxia est le créateur de la base de données Alinea by Luxia, qui avec une licence Legifrance, reprend textes officiels et jurisprudence, améliore la présentation ("time lines" notamment), la recherche et propose de la veille.

Luxia a lancé en janvier 2019 RegMind, une application qui fait de la veille automatisée en droit bancaire et financier (français et européen) à destination des banques et cabinets d’avocats [262]. Elle consolide automatiquement les textes, colorise les modifications (une fonctionnalité historique d’Alinea by Luxia) [263] et les lie entre eux [264], y compris des autorités de régulation, signale les modifications (à travers une visualisation graphique sous forme d’arbre) et facilite leur suivi par les juristes, dans un domaine intéressant ici car particulièrement complexe. Jurisprudence et sanctions sont intégrées, dit l’article du Monde du Droit [265]. Luxia n’utilise pas le terme d’IA pour la qualifier et sa présentation n’évoque pas l’utilisation de machine learning [266], mais elle tente bien d’automatiser un processus humain.

Quatre banques – dont Natixis, à l’origine du projet et qui a investi dedans — et un cabinet d’avocats (Allen & Overy) ont collaboré, testé et amélioré RegMind sur deux ans (2017-2019).

Formé par l’informaticien pionnier de l’information juridique publique Robert Mahl qui depuis le Centre de recherches en informatique (CRI) de l’Ecoles Mines a participé à la création du site Adminet, Georges-André Silber, le président fondateur de Luxia, a travaillé avec Christian Le Hir, directeur juridique de Natixis.

RegMind est le premier outil d’IA juridique français portant sur les textes officiels — et non la jurisprudence.

Pourquoi une montée des "IA" en droit ?

Une première raison du lancement des applications de justice prédictive en France ces dernières années est conjoncturelle. Elle réside tout simplement dans les promesses d’open data judiciaire des décisions d’appel et de première instance insérées en 2016 dans la loi Lemaire pour une République numérique (articles 12 bis A et 12 bis B nouveaux, devenus après renumérotation articles 20 et 21) par des amendements surprises venus de l’entourage de la secrétaire d’Etat Axelle Lemaire, en charge du projet de loi [267]. Autant dire la promesse d’une abondante matière première gratuite. 2016, c’est le lancement de Doctrine.fr et Predictice ...

Il faut toutefois préciser que ces promesses n’ont pas été tenues : le décret d’application de la loi Lemaire n’a jamais été publié tel qu’on pouvait l’imaginer en 2016, puisque la loi de programmation et de réforme de la justice du 23 mars 2019 [268] a ajouté aux articles 20 et 21 de la loi de 2016. L’article 33 de la loi de 2019 a ajouté que les éléments permettant d’identifier les personnes physiques doivent être occultés (une simple application du RGPD et de la loi Informatique et libertés, entre parenthèses, aurait pu suffire, ce qui souligne les enjeux de la pseudonymisation et l’intensité du débat) et que les noms des professionnels de justice, avocats mis à part, ne doivent être ni cherchables ni traités. Un autre décret (d’application de cette loi de 2019, en réalité) doit donc être pris : un décret sur l’open data des décisions de justice est finalement publié au Journal officiel du 30 juin 2020 [269]. Mais pour que l’open data soit effectif, il faudra encore attendre. Pour des raisons notamment d’équipement informatique et logiciel, la Cour de cassation désirant continuer à maîtriser la diffusion des décisions judiciaires. Confirmation dans la tribune de la première présidente Chantal Arens à Dalloz Actualité [270] : « la Cour de cassation pourra effectivement assurer pour 2021-2022 l’accessibilité en open data de ses décisions et des décisions des cours d’appel en matière civile mais la mise à disposition des autres décisions risque d’être reportée à une date très incertaine. »

Les raisons de ce retard sont fondamentalement au-delà de la problématique de la pseudonymisation renforcée (ex-anonymisation) amenée par la loi de 2016 (exigence d’« analyse du risque de ré-identification des personnes ») et plus encore celle de 2019 [271]. Elles existaient déjà début 2016 avant la loi Lemaire et sont toujours là [272] :

  • exigence de pseudonymisation découlant de la position de la CNIL, interprétant la loi Informatique et libertés — exigence reprise et renforcée depuis par le RGPD [273]
  • les moyens humains et budgétaires nécessaires dans les juridictions pour pseudonymiser et traiter informatiquement les décisions (sans parler d’écluser les stock d’affaires en retard, plus encore avec les confinements imposés par la pandémie de Covid-19, voir infra) n’existent tout simplement pas
  • sur le plan informatique, rien ne sera ni prêt ni adapté avant longtemps. Même si les data scientists d’Etalab envoyés assister la Cour de cassation ont beaucoup progressé en 2019 dans la pseudonymisation des décisions juridiciaires en utilisant deux librairies de "Named Entity Recognition" (NER) bien connues, spaCy et Zalando Flair [274] : « diminution de 32% du taux d’erreur avec une meilleure utilisation de la connaissance de l’ensemble des données au lieu de simplement travailler au niveau de la phrase ».

Si on se penche maintenant sur les aspects structurels, une des raisons de la montée des IA en droit s’impose : les économies — qu’elles soient réalisées ou juste attendues. C’est, avec la rapidité, LE motif mis en avant par le managing partner d’une "small law firm" spécialisée en droit américain des faillites, le premier domaine de Ross.
En droit américain, l’argument des économies de personnel réalisées dans le cabinet d’avocats sent déjà son pesant de marketing. En droit français, qui n’est pas un droit de common law mais un droit écrit et où les recherches de jurisprudence sont à la fois moins cruciales et moins complexes, on ne peut guère avancer cet avantage. Du reste, nous n’avons pas trouvé trace de témoignages en ce sens.
La rapidité pour déterminer les montants moyens ou maximaux des condamnations, en revanche, est souvent invoquée et s’avère fondée. Et le gain de temps qui en découle dans les recherches pour les collaborateurs est un argument souvent entendu et fondé lui aussi.

Mais pour l’heure, l’essentiel des économies potentielles est à chercher ailleurs. La Justice française a un problème budgétaire criant, reconnu par le ministre de la Justice de 2016, Jean-Jacques Urvoas [275] et régulièrement mise en évidence [276] par des rapports de la Cour des comptes et de la Commission européenne pour l’efficacité de la justice du Conseil de l’Europe (CEPEJ) [277]. Une tribune iconoclaste aux Echos, rédigée par des non juristes (évidemment ...), propose d’ailleurs carrément de confier la justice française à l’intelligence artificielle [278]. Et confirmation le 5 avril 2017 : la proposition n° 48 du rapport de la mission d’information sénatoriale sur le redressement de la justice présidée par Philippe Bas (voir pp. 20, 21 et 36 du dossier de presse) consiste à « mettre les outils de la "justice prédictive" au service du bon fonctionnement de la justice et de la qualité des décisions de justice et prévenir leurs dérives possibles » [279].

La volonté des pouvoirs exécutif et législatif de profiter de la justice prédictive pour compenser le manque de moyens et les retards de la Justice française par la médiation et la transaction est tout aussi claire dans la loi de réforme de la Justice la Justice, où on autorise les services de médiation en ligne et permet même leur certification (facultative) [280]. Si, comme l’écrivaient les Affiches Parisiennes à propos de l’enquête (autodéclarative) 2018 sur les legal tech publiée par Maddyness et les Actualités du droit (Lamy) [281], « le pourcentage des start-up qui proposaient une plateforme de médiation en ligne [fin 2018 était] faible », c’est probablement parce que les investisseurs attendaient ce feu vert officiel. Pour citer les Affiches : « Alors que le projet de loi Justice leur consacre spécifiquement un article, seules 1,6 % [des legal tech] proposent, pour l’heure, un tel service. Le boom aura certainement lieu l’an prochain [en 2020, donc], après le vote de la réforme » [282].

Et en effet, un an après ce constat, c’est le lendemain même de l’entrée en vigueur le 1er janvier 2020 de l’obligation de médiation pour les petits litiges (loi de réforme de la justice du 23 mars 2019), que le site Justice.cool, en fait un site de médiation assisté par IA (cf supra), est lancé [283].

Un bémol toutefois

De leur côté, les dirigeants de Case Law Analytics l’assument depuis l’origine : leur produit est taillé pour favoriser les transactions et désengorger les tribunaux [284] :

« Les assureurs sont également des clients, en particulier les assureurs de protection juridique. On a un outil très performant pour les assurés qui ont très rapidement une vision précise du risque et de l’analyse de leur cas. L’objectif premier étant d’éviter le procès et de raccourcir les délais d’indemnisation.
Notre outil va également avoir son rôle à jouer pour favoriser les modes alternatifs de règlement des litiges.
En effet, le nombre de litiges augmente, et il n’y aura pas deux fois plus de juges dans 10 ans et il n’y aura pas 2 fois plus de budget dans 10 ans. En revanche, il y aura beaucoup d’outils qui vont permettre de s’assoir autour d’une table pour décider et négocier sur des bases solides. »

On retrouve le même objectif, affirmé cette fois par Predictice et un assureur, dans un article de l’Argus de l’assurance [285] :

« " Si nous avons un outil prédictif, nous disposons d’un argument supplémentaire pour convaincre les clients de faire un compromis. C’est un outil d’aide à la décision augmentée ", explique Christophe Bardet, directeur général de Covéa PJ. Selon un sondage anonyme réalisé par Predictice auprès de treize de ses utilisateurs, tous déclarent que cette solution leur permet de mieux négocier et de favoriser un mode alternatif de résolution des litiges. »

Le rapport final de la mission de recherche Droit & Justice "Comment le numérique transforme le droit et la justice" (juillet 2019), auquel J. Lévy Véhel a collaboré, propose un volet intitulé "Encadrement juridique des modes algorithmiques d’analyse des décisions" (MAAD), rédigé par Lêmy Godefroy, maître de conférences en droit privé, dont la finalité est clairement exprimée dans le titre de son VI : "La finalité : le règlement des litiges à l’aide des MAAD" [286]. C’est la partie de loin la plus novatrice et la plus audacieuse du document, notamment par ses implications en termes de nombre et de place des juges et des avocats dans la Justice. Et ce, en dépit du caractère facultatif annoncé et des précautions prises par l’auteure pour ne pas totalement enfermer juge et avocat dans la procédure qu’elle propose, mais qui ne tromperont pas un lecteur attentif.

Jugez-en par vous-même : voici les extraits pertinents des règles de procédure proposées :

  • « les MAAD aident à qualifier le litige. Si celui-ci est juridiquement singulier, il est dirigé vers la procédure ordinaire. S’il est juridiquement analogue, il sera orienté vers une procédure dématérialisée spécifique, amiable ou judiciaire. Le concours des MAAD est signalé aux parties qui peuvent exprimer leur refus »
  • « l’assistance et/ou la représentation par avocat n’est pas obligatoire »
  • « dans le règlement amiable, les MAAD fournissent un socle à la discussion entre les parties. Dans le règlement judiciaire, le juge, utilisant les MAAD, établit l’existence d’un droit en faveur de l’une des parties (dommages-intérêts [...]). Toujours aidé des MAAD, il définit le montant à allouer au créancier du droit à réparation »
  • conformément aux art. 5 C. civ. (interdiction des arrêts de règlement) et 455 CPC (obligation de motivation d’après les circonstances particulières du procès) « le juge justifie des raisons de fait et/ou de droit pour lesquelles il rejette ou accueille la demande » [NB : on sent là comme une contradiction, vu le peu de temps qu’ont déjà aujourd’hui les juges pour traiter une affaire. En effet, si on leur achète un tel outil, sera-ce à effectifs égaux et sans augmentation du flux de nouvelles affaires ? Vu le passé, on peut légitimement en douter]
  • « l’orientation procédurale des appels [...] est réalisée de manière dématérialisée par une chambre spéciale attachée à la Cour d’appel. La représentation par avocat est obligatoire. A l’aide des MAAD, cette chambre recherche l’éventuelle singularité juridique du litige. Plus précisément, par comparaison aux résultats fournis par les MAAD, le juge vérifie dans l’énoncé des chefs du jugement critiqués si le litige soulève une question de principe et/ou suscite une évolution de jurisprudence, s’il porte sur une question nouvelle ou inédite ou sur une question non résolue par une jurisprudence établie, s’il renferme une certaine complexité (divergences de jurisprudence, difficultés de qualification juridique des faits, problèmes d’interprétation de la règle applicable, etc.), des problématiques sérieuses ou d’« importance fondamentale ». À l’issue de cet examen, l’appel est soit traité sur la plateforme dématérialisée à l’aide des MAAD, soit soumis à la Cour d’appel selon la procédure ordinaire. »

On voit bien à la lecture de cette proposition de règles procédurales que les outils d’IA reviennent à chaque instant, y compris en appel. Quant au caractère facultatif, il suffira d’évoquer le délai supplémentaire (pour causes budgétaires ...) de la voie procédurale ordinaire pour dissuader les justiciables de l’emprunter.

Impact prévisible des "IA" sur les jeunes collaborateurs, stagiaires, paralegals et documentalistes juridiques ?

Avant d’aborder, très concrètement, ce que l’IA modifie actuellement et peut modifier à l’avenir dans le travail des juristes et des administratifs qui travaillent pour eux, il faut revenir sur la définition de l’intelligence artificielle. Là déjà, on peut calmer les peurs, les fantasmes que déclenche le seul terme d’IA.


Sommaire du livre L’intelligence artificielle et le droit (Larcier, 2017)

Les limites de l’IA faible

On l’a vu plus haut, ce qu’on appelle IA est, à strictement parler, un champ de recherche. Par extension, on qualifie aussi d’IA les produits qui se rangent dans ce champ [287]. On parle bien ici de *recherche* : on n’en est pas à reproduire le fonctionnement d’une intelligence humaine. Un des deux co-fondateurs de l’équipe de recherche en IA de Uber, Gary Marcus, professeur de psychologie à l’Université de New York, le dit clairement [288] : « Il y a tout ce que vous pouvez faire avec le deep learning [...]. Mais ça ne veut pas dire que c’est de l’intelligence. L’intelligence est une variable multi-dimensionnelle. Il y a beaucoup de choses qui rentrent dedans. [...] La véritable IA est plus éloignée que ce que pensent les gens. »

En fait, ce que nous voyons aujourd’hui, c’est ce que les spécialistes de l’IA appellent "week AI" (ou "narrow AI"). Comme l’expliquent Wikipédia et Techopedia, l’IA faible est une intelligence artificielle non-sensible qui se concentre sur une tâche précise. Autrement dit, l’IA faible consiste à imiter une fonction étroite typiquement humaine, comme reconnaître un chat sur une photo floue (reconnaissance de forme/d’image) et de le faire plus rapidement. L’IA faible est définie par contraste avec l’IA forte (une machine dotée de conscience, de sensibilité et d’esprit, tout comme un être humain) ou l’intelligence artificielle générale ou AGI [289] (une machine capable d’appliquer l’intelligence à tout problème plutôt qu’un problème spécifique et douée de conscience). Le point le plus important ici est que tous les systèmes d’IA actuellement existants sont considérés comme des intelligences artificielles faibles.

Face à l’affirmation récente tant par Mark Zuckerberg que par Shane Legg, le directeur du programme DeepMind de Google, que d’ici 2020 on aura atteint une IA de niveau humain, Melanie Mitchell, professeur d’informatique à l’Université d’Etat de Portland s’inscrit en faux dans le New York Times [290]. Pour elle, ce ne sont pas le machine learning ni les réseaux neuronaux qui parviendront à une réelle compréhension et au simple bon sens des humains [291].

Certains spécialistes du cerveau et de la connaissance estiment même une AGI quasi-impossible. Ainsi, Antonio Damasio, le neuroscientifique directeur du Brain and Creativity Institute à Los Angeles [292], « reste assez sceptique quant à ce qu’on appelle l’"IA forte" » à cause de la part émotionnelle et physiologique en jeu dans le fonctionnement du cerveau et des processus cognitifs de l’être humain [293].

Pierre Lévy écrit, lui : « Aussi bien les journalistes que les auteurs de roman ou de série TV présentent les robots ou l’intelligence artificielle comme capable d’autonomie et de conscience, que ce soit dès maintenant ou dans un futur proche. Cette représentation est à mon avis fausse, mais elle fonctionne très bien parce qu’elle joue ou bien sur la peur d’être éliminé ou asservi par des machines, ou bien sur l’espoir que l’intelligence artificielle va nous aider magiquement à résoudre tous nos problèmes ou – pire – qu’elle représenterait une espèce plus avancée que l’homme. » [294] Il ajoute qu’ « il faut bien constater l’échec théorique de l’IA puisque, malgré la multitude des outils algorithmiques disponibles, l’intelligence artificielle ne peut toujours pas exhiber de modèle convaincant de la cognition. La discipline a prudemment renoncé à simuler l’intelligence dans son intégralité. » [295]

Enfin, selon les mots du célèbre psychologue cognitiviste canadien Steven Pinker dans un magazine américain de vulgarisation scientifique [296] : « On nous a dit de craindre les robots, [mais] le soulèvement des robots est un mythe. [...] [Sa] première fausseté est une confusion entre intelligence et motivation, entre connaissances et désirs, entre inférences et buts, pensée et volonté. »

D’ailleurs, vu les fonctionnalités et performances réelles des produits que nous avons exposées plus haut, il est évident que parler d’intelligence artificielle en droit au sens strict est très exagéré. On devrait plutôt parler des différents types ou niveaux d’IA.

Il faut ajouter à ces limites deux obstacles classiques : la résistance au changement, si tant est que cette résistance ne découle pas d’un manque d’anticipation ... de la résistance (inévitable) ou d’une relation managers-employés brisée [297], et la difficulté des dirigeants à saisir ce qu’une nouvelle technologie peut leur apporter [298]. Enfin, si tant est que cette nouvelle technologie offre un progrès réel ou quelque chose de réellement nouveau (cf infra). On notera par exemple que si le machine learning permet aux investisseurs d’exploiter d’énormes masses de données comme les publications sur les réseaux sociaux, en dépit de ce potentiel, ses performances restent mitigées. L’indice Eurekahedge AI Hedge Fund, qui retrace le rendement de 13 "hedge funds" qui utilisent le machine learning, n’a gagné que 7% par an sur 2013-2017, quand l’indice S&P 500 gagnait 13%. Selon Marcos López de Prado, responsable machine learning chez AQR Capital Management et auteur du livre Advances in Financial Machine Learning (Wiley, 2018), l’un des pièges potentiels des stratégies d’apprentissage automatique est le rapport signal/bruit extrêmement faible sur les marchés financiers. Les algorithmes d’apprentissage automatique identifieront toujours un motif, même s’il n’en existe aucun, dit-il. Les algorithmes sont donc susceptibles d’identifier de fausses stratégies. Il faut une connaissance approfondie des marchés pour appliquer avec succès l’apprentissage automatique aux séries financières [299] (si tant est que ce soit possible, car le professionnel auteur de l’article précité du Financial Times sur la "hype" de l’IA en finance de marché estime qu’en finance, l’IA ne peut pas tirer d’enseignements du passé).

Il y a aussi un débat sur la légalité et l’opportunité de laisser les legal tech investir le marché du droit (principalement celui des avocats mais aussi celui des notaires) et de l’information juridique. Sur ce sujet, je vous renvoie aux articles cités en première partie plus haut. Sur les risques de la justice prédictive, voir infra. On peut aussi citer l’avocate Michèle Bauer [300] :

« Les legaltech ne sont rien sans les avocats [301]. Les services proposés sont la plupart du temps des services dans lesquels sont associés les avocats : rédaction de statuts de société pas chère, demandes de devis, recherche d’un postulant ... »

IA et documentalistes

Les outils d’IA juridique auront un impact sur la recherche — et donc la veille — documentaire juridique : les tâches répétitives et "découpables" en petits morceaux seront robotisées, les autres ne le seront pas. Par exemple, Ross réalise la recherche booléenne et la première analyse des résultats. Selon les termes d’Andrew Arruda [302] (traduction par nos soins) :

« La technologie AI de ROSS remplace le besoin d’utiliser les opérateurs et mots-clés de la recherche booléenne par du langage ordinaire. Si un juriste d’affaires a besoin de connaître la différence entre les deux concepts juridiques "loss" et "recoupment", tout ce dont le juriste a besoin est de demander à ROSS : "Quelle est la différence entre "loss" et "recoupment" ?
Le résultat fourni par le système va au-delà de la simple identification des arrêts pertinents. Au lieu de cela, il attire l’attention du juriste sur les passages clés dans l’affaire qui devrait répondre idéalement à la question posée.
Quand vous posez une question à ROSS sur l’état du droit, vous la posez comme vous le feriez avec un collègue humain. ROSS découpe la phrase pour déterminer le sens de la question, puis conduit la recherche. »

Fin 2020, grâce à la mise en open source de l’algorithme BERT de Google, les départements informatiques des éditeurs juridiques français pourraient s’approcher d’un moteur de recherche aux performances similaires à celles de Google, au sens où il est capable d’afficher en premier le document qui répond à la question.

Autrement dit, les applications de justice prédictives restent des moteurs de recherche (nettement voire très nettement) améliorés et des outils (statistiques) d’aide à la décision. Ce ne sont pas de véritables intelligences juridiques globales. Elles ne menacent guère que la fonction recherche — et encore : lisez ce qui suit.

Si on se projette dans environ sept ans [303], plus le travail du documentaliste juridique français procédera, « d’heuristiques pointues pratiquant pour partie un mode intuitif (opérer par rapprochements semi conscients) » [304], plus il aura une conscience d’artisan et d’expert de haut vol (notamment dans la maîtrise des sources méconnues ou mal indexées [305]), et moins au final il aura de chances d’être automatisé.

Mais aussi : plus il travaillera *avec* l’IA. Le documentaliste, le veilleur, le paralegal, le stagiaire juriste, le collaborateur, l’éditeur vérifieront, compléteront et amélioreront le travail de l’IA. Selon Christophe Tricot, expert IA chez Kynapse (son compte Twitter), « le collaborateur qui participe à la création d’une IA va devoir expliciter les règles, ses tâches au quotidien et comment il les aborde, parce que souvent les choses sont cachées ». Se former à l’IA, c’est donc savoir aussi parler de son fonctionnement quotidien, même lorsqu’on n’y prête pas attention et, encore mieux, le formaliser avec des règles. Par exemple : « S’il n’y a plus de papier dans la photocopieuse, alors il faut en remettre dans le tiroir. » Les règles en « si... alors... » (implication logique) sont facilement formalisables en langage informatique [306].

Comme l’écrit de manière futuriste, provocatrice mais pertinente Tyler Cowen, professeur d’économie à la George Mason University et blogueur connu sur Marginal revolution, dans son ouvrage Average is Over (Dutton, 2013, non traduit en français) :

« Les travailleurs se classeront de plus en plus en deux catégories. Les questions clés seront : Savez-vous bien travailler avec des machines intelligentes ou pas ? Vos compétences sont-elles un complément aux compétences de l’ordinateur, ou l’ordinateur fonctionne-t-il mieux sans vous ? Pire : est-ce que vous vous battez contre l’ordinateur ? » (traduction par nos soins)

D’ores et déjà, si l’on en croit les consultants spécialisés dans l’externalisation des services tertiaires, les applications de type RPA (Robotics Process Automation ou automation software) "carburant" au machine learning [307] sont en train de frapper à la porte des bureaux des Indiens, Philippins et autres pays d’externalisation [308].

Dans le secteur de la bibliothèque documentation juridique, en réalité, l’automatisation n’a pas attendu l’IA, le machine learning ni les réseaux neuronaux. Elle a commencé il y a plus de vingt ans, avec le téléchargement des notices de catalogue OCLC et Gallica puis les produits de veille directement destinés aux juristes, comme Dalloz Actualité, PaRR ou Mlex.

Voyons pour le futur.

Côté gestion de bibliothèque, on peut penser au bulletinage des revues électroniques ou au catalogage et à l’indexation et classement matière des ebooks. Encore que cela suppose que les éditeurs juridiques laissent des logiciels étrangers rentrer sur leurs serveurs et dans leurs systèmes — on touche là aux multiples problèmes pratiques et très ras-de-terre que pose l’IA. Les imprimés, c’est nettement moins évident vu leur nature physique.

Côté documentation juridique et open legal data, voici un exemple donné par Jean Gasnault :

« La préparation [des] données est essentielle pour un bon fonctionnement des algorithmes les traitant. Les documentalistes ont une carte à jouer dans cette évolution, en raison de leur compétence spécifique d’enrichissement des données. Cela donne un axe bien identifiable de progression de leurs connaissances : métadonnées, FRBR, normes ELI-ECLI, etc. »

Cela dit, fournir un savoir-faire sans contrepartie [309] n’aurait guère de sens. Il serait prudent de poser des questions sur les utilisations futures des outils de gestion des mails et des tâches et autres "bases de knowledge" et en l’absence de précisions, de savoir garder pour soi ses trucs et techniques de haut-vol.

D’ailleurs, il vaut mieux, pour le professionnel de l’information et le juriste, comme pour leur employeur, garder la connaissance des processus métiers de base mêmes, quand bien même certains — et c’est là toute la contradiction — ne seraient pratiquement plus utilisés. En effet, comme l’explique Sylvain Duranton du Boston Consulting Group (BCG) [310] :

« "Un risque énorme est la perte du savoir-faire métier. Car c’est le savoir-faire qui permet de perfectionner les outils." Un opérateur peut se contenter de suivre les instructions d’une IA sans lui-même savoir comment la perfectionner. C’est à ce moment que son emploi est menacé, pas tellement par l’IA [NB : impossible de ne pas relever ici une certaine hypocrisie, mêlée de réalisme], mais par la baisse du niveau de compétence requis : plus besoin d’être qualifié pour faire son job. »

Puisqu’une partie — à déterminer, car les obstacles sont légion et le plus souvent incontournables — de leur travail est à terme — un terme là aussi à déterminer — automatisable et sera automatisée, une partie croissante du travail des bibliothécaires documentalistes juridiques va consister à détecter, tester, sélectionner et pousser les nouveaux produits des éditeurs et legal tech et les nouvelles techniques de bibliothèque, documentation, recherche documentaire, veille, gestion électronique de documents, gestion des archives et knowledge management. Mais aussi à détecter les prétentions sans fondement dans le discours marketing, autrement dit ce qui ne marche pas. Des qualités de curieux, de découvreur, de testeur, de geek, d’évangélisateur et de créatif devraient devenir beaucoup plus importantes chez les documentalistes juridiques — et peut-être aussi chez les paralegals.

Pour la formation et les recherches — ainsi que les conseils et l’aide à la recherche — je ne vois pas de substitution prochaine, vu que les questions qui sont posées aux documentalistes juridiques sont presque toujours difficiles et très spécifiques. La réalité, c’est que les bibliothécaires documentalistes juridiques interviennent à la demande du juriste, quand il ne s’en sort pas. Ils sont de facto des "super searchers", comme l’ex-"librarian" américaine Reva Basch a qualifié la profession. Certes, les nouveaux moteurs développés par les startups tendent à constituer une base de données des "intentions", domaines de travail et préférences personnelles des utilisateurs avant de traiter leurs requêtes. Mais ces algorithmes ont de nombreux défauts et biais [311] et s’ils fonctionnent (à peu près) correctement, là encore, le documentaliste devra débugguer et former, les mains dans le cambouis.

Les documentalistes juridiques sont des professionnels de la recherche dans les bases de données de jurisprudence. Le plus souvent, dans les cabinets d’avocats, ce sont les documentalistes, et plus rarement les KML et PSL (knowledge management lawyers, practice support lawyers) qui doivent faire les recherches thématiques sur les décisions inédites [312], non sélectionnées [313] et non commentées [314], qui représentent la très grande masse des décisions disponibles dans les bases de données. Les stagiaires, du fait notamment de l’absence de formation dédiée dans les formations universitaires et les BU, sont généralement mal outillés sur le plan méthodologique et pratique face à cette tâche.

Par "déformation professionnelle" ;-) nous sommes très exigeants sur la qualité et l’exhaustivité de la donnée et la performance des outils de recherche. Nous avons une expertise là-dessus, on peut le dire. Les documentalistes juridiques (et les paralegals) ont donc un rôle clé de testeur, d’évaluateur et d’acheteur d’applications de justice prédictive, d’audit de contrats et plus généralement d’IA. Comme l’écrit Dera Nevin, spécialiste de l’"information governance" et de l’"e-discovery" au cabinet Baker McKenzie [315] : « Beaucoup de ces nouvelles technologies nécessiteront un travail humain significatif (souvent non refacturable au client) pour entraîner et gérer les entrées de données et les données produites par ces technologies ; c’est particulièrement vrai du machine learning [...] Il y a souvent des coûts nouveaux (et parfois plus élevés) associés à la technologie qui doivent être pris en compte [...] Les acheteurs de technologie juridique peuvent jouer un rôle critique dans l’amélioration de l’achat de cette technologie en s’assurant que les questions stratégiques sont posées et traitées avant d’être mises sur le marché. »

Il y a encore bien d’autres choses qu’un documentaliste juridique apporte *en plus* d’un robot. Sur ce sujet, voir notre billet Documentaliste : un nouveau métier, de nouveaux noms. Pour ne pas rallonger le présent billet, je me contenterai de (re)citer une bibliothécaire documentaliste juridique américaine [316] :

« L’IA est itérative et continuera à s’améliorer, mais elle ne sait pas grand chose du facteur qu’est le contexte de la question posée ni comment le gérer. Pour que l’IA soit utile dans des recherches complexes (et non juste des recherches sur références bibliographiques) dans la plupart des structures juridiques, j’estime qu’elle aura besoin d’apports significatifs en savoir interne. Il est déjà difficile de faire correctement (voire de faire tout court) du KM. Comment alors allons nous documenter le savoir historique de la structure de manière à ce qu’un robot puisse correctement l’interpréter et l’appliquer ? Ce qui est saisi ne constitue pas réellement la totalité de la requête que l’on entre dans une machine : il y a bien plus de choses à préciser pour que la machine puisse fournir une réponse. »

Il faut aussi lire ce billet de Christophe Doré, consultant, professionnel de haut niveau de la veille, domaine ou excellent les documentalistes : La Veille : 70% d’humain et 30% d’informatique. J’ai appris en lisant cet article un nouveau concept aux termes assez éclairants : la pensée latérale. Les systèmes de veille automatique, les chatbots (cf supra) et les agrégateurs de sources numériques ne sont pas si performants en eux-mêmes. Ils ont besoin d’humains pour déterminer les sources à surveiller et affiner les requêtes booléennes. De plus, on a encore besoin d’un humain pour identifier et suivre les signaux faibles, pour sortir des sentiers battus, pour laisser agir la sérendipité et regarder là où la machine n’ira pas parce que ce n’est pas dans son algorithme.

Un des meilleurs "papers" sur ce sujet, sur un plan technique — et non économique — est celui publié à la Savannah Law Review [317] par l’"investigateur" américain Philip Segal (Charles Griffin Intelligence), spécialiste des recherches de personnes, d’informations et de faits dont le contentieux américain est friand. P. Segal est donc très proche du métier des documentalistes juridiques. Il parle d’améliorations sur des outils que nous utilisons déjà, comme YouTube par exemple, qui devrait bientôt pouvoir se voir appliquer des moteurs de recherche vidéo très puissants. Et en ce qui concerne les nouveaux outils pour son métier, il est loin de les craindre. Il signale précisément leurs avantages comme leurs limites. Ainsi, il recommande :

  • de comparer et évaluer les IA comme toute autre base de données en ligne *avant* de les acheter
  • d’accumuler une expérience concrète des "trucs" à savoir pour les interroger sans se "faire avoir" par leurs biais.

Ces deux tâches sont clairement une des voies de développement naturel — j’allais écrire normal — des métiers de documentaliste juridique et de "legal knowledge manager". En tout cas, les professionnels de l’information juridique sont outillés et légitimes pour s’en occuper. Ils pourront sans problème conseiller les dirigeants de leurs structures sur ces sujets, gérer le projet d’acquisition ou de co-développement interne et son adaptation aux besoins de la structure, former les juristes et négocier les prix — qui promettent pour l’instant d’être élevés.

Comme l’écrit le jounaliste et consultant américain Robert Ambrogi, qui est un chaud partisan des legal tech : « Robots are not coming for law librarians’ jobs. » [318], les bibliothécaires documentalistes juridiques ont des rôles essentiels, notamment celui de "legal technologist" ou évaluateur de la valeur réelle des nouveaux outils : « Dans les cabinets d’avocats, les bibliothécaires juridiques sont souvent les examinateurs des nouvelles technologies, aidant à vérifier et à évaluer les produits avant que leur cabinet ne gaspille de précieux dollars. [...] Ils sont, si vous voulez, la police de la technologie. Ils ont la compétence et le savoir-faire nécessaires pour examiner les revendications des vendeurs et s’assurer que la réalité est conforme au marketing. De cette façon, les bibliothécaires - peut-être plus que tout autre rôle dans la profession juridique - sont essentiels pour maintenir l’honnêteté du secteur. [...] "Les documentalistes, qui savent quels résultats peuvent être obtenus de manière optimale par une recherche particulière, peuvent évaluer les lacunes ou les faiblesses d’un système d’IA en évaluant les résultats de la recherche" ».

IA et avocats

La journaliste britannique Joanna Goodman, dans son ouvrage précité Robots in Law : How Artificial Intelligence is Transforming Legal Services écrit que l’IA pour les juristes n’est pas une option. Selon elle, les juristes qui accepteront la réalité de l’IA et l’incorporeront dans leur pratique professionnelle sont ceux qui réussiront le mieux dans les années à venir, car l’IA modifie le partage de la valeur entre les acteurs de la "chaîne" juridique. Lire à ce propos le compte-rendu du livre par Robert Ambrogi [319]. Cette collaboration-amélioration avec l’IA est déjà en cours en France avec Case Law Analytics et Predictice : leurs analyses prédictives ont été développées et validées avec des cabinets d’avocats ou des directions juridiques partenaires. Par exemple, les cabinets Taylor Wessing, Vogel & Vogel, Dentons ou Bruzzo Dubucq pour Predictice. SNCF, Axa ou le cabinet Flichy Grangé pour Case Law Analytics.

Une autre façon, française cette fois et plus diplomate, de formuler cela : l’Ordre des avocats au barreau de Lille étant partenaire de Prédictice, son bâtonnier a cherché à convaincre ses collègues [320] de l’utiliser. Voici ce qu’il en dit :

« Il faut tuer tout de suite le fantasme, ça ne remplacera pas les avocats dont les analyses ne peuvent être automatisées »

Selon lui, il s’agit plutôt d’un outil stratégique :

« Le défenseur peut, entre autres, voir quelle juridiction sera la plus encline à rendre une décision favorable à son client. »

Comme le dit Guillaume Drouot, professeur de droit privé à l’Université de Bordeaux [321] (le gras est de nous) :

« M. Neuville, dans un ouvrage de philosophie à l’attention des juristes, expose l’idée suivante : " [...] la méthode d’apprentissage qui consiste à former les étudiants pour qu’ils deviennent de bons techniciens du droit capables de mémoriser quantité de textes afin de trouver la meilleure solution, sans leur donner d’ailleurs les moindres rudiments de philosophie du droit. Cette méthode sera évidemment bien vite dépassée avec le développement de l’intelligence artificielle. "
Le développement des algorithmes et de l’intelligence artificielle invite ainsi à envisager notre manière de penser le droit, à mieux définir ce qu’est le droit, tout comme, si l’on veut raisonner par analogie, la dématérialisation invite à repenser certains mécanismes juridiques (la saisie, le droit de rétention) pour en extraire l’essence, la véritable raison d’être.
Quoiqu’ignorant dans une large mesure ce dont sont exactement capables les algorithmes, il nous paraît peu probable qu’ils remplacent un jour les juristes. Non pas parce que nous doutons de leurs capacités de calcul, mais bien plutôt parce que, même performants, les algorithmes n’ont aucune conscience de ce qu’ils font.
[...]
L’irruption des algorithmes et la pensée de Kropotkine nous invitent à revenir à une vision du droit comme science (ou art) du juste et de l’injuste. L’idée du droit que donne François Ost à partir des symboles de la justice (glaive, balance, bandeau) apparaît à cet égard particulièrement pertinente [...] : " Pour le juriste au quotidien, le symbole du bandeau implique une méthodologie du doute qui le conduit non seulement à s’enquérir du point de vue minoritaire (...), mais encore à résister aux paradigmes scientifiques dominants, ainsi qu’à la pseudo-évidence des faits. Sa tâche est de rendre justice et non de décrire la réalité : dire le droit implique un arbitrage entre vérités multiples s’articulant souvent sur des plans distincts. (...) Telle est la fonction essentielle du droit, trop souvent oubliée aujourd’hui : dire le sens de la vie en société. Au-delà de ses rôles répressifs et gestionnaires, le droit est d’abord cela : une parole, socialement autorisée, qui nomme, classe et départage ". »

Et là encore, il faut lire le "paper" précité de l’"investigateur" américain Philip Segal à la Savannah Law Review. Il reconnaît que l’IA apportera d’importants changements dans la pratique des juristes américains. Mais il est loin de craindre ces nouveaux outils pour son métier.

IA et jeunes collaborateurs/paralegals

Pour les postes de paralegals orientés recherches et veille (par exemple, les spécialistes de la recherche, de la veille et de l’enregistrement des brevets) et pour les jeunes collaborateurs (qui font aux Etats-Unis énormément de recherches, ce qui correspond en France aux stagiaires, mais en font aussi beaucoup en France durant leur première année), une étude d’Altman Weill datant de 2015 est pessimiste [322]. La brève précitée de la Lettre de l’Expansion est encore plus explicite :

« Watson [...] est réputé pour son rôle dans la destruction d’emplois. »

Pour les autres paralegals, le risque à court terme, surtout en France, est faible mais à long terme, leurs tâches découpables seront probablement automatisées.

Un monde sans travail ?

Plus généralement, de nombreux entrepreneurs millionnaires comme Bill Gates ou Elon Musk (voitures électriques Tesla) et des scientifiques comme l’astrophysicien Stephen Hawking ou le docteur Laurent Alexandre (fondateur de Doctissimo) estiment que l’IA va créer du chômage et que les conséquences sociales de cette nouvelle révolution sont encore largement sous-estimées. Elon Musk estimait par exemple le 15 février 2017 que les conducteurs professionnels (soit 15% de la population active mondiale) pourraient se retrouver sans emploi dans les 20 prochaines années, et qu’il y aura de moins en moins de métiers qu’un robot ne pourra pas faire [323]. Le cabinet américain Forrester anticipe, pour le marché de l’emploi des Etats-Unis, une disparition nette de 7% des jobs d’ici 2025 imputable à l’automatisation [324].

Côté France, la journaliste indépendante Tiffany Blandin préconise en conclusion de son enquête Un monde sans travail ? [325], de « regarder l’automatisation dans les yeux ». Elle explique que « personne ne peut dire précisément combien d’emplois vont disparaître à cause de l’intelligence artificielle » et que « c’est pour cela que les dirigeants de la Silicon Valley se sont pris de passion pour le revenu universel ». Et le Canard Enchaîné d’ironiser sur les 10% de postes en danger d’être détruits selon le rapport précité du 10 janvier 2017 du Conseil d’orientation pour l’emploi (COE) [326], en notant que cela représente quand même 3 millions de chômeurs en plus [327].

On ne parlera pas ici de l’ubérisation, que redoutent aussi bien le magazine Capital qu’un un enseignant de l’Université Paris Dauphine [328].

Les spécialistes en intelligence artificielle, eux, vont même plus loin : un sondage (pre-print) mené fin 2016 auprès de 352 chercheurs en IA également auteurs d’articles et présents lors de deux conférences sur le sujet [329] a donné le résultat suivant : selon eux, en se plaçant donc en 2016, il y a une chance sur deux que l’IA soit meilleure que les humains à à peu près tout type de tâche individuelle ("High level machine intelligence - AI human tasks") dans 45 ans. et une chance sur deux que tous les emplois humains soient automatisés ("AI human jobs"), y compris la recherche en IA, dans 122 ans (voir les graphiques en fin d’article). Fin 2017, ce sondage est encore fréquemment cité.

Re-la-ti-vi-ser. Ou les (grosses) limites de l’IA juridique

Mais le magazine Business Insider, en rendant compte [330] de ce sondage, appelle à la prudence. Il commence par rappeller que de nombreuses prédictions d’experts dans le passé se sont avérées fausses. Surtout, Business Insider explique que :

« Quarante ans est un chiffre important lorsque les humains font des prédictions parce que c’est la durée de la vie active de la plupart des gens. Donc, si un changement est censé se réaliser après, cela signifie qu’il se produira au-delà de la durée de vie active de tous ceux qui travaillent aujourd’hui. En d’autres termes, il ne peut se produire avec une technologie dont les experts d’aujourd’hui ont une expérience pratique. Cela suggère qu’il s’agit d’un chiffre à traiter avec prudence. »

Quant à l’IA connectée au cerveau, ce n’est vraiment pas pour tout de suite. Des recherches existent, comme le projet Kiwi de la société Nitoo de Newton Howard [331]. Nitoo a mis au point un prototype d’implant neuronal de la taille d’un grain de riz et pesant moins de 2 grammes, qui pourrait être implanté dans la cloison nasale. Cet implant permet de capter des informations envoyées par les neurones et de leur répondre.

Mais pour Ricardo Chavarriaga Lozano, spécialiste de l’interface cerveau-machine à l’Ecole Polytechnique Fédérale de Lausanne, « il faut prendre des pincettes : beaucoup de recherches doivent encore être effectuées avant de pouvoir modifier le vivant » [332]. Le chirurgien français Laurent Alexandre, fondateur du site Doctissimo, et partisan de l’être humain augmenté (ou transhumanisme), commentant les prédictions du singulariste (et par ailleurs employé de Google) Ray Kurzweil, estime qu’ « un cerveau connecté, on en est encore loin. Croire qu’on y arrivera d’ici 15/20 ans, il me semble que c’est faire preuve de naïveté neuro-technologique. Pour l’instant, les seules choses que nous arrivons à faire, c’est recréer des faux souvenirs chez des rats par exemple, en les "connectant". Mais on leur bousille le cerveau, on est très loin d’être au point sur ce sujet-là » [333].

Surtout, comme l’explique Olivier Ezratty (ancien de Microsoft France), les livres et articles sur l’impact de l’IA sur l’emploi font l’impasse sur plusieurs points clés [334] :

  • « au démarrage des précédentes révolutions industrielles, les métiers disparus comme les nouveaux métiers ont rarement été bien anticipés. Pour ce qui est du futur, à vrai dire, on n’en sait pas grand chose », car il y a « [trop de] paramètres à prendre en compte »
  • un phénomène induit par le numérique et qui n’a rien à voir avec l’intelligence artificielle : « le transfert du travail non pas seulement vers les machines mais aussi vers les clients » (clic work ou digital labor [335]). Exemples : les formulaires et modèles de contrats en ligne que nous remplissons nous-mêmes ou les guichets automatiques bancaires
  • ils se focalisent sur la situation aux Etats-Unis, ignorant la plupart du temps totalement le reste du monde
  • ils ont « bien du mal à faire le tri dans les évolutions de l’emploi entre ce qui provient de l’automatisation, de la globalisation et de la concurrence asiatique dans l’industrie manufacturière et même indienne, dans les emplois concernant les services informatiques. L’emploi a surtout migré géographiquement. Les emplois perdus dans l’industrie aux USA et en Europe se sont retrouvés en Asie » [et en Europe de l’Est].

Autre publication relativisant les choses : selon le rapport précité du COE [336], moins de 10% des emplois sont "très exposés" aux mutations technologiques et présentent donc le risque d’être supprimés — mais près de la moitié des emplois devront toutefois évoluer [337]. Les emplois juridiques évoqués supra ne sont pas dans la liste des 10% du COE. Et Anne-France de Saint-Laurent Kogan, spécialiste des transformations du travail liées au numérique, tempère elle aussi les choses [338].

Dans une autre étude (américano-britannique), The Future of Skills’ Employment in 2030, le panel des personnes interrogées estime que tant les juristes que les bibliothécaires documentalistes feront partie des métiers pour lesquels la demande va augmenter à l’échéance 2030. Cette enquête a été produite par l’éditeur scolaire et universitaire Pearson, NESTA, une fondation pour l’innovation globale et l’Oxford Martin School. Surprise : les bibliothécaires documentalistes sont carrément listés dans le segment "haute croissance". Toutefois, les compétences demandées aux bibliothécaires documentalistes vont probablement évoluer dans les années à venir [339]

Menée par les professeurs américains Dana Remus (Faculté de droit de Université de Caroline du Nord) et Frank Levy (économiste, Massachusetts Institute of Technology, le fameux MIT), une étude publiée en novembre 2016 suggère que l’IA a « un effet modéré » sur des métiers tels que la recherche documentaire juridique et la rédaction de contrats [340]. L’étude indique que les tâches précitées représentent environ 40% de la facturation globale des avocats.

Cela dit, selon cette étude — un gros article scientifique de 77 pages publié sur le Legal SSRN —, l’impact estimé de l’IA sur des domaines tels que le "fact-checking" (vérification des faits, typique du droit anglo-saxon), le conseil aux clients, la gestion électronique de documents (GED), la rédaction de conclusions et les audiences — le tout représentant près de 55% des heures facturées — est « faible ».

Mais l’intelligence artificielle a un rôle plus important à jouer dans d’autres domaines. Selon l’étude, l’impact estimé de l’IA sur l’examen de documents ("document review", là aussi une procédure inconnue en droit français) — qui consiste essentiellement à passer en revue de grandes masses de documents pour y chercher les détails pertinents dans le cadre d’un contentieux — est « fort ». Heureusement pour les avocats anglo-saxons, l’étude ajoute que cela représente seulement 4% des heures facturées [341].

Le professeur Joël Monéger, spécialiste des baux, dans une tribune à la revue Loyers et Copropriété [342], formule ainsi les possibilités et les limites de la justice prédictive à la française :

« Prévoir le droit positif tient [...] de la gageure. [...] Certes, la prédictibilité de la solution paraît possible lorsque la plus haute juridiction a tranché le point de droit avec fermeté et de manière répétée. De même, semble-t-il, lorsqu’elle donne des signes annonciateurs d’un revirement possible de la jurisprudence. Mais, au-delà, la jurisprudence, même émanant de nos plus hautes juridictions, est bien souvent délicate à prévoir, notamment face à des textes récents, mal rédigés, ou à des textes en décalage grave avec les réalités sociales ou économiques. Cela tient à l’art de la rédaction des arrêts qui suppose un lecteur formé au décryptage de formules insuffisamment enseignées. De plus, la Cour de cassation ne peut pratiquer l’ultra petita et ne répond qu’aux moyens du pourvoi. »

Pour l’illustrer, il donne l’exemple de deux jurisprudences récentes de la Cour de cassation.

En fait, il faut garder à l’esprit que toute la com’ — car c’en est — sur les performances de l’IA viennent du besoin des startups et des éditeurs de logiciels de vendre leurs produits. Dès qu’on lit la littérature scientifique, comme vous avez pu le constater supra, les choses sont grandement relativisées. Comme l’avocate Michèle Bauer le dit — très directement — avec ses mots [343] :

« Les legaltech ne publient pas leurs chiffres et ne font que des effets d’annonce en prétendant avoir levé des millions d’euros, il est donc impossible de connaître leur véritable pouvoir économique. [...]
Méfiez-vous des fakes, des effets d’annonce et des informations diffusées sur le net, les legaltech en sont les artisans, les initiateurs. Le mensonge et l’embellissement de la réalité est une pratique courante sur la toile. »

IA juridique et science-fiction ou les risques de la justice prédictive

Et si on en arrivait un jour là où Google semble être arrivé du fait de l’intégration de machine learning dans ses algorithmes (ses ingénieurs ne savent plus totalement en détail comment leur moteur fonctionne : en tout cas, c’est ce que dit un scientifique chez un rival, Qwant [344]) ? Car c’est un fait : l’IA à base de ML est impénétrable [345]. En arriverait-on à ce que Ross n’est pas, c’est-à-dire une véritable intelligence artificielle ?

Voici les (éventuels et futurs) risques tels qu’ils sont décrits dans la presse et par la doctrine (revues juridiques) :

  • "boîte noire" : on ne saurait ni qui exactement nous juge ni pourquoi on nous condamne
  • "power to the machine". On ferait plus confiance à l’algorithme qu’à l’humain, dans une époque méfiante vis-à-vis de la Justice. On ne tenterait plus sa chance en justice si elle est faible. La situation et ce risques sont assez bien décrits dans une brève intervention d’Antoine Garapon sur France Inter et surtout dans son interview au Point par Laurence Neuer dans la remarquable série Mon petit droit m’a dit [346]
  • effet performatif (dit aussi effet moutonnier ou risque de conformisme) : risque que le juge, par paresse, pour aller vite ou encore par souci de ne pas faire de vagues, se conforme à la solution majoritaire. La crainte d’un tel effet est très présente dans la grande majorité des articles de presse et dans les revues juridiques, autrement dit ce que les juristes appellent la doctrine.
    Les magistrats judiciaires interrogés par Lêmy Godefroy pour la mission de recherche Droit & Justice ne sont pourtant que 40% à partager cette crainte. Pour ces magistrats, les outils de justice quantitative (OQJ) doivent être considérés comme une simple aide à la décision [347]. Pour les avocats, la peur d’être désintermediés explique largement cette crainte, mais là aussi, nombre de cabinets d’avocats ont adopté un outil de justice prédictive et le considèrent comme une aide à la décision. _ Pour la doctrine, il semble, d’après le mémoire très bien construit de Camille Bordere , qu’en réalité, ce que la doctrine reproche à la justice prédictive, c’est de révéler (en partie seulement pour l’instant, vu le manque de la première instance) la masse des décisions du fond et des faits qu’elle contient, concurrençant ainsi les "cathédrales jurisprudentiellles" construites par ... la doctrine [348]. D’ailleurs, ce que la doctrine commente, ce ne sont pas les effets des outils actuels, mais ceux supposés arriver un jour. Comme l’écrit très justement C. Bordere, « pour des écrits qui craignent à foison que l’outil prédictif ne factualise le raisonnement juridique ou ne le rende trop "réaliste", le grand absent reste précisément la réalité de l’objet, complètement occultée par la plupart des auteurs. Aucun outil de justice prédictive, à ce stade de leur développement, ne fonctionne correctement et n’accomplit encore totalement la tâche qui lui est assignée ». De ce point de vue, on peut se demander si la doctrine n’a pas elle aussi été intoxiquée par la "hype", autrement dit la masse de com’ et de marketing que nous décrivons en introduction
  • la possibilité, en droit pénal, pour un délinquant ou un criminel, de déterminer à l’avance si et comment, en suivant un certain modus operandi, il pourrait échapper à condamnation pour son délit/crime. Sur ce point précis, la réponse (officielle) de Predictice et Case Law Analytics est d’exclure de travailler sur ce domaine.

La science-fiction a déjà envisagé ces risques (nous ne parlerons pas ici des lois de la robotique d’Asimov, non pertinentes ici et de toute façon déjà dépassées [349].).

Le tome 3 de la bande dessinée SOS Bonheur, un classique du genre publié en 1989 [350] parle de justice automatisée : chaque avocat soumet ses conclusions dans une machine et la machine rend son verdict, le juge n’est là que pour contrôler le bon fonctionnement de cette dernière. Ainsi la justice est aveugle et équitable puisqu’elle est censée rendre le même verdict pour tous ceux qui sont dans la même situation sur tout le territoire. Jusqu’au jour où la machine condamne un homme qui a commis un délit mineur à la peine de mort alors que cette dernière a été abolie il y a déjà de nombreuses années. Peut-on désobéir à la machine au risque de remettre en cause tous les autres jugements déjà rendus ?

Nous avons (presque) tous vu le film Minority report de Steven Spielberg avec Tom Cruise (d’après la nouvelle éponyme de Philip K. Dick). Même si ce sont des êtres humains spéciaux (des"precogs") qui y tiennent le rôle des logiciels et des données et statistiques, le sens en est clair :

Un article de Vincent Vigneau, conseiller à la Cour de cassation, à la Revue de jurisprudence commerciale de janvier 2019, liste et examine en détail ces risques (et d’autres), ainsi que les limites prévisibles de l’exercice [360]. C’est probablement celui qu’il faut lire pour avoir une vue complète et juridique et judiciaire du sujet. M. Vigneau y dénonce notamment la conception d’un juge comme une « machine à syllogisme ». Il rappelle qu’elle fait face à l’absence de caractère obligatoire de la jurisprudence — même celle de la Cour de cassation — et à l’absence de droit acquis à une jurisprudence figée (autrement dit, la France n’est pas un pays de "case law"), à la qualification juridique des faits où « derrière l’apparente logique du raisonnement exprimé dans les jugements, peut se cacher de multiples considérations et arguments plus ou moins avouables » [361] et enfin à l’obligation pour le juge de statuer, même en cas d’insuffisance ou d’obscurité de la loi (art. 4 du Code civil) et donc d’interpréter.

L’article, comme presque tous ceux publiés objectant à la justice prédictive, reste toutefois ancré dans la réalité judiciaire d’aujourd’hui. Or elle pourrait bien être bouleversée à la fois par le développement des MARL (modes alternatifs de règlement des litiges : médiation, conciliation, arbitrage) auxquels l’exécutif pousse par manque ou refus de moyens financiers pour la Justice et par l’utilisation hors procès — chez les assureurs et les avocats — des applications déjà existantes de justice prédictive ou dite telle. D’autant qu’au moins une application de médiation (Justice.cool) s’appuie sur un algorithme de justice prédictive pour accélérer et faciliter une issue positive à la médiation.

A ces programmes de "police prédictive", s’ajoute l’utilisation des énormes progrès de la reconnaissance d’images permis par le deep learning. Ils permettent, notamment en Chine, pays le plus "avancé" dans ce domaine, de repérer et arrêter un délinquant ou un dissident passé entre les mailles du filet policier pendant des années. Or cette technologie, notamment celle chinoise, s’exporte très bien. Sur ce sujet, lire ce court mais instructif billet de The Conversation, un excellent site de vulgarisation écrit par ... des universitaires : How artificial intelligence systems could threaten democracy (avril 2019).

Il faut toutefois relativiser, particulièrement en France : un état actuel (mars 2021) de la police prédictive montre qu’elle n’est même pas prédictive [362].

L’ouvrage Minority report de Philip K. Dick avec pour couverture l’affiche du film

Si le machine learning finit, ce qui est probable selon nous (cf supra), par être utilisé par le juge, il est à espérer que les conclusions d’Antoine Garapon et Marc Clément (dans les articles de revues juridiques cités au début de ce billet) s’imposeront :

Eviter le risque de « l’effet "moutonnier" de la justice prédictive qui pousse au conformisme et réclame plus aux juges qui estiment qu’ils doivent aller à contre-courant, c’est-à-dire faire leur métier tout simplement ! »

« Il sera donc capital que les modes de raisonnement inscrits dans les algorithmes soient parfaitement explicites et maîtrisés par le juge. Il conviendra, de plus, que des méthodes alternatives soient proposées et que l’on ne se retrouve pas en situation de monopole avec une seule technologie utilisable. »

Sur l’impact prévisible de la justice prédictive, lire l’ouvrage (beaucoup plus détaillé et complet que cette dernière partie de ce billet) d’Antoine Garapon et Jean Lassègue : Justice digitale : Révolution graphique et rupture anthropologique (PUF, avril 2018). L’adjectif graphique est utilisé ici dans son sens de traitant de l’écriture. L’ouvrage insiste notamment sur la perte prévisible du symbolique, du rituel, pour le gain de la rapidité et du confort, recul de la loi, remplacée par la technique. Mais son sujet est plus vaste que celui de la justice prédictive, puisqu’il traite en fait de la numérisation et du passage en ligne de la justice. Ce sont les chapitres VIII et X qui sont spécifiquement consacrés à la justice prédictive, avec quelques interrogations clés, dont :

  • peut-on remplacer la causalité par la corrélation  ?
  • quelle est la taille suffisante (de la base pour obtenir des statistiques significatives) ?
  • le futur peut-il être déduit du passé  ?
  • la pression de la multitude.

Isabelle Sayn formule ainsi ses propres craintes : « le pouvoir d’appréciation du juge peut être affecté, selon qu’il connaît ou non les décisions prises par les autres magistrats. À quel point ces connaissances vont-elles donc avoir une influence sur l’activité du juge, et en quoi sont-elles compatibles avec la conception hiérarchique de la règle de droit ? En effet, nous ne nous situons pas dans un système de précédent, de common law. Laisser croire à des usagers qu’ils peuvent se défendre en justice via les solutions fournies par des legaltech, basées sur la jurisprudence, n’est donc pas forcément une bonne idée. Et puis, il y a aussi la crainte des magistrats qu’elles soient utilisées pour automatiser les décisions » [363].

I. Sayn redoute également une justice prédictive reproduisant les biais illégitimes des décisions, comme, en matière de prestations compensatoires et alimentaires, le sexe du juge ou la présence d’un avocat lorsqu’elle n’est pas obligatoire [364].

I. Sayn souligne enfin que beaucoup de choix faits par les parties (stratégie judiciaire ...) sont absents de la décision [365]. Là encore, donc, s’appuyer sur les décisions pour faire des prédictions rencontrerait ses limites.

Aurore-Angélique Hyde, maître de conférences en droit privé à l’Université de Rouen et chercheuse associée à l’Institut des hautes études sur la justice (IHEJ) et au CERDI, dans un article à la fois pragmatique et très pertinent au Recueil Dalloz écrit sur l’intérêt pour un avocat d’utiliser des outils de justice prédictive, suite à une décision canadienne reprochant à un avocat de ne pas avoir utilisé d’IA [366]. Elle conclut que « bien que les outils de justice prédictive soient à la mode, l’obligation d’y recourir, outre qu’elle entraverait la liberté professionnelle des avocats, ne protégerait aucunement ces derniers de toute responsabilité en cas de solution erronée ou insuffisamment pertinente ». En effet, pour elle, « l’obligation pour un avocat de consulter des outils de justice prédictive est parfaitement discutable, et ce à plus d’un titre. D’une part, c’est surtout la pertinence du résultat obtenu par l’avocat qui doit compter et non le moyen auquel il recourt pour y parvenir. [...] D’autre part, tous les outils existants ne proposent pas exactement le même service. ». Enfin, elle décrit ses tests d’outils et met le doigt dans la plaie : leurs limites, notamment quand il s’agit d’identifier la jurisprudence la plus récente et la plus pertinente [367].

Il faut préciser ici que les tests logiciels, non seulement lors du développement, mais aussi en production et en permanence, sont impératifs en intelligence artificielle. Cela fait partie d’une bonne assurance qualité, comme l’illustre cet article de Forbes.com [368].

Toutefois, les tests dont on parle ici ne sont pas ceux faits par les utilisateurs finaux (documentalistes et juristes) dont nous parlions plus haut — et c’est bien là que le bât blesse. Il s’agit pour les programmeurs et développeurs eux-mêmes de tester le code ou au minimum des unités (on parle alors de "unit tests") de l’application. Il y a des niveaux de test et des méthodes de test bien connues pour cela (voir la page Wikipedia EN Software testing), parmi lesquelles celle, fondamentale en IA, de l’échantillon de données (dont on connaît d’avance les résultats prévisibles) mis de côté et sur lequel l’algorithme n’a pas été entraîné.

Concernant la justice prédictive, Rubin Sfadj, dans son entretien précité avec la revue Expertises, souligne que lorsque les outils de justice prédictive seront utilisés par la puissance publique, cet usage devrait reposer sur trois grands principes éthiques — qui, à bien les lire, ne sont pas si exigeants que ça :

  • le principe de responsabilité conduisant à désigner pour chaque algorithme utilisé une personne référente, à l’instar du directeur de publication en droit de la presse
  • le principe de clarté, c’est-à-dire la mention explicite dans une décision de justice élaborée avec l’aide d’un algorithme de ce procédé et la motivation sur laquelle repose le recours à ce type d’outil
  • le principe de précision permettant de corriger une source d’erreur à tout stade du traitement algorithmique.

Responsabilité ? Justement, si on veut éviter certains excès et rassurer les justiciables, et si on parle responsabilité des concepteurs d’applications, ce que redoutent les magistrats de l’ordre judiciaire interrogés par Lêmy Godefroy, enseignante-chercheuse et maître de conférences en droit privé, c’est que, en cas d’erreur de l’application de justice prédictive, « le caractère sophistiqué de cet outil rende difficile la preuve d’une faute sans recourir à l’expertise, sauf abus manifeste [369]. D’où on pourrait déduire qu’il sera plus facile de mettre la responsabilité de l’avocat en cause ...

Et en effet, les chefs de juridictions juridiciaires interrogés par Lêmy Godefroy relèvent « une probable augmentation des risques de mise en cause de la responsabilité professionnelle des avocats et de leur manquement au devoir de conseil par des engagements et des promesses, des actions engagées sur la base de ces outils pour aboutir à des solutions juridictionnelles totalement différentes » [370].

Quant aux juges administratifs — et d’autres magistrats du judiciaire —, leur réplique à la justice prédictive est déjà prête : "Convainquez-nous avec des arguments juridiques, peu nous chaut vos statistiques". Le Conseil d’Etat, par la voix de Christian Vigouroux, lors du colloque sur l’open data de la jurisprudence organisé en octobre 2016 par la Cour de cassation, a déjà prévenu que la juridiction administrative suprême ferait en sorte que le juge administratif ne puisse pas se voir opposer sa propre jurisprudence [371]. Côté justice judiciaire, selon Xavier Ronsin, Premier président de la cour d’appel de Rennes [372] :

« L’hypothèse selon laquelle des plaideurs assistés d’avocats, renonceraient à aller jusqu’au bout d’un contentieux judiciaire classique, parce qu’ils auraient lu les résultats d’un logiciel dit de "prédictibilité de la justice" et qu’ils décideraient alors de transiger, est contestée par beaucoup et mérite à tout le moins d’être vérifiée. Lorsque l’on constate la difficulté de faire aboutir les "modes alternatifs de règlement des litiges (MARD)", il y a de quoi être sceptique, mais pourquoi ne pas l’espérer ?
Au-delà d’un refus de principe sur la possibilité d’enfermer la future décision d’un juge dans le raisonnement d’un algorithme basé sur des "précédents jurisprudentiels", je pense malgré tout que les magistrats doivent se préparer à comprendre ce processus, et à recevoir des dossiers d’avocats comportant des analyses savantes ainsi que des contenus statistiques de milliers de décisions au soutien d’une thèse et de prétentions de leurs clients. De tels dossiers n’empêcheront de toute façon pas la liberté du juge de faire du "sur-mesure" pour chaque dossier, mais ils pourront peut-être éclairer son raisonnement. »

Dans un entretien avec Acteurs publics.com, Xavier Ronsin ajoute [373] :

« C’est une opération complexe que la motivation intellectuelle d’un juge, une opération subtile qui s’articule à un raisonnement et non à une simple corrélation d’items factuels. »

Pour autant, dans les résultats de l’enquête de terrain réalisée par L. Godefroy pour le rapport de recherche "Comment le numérique transforme le droit et la Justice" (juillet 2019) [374], grosso modo, les 67 magistrats judiciaires consultés — attention, il y a un biais : presque tous sont des chefs de juridiction (TGI ou cour d’appel) [375] ; or ce sont les plus sensibles aux impératifs de productivité [376] — sont majoritairement favorables à la justice prédictive (dénommée "outils de justice quantitative" (OQJ) dans l’enquête). Sous un certain nombre — voire un nombre certain — de conditions :

  • qu’elle intègre (et respecte) les nouveaux textes et la jurisprudence des cours suprêmes
  • qu’elle n’empêche jamais l’appel
  • qu’elle permette toujours un examen personnalisé
  • que ces outils soient « encadrés, contrôlés, supervisés par les services du ministère de la Justice (par exemple, par une participation de magistrats à la détermination des critères de sélection des décisions par type de problématiques ou par une validation des critères choisis par les concepteurs) »
  • et enfin qu’ils « correspondent à une démarche scientifique et déontologique vérifiable et certifiable » (comme nous l’écrivions plus haut : encore la certification !). Notamment : qu’ils citent « les sources, le nombre de décisions prises en compte, la répartition au niveau des cours d’appel et des tribunaux [...] et la période sur laquelle a porté la recherche (possibles revirements de jurisprudence) ».

Ajoutons que pour les magistrats interrogés, il apparaît que les outils de justice prédictive « contribueraient à une multiplication du recours aux modes alternatifs de règlement des différends (MARD : arbitrage, conciliation, médiation ...) par l’amélioration de la prévisibilité des issues du litige ».

En creux, on y voit le refus d’un traitement automatique mais pas, en vérité, d’un traitement de masse. On y voit aussi une très forte exigence des chefs de juridiction vis-à-vis de l’outil de justice prédictive qui leur serait fourni. Ce niveau d’exigence rejoint quelque part les critiques adressées par le président de la cour d’appel de Rennes à Predictice en 2017 (cf supra).

Du côté des avocats, Pascal Eydoux, président du Conseil national des barreaux (CNB) estime officiellement qu’ « il n’est pas question que la profession d’avocats envisage de s’opposer à cette évolution car elle est inéluctable et attendue » [377]. Sanjay Navy, avocat à Lille où il a testé Predictice, pense que « ça peut permettre de dire à l’adversaire : " regardez les condamnations en moyenne, négociez sinon vous risquez d’être condamné à tant, ce n’est pas moi qui le prétends, mais la jurisprudence ! " » [378].

Autrement dit, la justice prédictive aurait pour avantage de faciliter le calcul des chances de gagner ou perdre un contentieux, limitant ainsi la prise de risque et facilitant grandement le travail des avocats et plus encore des assureurs. Pour les assureurs, qui ont déjà développé des bases de données de jurisprudence et de dommages-intérêts comme AGIRA, l’avantage de la justice prédictive est de faciliter la connaissance de la "vraie" (à leurs yeux) jurisprudence, celle des statistiques. Les assureurs Allianz, Covéa, la Maif et Pacifica font partie des clients de Predictice [379], et Axa Protection Juridique ainsi qu’Allianz font partie des utilisateurs de Case Law Analytics [380].

À condition, évidemment, qu’aucune des parties ne fasse appel, qu’une juridiction suprême ne procède pas à un revirement de jurisprudence et que les textes applicables ne soient pas modifiés. Pour le magistrat Yannick Meneceur, détaché auprès du Conseil de l’Europe, « la forte évolutivité des règles juridiques constitue en elle-même une limite technique pour les algorithmes. Car les règles juridiques n’évoluent pas de façon linéaire comme dans les sciences dures, où une nouvelle règle vient compléter la précédente sans nécessairement l’invalider. Dans les systèmes de droit continental, il suffit que le texte fondamental change pour que la jurisprudence qui était fondée dessus se trouve écartée » [381]. Sur ce point, le bouleversement du droit du licenciement et de la procédure prud’homale par la loi Travail en 2016 puis les ordonnances Macron en 2017 constitue un excellent exemple : le contentieux de droit du travail pré-2017 a perdu une partie importante de son intérêt, particulièrement le montant des indemnités. Par ailleurs, comme le rappelle Bruno Mathis, consultant, la justice prédictive est « inutile pour estimer des dommages-intérêts obéissant à un barème [...] et où la justice prédictive sera-t-elle la plus utile ? Dans la masse des décisions qui ne sont ni trop spécifiques ni trop communes. » [382]

Il y a un risque que je n’ai vu mentionner que par l’ouvrage de Garapon et Lassègue. Il est caractéristique des soucis de ma profession, centrée sur l’information et les documents, leur production, leur recherche, leur diffusion. Il faut absolument le souligner : quid à long terme de la justice prédictive si celle-ci progresse et avec elle la déjudiciarisation, c’est-à-dire l’appauvrissement relatif des moyens humains et financiers du service public de la Justice ? Quid, parce que si, comme nous l’avons vu plus haut, la justice prédictive [383] et la modernisation de l’action publique (MAP, ex-RGPP) favorisent, développent, poussent vers le compromis, la transaction, la médiation, la conciliation et l’arbitrage (dits modes alternatifs de résolution des litiges ou MARL), alors les décisions ne seront plus disponibles, car par définition ces procédures ne sont pas publiques [384] et leurs décisions non plus. Alors, plus d’open data judiciaire, plus de données et plus de justice prédictive possible. A titre d’illustration, on estime, en arbitrage commercial international, que les diverses revues et bases de données disponibles [385] ne publient qu’au mieux 3000 sentences arbitrales par an. Essayez donc de faire de la statistique avec ça. Mais c’est justement le défi auquel tente de répondre (avec rigueur) Case Law Analytics : analyser les critères des juges et non leurs statistiques afin de pouvoir travailler avec un fonds de seulement quelques centaines de décisions (comme dans le contentieux boursier du manquement d’initié).

Propriété intellectuelle (accès au code source ?), tests, certification, droit des données personnelles

On peut aussi craindre une anonymisation insuffisamment forte, c’est-à-dire n’empêchant pas, d’ici les huit ans (à compter de 2017) nécessaires pour que les jugements de première instance accèdent à l’open data [386], la réidentification du fait d’un apprentissage statistique automatique ayant beaucoup progressé et s’appuyant les données indirectement nominatives. Ce risque est réel : le rapport Cadiet sur l’open data des décisions de justice, qui est en réalité d’abord l’œuvre de la haute magistrature [387], préconise une pseudonymisation renforcée, et non une véritable lutte contre la réidentification [388]. Or cette pseudonymisation renforcée ne semble être rien d’autre que la formalisation des pratiques actuelles des juridictions suprêmes, désormais en charge de l’anonymisation (pardon, pseudonymisation) et qui doivent faire face au coût que cela représente. La confirmation de cette anonymisation insuffisante est arrivée avec l’article 33 de la loi de programmation et de réforme 2018-2022 pour la justice.

Le professeur Anne Debet, ancien commissaire de la CNIL, et un des meilleurs spécialistes français du droit des données personnelles, interrogée par la mission Cadiet, explique pourtant que :

  • au regard de la jurisprudence de la Cour européenne des droits de l’homme, « on peut imaginer une condamnation de la CEDH sur le fondement d’une possible réidentification des personnes dans une décision contenant des données sensibles non correctement anonymisées »
  • au regard des exigences du RGPD, la simple pseudonymisation (le terme même employé par le rapport) est insuffisante : « L’anomymisation doit être conforme aux exigences posées par la loi informatique et libertés et par le RGPD. [...] Il ne doit pas s’agir d’une simple pseudonymisation, [...] Cette amélioration a néanmoins un coût et un budget conséquent doit y être consacré. » On ne saurait être plus clair.

Les avocats craignent aussi une certaine déshumanisation ou une justice au rabais, voire un possible risque de "fainéantisation". Comme le formule Me Navy lui-même : « On vient me voir avec un problème, je tape sur le logiciel, j’ai 90% de chances de le perdre, donc je ne prends pas le dossier alors qu’en s’y penchant bien, je pourrais soulever un point particulier et gagner. » [389]

Directement concerné par ces soucis éthiques, Predictice a choisi :

  • de créer un Comité éthique et scientifique de la justice prédictive, dont les membres, des avocats et enseignants en droit [390], ont accès à l’application de Predictice
  • et de commander une étude à l’Ecole de droit de Sciences-Po [391], intitulée Les enjeux éthiques de la justice prédictive et rendue publique le 21 novembre 2018 [392]. Bien que le commanditaire de l’étude soit Predictice, les rédacteurs ont consulté et pris en compte l’ensemble des acteurs (legal techs comme éditeurs juridiques) présentant des solutions que l’on pourrait assimiler à de la justice prédictive. L’essentiel des recommandations de l’étude :
    • documenter les processus, les choix, les contenus et les échantillons (pp. 52-66 de l’étude). Par exemple, documenter le processus de constitution des bases de données utilisées pour la justice prédictive. Si les décisions sont différentes ou si elles ne sont pas enrichies et structurées de la même façon, les résultats, notamment les statistiques, devraient en effet être très différents. Documenter aussi la logique de constitution des échantillons d’apprentissage automatique. Etc. L’idée est celle d’une certaine transparence, pour permettre d’expliquer les différences de résultats entre outils. Si l’on y réfléchit, cela aurait pour avantage d’éviter de mettre en cause les fondements mêmes de la justice prédictive, et ainsi de protéger cette toute jeune activité
    • repenser le travail du juge, qui va clairement être tenté d’automatiser ses décisions (voir supra ce qu’expose Florence G’Sell, notamment l’exemple américain du logiciel Compass, souvent cité)
    • Philippe Glaser, associé du cabinet Taylor Wessing et associé à ces travaux, va plus loin, proposant de soumettre les algorithmes à une procédure d’audit réalisée par une institution une autorité administrative indépendante comme la CNIL, et, en attendant, faire adopter une charte éthique, que pour l’instant seul Predictice s’est engagé à suivre.

Les magistrats de l’ordre judiciaire interrogés par L. Godefroy [393]. sont nombreux à réclamer, comme le Conseil national des Barreaux (CNB) et l’Ordre des avocats de Paris, une certification des outils de justice prédictive pour assurer leur qualité et éviter des erreurs d’analyse. En 2018 et 2019, la certification obligatoire semblait même devenue une sorte d’incantation dans ces milieux. Tout en ressemblant beaucoup à une tentative de barrière normative aux legal tech. D’ailleurs, peu d’acteurs ont avancé sur le contenu technique d’une certification. Et résoudrait-elle pour autant tous les problèmes de la justice prédictive ?
La certification, pour l’instant, reste purement optionnelle. Pas d’obligation. C’est le résultat des débats législatifs sur la loi de réforme de la Justice [394], qui ont donné lieu à un intense lobbying. Le décret n° 2020-1682 du 23 décembre 2020 [395] entend préciser « les modalités de l’audit d’accréditation, de la suspension et du retrait de l’accréditation ainsi que les conséquences de la cessation d’activité de l’organisme certificateur ». Il est accompagné d’un arrêté du même jour. Le système, selon Dalloz Actualité, est d’une grande complexité et ne favoriserait pas les modes alternatifs de règlement des différends (MARD) en ligne. [396]. En annexe 1, figure le référentiel qui s’adresse aux organismes certificateurs souhaitant être accrédités pour délivrer la certification des services en ligne fournissant des prestations de conciliation, de médiation, ainsi qu’aux services en ligne souhaitant obtenir cette certification. En annexe 2, est publié le référentiel qui "s’adresse aux services en ligne fournissant lesdits services ainsi qu’aux organismes certificateurs délivrant le certificat". »]]

A noter que la Commission européenne pour l’efficacité de la justice (CEPEJ) vient d’adopter une étude de faisabilité sur la mise en place éventuelle d’un mécanisme de certification des outils et des services d’intelligence artificielle [397]. Cette étude se base sur la Charte de la CEPEJ concernant l’utilisation de l’intelligence artificielle dans les systèmes judiciaires et leur environnement, adoptée en décembre 2018. Le Conseil de l’Europe, s’il décidait la création d’un tel mécanisme, pourrait être un pionnier dans ce domaine. Après consultation de l’ensemble des Etats membres et observateurs, cette étude de faisabilité sera suivie d’un plan d’action que la CEPEJ préparera et transmettra au Comité des ministres du Conseil de l’Europe pour examen courant 2021.

Côté solutions, certains vont plus loin, en proposant voire exigeant que le code des applications sur lesquelles se fonde une décision de justice soit disponible en open source. Pour reprendre les mots de Michael Benesty : « la confiance que l’on placerait dans des outils de justice prédictive implique, au cours du processus, que le calculs et les caractéristiques du modèle de prédiction soient visibles et compréhensibles par le juriste, avocat ou magistrat, qui les emploie. Cela se traduit par une obligation de transparence sur les algorithmes, que garantit la libération en open source de la solution autant que par une vigilance et une expertise juridique sur les données mobilisées. » [398] Le code source de Supra Legem, l’application de M. Benesty, est déjà en open source [399].

Le magistrat Antoine Garapon, dans son entretien précité aux Petites Affiches, penche, de manière moins radicale, pour la création d’un service public chargé de contrôler le code source, sous condition de secret professionnel [400].

Jacques Lévy Véhel (Case Law Analytics) [401] est lui aussi favorable à un contrôle du code source par un tiers de confiance, mais il insiste surtout sur la vérification des résultats des logiciels par les juges.

Le magistrat administratif Marc Clément, plus réaliste à mon sens, estime quant à lui que la protection de la propriété intellectuelle des entreprises est un obstacle pur et simple à la divulgation, même limitée du code source, sans parler de sa compréhension.

Un article de la série Futurography sur Slate.com, propose une autre troisième voie entre secret et open source. Un amendement à loi fédérale américaine FOIA (Freedom Of Information Act [402]) donnerait le droit au public de soumettre des jeux de données tests à l’administration. Celle-ci devrait les passer à travers ses programmes et publier les résultats. Experts et journalistes pourraient alors calculer le taux d’erreur de ces algorithmes [403].

Enfin, selon un article d’Internet Actu [404], l’évolution des technologies d’IA pourrait permettre de sortir de l’opacité du fonctionnement de deep learning pour les humains. Algorithmes génétiques et IA symbolique, par exemple, peuvent être compris et débuggués. Il serait aussi possible de demander au programme d’expliquer ce qu’il fait.

En France, notre droit permet en tout cas de demander communication du code source des logiciels créés et utilisés par l’Administration, au titre de la communication des documents administratifs. La Commission d’accès au documents administratifs (CADA) [405] puis le tribunal administratif (TA) de Paris [406] l’ont confirmé à propos du logiciel simulant le calcul de l’impôt sur les revenus des personnes physiques. La DGFiP s’est résolu à s’y conformer l’an dernier, juste avant que le TA ne rende sa décision. La CADA a enfoncé le clou en 2016 en autorisant la communication à une association de lycéens du code source du logiciel Admission post bac (APB) [407]. Le Ministère de l’Education nationale s’y est conformé partiellement [408].

Ne pas oublier non plus que l’article 11 du règlement (européen) général de protection des données (RGPD), applicable en 2018, interdit toute décision automatisée qui affecterait significativement un citoyen européen et que les articles 12 et 14 créent, pour les autres décisions, un "droit à explication" [409]. Une décision de justice prédictive, par exemple [410]. Toutefois, si en dehors des décisions de justice, cela a de fortes chances de rester un principe sans application concrète, en vue de l’open data des décisions, la loi de réforme de la justice du 23 mars 2019 interdit expressément les

Enfin, du côté des structures privées (les cabinets d’avocats les premiers), les meilleures n’auront-elles pas intérêt à maintenir une expertise en recherche et veille afin de contrôler la pertinence des réponses ? Attention aux biais dans les contenus et les statistiques ... Pour le dire en anglais : « Content experts and data scientists needed ».

Conclusion : testez !

En conclusion, vu l’importance des enjeux et en même temps le fossé entre la com’ et les fantasmes d’une part et la réalité d’autre part, nous recommandons fortement de tester par soi-même ces nouvelles applications. Et de lire l’ouvrage de Garapon et Lassègue, "Justice digitale". Il est grand temps de déchirer le voile de hype et d’opacité de l’IA et que chacun se fasse sa propre opinion par lui-même.

En effet, il n’existe aucune démo gratuite en accès libre de Ross ni de Predictice ou Case Law Analytics (CLA), le site web du produit Ross est d’un vide intersidéral (le compte Twitter est beaucoup plus riche !) et les structures utilisatrices donnent très peu d’exemples d’utilisation ni de recherche et, à l’exception notable de CLA, aucun autre détail.

C’est là que la libre disponibilité de l’interface et du code source de Supra Legem remplissait son office : permettre au grand public de tester un outil de "justice prédictive".

Emmanuel Barthe
bibliothécaire documentaliste et veilleur juridique, spécialiste des moteurs de recherche pour le droit et des données juridiques publiques
licence en droit, Faculté de droit de Sceaux

Bibliographie

Les notes de bas de page (plus de 340) de ce long billet en composent la bibliographie. Une bibliographie en bonne et due forme représenterait trop de travail pour une publication qui reste après tout un exercice de vulgarisation et d’information.

Trois autres bibliographies très riches sur l’IA en droit français

Trois publications permettent toutefois d’accéder à des bibliographies extrêmement riches et beaucoup plus axées "juridique" que nos propres sources :

Les bibliographies de ces publications (placées comme toujours à la fin du document) comportent d’abord des références d’articles et ouvrages de juristes sur l’IA, les mathématiques, les statistiques et les algorithmes appliqués au droit (essentiellement français), mais aussi d’articles de mathématiciens, informaticiens et sociologues. Celle de l’ouvrage de Yanick Meneceur est disponible gratuitement en ligne (voir le lien) mais ne pas négliger les deux précédentes, plus complètes.

Une "webliographie" sélective et rapide sur Ross (2017)

 

Page parrainée par Convention.fr, le spécialiste des conventions collectives et affichages obligatoires.