IA et justice, vers des "lignes directrices et des normes pratiques et conviviales" et une "boîte à outils"

L'IA bouscule nos habitudes et les innovations se succèdent. Deepseek en est encore une illustration.  La justice n'est pas épargnée par l’IA. Cette technologie est un instrument crucial pour elle et le Conseil de l’UE a approuvé des conclusions en ce sens. L’idée que l’UE a une carte à jouer, notamment en favorisant le partage de connaissance, l’échange et la formation. Toutefois, l’utilisation de l’IA doit se faire dans un cadre strict, respectueux des libertés et des normes, en premier lieu « l’IA Act ».


L’IA, un potentiel énorme potentiel de transformation

L'Union européenne et ses États membres connaissent un développement continu des solutions juridiques, opérationnelles et techniques favorisant la coopération judiciaire et l'accès à la justice dans les affaires transfrontières en matière civile, commerciale et pénale.
L'IA recèle un énorme potentiel de transformation. Son utilisation peut faciliter l'accès à la justice, améliorer l'efficience et l'efficacité des procédures judiciaires et contribuer à ce qu'elles se déroulent en temps voulu.
Plus concrètement, elle peut aider, entre autres, à accomplir certaines tâches courantes ou auxiliaires, par exemple en guidant les personnes parmi les informations juridiques, en programmant les audiences, en réservant des salles de tribunal ou en empêchant la réidentification des personnes concernées, soit par anonymisation, soit par pseudonymisation des décisions de justice, dans le respect des règles en matière de protection des données.


D’où vient-on ?

Dans ses conclusions du 9 juin 2020 intitulées "Façonner l'avenir numérique de l'Europe", le Conseil a attiré l'attention sur les défis posés par la numérisation accrue de l'économie et de la société européennes, y compris par l'IA.
Dans ses conclusions du 13 octobre 2020 sur la numérisation, intitulées "Accès à la justice - saisir les opportunités offertes par la numérisation", le Conseil a souligné l'importance de la transition numérique pour accroître l'efficacité et l'efficience des systèmes judiciaires.
Les conclusions du Conseil du 20 octobre 2023 sur l'autonomisation numérique pour protéger et faire respecter les droits fondamentaux à l'ère numérique sont axées sur l'autonomisation numérique des personnes et des secteurs essentiels à la défense des droits fondamentaux, tels que la justice, ainsi que sur la construction d'un environnement numérique sûr dans lequel les droits fondamentaux sont correctement protégés.


Où en est-on ?

Un certain nombre d'organisations internationales ont également adopté des documents importants dans le domaine de l’IA:

• la charte éthique européenne d'utilisation de l'intelligence artificielle dans les systèmes judiciaires et leur environnement, de la Commission européenne pour l'efficacité de la justice (CEPEJ) du Conseil de l'Europe;
• la recommandation du Conseil de l'Organisation de coopération et de développement économiques sur l'intelligence artificielle
• la résolution du Conseil des droits de l'homme des Nations unies (10 juillet 2024) sur la promotion et la protection de tous les droits de l'homme;
• la convention-cadre du Conseil de l'Europe sur l'intelligence artificielle ;
• le rapport final de l'organe consultatif de haut niveau des Nations unies sur l'intelligence artificielle intitulé "Gouverner l'IA au service de l'humanité".

Et pourquoi l’UE ?

La coopération transfrontière entre les États membres pour partager les enseignements tirés, les meilleures pratiques, l'expertise et les informations sur les réalisations en matière d'intégration de l'IA dans leurs systèmes judiciaires respectifs est particulièrement importante pour garantir l'égalité d'accès à la justice dans l'ensemble de l'UE.

La stratégie européenne en matière de justice en ligne (2024-2028) expose les objectifs stratégiques et opérationnels, définit les actions nécessaires pour atteindre ces objectifs et jette les bases d'un mécanisme de suivi permettant de suivre l'avancement des projets et initiatives présentés par les États membres ou d'autres parties prenantes.
Il s'agit notamment de tirer parti des technologies innovantes pour soutenir la réalisation des objectifs définis.
En outre, la stratégie constate que la transformation numérique s'accompagne de la nécessité de définir des actions spécifiques et appropriées qui soient adaptables aux défis et aux possibilités que créent l'IA et d'autres technologies émergentes.


Nourrir les algorithmes pour mieux entraîner l’IA

Selon le Conseil, il est essentiel de veiller à la disponibilité d'une grande quantité de données de qualité pour créer un environnement propice au développement de systèmes d'IA à valeur ajoutée.
La disponibilité de décisions judiciaires anonymisées ou pseudonymisées est un catalyseur important pour les applications de l'IA dans le domaine de la justice, qui nécessitent un accès à grande échelle à ces décisions pour en effectuer l'analyse, notamment au cours de la phase d'apprentissage des systèmes d'IA.


Mais quel est l’enjeu ?

Le règlement sur l’IA du 13 juin 2024 classe les systèmes d'IA pour certaines applications dans les domaines de l'application de la loi, de la justice et du règlement extrajudiciaire des litiges comme étant à haut risque et les soumet à un ensemble d'exigences telles que des procédures d'évaluation de la conformité et des contrôles, en vue de garantir un niveau élevé de fiabilité.

Or si des cas d'utilisation présentent des risques plus élevés, les systèmes judiciaires devraient néanmoins tirer parti de ces cas d'utilisation, moyennant des garanties appropriées, étant donné que l'IA peut contribuer grandement au travail judiciaire, par exemple en résumant des contenus judiciaires, en analysant la jurisprudence, en proposant des textes, en fournissant une interprétation en temps réel, en traitant les litiges de masse ou en soutenant la prise de décision.


Une IA respectueuse du droit et des libertés fondamentales

Le Conseil rappelle que l'Agence des droits fondamentaux a publié des études et des rapports sur des sujets connexes pertinents, tels que le rapport intitulé "Bien préparer l'avenir: l'intelligence artificielle et les droits fondamentaux", ainsi que le rapport intitulé "Bias in algorithms - Artificial intelligence and discrimination" (Les biais dans les algorithmes — Intelligence artificielle et discrimination).

Selon le Conseil de l’UE, l'IA devrait être utilisée en justice dans le plein respect de la charte des droits fondamentaux de l'Union européenne et conformément, entre autres, au règlement sur l'IA, au règlement général sur la protection des données et à la directive en matière de protection des données dans le domaine répressif, afin de garantir la transparence, la responsabilité et la surveillance, en veillant à ce que les systèmes d'IA soient dignes de confiance et sûrs et à ce que leur utilisation respecte les droits fondamentaux.
L'accès à la justice devrait être garanti à tous, même dans les situations où les personnes concernées n'utilisent pas d'outils ou de services informatiques ou se trouvent en situation de vulnérabilité.


La création de lignes directrices et des normes pratiques et conviviales

Le Conseil estime que l'IA peut faciliter la prise de décision dans les procédures judiciaires et les modes alternatifs de règlement des conflits, mais ne devrait pas la remplacer, car la décision finale doit rester une activité humaine.
L'utilisation de l'IA dans ce contexte est généralement considérée comme étant à haut risque et devrait être transparente, traçable et explicable de manière appropriée, et faire l'objet d'un contrôle humain.
Il est essentiel de veiller à ce que ces principes soient pris en compte et évalués à la fois au stade de la conception et tout au long du cycle de vie des systèmes d'IA utilisés dans le secteur de la justice.

Des lignes directrices et des normes pratiques et conviviales sont nécessaires au développement et à l'utilisation éthiques et responsables de l'IA en justice, conformément au règlement sur l'IA.
Ces lignes directrices et normes devraient être fondées sur des échanges coordonnés et une coopération entre la Commission, les États membres et les parties prenantes concernées.

La mobilisation du Réseau européen de formation judiciaire

Le Conseil invite le Réseau européen de formation judiciaire et les autorités ou organismes nationaux chargés de la formation judiciaire à tenir compte de la nécessité de former les professionnels de la justice et de leur donner les moyens de faire face à la numérisation des systèmes judiciaires. Il s’agit en particulier de :

• l'utilisation de l'IA en justice,
• l’adaptation à l'évolution de l'environnement juridique,
• la réduction des déficits de compétences numériques
• le renforcement de la sensibilisation aux possibilités et aux risques que présentent les systèmes d'IA utilisés dans le domaine de la justice.

Les outils existants en matière de formation axée sur la numérisation de la justice, y compris les IA destinées aux professionnels de la justice, devraient continuer à être développés et mis à jour.


La création d’une « boîte à outils en matière d'IA dans le domaine de la justice »

La Commission est invitée à créer un instrument commun - la "boîte à outils en matière d'IA dans le domaine de la justice"-, en tenant compte des synergies possibles avec la "plateforme d'IA à la demande" déjà établie.
Cette boîte à outils en matière d'IA dans le domaine de la justice serait un répertoire de cas d'utilisation (notamment en ce qui concerne les acteurs, le champ d'application, la cible, l'objectif, les fonctionnalités, les scénarios, les avantages escomptés) et d'outils relatifs à l'IA dans le secteur de la justice.

Les outils d'IA à inclure dans la boîte à outils, qu'ils soient développés avec ou sans financement de l'UE, pourraient être mis à la disposition de tous les États membres.
La boîte à outils en matière d'IA dans le domaine de la justice pourrait favoriser la création d'un terrain d'entente et de cas d'utilisation entre les États membres en ce qui concerne l'utilisation transfrontière des outils d'IA en justice.

Quant aux États membres, ils sont invités à échanger des informations et à trouver un terrain d'entente concernant les cas d'utilisation, l'utilisation des outils d'IA et leur développement transfrontière, afin d'améliorer les systèmes judiciaires et de préparer les futures solutions d'interopérabilité, en tenant compte du cadre d'interopérabilité européen, qui est une approche convenue d'un commun accord pour la fourniture de services publics européens de manière interopérable.


Favoriser davantage l’échange et la collaboration

Conformément à la stratégie européenne en matière de justice en ligne (2024-2028), les États membres sont invités à collaborer et à partager des informations sur l'utilisation de l'IA en justice ainsi que sur les outils d'IA, y compris les caractéristiques essentielles liées à ces outils, telles que la configuration ou la description de leur fonctionnement et l'utilisation de logiciels libres.
Les initiatives de recherche et d'innovation visant à faire progresser le développement de systèmes d'IA sur mesure, dans le respect du droit de l'Union pour les applications juridiques spéciales, sont importantes.
La collaboration entre les universités, les entreprises, les autorités judiciaires ou autres autorités publiques et les professionnels de la justice est essentielle pour stimuler l'innovation et favoriser les progrès dans ce domaine.

Il convient d'encourager le soutien et la mobilisation des praticiens du droit, des professionnels des technologies de l'information et des autorités ou organismes afin de mieux relever les défis de la transformation numérique et d'y faire face en temps utile.
Outre l'obligation de prendre des mesures pour garantir, dans toute la mesure du possible, un niveau suffisant de maîtrise de l'IA pour tous les professionnels de la justice qui utilisent l'IA, la formation des professionnels de la justice et du personnel administratif des autorités judiciaires devrait être axée sur la sensibilisation.

 

 synthèse du texte par Pierre Berthelet alias securiteinterieure.fr

• conclusions du Conseil de l'UE
  

 

A lire aussi sur securiteinterieure.fr :

• Intelligence artificielle : l’Union européenne entend renforcer sa diplomatie numérique
• Sécurité & IA : la Commission préconise un cadre normatif européen... sans moratoire pour la reconnaissance faciale
• Désinformation, cyberattaques et guerres hybrides : dans une résolution sur l'IA, le Parlement européen réclame plus de fermeté face aux Etats qui parrainent les cybercrimes
• Intelligence artificielle : l’UE ambitionne de jouer un rôle de chef de file dans l’élaboration de lignes directrices internationales 
• Pour l’Assemblée nationale, il est urgent que l’Europe s’implique davantage pour promouvoir l’innovation de rupture dans la compétition mondiale
• Pour le Sénat, si l'UE est déjà une colonie du monde numérique, elle ne doit pas devenir une colonie de l'intelligence artificielle
• Intelligence artificielle: les députés du PE préconisent une meilleure gouvernance européenne et la création d’une agence réglementaire