Intelligence artificielle : l’Union européenne entend renforcer sa diplomatie numérique

 

L'intelligence artificielle (IA) a fait de nombreux progrès ces dernières années et la création d’un cadre juridique unifié se fait de plus pressante. Une proposition de règlement est en cours d’adoption par le législateur européen. De son coté, le Conseil de l’Europe est également en train de mettre en place une convention (ou une convention cadre). Pour éviter des discordances, une proposition de recommandation de décision est sur la table. L’objectif de cet acte qui s’inscrit dans le contexte institutionnel des relations internationales de l’UE, est de permettre un alignement des positions de l’UE et du Conseil de l’Europe. En d’autres termes, il s’agit de faire en sorte que cette convention (cadre) se fonde sur les standards de l’UE. Après le « règlement général de la protection des données », c’est, l’occasion pour l’UE de s’affirmer comme puissance normative sur la scène internationale. 

De quoi parle-t-on ?

En avril 2021, la Commission européenne a proposé un règlement complet sur l'IA qui harmoniserait les règles des systèmes d’IA dans les 27 États membres de l'UE. 

Diverses organisations internationales, dont le Conseil de l'Europe, ont également intensifié leurs efforts dans ce domaine.  

La recommandation proposée renforce de manière significative le rôle de l'Union dans l'élaboration de normes et de standards mondiaux et dans la promotion d'une IA fiable et conforme aux valeurs et aux intérêts de l’Union. Il fournit à l'Union une base solide pour renforcer la diplomatie numérique de l'UE. Il permet de pour négocier, avec d’autres pays européens et non européens, le premier accord international juridiquement contraignant sur l’IA, fondé sur des valeurs et des principes partagés.

D’où vient-on ? 

Le 11 septembre 2019, le Comité des Ministres du Conseil de l'Europe a décidé de créer un Comité ad hoc sur l'intelligence artificielle (CAHAI). Sa tâche consistait à examiner la faisabilité et les éléments potentiels d'un cadre juridique sur le développement, la conception et l'application de l'I. Le 3 décembre 2021, le CAHAI a achevé sa tâche en produisant un document final qui a identifié les éléments possibles d'un tel cadre juridique. 

Un successeur au CAHAI – le Comité sur l'Intelligence Artificielle (CAI) – a été mis en place pour la période 2022-2024. Selon ses termes de référence, le CAI est chargé de mettre en place un processus de négociation international pour élaborer un cadre juridique sur le développement, la conception et l'application de l'IA. Le cadre doit être rédigé d'ici le 15 novembre 2023 et finalisé au moment où le CAI  est liquidée en 2024.

Du 4 au 6 avril 2022, le CAI a tenu sa réunion inaugurale et le 30 juin 2022, le Comité des Ministres du Conseil de l'Europe a chargé la CAI ' de procéder rapidement à l'élaboration d'un instrument juridiquement contraignant de nature transversale (' convention ' / ' convention-cadre ') sur l'intelligence artificielle. 

L'avant-projet sera discuté lors des sessions plénières du CAI à Strasbourg prévues du 21 au 23 septembre et du 23 au 25 novembre 2022. Quatre réunions sont également prévues en 2023 et une réunion en 2024.

Le future convention (cadre)

Le champ d'application de cette future convention (cadre) couvre à la fois les fournisseurs et les utilisateurs publics et privés de systèmes d'IA, mais exclut les systèmes d'IA liés à la défense nationale. L'avant-projet propose d'inclure les dispositions suivantes :

• •objet et champ d'application de la convention (cadre) ;
• définitions d'un système d'IA, d'un cycle de vie, d'un fournisseur, d'un utilisateur et d'un « sujet d'IA » ;
• certains principes fondamentaux, notamment des garanties procédurales et des droits pour les sujets IA qui s'appliqueraient à tous les systèmes d'IA, quel que soit leur niveau de risque;
• des mesures supplémentaires pour le secteur public ainsi que les systèmes d'IA présentant des niveaux de risque « inacceptables » et « significatifs » identifiés sur la base d'une méthodologie d’évaluation des risques et des impacts ( à définir ultérieurement dans une annexe à la convention) ; 
• mécanisme de suivi et de coopération entre les parties ;
• des dispositions finales, y compris la possibilité pour les États membres de l'UE d'appliquer le droit de l'UE dans leurs relations mutuelles pour les matières couvertes par la convention et la possibilité pour l’Union d'adhérer à la convention.

Et l’UE ?

Le 21 avril 2021, la Commission a proposé un règlement établissant des règles harmonisées concernant la mise sur le marché, la mise en service et l'utilisation des systèmes d'IA dans l'Union. La proposition a le double objectif :

• créer un marché unique pour promouvoir le développement et l'adoption de l'IA, 
• traiter les risques pour la sécurité, la santé et les droits fondamentaux. 

La proposition est de nature horizontale et s'applique aux fournisseurs et aux utilisateurs de systèmes d'IA, qu'ils soient des entités publiques ou privées. Les systèmes d'IA développés ou utilisés exclusivement à des fins militaires sont exclus du champ d'application.

La proposition établit des exigences et des obligations proportionnées limitées au minimum requis pour faire face aux risques pour la santé, la sécurité et les droits fondamentaux, sans entraver le développement technologique. À cette fin, il suit une approche basée sur les risques pour la santé, la sécurité ou les droits fondamentaux :

• Les systèmes d'IA posant un « risque inacceptable ». Une interdiction est proposée pour les systèmes d'IA considérés comme incompatibles avec les valeurs de l'UE. C’est le cas de la notation sociale par les autorités publiques, des pratiques de manipulation nocives de l'IA, d’une véritable identification biométrique à distance à temps à des fins répressives dans des espaces accessibles au public (sous réserve de quelques exceptions limitées). 
• Les systèmes d'IA « à haut risque ». Ces systèmes doivent se conformer à certaines exigences obligatoires (par exemple en ce qui concerne la gestion des risques, la qualité des données, la documentation, la transparence, la surveillance humaine, l'exactitude, la cybersécurité) avant ces systèmes peuvent être mis sur le marché ou utilisés dans l'Union. Des obligations de suivi et de surveillance sont également imposées aux fournisseurs et aux utilisateurs, définissant clairement leurs rôles et responsabilités.
• Pour les systèmes d'IA présentant un « risque lié à la transparence », les personnes doivent être informées lorsqu'elles interagissent ou sont exposées à de tels systèmes (par exemple, des chatbots, des systèmes de reconnaissance des émotions et de catégorisation biométrique, des deep fakes). 
• Tous les autres systèmes qui présentent un risque « minime » ou « faible », ils sont autorisés sans autre restriction, mais les prestataires peuvent choisir de se conformer aux codes de conduite volontaires.

Et pourquoi une recommandation de décision ?

Les négociations de la future convention (cadre) du Conseil de l'Europe sur l'IA portent sur des questions relevant de la compétence de l'Union et il existe un chevauchement très important entre l'avant-projet de convention et l'acte proposé sur l'IA. 

Cette recommandation de décision est soumise au Conseil. Une fois adoptée par le Conseil, cette décision autorise l'ouverture de négociations au nom de l'Union pour une future convention du Conseil de l'Europe sur l'IA.

Les négociations sur cette future convention du Conseil de l'Europe devraient garantir que les dispositions convenues sont compatibles avec le droit de l'UE.

La recommandation est pertinente pour d’autres initiatives en cours ou prévues de la Commission visant à résoudre les problèmes posés par le développement de l’IA, recensés dans le livre blanc sur l’IA. Ces autres initiatives comprennent notamment les initiatives à venir qui traitent des questions de responsabilité liées aux nouvelles technologies concernant les systèmes d'IA. 

synthèse du texte par Pierre Berthelet alias securiteinterieure.fr

• proposition de recommandation de décision

 

A lire sur securiteinterieure.fr :

• Sécurité & IA : la Commission préconise un cadre normatif européen... sans moratoire pour la reconnaissance faciale
• Désinformation, cyberattaques et guerres hybrides : dans une résolution sur l'IA, le Parlement européen réclame plus de fermeté face aux Etats qui parrainent les cybercrimes
• Intelligence artificielle : l’UE ambitionne de jouer un rôle de chef de file dans l’élaboration de lignes directrices internationales 
• Pour l’Assemblée nationale, il est urgent que l’Europe s’implique davantage pour promouvoir l’innovation de rupture dans la compétition mondiale
• Pour le Sénat, si l'UE est déjà une colonie du monde numérique, elle ne doit pas devenir une colonie de l'intelligence artificielle
• Intelligence artificielle: les députés du PE préconisent une meilleure gouvernance européenne et la création d’une agence réglementaire 
• Gestion des catastrophes, criminalité et cybersécurité : les 28 ministres européens valident l'injection de 20 milliards d’euros dans l'intelligence artificielle