Pages

lundi 23 mai 2022

Désinformation, cyberattaques et guerres hybrides : dans une résolution sur l'IA, le Parlement européen réclame plus de fermeté face aux Etats qui parrainent les cybercrimes

 



Le Parlement européen vient tout juste d’adopter une importante résolution sur l’intelligence artificielle (IA) dans laquelle il formule un  appel urgent à l’action. Le constat est dramatique : l’UE est encore loin de réaliser son aspiration à devenir compétitive dans le domaine de l’IA à l’échelle mondiale. Or, elle risque de prendre encore du retard face aux Etats-Unis et à la Chine. Il réclame de toute urgence un ensemble de mesures drastiques, notamment :

  • une stratégie et un cadre réglementaire communs en matière d’IA 
  • une telle approche européenne distinctive de l’IA sur la scène internationale centrée sur l’humain et guidée par des principes éthiques.

Face à l’intensification de l’IA dans les conflits et les guerres hybrides, il demande de renforcer les capacités  de cybersécurité et de cyberdéfense, de même que les investissements et l’interopérabilité dans le domaine des nouvelles technologies.


Quel est le constat ? 

Le Parlement : 

  • estime que la transformation numérique en cours, dans laquelle l’IA joue un rôle clé, a déclenché une compétition mondiale pour le leadership technologique;
  • souligne que l’IA, bien que souvent présentée comme une menace imprévisible, peut être un outil numérique puissant et changer la donne sur de nombreux aspects importants, notamment en proposant des produits et des services innovants;
  • constate que l’adoption des technologies de l’IA présente des avantages et des possibilités évidents pour l’ensemble de la société, notamment dans les domaines de la sécurité et de la compétitivité; 
  • souligne que l’utilisation abusive de l’IA dans le domaine de la répression peut causer des dommages, y compris une discrimination automatisée et à un traitement illégal des citoyens, tout en offrant peu de moyens de recours.


En outre, il:
  • note que les chevauchements législatifs, la fragmentation du marché, les obstacles bureaucratiques, le manque d’infrastructures numériques accessibles et de compétences numériques dans l’ensemble de la société et l’insuffisance des investissements dans la recherche et le développement peuvent être observés en particulier en tant qu’obstacles à l’application réussie d’une IA digne de confiance;
  • conclut que la stratégie de l’Union européenne en ce qui concerne l’IA ne doit pas négliger les considérations et les préoccupations militaires et sécuritaires qui découlent du déploiement mondial des technologies d’IA; 
  • souligne qu’à l’heure actuelle, l’Union est encore loin de réaliser son aspiration à devenir compétitive en matière d’IA à l’échelle mondiale.

L’intensification de l’IA dans les conflits et les guerres hybrides

Le Parlement : 

  • note que l’utilisation des systèmes d’IA dans les développements liés à la défense est considérée comme un changement de donne dans les opérations militaires; 
  • est préoccupé par la recherche militaire et les développements technologiques réalisés dans certains pays, qui portent sur des systèmes d’armes létales autonomes sans véritable contrôle humain. Il observe que de tels systèmes d’armes létales autonomes sont déjà utilisés dans des conflits militaires;
  • note que cette technologie d’IA en particulier peut notamment présenter des risques potentiels, en tant que moyen permettant de mener différentes formes de guerre hybride et d’ingérence étrangère.

Par ailleurs, il:

  • souligne que les technologies de l’IA pourraient également comprendre les logiciels malveillants alimentés par l’IA, l’usurpation d’identité, l’empoisonnement des données, ou d’autres formes d’apprentissage machine antagoniste qui amènent d’autres systèmes d’IA à mal interpréter les entrées; 
  • observe notamment l’augmentation des infox vidéo qui ne sont pas nécessairement des cyberattaques, mais suscitent des doutes quant à la véracité de tous les contenus numérique.
    Il signale que les infox vidéo pourraient contribuer à un large climat de méfiance du public à l’égard de l’IA, ainsi qu’à une polarisation sociopolitique plus profonde au sein de nos sociétés.


Qu'en est-il des Etats-Unis ?

Le Parlement  constate que les États-Unis ont  une approche reste axée sur le marché : ils n’ont pas encore introduit de législation horizontale dans le domaine du numérique, et se sont concentrés jusqu’à présent sur des lois sectorielles et sur la facilitation des investissements, notamment par des mesures fiscales relatives à l’innovation dans le secteur privé, en particulier chez ses géants de la technologie et ses grandes universités.

Le gouvernement américain a annoncé l’élaboration de normes communes pour une IA digne de confiance. Toutefois, les dix principes qui en résultent ont été formulés de manière très générale afin de permettre à chaque agence gouvernementale de créer des réglementations sectorielles spécifiques; 

Le Parlement conclut que les États-Unis sont à la pointe dans le domaine de l’IA en général et dans de nombreuses catégories, étant donné que ce sont des entreprises ayant leur siège aux États-Unis qui portent le développement technologique dans des domaines tels que l’informatique en nuage et les capacités de calcul à haute performance.


Quid de la Chine ?

Le Parlement souligne que la Chine, qui, il y a quelques années, accusait encore un retard important sur les États-Unis dans tous les indicateurs, rattrape désormais rapidement son retard.

Le président chinois Xi Jinping a souligné dès 2013 l’importance des technologies dans la géopolitique et le fait que les technologies d’IA offrent la possibilité de relancer leur puissance militaire.
Sur la scène mondiale, la Chine promeut activement le partenariat international en matière d’IA comme un moyen d’exporter ses propres pratiques de surveillance gouvernementale basées sur l’IA, son système de notation sociale et ses stratégies de censure.

Le Parlement européen:

  • souligne que de lourds investissements à l’étranger dans le cadre de l’initiative sur la route de la soie numérique sont également utilisés pour propager l’influence chinoise et sa technologie d’IA à l’échelle mondiale, ce qui pourrait avoir des implications considérables au-delà de l’imposition de normes technologiques ou du maintien de la compétitivité technologique; 
  • conclut que l’approche du gouvernement chinois est donc fondée sur le déploiement de l’IA au niveau national et sur l’exportation de technologies d’IA basées sur des normes prédéterminées conformes à l’idéologie du gouvernement chinois;
  • observe que le gouvernement chinois a signé des accords de normalisation et de coopération avec 52 pays dans le cadre de son Initiative ceinture et route.
    Or, étant donné que plusieurs de ces normes, notamment sur les technologies de l’IA et plus particulièrement la surveillance gouvernementale et les libertés individuelles, ne sont pas conformes aux droits de l’homme et aux valeurs de l’Union, l’action de la Chine en matière de normes constitue un défi pour l’Union.


Quel rôle l’UE doit-elle jouer ?

Le Parlement souligne que l’Union européenne:

  • a jusqu’à présent pris du retard, de sorte que les futures normes technologiques risquent d’être élaborées sans une contribution suffisante de l’Union, souvent par des acteurs non démocratiques, ce qui représente un risque pour la stabilité politique et la compétitivité économique; 
  • doit agir en tant qu’organisme normatif mondial en matière d’IA;
  • a la possibilité de façonner le débat international sur l’IA et d’élaborer des règles et des normes communes de premier plan au niveau mondial;
  • doit promouvoir une approche de l’IA centrée sur l’humain, digne de confiance et durable, dans le plein respect des droits fondamentaux.
    Il importe de relever les défis posés par l’IA aux droits fondamentaux, ce qui permettra à l’IA de devenir effectivement un instrument au service des personnes et de la société et de poursuivre le bien commun et l’intérêt général.



Qui plus est, il :

  • est conscient qu’il n’est pas toujours possible de «débiaiser» complètement les algorithmes d’IA. Néanloins, l’Union devrait s’efforcer d’améliorer la transparence des ensembles de données et des algorithmes, coopérer très étroitement avec les développeurs d’IA pour contrebalancer et réduire les biais sociétaux structurels et envisager des règles obligatoires de diligence raisonnable en matière de droits de l’homme dès les premiers stades du développement;
  • considère que les développeurs devraient, le cas échéant, concevoir des systèmes d’IA à haut risque comportant des mécanismes intégrés — des «boutons d’arrêt» — permettant une intervention humaine afin d’arrêter à tout moment, de manière sûre et efficace, les activités automatisées et de garantir une approche humaine dans le processus; 
  • estime que les résultats et le raisonnement du système d’IA devraient toujours être compréhensibles par l’homme.


Où en est-on ?

Le Parlement européen:

  • note que la Commission a commencé ses travaux sur la réglementation de l’IA en 2018 en publiant la stratégie européenne en matière d’IA, en créant un groupe d’experts de haut niveau et en introduisant un plan coordonné visant à favoriser «l’IA made in Europe»; 
  • note que le livre blanc sur l’IA de 2020 a proposé de nombreuses mesures et options politiques pour la future réglementation de celle-ci et a finalement abouti à la loi horizontale sur l’IA qui a été présentée avec un plan coordonné révisé sur l’IA en mai 2021; 
  • souligne qu’en juin 2021, 20 États membres ont publié des stratégies nationales en matière d’IA, tandis que 7 autres en sont aux derniers stades de préparation de l’adoption des leurs.



De surcroît, il:

  • souligne que l’Union place au centre de son approche réglementaire une forte attention au développement d’un marché unique numérique européen et aux considérations éthiques, conformément aux valeurs fondamentales des droits de l’homme et aux principes démocratiques; 
  • reconnaît que la mise en place d’un premier cadre réglementaire mondial pour l’IA pourrait donner du poids à l’Union et lui permettre de bénéficier d’un avantage de premier plan dans la définition de normes internationales en la matière fondées sur les droits fondamentaux, ainsi que d’exporter avec succès une «IA digne de confiance», centrée sur l’humain, dans le monde entier.


Créer une législation harmonisée et un label de qualité

Le Parlement européen :

  • de promouvoir une approche plus harmonisée de l’IA et d’aider les États membres à coordonner leurs efforts; 
  • se réfère à cet égard à la stratégie de Lisbonne de l’Union de 2000, qui, malgré les critiques, a contribué puissamment à guider l’orientation politique de l’Union pendant 20 ans et à maintenir la pression sur les États membres pour qu’ils entreprennent des réformes.

Par ailleurs, le Parlement européen:

  • invite la Commission à ne proposer que des actes législatifs sous forme de règlements concernant les nouvelles lois numériques dans les domaines tels que l’IA, car le marché unique numérique doit faire l’objet d’un processus d’harmonisation véritable; 
  • estime que le programme pour une meilleure réglementation est un élément clé du succès de la stratégie de l’Union en matière d’IA; 
  • demande instamment à la Commission de réaliser des analyses d’impact approfondies;
  • souligne que les analyses d’impact devraient systématiquement cartographier et évaluer la législation existante en la matière, en évitant tout chevauchement ou conflit;
  • estime que les normes techniques et les instructions de conception soient combinées à un système de label. U une plateforme ouverte de certification permettrait d’instaurer un écosystème de confiance associant les gouvernements, la société civile, les entreprises et d’autres acteurs.


Créer une gouvernance associant la société civile

Le Parlement européen:

  • demande une coordination, une mise en œuvre et une application cohérentes de la législation relative à l’IA à l’échelle de l’Union;
  • est d’avis que les instances de consultation d’experts comme le comité européen de l’innovation dans le domaine des données;
  • souligne que le «problème de rythme» nécessite une attention particulière à l’application effective ex post par les tribunaux et les organismes de réglementation ainsi que des approches ex ante pour faire face aux défis juridiques posés par les technologies émergentes; 
  • constate que ces sas réglementaires seraient des espaces d’expérimentation dans lesquels on pourrait tester les systèmes d’IA et les nouveaux modèles économiques dans des conditions réelles, dans un environnement contrôlé, avant qu’ils n’entrent sur le marché.



Sur le plan international : favoriser le "soft power" européen fondée sur les valeurs de l’UE

Le Parlement européen:

  • souligne que l’Union devrait forger une solide alliance technologique internationale fondée sur des valeurs fondamentales et montrer l’exemple en la matière, en collaborant avec des partenaires partageant les mêmes idées afin d’établir des normes réglementaires communes;
  • souligne que l’Union européenne devrait également soutenir activement le renforcement de la coopération internationale en matière d’IA éthique, par exemple au sein du système des Nations unies, de l’OCDE, du Conseil de l’Europe, de l’Organisation mondiale du commerce, du Forum économique mondial et du G20; 
  • se félicite, en particulier, de la création du CCT UE-États-Unis, qui fait de la coopération en matière de normes d’IA une priorité essentielle, et fait valoir que, compte tenu de son potentiel stratégique, le CCT doit être renforcé par une dimension interparlementaire, associant le Parlement européen et le Congrès américain.
    Il suggère également de créer un groupe de travail transatlantique spécialisé dans l’IA, comprenant des représentants des gouvernements, des organismes de normalisation, du secteur privé et de la société civile, en vue d’élaborer des normes communes et des orientations éthiques pour l’IA; 
  • souligne que l’Union coopérer avec les organismes internationaux de normalisation afin d’améliorer davantage les normes en matière d’éthique;
  • se félicite des récentes initiatives de normalisation lancées par des acteurs tels que le comité technique mixte de l’Organisation internationale de normalisation et la Commission électrotechnique internationale, qui visent tous deux à harmoniser à l’échelle mondiale des codes d’IA divergents.



Cybersécurité : effectuer en priorité des évaluations des secteurs où les utilisations de l’IA la plus sensible 

Le Parlement européen:

  • demande aux États membres de renforcer la coopération dans le domaine de la cybersécurité au niveau européen afin de permettre à l’Union et aux États membres de mieux mettre en commun leurs ressources, de coordonner les politiques nationales en matière de cybersécurité, et d’accroître davantage le renforcement des capacités en matière de cybersécurité;
  • propose l’introduction d’exigences transversales en matière de cybersécurité. Il fait observer que les produits d’IA sur le marché unique numérique qui portent le marquage CE pourraient, à l’avenir, être synonymes à la fois d’un niveau élevé de sécurité physique et d’un niveau de cyber-résilience adapté au risque et marquer la conformité avec la législation européenne pertinente;
  • demande que l’Agence de l’Union européenne pour la cybersécurité (ENISA) procède à des évaluations sectorielles des risques en matière de sécurité.
    Il s'agit de commencer par les secteurs, où les utilisations sont les plus risquées et les plus sensibles de l’IA présentant le plus fort potentiel de répercussions négatives sur la sûreté et la sécurité et les droits fondamentaux.
    L’ENISA, le Centre de compétences européen en matière de cybersécurité et le réseau des centres nationaux de coordination devraient évaluer les incidents de cybersécurité afin de déceler les lacunes et les nouvelles vulnérabilités et de conseiller les institutions de l’Union en temps utile sur les mesures correctives appropriées.

Sur le plan de la sécurité intérieure, valoriser les travaux des Nations unies sur la lutte contre la criminalité

Le Parlement européen:

  • souligne l’importance de la capacité des services chargés de l’application de la loi à détecter et à contrer les activités criminelles, avec l’aide de la technologie de l’IA;
  • souhaite que l’Union participe aux approches non contraignantes établies par l’Institut interrégional de recherche des Nations unies sur la criminalité et la justice.
    Cet Institut a mis au point des boîtes à outils opérationnelles pour l’IA et a entamé avec Interpol un partenariat servant de plateforme unique de dialogue et de coopération sur l’IA entre les services répressifs, l’industrie, les universités et la société civile;
  •  prend acte du rôle joué par Europol dans le développement, la formation et la validation des outils d’IA pour lutter contre la criminalité organisée, le terrorisme et la cybercriminalité en partenariat avec le Contrôleur européen de la protection des données;
  •  invite la Commission à renforcer les ressources financières et humaines du pôle d’innovation de l’Union pour la sécurité intérieure; 
  • salue les efforts déployés par Eurojust, l’Agence des droits fondamentaux de l’Union européenne et Europol pour mettre au point une boîte à outils de principes universels de responsabilité en vue de l’utilisation de l’IA par les professionnels de la justice et de la sécurité intérieure (le cadre AP4AI);
  • invite la Commission à apporter un soutien financier spécifique à cette initiative afin de promouvoir les normes et les valeurs de responsabilité de l’Union dans le domaine de l’IA.


Renforcer la cyberdéfense européenne, notamment face aux Etats qui parrainent les cybercrimes

Le Parlement européen:

  • demande instamment aux États membres de mener une politique active de cyberdiplomatie européenne en dénonçant et en identifiant les cyberattaques soutenues par l’étranger, y compris celles alimentées par l’IA.
    Il se félicite que la boîte à outils cybernétique de l’Union comprenne la cessation de l’aide financière et des sanctions contre les pays ou les mandataires qui se livrent à des cyberactivités malveillantes, à des attaques hybrides, notamment des campagnes de désinformation, ou qui parrainent des cybercrimes;
  • suggère, en outre, de renforcer les capacités de cybersécurité au sein de l’Agence européenne de défense, notamment en utilisant des systèmes fondés sur l’IA pour soutenir une réaction coordonnée et rapide aux cyberattaques.


  • A lire sur securiteinterieure.fr : Terrorisme, extrémisme et désinformation : selon l’Assemblée nationale, le Shérif européen ne mettra que partiellement de l’ordre dans le "Far West numérique"


En outre, il:

  • encourage les États membres à prendre des mesures pour récompenser la découverte de vulnérabilités et soutenir les audits des produits, systèmes et processus basés sur l’IA;
  • affirme que l’Union devrait considérer l’IA comme une composante essentielle de la souveraineté technologique européenne;
  • se félicite de la future boussole stratégique de l’Union qui devrait fournir un cadre et un certain niveau d’ambition permettant de traiter les aspects de sécurité et de défense de l’IA.

Qui plus est, il:
  • rappelle que la coopération structurée permanente dans le cadre de la politique de sécurité et de défense commune et le Fonds européen de défense permettront aux États membres et à l’Union de renforcer les investissements, les capacités et l’interopérabilité dans le domaine des nouvelles technologies, en particulier l’IA;
  • appelle à une coopération plus étroite avec l’OTAN dans le domaine de la cyberdéfense et demande aux alliés de l’OTAN de soutenir les efforts multilatéraux visant à réglementer l’utilisation militaire de l’IA:
  • invite le Conseil à adopter une position commune sur les systèmes d’armes autonomes qui garantisse un contrôle humain significatif sur leur fonction critique.

synthèse du texte par Pierre Berthelet alias securiteinterieure.fr

 


A lire également sur securiteinterieure.fr :





Publié par à
Libellés :

Aucun commentaire:

Enregistrer un commentaire

remarques et suggestions à formuler à securiteinterieure [à] securiteinterieure.fr

Remarque : Seul un membre de ce blog est autorisé à enregistrer un commentaire.

Inscription à : Publier les commentaires (Atom)