Pages

mercredi 20 mars 2019

Intelligence artificielle: les députés du PE préconisent une meilleure gouvernance européenne et la création d’une agence réglementaire


Réponse du berger à la bergère, les députés européens répondent, dans une résolution sur l’IA, au  projet de plan coordonné préparé par la Commission européenne.
A leurs yeux, l’intégration croissante de la robotique dans des systèmes humains nécessite des orientations politiques fortes.
Surtout, ils estiment qu’une approche coordonnée au niveau européen est nécessaire pour que l’Union soit en mesure de rivaliser avec les investissements de masse effectués par des pays tiers, notamment les États-Unis et la Chine.

Cette résolution fait suite à celle du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique.
Il avait déjà appelé à la création d’un cadre juridique cohérent régissant le développement de la robotique (notamment les systèmes autonomes et les robots autonomes intelligents).
Certes, il se félicite dans sa résolution de 2019, des différentes stratégies nationales mises au point par les États membres et du plan coordonné de la Commission sur l’intelligence artificielle, publié le 7 décembre 2018.
Pour autant, il veut aller plus loin. Il demande donc une meilleure coordination entre les États membres et la Commission. Il plaide pour l’établissement d’une gouvernance de l’IA.

1er axe : établir une gouvernance de l’IA en menant une coordination au niveau de l’Union

Le Parlement européen :
  • se félicite également du plan coordonné à venir sur l’IA entre la Commission et les États membres mais demande à toutes les parties concernées de s’efforcer d’atteindre le niveau de coopération le plus élevé possible ;
    • invite la Commission à œuvrer en faveur du développement d’un commandement européen fort permettant :
    • de prévenir la duplication ou la fragmentation des efforts ;
    • de garantir l’adoption de politiques cohérentes au niveau national.

Par ailleurs, il :
  • fait observer que si un certain nombre d’États membres disposent déjà de leurs propres stratégies nationales en matière d’IA, tous ont signé, en avril 2018, une déclaration sur la coopération en matière d’intelligence artificielle;
  • prend acte des travaux actuellement menés par l’Organisation internationale de normalisation (ISO) sur l’intelligence artificielle. Il invite instamment les États membres à coopérer au niveau de leurs membres de l’ISO afin de veiller à ce que les intérêts européens soient représentés en conséquence dans l’élaboration des normes dans ce domaine.

En outre, il invite la Commission et les États membres à envisager la création d’une agence réglementaire européenne de l’IA et de la prise de décision algorithmique, qui serait chargée:
  • de contrôler les analyses d’impact algorithmiques des systèmes ayant une incidence de haut niveau en vue d’approuver ou de rejeter les utilisations proposées de la prise de décision algorithmique dans des domaines d’application très sensibles et/ou critiques sur le plan de la sécurité (par exemple, les soins de santé privés);
  • d’établir une matrice d’évaluation des risques pour la classification des types d’algorithmes et des domaines d’application en fonction de leur potentiel d’incidence négative significative sur les citoyens;
  • de se pencher sur l’utilisation de systèmes algorithmiques en cas de soupçon de violation des droits de l’homme (par exemple, des preuves fournies par un lanceur d’alerte);
  • de fournir des conseils à d’autres agences réglementaires concernant les systèmes algorithmiques relevant de leurs compétences;
  • de renforcer l’efficacité du mécanisme de responsabilité comme moyen de réglementation de la responsabilité des systèmes algorithmiques en fournissant un point de contact aux citoyens qui ne maîtrisent pas les procédures judiciaires.

2e axe : créer un marché intérieur de l’intelligence artificielle

Le Parlement européen :
  • considère qu’une approche commune facilitera le développement des technologies de l’IA et d’éviter une fragmentation du marché intérieur;
  • souligne que le droit de l’Union relatif à la mise en œuvre de la stratégie du marché unique numérique devrait éliminer les obstacles au déploiement de l’IA;
  • demande à la Commission d’évaluer la nécessité de mettre à jour les cadres politiques et réglementaires en vue de la mise en place d’un marché unique européen de l’IA;
  • souligne l’importance du principe de reconnaissance mutuelle en ce qui concerne l’utilisation transfrontière des produits intelligents, notamment des robots et des systèmes robotiques;
  • souligne qu’il faut mettre au point un cadre stratégique qui encourage la conception de tous types d’intelligence artificielle, et pas uniquement celle de systèmes fondés sur l’apprentissage profond, particulièrement gourmand en données.

3e axe : développer une politique industrielle européenne

Le Parlement européen :
  • constate qu’un quart de tous les robots industriels et la moitié des robots de services professionnels produits à l’échelle mondiale le sont par des entreprises européennes et que l’Union dispose donc déjà d’atouts non négligeables sur lesquels elle devrait fonder sa politique industrielle européenne;
  • attire l’attention sur le fait que, l’Union doit investir dans son indépendance technologique.
    Elle doit instamment développer sa propre infrastructure, ses propres centres de données et systèmes d’informatique en nuage et ses propres composants informatiques, tels que des processeurs graphiques et des puces;
  • souligne qu’un défi important pour l’avenir des systèmes d’IA est la qualité inconstante de la technologie de production des logiciels et qu’il est dès lors nécessaire de normaliser la conception des systèmes d’IA et leur utilisation.

En outre, il :
  • souligne que la détermination du champ d’application et des applications de l’IA doit découler d’un processus de conception;
  • recommande de recourir à des partenariats public-privé et de les promouvoir;
  • invite la Commission à veiller à ce que le droit de l’Union relatif à l’intelligence artificielle comprenne des mesures et des règles qui prennent en compte l’évolution technologique rapide dans ce domaine, en vue de garantir que le droit de l’Union ne soit pas en retard en matière de développement et de déploiement technologique.

4e axe : stimuler la recherche et le développement

Le Parlement européen :
  • rappelle que l’Europe abrite une communauté de chercheurs en IA de premier ordre sur le plan mondial, qui représente 32 % des institutions de recherche sur l’IA dans le monde;
  • salue la proposition de la Commission relative au programme pour une Europe numérique et le budget de 2,5 milliards d’euros consacré à l’intelligence artificielle, et la hausse du financement au titre du programme Horizon 2020;
  • soutient les objectifs opérationnels du programme pour une Europe numérique visant :
    • à accroître les capacités fondamentales de l’intelligence artificielle et à les renforcer dans l’Union ;
    • à consolider et mettre en réseau les installations existantes d’essai et d’expérimentation dans le domaine de l’intelligence artificielle dans les États membres;
  • encourage les États membres à mettre sur pied des partenariats avec de multiples parties prenantes issues de l’industrie et des instituts de recherche ainsi que des centres d’excellence communs en matière d’IA.

Pour autant, il :
  • relève que, si elles favorisent le progrès au bénéfice de la société et de l’environnement, la recherche en matière d’IA et les activités connexes devraient être menées conformément au principe de précaution et aux droits fondamentaux.
    Il estime notamment que le développement de l’IA devrait apprécier à leur juste valeur et respecter la dignité humaine ainsi que l’autodétermination et le bien-être, physique comme psychologique, des individus et de la société dans son ensemble;
  • invite instamment la Commission à :
    • ne pas financer les projets visant à intégrer l’IA dans des armements;
    • exclure du financement de l’Union les entreprises qui se consacrent à la recherche et au développement de la conscience artificielle.

5e axe : Davantage s’impliquer dans les secteurs prioritaires, notamment la cybersécurité

Le Parlement européen :
  • considère que :
    • la cybersécurité a un rôle essentiel à jouer pour garantir que les données ne soient pas corrompues par malveillance ou utilisées abusivement de manière à ce que l’IA nuise aux citoyens ou aux entreprises;
    • les progrès dans le domaine de l’IA font que l’on s’appuie de plus en plus sur ces systèmes pour des décisions ou des actions, ce qui rend des normes élevées en matière de cyber-résilience indispensables au sein de l’Union afin de prévenir les atteintes à la cybersécurité et les failles;
  • estime que :
    • l’IA peut à la fois constituer une menace pour la cybersécurité et l’outil principal de lutte contre les attaques informatiques.
      A ce titre, l’Agence de l’Union européenne chargée de la sécurité des réseaux et de l’information (ENISA) doit préparer un plan d’action en matière de cybersécurité dans le domaine de l’IA afin d’évaluer les menaces et les faiblesses spécifiques à l’IA et d’y remédier;
    • si l’IA permettra à l’avenir de détecter plus largement les menaces, une interprétation humaine de ces menaces est impérative pour déterminer si ce sont de véritables menaces;
  • invite la Commission à étudier l’utilisation d’applications de cybersécurité fondées sur des chaînes de blocs qui améliorent la résilience, la confiance et la robustesse des infrastructures de l’IA grâce à des modèles désintermédiés de chiffrement des données.


En outre, il :
  • souligne que les usages malveillants ou négligents de l’IA pourraient mettre en péril la sécurité numérique, physique et publique, car l’intelligence artificielle pourrait être utilisée pour :
    • mener des attaques à grande échelle, finement ciblées et très efficaces ;
    • mener des campagnes de désinformation et plus généralement pour réduire les possibilités d’exercice, par les citoyens, de leur droit à l’autodétermination;
  • invite la Commission à proposer un cadre qui réprime les pratiques de manipulation de la perception lorsque du contenu personnalisé ou des fils d’actualité sont à l’origine de sentiments négatifs et d’une déformation de la perception de la réalité susceptibles d’avoir des répercussions néfastes (vis-à-vis, par exemple, des résultats électoraux).

6e axe : instaurer un cadre juridique et éthique robuste

Pour ce qui est des données personnelles et respect de la vie privée, le Parlement européen :
  • répète que ce droit comme le droit à la protection des données à caractère personnel sont inscrits dans la charte des droits fondamentaux et à l’article 16 du traité sur le fonctionnement de l’Union européenne.
    Ils s’appliquent à ce titre à tous les domaines de la robotique et de l’intelligence artificielle;
  • invite la Commission à veiller à ce que le droit de l’Union relatif à l’intelligence artificielle qui prenne en compte l’évolution technologique rapide dans ce domaine soit aligné sur les règles en matière de protection de la vie privée et des données;
  • appelle à une révision des règles applicables à l’utilisation des caméras et des capteurs dans la robotique et l’intelligence artificielle.
    De manière plus générale, il souligne que le droit au respect de la vie privée doit toujours être respecté et que les personnes ne doivent pas être identifiables personnellemen.
Par ailleurs, il :
  • souligne que les développeurs d’IA devraient toujours avoir des contenus clairs, éclairés et dénués d’ambiguïté. En outre, les concepteurs d’IA ont la responsabilité de mettre au point des procédures pour garantir le consentement valable, la confidentialité, l’anonymat, le traitement équitable et le respect de la légalité;
  • exprime sa vive préoccupation quant à l’emploi d’applications d’IA, y compris la reconnaissance faciale et vocale, dans des programmes de «surveillance des émotions», c’est-à-dire le suivi des conditions mentales des citoyens en vue de préserver la stabilité sociale, parfois associés à des systèmes de «crédit social», tels que ceux déjà mis en œuvre en Chine;
  • concernant les pratiques de classement des citoyens, il souligne que les citoyens ne devraient pas faire l’objet d’une discrimination sur la base de leur classement et qu’ils devraient avoir le droit à une «seconde chance».

Pour ce qui est de la responsabilité, le Parlement européen :
  • constate que les ingénieurs en IA ou les entreprises qui les emploient devraient demeurer responsables des répercussions sociales, environnementales et sur la santé humaine que les systèmes d’IA ou la robotique pourraient avoir sur les générations actuelles et futures;
  • salue l’initiative de la Commission consistant à créer un groupe d’experts sur la responsabilité et les nouvelles technologies.
    Il déplore toutefois qu’aucune proposition législative n’ait été présentée au cours de la législature actuelle, ce qui retarde la mise à jour des règles en matière de responsabilité au niveau de l’Union.

Pour ce qui est des aspects éthiques, le Parlement européen :
  • demande la création d’une charte éthique des bonnes pratiques en matière d’IA et de robotique à suivre par les entreprises et les experts;
  • invite la Commission et les États membres à promouvoir une coopération étroite et transparente entre les secteurs public et privé et le monde universitaire afin de renforcer le partage de connaissances sur les implications éthiques;
  • demande à la Commission de déterminer si des lignes directrices volontaires en matière d’éthique suffisent à garantir une adoption éthique et solidaire de l’IA qui ne crée pas de divisions économiques et sociales dans les sociétés européennes et de présenter des mesures politiques et réglementaires, le cas échéant.
En outre, il :
  • souligne que des règles éthiques doivent être en place pour garantir un développement de l’IA centré sur l’homme, la responsabilité et la transparence des systèmes décisionnels algorithmiques, la clarté des règles de responsabilité et l’équité;
  • prend acte des évolutions récentes en matière de suivi des analyses comportementales.
    Il invite la Commission à mettre au point un cadre éthique délimitant leur utilisation;
  • souligne que le cadre éthique de référence devrait se fonder sur les principes de bienfaisance, de non-malfaisance, d’autonomie et de justice, et sur les principes figurant dans la charte des droits fondamentaux de l’Union européenne;
  • estime que l’Europe devrait jouer un rôle de chef de file sur la scène internationale en déployant uniquement une IA intégrant des principes éthiques.
    Il souligne que pour y parvenir, il convient de garantir la gouvernance éthique de l’IA à différents niveaux.


synthèse du texte par Pierre Berthelet alias securiteinterieure.fr

A lire aussi :

A lire également sur securiteinterieure.fr :


Votre attention est le carburant de ma passion.


  Merci pour votre fidélité !
 
Publié par à
Libellés : , ,

Aucun commentaire:

Enregistrer un commentaire

remarques et suggestions à formuler à securiteinterieure [à] securiteinterieure.fr

Remarque : Seul un membre de ce blog est autorisé à enregistrer un commentaire.

Inscription à : Publier les commentaires (Atom)