CONTACT

Projet rapport du Parlement européen sur l’utilisation civile et militaire de l’IA

19 janvier 2021 | Derriennic Associés|

L’Union Européenne est en train de préparer une première série de règles autour des opportunités et risques liés à l’Intelligence Artificielle (IA), toujours dans la même logique de renforcer la confiance autour de l’IA, en contrôler son impact potentiel à tous les niveaux, tout en créant un contexte favorable à la recherche, au développement et aux entreprises.

La Parlement européen a d’ores et déjà adopté trois rapports le 20 octobre dernier, sur l’éthique, la propriété intellectuelle et la responsabilité en matière d’IA.

Sont actuellement en projet une nouvelle série de rapports sur d’autres thématiques liées à l’IA :

  • Les utilisations civiles et militaires de l’IA
  • L’IA dans les domaines de l’éducation, de la culture et de l’audiovisuel
  • L’utilisation de l’IA en droit pénal

S’agissant des utilisations civiles et militaires de l’IA, qui est l’objet du présent article, il est relevé que la majeure partie du projet de rapport est consacrée aux utilisations militaires de l’IA et abordée sous trois angles.

Premièrement, sont rappelés les principes qui devraient commander toute utilisation militaire de l’IA. Le Parlement énonce dans son projet de rapport que toutes les utilisations militaires de l’IA :

  • doivent faire l’objet d’un contrôle humain (pour pouvoir corriger ou interrompre à tout moment, ainsi désactiver en cas de comportement imprévu) ;
  • que leur processus décisionnel fasse l’objet d’une traçabilité afin que l’identité du décideur humain puisse être établie et sa responsabilité, le cas échéant, engagée ;
  • doivent toujours respecter le droit international humanitaire, en particulier les conventions de Genève du 12 août 1949, notamment en ce qui concerne la protection des blessés, des malades et des naufragés, le traitement des prisonniers de guerre et la protection des civils ;
  • doivent toujours respecter les principes, rappelés par la convention de Rome du 17 juillet 1998, de prohibition des crimes de génocide, des crimes contre l’humanité et des crimes de guerre ;
  • respectent toujours le principe de proportionnalité, qui subordonne la légalité d’une action militaire au respect d’un équilibre entre l’objectif et les moyens utilisés, et que l’appréciation de cette proportionnalité émane d’une personne humaine ou soit expressément approuvée par elle.

Ensuite, en second temps, des principes sont spécifiquement énoncés pour les Systèmes d’Armes Létales Autonomes (SALA), compte tenu de leur dangerosité particulière. Il est en effet rappelé que les SALA sont des armes capables d’identifier et de décider d’attaquer une cible sans intervention humaine. Aussi, le Parlement estime que leur dangerosité particulière nécessite de soumettre leur utilisation à des interdictions et à des garanties juridiques spécifiques.

A cet égard, le Parlement énonce que ces SALA :

  • ne sont licites qu’à condition d’être soumis à un contrôle suffisamment strict pour permettre à une personne humaine d’en reprendre le commandement à tout moment, et que les versions totalement soustraites à un contrôle humain doivent être interdites ;
  • ne doivent être utilisés que dans des cas précis et selon des procédures d’autorisation fixées à l’avance de façon détaillée dans des textes dont l’État concerné, qu’il fasse ou non partie de l’Organisation du traité de l’Atlantique Nord, assure l’accessibilité au public, ou du moins, à son parlement national ;
  • doivent respecter les dispositions de la convention du 10 octobre 1980 sur certaines armes classiques, notamment l’interdiction de produire des «effets traumatiques excessifs».

Le Parlement suggère, afin d’éviter leur « dissémination incontrôlée », que les SALA soient inscrits dans la liste des armes soumises aux dispositions du traité sur le commerce des armes du 2 avril 2013.

Il réclame, enfin, une interdiction de l’anthropomorphisation des SALA pour qu’il n’y ait aucune confusion possible entre humain et un robot.

En troisième lieu, le Parlement aborde le rôle du Fonds européen de la défense, qui finance des projets de recherche militaires mettant en œuvre l’IA. Il est souligné que l’existence de ce fond est une preuve que l’Union Européenne est directement concernée par les utilisations militaires de l’IA.