Communiqué de presse 21 avril 2021 « Une Europe adaptée à l’ère du numérique : La Commission propose de nouvelles règles et actions en faveur de l’excellence et de la confiance dans l’intelligence artificielle »
Le 21 avril dernier, la Commission européenne a publié une proposition de règlement en matière d’Intelligence Artificielle (« IA ») marquant une nouvelle étape dans la construction de règles harmonisées en la matière.
Outre une définition relativement large de l’IA et une présentation des acteurs concernés sous des termes plus connus, un cadre règlementaire avec une graduation en fonction des niveaux de risque que pourrait présenter l’IA en question est proposé.
Quatre niveaux de risques sont identifiés : risque inacceptable, risque élevé, risque limité, risque minime.
Pour le « risque inacceptable », sont visés les IA présentant une menace évidente pour la sécurité, les moyens de subsistance ou encore les droits des personnes (manipulation du comportement humain privé de libre arbitre, etc.).
Ce type d’IA est tout simplement interdit.
Pour le « risque élevé », sont visés les IA utilisés dans certains secteurs/domaines essentiels tels que les transports, l’éducation, les composants de sécurité des produits, l’emploi, les services publics et privés essentiels, l’administration de la justice, etc.
Ce type d’IA devra se conformer à des obligations strictes afin de pouvoir être mis sur le marché : mise en place de systèmes adéquats d’évaluation et d’atténuation des risques ; qualité élevée des ensemble de données alimentant l’IA pour réduire l’effet discriminatoire ; enregistrement des activités pour garantir la traçabilité des résultats ; documentation détaillée ; informations claires et adéquates pour l’utilisateur ; contrôle humain approprié pour réduire les risques ; niveau élevé de robustesse, de sécurité et d’exactitude.
Pour le « risque limité », sont visés plusieurs IA (exemple : chabots), lesquels doivent se conformer à des obligations spécifiques de transparence.
Pour le « risque minime », de nombreuses IA sont concernées (exemple : jeux vidéo).
Leur utilisation est libre, dans la mesure où le texte ne prévoit pas de régime de responsabilité spécifique pour cette catégorie, considérant qu’il n’y pas de risque ou un risque minime pour les droits et la sécurité des citoyens
Des codes de conduites facultatifs sont proposés pour ces deux dernières catégories de risque.
Des IA pourront, selon le cas, appartenir à deux catégories différentes.
Tel est le cas des systèmes d’identification biométrique à distance fondés sur l’IA : ils sont considérés par principe comme à « risque élevé », et par exception comme à « risque inacceptable » lorsqu’ils sont utilisés en temps réel dans l’espace public aux fins de maintien de l’ordre (avec des exceptions permettant de recourir tout de même à ce type d’IA avec certains gardes fous spécifiques : notamment pour la recherche d’enfant disparu, la prévention d’une menace terroriste imminente, etc.).
La Commission a également proposé la création d’un comité européen de l’IA, composé de représentants des États membres et de la Commission, pour faciliter la mise en œuvre de ce règlement.
Les sanctions prévues sont des pénalités pouvant aller jusqu’à 30 millions d’euros ou 6 % du chiffre d’affaires annuel mondial si ce montant est plus important.
Si ce règlement est adopté, il sera directement applicable dans toute l’UE dans les 2 ans suivants son entrée en vigueur.
A suivre …
