La Délégation ministérielle au Numérique en Santé du Ministère des Solidarités et de la Santé (DNS) a publié le 31 mai 2022 ses recommandations de bonnes pratiques pour intégrer l’éthique dès la phase de conception et de développement des solutions d’Intelligence Artificielle en Santé.
Ce guide s’adresse en priorité aux acteurs du secteur souhaitant implémenter des solutions d’IA basées sur des algorithmes entrainés à partir d’un nombre massif de données, notamment de santé. L’objectif poursuivi est de favoriser le recours à ces solutions, en rendant l’IA digne de confiance, centrée sur l’humain, éthique, durable et inclusive.
Ces recommandations sont le fruit d’un groupe de travail pluridisciplinaire associant des professionnels du secteur médical et des représentants des patients, des prestataires informatiques, des chercheurs en IA, des juristes et des spécialistes de l’éthique.
Elles se veulent concrètes et « autoportantes ». Elles prennent donc en compte tant les exigences légales existantes (en particulier celles résultant du RGPD), que celles à venir, en anticipation notamment du futur règlement européen sur l’intelligence artificielle (IA Act).
Le guide distingue cinq grandes étapes dans la conception des systèmes d’IA :
- le cadrage,
- la collecte des données,
- le prétraitement des données,
- la construction de l’algorithme, et
- l’évaluation de l’algorithme en amont de la mise en production de la solution numérique.
Pour chacune de ces étapes, sont exposés les principes défendus par le groupe de travail au regard de questionnements éthiques spécifiques, et des recommandations (sous forme principalement de listes de questions).
Le guide contient également une mise en perspective de ces recommandations avec celles émises par d’autres institutions, qu’il s’agisse d’institutions au champ de compétence transversal (comme la Commission Européenne, l’UNESCO, ou l’OCDE) comme sectoriel (OMS, HAS…).
Ce guide, s’il vise spécifiquement l’usage de l’IA en santé, peut constituer une référence utile dans d’autres secteurs d’activité, l’éthique by design et la limitation des bais étant l’une des principales préoccupations en matière d’intelligence artificielle.
Source : ici