L’Agence du Numérique en Santé (ANS) vient de publier un référentiel éthique pour les services numériques de santé intégrant l’IA. Ce référentiel s’adresse aux éditeurs-fournisseurs d’un SI embarquant un module d’IA, mais aussi aux professionnels de santé et aux patients utilisateurs.
Ce référentiel s’inscrit dans le « Cadre de l’Ethique en Santé » (« CENS »), qui un corpus documentaire lancé en 2023 par la DNS et l’ANS, avec pour objectif de promouvoir et d’encadrer l’éthique des solutions et services numériques en santé. Nos avocats en droit des données personnelles vous éclairent.
Ce référentiel repose sur les 5 principes suivants :
– La bienfaisance où la garantie de transparence donnée aux utilisateurs quant à l’utilisation d’une solution IA ;
– La non-malfaisance ou la garantie à un traitement approprié et pertinent des données ;
– L’autonomie ou la garantie donnée aux utilisateurs quant au recours à une solution IA et à leur pouvoir décision sur sa désactivation ;
– La justice et l’équité ou la garantie donnée pour une performance identique de l’IA pour tous les publics (en évitant les biais algorithmiques) ;
– Le développement durable ou l’engagement des éditeurs dans une démarche (i) d’évaluation de l’impact environnemental de leurs solutions et (ii) d’amélioration continue.
32 critères, élaborés à partir de ces principes, composent ce référentiel.
Parmi ces critères, on peut noter :
– Les professionnels de santé utilisateurs d’un SI de santé doivent bénéficier d’une formation à l’utilisation de l’IA en amont de son introduction ;
– Les utilisateurs – professionnels de santé et patients – d’une solution d’IA sont informés qu’ils interagissent avec une IA et le fournisseur met en œuvre des mécanismes permettant de s’assurer de leur bonne compréhension ;
– Lorsqu’un professionnel de santé construit sa décision (diagnostique/thérapeutique) en suivant les propositions d’une IA, il doit informer les patients de l’usage de l’IA et du fait qu’il a suivi les propositions faites par l’IA ;
– Lorsqu’un professionnel de santé construit sa décision (diagnostique/thérapeutique) en utilisant une IA, mais sans suivre les propositions d’une IA, il doit informer les patients de l’usage de l’IA et du fait qu’il n’a pas suivi les propositions faites par l’IA ;
– Tout module d’IA doit proposer une interface intuitive permettant à l’utilisateur -professionnel de santé ou patient – de comprendre l’origine de la proposition de l’IA ;
– Les interfaces d’un SI de santé intégrant un module d’IA doivent mettre en évidence les résultats qui ont été produits par l’IA ;
– Le fournisseur d’un module d’IA utilise des données anonymisées comme données d’apprentissage. Si l’anonymisation n’a pas été possible, et qu’il dispose de données pseudonymisées, il doit s’assurer que les patients ont consenti à la réutilisation secondaire de leurs données de santé à des fins d’apprentissage pour des solutions d’IA ;
– Le fournisseur d’un module d’IA met en œuvre des mécanismes lui permettant de minimiser le recueil des données utilisées pour l’entraînement de l’algorithme, la protection et l’exploitation du module d’IA, aux seules données nécessaires et suffisantes pour tenir compte de la singularité des patients qui constituent la cible d’usage du module d’IA.
Ce corpus documentaire a vocation à être opposable. En effet, l’article L.1470-5 du Code de la santé publique consacre l’opposabilité des référentiels éthiques du CENS au même titre que les référentiels de sécurité (PGSSI-S) et d’interopérabilité (CI-SIS). A suivre…
Source : ici
