Le 30 août 2022, le Conseil d’état a publié une étude plaidant pour la conduite d’une stratégie de l’IA au service de la performance publique et de l’intérêt général, y compris en santé.
Cette étude de 360 pages, intitulée « Intelligence artificielle et action publique : construire la confiance, servir la performance », a été réalisée à la demande du Premier ministre.
Selon le Conseil d’Etat, cette étude doit se concevoir comme une « contribution à une stratégie de l’IA publique qui reste largement à structurer et à formaliser par les pouvoirs publics ».
De façon générale, le Conseil d’Etat a dressé le constat suivant :
- Aucun domaine de l’action publique n’est pas « imperméable » au système d’IA (« SIA ») : tel est notamment le cas de la santé avec l’aide à la prescription médicale, les alertes sanitaires, la robotique médicale ;
- les SIA sont déployés de façon très progressive, mais avec des inégalités selon les administrations et, généralement, dans le cadre d’une utilisation seulement expérimentale ;
- les objectifs poursuivis et les bénéfices attendus des SIA sont nombreux pour « améliorer la qualité du service public ».
Le Conseil d’Etat « plaide » ainsi pour la conduite « d’une stratégie de conception et de déploiement » « volontariste » de l’IA au service de la performance publique et de l’intérêt général. Les bénéfices attendus sont toutefois conditionnés à la création de conditions de confiance, au déploiement avec lucidité et vigilance et à l’allocation de ressources et d’une gouvernance adaptées.
Le recours à des experts en données est, en particulier, à examiner. Le Conseil d’Etat prône également un renforcement d’Etalab (coordonnant la conception et la mise en œuvre de la stratégie de l’Etat dans le domaine de la donnée) et du coordonnateur national pour l’IA pour « faire de l’État un possible prestataire de services et pourvoyeur de ressources, y compris humaines, pour les collectivités territoriales ». Le Conseil d’Etat préconise également que la CNIL devienne l’autorité contrôle nationale responsable de la régulation des SIA prévue par le futur règlement européen sur l’IA.
Dans son communiqué, le Conseil d’Etat souligne ainsi la nécessité d’« anticiper la mise en place d’un cadre réglementaire, notamment au niveau européen, à travers la mise en œuvre, dès aujourd’hui, de lignes directrices pragmatiques (…) ».
Concernant la santé, le Conseil d’Etat indique que, comme certains autres secteurs, elle « mériterait à [elle seule] la rédaction [d’une étude] ». Pour autant, la santé est prise pour exemple dans le cadre de nombreuses réflexions et propositions de la Haute juridiction administrative.
Une « fiche » est également consacrée à la santé en fin d’étude, le Conseil d’Etat précisant qu’il s’agit du champ d’application de l’IA « qui suscite le plus d’espoirs et de fantasmes » ! A cet égard, le Conseil d’Etat met en avant le fait que la santé touche directement à la vie, avec des questions éthiques sous-jacentes, et constitue un secteur économique en forte croissance. Le Conseil d’Etat indique également que l’IA « constitue un changement ambivalent », notamment en termes de remplacement pour les professions médicales et paramédicales suscitant des réactions diverses sur le sujet. Le Conseil d’Etat souligne encore la nécessité de réfléchir à l’évolution de la relation patient/professionnel de santé, sans omettre en particulier l’information du patient sur le recours à l’IA.
Le Conseil d’Etat évoque, en outre, les problématiques de protection des données de santé, sensibles, et le manque de qualité de ces données pour des SIA.
Par ailleurs, le Conseil d’Etat définit « cinq grands types d’usage d’IA en santé » : l’aide au diagnostic, l’aide à la prescription et à la décision médicale post diagnostic, la robotique médicale, l’aide à la gestion du parcours patient et l’appui aux fonctions administratives et médico-économiques.
Le Conseil d’Etat conclut que l’IA en santé est « un facteur d’attractivité pour les professionnels, dans un cadre de pénurie croissante ». Selon lui, il convient de « construire l’IA en impliquant la multitude des acteurs en santé ». En effet, l’IA ne remplacera pas l’humain « du point de vue technique, organisationnel ou éthique » bien qu’elle permette un traitement en masse de l’information « et de disposer d’un « filet de sécurité » ».
Dans quelle mesure ces réflexions/propositions seront prises en compte dans notre cadre juridique ?
A suivre…
Source : ici
