À compter du 1er janvier 2023, les employeurs de la ville de New York ne pourront plus utiliser librement les systèmes d’intelligence artificielle dans les décisions d’embauche et de promotion. Il ne s’agit pas d’une interdiction absolue, mais davantage d’un encadrement à des fins de transparence et de lutte contre les discriminations.
Sont notamment visées les solutions de lecture, classification et présélection des curriculum-vitae, ou solutions d’analyse des vidéos d’entretien, permettant de décrypter les réactions des candidats au moyen de technologies de reconnaissance faciale (la pandémie liée au Coronavirus ayant favorisé les entretiens en ligne).
Le conseil municipal de la ville de New York a en effet adopté, le 10 novembre 2021, une loi locale 1894-A restreignant le recours aux systèmes d’intelligence artificielle lors des décisions d’embauche et de promotion. A noter cependant que le maire n’a toujours pas signé le texte concerné… ce qui pourrait avoir une incidence sur sa promulgation.
IL résulte de ce texte que l’utilisation de ces solutions d’IA pour présélectionner un candidat ou un employé en vue d’une décision d’embauche ou de promotion est interdite, sauf à ce que le recours à cet outil ait fait l’objet d’un « audit de biais » par un auditeur indépendant, moins d’un an avant son utilisation. L’audit portera a minima sur l’impact du recours à l’outil sur les individus en fonction de leur race, de leur origine ethnique et de leur sexe. La version la plus récente de ce rapport d’audit devra être publiée sur le site internet de l’employeur ou de l’agence de recrutement, accompagnée de la date de distribution de l’outil utilisé.
L’employeur sera par ailleurs tenu d’informer les candidats et salariés concernés que leur candidature sera soumise à un outil automatisé de décision d’emploi, et des qualifications et caractéristiques du poste que l’outil prendra en compte pour évaluer la personne concernée. Ces informations devront être communiquées avec un préavis de 10 jours minimum avant l’utilisation par l’employeur de l’outil. Le candidat ou l’employé aura le droit de solliciter un processus alternatif de sélection.
Une transparence particulière sera exigée de la part des employeurs qui devront publier sur leur site internet (ou communiquer aux candidats et salariés, dans les 30 jours suivants la réception de leur demande), des informations complémentaires relatives aux types de données collectées, à la source des données utilisées, et à la politique de conservation de ces données par l’employeur.
A noter que ces obligations d’information se limitent aux candidats et salariés résidents de la ville de New-York, de sorte que le champ d’application de cette règlementation semble limité.
Le non-respect de ces obligations sera assorti de sanctions pécuniaires.
Cette règlementation locale fait écho à plusieurs initiatives de ce type aux Etats-Unis, notamment en Illinois et au Maryland. Pour l’heure, aucune initiative n’a encore abouti au niveau fédéral.
