Loi municipale 144 de New York — Audit obligatoire des biais de l'IA de recrutement

La Local Law 144 de la ville de New York, promulguée en décembre 2021 et appliquée depuis juillet 2023, a été la première loi au monde à imposer des audits indépendants de biais pour les outils de recrutement basés sur l'IA (Automated Employment Decision Tools, ou AEDT), par sexe et par origine ethnique.

Accroître la transparence et la responsabilisation autour des biais algorithmiques dans le recrutement, en obligeant les employeurs à tester leurs outils de recrutement par IA pour détecter des impacts disparates selon le sexe et l'origine ethnique, à publier les résultats et à informer les candidats de leur droit à un processus alternatif.

Les employeurs utilisant un AEDT doivent commanditer un audit de biais indépendant annuel calculant les taux de sélection et de notation par sexe, origine ethnique et leurs intersections, publier un résumé des résultats et notifier les candidats lorsqu'un AEDT est utilisé. Le Département de la protection des consommateurs et des travailleurs de New York (DCWP) est chargé de l'application de la loi, notamment via une ligne de plaintes et des amendes civiles de 500 à 1 500 dollars par infraction.

Les preuves indépendantes de conformité sont faibles. Une étude évaluée par des pairs en 2024, portant sur 391 employeurs new-yorkais, a constaté que seulement environ 4,6 % avaient publié un rapport d'audit de biais et environ 3,3 % avaient publié l'avis de transparence requis. Un audit du contrôleur de l'État de New York, publié en décembre 2025, a révélé que 75 % des appels test vers la ligne de plaintes de la ville avaient été mal orientés, que l'examen par le DCWP lui-même des audits publiés n'avait pas détecté la plupart des problèmes de conformité relevés ensuite par le contrôleur, et que seulement deux plaintes formelles avaient été reçues au cours des deux premières années d'application de la loi.

La Local Law 144 demeure un modèle pionnier influent pour aborder les biais algorithmiques du recrutement comme un enjeu d'égalité de genre et d'origine ethnique, mais les preuves disponibles indiquent qu'une régulation reposant uniquement sur la transparence et auto-délimitée par les employeurs n'a pas encore produit de conformité vérifiable ni de réduction mesurable des biais de recrutement.