Loi municipale 144 de New York — Audit obligatoire des biais de l'IA de recrutement

La loi municipale 144 de New York, promulguée en décembre 2021 et appliquée depuis juillet 2023, impose à tout employeur utilisant un outil automatisé de décision d'emploi (AEDT) — un logiciel algorithmique servant à sélectionner, noter ou classer les candidat·e·s — de commander un audit de biais indépendant annuel. Cet audit doit calculer les taux de sélection et de notation ventilés par sexe, origine ethnique et leurs intersections, publier un résumé sur le site de l'employeur, et informer les candidat·e·s de l'usage d'un AEDT avec le droit de demander un processus alternatif. Il s'agissait de la première loi au monde à imposer des audits de biais algorithmique pour le recrutement.

Les preuves indépendantes de son efficacité réelle sont médiocres. Une étude évaluée par les pairs (FAccT 2024, « Null Compliance »), dans laquelle 155 étudiant·e·s enquêteurs·rices ont suivi 391 employeurs new-yorkais, a révélé que seuls 18 (environ 4,6%) avaient publié un rapport d'audit de biais et seulement 13 (environ 3,3%) l'avis de transparence requis. Les chercheurs ont inventé le terme de « null compliance » car la loi laisse aux employeurs une large marge d'appréciation sur l'applicabilité de leur outil, rendant impossible de distinguer une absence de déclaration d'une exemption légitime.

Un audit du contrôleur de l'État de New York publié en décembre 2025 a confirmé ce constat au niveau du régulateur : 75% des appels-tests à la ligne 311 de la ville concernant des plaintes AEDT ont été mal orientés et n'ont jamais atteint le DCWP ; l'examen par le DCWP lui-même de 32 audits de biais publiés n'a trouvé qu'un seul problème de conformité, là où les auditeurs du contrôleur en ont trouvé au moins 17 ; et le DCWP n'a reçu que deux plaintes formelles concernant des AEDT durant les deux années auditées, malgré des sanctions disponibles de 500 à 1 500 dollars par infraction. Le contrôleur a conclu que l'application de la loi par le DCWP était « inefficace ».

La loi demeure importante en tant que modèle pionnier qui inscrit explicitement le biais algorithmique dans le recrutement comme un enjeu d'équité de genre et d'origine, et elle a influencé des propositions ultérieures sur l'IA de recrutement ailleurs. Mais les preuves documentées à ce jour constituent un cas d'avertissement : une régulation fondée uniquement sur la transparence et l'auto-délimitation du champ d'application par les employeurs n'a pas encore produit de conformité vérifiable ni de réduction mesurable des biais.