La loi municipale 144 de New York — divulgation obligatoire d'audits de biais pour les outils d'embauche automatisés, et son déficit d'application

La loi locale 144 impose à tout employeur utilisant un « outil automatisé de décision en matière d'emploi » (AEDT) — un logiciel qui assiste de façon substantielle ou remplace le jugement humain dans les décisions d'embauche ou de promotion — sur des candidats basés à New York, de commander un audit de biais indépendant et de publier un résumé des résultats, accompagné d'une notification aux candidats. La loi a été adoptée en 2021, est entrée en vigueur le 1er janvier 2023, et son application par le DCWP a débuté le 5 juillet 2023.

L'objectif de la loi est de rendre l'utilisation des outils de recrutement automatisés plus transparente et responsable, via des audits indépendants obligatoires et une divulgation publique.

L'application est assurée par le Department of Consumer and Worker Protection (DCWP) de New York, qui examine les plaintes et le respect par les employeurs des exigences de publication de l'audit et de notification aux candidats.

Un audit du Comptroller de l'État de New York, publié le 2 décembre 2025 et couvrant la période de juillet 2023 à juin 2025, a révélé que le DCWP n'avait reçu que deux plaintes relatives aux AEDT sur l'ensemble de la période, avait examiné les sites web et audits de biais de 32 entreprises, et n'avait identifié qu'un seul cas de non-conformité — alors que l'examen propre du Comptroller sur ces 32 mêmes entreprises a révélé au moins 17 cas de non-conformité potentielle. L'audit a attribué cet écart au fait que le DCWP n'avait pas vérifié si son propre processus de réception des plaintes fonctionnait, ni appliqué les procédures formelles d'examen créées par son propre bureau. Une étude universitaire distincte portant sur 391 employeurs n'a trouvé que 18 ayant publié un résumé d'audit de biais et 13 ayant publié la notification obligatoire aux candidats.

La loi locale 144 demeure le premier régime contraignant de divulgation publique de ce type pour les outils de recrutement par IA, et sa conception — audits indépendants obligatoires plus publication publique — a influencé des propositions ultérieures ailleurs. Mais les conclusions du Comptroller et des chercheurs en font un cas d'alerte documenté : l'adoption d'une loi sur la transparence ne produit pas, à elle seule, de la transparence sans une capacité d'application correspondante.