Loi locale 35 — l'inventaire public annuel de New York sur les outils algorithmiques municipaux

La loi locale 35 de 2022 exige que chaque agence de la ville de New York déclare chaque année au bureau du maire tout outil algorithmique — défini comme tout processus d'apprentissage automatique, d'intelligence artificielle ou d'analyse prédictive utilisé pour prendre ou appuyer des décisions affectant matériellement les droits, prestations ou la sécurité du public — qu'elle a utilisé l'année précédente, y compris son objectif, les données sur lesquelles il s'appuie et le rôle éventuel d'un prestataire. Le Bureau de la technologie et de l'innovation (OTI) compile les déclarations des agences dans un rapport public annuel, publié aux formats PDF, JSON, XML et CSV.

Le rapport de conformité de 2023 a recensé 46 outils algorithmiques en usage dans 14 agences municipales, soit environ six fois plus que les 8 outils identifiés dix ans auparavant — une hausse qui reflète à la fois une croissance réelle de l'adoption de l'IA et une meilleure connaissance des obligations de conformité. Environ 35 % des outils recensés traitent des données à caractère personnel identifiantes, telles que le nom, la localisation ou des données de santé.

L'OTI a lui-même reconnu que les premiers rapports souffraient d'une terminologie incohérente entre agences et a publié des définitions communes plus claires pour améliorer la conformité future — un aveu honnête que l'exhaustivité de l'inventaire dépend de la cohérence avec laquelle chaque agence interprète le champ d'application de la loi. Le rapport recense les outils utilisés ; il n'évalue pas en soi si ces outils fonctionnent bien ou sont utilisés équitablement.