Audit du Contrôleur de l'État de New York sur la gouvernance de l'IA — aucun inventaire étatique de l'IA plus d'un an après la politique de l'État

Le 3 avril 2025, le Contrôleur de l'État de New York a publié un audit sur la manière dont l'État gouverne l'intelligence artificielle. Il a examiné la politique d'IA de janvier 2024 du Bureau des services de technologie de l'information (ITS) et l'usage de l'IA dans quatre agences : l'Office pour les personnes âgées, le Département des services correctionnels et de la supervision communautaire, le Département des véhicules à moteur (DMV) et le Département des transports.
Les auditeurs ont constaté un manque d'orientation et de supervision centrales pour vérifier la fiabilité et l'exactitude des systèmes d'IA. Plus d'un an après la publication de la politique, l'ITS ne disposait d'aucun inventaire des systèmes d'IA utilisés par les entités de l'État. La politique ne consacrait que deux phrases à la gestion des biais et laissait aux agences le soin de définir l'usage responsable.
Aucune des quatre agences ne tenait d'inventaire formel de l'IA et trois n'avaient pas de politique interne de gouvernance de l'IA. Seul le DMV disposait de politiques d'évaluation des risques, mais il avait exempté son système de reconnaissance faciale de tout contrôle.
L'audit a formulé sept recommandations : renforcer la politique par des orientations d'adoption, de la formation et une supervision, créer des structures de gouvernance dans les agences et demander au DMV de réexaminer son système de reconnaissance faciale. L'ITS a indiqué étudier les recommandations et élaborer des formations ; trois agences ont accepté de créer des structures de gouvernance, tandis que le DMV a contesté les constats tout en acceptant les recommandations. Le Contrôleur a annoncé qu'il présenterait un projet de loi imposant des audits indépendants réguliers de la gouvernance de l'IA dans les agences de l'État. Il s'agit d'un audit de lacunes de gouvernance et non d'une démonstration de meilleurs résultats ; la preuve d'impact reste donc limitée.