L'inventaire légal d'IA du Vermont — 16 outils divulgués, seulement 2 testés pour les biais

La loi 132 du Vermont (2022) a créé une Division de l'intelligence artificielle au sein de l'Agence des services numériques (ADS) de l'État et oblige l'ADS, en vertu du 3 V.S.A. Section 3303, à soumettre chaque année à l'assemblée législative un rapport public inventoriant les systèmes de décision automatisée utilisés par le gouvernement de l'État.
Le rapport annuel de janvier 2024 a recensé 16 outils d'IA distincts utilisés par les agences de l'État. L'ADS elle-même utilise le plus grand nombre d'outils, principalement pour la détection des menaces de cybersécurité. L'Agence des transports utilise l'IA pour classer la qualité du revêtement routier et aider à prioriser le remplacement des panneaux et le resurfaçage. L'Agence de l'administration utilise un outil appelé Gen TAX pour détecter les risques de fraude dans les déclarations fiscales. Les agences ont le plus souvent cité des gains d'efficacité (6 outils), une réduction des coûts (2) et une meilleure posture de sécurité (2) comme bénéfices.
Le même inventaire montre les limites de la seule divulgation : sur les 16 outils, seuls deux — Bing Copilot et Azure OpenAI — avaient fait l'objet d'un test de biais documenté. Seuls deux outils ont été signalés comme affectant directement les citoyens : des outils de cybersécurité non précisés où l'IA prend les décisions finales de blocage des intrusions, et un système d'authentification multifacteur assisté par IA. Une comparaison indépendante de Government Technology (GovTech), publiée en octobre 2024, a révélé que l'inventaire du Connecticut voisin (10 outils, en décembre 2023) était encore plus vague — il incluait des logiciels génériques comme Zoom et WordPress comme « outils d'IA » et ne signalait aucune évaluation d'impact de l'IA achevée, soulignant que la liste du Vermont, bien qu'incomplète sur les tests de biais, a fixé une barre comparativement plus haute pour ce qui compte comme divulgation.
La leçon honnête est qu'un inventaire légal est une étape nécessaire mais non suffisante vers la redevabilité : nommer les outils existants n'établit pas en soi si ces outils sont justes, précis ou sûrs à utiliser.