El inventario legal de IA de Vermont — 16 herramientas reveladas, solo 2 evaluadas contra sesgos

La Ley 132 de Vermont (2022) creó una División de Inteligencia Artificial dentro de la Agencia de Servicios Digitales (ADS) del estado y obliga a la ADS, conforme al 3 V.S.A. Sección 3303, a presentar anualmente a la legislatura un informe público que inventaría los sistemas de decisión automatizada que usa el gobierno estatal.
El informe anual de enero de 2024 identificó 16 herramientas de IA distintas en uso en las agencias estatales. La propia ADS concentró el mayor número de herramientas, sobre todo para la detección de amenazas de ciberseguridad. La Agencia de Transporte usa IA para clasificar la calidad del pavimento vial y ayudar a priorizar decisiones de reemplazo de señales y repavimentación. La Agencia de Administración usa una herramienta llamada Gen TAX para detectar riesgo de fraude en las declaraciones de impuestos. Las agencias citaron con más frecuencia ganancias de eficiencia (6 herramientas), reducción de costos (2) y mejora de la postura de seguridad (2) como beneficios.
El mismo inventario muestra los límites de la sola divulgación: de las 16 herramientas, solo dos — Bing Copilot y Azure OpenAI — habían sido sometidas a alguna prueba documentada de sesgo. Solo dos herramientas fueron señaladas como de impacto directo en la ciudadanía: herramientas de ciberseguridad no especificadas en las que la IA toma decisiones finales sobre el bloqueo de intrusiones, y un sistema de autenticación multifactor asistido por IA. Una comparación independiente de Government Technology (GovTech), publicada en octubre de 2024, encontró que el inventario del vecino Connecticut (10 herramientas, a diciembre de 2023) era aún más vago — incluía software de uso general como Zoom y WordPress como "herramientas de IA" y no reportaba ninguna evaluación de impacto de IA completada, lo que subraya que la lista de Vermont, aunque incompleta en pruebas de sesgo, fijó un estándar comparativamente más alto de lo que cuenta como divulgación.
La lección honesta es que un inventario legal es un paso necesario pero no suficiente hacia la rendición de cuentas: nombrar las herramientas existentes no establece por sí solo si esas herramientas son justas, precisas o seguras de usar.