Auditoría del Contralor del Estado de Nueva York sobre gobernanza de la IA — sin inventario estatal de IA más de un año después de la política del Estado

El 3 de abril de 2025, el Contralor del Estado de Nueva York publicó una auditoría sobre cómo gobierna el Estado la inteligencia artificial. Examinó la política de IA de enero de 2024 de la Oficina de Servicios de Tecnología de la Información (ITS) y el uso de IA en cuatro agencias: la Oficina para el Envejecimiento, el Departamento de Correcciones y Supervisión Comunitaria, el Departamento de Vehículos Motorizados (DMV) y el Departamento de Transporte.
Los auditores concluyeron que no había orientación ni supervisión centrales suficientes para verificar la fiabilidad y exactitud de los sistemas de IA. Más de un año después de emitida la política, la ITS no tenía un inventario de los sistemas de IA usados por las entidades estatales. La política dedicaba solo dos frases a la gestión de sesgos y dejaba a las agencias decidir qué es un uso responsable.
Ninguna de las cuatro agencias mantenía un inventario formal de IA y tres carecían de políticas internas de gobernanza de la IA. Solo el DMV tenía políticas de evaluación de riesgos, pero eximió de supervisión su sistema de reconocimiento facial.
La auditoría formuló siete recomendaciones: reforzar la política con orientación para la adopción, formación y supervisión, crear estructuras de gobernanza en las agencias y que el DMV revise su sistema de reconocimiento facial. La ITS dijo estar estudiándolas y preparando formación; tres agencias aceptaron crear estructuras de gobernanza, mientras que el DMV discrepó de las conclusiones pero aceptó las recomendaciones. El Contralor anunció que impulsaría un proyecto de ley que exija auditorías independientes periódicas de la gobernanza de la IA en las agencias estatales. Es una auditoría de carencias de gobernanza y no una demostración de mejores resultados, por lo que la evidencia de impacto es limitada.