Ley Local 35 — el inventario público anual de Nueva York sobre herramientas algorítmicas municipales

La Ley Local 35 de 2022 exige que cada agencia de la ciudad de Nueva York informe anualmente a la Oficina del Alcalde de cada herramienta algorítmica —definida como cualquier proceso de aprendizaje automático, inteligencia artificial o análisis predictivo utilizado para tomar o apoyar decisiones que afecten materialmente los derechos, prestaciones o la seguridad del público— que haya utilizado durante el año anterior, incluyendo el propósito de la herramienta, los datos en los que se basa y el papel de cualquier proveedor. La Oficina de Tecnología e Innovación (OTI) recopila las declaraciones de las agencias en un informe público anual, publicado en PDF, JSON, XML y CSV.

El informe de cumplimiento de 2023 contabilizó 46 herramientas algorítmicas en uso en 14 agencias municipales, un aumento de aproximadamente seis veces respecto a las solo 8 herramientas identificadas una década antes —un salto que refleja tanto un crecimiento real en la adopción de IA como una mayor conciencia sobre el cumplimiento. Alrededor del 35% de las herramientas listadas procesan información de identificación personal, como nombre, ubicación o datos de salud.

El propio OTI reconoció que los primeros informes adolecían de una terminología incoherente entre agencias y publicó definiciones comunes más claras para mejorar el cumplimiento futuro —un reconocimiento honesto de que la exhaustividad del inventario depende de cuán coherentemente interprete cada agencia el alcance de la ley. El informe cataloga las herramientas en uso; no evalúa por sí mismo si esas herramientas funcionan bien o se utilizan de forma justa.