Lei Local 35 — o inventário público anual de Nova Iorque sobre ferramentas algorítmicas municipais

A Lei Local 35, de 2022, exige que todas as agências da cidade de Nova Iorque comuniquem anualmente ao Gabinete do Presidente da Câmara cada ferramenta algorítmica — definida como qualquer processo de aprendizagem automática, inteligência artificial ou análise preditiva utilizado para tomar ou apoiar decisões que afetem materialmente os direitos, prestações ou a segurança do público — que tenham utilizado no ano anterior, incluindo a finalidade da ferramenta, os dados em que assenta e o eventual papel de fornecedores externos. O Gabinete de Tecnologia e Inovação (OTI) compila as submissões das agências num relatório público anual, disponibilizado em PDF, JSON, XML e CSV.

O relatório de conformidade de 2023 contabilizou 46 ferramentas algorítmicas em uso em 14 agências municipais, um aumento de cerca de seis vezes face às apenas 8 ferramentas identificadas uma década antes — um salto que reflete tanto um crescimento real na adoção de IA como uma maior consciência de conformidade. Cerca de 35% das ferramentas listadas processam informação de identificação pessoal, como nome, localização ou dados de saúde.

O próprio OTI reconheceu que os primeiros relatórios sofreram de terminologia inconsistente entre agências e emitiu definições comuns mais claras para melhorar a conformidade futura — um reconhecimento honesto de que a exaustividade do inventário depende de quão consistentemente cada agência interpreta o âmbito da lei. O relatório cataloga as ferramentas em uso; não avalia, por si só, se essas ferramentas funcionam bem ou são utilizadas de forma justa.