O Inventário Legal de IA de Vermont — 16 Ferramentas Divulgadas, Apenas 2 Testadas quanto a Enviesamento

A Lei 132 do Vermont (2022) criou uma Divisão de Inteligência Artificial na Agência de Serviços Digitais (ADS) do estado e exige que a ADS, nos termos do 3 V.S.A. §3303, apresente anualmente um relatório público ao parlamento estadual, inventariando os sistemas de decisão automatizada utilizados pelo governo estadual.

O relatório anual de janeiro de 2024 identificou 16 ferramentas de IA distintas em uso em agências estaduais — a própria ADS foi responsável pelo maior número, principalmente para deteção de ameaças de cibersegurança; a Agência de Transportes utiliza IA para classificar a qualidade do pavimento rodoviário; a Agência de Administração utiliza uma ferramenta chamada Gen TAX para avaliar o risco de fraude em declarações fiscais.

Das 16 ferramentas, apenas duas — Bing Copilot e Azure OpenAI — tinham sido sujeitas a testes documentados de enviesamento, e apenas duas foram sinalizadas como afetando diretamente os cidadãos. Uma comparação independente da GovTech (outubro de 2024) constatou que o inventário do vizinho Connecticut (10 ferramentas, dezembro de 2023) era ainda mais vago, listando software genérico como Zoom e WordPress como "ferramentas de IA" e reportando zero avaliações de impacto de IA concluídas.

Um inventário estatutário é um passo necessário, mas não suficiente, para a responsabilização: nomear as ferramentas existentes não estabelece, por si só, se essas ferramentas são justas, precisas ou seguras de usar.