A Avaliação de Impacto Algorítmico do Canadá — uma Pontuação de Risco Obrigatória e Pública para Cada Decisão Governamental Automatizada

O Secretariado do Conselho do Tesouro do Canadá introduziu a Diretiva sobre Tomada de Decisão Automatizada em 1 de abril de 2019, exigindo que as instituições federais avaliassem qualquer sistema automatizado usado para tomar ou apoiar uma decisão administrativa sobre uma pessoa.

A ferramenta de avaliação — a Avaliação de Impacto Algorítmico (AIA) — foi construída de forma aberta, com o seu código-fonte publicado, e coloca 65 perguntas de risco e 41 perguntas de mitigação relativas à conceção do sistema, ao tipo de decisão, ao seu impacto e aos dados que utiliza.

A AIA produz um de quatro níveis de impacto; quanto mais elevado o nível, mais exigências a diretiva impõe, desde avisos em linguagem clara e revisão humana no processo até revisão por pares independente e disponibilização pública do código-fonte. As avaliações concluídas são publicadas no Portal do Governo Aberto.

Dezenas de sistemas federais de decisão automatizada — abrangendo áreas como a triagem de processos de imigração e a administração de prestações sociais — têm agora uma AIA pública registada.

Revisores independentes, incluindo o Montreal AI Ethics Institute, notam que o processo continua a depender da autoavaliação pelo departamento proprietário do sistema, e que as obrigações da diretiva se aplicam prospetivamente, pelo que muitas ferramentas automatizadas construídas antes de 2019 não são obrigadas a ter uma avaliação publicada.