evidoria

← Voltar à navegação

Boa prática Importada

A Avaliação de Impacto Algorítmico do Canadá — uma Pontuação de Risco Obrigatória e Pública para Cada Decisão Governamental Automatizada

Canadá · Ottawa · Ver o perfil de Canadá · Ver o perfil de Ottawa

Evidência: Observacional / pré-pós Top 14% 80/100 · Pergunte a Evidence Copilot sobre esta prática

Desde abril de 2019, a diretriz canadiana sobre decisão automatizada exige que todo sistema federal automatizado complete uma Avaliação de Impacto Algorítmico pública, cuja pontuação define requisitos obrigatórios de transparência e supervisão antes da implementação.

65
Perguntas de risco na Avaliação de Impacto Algorítmico
41
Perguntas de mitigação na Avaliação de Impacto Algorítmico
4
Níveis de impacto produzidos pela avaliação
A Avaliação de Impacto Algorítmico do Canadá — uma Pontuação de Risco Obrigatória e Pública para Cada Decisão Governamental Automatizada

Detalhes

Maturidade
Consolidada
Promotor
Treasury Board of Canada Secretariat
Período
2019-present
Palavras-chave
digital government, algorithmic accountability, public administration

Contexto

O Secretariado do Conselho do Tesouro do Canadá introduziu a Diretiva sobre Tomada de Decisão Automatizada em 1 de abril de 2019, exigindo que as instituições federais avaliassem qualquer sistema automatizado usado para tomar ou apoiar uma decisão administrativa sobre uma pessoa.

Objetivos

A ferramenta de avaliação — a Avaliação de Impacto Algorítmico (AIA) — foi construída de forma aberta, com o seu código-fonte publicado, e coloca 65 perguntas de risco e 41 perguntas de mitigação relativas à conceção do sistema, ao tipo de decisão, ao seu impacto e aos dados que utiliza.

Atividades

A AIA produz um de quatro níveis de impacto; quanto mais elevado o nível, mais exigências a diretiva impõe, desde avisos em linguagem clara e revisão humana no processo até revisão por pares independente e disponibilização pública do código-fonte. As avaliações concluídas são publicadas no Portal do Governo Aberto.

Resultados

Dezenas de sistemas federais de decisão automatizada — abrangendo áreas como a triagem de processos de imigração e a administração de prestações sociais — têm agora uma AIA pública registada.

Conclusões

Revisores independentes, incluindo o Montreal AI Ethics Institute, notam que o processo continua a depender da autoavaliação pelo departamento proprietário do sistema, e que as obrigações da diretiva se aplicam prospetivamente, pelo que muitas ferramentas automatizadas construídas antes de 2019 não são obrigadas a ter uma avaliação publicada.

Implementação
Custo indicativo
Baixo (< 50 mil €)
Tempo até resultados
Longo (> 3 anos)
Equipa e competências
Treasury Board of Canada Secretariat directive owners, departmental teams completing self-assessments

Condições de sucesso

  • A binding directive covering all federal automated decision systems
  • An openly published, versioned assessment tool with source code available
  • Publication of completed assessments on the Open Government Portal
  • A tiered escalation path linking risk score to mandatory oversight requirements

Habitualmente financiado por

National / regional programmes

Vias de financiamento indicativas para práticas deste tipo — verifique sempre os avisos abertos e as regras de elegibilidade de cada programa.

Implementa esta prática? Reivindique-a — implementadores verificados obtêm um contacto público na página e podem propor correções.

Fontes de dados

De onde foi obtida a informação desta prática, e quando.

Anexos

Práticas semelhantes que podem ser úteis