evidoria

← Volver al listado

Buena práctica Importada

La Evaluación de Impacto Algorítmico de Canadá — una Puntuación de Riesgo Obligatoria y Pública para Cada Decisión Gubernamental Automatizada

Canadá · Ottawa · Ver el perfil de Canadá · Ver el perfil de Ottawa

Evidencia: Observacional / pre-post Top 14% 80/100 · Pregunte a Evidence Copilot sobre esta práctica

Desde abril de 2019, la directiva canadiense sobre decisiones automatizadas exige que todo sistema federal automatizado complete una Evaluación de Impacto Algorítmico pública, cuya puntuación fija requisitos obligatorios de transparencia y supervisión antes de la implementación.

65
Preguntas de riesgo en la Evaluación de Impacto Algorítmico
41
Preguntas de mitigación en la Evaluación de Impacto Algorítmico
4
Niveles de impacto que produce la evaluación
La Evaluación de Impacto Algorítmico de Canadá — una Puntuación de Riesgo Obligatoria y Pública para Cada Decisión Gubernamental Automatizada

Detalles

Madurez
Consolidada
Promotor
Treasury Board of Canada Secretariat
Período
2019-present
Palabras clave
digital government, algorithmic accountability, public administration

Contexto

La Secretaría del Consejo del Tesoro de Canadá introdujo la Directiva sobre la Toma de Decisiones Automatizada el 1 de abril de 2019, exigiendo a las instituciones federales que evaluaran cualquier sistema automatizado utilizado para tomar o apoyar una decisión administrativa sobre una persona.

Objetivos

La herramienta de evaluación —la Evaluación de Impacto Algorítmico (AIA)— se construyó de forma abierta, con su código fuente publicado, y plantea 65 preguntas de riesgo y 41 preguntas de mitigación relativas al diseño del sistema, el tipo de decisión, su impacto y los datos que utiliza.

Actividades

La AIA produce uno de cuatro niveles de impacto; cuanto más alto el nivel, más exige la directiva, desde avisos en lenguaje sencillo y revisión humana en el proceso hasta revisión por pares independiente y publicación del código fuente. Las evaluaciones completadas se publican en el Portal de Gobierno Abierto.

Resultados

Decenas de sistemas federales de decisión automatizada —que abarcan áreas como el triaje de casos de inmigración y la administración de prestaciones— cuentan ahora con una AIA pública registrada.

Conclusiones

Revisores independientes, incluido el Montreal AI Ethics Institute, señalan que el proceso sigue dependiendo de la autoevaluación por parte del departamento propietario del sistema, y que las obligaciones de la directiva se aplican de forma prospectiva, por lo que muchas herramientas automatizadas creadas antes de 2019 no están obligadas a tener una evaluación publicada.

Implementación
Coste indicativo
Bajo (< 50 000 €)
Tiempo hasta resultados
Largo (> 3 años)
Personal y competencias
Treasury Board of Canada Secretariat directive owners, departmental teams completing self-assessments

Condiciones para el éxito

  • A binding directive covering all federal automated decision systems
  • An openly published, versioned assessment tool with source code available
  • Publication of completed assessments on the Open Government Portal
  • A tiered escalation path linking risk score to mandatory oversight requirements

Habitualmente financiado por

National / regional programmes

Vías de financiación indicativas para prácticas de este tipo: compruebe siempre las convocatorias vigentes y las reglas de elegibilidad de cada programa.

¿Usted implementa esta práctica? Reivindíquela — los implementadores verificados obtienen un contacto público en la página y pueden proponer correcciones.

Fuentes de datos

De dónde se obtuvo la información de esta práctica, y cuándo.

Adjuntos

Prácticas similares que pueden serle útiles