Knockri y Plum — el Piloto Canadiense de Contratación para la Diversidad Asistido por IA que Omitió las Evaluaciones de Privacidad Obligatorias

En septiembre de 2020, el Ministerio de Defensa Nacional de Canadá (DND) realizó una campaña de reclutamiento externo para puestos EX-01 (ejecutivos de nivel inicial), con el objetivo explícito de aumentar la representación de minorías visibles en su cuadro directivo. De 471 solicitantes, 422 completaron una evaluación en vídeo basada en IA, desarrollada por el proveedor Knockri, que puntuaba seis competencias de liderazgo a partir únicamente de las respuestas transcritas en texto, sin analizar señales visuales o vocales, procesando a todo el grupo en aproximadamente una semana. Los 74 candidatos que avanzaron realizaron después una evaluación de 25 minutos en Plum, una segunda plataforma de IA que mide personalidad, capacidad cognitiva y habilidad social, que generó puntuaciones de compatibilidad e identificó a 36 candidatos totalmente calificados y 38 parcialmente calificados para un grupo diverso de talento ejecutivo. Los candidatos podían aceptar la selección por IA o solicitar un proceso alternativo dirigido por personas. Según el propio informe del DND, publicado el 5 de mayo de 2021, se habían realizado siete nombramientos al 1 de mayo de 2021, con otros cinco candidatos recomendados al Viceministro.
El caso se convirtió en un ejemplo de advertencia en materia de gobernanza de la IA. El 7 de febrero de 2021, la Oficina de la Comisionada de Privacidad de Canadá confirmó a The Globe and Mail que el DND había desplegado Knockri y Plum sin completar ninguna de las dos evaluaciones obligatorias según las normas del Secretariado de la Junta del Tesoro: una Evaluación de Impacto en la Privacidad y una Evaluación de Impacto Algorítmico, que mide sesgos y otros riesgos antes de usar una herramienta automatizada en la toma de decisiones. Un portavoz del DND argumentó que no se necesitaba una evaluación algorítmica porque las herramientas de IA no tomaban "decisiones finales", ya que paneles humanos seguían revisando las listas finales — una defensa que la oficina de la Comisionada rechazó, señalando que las evaluaciones "deberían haberse completado... antes del uso" de las herramientas. La campaña costó aproximadamente 179.000 dólares canadienses.
El caso ilustra un patrón recurrente en la adopción de IA en el sector público: un objetivo legítimo de equidad, implementado mediante herramientas comerciales de selección, ejecutado sin los pasos de cumplimiento previos que exige la propia directiva federal de Canadá. Es una referencia útil precisamente porque tanto el resultado (una lista diversa de candidatos calificados) como el fallo de proceso (evaluaciones obligatorias omitidas) están bien documentados por fuentes independientes, lo que permite a otros organismos públicos sopesar la ganancia de eficiencia frente al riesgo de gobernanza antes de replicar la práctica.