A Revisão do CDEI sobre Enviesamento na Tomada de Decisões Algorítmicas no Reino Unido (2020)

Em 2019, o governo do Reino Unido encarregou o Centro para a Ética e Inovação em Dados (CDEI), um organismo consultivo então integrado no Departamento para o Digital, Cultura, Media e Desporto, de rever o uso de algoritmos em decisões significativas sobre indivíduos. O relatório final foi publicado a 27 de novembro de 2020, com base em estudos de caso detalhados em quatro setores: serviços financeiros, administração local, policiamento e recrutamento.
No recrutamento em particular, a revisão constatou que ferramentas automáticas de triagem e correspondência, treinadas com os dados históricos de contratação de uma empresa, podiam rejeitar sistematicamente candidatas do sexo feminino, porque os dados de treino refletiam décadas de decisões de contratação enviesadas a favor dos homens — um exemplo clássico de um algoritmo que herda os enviesamentos dos seus dados de entrada em vez de os eliminar.
Para resolver este problema, o CDEI recomendou uma obrigação de transparência para organismos do setor público que utilizem algoritmos em decisões significativas, e apelou a orientações governamentais que clarificassem como as proteções contra discriminação sexual da Lei da Igualdade de 2010 se aplicam a sistemas algorítmicos, além de melhores orientações sobre a recolha dos dados necessários para medir o enviesamento. Comentadores independentes, incluindo o Ada Lovelace Institute, criticaram partes da revisão, argumentando que as propostas de transparência precisavam de força legal, e não apenas de orientações voluntárias, para serem eficazes.
A revisão em si não tornou nenhuma das suas recomendações obrigatória, e o CDEI foi mais tarde integrado na Responsible Technology Adoption Unit em 2023; nenhuma avaliação independente pós-implementação mediu se o enviesamento de género em algoritmos de recrutamento efetivamente diminuiu como resultado, pelo que este caso deve ser lido como um diagnóstico fundamentado e um modelo de conceção de políticas, e não como uma solução comprovada.