HART — a Ferramenta de Avaliação de Risco por Aprendizagem Automática da Polícia de Durham

O HART (Harm Assessment Risk Tool) foi um sistema de aprendizagem automática construído pela Durham Constabulary com investigadores da Universidade de Cambridge, financiado pelo Monument Trust, para classificar as pessoas detidas em Inglaterra como de risco baixo, moderado ou elevado de reincidência no prazo de dois anos, alimentando decisões de custódia e de encaminhamento, incluindo o programa Checkpoint da força policial.

A ferramenta foi treinada com 104.000 históricos de detenção das esquadras de custódia de Durham ao longo de cinco anos, utilizando 104 variáveis preditoras, incluindo dados de código postal e demográficos provenientes da Experian, e foi utilizada operacionalmente para avaliar mais de 12.000 pessoas entre 2016 e 2021.

A própria validação de Cambridge reportou uma exatidão global de cerca de 63%, com uma taxa de 98% na prevenção de falsos negativos para a categoria de alto risco; uma análise independente posterior, citada pela Fair Trials, encontrou uma exatidão de apenas 53,8% — 'não melhor do que adivinhar, ou lançar uma moeda ao ar' — e os investigadores assinalaram o risco de perfis enviesados racialmente resultantes dos dados provenientes da Experian.

A Durham Constabulary descontinuou o HART em 2021, alegadamente devido aos recursos necessários para continuar a refinar e revalidar o modelo perante requisitos éticos e legais de supervisão em evolução; o HART continua a ser uma das implementações europeias iniciais de policiamento preditivo mais exaustivamente documentadas, avaliada em publicações científicas revistas por pares, bem como por investigação da sociedade civil.