HART — a Ferramenta de Avaliação de Risco por Aprendizagem Automática da Polícia de Durham
Reino Unido
A Polícia de Durham (Reino Unido) usou, entre 2016 e 2021, uma ferramenta de aprendizagem automática desenvolvida com Cambridge para …
Estados Unidos da América · Madison · Ver o perfil de Estados Unidos da América
Top 83% 40/100 · Pergunte a Evidence Copilot sobre esta prática
O supremo tribunal do Wisconsin permitiu que os juízes considerem a pontuação proprietária COMPAS na sentença apenas com avisos escritos; um estudo de 2018 concluiu que não é mais precisa (65,2%) do que voluntários leigos (67%).
O COMPAS é uma ferramenta comercial de avaliação de risco (Northpointe, hoje Equivant) que pontua o risco de reincidência a partir de um questionário de 137 itens. O Departamento de Correções do Wisconsin usava-o em relatórios de pré-sentença.
Em State v. Loomis (881 N.W.2d 749, decidido a 13 de julho de 2016), o Supremo Tribunal do Wisconsin decidiu que considerar uma pontuação COMPAS na sentença não viola o devido processo se for usada com consciência dos seus limites. Exigiu que todo o relatório de pré-sentença com uma pontuação COMPAS inclua avisos escritos: o método proprietário não é divulgado, foi calibrado com dados nacionais e não do Wisconsin, há estudos que sugerem que pode classificar infratores de minorias como de maior risco, requer monitorização e recalibração contínuas, e foi concebido para o sistema prisional e não para a sentença. As pontuações não podem determinar o encarceramento nem a severidade da pena.
A evidência independente sobre o desempenho é pouco favorável. Dressel e Farid (Science Advances, 17 de janeiro de 2018), com 1000 arguidos do condado de Broward, na Florida, encontraram 65,2% de precisão para o COMPAS contra 67% para voluntários com sete variáveis, e um modelo de duas variáveis (idade e condenações anteriores) teve desempenho semelhante.
Lição: um regime judicial de divulgação e limites é uma mitigação de governação, não uma validação. O caso é uma referência de cautela para organismos públicos que adquirem ferramentas de pontuação opacas.
Os detalhes de implementação (custo, prazo, equipa, condições de sucesso) ainda não estão disponíveis para esta prática.
Implementa esta prática? Reivindique-a — implementadores verificados obtêm um contacto público na página e podem propor correções.
De onde foi obtida a informação desta prática, e quando.
Reino Unido
A Polícia de Durham (Reino Unido) usou, entre 2016 e 2021, uma ferramenta de aprendizagem automática desenvolvida com Cambridge para …
Estados Unidos da América
Desde 2010 o CDCR usa o algoritmo atuarial CSRA para pontuar o risco de reincidência de condicionais, mas em 2025 …
Argentina
Em 2018, Salta (Argentina) e a Microsoft criaram um algoritmo que dizia identificar meninas "predestinadas" à gravidez adolescente usando etnia …
Gronelândia
O ASIP do DMI usa uma rede neuronal convolucional combinando radar Sentinel-1 e dados AMSR2 para gerar cartas de gelo …
Abrir o copiloto completo Baseado em práticas citadas — verifique sempre as fontes.