evidoria

← Retour à la liste

Bonne pratique Importée

HART — l'outil d'évaluation du risque par apprentissage automatique de la police de Durham

Royaume-Uni · Durham · Voir le profil de Royaume-Uni

Preuves: Observationnel / avant-après Top 88% 33/100 · Demandez à Evidence Copilot à propos de cette pratique

La police de Durham (Royaume-Uni) a utilisé, de 2016 à 2021, un outil d'apprentissage automatique développé avec Cambridge pour évaluer le risque de récidive des personnes en garde à vue, examinant plus de 12 000 personnes ; une recherche indépendante a ensuite trouvé une précision proche du hasard (53,8 %), menant à son abandon.

~63%
Exactitude de la validation initiale (Cambridge) (2016-2017)
98%
Taux d'évitement des faux négatifs à haut risque (validation initiale) (2016-2017)
53.8%
Exactitude de la réanalyse indépendante (cited 2022)
12,000+
Personnes évaluées par HART (2016-2021)

Détails

Maturité
Abandonnée
Promoteur
Durham Constabulary, developed with the University of Cambridge
Période
2016–2021
Mots-clés
predictive policing, risk assessment, machine learning, criminal justice, custody decisions, recidivism prediction

Contexte

HART (Harm Assessment Risk Tool) était un système d'apprentissage automatique développé par la Durham Constabulary avec des chercheurs de l'université de Cambridge, financé par le Monument Trust, pour classer les personnes placées en garde à vue en Angleterre selon un risque de récidive faible, modéré ou élevé dans un délai de deux ans, alimentant les décisions de garde à vue et d'orientation, y compris le programme Checkpoint de la force de police.

Activités

L'outil a été entraîné sur 104 000 antécédents d'arrestation issus des services de garde à vue de Durham sur cinq ans, à l'aide de 104 variables prédictives incluant des données de code postal et démographiques fournies par Experian, et a été utilisé opérationnellement pour évaluer plus de 12 000 personnes entre 2016 et 2021.

Résultats

La validation initiale de Cambridge faisait état d'une exactitude globale d'environ 63 %, avec un taux de 98 % d'évitement des faux négatifs pour la catégorie à haut risque ; une analyse indépendante ultérieure, citée par Fair Trials, a révélé une exactitude de seulement 53,8 % — « pas mieux qu'une estimation au hasard, ou un pile ou face » — et les chercheurs ont signalé un risque de profils biaisés racialement du fait des données issues d'Experian.

Conclusions

La Durham Constabulary a abandonné HART en 2021, en raison, semble-t-il, des ressources nécessaires pour continuer à affiner et revalider le modèle face à des exigences éthiques et légales de supervision en constante évolution ; HART reste l'un des déploiements européens précoces de police prédictive les plus documentés, évalué dans des revues scientifiques à comité de lecture ainsi que par des enquêtes de la société civile.

Mise en œuvre
Coût indicatif
Moyen (50 k€–500 k€) — Funded by the Monument Trust (a charitable trust) with in-kind University of Cambridge research collaboration; no total public cost figure disclosed in sources.
Délai jusqu’aux résultats
Long (> 3 ans) — Model trained on five years of historical arrest data (to c.2016); used operationally 2016-2021 before discontinuation.
Personnel et compétences
Durham Constabulary custody officers, University of Cambridge research team, data science/ML developers

Conditions de réussite

  • Access to a large historical custody dataset (104,000 records) for model training
  • Academic partnership for methodological rigor and validation
  • Ongoing resourcing for model revalidation as data and legal/ethical standards evolve

Modes d’échec courants

  • Predictive accuracy was overstated relative to later independent testing (53.8% found afterwards)
  • Reliance on third-party (Experian) postcode/demographic data introduced risk of racial bias
  • Sustained revalidation burden under evolving ethical/legal oversight became unsustainable, leading to discontinuation in 2021

Où cela s’applique

Type de gouvernance
local police force with university research partnership
Échelle
single force (Durham Constabulary), 12,000+ people assessed
Niveau de revenu
high-income (UK)

Habituellement financé par

Philanthropic / foundation funding National / regional programmes

Pistes de financement indicatives pour des pratiques de ce type — vérifiez toujours les appels en cours et les règles d'éligibilité de chaque programme.

Vous portez cette pratique ? Revendiquez-la — les porteurs vérifiés obtiennent un contact public sur la page et peuvent proposer des corrections.

Sources de données

D'où proviennent les informations de cette pratique, et quand.

Pratiques similaires qui pourraient vous être utiles