evidoria

← Volver al listado

Buena práctica Importada

HART — la herramienta de evaluación de riesgo por aprendizaje automático de la policía de Durham

Reino Unido · Durham · Ver el perfil de Reino Unido

Evidencia: Observacional / pre-post Top 88% 33/100 · Pregunte a Evidence Copilot sobre esta práctica

La policía de Durham (Reino Unido) usó, entre 2016 y 2021, una herramienta de aprendizaje automático desarrollada con Cambridge para clasificar el riesgo de reincidencia de detenidos, evaluando a más de 12 000 personas; una investigación independiente halló después una precisión cercana al azar (53,8%), lo que llevó a su abandono.

~63%
Exactitud de la validación original (Cambridge) (2016-2017)
98%
Tasa de evitación de falsos negativos de alto riesgo (validación original) (2016-2017)
53.8%
Exactitud del reanálisis independiente (cited 2022)
12,000+
Personas evaluadas por HART (2016-2021)

Detalles

Madurez
Descontinuada
Promotor
Durham Constabulary, developed with the University of Cambridge
Período
2016–2021
Palabras clave
predictive policing, risk assessment, machine learning, criminal justice, custody decisions, recidivism prediction

Contexto

HART (Harm Assessment Risk Tool) fue un sistema de aprendizaje automático desarrollado por la Durham Constabulary con investigadores de la Universidad de Cambridge, financiado por el Monument Trust, para clasificar a las personas detenidas en Inglaterra según un riesgo de reincidencia bajo, moderado o alto en un plazo de dos años, alimentando las decisiones de custodia y derivación, incluido el programa Checkpoint de la fuerza policial.

Actividades

La herramienta se entrenó con 104.000 historiales de detención de las dependencias de custodia de Durham a lo largo de cinco años, utilizando 104 variables predictoras, incluidos datos de código postal y demográficos procedentes de Experian, y se utilizó operativamente para evaluar a más de 12.000 personas entre 2016 y 2021.

Resultados

La propia validación de Cambridge reportó una exactitud global de aproximadamente el 63%, con una tasa del 98% en la evitación de falsos negativos para la categoría de alto riesgo; un análisis independiente posterior, citado por Fair Trials, encontró una exactitud de solo el 53,8% — 'no mejor que adivinar, o lanzar una moneda al aire' — y los investigadores señalaron el riesgo de perfiles sesgados racialmente derivados de los datos procedentes de Experian.

Conclusiones

La Durham Constabulary descontinuó HART en 2021, presuntamente debido a los recursos necesarios para seguir refinando y revalidando el modelo ante requisitos éticos y legales de supervisión en evolución; HART sigue siendo uno de los primeros despliegues europeos de vigilancia predictiva más exhaustivamente documentados, evaluado en publicaciones científicas revisadas por pares, así como por investigaciones de la sociedad civil.

Implementación
Coste indicativo
Medio (50 000–500 000 €) — Funded by the Monument Trust (a charitable trust) with in-kind University of Cambridge research collaboration; no total public cost figure disclosed in sources.
Tiempo hasta resultados
Largo (> 3 años) — Model trained on five years of historical arrest data (to c.2016); used operationally 2016-2021 before discontinuation.
Personal y competencias
Durham Constabulary custody officers, University of Cambridge research team, data science/ML developers

Condiciones para el éxito

  • Access to a large historical custody dataset (104,000 records) for model training
  • Academic partnership for methodological rigor and validation
  • Ongoing resourcing for model revalidation as data and legal/ethical standards evolve

Modos de fallo comunes

  • Predictive accuracy was overstated relative to later independent testing (53.8% found afterwards)
  • Reliance on third-party (Experian) postcode/demographic data introduced risk of racial bias
  • Sustained revalidation burden under evolving ethical/legal oversight became unsustainable, leading to discontinuation in 2021

Dónde encaja

Tipo de gobernanza
local police force with university research partnership
Escala
single force (Durham Constabulary), 12,000+ people assessed
Nivel de ingresos
high-income (UK)

Habitualmente financiado por

Philanthropic / foundation funding National / regional programmes

Vías de financiación indicativas para prácticas de este tipo: compruebe siempre las convocatorias vigentes y las reglas de elegibilidad de cada programa.

¿Usted implementa esta práctica? Reivindíquela — los implementadores verificados obtienen un contacto público en la página y pueden proponer correcciones.

Fuentes de datos

De dónde se obtuvo la información de esta práctica, y cuándo.

Prácticas similares que pueden serle útiles