La Policía de West Yorkshire probó una herramienta de IA de evaluación del riesgo de violencia doméstica en el sandbox regulatorio de la ICO británica. El Informe Final publicado muestra que la mayor carencia estaba en la planificación de la transparencia, no en el propio modelo de aprendizaje automático.
Detalles
Madurez
Piloto
Promotor
West Yorkshire Police, with the UK Information Commissioner's Office (ICO)
Período
2024
Palabras clave
policing, AI regulatory sandbox, domestic abuse risk assessment, data protection
Contexto
A finales de enero de 2024, la Policía de West Yorkshire (WYP) fue aceptada en el Sandbox Regulatorio de la Information Commissioner's Office (ICO) del Reino Unido para probar una Domestic Abuse Assessment Tool (DAAT), un sistema de aprendizaje automático supervisado destinado a ayudar a los agentes a evaluar el riesgo de violencia doméstica y señalar casos para intervención temprana, descrito como 'innovación excepcional en el uso de IA en un contexto policial.'
Actividades
Dentro del sandbox, la WYP trabajó con la ICO en las cuestiones de protección de datos que plantea el procesamiento de datos personales sensibles en un contexto policial de alto riesgo; la ICO indicó que, antes de que la WYP pudiera decidir qué información sobre el desarrollo, la precisión y la equidad de la herramienta debía hacerse pública, primero tenía que completar un ejercicio de mapeo de partes interesadas.
Resultados
La colaboración priorizó el proceso sobre los resultados inmediatos: el Informe Final de la ICO describe el principal entregable como 'una hoja de ruta de transparencia más clara en lugar de un resultado probado de reducción de la delincuencia,' y la herramienta seguía sin implementarse en toda la fuerza policial en el momento del informe.
Implementación
Coste indicativo
Bajo (< 50 000 €)
Tiempo hasta resultados
Corto (< 1 año)
Personal y competencias
West Yorkshire Police as promoter, UK Information Commissioner's Office (ICO) Regulatory Sandbox team
Condiciones para el éxito
Completing a stakeholder-mapping exercise before making public-disclosure decisions
Close engagement with the data-protection regulator on fairness/accuracy questions before deployment
Modos de fallo comunes
Tool remained undeployed force-wide at reporting
Sandbox produced a transparency roadmap rather than a proven crime-reduction outcome
Dónde encaja
Tipo de gobernanza
local/regional police force working with a national data regulator
Escala
regional (West Yorkshire)
Nivel de ingresos
high-income
¿Usted implementa esta práctica?
Reivindíquela —
los implementadores verificados obtienen un contacto público en la página y pueden proponer correcciones.
Fuentes de datos
De dónde se obtuvo la información de esta práctica, y cuándo.