La police du West Yorkshire a testé un outil d'IA d'évaluation du risque de violence domestique dans le bac à sable réglementaire de l'ICO britannique. Le rapport final publié montre que la principale lacune concernait la planification de la transparence, et non le modèle d'apprentissage automatique lui-même.
Détails
Maturité
Pilote
Promoteur
West Yorkshire Police, with the UK Information Commissioner's Office (ICO)
Période
2024
Mots-clés
policing, AI regulatory sandbox, domestic abuse risk assessment, data protection
Contexte
Fin janvier 2024, la police du West Yorkshire (WYP) a été acceptée dans le bac à sable réglementaire de l'Information Commissioner's Office (ICO) britannique pour tester un Domestic Abuse Assessment Tool (DAAT), un système d'apprentissage automatique supervisé destiné à aider les agents à évaluer le risque de violence domestique et à signaler les cas nécessitant une intervention précoce, décrit comme une 'innovation exceptionnelle utilisant l'IA dans un contexte policier.'
Activités
Dans le cadre du bac à sable, la WYP a travaillé avec l'ICO sur les questions de protection des données soulevées par le traitement de données personnelles sensibles dans un contexte policier à enjeux élevés ; l'ICO a indiqué qu'avant que la WYP puisse décider quelles informations sur le développement, la précision et l'équité de l'outil devraient être rendues publiques, elle devait d'abord réaliser un exercice de cartographie des parties prenantes.
Résultats
L'engagement a privilégié le processus plutôt que des résultats immédiats : le rapport final de l'ICO décrit le principal livrable comme 'une feuille de route de transparence plus claire plutôt qu'un résultat prouvé de réduction de la criminalité,' et l'outil restait non déployé à l'échelle de la force au moment du rapport.
Mise en œuvre
Coût indicatif
Faible (< 50 k€)
Délai jusqu’aux résultats
Court (< 1 an)
Personnel et compétences
West Yorkshire Police as promoter, UK Information Commissioner's Office (ICO) Regulatory Sandbox team
Conditions de réussite
Completing a stakeholder-mapping exercise before making public-disclosure decisions
Close engagement with the data-protection regulator on fairness/accuracy questions before deployment
Modes d’échec courants
Tool remained undeployed force-wide at reporting
Sandbox produced a transparency roadmap rather than a proven crime-reduction outcome
Où cela s’applique
Type de gouvernance
local/regional police force working with a national data regulator
Échelle
regional (West Yorkshire)
Niveau de revenu
high-income
Vous portez cette pratique ?
Revendiquez-la —
les porteurs vérifiés obtiennent un contact public sur la page et peuvent proposer des corrections.
Sources de données
D'où proviennent les informations de cette pratique, et quand.