Le projet de prédiction des homicides — l'outil secret de profilage par IA du ministère britannique de la Justice

Des documents obtenus par Statewatch dans le cadre de demandes d'accès à l'information ont révélé que le ministère britannique de la Justice, avec le Home Office, la police du Grand Manchester et la police métropolitaine, avait développé le « Homicide Prediction Project » (rebaptisé par la suite « partage de données pour améliorer l'évaluation des risques »), destiné à identifier, à partir de dossiers gouvernementaux et policiers, les personnes considérées comme présentant un risque de commettre un homicide.

L'objectif affiché était de construire un outil prédictif à partir de données gouvernementales et policières partagées, en s'appuyant sur des indicateurs sensibles tels que les antécédents de santé mentale, la dépendance, l'automutilation et le risque suicidaire, la vulnérabilité et le handicap, afin de signaler les personnes jugées à risque de commettre un homicide.

Un accord de partage de données avec la police du Grand Manchester montre que des dossiers concernant entre 100 000 et 500 000 personnes ont été partagés pour construire l'outil, et Statewatch a obtenu l'analyse d'impact relative à la protection des données ainsi qu'une évaluation interne des risques par le biais de demandes d'accès à l'information, après que le projet n'avait pas été divulgué de manière proactive.

Aucune évaluation indépendante de la précision prédictive ou du taux de faux positifs de l'outil n'a été publiée ; à la suite de la couverture médiatique d'avril 2025, le ministère de la Justice a déclaré que le projet relevait de la recherche et non d'un outil opérationnel.

Des militants et des experts juridiques ont critiqué l'absence de divulgation préalable, l'utilisation de caractéristiques de santé protégées comme variables prédictives, ainsi que l'absence d'évaluation indépendante publiée - des préoccupations qui font écho à des constats distincts, déjà publiés, selon lesquels l'outil OASys du ministère, utilisé de longue date pour évaluer le risque de récidive et mobilisé pour plus de 1 300 évaluations par jour, présente une validité prédictive plus faible pour les délinquants noirs, asiatiques et métis.