Les Modèles CSE/CCE d'Insight Bristol — un Score de Risque Prédictif pour l'Exploitation d'Enfants, Depuis Abandonné

Insight Bristol était une unité conjointe d'analyse de données créée en 2015 par le Bristol City Council et la police d'Avon and Somerset, combinant des données policières, municipales, scolaires, de logement et associatives — dont des données de Barnardo's portant sur environ 1 000 enfants ayant des antécédents connus de maltraitance — au sein d'une base de données partagée baptisée 'Think Family'.

À partir d'environ 2016, l'unité a développé deux modèles prédictifs de notation des risques — l'un pour l'exploitation sexuelle des enfants (CSE) et l'autre pour l'exploitation criminelle des enfants (CCE) — afin d'aider à identifier les enfants à risque, à partir de variables telles que l'aide au logement, les arriérés de loyer, l'éligibilité aux repas scolaires gratuits, l'absentéisme scolaire, les signalements de disparition et les préoccupations de santé mentale ; le genre et l'origine ethnique étaient exclus des scores.

Les modèles CSE et CCE ont été utilisés opérationnellement à partir d'environ 2016. En 2023, le conseil municipal a conclu qu'ils n'étaient 'pas adaptés à un usage opérationnel' et les a discrètement désactivés.

Un examen ultérieur mené par Social Finance, rapporté par le Bristol Cable en 2026, a révélé que ces modèles constituaient le 'maillon le plus faible' du programme : des victimes avérées d'exploitation sexuelle obtenaient parfois des scores plus bas que des personnes impliquées dans des cambriolages, certains enfants vulnérables n'apparaissaient tout simplement pas dans les résultats, et le personnel de première ligne a fait état d'un faible niveau de confiance dans ces scores. Les évaluateurs n'ont pas pu auditer intégralement les modèles car le code source et la liste des variables restaient introuvables, et ni le conseil municipal ni la police n'avaient conservé de traces expliquant pourquoi les modèles avaient été retirés.

La Commissaire à l'enfance pour l'Angleterre, Dame Rachel de Souza, a qualifié ces conclusions de 'profondément préoccupantes' et a déclaré que les outils prédictifs utilisés sur des enfants 'doivent être transparents [et] bien compris par les professionnels'. L'enquête indépendante britannique sur les abus sexuels sur enfants (IICSA) a depuis cité des cas d'analyse prédictive comme celui-ci comme preuve des risques du profilage algorithmique non audité dans la protection de l'enfance, tandis que l'Observatoire de l'innovation du secteur public de l'OCDE avait auparavant présenté le travail plus large de partage de données d'Insight Bristol sans signaler ces défaillances spécifiques des modèles — un rappel de la difficulté à détecter de telles failles depuis l'extérieur.