evidoria

← Retour à la liste

Bonne pratique Importée

L'Algorithme de Risque de Fraude de Försäkringskassan — Le Modèle Social Suédois Vieux d'une Décennie Face à Ses Propres Preuves de Biais

Suède · Stockholm · Voir le profil de Suède · Voir le profil de Stockholm

Preuves: Observationnel / avant-après Top 32% 67/100 · Demandez à Evidence Copilot à propos de cette pratique

L'agence suédoise de sécurité sociale notait le risque de fraude par algorithme depuis 2013. Lighthouse Reports (2024) : le modèle sursélectionnait femmes et demandeurs pauvres ou étrangers ; l'agence l'a retiré en 2025 et l'IMY a clos le dossier en novembre.

>6,000 people flagged by the algorithm in 2017
Ensemble de données analysé par les enquêteurs (2017 data, analysed Nov 2024)
2013-2025 (~12 years)
Années de production avant l'arrêt (2013-2025)
Case closed 18 November 2025 following confirmed discontinuation
Issue de l'enquête RGPD de l'IMY (Jun-Nov 2025)
L'Algorithme de Risque de Fraude de Försäkringskassan — Le Modèle Social Suédois Vieux d'une Décennie Face à Ses Propres Preuves de Biais

Détails

Maturité
Abandonnée
Promoteur
Försäkringskassan (Swedish Social Insurance Agency)
Période
2013–2025
Région (NUTS)
SE11
Mots-clés
social insurance, fraud detection, algorithmic risk scoring

Contexte

Försäkringskassan, l'agence suédoise de sécurité sociale, a utilisé depuis 2013 un modèle d'apprentissage automatique pour attribuer des scores de risque de fraude aux demandeurs de prestations sociales et décider quels dossiers faire l'objet d'une enquête.

Objectifs

Évaluer le risque de fraude des demandeurs afin de cibler plus efficacement les ressources d'enquête.

Activités

Le modèle a été en production depuis 2013. L'inspection suédoise ISF a d'abord soulevé des préoccupations d'égalité de traitement en 2018. En novembre 2024, Lighthouse Reports et Svenska Dagbladet ont analysé un ensemble de données de plus de 6 000 personnes signalées par l'algorithme en 2017. À la suite de ce reportage, l'autorité de protection des données IMY a ouvert une enquête formelle au titre du RGPD en juin 2025.

Résultats

L'enquête de 2024 a révélé que le modèle sur-sélectionnait systématiquement les femmes, les demandeurs d'origine étrangère, les personnes à faibles revenus et les personnes sans diplôme universitaire pour enquête, tout en étant peu performant pour identifier les hommes et les hauts revenus ayant réellement commis une fraude ; très peu de dossiers signalés ont abouti à une décision judiciaire de fraude intentionnelle. Le 5 septembre 2025, Försäkringskassan a confirmé à l'IMY avoir mis fin au modèle environ un mois plus tôt, sans projet de le réactiver, et l'IMY a clos le dossier le 18 novembre 2025.

Conclusions

Un examen journalistique et réglementaire indépendant a documenté un biais démographique clair dans un algorithme de risque de fraude sociale vieux de dix ans, conduisant à son arrêt complet, confirmé à la fois par l'agence et par le régulateur de la protection des données.

Mise en œuvre
Coût indicatif
Moyen (50 k€–500 k€) — A machine-learning risk-scoring system operated in production across a national welfare agency's applicant base for over a decade, implying a medium ongoing operating cost before discontinuation.
Délai jusqu’aux résultats
Long (> 3 ans) — In use from 2013 to its discontinuation around August 2025 (confirmed to the regulator 5 September 2025), with the regulatory case formally closed 18 November 2025 -- a 12-year lifecycle.
Personnel et compétences
Försäkringskassan (Swedish Social Insurance Agency) fraud-investigation and IT staff, ISF (Inspektionen för socialförsäkringen), national inspectorate, IMY (Swedish data-protection authority)

Conditions de réussite

  • Independent inspectorate and regulator oversight able to investigate and act on bias concerns
  • Willingness to discontinue a system once bias is confirmed, and to confirm this in writing to the regulator

Modes d’échec courants

  • The model systematically overselected women, low-income and foreign-background applicants while missing actual higher-earning male fraud cases, for over a decade before correction
  • It took a media investigation, not routine internal governance, to surface the bias despite the inspectorate ISF having raised equal-treatment concerns as early as 2018

Où cela s’applique

Type de gouvernance
national social insurance agency
Échelle
nationwide applicant screening
Niveau de revenu
high-income

Habituellement financé par

National / regional programmes

Pistes de financement indicatives pour des pratiques de ce type — vérifiez toujours les appels en cours et les règles d'éligibilité de chaque programme.

Vous portez cette pratique ? Revendiquez-la — les porteurs vérifiés obtiennent un contact public sur la page et peuvent proposer des corrections.

Sources de données

D'où proviennent les informations de cette pratique, et quand.

Pièces jointes

Pratiques similaires qui pourraient vous être utiles