L'Algorithme de Risque de Fraude de Försäkringskassan — Le Modèle Social Suédois Vieux d'une Décennie Face à Ses Propres Preuves de Biais

Försäkringskassan, l'agence suédoise de sécurité sociale, a utilisé à partir de 2013 un modèle d'apprentissage automatique pour attribuer des scores de risque de fraude aux demandeurs de sécurité sociale et décider quels dossiers signaler pour enquête.
Une enquête de novembre 2024 menée par Lighthouse Reports et Svenska Dagbladet, analysant un ensemble de données de plus de 6 000 personnes signalées par l'algorithme en 2017, a révélé que le modèle 'sursélectionnait' systématiquement les femmes, les demandeurs d'origine étrangère, les personnes à faible revenu et celles sans diplôme universitaire pour enquête — tout en étant peu efficace pour identifier les hommes et les personnes à revenus plus élevés ayant réellement commis une fraude ; très peu de cas signalés ont abouti à une décision de justice constatant une fraude intentionnelle.
L'inspection suédoise elle-même, l'ISF (Inspektionen för socialförsäkringen), a soulevé pour la première fois des préoccupations d'égalité de traitement concernant le modèle en 2018. À la suite des articles de presse de 2024, l'autorité de protection des données IMY a ouvert une enquête de contrôle formelle en juin 2025 afin de déterminer si l'utilisation des données personnelles par le modèle respectait le RGPD.
Dans sa réponse à l'IMY du 5 septembre 2025, Försäkringskassan a confirmé avoir abandonné environ un mois plus tôt le profil de risque fondé sur l'apprentissage automatique utilisé pour les contrôles de prestations parentales, sans intention de le réactiver. L'IMY a clos le dossier le 18 novembre 2025, concluant que, le système n'étant plus utilisé, les risques examinés avaient disparu — ce qui fait de ce cas la résolution la plus concrète des trois cas nordiques/balkaniques d'algorithmes sociaux de ce lot : un abandon total confirmé par un régulateur indépendant, plutôt qu'une utilisation maintenue sous surveillance renforcée.