evidoria

← Retour à la liste

Bonne pratique Importée

SyRI — système néerlandais de détection de fraude aux allocations annulé par les tribunaux

Pays-Bas · The Hague · Voir le profil de Pays-Bas · Voir le profil de The Hague

Preuves: Descriptif / auto-déclaré Top 97% 20/100 · Demandez à Evidence Copilot à propos de cette pratique

SyRI reliait les données des citoyens pour signaler le risque de fraude aux allocations dans les quartiers les plus pauvres. En 2020, un tribunal néerlandais l'a arrêté pour violation du droit à la vie privée (CEDH Art. 8) — un cas d'avertissement historique en IA du secteur public.

Détails

Maturité
Abandonnée
Promoteur
Government of the Netherlands (Ministry of Social Affairs)
Mots-clés
Compliance & enforcement, cautionary case, profiling, risk indication, welfare fraud

Contexte

Le System Risico Indicatie (SyRI) combinait de grands volumes de données citoyennes pour générer des indications de risque de fraude aux prestations sociales, déployé principalement dans les quartiers à faibles revenus aux Pays-Bas.

Objectifs

L'objectif déclaré de SyRI était de détecter le risque de fraude aux prestations sociales en combinant et en recoupant de grands volumes de données citoyennes.

Résultats

Le 5 février 2020, le tribunal de district de La Haye a ordonné l'arrêt de SyRI, jugeant la législation sous-jacente illégale : le système était trop opaque, collectait trop de données et ne parvenait pas à établir un juste équilibre avec le droit à la vie privée garanti par l'article 8 de la Convention européenne des droits de l'homme. Un expert de l'ONU y a vu un avertissement contre les « dystopies de l'aide sociale numérique » qui espionnent les pauvres.

Conclusions

Il s'agit d'un anti-modèle d'avertissement, inclus délibérément : il doit obtenir un score faible sur tous les plans, car il manquait de transparence, de proportionnalité et de garanties adéquates — précisément les défaillances qu'une pratique responsable de l'IA dans le secteur public doit éviter. SyRI est un système abandonné, annulé par la justice, et non un système en cours d'exploitation, documenté ici comme une leçon sur ce qu'il ne faut pas reproduire.

Mise en œuvre
Coût indicatif
Faible (< 50 k€)
Délai jusqu’aux résultats
Moyen (1–3 ans)
Personnel et compétences
Government of the Netherlands (Ministry of Social Affairs)

Conditions de réussite

  • Transparent legal basis and published methodology for any risk-indication system
  • Proportionate data collection limited to what is necessary for the stated purpose
  • Adequate safeguards ensuring compliance with the right to private life under Article 8 ECHR

Modes d’échec courants

  • System ruled unlawful and halted by the District Court of The Hague on 5 February 2020
  • Too opaque: affected citizens could not understand how risk indications were generated
  • Collected disproportionate volumes of citizens' data relative to the stated purpose
  • Failed to strike a fair balance with the right to private life under Article 8 ECHR
  • Deployed mostly in lower-income neighbourhoods, prompting a UN expert warning against 'digital welfare dystopias' that spy on the poor

Habituellement financé par

National / regional programmes

Pistes de financement indicatives pour des pratiques de ce type — vérifiez toujours les appels en cours et les règles d'éligibilité de chaque programme.

Vous portez cette pratique ? Revendiquez-la — les porteurs vérifiés obtiennent un contact public sur la page et peuvent proposer des corrections.

Sources de données

D'où proviennent les informations de cette pratique, et quand.

Pratiques similaires qui pourraient vous être utiles