SyRI — système néerlandais de détection de fraude aux allocations annulé par les tribunaux

System Risico Indicatie (SyRI) combinait de grands volumes de données citoyennes pour générer des indications de risque de fraude aux allocations, déployées dans des quartiers à majorité revenus faibles.

Le 5 février 2020, le Tribunal de district de La Haye a ordonné son arrêt, jugeant la législation illégale : le système était trop opaque, collectait trop de données et n'avait pas établi un juste équilibre avec le droit au respect de la vie privée en vertu de l'article 8 de la Convention européenne des droits de l'homme. Un expert de l'ONU l'a appelé un avertissement contre les "dystopies de bien-être numérique" qui espionnent les pauvres.

Il est inclus ici comme un anti-modèle de prudence : il obtient de faibles résultats dans tous les domaines car il manquait de transparence, de proportionnalité et de garanties appropriées — les très défaillances qu'une pratique responsable d'IA du secteur public doit éviter.