SyRI — sistema holandês de fraude de assistência social anulado pelos tribunais

System Risico Indicatie (SyRI) combinava grandes volumes de dados dos cidadãos para gerar indicações de risco de fraude de assistência social, implantado em bairros maioritariamente de baixa renda.

Em 5 de fevereiro de 2020, o Tribunal de Distrito de Haia ordenou a sua interrupção, decidindo que a legislação era ilegal: o sistema era muito opaco, recolhia dados em excesso e não conseguiu encontrar um equilíbrio justo com o direito à vida privada sob Artigo 8 da Convenção Europeia dos Direitos do Homem. Um especialista da ONU chamou-lhe um aviso contra as "distopias de bem-estar digital" que espiam os pobres.

É incluído aqui como um anti-modelo de precaução: classifica-se mal em todos os domínios porque faltava transparência, proporcionalidade e salvaguardas adequadas — exatamente as falhas que uma prática responsável de IA do sector público deve evitar.