SyRI — sistema holandês de fraude de assistência social anulado pelos tribunais

O System Risico Indicatie (SyRI) combinava grandes volumes de dados de cidadãos para gerar indicações de risco de fraude na segurança social, sendo utilizado sobretudo em bairros de baixos rendimentos nos Países Baixos.

O objetivo declarado do SyRI era detetar o risco de fraude na segurança social combinando e cruzando grandes volumes de dados de cidadãos.

Em 5 de fevereiro de 2020, o Tribunal Distrital de Haia ordenou a suspensão do SyRI, considerando ilegal a legislação subjacente: o sistema era demasiado opaco, recolhia dados em excesso e não conseguia estabelecer um equilíbrio justo com o direito à vida privada previsto no artigo 8.º da Convenção Europeia dos Direitos do Homem. Um perito das Nações Unidas classificou-o como um aviso contra 'distopias de bem-estar digital' que espiam os pobres.

Trata-se de um antimodelo cautelar, incluído deliberadamente: deve pontuar baixo em todos os aspetos, porque careceu de transparência, proporcionalidade e salvaguardas adequadas — precisamente as falhas que uma prática responsável de IA no setor público deve evitar. O SyRI é um sistema descontinuado, derrubado pelos tribunais, e não um sistema em funcionamento, e é aqui documentado como uma lição sobre o que não replicar.