O Algoritmo de Risco de Fraude do Försäkringskassan — O Modelo Social Sueco de Uma Década Confronta as Suas Próprias Provas de Enviesamento

A Försäkringskassan, a Agência de Segurança Social sueca, utilizou desde 2013 um modelo de aprendizagem automática para atribuir pontuações de risco de fraude a candidatos à segurança social e decidir quais os casos a investigar.

Pontuar o risco de fraude dos candidatos para direcionar de forma mais eficiente os recursos de investigação.

O modelo esteve em produção desde 2013. O inspetorado sueco ISF levantou pela primeira vez preocupações de igualdade de tratamento em 2018. Em novembro de 2024, a Lighthouse Reports e o Svenska Dagbladet analisaram um conjunto de dados de mais de 6.000 pessoas assinaladas pelo algoritmo em 2017. Na sequência da reportagem, a autoridade de proteção de dados IMY abriu um processo formal de supervisão ao abrigo do RGPD em junho de 2025.

A investigação de 2024 concluiu que o modelo selecionava sistematicamente em excesso mulheres, candidatos com origem estrangeira, pessoas com baixos rendimentos e pessoas sem formação universitária para investigação, tendo um desempenho fraco na identificação de homens e pessoas com rendimentos mais elevados que tinham efetivamente cometido fraude; muito poucos casos assinalados resultaram numa decisão judicial de fraude intencional. Em 5 de setembro de 2025, a Försäkringskassan confirmou à IMY que tinha descontinuado o modelo cerca de um mês antes, sem planos de o reativar, e a IMY encerrou o processo em 18 de novembro de 2025.

O escrutínio jornalístico e regulatório independente documentou um claro enviesamento demográfico num algoritmo de risco de fraude social com uma década de existência, levando à sua descontinuação total, confirmada tanto pela agência como pelo regulador de proteção de dados.