O Algoritmo de Risco de Fraude do Försäkringskassan — O Modelo Social Sueco de Uma Década Confronta as Suas Próprias Provas de Enviesamento

O Försäkringskassan, a Agência de Segurança Social da Suécia, utilizou a partir de 2013 um modelo de aprendizagem automática para atribuir pontuações de risco de fraude aos candidatos à segurança social e decidir quais os casos a sinalizar para investigação.
Uma investigação de novembro de 2024 da Lighthouse Reports e do Svenska Dagbladet, que analisou um conjunto de dados de mais de 6 mil pessoas sinalizadas pelo algoritmo em 2017, concluiu que o modelo 'sobrerrepresentava' sistematicamente mulheres, candidatos de origem estrangeira, pessoas de baixo rendimento e pessoas sem formação universitária para efeitos de investigação — enquanto tinha um fraco desempenho na identificação de homens e de pessoas com rendimentos mais elevados que tinham efetivamente cometido fraude; muito poucos dos casos sinalizados resultaram numa decisão judicial de fraude intencional.
O organismo de inspeção sueco, o ISF (Inspektionen för socialförsäkringen), levantou pela primeira vez preocupações sobre a igualdade de tratamento relativamente ao modelo em 2018. Na sequência das notícias de 2024, a autoridade de proteção de dados IMY abriu um processo formal de supervisão em junho de 2025 para avaliar se a utilização de dados pessoais pelo modelo cumpria o RGPD.
Na sua resposta ao IMY, de 5 de setembro de 2025, o Försäkringskassan confirmou que tinha descontinuado o perfil de risco de aprendizagem automática utilizado nas verificações de prestações parentais cerca de um mês antes, e que não tinha planos para o reativar. O IMY encerrou o processo em 18 de novembro de 2025, concluindo que, uma vez que o sistema já não estava em uso, os riscos analisados tinham cessado — tornando este o desfecho mais concreto dos três casos nórdico/balcânicos de algoritmos sociais deste lote: a descontinuação total confirmada por um regulador independente, em vez da continuação do uso com supervisão reforçada.