El Algoritmo de Riesgo de Fraude de Försäkringskassan — El Modelo de Bienestar Sueco de una Década Se Enfrenta a Sus Propias Pruebas de Sesgo

Försäkringskassan, la Agencia de Seguridad Social de Suecia, utilizó desde 2013 un modelo de aprendizaje automático para asignar puntuaciones de riesgo de fraude a los solicitantes de seguridad social y decidir qué casos señalar para investigación.
Una investigación de noviembre de 2024 de Lighthouse Reports y Svenska Dagbladet, que analizó un conjunto de datos de más de 6.000 personas señaladas por el algoritmo en 2017, encontró que el modelo 'sobrerrepresentaba' sistemáticamente a mujeres, solicitantes de origen extranjero, personas de bajos ingresos y personas sin estudios universitarios para investigación, mientras resultaba poco eficaz para identificar a hombres y personas con ingresos más altos que sí habían cometido fraude; muy pocos de los casos señalados terminaron en una sentencia judicial por fraude intencionado.
El propio organismo inspector sueco, el ISF (Inspektionen för socialförsäkringen), planteó por primera vez preocupaciones sobre la igualdad de trato respecto al modelo en 2018. Tras las noticias de 2024, la autoridad de protección de datos IMY abrió un expediente formal de supervisión en junio de 2025 para determinar si el uso de datos personales del modelo cumplía con el RGPD.
En su respuesta a IMY del 5 de septiembre de 2025, Försäkringskassan confirmó que había discontinuado el perfil de riesgo de aprendizaje automático usado en los controles de prestaciones parentales aproximadamente un mes antes, y que no tenía planes de reactivarlo. IMY cerró el expediente el 18 de noviembre de 2025, concluyendo que, al no estar ya en uso el sistema, los riesgos examinados habían cesado — lo que convierte a este caso en la resolución más concreta de los tres casos nórdicos/balcánicos de algoritmos sociales de este lote: una discontinuación total confirmada por un regulador independiente, en lugar de un uso continuado con supervisión reforzada.