evidoria

← Volver al listado

Buena práctica Importada

El Algoritmo de Riesgo de Fraude de Försäkringskassan — El Modelo de Bienestar Sueco de una Década Se Enfrenta a Sus Propias Pruebas de Sesgo

Suecia · Stockholm · Ver el perfil de Suecia · Ver el perfil de Stockholm

Evidencia: Observacional / pre-post Top 32% 67/100 · Pregunte a Evidence Copilot sobre esta práctica

La Agencia de Seguridad Social de Suecia puntuaba el riesgo de fraude por algoritmo desde 2013. Lighthouse Reports (2024): sobrerrepresentaba a mujeres y solicitantes pobres o extranjeros; la agencia retiró el modelo en 2025 y el IMY cerró el caso en noviembre.

>6,000 people flagged by the algorithm in 2017
Conjunto de datos analizado por los investigadores (2017 data, analysed Nov 2024)
2013-2025 (~12 years)
Años en producción antes de la descontinuación (2013-2025)
Case closed 18 November 2025 following confirmed discontinuation
Resultado del expediente de supervisión RGPD de la IMY (Jun-Nov 2025)
El Algoritmo de Riesgo de Fraude de Försäkringskassan — El Modelo de Bienestar Sueco de una Década Se Enfrenta a Sus Propias Pruebas de Sesgo

Detalles

Madurez
Descontinuada
Promotor
Försäkringskassan (Swedish Social Insurance Agency)
Período
2013–2025
Región (NUTS)
SE11
Palabras clave
social insurance, fraud detection, algorithmic risk scoring

Contexto

Försäkringskassan, la agencia sueca de seguridad social, utilizó desde 2013 un modelo de aprendizaje automático para asignar puntuaciones de riesgo de fraude a los solicitantes de prestaciones sociales y decidir qué casos investigar.

Objetivos

Puntuar el riesgo de fraude de los solicitantes para dirigir de forma más eficiente los recursos de investigación.

Actividades

El modelo estuvo en producción desde 2013. El inspectorado sueco ISF planteó por primera vez preocupaciones sobre la igualdad de trato en 2018. En noviembre de 2024, Lighthouse Reports y Svenska Dagbladet analizaron un conjunto de datos de más de 6.000 personas señaladas por el algoritmo en 2017. Tras esa investigación periodística, la autoridad de protección de datos IMY abrió un expediente formal de supervisión bajo el RGPD en junio de 2025.

Resultados

La investigación de 2024 encontró que el modelo seleccionaba sistemáticamente en exceso a mujeres, solicitantes de origen extranjero, personas de bajos ingresos y personas sin titulación universitaria para investigación, mientras funcionaba mal identificando a hombres y personas de mayores ingresos que realmente habían cometido fraude; muy pocos casos señalados llevaron a una sentencia judicial de fraude intencionado. El 5 de septiembre de 2025, Försäkringskassan confirmó a la IMY que había descontinuado el modelo aproximadamente un mes antes, sin planes de reactivarlo, y la IMY cerró el expediente el 18 de noviembre de 2025.

Conclusiones

El escrutinio periodístico y regulatorio independiente documentó un claro sesgo demográfico en un algoritmo de riesgo de fraude social con una década de antigüedad, lo que llevó a su completa discontinuación, confirmada tanto por la agencia como por el regulador de protección de datos.

Implementación
Coste indicativo
Medio (50 000–500 000 €) — A machine-learning risk-scoring system operated in production across a national welfare agency's applicant base for over a decade, implying a medium ongoing operating cost before discontinuation.
Tiempo hasta resultados
Largo (> 3 años) — In use from 2013 to its discontinuation around August 2025 (confirmed to the regulator 5 September 2025), with the regulatory case formally closed 18 November 2025 -- a 12-year lifecycle.
Personal y competencias
Försäkringskassan (Swedish Social Insurance Agency) fraud-investigation and IT staff, ISF (Inspektionen för socialförsäkringen), national inspectorate, IMY (Swedish data-protection authority)

Condiciones para el éxito

  • Independent inspectorate and regulator oversight able to investigate and act on bias concerns
  • Willingness to discontinue a system once bias is confirmed, and to confirm this in writing to the regulator

Modos de fallo comunes

  • The model systematically overselected women, low-income and foreign-background applicants while missing actual higher-earning male fraud cases, for over a decade before correction
  • It took a media investigation, not routine internal governance, to surface the bias despite the inspectorate ISF having raised equal-treatment concerns as early as 2018

Dónde encaja

Tipo de gobernanza
national social insurance agency
Escala
nationwide applicant screening
Nivel de ingresos
high-income

Habitualmente financiado por

National / regional programmes

Vías de financiación indicativas para prácticas de este tipo: compruebe siempre las convocatorias vigentes y las reglas de elegibilidad de cada programa.

¿Usted implementa esta práctica? Reivindíquela — los implementadores verificados obtienen un contacto público en la página y pueden proponer correcciones.

Fuentes de datos

De dónde se obtuvo la información de esta práctica, y cuándo.

Adjuntos

Prácticas similares que pueden serle útiles