evidoria

← Volver al listado

Buena práctica Importada

Algoritmo de Emparejamiento de Empleo de la AMS en Austria (AMAS, 2018–2020) — Un Caso de Alerta sobre Sesgo de Género por Diseño

Austria · Vienna · Ver el perfil de Austria · Ver el perfil de Vienna

Evidencia: Observacional / pre-post Top 90% 19/100 · Pregunte a Evidence Copilot sobre esta práctica

El servicio público de empleo de Austria desarrolló, por 240.000 euros, una herramienta de puntuación estadística (AMAS) que penalizaba ser mujer y un factor de "obligaciones de cuidado" aplicado solo a mujeres, para clasificar a los solicitantes de empleo. La autoridad austriaca de protección de datos prohibió la herramienta en 2020 por perfilado ilegal; los datos subyacentes fueron eliminados.

240,000 EUR
Coste de desarrollo (contrato con Synthesis Forschung) (2018)
-0.14 model coefficient
Peso negativo asignado por ser mujer (2018-2020)
2.5 million EUR
Coste total del proyecto antes de su cierre (2018-2020)
Algoritmo de Emparejamiento de Empleo de la AMS en Austria (AMAS, 2018–2020) — Un Caso de Alerta sobre Sesgo de Género por Diseño

Detalles

Madurez
Descontinuada
Promotor
Arbeitsmarktservice (AMS) — Austrian Public Employment Service
Período
2018–2020 (deployed and banned); 2025 (court review)
Región (NUTS)
AT13
Palabras clave
public employment services, algorithmic governance, data protection, gender equality

Contexto

El servicio público de empleo de Austria (AMS) encargó a la empresa de investigación Synthesis Forschung, por unos 240.000 €, la construcción del 'Arbeitsmarktchancen-Assistenz-System' (AMAS), un algoritmo destinado a puntuar las posibilidades de reinserción laboral de las personas desempleadas y clasificarlas en tres grupos de apoyo: A (necesita poca ayuda), B (candidatos a reciclaje profesional) y C (bajas perspectivas, apoyo reducido).

Objetivos

El objetivo declarado era asignar de forma más eficiente los recursos de apoyo al empleo del AMS, prediciendo las posibilidades de cada persona desempleada de reincorporarse al mercado laboral.

Actividades

AMAS se utilizó entre 2018 y 2020, asignando a cada persona desempleada una puntuación que determinaba el nivel de apoyo recibido. Investigadores independientes (Allhutter et al., publicado en Frontiers in Big Data) analizaron el modelo de puntuación publicado, y la organización de derechos digitales AlgorithmWatch difundió los resultados.

Resultados

El análisis independiente concluyó que el modelo asignaba un peso negativo de −0,14 simplemente por ser mujer, e incluía una variable de penalización por 'obligaciones de cuidado infantil' que, por diseño, solo se aplicaba a las mujeres. En agosto de 2020, la Autoridad de Protección de Datos de Austria ordenó la suspensión del proyecto, al considerar que carecía de base legal y constituía una elaboración de perfiles automatizada prohibida; el AMS eliminó el modelo y los datos asociados, poniendo fin a un proyecto de aproximadamente 2,5 millones de euros. En septiembre de 2025, el Tribunal Administrativo Federal austriaco resolvió, sobre una cuestión procesal más limitada, que el AMAS, tal como estaba diseñado, no habría infringido el artículo 22 del RGPD, pero como los datos subyacentes ya habían sido destruidos, el proyecto no pudo reanudarse.

Conclusiones

Este caso se documenta aquí como un ejemplo de advertencia, no como una buena práctica: el género se codificó como una penalización estadística dentro de un algoritmo de asignación del sector público, y fue necesario un escrutinio académico independiente y la intervención de una autoridad de protección de datos para exponerlo y detenerlo. Constituye evidencia relevante para cualquier práctica de IA en servicios públicos que se presente como neutra en materia de género por diseño.

Implementación
Coste indicativo
Medio (50 000–500 000 €) — Development contracted to Synthesis Forschung for roughly €240,000; total project cost before termination was approximately €2.5 million.
Tiempo hasta resultados
Medio (1–3 años) — Deployed 2018-2020; halted by the Austrian Data Protection Authority in August 2020; the Federal Administrative Court ruled on a narrower procedural question in September 2025 but could not revive the project since the data had already been deleted.
Personal y competencias
Synthesis Forschung (external contractor building the scoring model), AMS internal project and data-protection team, Austria's Data Protection Authority (regulatory oversight)

Condiciones para el éxito

  • Independent bias and legal review of scoring variables before deployment
  • Exclusion of protected-characteristic proxies (gender, childcare obligations) from scoring models
  • Transparency of model variables and weights to allow external audit before rollout

Modos de fallo comunes

  • Gender was used as a direct negative-weighted variable in the scoring model
  • A 'childcare obligations' variable applied only to women, functioning as an indirect gender penalty
  • The system was deployed without an adequate legal basis for automated individual profiling, per the Austrian Data Protection Authority
  • Lack of transparency/external audit prior to rollout meant the bias was only caught after outside researchers examined the published model
  • Destruction of the underlying data on termination meant even a later, narrower favourable court ruling could not revive or correct the system

Dónde encaja

Tipo de gobernanza
national public employment service (algorithmic administrative decision-making)
Escala
national
Nivel de ingresos
high-income

Habitualmente financiado por

National / regional programmes

Vías de financiación indicativas para prácticas de este tipo: compruebe siempre las convocatorias vigentes y las reglas de elegibilidad de cada programa.

¿Usted implementa esta práctica? Reivindíquela — los implementadores verificados obtienen un contacto público en la página y pueden proponer correcciones.

Fuentes de datos

De dónde se obtuvo la información de esta práctica, y cuándo.

Adjuntos

Prácticas similares que pueden serle útiles