Algoritmo de Emparejamiento de Empleo de la AMS en Austria (AMAS, 2018–2020) — Un Caso de Alerta sobre Sesgo de Género por Diseño

La AMS (servicio público de empleo de Austria) encargó a Synthesis Forschung (unos 240.000 euros) el desarrollo del "Arbeitsmarktchancen-Assistenz-System" (AMAS), un algoritmo que puntuaba las probabilidades de reempleo de los solicitantes y los clasificaba en grupos: A (necesita poca ayuda), B (candidatos a reciclaje), y C (pocas probabilidades, apoyo reducido). Análisis independientes (AlgorithmWatch; Allhutter et al., Frontiers in Big Data, 2020) hallaron que el modelo publicado asignaba un peso negativo (−0,14) por el mero hecho de ser mujer, e incluía una variable de penalización por "obligaciones de cuidado infantil" que, según el diseño del modelo, se aplicaba solo a las mujeres.
En agosto de 2020, la Autoridad de Protección de Datos de Austria ordenó detener el proyecto, al considerar que carecía de base legal y constituía un perfilado individual automatizado prohibido; la AMS eliminó los datos y el modelo asociados, poniendo fin de facto a un proyecto de unos 2,5 millones de euros. En septiembre de 2025, el Tribunal Administrativo Federal austriaco (BVwG) dictaminó, sobre una cuestión procesal más limitada, que el AMAS tal como estaba diseñado no habría infringido el artículo 22 del RGPD — pero, al haberse destruido ya los datos subyacentes, el proyecto no pudo reanudarse.
Se incluye aquí como un caso de alerta y no de buena práctica: un ejemplo real de género codificado como penalización estadística en un algoritmo de asignación del sector público, el escrutinio académico y de la sociedad civil que lo destapó, y la intervención regulatoria que lo detuvo — evidencia útil para cualquier práctica de IA en servicios públicos que se presente como neutral en materia de género por diseño.