O AMS austríaco classificava candidatos em 3 níveis de empregabilidade para racionar verbas de formação; investigadores encontraram uma penalização de −0,14 por ser mulher. A autoridade de dados baniu-o em 2020; os tribunais só o validaram em 2025, após a AMS perder €2,5 milhões.
-0.14 points
Penalização de género aplicada à pontuação de empregabilidade
2.5 million EUR
Custo de desenvolvimento do AMS considerado como perda
3
Níveis de empregabilidade
5
Anos em que o modelo esteve em desenvolvimento e uso piloto (2015-2020)
5
Anos entre a proibição pela autoridade de proteção de dados e a decisão final do tribunal (2020-2025)
Detalhes
Maturidade
Descontinuada
Promotor
Arbeitsmarktservice (AMS) — Austria's Public Employment Service
Período
2015–2020 (development and pilot); September 2025 (final court ruling)
Região (NUTS)
AT13
Palavras-chave
public employment services, labour market, welfare targeting, algorithmic profiling
Contexto
Entre 2015 e 2018, o Serviço Público de Emprego da Áustria (Arbeitsmarktservice, AMS) desenvolveu um modelo de pontuação baseado em regressão, mais tarde designado AMAS, que classificava todos os candidatos a emprego registados em três grupos de empregabilidade (A: boas perspetivas, B: médias, C: baixas), utilizando variáveis como idade, género, nacionalidade, obrigações de cuidado e deficiência. Os candidatos do Grupo C, considerados menos propensos a encontrar emprego rapidamente, deveriam ser afastados dos programas de formação mais dispendiosos do AMS por razões de eficiência de custos, enquanto os do Grupo A eram também preteridos, partindo do princípio de que encontrariam emprego sem apoio.
Resultados
Um estudo académico independente (Allhutter et al., Frontiers in Big Data, 2020) obteve a documentação técnica do AMAS e constatou que este subtraía explicitamente 0,14 pontos à pontuação de uma candidata por ser mulher, com uma penalização adicional por obrigações de cuidado declaradas, aplicada apenas a mulheres. A autoridade austríaca de proteção de dados proibiu o sistema em agosto de 2020, por constituir uma forma de definição de perfis automatizada insuficientemente justificada; o AMS eliminou os dados do projeto nesse outono e, segundo o presidente do conselho de administração, Johannes Kopf, considerou como perda cerca de 2,5 milhões de euros em custos de desenvolvimento.
Conclusões
O Tribunal Administrativo Federal austríaco só resolveu definitivamente o litígio jurídico em setembro de 2025, decidindo que o AMAS não violava o artigo 22.º do RGPD, uma vez que um técnico humano mantinha a decisão final — mas, nessa altura, o AMS já tinha abandonado o projeto e confirmado que não tem planos para o retomar, afirmando que hoje utilizaria provavelmente métodos diferentes, baseados em IA. O AMAS nunca chegou a ser implementado a nível nacional e manteve-se como um projeto-piloto contestado durante toda a sua existência de cinco anos.
Implementação
Custo indicativo
Médio (50 mil–500 mil €) — AMS wrote off roughly €2.5 million in development costs after abandoning the project
Tempo até resultados
Longo (> 3 anos) — Developed 2015-2018; piloted through 2020; banned by the DPA in August 2020; legal challenge resolved only in September 2025
Equipa e competências
Arbeitsmarktservice (AMS), Austria's Public Employment Service (developed the model in-house), Austria's Datenschutzbehörde (data protection authority, ruled on the ban), Federal Administrative Court (BVwG, final legal ruling)
Condições de sucesso
Retaining a human caseworker with final sign-off was the factor courts ultimately cited in finding the system did not violate GDPR Article 22
Modos de falha comuns
Model explicitly subtracted 0.14 points from a jobseeker's score for being a woman, with an added penalty for declared care obligations applied only to women
System was built and used to ration access to training funds for years before any external evaluation of its fairness was published
Data protection authority found the automated profiling insufficiently justified and transparent
AMS wrote off roughly €2.5 million and deleted project data rather than remediate the model