Algoritmo de Emparelhamento de Emprego da AMS na Áustria (AMAS, 2018–2020) — Um Caso de Alerta sobre Viés de Género por Conceção

A AMS (serviço público de emprego da Áustria) encomendou à Synthesis Forschung (cerca de 240.000 euros) o desenvolvimento do "Arbeitsmarktchancen-Assistenz-System" (AMAS), um algoritmo que pontuava as hipóteses de reemprego dos candidatos e os classificava em grupos: A (pouca ajuda necessária), B (candidatos a reconversão) e C (poucas hipóteses, apoio reduzido). Análises independentes (AlgorithmWatch; Allhutter et al., Frontiers in Big Data, 2020) revelaram que o modelo publicado atribuía um peso negativo (−0,14) apenas por o candidato ser mulher, e incluía uma variável de penalização por "obrigações de cuidado infantil" que, segundo o desenho do modelo, se aplicava apenas às mulheres.
Em agosto de 2020, a Autoridade de Proteção de Dados da Áustria ordenou a suspensão do projeto, considerando que carecia de base legal e constituía perfilamento automatizado individual proibido; a AMS eliminou os dados e o modelo associados, encerrando efetivamente um projeto de cerca de 2,5 milhões de euros. Em setembro de 2025, o Tribunal Administrativo Federal austríaco (BVwG) decidiu, numa questão processual mais restrita, que o AMAS, tal como concebido, não teria violado o artigo 22.º do RGPD — mas, como os dados subjacentes já tinham sido destruídos, o projeto não pôde ser retomado.
É incluído aqui como um caso de alerta e não de boa prática: um exemplo real de género codificado como penalização estatística num algoritmo de alocação do setor público, o escrutínio académico e da sociedade civil que o expôs, e a intervenção reguladora que o travou — evidência útil para qualquer prática de IA em serviços públicos que se apresente como neutra em termos de género por conceção.