evidoria

← Voltar à navegação

Boa prática Importada

Algoritmo de Emparelhamento de Emprego da AMS na Áustria (AMAS, 2018–2020) — Um Caso de Alerta sobre Viés de Género por Conceção

Áustria · Vienna · Ver o perfil de Áustria · Ver o perfil de Vienna

Evidência: Observacional / pré-pós Top 90% 19/100 · Pergunte a Evidence Copilot sobre esta prática

O serviço público de emprego da Áustria desenvolveu, por 240.000 euros, uma ferramenta de pontuação estatística (AMAS) que penalizava o facto de ser mulher e um fator de "obrigações de cuidado" aplicado apenas a mulheres, para classificar candidatos a emprego. A autoridade austríaca de proteção de dados proibiu a ferramenta em 2020 por perfilamento ilegal; os dados subjacentes foram eliminados.

240,000 EUR
Custo de desenvolvimento (contrato com a Synthesis Forschung) (2018)
-0.14 model coefficient
Peso negativo atribuído por se ser mulher (2018-2020)
2.5 million EUR
Custo total do projeto antes do encerramento (2018-2020)
Algoritmo de Emparelhamento de Emprego da AMS na Áustria (AMAS, 2018–2020) — Um Caso de Alerta sobre Viés de Género por Conceção

Detalhes

Maturidade
Descontinuada
Promotor
Arbeitsmarktservice (AMS) — Austrian Public Employment Service
Período
2018–2020 (deployed and banned); 2025 (court review)
Região (NUTS)
AT13
Palavras-chave
public employment services, algorithmic governance, data protection, gender equality

Contexto

O serviço público de emprego da Áustria (AMS) contratou a empresa de investigação Synthesis Forschung, por cerca de €240.000, para construir o 'Arbeitsmarktchancen-Assistenz-System' (AMAS) — um algoritmo destinado a pontuar as hipóteses de reemprego dos candidatos a emprego e a classificá-los em três grupos de apoio: A (necessita de pouca ajuda), B (candidatos a reconversão) e C (baixas perspetivas, apoio reduzido).

Objetivos

O objetivo declarado era alocar de forma mais eficiente os recursos de apoio ao emprego do AMS, prevendo as hipóteses de cada candidato regressar ao mercado de trabalho.

Atividades

O AMAS foi utilizado entre 2018 e 2020, atribuindo a cada candidato uma pontuação que determinava o nível de apoio recebido. Investigadores independentes (Allhutter et al., publicado na Frontiers in Big Data) analisaram o modelo de pontuação publicado, e a organização de direitos digitais AlgorithmWatch divulgou os resultados.

Resultados

A análise independente concluiu que o modelo atribuía um peso negativo de −0,14 apenas por se ser mulher, e incluía uma variável de penalização por 'obrigações de cuidado infantil' que, por conceção, se aplicava apenas a mulheres. Em agosto de 2020, a Autoridade de Proteção de Dados da Áustria ordenou a suspensão do projeto, considerando que carecia de base legal e constituía uma definição de perfis automatizada proibida; o AMS eliminou o modelo e os dados associados, terminando um projeto de cerca de €2,5 milhões. Em setembro de 2025, o Tribunal Administrativo Federal austríaco decidiu, sobre uma questão processual mais restrita, que o AMAS, tal como concebido, não teria violado o artigo 22.º do RGPD — mas, como os dados subjacentes já tinham sido destruídos, o projeto não pôde ser retomado.

Conclusões

Este caso é aqui documentado como um exemplo de alerta, e não de boa prática: o género foi codificado como uma penalização estatística dentro de um algoritmo de alocação do setor público, e foi necessário o escrutínio académico independente e a intervenção de uma autoridade de proteção de dados para o expor e travar. Constitui evidência relevante para qualquer prática de IA em serviços públicos que se apresente como neutra em termos de género por conceção.

Implementação
Custo indicativo
Médio (50 mil–500 mil €) — Development contracted to Synthesis Forschung for roughly €240,000; total project cost before termination was approximately €2.5 million.
Tempo até resultados
Médio (1–3 anos) — Deployed 2018-2020; halted by the Austrian Data Protection Authority in August 2020; the Federal Administrative Court ruled on a narrower procedural question in September 2025 but could not revive the project since the data had already been deleted.
Equipa e competências
Synthesis Forschung (external contractor building the scoring model), AMS internal project and data-protection team, Austria's Data Protection Authority (regulatory oversight)

Condições de sucesso

  • Independent bias and legal review of scoring variables before deployment
  • Exclusion of protected-characteristic proxies (gender, childcare obligations) from scoring models
  • Transparency of model variables and weights to allow external audit before rollout

Modos de falha comuns

  • Gender was used as a direct negative-weighted variable in the scoring model
  • A 'childcare obligations' variable applied only to women, functioning as an indirect gender penalty
  • The system was deployed without an adequate legal basis for automated individual profiling, per the Austrian Data Protection Authority
  • Lack of transparency/external audit prior to rollout meant the bias was only caught after outside researchers examined the published model
  • Destruction of the underlying data on termination meant even a later, narrower favourable court ruling could not revive or correct the system

Onde se enquadra

Tipo de governação
national public employment service (algorithmic administrative decision-making)
Escala
national
Nível de rendimento
high-income

Habitualmente financiado por

National / regional programmes

Vias de financiamento indicativas para práticas deste tipo — verifique sempre os avisos abertos e as regras de elegibilidade de cada programa.

Implementa esta prática? Reivindique-a — implementadores verificados obtêm um contacto público na página e podem propor correções.

Fontes de dados

De onde foi obtida a informação desta prática, e quando.

Anexos

Práticas semelhantes que podem ser úteis