evidoria

← Retour à la liste

Bonne pratique Importée

L'algorithme de placement de l'AMS autrichien (AMAS, 2018–2020) — Un cas d'alerte sur le biais de genre intégré dès la conception

Autriche · Vienna · Voir le profil de Autriche · Voir le profil de Vienna

Preuves: Observationnel / avant-après Top 90% 19/100 · Demandez à Evidence Copilot à propos de cette pratique

Le service public de l'emploi autrichien a développé, pour 240 000 euros, un outil de notation statistique (AMAS) pénalisant le fait d'être une femme et intégrant un facteur « obligations de garde d'enfants » appliqué uniquement aux femmes, pour classer les demandeurs d'emploi. L'autorité autrichienne de protection des données a interdit l'outil en 2020 pour profilage illégal ; les données sous-jacentes ont été supprimées.

240,000 EUR
Coût de développement (contrat Synthesis Forschung) (2018)
-0.14 model coefficient
Poids négatif attribué du fait d'être une femme (2018-2020)
2.5 million EUR
Coût total du projet avant son arrêt (2018-2020)
L'algorithme de placement de l'AMS autrichien (AMAS, 2018–2020) — Un cas d'alerte sur le biais de genre intégré dès la conception

Détails

Maturité
Abandonnée
Promoteur
Arbeitsmarktservice (AMS) — Austrian Public Employment Service
Période
2018–2020 (deployed and banned); 2025 (court review)
Région (NUTS)
AT13
Mots-clés
public employment services, algorithmic governance, data protection, gender equality

Contexte

Le service public de l'emploi autrichien (AMS) a chargé la société de recherche Synthesis Forschung, pour environ 240 000 €, de développer le « Arbeitsmarktchancen-Assistenz-System » (AMAS) — un algorithme destiné à évaluer les chances de retour à l'emploi des demandeurs d'emploi et à les classer en trois groupes : A (peu d'aide nécessaire), B (candidats à la reconversion) et C (faibles perspectives, soutien réduit).

Objectifs

L'objectif affiché était d'allouer plus efficacement les ressources de soutien à l'emploi de l'AMS en prédisant les chances de chaque demandeur d'emploi de retrouver un emploi.

Activités

AMAS a été utilisé entre 2018 et 2020, attribuant à chaque demandeur d'emploi un score déterminant le niveau de soutien reçu. Des chercheurs indépendants (Allhutter et al., publié dans Frontiers in Big Data) ont analysé le modèle de notation publié, et l'organisation de défense des droits numériques AlgorithmWatch a rendu publics ces résultats.

Résultats

L'analyse indépendante a révélé que le modèle attribuait un poids négatif de −0,14 simplement du fait d'être une femme, et incluait une variable de pénalité liée aux « obligations de garde d'enfants » qui, de par sa conception, ne s'appliquait qu'aux femmes. En août 2020, l'autorité autrichienne de protection des données a ordonné l'arrêt du projet, jugeant qu'il manquait de base légale et constituait un profilage individuel automatisé interdit ; l'AMS a supprimé le modèle et les données associées, mettant fin à un projet d'environ 2,5 millions d'euros. En septembre 2025, la Cour administrative fédérale autrichienne a jugé, sur une question procédurale plus restreinte, que l'AMAS tel que conçu n'aurait pas enfreint l'article 22 du RGPD — mais les données sous-jacentes ayant déjà été détruites, le projet n'a pas pu être relancé.

Conclusions

Ce cas est documenté ici comme un exemple d'alerte plutôt que comme une bonne pratique : le genre a été codé comme une pénalité statistique au sein d'un algorithme d'allocation du secteur public, et il a fallu un examen académique indépendant ainsi que l'intervention d'une autorité de protection des données pour l'exposer et y mettre fin. Il constitue une preuve pertinente pour toute pratique d'IA dans les services publics se présentant comme neutre en matière de genre par conception.

Mise en œuvre
Coût indicatif
Moyen (50 k€–500 k€) — Development contracted to Synthesis Forschung for roughly €240,000; total project cost before termination was approximately €2.5 million.
Délai jusqu’aux résultats
Moyen (1–3 ans) — Deployed 2018-2020; halted by the Austrian Data Protection Authority in August 2020; the Federal Administrative Court ruled on a narrower procedural question in September 2025 but could not revive the project since the data had already been deleted.
Personnel et compétences
Synthesis Forschung (external contractor building the scoring model), AMS internal project and data-protection team, Austria's Data Protection Authority (regulatory oversight)

Conditions de réussite

  • Independent bias and legal review of scoring variables before deployment
  • Exclusion of protected-characteristic proxies (gender, childcare obligations) from scoring models
  • Transparency of model variables and weights to allow external audit before rollout

Modes d’échec courants

  • Gender was used as a direct negative-weighted variable in the scoring model
  • A 'childcare obligations' variable applied only to women, functioning as an indirect gender penalty
  • The system was deployed without an adequate legal basis for automated individual profiling, per the Austrian Data Protection Authority
  • Lack of transparency/external audit prior to rollout meant the bias was only caught after outside researchers examined the published model
  • Destruction of the underlying data on termination meant even a later, narrower favourable court ruling could not revive or correct the system

Où cela s’applique

Type de gouvernance
national public employment service (algorithmic administrative decision-making)
Échelle
national
Niveau de revenu
high-income

Habituellement financé par

National / regional programmes

Pistes de financement indicatives pour des pratiques de ce type — vérifiez toujours les appels en cours et les règles d'éligibilité de chaque programme.

Vous portez cette pratique ? Revendiquez-la — les porteurs vérifiés obtiennent un contact public sur la page et peuvent proposer des corrections.

Sources de données

D'où proviennent les informations de cette pratique, et quand.

Pièces jointes

Pratiques similaires qui pourraient vous être utiles