L'algorithme de placement de l'AMS autrichien (AMAS, 2018–2020) — Un cas d'alerte sur le biais de genre intégré dès la conception

L'AMS (service public de l'emploi autrichien) a chargé Synthesis Forschung (environ 240 000 euros) de développer l'« Arbeitsmarktchancen-Assistenz-System » (AMAS), un algorithme évaluant les chances de réemploi des demandeurs d'emploi et les classant en groupes : A (besoin d'aide limité), B (candidats à la reconversion) et C (faibles perspectives, soutien réduit). Des analyses indépendantes (AlgorithmWatch ; Allhutter et al., Frontiers in Big Data, 2020) ont montré que le modèle publié attribuait un poids négatif (−0,14) au simple fait d'être une femme, et intégrait une variable de pénalité liée aux « obligations de garde d'enfants » qui, selon la conception du modèle, ne s'appliquait qu'aux femmes.
En août 2020, l'autorité autrichienne de protection des données a ordonné l'arrêt du projet, jugeant qu'il manquait de base légale et constituait un profilage individuel automatisé prohibé ; l'AMS a supprimé les données et le modèle associés, mettant ainsi fin à un projet d'environ 2,5 millions d'euros. En septembre 2025, la Cour administrative fédérale autrichienne (BVwG) a jugé, sur une question procédurale plus étroite, que l'AMAS tel que conçu n'aurait pas enfreint l'article 22 du RGPD — mais, les données sous-jacentes ayant déjà été détruites, le projet n'a pas pu être relancé.
Ce cas est inclus ici comme un exemple d'alerte plutôt que de bonne pratique : un exemple concret de genre codifié comme pénalité statistique dans un algorithme d'allocation du secteur public, l'examen par la société civile et le monde académique qui l'a mis au jour, et l'intervention réglementaire qui y a mis fin — un enseignement utile pour toute pratique d'IA dans les services publics se présentant comme neutre en matière de genre par conception.