AMAS — L'algorithme autrichien de profilage des chômeurs, interdit puis validé

Entre 2015 et 2018, le Service public de l'emploi autrichien (Arbeitsmarktservice, AMS) a développé un modèle de notation basé sur une régression, baptisé par la suite AMAS, qui répartissait chaque demandeur d'emploi inscrit en trois groupes d'employabilité (A : bonnes perspectives, B : moyennes, C : faibles), à partir de variables telles que l'âge, le sexe, la nationalité, les obligations de garde d'enfants et le handicap. Les demandeurs du groupe C, jugés les moins susceptibles de retrouver rapidement un emploi, devaient être écartés des programmes de formation les plus coûteux de l'AMS pour des raisons de rentabilité, tandis que ceux du groupe A étaient également relégués, l'hypothèse étant qu'ils retrouveraient un emploi sans accompagnement.

Une étude académique indépendante (Allhutter et al., Frontiers in Big Data, 2020) a obtenu la documentation technique d'AMAS et a constaté qu'il soustrayait explicitement 0,14 point au score d'une personne pour le simple fait d'être une femme, avec une pénalité supplémentaire pour obligations de garde déclarées, appliquée uniquement aux femmes. L'autorité autrichienne de protection des données a interdit le système en août 2020, le jugeant comme une forme de profilage automatisé insuffisamment justifiée ; l'AMS a supprimé les données du projet à l'automne suivant et, selon le président du conseil d'administration Johannes Kopf, a passé par pertes et profits environ 2,5 millions d'euros de coûts de développement.

La Cour administrative fédérale autrichienne n'a tranché définitivement le litige qu'en septembre 2025, jugeant qu'AMAS ne violait pas l'article 22 du RGPD dans la mesure où un agent humain conservait la décision finale — mais l'AMS avait déjà abandonné le projet et confirmé qu'il n'avait pas l'intention de le relancer, estimant qu'il utiliserait probablement aujourd'hui des méthodes différentes, fondées sur l'IA. AMAS n'a jamais été déployé au niveau national et est resté un projet pilote contesté tout au long de ses cinq années d'existence.