AMAS — L'algorithme autrichien de profilage des chômeurs, interdit puis validé

Entre 2015 et 2018, le service public de l'emploi autrichien (Arbeitsmarktservice, AMS) a développé un modèle de notation basé sur une régression — baptisé par la suite AMAS (Arbeitsmarktchancen-Assistenzsystem) — qui classait chaque demandeur d'emploi inscrit dans l'un de trois groupes d'employabilité (A : bonnes perspectives, B : moyennes, C : faibles), à partir de variables telles que l'âge, le genre, la nationalité, les charges de garde d'enfants et le handicap. Les personnes du groupe C, jugées les moins susceptibles de retrouver rapidement un emploi, devaient être écartées des programmes de formation les plus coûteux de l'AMS pour des raisons de rentabilité, tandis que celles du groupe A étaient elles aussi reléguées au profit du groupe B, l'hypothèse étant qu'elles retrouveraient un emploi sans aide.

Une étude académique indépendante (Allhutter et al., Frontiers in Big Data, 2020) a obtenu la documentation technique du modèle et a constaté qu'il soustrayait explicitement 0,14 point au score d'une candidate du simple fait d'être une femme, pénalisant davantage encore les femmes ayant déclaré des charges de garde d'enfants — une variable non appliquée aux hommes. L'autorité autrichienne de protection des données (Datenschutzbehörde) a interdit le système en août 2020, jugeant qu'il constituait une forme intrusive et insuffisamment justifiée de profilage automatisé. L'AMS a fait appel, et le tribunal administratif fédéral (BVwG) lui a donné raison en décembre 2020, avant que l'affaire ne soit à nouveau contestée et ne soit définitivement tranchée qu'en septembre 2025, le BVwG jugeant qu'AMAS ne violait pas l'article 22 du RGPD dès lors qu'un agent humain conservait la décision finale.

Cette validation est arrivée trop tard pour avoir un effet opérationnel : l'AMS avait déjà supprimé les données du projet AMAS à l'automne 2020 et, selon le président du conseil, Johannes Kopf, a dû amortir la perte d'environ 2,5 millions d'euros de coûts de développement. Kopf a confirmé en septembre 2025 que l'AMS n'avait pas l'intention de relancer le système, estimant que trop de temps s'était écoulé et qu'aujourd'hui l'AMS utiliserait probablement d'autres méthodes, fondées sur l'IA. AMAS n'a jamais été déployé à l'échelle nationale : il est resté un projet pilote contesté pendant toute son existence de cinq ans.