evidoria

← Retour à la liste

Bonne pratique Importée

AMS Berufsinfomat — le chatbot public d'information sur les métiers en Autriche et son scandale de biais

Autriche · Vienna · Voir le profil de Autriche · Voir le profil de Vienna

Preuves: Descriptif / auto-déclaré Top 70% 40/100 · Demandez à Evidence Copilot à propos de cette pratique

Le service public de l'emploi autrichien propose un chatbot d'IA générative gratuit sur métiers, salaires, formations, utilisé en écoles et agences d'emploi. Quelques jours après son lancement de janvier 2024, il donnait des conseils sexistes et discriminatoires, vite corrigés.

~140,000
Questions posées (2,5 premières semaines) (January 2024)
122,150
Réponses générées en 2025 (2025)
275,160 EUR
Coût de développement au 31 déc. 2023
~5,000
Questions signalées pour biais de genre (sur les 140 000 premières)
1,857,200
Visiteurs du Karrierekompass (2025, à titre de comparaison) (2025)
AMS Berufsinfomat — le chatbot public d'information sur les métiers en Autriche et son scandale de biais

Détails

Maturité
Établie
Promoteur
Arbeitsmarktservice Österreich (AMS)
Période
2023–ongoing
Région (NUTS)
AT13
Mots-clés
career guidance, public employment services, generative AI, school-to-work transition, chatbot

Contexte

Le Berufsinfomat est un chatbot d'IA générative gratuit, lancé le 3 janvier 2024 par le service public de l'emploi autrichien AMS, qui puise dans le contenu propre d'information sur les carrières de l'AMS et le transmet à un LLM commercial via l'API OpenAI.

Activités

L'AMS a intégré une atténuation des biais dans son processus après le lancement : elle a signalé environ 5 000 des 140 000 premières questions comme susceptibles de biais de genre, constitué un jeu de test de 1 000 questions sur le genre et effectué des tests de régression, publiant des correctifs les 5, 10 et 19 janvier 2024.

Résultats

Environ 140 000 questions ont été posées lors des 2,5 premières semaines ; l'AMS rapporte 122 150 réponses générées en 2025 ; les coûts de développement au 31 décembre 2023 se sont élevés à 275 160 euros.

Conclusions

Dans les 48 heures suivant son lancement, l'outil est devenu une controverse nationale en raison de réponses stéréotypées selon le genre et discriminatoires ; aucune évaluation d'impact, étude contrôlée ou donnée de satisfaction utilisateur n'a été publiée, et l'Autriche avait déjà un précédent lié à l'algorithme de profilage des demandeurs d'emploi de l'AMS (AMAS).

Mise en œuvre
Coût indicatif
Faible (< 50 k€)
Délai jusqu’aux résultats
Moyen (1–3 ans)
Personnel et compétences
GoodGuys GmbH, Bundesrechenzentrum GmbH, Braintrust Marketing Service GmbH, AMS

Conditions de réussite

  • Regression testing on bias after each correction
  • Transparent procurement disclosure

Modes d’échec courants

  • Gender-stereotyped and discriminatory answers documented within 48 hours of launch
  • Direct-award procurement without competing tenders
  • Source code obfuscated after criticism

Habituellement financé par

National / regional programmes ESF+ — European Social Fund Plus

Pistes de financement indicatives pour des pratiques de ce type — vérifiez toujours les appels en cours et les règles d'éligibilité de chaque programme.

Vous portez cette pratique ? Revendiquez-la — les porteurs vérifiés obtiennent un contact public sur la page et peuvent proposer des corrections.

Sources de données

D'où proviennent les informations de cette pratique, et quand.

Pièces jointes

Pratiques similaires qui pourraient vous être utiles