evidoria

← Voltar à navegação

Boa prática Importada

AMS Berufsinfomat — O chatbot público de informação profissional da Áustria e o seu escândalo de enviesamento

Áustria · Vienna · Ver o perfil de Áustria · Ver o perfil de Vienna

Evidência: Descritivo / autorreportado Top 70% 40/100 · Pergunte a Evidence Copilot sobre esta prática

O serviço público de emprego austríaco opera um chatbot de IA generativa gratuito sobre profissões, salários e formação, usado em escolas e centros de emprego. Dias após o lançamento, em janeiro de 2024, deu conselhos estereotipados e discriminatórios, forçando correções rápidas.

~140,000
Perguntas colocadas (primeiras 2,5 semanas) (January 2024)
122,150
Respostas geradas em 2025 (2025)
275,160 EUR
Custo de desenvolvimento até 31 de dez. de 2023
~5,000
Perguntas sinalizadas por enviesamento de género (das primeiras 140.000)
1,857,200
Visitantes do Karrierekompass (2025, para escala) (2025)
AMS Berufsinfomat — O chatbot público de informação profissional da Áustria e o seu escândalo de enviesamento

Detalhes

Maturidade
Consolidada
Promotor
Arbeitsmarktservice Österreich (AMS)
Período
2023–ongoing
Região (NUTS)
AT13
Palavras-chave
career guidance, public employment services, generative AI, school-to-work transition, chatbot

Contexto

O Berufsinfomat é um chatbot de IA generativa gratuito, lançado a 3 de janeiro de 2024 pelo serviço público de emprego austríaco AMS, que recupera conteúdo próprio de informação de carreiras da AMS e o transmite a um LLM comercial através da API da OpenAI.

Atividades

A AMS integrou mitigação de enviesamento no seu processo após o lançamento: sinalizou cerca de 5.000 das primeiras 140.000 perguntas como propensas a enviesamento de género, construiu um conjunto de teste de 1.000 perguntas sobre género e executou testes de regressão, lançando correções a 5, 10 e 19 de janeiro de 2024.

Resultados

Cerca de 140.000 perguntas foram colocadas nas primeiras 2,5 semanas; a AMS reporta 122.150 respostas geradas em 2025; os custos de desenvolvimento até 31 de dezembro de 2023 ascenderam a 275.160 euros.

Conclusões

No espaço de 48 horas após o lançamento, a ferramenta tornou-se uma controvérsia nacional devido a respostas estereotipadas por género e discriminatórias; não existe avaliação de impacto, estudo controlado ou dados de satisfação do utilizador publicados, e a Áustria já tinha um precedente relacionado com o algoritmo de perfilagem de candidatos a emprego da AMS (AMAS).

Implementação
Custo indicativo
Baixo (< 50 mil €)
Tempo até resultados
Médio (1–3 anos)
Equipa e competências
GoodGuys GmbH, Bundesrechenzentrum GmbH, Braintrust Marketing Service GmbH, AMS

Condições de sucesso

  • Regression testing on bias after each correction
  • Transparent procurement disclosure

Modos de falha comuns

  • Gender-stereotyped and discriminatory answers documented within 48 hours of launch
  • Direct-award procurement without competing tenders
  • Source code obfuscated after criticism

Habitualmente financiado por

National / regional programmes ESF+ — European Social Fund Plus

Vias de financiamento indicativas para práticas deste tipo — verifique sempre os avisos abertos e as regras de elegibilidade de cada programa.

Implementa esta prática? Reivindique-a — implementadores verificados obtêm um contacto público na página e podem propor correções.

Fontes de dados

De onde foi obtida a informação desta prática, e quando.

Anexos

Práticas semelhantes que podem ser úteis