AMS Berufsinfomat — O chatbot público de informação profissional da Áustria e o seu escândalo de enviesamento

O Berufsinfomat é um chatbot de IA generativa gratuito, lançado em 3 de janeiro de 2024 pelo Arbeitsmarktservice Österreich (AMS), o serviço público de emprego austríaco, na sequência de uma prova de conceito encomendada em abril de 2023. Foi construído pela GoodGuys GmbH, com a Bundesrechenzentrum GmbH e a Braintrust Marketing Service GmbH. O sistema responde a perguntas sobre profissões, salários, educação e percursos de formação, recorrendo a conteúdos do próprio AMS — o Berufsinformationssystem, o Berufslexikon e o AusbildungsKompass — e transmitindo-os a um grande modelo de linguagem comercial através da API da OpenAI; o ministério afirma que nenhum dado do AMS foi utilizado para treinar um modelo. É utilizado diretamente por alunos e por pessoas em reconversão profissional, e por conselheiros do AMS e pelos BerufsInfoZentren, incluindo em workshops com turmas escolares.

Os números de utilização publicados são substanciais. Foram feitas cerca de 140,000 perguntas nas primeiras duas semanas e meia, até 20 de janeiro de 2024. O AMS reporta 122,150 respostas geradas durante 2025, em mais de 100 línguas. Para efeitos de escala, o mesmo relatório do AMS de 2025 regista 1,857,200 visitantes do Karrierekompass e 711,560 utilizadores da Weiterbildungsdatenbank, pelo que o chatbot continua a ser um canal pequeno face aos produtos de informação profissional já estabelecidos do AMS. Os custos de desenvolvimento faturados até 31 de dezembro de 2023 ascenderam a 275,160 euros — 74,880 euros à GoodGuys GmbH pela prova de conceito, 14,280 euros à Braintrust e 186,000 euros à Bundesrechenzentrum — com um máximo previsto de 231,977.51 euros para o primeiro trimestre de 2024. O contrato foi celebrado por ajuste direto, sem concurso.

No prazo de 48 horas após o lançamento, a ferramenta tornou-se uma controvérsia nacional. Jornalistas e programadores independentes documentaram respostas estereotipadas quanto ao género e discriminatórias: mulheres encaminhadas para profissões a tempo parcial e de cuidados, homens homossexuais para empregos «criativos» e utilizadores seropositivos aconselhados sobre tecnologias de apoio. Foram também expostas publicamente fragilidades de segurança e de código. Na resposta à pergunta parlamentar 17485/J, o ministério responsável admitiu que, no lançamento, nem todos os pontos puderam ser implementados de forma satisfatória e que os erros não podem ser inteiramente excluídos. Foram lançadas correções a 5, 10 e 19 de janeiro de 2024. O AMS tinha assinalado cerca de 5,000 das primeiras 140,000 perguntas como propensas a enviesamento de género, construiu um conjunto de teste de 1,000 perguntas sobre género e realizou testes de regressão em amostras de 100 a 200 perguntas aleatórias. O código-fonte foi também ofuscado após as críticas.

A transparência documental é aqui invulgarmente forte: custos, via de contratação, método de mitigação de enviesamentos e contagens anuais de utilização são todos públicos, através de resposta parlamentar e do relatório anual do AMS. Faltam provas de resultados. Não existe avaliação de impacto, nem estudo controlado, nem dados publicados de satisfação dos utilizadores, e nada que ligue a utilização do chatbot a escolhas educativas ou profissionais mais informadas. A Áustria já tinha um precedente relacionado no algoritmo de traçado de perfis de candidatos a emprego do AMS (AMAS), o que torna uma falha de enviesamento de género num sistema sucessor do AMS uma repetição e não uma surpresa. O caso merece ser adotado como modelo de divulgação e de correção pós-lançamento sob escrutínio público — e não como prova de que a orientação profissional com IA melhora as decisões.