AMS Berufsinfomat — El chatbot público de información profesional de Austria y su escándalo de sesgos

El Berufsinfomat es un chatbot gratuito de IA generativa lanzado el 3 de enero de 2024 por Arbeitsmarktservice Österreich (AMS), el servicio público de empleo austriaco, tras una prueba de concepto encargada en abril de 2023. Fue desarrollado por GoodGuys GmbH junto con Bundesrechenzentrum GmbH y Braintrust Marketing Service GmbH. El sistema responde a preguntas sobre profesiones, salarios, educación e itinerarios formativos recuperando información de los propios contenidos del AMS —el Berufsinformationssystem, el Berufslexikon y el AusbildungsKompass— y transmitiéndola a un gran modelo de lenguaje comercial a través de la API de OpenAI; el ministerio afirma que no se utilizaron datos del AMS para entrenar ningún modelo. Lo utilizan directamente alumnos y personas en reconversión profesional, así como los orientadores del AMS y los BerufsInfoZentren, incluso en talleres con clases escolares.

Las cifras de uso publicadas son considerables. Se formularon aproximadamente 140,000 preguntas en las primeras dos semanas y media, hasta el 20 de enero de 2024. El AMS informa de 122,150 respuestas generadas durante 2025, en más de 100 idiomas. Para dimensionarlo, el mismo informe del AMS de 2025 registra 1,857,200 visitantes del Karrierekompass y 711,560 usuarios de la Weiterbildungsdatenbank, de modo que el chatbot sigue siendo un canal pequeño frente a los productos de información profesional ya consolidados del AMS. Los costes de desarrollo facturados hasta el 31 de diciembre de 2023 ascendieron a 275,160 euros —74,880 euros a GoodGuys GmbH por la prueba de concepto, 14,280 euros a Braintrust y 186,000 euros a Bundesrechenzentrum— con un máximo previsto de 231,977.51 euros para el primer trimestre de 2024. El contrato se adjudicó de forma directa, sin licitación competitiva.

En las 48 horas siguientes al lanzamiento la herramienta se convirtió en una polémica nacional. Periodistas y desarrolladores independientes documentaron respuestas discriminatorias y con estereotipos de género: mujeres orientadas hacia el empleo a tiempo parcial y las profesiones de cuidados, hombres homosexuales hacia trabajos «creativos» y usuarios seropositivos a los que se ofrecían consejos sobre tecnología de apoyo. También se expusieron públicamente debilidades de seguridad y de código. Al responder a la pregunta parlamentaria 17485/J, el ministerio responsable admitió que en el lanzamiento no todos los aspectos pudieron implementarse de forma satisfactoria y que no cabe excluir por completo los errores. Se publicaron correcciones el 5, el 10 y el 19 de enero de 2024. El AMS había señalado alrededor de 5,000 de las primeras 140,000 preguntas como propensas al sesgo de género, elaboró un conjunto de pruebas de género de 1,000 preguntas y realizó pruebas de regresión sobre muestras de 100 a 200 preguntas aleatorias. El código fuente también se ofuscó tras las críticas.

La transparencia documental es aquí inusualmente sólida: los costes, la vía de contratación, el método de mitigación de sesgos y las cifras anuales de uso son todos públicos, a través de la respuesta parlamentaria y de los informes anuales del AMS. Falta evidencia de resultados. No hay evaluación de impacto, ni estudio controlado, ni datos publicados de satisfacción de las personas usuarias, ni nada que vincule el uso del chatbot con decisiones educativas u ocupacionales mejor informadas. Austria ya contaba con un precedente relacionado en el algoritmo de perfilado de demandantes de empleo del AMS (AMAS), lo que convierte un fallo de sesgo de género en un sistema sucesor del AMS en una repetición más que en una sorpresa. El caso merece adoptarse como modelo de divulgación y de remediación posterior al lanzamiento bajo escrutinio público, no como prueba de que la orientación profesional con IA mejore las decisiones.