Previsão de baixas por doença da NAV — um sandbox norueguês conclui que há base legal para usar a IA, mas não clara para a treinar

A administração norueguesa do trabalho e da segurança social (NAV) tem de avaliar, até à 17.ª semana de uma baixa por doença, se é necessária uma segunda reunião de diálogo antes da 26.ª semana. A NAV partiu da hipótese de que há reuniões desnecessárias a mais, que consomem tempo a empregadores, médicos, trabalhadores de baixa e aos seus técnicos, e construiu um modelo de aprendizagem automática para prever a duração da baixa e apoiar a decisão do técnico. A decisão final cabe ao técnico, não ao modelo; o protótipo justificava cada previsão com três fatores a favor de uma duração mais longa e três de uma mais curta.
Em 2021-2022 a NAV levou a ferramenta para o sandbox regulatório de IA responsável da Autoridade norueguesa de Proteção de Dados (Datatilsynet), com a participação do Provedor para a Igualdade e a Não Discriminação na questão da equidade. O relatório final (janeiro de 2022) trata três temas: base legal, equidade e explicabilidade.
Conclusões do relatório: a NAV tem base legal para usar IA como apoio à decisão sobre o acompanhamento individual; é duvidoso que as disposições invocadas (Lei do Seguro Nacional, art. 8-7 a, com o art. 21-4, e Lei da Administração Pública, art. 17) permitam usar dados de saúde de antigos beneficiários para desenvolver o próprio modelo. O relatório é orientação, não uma decisão da Datatilsynet. Quanto à equidade, a NAV operacionalizou a equidade de resultados entre grupos como sexo, idade e diagnóstico, tratando convocatórias desnecessárias como menos graves do que as omitidas, e o relatório aponta uma tensão entre privacidade e equidade, porque testar a discriminação exige dados de grupo. Uma versão totalmente automatizada poderia atingir o limiar do artigo 22.º do RGPD, pelo que é necessária revisão humana efetiva.
Limites da evidência: o sandbox produziu uma avaliação jurídica e ética, não dados de resultados. Um estudo de caso da Universidade de Oslo de 2021 (Høgåsen, Complex 5/2021) descreve o desenvolvimento como inacabado, com a equipa a gastar mais tempo a clarificar os dados utilizáveis do que a construir o algoritmo, e a incerteza sobre a base legal a atrasar o trabalho. Não foram encontrados resultados publicados sobre a redução de reuniões ou a precisão. O relatório conclui que o desenvolvimento futuro exige uma base legal suplementar clara, o que faz deste um caso de cautela e transferível sobre como os organismos públicos podem autorizar o desenvolvimento de IA, e não apenas a sua utilização.