FRAIA — a Avaliação de Impacto de Direitos Fundamentais e Algoritmos dos Países Baixos, Testada em 15 Algoritmos Governamentais

A FRAIA (Avaliação de Impacto dos Direitos Fundamentais e Algoritmos) é uma ferramenta estruturada para identificar como um algoritmo específico pode afetar os direitos fundamentais, originalmente desenvolvida pela Universidade de Utrecht em 2021 para o Ministério do Interior e Relações do Reino. Destina-se a ser aplicada antes de uma organização governamental desenvolver, adquirir ou implementar um sistema de IA ou algorítmico.

Em 2023, o Ministério encarregou a Universidade de Utrecht e a Rijks ICT Gilde (a guilda nacional de TI) de conduzir um programa-piloto estruturado para acumular experiência com a FRAIA e incentivar a sua adoção em todo o governo.

Entre o outono de 2023 e a primavera de 2024, foram realizados quinze pilotos com diferentes organizações governamentais — divididos igualmente, oito supervisionados pela Universidade de Utrecht e oito pela Rijks ICT Gilde — abrangendo algoritmos em todas as fases de maturidade, desde os ainda não construídos até aos já em produção, e cobrindo tanto sistemas de aprendizagem automática como sistemas mais simples baseados em regras.

O relatório-piloto publicado concluiu que os participantes ficaram, de um modo geral, com uma impressão positiva apesar do ceticismo inicial, valorizando a discussão estruturada que a FRAIA gerou entre as perspetivas jurídica, ética e técnica. A principal desvantagem documentada foi o facto de o processo consumir muito tempo. Os pilotos também revelaram a necessidade de formar internamente o pessoal no pensamento sobre o impacto algorítmico e de integrar a avaliação de forma mais estreita nas leis e regras de contratação pública existentes.

Na sequência dos pilotos, a Câmara dos Representantes neerlandesa aprovou tornar obrigatório o uso da FRAIA para os algoritmos governamentais, transformando a ferramenta de um instrumento voluntário de boas práticas num requisito de governação vinculativo — embora, à data do relatório-piloto, se tratasse de uma aprovação e ainda não de um mandato legal totalmente aplicado. A evidência aqui diz genuinamente respeito ao processo e à adoção institucional, e não a uma redução mensurável do dano algorítmico.