FRAIA — la Evaluación de Impacto de Derechos Fundamentales y Algoritmos de los Países Bajos, Pilotada en 15 Algoritmos Gubernamentales

FRAIA (Evaluación de Impacto de los Derechos Fundamentales y los Algoritmos) es una herramienta estructurada para identificar cómo un algoritmo específico puede afectar los derechos fundamentales, desarrollada originalmente por la Universidad de Utrecht en 2021 para el Ministerio del Interior y Relaciones del Reino. Está pensada para aplicarse antes de que una organización gubernamental desarrolle, adquiera o implemente un sistema de IA o algorítmico.

En 2023, el Ministerio encargó a la Universidad de Utrecht y a la Rijks ICT Gilde (el gremio nacional de TIC) que llevaran a cabo un programa piloto estructurado para acumular experiencia con la FRAIA y fomentar su adopción en todo el gobierno.

Entre el otoño de 2023 y la primavera de 2024, se llevaron a cabo quince pilotos con diferentes organizaciones gubernamentales — divididos equitativamente, ocho supervisados por la Universidad de Utrecht y ocho por la Rijks ICT Gilde — que abarcaron algoritmos en todas las etapas de madurez, desde los aún no construidos hasta los ya en producción, e incluyeron tanto sistemas de aprendizaje automático como sistemas más simples basados en reglas.

El informe piloto publicado concluyó que los participantes se quedaron, en general, con una impresión positiva pese al escepticismo inicial, valorando el debate estructurado que la FRAIA generó entre las perspectivas jurídica, ética y técnica. El principal inconveniente documentado fue que el proceso consume mucho tiempo. Los pilotos también pusieron de manifiesto la necesidad de formar internamente al personal en el pensamiento sobre el impacto algorítmico y de integrar la evaluación de forma más estrecha en las leyes y normas de contratación existentes.

Tras los pilotos, la Cámara de Representantes neerlandesa respaldó hacer obligatorio el uso de la FRAIA para los algoritmos gubernamentales, convirtiendo la herramienta de un instrumento voluntario de buenas prácticas en un requisito de gobernanza vinculante — aunque, en el momento del informe piloto, se trataba de un respaldo y todavía no de un mandato legal plenamente aplicado. La evidencia aquí trata genuinamente sobre el proceso y la adopción institucional, no sobre una reducción medida del daño algorítmico.