Carta de Algoritmos para Aotearoa Nueva Zelanda — un compromiso voluntario de todo el gobierno, revisado de forma independiente

La Carta de Algoritmos para Aotearoa Nueva Zelanda se lanzó el 28 de julio de 2020 por el entonces ministro de Estadística, el Hon. James Shaw, liderada por Stats NZ, como un compromiso voluntario y transversal a todo el gobierno sobre el uso de algoritmos en la toma de decisiones públicas. Veintiuna agencias la firmaron en el lanzamiento, entre ellas el Department of Corrections, el Ministry of Education, el Ministry of Justice, la Inland Revenue, la Oranga Tamariki y la New Zealand Defence Force.

Conseguir que las agencias firmantes expliquen cómo las decisiones se basan en algoritmos, incorporen una perspectiva Te Ao Maori, y operen los algoritmos 'de manera justa, ética y transparente'.

En el momento de la revisión independiente de la carta, publicada en septiembre de 2022, el número de firmantes había crecido hasta 28 agencias, incluida la New Zealand Police.

La revisión constató un 'apoyo casi universal' a los principios de la carta, pero calificó la implementación como 'aceptable, podría mejorar'. Informó de que la mayoría de las agencias considera que existe una brecha entre los principios generales de la carta y la práctica concreta de cumplimiento; que la ciudadanía tiene 'muy pocas oportunidades' de recurso individual frente a decisiones basadas en algoritmos; y que las agencias identificaron 'la falta de un órgano de supervisión claro' y habían recurrido a la autosupervisión. Recomendó establecer una función de supervisión específica, junto con 24 mejoras prácticas.

Como carta voluntaria y no legislativa, sigue siendo un caso temprano y de gran visibilidad de gobernanza de la IA en el sector público, pero su propia revisión independiente muestra la brecha entre firmar un conjunto de principios y disponer del engranaje institucional para hacerlos cumplir.