O algoritmo de colocação escolar de Gotemburgo em 2020 — distâncias em linha reta, quase 1000 recursos e uma ação judicial perdida por falta de acesso ao código

Na primavera de 2020, a cidade de Gotemburgo colocou pouco mais de 12 000 crianças em escolas com um algoritmo. Segundo a Universidade de Gotemburgo, foi programado para usar a distância em linha reta até à escola e não o percurso a pé, o que deu a muitas crianças trajetos excessivamente longos, por exemplo, através do rio.
A SVT noticiou que 970 pessoas recorreram da escolha escolar de 2020 e que 165 alunos puderam mudar de escola; a maioria dos pedidos de mudança foi recusada. A administração do ensino básico encomendou uma auditoria interna (divulgada em junho de 2020, que identificou vários erros no processo de escolha) e uma auditoria externa (apresentada a 18 de dezembro de 2020, que concluiu que a escolha e a colocação não funcionaram como deviam). O diretor pediu desculpa e foi adotado um plano de ação.
Os pais, entre eles a investigadora Charlotta Kronblad, analisaram eles próprios as colocações e concluíram que um algoritmo defeituoso, sem supervisão humana, estava na origem das decisões. Kronblad processou a cidade e perdeu, segundo a Universidade de Gotemburgo; o caso é muito citado pela dificuldade de contestar uma decisão algorítmica quando o afetado não pode inspecionar o sistema. As regras atuais da cidade medem a distância pelos percursos escolares (caminhos pedonais e ciclovias) e não em linha reta.
Lição para os organismos públicos: validar a lógica dos algoritmos de afetação com a geografia real antes de os usar, manter a revisão humana dos casos extremos e dar aos afetados um meio prático de inspecionar e contestar o método. Não é reportado qualquer benefício medido do sistema; é um caso de alerta.