Desde 2016, o Condado de Allegheny utiliza um modelo de previsão de risco para apoiar a triagem de denúncias de maus-tratos infantis. Avaliações indicam que reduziu as lacunas raciais nas taxas de investigação, mas estudos independentes também apontam enviesamento — um caso transparente e contestado.
A Allegheny Family Screening Tool (AFST) ajuda o pessoal de triagem de chamadas dos serviços de proteção infantil do condado de Allegheny, integrando centenas de elementos de dados administrativos numa 'Pontuação de Triagem Familiar' (Family Screening Score) que prevê o envolvimento futuro com os serviços de proteção infantil. Está em utilização desde 2016.
Results
Avaliações oficiais constataram que a ferramenta reduziu as investigações de sinalizações de baixo risco, aumentou-as no caso das sinalizações de alto risco, e reduziu o diferencial racial nas taxas de investigação, sem aumentar a carga de trabalho dos técnicos. Investigação independente identificou, separadamente, viés racial nas decisões previstas pela ferramenta, que os técnicos corrigiram parcialmente ao substituir as recomendações da ferramenta.
Conclusions
O AFST destaca-se por ser invulgarmente transparente e por ter sido objeto de avaliação externa, mantendo-se, ainda assim, genuinamente contestado — um retrato realista dos modelos preditivos de risco em serviços sociais de elevado risco.
Implementation
Implementation detail (cost, timeline, staffing, conditions for success) is not yet available for this practice.
Data sources
Where this practice's information was retrieved from, and when.
In 2018 Salta province (Argentina) and Microsoft built a predictive-analytics algorithm claiming to flag named girls "predestined" for teen pregnancy …