Safety at Screening Tool de Oregón — algoritmo de riesgo en protección infantil retirado en 2022 tras la disparidad racial del modelo de Allegheny

Desde 2018, el Departamento de Servicios Humanos de Oregón usó la Safety at Screening Tool, que generaba puntuaciones sobre la probabilidad de que un menor acabara en acogimiento o fuera investigado de nuevo, para ayudar al personal de la línea de denuncias a decidir qué informes de abuso y negligencia investigar. Los trabajadores conservaban la decisión final. La herramienta se inspiró en la Allegheny Family Screening Tool de Pensilvania.
En abril de 2022, Associated Press informó de una investigación de la Universidad Carnegie Mellon sobre el algoritmo de Allegheny: habría recomendado investigar a cerca de dos tercios de los niños negros, frente a cerca de la mitad de los demás. Oregón afirmó que su herramienta incluía una «corrección de equidad». En mayo de 2022, el DHS comunicó al personal que dejaría de usar el algoritmo a finales de junio de 2022.
El motivo declarado fue que la herramienta predictiva no podía incorporarse al nuevo modelo de Structured Decision Making, basado en información específica de la familia; los responsables mencionaron también la equidad y la mejora continua. El senador Ron Wyden criticó el uso de «algoritmos sin probar». En las fuentes consultadas no hay evaluación independiente de la herramienta de Oregón.
Lección: las agencias que adoptan modelos predictivos importados deben exigir validación local publicada y pruebas de disparidad antes del despliegue, y planificar la salida.