Le « grad score » du Nevada — un algorithme non divulgué a retiré le statut de financement « à risque » à 225 000 élèves

Dans son budget éducatif de 2023, le Nevada est devenu le premier État américain à fonder une partie de son financement scolaire directement sur un modèle commercial d'apprentissage automatique. Le système d'alerte précoce du fournisseur Infinite Campus attribue à chaque élève du public un « score de réussite » de 50 à 150, construit à partir d'environ 150 millions d'années-élèves de données et de 75 facteurs pondérés — résultats aux tests, assiduité, comportement documenté, taille du ménage, et même la fréquence à laquelle un parent se connecte au portail de notes. Les élèves obtenant un score inférieur ou égal à 72 (environ le 20e centile le plus bas) sont éligibles à une aide d'État supplémentaire « à risque » : 3 137 USD par élève en plus de la base de 7 073 USD, pour un total de 198,7 millions de USD.

Le passage du précédent test d'éligibilité fondé sur le revenu à ce score prédictif a eu un effet immédiat et spectaculaire : le nombre d'élèves classés « à risque » est passé de 288 000 en 2022-23 à 63 000 en 2023-24 — une baisse d'environ 78 % — réduisant la part d'élèves à risque à l'échelle de l'État, sur les 485 000 élèves du K-12 du Nevada, d'environ 60 % à 13 %. Le dirigeant d'une école à charte a rapporté que seuls 3 des 800 élèves inscrits restaient éligibles, tous déjà diplômés. Le fournisseur revendique une précision prédictive globale de 95 %, mais cette précision est rapportée comme diminuant pour les élèves récemment transférés et ceux ayant un historique d'inscription plus court dans le système.

Des enquêtes indépendantes menées par Education Week et New America documentent des préoccupations sérieuses et non résolues. Infinite Campus a elle-même reconnu que le modèle pouvait attribuer des scores plus bas aux filles qu'aux garçons ayant des profils comparables, et envisage de retirer la race et le genre de ses variables dans une future version — après coup, et non avant le déploiement. La pondération exacte des 75 facteurs n'a pas été divulguée publiquement, ce qui, selon l'analyse de New America, rend impossible la vérification indépendante de la capacité du score à identifier réellement les élèves ayant le plus besoin d'aide, ou s'il ne fait que minimiser la pauvreté par rapport à l'ancienne formule. Une enquête parallèle menée en 2023 sur un système similaire basé sur Infinite Campus dans le Wisconsin a révélé qu'il se trompait bien plus souvent au sujet des élèves issus de minorités que des élèves blancs. Ce cas est inclus à titre d'avertissement : il montre un déploiement réel, à grande échelle, d'une IA prédictive contrôlant directement le financement public, où la rapidité du déploiement a devancé la transparence, les tests de biais et la divulgation publique du modèle sous-jacent.