Un bug de l'IA de correction du MCAS fausse la notation de 1 400 rédactions d'élèves dans le Massachusetts — une mise en garde sur l'évaluation automatisée

Lors de la session 2025 du MCAS (Massachusetts Comprehensive Assessment System), un outil de notation automatique par IA — utilisé pour corriger les questions à réponse ouverte, environ 10 % des copies notées par IA étant normalement revérifiées par des correcteurs humains — a connu un bug temporaire.
Une enseignante de la Reilly Elementary School, à Lowell, a remarqué un écart entre la rédaction d'un élève et la note attribuée, et a alerté les responsables de l'école et du district à la mi-juillet 2025. Le Massachusetts Department of Elementary and Secondary Education (DESE) a ensuite constaté qu'environ 1 400 des 750 000 rédactions du MCAS de l'État avaient été mal notées, certaines copies ayant reçu à tort la note « 0 » alors qu'elles auraient dû obtenir jusqu'à 6 points sur une échelle de 1 à 7.
Des districts dans tout l'État ont été touchés, dont Attleboro, Fall River, New Bedford et Taunton, dans le comté de Bristol ; le DESE a indiqué que près de 200 écoles réparties dans environ 145 districts avaient été concernées par l'erreur, bien que l'impact moyen n'ait été que d'un ou deux élèves mal notés par district touché. Toutes les copies signalées ont été renotées et tous les districts concernés ont été informés, les résultats corrigés étant communiqués d'ici août 2025.
Ce cas est inclus ici à titre de mise en garde : il montre à la fois le risque d'une évaluation automatisée à l'échelle d'un État et la valeur de la supervision humaine — l'erreur a été repérée par une enseignante, et non par le système d'IA lui-même — et il illustre une réponse post-incident relativement transparente de la part de l'agence éducative de l'État.