Un bug de l'IA de correction du MCAS fausse la notation de 1 400 rédactions d'élèves dans le Massachusetts — une mise en garde sur l'évaluation automatisée

Lors de la session 2025 du Massachusetts Comprehensive Assessment System (MCAS), un outil de notation automatisé par IA — utilisé pour noter les questions à réponse libre de type dissertation, avec environ 10 % des copies notées par IA normalement recontrôlées par des correcteurs humains — a produit un dysfonctionnement temporaire de notation. Une enseignante de l'école primaire Reilly, à Lowell, a remarqué un écart entre la copie d'un élève et la note attribuée, et a alerté les responsables scolaires et du district à la mi-juillet 2025.

Le Massachusetts Department of Elementary and Secondary Education (DESE) a ensuite constaté qu'environ 1 400 des 750 000 copies du MCAS de l'État avaient été mal notées, certaines réponses d'élèves ayant été marquées à tort « 0 » alors qu'elles auraient dû obtenir jusqu'à 6 sur une échelle de 1 à 7. Des districts à travers l'État ont été touchés, notamment Attleboro, Fall River, New Bedford et Taunton dans le comté de Bristol ; le DESE a rapporté que près de 200 écoles réparties dans environ 145 districts avaient été touchées par l'erreur, bien que l'impact moyen n'ait été que d'un ou deux élèves mal notés par district touché. Toutes les copies signalées ont été renotées et chaque district touché a été informé, avec des résultats corrigés publiés d'ici août 2025.

Il s'agit d'un échec documenté, non d'une réussite : un outil de notation par IA fonctionnant à l'échelle complète de l'État a mal noté le travail d'élèves, et l'erreur a été repérée grâce à la vigilance d'une enseignante, et non par le système d'IA lui-même ni par son propre processus d'assurance qualité — seuls environ 10 % des copies faisant par ailleurs l'objet d'une renotation humaine de routine. Ce cas est inclus ici comme exemple de mise en garde : il montre à la fois le risque de l'évaluation automatisée à l'échelle d'un État et la valeur de la supervision humaine, et illustre une réponse post-incident relativement transparente de la part de l'agence étatique de l'éducation, ce qui ne compense pas le fait que l'erreur sous-jacente et le filet de sécurité ténu de la relecture humaine en étaient la cause profonde.