Prédire le décrochage scolaire, enfreindre la loi sur la vie privée — La décision sur l'IA du Centre de services scolaire du Val-des-Cerfs, Québec

À partir d'environ 2017, le Centre de services scolaire du Val-des-Cerfs, dans les Cantons-de-l'Est au Québec, a collaboré avec des spécialistes de l'analyse de données du cabinet comptable Raymond Chabot Grant Thornton pour construire un modèle d'apprentissage automatique prédisant quels élèves de 6e année risquaient significativement de décrocher trois ans plus tard. Le modèle s'appuyait sur plus de 300 points de données recueillis depuis 2002 sur 60 000 élèves, incluant les résultats scolaires, l'aide financière, l'absentéisme, les mesures disciplinaires et les changements fréquents d'adresse, les champs identifiants comme les noms et adresses étant retirés avant l'analyse.

CBC News a rapporté en novembre 2018 que le modèle atteignait 92 % de précision lors de son propre test rétrospectif, et qu'à la fin de l'année scolaire 2017-2018, il avait signalé environ 90 élèves entrant en 7e année comme étant à risque, les facteurs contributifs étant transmis à leurs écoles respectives. Le ministère de l'Éducation du Québec a ensuite demandé à un centre de recherche provincial d'étudier l'extension de cette approche à l'ensemble du système.

À la suite de la couverture médiatique, l'autorité québécoise de protection des données, la Commission d'accès à l'information (CAI), a mené une enquête et a jugé, en décembre 2022, que la commission scolaire avait enfreint la loi provinciale sur la vie privée : les données dépersonnalisées n'avaient pas été véritablement anonymisées, ce qui signifie que les élèves restaient réidentifiables à partir d'autres dossiers institutionnels ; les scores de risque générés par l'algorithme constituaient de nouveaux renseignements personnels ; et les parents et élèves n'avaient jamais été informés de cette utilisation de leurs données. La CAI a ordonné à la commission scolaire d'informer les familles concernées de l'objet du projet, des sources de données et de leurs droits. Ce cas constitue un exemple documenté et édifiant d'un système d'IA à la performance prédictive revendiquée, mais dépourvu de base légale et de transparence dans le traitement de données sensibles sur les élèves.