La polémique des bandeaux d'attention BrainCo dans les écoles du Zhejiang

En septembre 2019, l'école primaire centrale de Xiaoshun, à Jinhua, dans la province du Zhejiang, a commencé à utiliser un bandeau EEG (électroencéphalographie) portable appelé FocusEDU, fabriqué par l'entreprise de technologie cognitive Zhejiang BrainCo Technology, basée à Hangzhou, après avoir reçu des appareils offerts par un ancien élève devenu investisseur. Le bandeau lit l'activité électrique du cerveau et un algorithme d'IA la convertit en un score d'« attention » ou de « concentration » en temps réel, qui, dans au moins une salle de classe pilote, était affiché à l'ensemble de la classe sous la forme d'une visualisation ludifiée (des fusées volant sur un écran en fonction du niveau de concentration en direct de chaque enfant). Selon l'entreprise, les élèves utilisaient les appareils une ou deux séances par semaine, d'une durée maximale de 30 minutes chacune, avec le consentement parental obtenu au préalable.

L'appareil n'a guère attiré l'attention jusqu'à ce que des photos et vidéos d'écoliers portant les bandeaux circulent sur les réseaux sociaux chinois (Weibo) fin octobre 2019, à la suite d'un reportage du Wall Street Journal sur le projet pilote. Les images ont déclenché une vive réaction du public, de nombreux commentateurs et parents qualifiant l'appareil de forme invasive et « orwellienne » de surveillance du cerveau des enfants, et exprimant leur scepticisme quant à une quelconque amélioration réelle de l'apprentissage. Les réactions rapportées des élèves étaient mitigées : certains ont déclaré aux journalistes avoir l'impression que les bandeaux les « contrôlaient » ou provoquaient une gêne, tandis que d'autres affirmaient avoir vu leurs scores s'améliorer ; un enseignant a noté que les élèves portant les dispositifs devenaient nettement plus bruyants en répondant aux questions, ce qui pourrait refléter une pression de performance liée à la surveillance.

Face au tollé, le bureau de l'éducation de la province du Zhejiang / de la ville de Jinhua a ordonné à l'école de cesser l'utilisation des bandeaux le 31 octobre 2019 et a demandé aux écoles de procéder à une auto-inspection afin de garantir que les données neuronales collectées ne puissent pas être divulguées. BrainCo a réagi publiquement, affirmant que le produit « n'était pas conçu pour surveiller le cerveau des enfants » et que les articles de presse avaient été mal interprétés, mais la suspension a été maintenue. Aucune information n'a été trouvée indiquant que l'appareil aurait été réintroduit dans cette école par la suite, et aucune étude indépendante d'efficacité sur l'impact éducatif du bandeau n'a été localisée.

Ce cas constitue un exemple bien documenté et corroboré par plusieurs sources d'un déploiement réel de surveillance biométrique de mineurs fondée sur l'IA dans une salle de classe, rapidement abandonné une fois exposé à l'examen public — utile précisément comme cas d'alerte à faible transparence et faible consentement pour la dimension gouvernance/éthique, illustrant à la fois l'attrait et le risque des dispositifs d'IA de détection de l'attention et des émotions à l'école.