Loi IA de l'UE — IA dans l'éducation comme 'haut risque'

Le règlement européen sur l'IA (EU AI Act) classe comme « à haut risque » les systèmes d'IA utilisés dans l'éducation pour les admissions, l'évaluation des résultats d'apprentissage, la détermination du niveau d'enseignement auquel une personne peut accéder, et la surveillance des étudiants pendant les examens. Cette classification entraîne des obligations telles que des systèmes de gestion de la qualité et d'évaluation des risques, une supervision humaine et l'utilisation de données représentatives et non discriminatoires. Les systèmes qui déduisent les émotions des étudiants à partir d'indices faciaux, vocaux ou biométriques sont purement et simplement interdits, en tant que « risque inacceptable ».

Protéger les droits des étudiants en atténuant le risque que les systèmes d'IA éducatifs à enjeux élevés déterminent les trajectoires de vie d'une personne ou renforcent des discriminations.