Ley de IA de la UE — IA en educación como 'alto riesgo'

El Reglamento de IA de la UE clasifica como de «alto riesgo» los sistemas de IA utilizados en educación para admisiones, evaluación de resultados de aprendizaje, determinación del nivel educativo al que una persona puede acceder, y supervisión de estudiantes durante los exámenes. Esta clasificación conlleva obligaciones como sistemas de gestión de calidad y evaluación de riesgos, supervisión humana y uso de datos representativos y no discriminatorios. Los sistemas que infieren las emociones de los estudiantes a partir de señales faciales, vocales o biométricas están prohibidos por completo, al considerarse de «riesgo inaceptable».

Proteger los derechos de los estudiantes mitigando el riesgo de que los sistemas de IA educativos de alto impacto condicionen los resultados vitales de una persona o perpetúen la discriminación.