evidoria

← Back to browse

Good practice

Lei da IA da UE — IA na educação como 'alto risco'

Belgium · Brussels · See the Belgium profile

A Lei da IA da UE classifica a IA para admissões, avaliação, orientação de aprendizagem e monitorização de exames como 'alto risco' — obrigando a gestão de risco, supervisão humana e dados representativos — e proíbe inferência emocional em estudantes.

Lei da IA da UE — IA na educação como 'alto risco'

Details

Promoter
European Union
Keywords
Governance, ethics & data protection, governance, high-risk AI, regulation, students' rights

Context

O Regulamento IA da UE classifica como "de risco elevado" os sistemas de IA utilizados na educação para admissões, avaliação de resultados de aprendizagem, determinação do nível de ensino a que uma pessoa pode aceder, e monitorização de estudantes durante exames. Esta classificação implica obrigações que incluem sistemas de gestão da qualidade e de avaliação de risco, supervisão humana e utilização de dados representativos e não discriminatórios. Os sistemas que inferem as emoções dos estudantes a partir de sinais faciais, vocais ou biométricos são proibidos, por serem considerados de "risco inaceitável".

Objectives

Proteger os direitos dos estudantes, mitigando o risco de os sistemas de IA educativos de elevado impacto condicionarem os resultados de vida de uma pessoa ou perpetuarem a discriminação.

Implementation

Implementation detail (cost, timeline, staffing, conditions for success) is not yet available for this practice.

Data sources

Where this practice's information was retrieved from, and when.

Attachments

Similar practices you may find useful