evidoria

← Voltar à navegação

Good practice

Lei da IA da UE — IA na educação como 'alto risco'

Bélgica · Brussels · Ver o perfil de Bélgica

A Lei da IA da UE classifica a IA para admissões, avaliação, orientação de aprendizagem e monitorização de exames como 'alto risco' — obrigando a gestão de risco, supervisão humana e dados representativos — e proíbe inferência emocional em estudantes.

Lei da IA da UE — IA na educação como 'alto risco'

Detalhes

Promotor
European Union
Palavras-chave
Governance, ethics & data protection, governance, high-risk AI, regulation, students' rights

Contexto

O Regulamento IA da UE classifica como "de risco elevado" os sistemas de IA utilizados na educação para admissões, avaliação de resultados de aprendizagem, determinação do nível de ensino a que uma pessoa pode aceder, e monitorização de estudantes durante exames. Esta classificação implica obrigações que incluem sistemas de gestão da qualidade e de avaliação de risco, supervisão humana e utilização de dados representativos e não discriminatórios. Os sistemas que inferem as emoções dos estudantes a partir de sinais faciais, vocais ou biométricos são proibidos, por serem considerados de "risco inaceitável".

Objetivos

Proteger os direitos dos estudantes, mitigando o risco de os sistemas de IA educativos de elevado impacto condicionarem os resultados de vida de uma pessoa ou perpetuarem a discriminação.

Implementação

Os detalhes de implementação (custo, prazo, equipa, condições de sucesso) ainda não estão disponíveis para esta prática.

Fontes de dados

De onde foi obtida a informação desta prática, e quando.

Anexos

Práticas semelhantes que podem ser úteis