Comissão Nacional Eleitoral da Coreia do Sul — Deteção e Aplicação da Lei contra Deepfakes de IA antes das Eleições de 2024

Antes das eleições legislativas da Coreia do Sul de abril de 2024, os legisladores alteraram a Lei Eleitoral de Funcionários Públicos para criminalizar a produção ou distribuição de conteúdo deepfake gerado por IA para fins de campanha nos 90 dias anteriores à votação, com penas até sete anos de prisão ou multas de 10 a 50 milhões de wons.

A Comissão Eleitoral Nacional (NEC) e as agências parceiras visavam detetar e atuar contra deepfakes gerados por IA que pudessem distorcer as eleições antes de os eleitores irem votar.

A fiscalização foi distribuída por várias entidades governamentais: o Ministério do Interior e Segurança e o Serviço Forense Nacional construíram em conjunto um modelo de deteção e análise de deepfakes por IA para os investigadores; a Agência Nacional de Polícia visou sites que divulgavam conteúdo sinalizado; o Ministério da Justiça utilizou perícia digital para rastrear redes de distribuição; e o Ministério da Ciência e das TIC financiou tecnologia adicional de deteção e bloqueio. As principais plataformas tecnológicas assinaram compromissos voluntários para combater deepfakes relacionados com eleições.

A NEC identificou 129 vídeos e imagens deepfake gerados por IA em violação da lei eleitoral apenas entre 29 de janeiro e 16 de fevereiro de 2024. Análises independentes (East Asia Forum, The Diplomat) atribuem à resposta jurídica e tecnológica coordenada o mérito de ter limitado o impacto prático dos deepfakes no resultado eleitoral.

Observadores notam que a janela de 90 dias antes das eleições deixa por resolver grande parte da atividade de deepfakes relacionada com a campanha fora desse período, e que a precisão da deteção face a modelos generativos em rápida evolução continua a ser um desafio em aberto.