evidoria

← Voltar à navegação

Boa prática Importada

Comissão Nacional Eleitoral da Coreia do Sul — Deteção de Deepfakes Assistida por IA para as Eleições Gerais de 2024

Coréia do Sul · Gwacheon · Ver o perfil de Coréia do Sul

Antes das eleições gerais de abril de 2024, a Comissão Eleitoral Nacional da Coreia do Sul criou uma task force ao abrigo de uma nova proibição de deepfakes e detetou 129 publicações de campanha geradas ilegalmente por IA num período de 19 dias; a polícia testou em paralelo uma ferramenta com 80% de precisão, treinada com 5,2 milhões de pontos de dados.

129
Publicações de campanha geradas por IA detetadas como ilegais (29 Jan-16 Feb 2024 (19-day window))
1,077 in 268 teams
Participantes no concurso (ferramenta de deteção de deepfakes)
5.2 million data points from ~5,400 individuals
Pontos de dados de treino do modelo de deteção
~80%
Precisão da ferramenta de deteção
5-10 minutes
Tempo de processamento por vídeo
7 years imprisonment or 10 million won fine (~US$7,500)
Pena máxima para deepfakes eleitorais
Comissão Nacional Eleitoral da Coreia do Sul — Deteção de Deepfakes Assistida por IA para as Eleições Gerais de 2024

Detalhes

Maturidade
Piloto
Promotor
National Election Commission (NEC) of the Republic of Korea
Período
Jan–Apr 2024
Palavras-chave
elections, public safety, content moderation, AI

Contexto

Em dezembro de 2023, a Assembleia Nacional da Coreia do Sul alterou a Lei da Eleição de Funcionários Públicos para proibir o uso de deepfakes em campanhas eleitorais, com entrada em vigor a 29 de janeiro de 2024, antes das eleições legislativas de 10 de abril de 2024, prevendo penas até sete anos de prisão ou multa de 10 milhões de wons.

Objetivos

Detetar e dissuadir a difusão de conteúdos de campanha manipulados por IA nas redes sociais e noutras plataformas online durante o período eleitoral.

Atividades

A Comissão Nacional Eleitoral formou um grupo de trabalho para examinar as plataformas em busca de conteúdos de campanha manipulados por IA. Paralelamente, o Gabinete Nacional de Investigação e o Serviço Nacional de Ciência Forense organizaram um concurso público (1077 participantes, 268 equipas) para desenvolver software de deteção, produzindo um modelo treinado com 5,2 milhões de pontos de dados provenientes de cerca de 5400 pessoas.

Resultados

Entre 29 de janeiro e 16 de fevereiro de 2024, o grupo de trabalho da Comissão Nacional Eleitoral identificou 129 publicações que violavam a proibição de deepfakes. O modelo desenvolvido no concurso produzia uma pontuação de probabilidade em cinco a dez minutos por vídeo, com uma precisão de cerca de 80%, concebido para informar investigações e não para servir como prova autónoma.

Conclusões

Os analistas assinalaram que a capacidade de monitorização da Comissão Nacional Eleitoral é limitada face ao volume de conteúdos online, pelo que os 129 casos confirmados provavelmente subestimam a prevalência real, e a ferramenta com 80% de precisão é explicitamente consultiva, e não conclusiva.

Implementação
Custo indicativo
Médio (50 mil–500 mil €)
Tempo até resultados
Curto (< 1 ano)
Equipa e competências
NEC task force, National Office of Investigation, National Forensic Service

Condições de sucesso

  • A specific legal ban with defined penalties in force before the election window
  • Cross-agency collaboration between the election commission, criminal investigators and forensic scientists
  • A public contest structure to source detection-model talent and training data

Modos de falha comuns

  • Monitoring capacity is limited relative to the volume of online content, likely undercounting true deepfake prevalence
  • Detection tool accuracy (~80%) is advisory only, not admissible as standalone evidence

Implementa esta prática? Reivindique-a — implementadores verificados obtêm um contacto público na página e podem propor correções.

Fontes de dados

De onde foi obtida a informação desta prática, e quando.

Anexos

Práticas semelhantes que podem ser úteis