evidoria

← Volver al listado

Buena práctica Importada

Comisión Electoral Nacional de Corea del Sur — Detección de Deepfakes Asistida por IA para las Elecciones Generales de 2024

Corea del Sur · Gwacheon · Ver el perfil de Corea del Sur

Antes de las elecciones generales de abril de 2024, la Comisión Electoral Nacional de Corea del Sur creó un grupo de trabajo bajo una nueva prohibición de deepfakes y detectó 129 publicaciones de campaña generadas ilícitamente con IA en una ventana de 19 días; la policía probó por separado una herramienta con 80% de precisión, entrenada con 5,2 millones de datos.

129
Publicaciones de campaña generadas por IA detectadas como ilegales (29 Jan-16 Feb 2024 (19-day window))
1,077 in 268 teams
Participantes en el concurso (herramienta de detección de deepfakes)
5.2 million data points from ~5,400 individuals
Puntos de datos de entrenamiento del modelo de detección
~80%
Precisión de la herramienta de detección
5-10 minutes
Tiempo de procesamiento por vídeo
7 years imprisonment or 10 million won fine (~US$7,500)
Pena máxima por deepfakes electorales
Comisión Electoral Nacional de Corea del Sur — Detección de Deepfakes Asistida por IA para las Elecciones Generales de 2024

Detalles

Madurez
Piloto
Promotor
National Election Commission (NEC) of the Republic of Korea
Período
Jan–Apr 2024
Palabras clave
elections, public safety, content moderation, AI

Contexto

En diciembre de 2023, la Asamblea Nacional de Corea del Sur modificó la Ley de Elección de Funcionarios Públicos para prohibir el uso de deepfakes en campañas electorales, con entrada en vigor el 29 de enero de 2024, antes de las elecciones legislativas del 10 de abril de 2024, con penas de hasta siete años de prisión o una multa de 10 millones de wones.

Objetivos

Detectar y disuadir la difusión de contenido de campaña manipulado por IA en redes sociales y otras plataformas en línea durante el período electoral.

Actividades

La Comisión Nacional Electoral formó un grupo de trabajo para examinar las plataformas en busca de contenido de campaña manipulado por IA. Por separado, la Oficina Nacional de Investigación y el Servicio Nacional de Ciencia Forense organizaron un concurso público (1077 participantes, 268 equipos) para desarrollar software de detección, produciendo un modelo entrenado con 5,2 millones de puntos de datos procedentes de unas 5400 personas.

Resultados

Entre el 29 de enero y el 16 de febrero de 2024, el grupo de trabajo de la Comisión Nacional Electoral identificó 129 publicaciones que infringían la prohibición de deepfakes. El modelo desarrollado en el concurso generaba una puntuación de probabilidad en cinco a diez minutos por vídeo, con una precisión de aproximadamente el 80%, diseñado para informar investigaciones y no para servir como prueba autónoma.

Conclusiones

Los analistas señalaron que la capacidad de supervisión de la Comisión Nacional Electoral es limitada en relación con el volumen de contenido en línea, por lo que los 129 casos confirmados probablemente subestiman la prevalencia real, y la herramienta con un 80% de precisión tiene un carácter explícitamente orientativo y no concluyente.

Implementación
Coste indicativo
Medio (50 000–500 000 €)
Tiempo hasta resultados
Corto (< 1 año)
Personal y competencias
NEC task force, National Office of Investigation, National Forensic Service

Condiciones para el éxito

  • A specific legal ban with defined penalties in force before the election window
  • Cross-agency collaboration between the election commission, criminal investigators and forensic scientists
  • A public contest structure to source detection-model talent and training data

Modos de fallo comunes

  • Monitoring capacity is limited relative to the volume of online content, likely undercounting true deepfake prevalence
  • Detection tool accuracy (~80%) is advisory only, not admissible as standalone evidence

¿Usted implementa esta práctica? Reivindíquela — los implementadores verificados obtienen un contacto público en la página y pueden proponer correcciones.

Fuentes de datos

De dónde se obtuvo la información de esta práctica, y cuándo.

Adjuntos

Prácticas similares que pueden serle útiles