evidoria

← Volver al listado

Buena práctica Importada

Comisión Electoral Nacional de Corea del Sur — Detección y aplicación de la ley contra deepfakes de IA antes de las elecciones de 2024

Corea del Sur · Gwacheon · Ver el perfil de Corea del Sur

Evidencia: Observacional / pre-post Top 6% 87/100 · Pregunte a Evidence Copilot sobre esta práctica

Antes de las elecciones de abril de 2024, Corea del Sur prohibió los deepfakes de IA en campaña durante los 90 días previos a la votación. La Comisión Electoral identificó 129 infracciones, apoyada por un modelo de detección de IA, con penas de hasta 7 años de prisión.

129 items
Deepfakes generados por IA identificados que infringían la ley electoral (29 Jan-16 Feb 2024)
7 years
Pena máxima de prisión por infracción de deepfake de campaña
10-50 million won
Rango de multa por infracción de deepfake de campaña
Comisión Electoral Nacional de Corea del Sur — Detección y aplicación de la ley contra deepfakes de IA antes de las elecciones de 2024

Detalles

Madurez
Consolidada
Promotor
National Election Commission (NEC), with the Ministry of the Interior and Safety and the National Forensic Service
Período
2024–ongoing
Palabras clave
elections, public safety, AI detection, law enforcement

Contexto

Antes de las elecciones legislativas de Corea del Sur de abril de 2024, los legisladores modificaron la Ley Electoral de Funcionarios Públicos para tipificar como delito la producción o distribución de contenido deepfake generado por IA con fines de campaña dentro de los 90 días previos a la votación, con penas de hasta siete años de prisión o multas de entre 10 y 50 millones de wones.

Objetivos

La Comisión Electoral Nacional (NEC) y los organismos asociados se propusieron detectar y actuar contra los deepfakes generados por IA que pudieran distorsionar las elecciones antes de que los votantes acudieran a las urnas.

Actividades

La aplicación de la ley se distribuyó entre varias entidades gubernamentales: el Ministerio del Interior y Seguridad y el Servicio Forense Nacional desarrollaron conjuntamente un modelo de detección y análisis de deepfakes mediante IA para los investigadores; la Agencia Nacional de Policía se centró en los sitios web que difundían contenido señalado; el Ministerio de Justicia utilizó análisis forense digital para rastrear las redes de distribución; y el Ministerio de Ciencia y TIC financió tecnología adicional de detección y bloqueo. Las principales plataformas tecnológicas firmaron compromisos voluntarios para combatir los deepfakes relacionados con las elecciones.

Resultados

La NEC identificó 129 vídeos e imágenes deepfake generados por IA que infringían la ley electoral solo entre el 29 de enero y el 16 de febrero de 2024. Análisis independientes (East Asia Forum, The Diplomat) atribuyen a esta respuesta jurídica y técnica coordinada el mérito de haber limitado el impacto práctico de los deepfakes en el resultado electoral.

Conclusiones

Los observadores señalan que la ventana de 90 días previa a las elecciones deja en gran medida sin abordar la actividad de deepfakes relacionada con la campaña fuera de ese periodo, y que la precisión de detección frente a modelos generativos que mejoran rápidamente sigue siendo un reto abierto.

Implementación
Coste indicativo
Alto (500 000 €–5 M€) — Multi-agency staffing and detection-model development funded by the Ministry of Science and ICT; not separately costed in sources.
Tiempo hasta resultados
Medio (1–3 años) — Enforcement concentrated in the run-up to the April 2024 legislative election, ongoing as standing law thereafter.
Personal y competencias
National Election Commission (NEC) investigators, Ministry of the Interior and Safety, National Forensic Service, National Police Agency, Ministry of Justice, Ministry of Science and ICT

Condiciones para el éxito

  • Statutory amendment to the Public Official Election Act creating clear criminal penalties
  • Cross-agency coordination combining legal, forensic and technical detection functions
  • Voluntary pledges from major technology platforms to combat election deepfakes

Modos de fallo comunes

  • The 90-day pre-election enforcement window leaves campaign-adjacent deepfake activity outside that window largely unaddressed
  • Detection accuracy against rapidly improving generative models remains an open challenge

Dónde encaja

Tipo de gobernanza
national government, multi-agency
Escala
national election-cycle enforcement
Nivel de ingresos
high income

¿Usted implementa esta práctica? Reivindíquela — los implementadores verificados obtienen un contacto público en la página y pueden proponer correcciones.

Fuentes de datos

De dónde se obtuvo la información de esta práctica, y cuándo.

Adjuntos

Prácticas similares que pueden serle útiles