evidoria

← Retour à la liste

Bonne pratique Importée

Commission électorale nationale de Corée du Sud — Détection et répression des deepfakes par IA avant les élections de 2024

Corée du Sud · Gwacheon · Voir le profil de Corée du Sud

Preuves: Observationnel / avant-après Top 6% 87/100 · Demandez à Evidence Copilot à propos de cette pratique

Avant les élections d'avril 2024, la Corée du Sud a interdit les deepfakes IA en campagne dans les 90 jours précédant le scrutin. La Commission électorale a recensé 129 infractions, appuyée par un modèle de détection IA, avec des peines allant jusqu'à 7 ans de prison.

129 items
Deepfakes générés par IA identifiés en violation de la loi électorale (29 Jan-16 Feb 2024)
7 years
Peine maximale d'emprisonnement pour infraction de deepfake de campagne
10-50 million won
Fourchette d'amende pour infraction de deepfake de campagne
Commission électorale nationale de Corée du Sud — Détection et répression des deepfakes par IA avant les élections de 2024

Détails

Maturité
Établie
Promoteur
National Election Commission (NEC), with the Ministry of the Interior and Safety and the National Forensic Service
Période
2024–ongoing
Mots-clés
elections, public safety, AI detection, law enforcement

Contexte

Avant les élections législatives sud-coréennes d'avril 2024, les parlementaires ont modifié la loi électorale sur les fonctionnaires publics afin de criminaliser la production ou la diffusion de contenus deepfake générés par IA à des fins de campagne dans les 90 jours précédant le scrutin, avec des peines pouvant aller jusqu'à sept ans de prison ou des amendes de 10 à 50 millions de wons.

Objectifs

La Commission électorale nationale (NEC) et les agences partenaires visaient à détecter les deepfakes générés par IA susceptibles de fausser l'élection avant que les électeurs ne se rendent aux urnes, et à agir contre eux.

Activités

L'application de la loi a été répartie entre plusieurs entités gouvernementales : le ministère de l'Intérieur et de la Sécurité et le Service national de police scientifique ont conjointement conçu un modèle de détection et d'analyse des deepfakes par IA destiné aux enquêteurs ; l'Agence nationale de police a ciblé les sites diffusant les contenus signalés ; le ministère de la Justice a utilisé l'informatique légale pour retracer les réseaux de diffusion ; et le ministère des Sciences et des TIC a financé des technologies supplémentaires de détection et de blocage. Les grandes plateformes technologiques ont signé des engagements volontaires pour lutter contre les deepfakes liés aux élections.

Résultats

La NEC a identifié 129 vidéos et images deepfake générées par IA en violation de la loi électorale, rien qu'entre le 29 janvier et le 16 février 2024. Des analyses indépendantes (East Asia Forum, The Diplomat) attribuent à cette réponse juridique et technique coordonnée le mérite d'avoir limité l'impact pratique des deepfakes sur le résultat de l'élection.

Conclusions

Les observateurs notent que la fenêtre de 90 jours précédant l'élection laisse largement sans réponse l'activité de deepfakes liée à la campagne en dehors de cette période, et que la précision de détection face à des modèles génératifs en amélioration rapide reste un défi ouvert.

Mise en œuvre
Coût indicatif
Élevé (500 k€–5 M€) — Multi-agency staffing and detection-model development funded by the Ministry of Science and ICT; not separately costed in sources.
Délai jusqu’aux résultats
Moyen (1–3 ans) — Enforcement concentrated in the run-up to the April 2024 legislative election, ongoing as standing law thereafter.
Personnel et compétences
National Election Commission (NEC) investigators, Ministry of the Interior and Safety, National Forensic Service, National Police Agency, Ministry of Justice, Ministry of Science and ICT

Conditions de réussite

  • Statutory amendment to the Public Official Election Act creating clear criminal penalties
  • Cross-agency coordination combining legal, forensic and technical detection functions
  • Voluntary pledges from major technology platforms to combat election deepfakes

Modes d’échec courants

  • The 90-day pre-election enforcement window leaves campaign-adjacent deepfake activity outside that window largely unaddressed
  • Detection accuracy against rapidly improving generative models remains an open challenge

Où cela s’applique

Type de gouvernance
national government, multi-agency
Échelle
national election-cycle enforcement
Niveau de revenu
high income

Vous portez cette pratique ? Revendiquez-la — les porteurs vérifiés obtiennent un contact public sur la page et peuvent proposer des corrections.

Sources de données

D'où proviennent les informations de cette pratique, et quand.

Pièces jointes

Pratiques similaires qui pourraient vous être utiles