evidoria

← Retour à la liste

Bonne pratique Importée

Commission électorale nationale de Corée du Sud — Détection des deepfakes assistée par IA pour les législatives de 2024

Corée du Sud · Gwacheon · Voir le profil de Corée du Sud

Avant les législatives d'avril 2024, la Commission électorale nationale de Corée du Sud a mis en place une cellule dédiée dans le cadre d'une nouvelle interdiction des deepfakes et a détecté 129 publications de campagne générées illégalement par IA en 19 jours ; la police a par ailleurs testé un outil précis à 80 %, entraîné sur 5,2 millions de données.

129
Publications de campagne générées par IA détectées comme illégales (29 Jan-16 Feb 2024 (19-day window))
1,077 in 268 teams
Participants au concours (outil de détection de deepfakes)
5.2 million data points from ~5,400 individuals
Points de données d'entraînement du modèle de détection
~80%
Précision de l'outil de détection
5-10 minutes
Temps de traitement par vidéo
7 years imprisonment or 10 million won fine (~US$7,500)
Peine maximale pour deepfakes électoraux
Commission électorale nationale de Corée du Sud — Détection des deepfakes assistée par IA pour les législatives de 2024

Détails

Maturité
Pilote
Promoteur
National Election Commission (NEC) of the Republic of Korea
Période
Jan–Apr 2024
Mots-clés
elections, public safety, content moderation, AI

Contexte

En décembre 2023, l'Assemblée nationale sud-coréenne a modifié la loi sur l'élection des fonctionnaires publics pour interdire les deepfakes dans les campagnes électorales, avec une entrée en vigueur le 29 janvier 2024 avant les élections législatives du 10 avril 2024, prévoyant des peines pouvant aller jusqu'à sept ans de prison ou une amende de 10 millions de wons.

Objectifs

Détecter et dissuader la diffusion de contenus de campagne manipulés par IA sur les réseaux sociaux et d'autres plateformes en ligne pendant la période électorale.

Activités

La Commission électorale nationale a formé un groupe de travail chargé d'examiner les plateformes à la recherche de contenus de campagne manipulés par IA. Parallèlement, le Bureau national d'enquête et le Service national de police scientifique ont organisé un concours public (1 077 participants, 268 équipes) pour développer un logiciel de détection, produisant un modèle entraîné sur 5,2 millions de points de données provenant d'environ 5 400 personnes.

Résultats

Entre le 29 janvier et le 16 février 2024, le groupe de travail de la Commission électorale nationale a identifié 129 publications enfreignant l'interdiction des deepfakes. Le modèle issu du concours produisait un score de probabilité en cinq à dix minutes par vidéo, avec une précision d'environ 80 %, conçu pour éclairer les enquêtes plutôt que pour servir de preuve autonome.

Conclusions

Les analystes ont souligné que la capacité de surveillance de la Commission électorale nationale est limitée par rapport au volume de contenus en ligne, de sorte que les 129 cas confirmés sous-estiment probablement la prévalence réelle, et que l'outil affichant 80 % de précision a explicitement une vocation consultative plutôt que probante.

Mise en œuvre
Coût indicatif
Moyen (50 k€–500 k€)
Délai jusqu’aux résultats
Court (< 1 an)
Personnel et compétences
NEC task force, National Office of Investigation, National Forensic Service

Conditions de réussite

  • A specific legal ban with defined penalties in force before the election window
  • Cross-agency collaboration between the election commission, criminal investigators and forensic scientists
  • A public contest structure to source detection-model talent and training data

Modes d’échec courants

  • Monitoring capacity is limited relative to the volume of online content, likely undercounting true deepfake prevalence
  • Detection tool accuracy (~80%) is advisory only, not admissible as standalone evidence

Vous portez cette pratique ? Revendiquez-la — les porteurs vérifiés obtiennent un contact public sur la page et peuvent proposer des corrections.

Sources de données

D'où proviennent les informations de cette pratique, et quand.

Pièces jointes

Pratiques similaires qui pourraient vous être utiles