evidoria

← Retour à la liste

Good practice

Le bac à sable IA de la CNIL pour les services publics — Tester les garde-fous de l'IA publique avant déploiement

France · Paris · Voir le profil de France

L'autorité française de protection des données a mené en 2023-2024 un bac à sable regroupant quatre organismes publics — dont France Travail et la RATP — autour de projets d'IA, avant de publier en avril 2025 des recommandations sur les biais, la supervision et le contrôle humain avant tout déploiement national.

Le bac à sable IA de la CNIL pour les services publics — Tester les garde-fous de l'IA publique avant déploiement

Détails

Maturité
Established
Promoteur
CNIL (Commission Nationale de l'Informatique et des Libertés)
Période
2023–2025
Mots-clés
data protection, AI oversight, public administration

Contexte

La CNIL, l'autorité française de protection des données, a ouvert en 2023 la troisième édition de son bac à sable réglementaire, cette fois consacrée spécifiquement aux projets d'IA dans les services publics, dans le but de fournir un accompagnement réglementaire concret avant le déploiement plutôt que de sanctionner après coup.

Objectifs

Fournir aux organismes publics participants un accompagnement réglementaire direct sur les biais, la supervision et le contrôle humain de leurs projets d'IA, avant tout déploiement à l'échelle nationale.

Activités

Les cas retenus comprenaient le chatbot « Conseils Personnalisés » de France Travail (janv.-juin 2024), qui recommandait des formations aux demandeurs d'emploi ; le projet « PRIV-IA » de la RATP (janv.-avr. 2024), qui testait des capteurs de type lidar préservant la vie privée pour le comptage des voyageurs ; et un projet de Nantes Métropole sur la sensibilisation à la consommation d'eau.

Résultats

Le 11 avril 2025, la CNIL a publié un document de recommandations signalant des risques de biais d'automatisation et d'usage excessif ou biaisé des données, et exigeant une supervision humaine documentée avant tout passage à l'échelle.

Conclusions

Les sources ne publient pas de mesures quantitatives de résultats pour les outils d'IA eux-mêmes - le format même du bac à sable, déjà mené trois fois depuis 2021, est présenté comme le principal acquis transférable, plus que les indicateurs de déploiement.

Mise en œuvre
Coût indicatif
Low (< €50k)
Délai jusqu’aux résultats
Medium (1–3 years)
Personnel et compétences
CNIL sandbox coaching team, Participating public-body project teams (France Travail, RATP, Nantes Métropole)

Conditions de réussite

  • Voluntary selection of a small cohort of named public bodies for close regulatory coaching
  • An independent regulator (CNIL) with a pre-existing legal mandate and three prior sandbox editions of institutional experience since 2021

Modes d’échec courants

  • No quantitative outcome metrics are published for the AI tools themselves, so success against the recommendations cannot be independently measured

Sources de données

D'où proviennent les informations de cette pratique, et quand.

Pièces jointes

Pratiques similaires qui pourraient vous être utiles