evidoria

← Volver al listado

Good practice

El sandbox de IA de la CNIL para servicios públicos — Probando salvaguardas para la IA gubernamental antes de su despliegue

Francia · Paris · Ver el perfil de Francia

La autoridad francesa de protección de datos llevó a cabo entre 2023 y 2024 un sandbox regulatorio que vinculó a cuatro organismos públicos —entre ellos France Travail y RATP— con proyectos de IA, publicando en abril de 2025 recomendaciones sobre sesgos, supervisión y revisión humana antes de un despliegue nacional.

El sandbox de IA de la CNIL para servicios públicos — Probando salvaguardas para la IA gubernamental antes de su despliegue

Detalles

Madurez
Established
Promotor
CNIL (Commission Nationale de l'Informatique et des Libertés)
Período
2023–2025
Palabras clave
data protection, AI oversight, public administration

Contexto

La CNIL, la autoridad de protección de datos de Francia, abrió en 2023 la tercera edición de su sandbox regulatorio, esta vez dedicada específicamente a proyectos de IA en los servicios públicos, con el objetivo de ofrecer orientación regulatoria práctica antes de la implementación, en lugar de sancionar a posteriori.

Objetivos

Ofrecer a los organismos públicos participantes orientación regulatoria directa sobre sesgos, supervisión y revisión humana de sus proyectos de IA antes de cualquier implementación a nivel nacional.

Actividades

Los casos seleccionados incluyeron el chatbot 'Conseils Personnalisés' de France Travail (ene.-jun. 2024), que recomendaba cursos de formación a los demandantes de empleo; el proyecto 'PRIV-IA' de RATP (ene.-abr. 2024), que probaba sensores de tipo lidar que preservan la privacidad para el conteo de pasajeros; y un proyecto de Nantes Métropole sobre concienciación en el consumo de agua.

Resultados

El 11 de abril de 2025, la CNIL publicó un documento de recomendaciones que señala riesgos de sesgo de automatización y de uso excesivo o sesgado de datos, exigiendo supervisión humana documentada antes de cualquier ampliación de escala.

Conclusiones

Las fuentes no publican métricas cuantitativas de resultados para las propias herramientas de IA; el propio formato de sandbox, ya realizado tres veces desde 2021, se presenta como el principal activo transferible, más que las métricas de implementación.

Implementación
Coste indicativo
Low (< €50k)
Tiempo hasta resultados
Medium (1–3 years)
Personal y competencias
CNIL sandbox coaching team, Participating public-body project teams (France Travail, RATP, Nantes Métropole)

Condiciones para el éxito

  • Voluntary selection of a small cohort of named public bodies for close regulatory coaching
  • An independent regulator (CNIL) with a pre-existing legal mandate and three prior sandbox editions of institutional experience since 2021

Modos de fallo comunes

  • No quantitative outcome metrics are published for the AI tools themselves, so success against the recommendations cannot be independently measured

Fuentes de datos

De dónde se obtuvo la información de esta práctica, y cuándo.

Adjuntos

Prácticas similares que pueden serle útiles