evidoria

← Voltar à navegação

Good practice

Sandbox de IA da CNIL para Serviços Públicos — Testando Salvaguardas para a IA Governamental Antes da Implementação

França · Paris · Ver o perfil de França

A autoridade francesa de proteção de dados conduziu, entre 2023 e 2024, um sandbox regulatório que associou quatro entidades públicas — incluindo a France Travail e a RATP — a projetos de IA, publicando em abril de 2025 recomendações sobre viés, supervisão e revisão humana antes de uma implementação nacional.

Sandbox de IA da CNIL para Serviços Públicos — Testando Salvaguardas para a IA Governamental Antes da Implementação

Detalhes

Maturidade
Established
Promotor
CNIL (Commission Nationale de l'Informatique et des Libertés)
Período
2023–2025
Palavras-chave
data protection, AI oversight, public administration

Contexto

A CNIL, a autoridade de proteção de dados de França, abriu em 2023 a terceira edição do seu sandbox regulatório, desta vez dedicada especificamente a projetos de IA nos serviços públicos, com o objetivo de fornecer orientação regulatória prática antes da implementação, em vez de sancionar a posteriori.

Objetivos

Dar aos organismos públicos participantes orientação regulatória direta sobre viés, supervisão e revisão humana para os seus projetos de IA antes de qualquer implementação a nível nacional.

Atividades

Os casos selecionados incluíram o chatbot 'Conseils Personnalisés' da France Travail (jan.-jun. 2024), que recomendava cursos de formação a candidatos a emprego; o projeto 'PRIV-IA' da RATP (jan.-abr. 2024), que testava sensores do tipo lidar que preservam a privacidade para contagem de passageiros; e um projeto da Nantes Métropole sobre sensibilização para o consumo de água.

Resultados

Em 11 de abril de 2025, a CNIL publicou um documento de recomendações que assinala riscos de viés de automação e de uso excessivo ou enviesado de dados, exigindo supervisão humana documentada antes de qualquer expansão.

Conclusões

As fontes não publicam métricas quantitativas de resultados para as próprias ferramentas de IA - o próprio formato de sandbox, já realizado três vezes desde 2021, é apresentado como o principal ativo transferível, mais do que as métricas de implementação.

Implementação
Custo indicativo
Low (< €50k)
Tempo até resultados
Medium (1–3 years)
Equipa e competências
CNIL sandbox coaching team, Participating public-body project teams (France Travail, RATP, Nantes Métropole)

Condições de sucesso

  • Voluntary selection of a small cohort of named public bodies for close regulatory coaching
  • An independent regulator (CNIL) with a pre-existing legal mandate and three prior sandbox editions of institutional experience since 2021

Modos de falha comuns

  • No quantitative outcome metrics are published for the AI tools themselves, so success against the recommendations cannot be independently measured

Fontes de dados

De onde foi obtida a informação desta prática, e quando.

Anexos

Práticas semelhantes que podem ser úteis