A Polícia de West Yorkshire testou uma ferramenta de IA para avaliação de risco de violência doméstica na Sandbox Regulatória do ICO britânico. O Relatório Final publicado mostra que a maior lacuna estava no planeamento da transparência, não no próprio modelo de aprendizagem automática.
Detalhes
Maturidade
Piloto
Promotor
West Yorkshire Police, with the UK Information Commissioner's Office (ICO)
Período
2024
Palavras-chave
policing, AI regulatory sandbox, domestic abuse risk assessment, data protection
Contexto
No final de janeiro de 2024, a Polícia de West Yorkshire (WYP) foi aceite no Regulatory Sandbox do Information Commissioner's Office (ICO) do Reino Unido para testar uma Domestic Abuse Assessment Tool (DAAT), um sistema de aprendizagem automática supervisionada destinado a ajudar os agentes a avaliar o risco de violência doméstica e a sinalizar casos para intervenção precoce, descrito como 'inovação excecional no uso de IA num contexto policial.'
Atividades
No âmbito do sandbox, a WYP trabalhou com o ICO nas questões de proteção de dados suscitadas pelo processamento de dados pessoais sensíveis num contexto policial de elevado risco; o ICO aconselhou que, antes de a WYP poder decidir que informação sobre o desenvolvimento, a precisão e a equidade da ferramenta deveria ser tornada pública, teria primeiro de concluir um exercício de mapeamento de partes interessadas.
Resultados
O envolvimento privilegiou o processo em detrimento de resultados imediatos: o Relatório Final do ICO descreve o principal produto entregue como 'um roteiro de transparência mais claro, em vez de um resultado comprovado de redução da criminalidade,' e a ferramenta permanecia por implementar em toda a força policial à data do relatório.
Implementação
Custo indicativo
Baixo (< 50 mil €)
Tempo até resultados
Curto (< 1 ano)
Equipa e competências
West Yorkshire Police as promoter, UK Information Commissioner's Office (ICO) Regulatory Sandbox team
Condições de sucesso
Completing a stakeholder-mapping exercise before making public-disclosure decisions
Close engagement with the data-protection regulator on fairness/accuracy questions before deployment
Modos de falha comuns
Tool remained undeployed force-wide at reporting
Sandbox produced a transparency roadmap rather than a proven crime-reduction outcome
Onde se enquadra
Tipo de governação
local/regional police force working with a national data regulator
Escala
regional (West Yorkshire)
Nível de rendimento
high-income
Implementa esta prática?
Reivindique-a —
implementadores verificados obtêm um contacto público na página e podem propor correções.
Fontes de dados
De onde foi obtida a informação desta prática, e quando.