PrevBOT — la Escuela Superior de Policía de Noruega prueba si una IA de detección de grooming puede investigarse legalmente, con advertencias de vigilancia masiva

PrevBOT es un proyecto de investigación en fase conceptual de la Escuela Superior de Policía de Noruega (PHS) para crear una herramienta de IA que analice espacios de chat abiertos en internet en busca de explotación sexual de menores. El plan era entrenarla con registros de chats de casos penales en los que los tribunales establecieron que hubo grooming, para que la policía identificara espacios que vigilar y señalara conversaciones.
El proyecto entró en el sandbox regulatorio de IA de la Datatilsynet; el informe final se publicó el 20 de marzo de 2024. Concluyó que la PHS ha evaluado y esbozado cómo puede realizar legalmente investigación sobre una herramienta así, y un análisis ético preliminar consideró ético iniciar la investigación con datos de casos penales. Advirtió del riesgo de que «el fin justifique los medios» a medida que avanza el proyecto, recomendó identificar pronto los usos no deseados y avisó de que el visto bueno a la investigación no cubre necesariamente un uso operativo lícito, sugiriendo un nuevo proyecto de sandbox sobre ello. La PHS planeaba una máquina de Tsetlin, elegida por su explicabilidad; el sandbox la evaluó solo en teoría, sin probarla.
Un estudio académico independiente del sandbox (Paul y Åm, Cambridge Forum on AI: Law and Governance, diciembre de 2025) indica que el regulador fue «muy claro sobre la falta de base jurídica» para tratar datos de salas de chat en vivo con fines de entrenamiento, y cita a un responsable que afirma que la herramienta «también tiene el potencial de ser una herramienta de vigilancia masiva». Investigaciones previas sobre chats en noruego, citadas en los artículos del proyecto, alcanzaron una precisión máxima del 89 %.
Es un caso cautelar y en fase temprana: sin despliegue operativo, sin resultados medidos y solo con orientaciones no vinculantes.