evidoria

← Volver al listado

Good practice

Plataforma Tecnológica de Intervención Social — El algoritmo predictivo de Salta para el riesgo de embarazo adolescente (un caso de advertencia)

Argentina · Salta · Ver el perfil de Argentina

En 2018 Salta (Argentina) y Microsoft crearon un algoritmo que decía señalar a niñas "predestinadas" al embarazo adolescente usando etnia y pobreza — un sistema condenado, nunca auditado, hoy caso de referencia en gobernanza de la IA.

Plataforma Tecnológica de Intervención Social — El algoritmo predictivo de Salta para el riesgo de embarazo adolescente (un caso de advertencia)

Detalles

Promotor
Ministerio de Primera Infancia (Salta Province), with Microsoft and Fundación CONIN
Período
2018–2019 (discontinued)
Palabras clave
predictive analytics, social risk profiling, child welfare, algorithmic accountability, government-vendor partnership

Descripción

En 2018, el gobierno de la provincia de Salta, en el norte de Argentina, a través de su Ministerio de Primera Infancia, se asoció con Microsoft y la ONG antiabortista Fundación CONIN para construir un sistema de análisis predictivo destinado a identificar, con años de anticipación, qué niñas adolescentes, identificadas por nombre, tenían más probabilidades de quedar embarazadas o abandonar la escuela.

El modelo puntuaba a los hogares usando variables demográficas como edad, etnia, discapacidad, nacionalidad y si la vivienda contaba con agua caliente. "Agentes territoriales" provinciales visitaban luego a las familias señaladas, fotografiando a sus integrantes y registrando coordenadas GPS, retroalimentando los resultados al sistema.

El entonces gobernador Juan Manuel Urtubey afirmó públicamente que el modelo tenía un "86% de precisión", pero nunca se publicó ni se verificó de forma independiente ninguna metodología, dato de validación o evaluación de resultados. El programa recibió condenas de investigadores de derechos digitales y académicos por perfilar a menores según etnia y marcadores de pobreza sin consentimiento, transparencia ni supervisión, y por sus vínculos con un grupo antiabortista durante el debate nacional sobre la ley de aborto en Argentina. Fue abandonado discretamente sin rendición de cuentas pública sobre sus resultados.

El caso está hoy catalogado como un incidente formal de IA y analizado en literatura académica revisada por pares como ejemplo de perfilado predictivo sin auditoría en política social — una ilustración de por qué las cifras de precisión reivindicadas por proveedores o funcionarios no pueden sustituir una evaluación independiente.

Implementación

Los detalles de implementación (coste, plazo, personal, condiciones para el éxito) aún no están disponibles para esta práctica.

Fuentes de datos

De dónde se obtuvo la información de esta práctica, y cuándo.

Adjuntos

Prácticas similares que pueden serle útiles