evidoria

← Back to browse

Good practice

Plataforma Tecnológica de Intervención Social — El algoritmo predictivo de Salta para el riesgo de embarazo adolescente (un caso de advertencia)

Argentina · Salta · See the Argentina profile

En 2018 Salta (Argentina) y Microsoft crearon un algoritmo que decía señalar a niñas "predestinadas" al embarazo adolescente usando etnia y pobreza — un sistema condenado, nunca auditado, hoy caso de referencia en gobernanza de la IA.

Plataforma Tecnológica de Intervención Social — El algoritmo predictivo de Salta para el riesgo de embarazo adolescente (un caso de advertencia)

Details

Promoter
Ministerio de Primera Infancia (Salta Province), with Microsoft and Fundación CONIN
Period
2018–2019 (discontinued)
Keywords
predictive analytics, social risk profiling, child welfare, algorithmic accountability, government-vendor partnership

Description

En 2018, el gobierno de la provincia de Salta, en el norte de Argentina, a través de su Ministerio de Primera Infancia, se asoció con Microsoft y la ONG antiabortista Fundación CONIN para construir un sistema de análisis predictivo destinado a identificar, con años de anticipación, qué niñas adolescentes, identificadas por nombre, tenían más probabilidades de quedar embarazadas o abandonar la escuela.

El modelo puntuaba a los hogares usando variables demográficas como edad, etnia, discapacidad, nacionalidad y si la vivienda contaba con agua caliente. "Agentes territoriales" provinciales visitaban luego a las familias señaladas, fotografiando a sus integrantes y registrando coordenadas GPS, retroalimentando los resultados al sistema.

El entonces gobernador Juan Manuel Urtubey afirmó públicamente que el modelo tenía un "86% de precisión", pero nunca se publicó ni se verificó de forma independiente ninguna metodología, dato de validación o evaluación de resultados. El programa recibió condenas de investigadores de derechos digitales y académicos por perfilar a menores según etnia y marcadores de pobreza sin consentimiento, transparencia ni supervisión, y por sus vínculos con un grupo antiabortista durante el debate nacional sobre la ley de aborto en Argentina. Fue abandonado discretamente sin rendición de cuentas pública sobre sus resultados.

El caso está hoy catalogado como un incidente formal de IA y analizado en literatura académica revisada por pares como ejemplo de perfilado predictivo sin auditoría en política social — una ilustración de por qué las cifras de precisión reivindicadas por proveedores o funcionarios no pueden sustituir una evaluación independiente.

Implementation

Implementation detail (cost, timeline, staffing, conditions for success) is not yet available for this practice.

Data sources

Where this practice's information was retrieved from, and when.

Attachments

Similar practices you may find useful

★ 67

Allegheny Family Screening Tool (USA)

United States of America

Since 2016 Allegheny County has used a predictive risk model to support child-maltreatment call screening. Evaluations found it narrowed racial …