En 2018 Salta (Argentina) y Microsoft crearon un algoritmo que decía señalar a niñas "predestinadas" al embarazo adolescente usando etnia y pobreza — un sistema condenado, nunca auditado, hoy caso de referencia en gobernanza de la IA.
86%
Precisión alegada (no verificada, declarada públicamente por el gobernador)
Detalles
Madurez
Descontinuada
Promotor
Ministerio de Primera Infancia (Salta Province), with Microsoft and Fundación CONIN
En 2018, el gobierno de la provincia de Salta, en el norte de Argentina, a través de su Ministerio de Primera Infancia, se asoció con Microsoft y la ONG antiaborto Fundación CONIN para construir un sistema de análisis predictivo destinado a identificar, con años de antelación, qué adolescentes nombradas tenían mayor probabilidad de quedar embarazadas o abandonar la escuela.
Objetivos
El objetivo declarado era señalar hogares e individuos de alto riesgo para una intervención temprana mediante puntuación demográfica.
Actividades
El modelo puntuaba a los hogares utilizando variables demográficas que incluían edad, etnia, situación de discapacidad, nacionalidad y si el hogar disponía de agua caliente corriente. 'Agentes territoriales' provinciales visitaban después a las familias señaladas, fotografiando a los residentes y registrando coordenadas GPS, retroalimentando los resultados al sistema.
Resultados
El entonces gobernador Juan Manuel Urtubey afirmó públicamente que el modelo tenía un '86% de precisión', pero nunca se publicó ni se verificó de forma independiente ninguna metodología, dato de validación o evaluación de resultados.
Conclusiones
El programa fue condenado por investigadores de derechos digitales y académicos por perfilar a menores según marcadores étnicos y de pobreza sin consentimiento, transparencia ni supervisión, y por sus vínculos con un grupo de defensa antiaborto durante el debate nacional argentino sobre la ley del aborto. Fue abandonado discretamente sin rendición pública de cuentas sobre los resultados, y hoy está catalogado como un incidente formal de IA y analizado en literatura revisada por pares como ejemplo de perfilado predictivo no auditado en política social, lo que ilustra por qué las cifras de precisión reclamadas por proveedores o funcionarios no pueden sustituir a una evaluación independiente.
Implementación
Coste indicativo
Medio (50 000–500 000 €)
Tiempo hasta resultados
Corto (< 1 año)
Personal y competencias
Ministerio de Primera Infancia (Salta Province), Microsoft as technology partner, Fundación CONIN (anti-abortion NGO) as delivery partner, Provincial 'territorial agents' conducting household visits
Modos de fallo comunes
No methodology, validation data, or outcome evaluation ever published despite a public accuracy claim
Profiling of minors by ethnicity and poverty markers without consent or transparency
Undisclosed partnership with an anti-abortion advocacy group during a politically sensitive national debate
No independent ethics review or oversight body; the programme was quietly abandoned without public accounting
Habitualmente financiado por
National / regional programmes
Vías de financiación indicativas para prácticas de este tipo: compruebe siempre las convocatorias vigentes y las reglas de elegibilidad de cada programa.
¿Usted implementa esta práctica?
Reivindíquela —
los implementadores verificados obtienen un contacto público en la página y pueden proponer correcciones.
Fuentes de datos
De dónde se obtuvo la información de esta práctica, y cuándo.