Plataforma Tecnológica de Intervención Social — O algoritmo preditivo de Salta para risco de gravidez na adolescência (um caso de alerta)

Em 2018, o governo da Província de Salta, no norte da Argentina, através do seu Ministerio de Primera Infancia, associou-se à Microsoft e à ONG antiaborto Fundación CONIN para construir um sistema de análise preditiva destinado a identificar, com anos de antecedência, quais as adolescentes nomeadas com maior probabilidade de engravidar ou abandonar a escola.

O objetivo declarado era assinalar agregados familiares e indivíduos de alto risco para intervenção precoce, usando pontuação demográfica.

O modelo pontuava agregados familiares com base em variáveis demográficas, incluindo idade, etnia, situação de deficiência, nacionalidade e a existência de água quente canalizada em casa. 'Agentes territoriais' provinciais visitavam depois as famílias assinaladas, fotografando os residentes e registando coordenadas GPS, alimentando os resultados de volta no sistema.

O então governador Juan Manuel Urtubey afirmou publicamente que o modelo tinha '86% de precisão', mas nenhuma metodologia, dados de validação ou avaliação de resultados foi alguma vez publicada ou verificada de forma independente.

O programa foi alvo de condenação por parte de investigadores de direitos digitais e académicos por perfilar menores com base em etnia e indicadores de pobreza sem consentimento, transparência ou supervisão, e pelas suas ligações a um grupo de defesa antiaborto durante o debate nacional argentino sobre a lei do aborto. Foi discretamente abandonado sem prestação pública de contas sobre os resultados, estando agora catalogado como um incidente formal de IA e analisado em literatura revista por pares como exemplo de perfilamento preditivo não auditado em política social — ilustrando por que motivo as afirmações de precisão de fornecedores ou de responsáveis públicos não podem substituir uma avaliação independente.