Plataforma Tecnológica de Intervención Social — L'algorithme prédictif de Salta pour le risque de grossesse adolescente (un cas d'alerte)

En 2018, le gouvernement de la province de Salta, dans le nord de l'Argentine, par le biais de son Ministerio de Primera Infancia, s'est associé à Microsoft et à l'ONG anti-avortement Fundación CONIN pour construire un système d'analyse prédictive destiné à identifier, des années à l'avance, quelles adolescentes nommément désignées étaient les plus susceptibles de tomber enceintes ou d'abandonner l'école.

L'objectif affiché était de signaler les foyers et individus à haut risque pour une intervention précoce, à l'aide d'un score démographique.

Le modèle attribuait un score aux foyers à partir de variables démographiques, notamment l'âge, l'origine ethnique, le statut de handicap, la nationalité et la présence d'eau chaude courante au domicile. Des « agents territoriaux » provinciaux se rendaient ensuite chez les familles signalées, photographiant les résidents et enregistrant les coordonnées GPS, réinjectant les résultats dans le système.

Le gouverneur de l'époque, Juan Manuel Urtubey, a publiquement affirmé que le modèle était « précis à 86 % », mais aucune méthodologie, donnée de validation ou évaluation des résultats n'a jamais été publiée ni vérifiée de manière indépendante.

Le programme a été condamné par des chercheurs en droits numériques et des universitaires pour avoir profilé des mineures selon des marqueurs ethniques et de pauvreté sans consentement, transparence ni supervision, et pour ses liens avec un groupe de défense anti-avortement pendant le débat national argentin sur la loi sur l'avortement. Il a été discrètement abandonné sans reddition de comptes publique sur les résultats, et est aujourd'hui recensé comme un incident d'IA formel, analysé dans la littérature évaluée par les pairs comme un exemple de profilage prédictif non audité en politique sociale — illustrant pourquoi les chiffres de précision revendiqués par des fournisseurs ou des responsables ne peuvent se substituer à une évaluation indépendante.