Plataforma Tecnológica de Intervención Social — L'algorithme prédictif de Salta pour le risque de grossesse adolescente (un cas d'alerte)

En 2018, le gouvernement de la province de Salta, dans le nord de l'Argentine, s'est associé, via son Ministère de la Petite Enfance, à Microsoft et à l'ONG anti-avortement Fundación CONIN pour construire un système d'analyse prédictive destiné à identifier, des années à l'avance, quelles adolescentes, nommément désignées, étaient les plus susceptibles de tomber enceintes ou d'abandonner l'école.

Le modèle notait les foyers à partir de variables démographiques telles que l'âge, l'origine ethnique, le handicap, la nationalité et la présence d'eau chaude au domicile. Des « agents territoriaux » provinciaux se rendaient ensuite chez les familles signalées, photographiant les résidents et enregistrant leurs coordonnées GPS, les résultats étant réinjectés dans le système.

Le gouverneur de l'époque, Juan Manuel Urtubey, a publiquement affirmé que le modèle était « précis à 86 % », mais aucune méthodologie, donnée de validation ou évaluation des résultats n'a jamais été publiée ni vérifiée de façon indépendante. Le programme a été condamné par des chercheurs en droits numériques et des universitaires pour avoir profilé des mineures selon des critères ethniques et de pauvreté sans consentement, transparence ni supervision, et pour ses liens avec un groupe anti-avortement pendant le débat national argentin sur la loi sur l'avortement. Il a été discrètement abandonné sans reddition de comptes publique sur ses résultats.

Le cas est aujourd'hui répertorié comme un incident d'IA formel et analysé dans la littérature académique évaluée par les pairs comme un exemple de profilage prédictif non audité en politique sociale — illustrant pourquoi les chiffres de précision revendiqués par des fournisseurs ou des responsables publics ne peuvent remplacer une évaluation indépendante.