Le profilage des chômeurs — le tri algorithmique des prestations polonais invalidé par la Constitution

À partir de 2014, le réseau des services publics de l'emploi de Pologne — environ 340 à 350 agences locales pour l'emploi de district (Powiatowe Urzędy Pracy) dans tout le pays — a utilisé un système algorithmique obligatoire pour classer chaque nouveau demandeur d'emploi inscrit dans l'un de trois « profils », sur la base de 24 points de données (8 collectés lors de l'inscription, les autres issus d'un entretien structuré mené par un agent sur un terminal informatique). Les demandeurs d'emploi du Profil I (« actifs ») étaient censés trouver un travail avec une aide minimale ; ceux du Profil II (« soutenus ») recevaient une aide à la recherche d'emploi ; ceux du Profil III (« éloignés ») étaient jugés confrontés à des obstacles sociaux ou motivationnels complexes et étaient, en principe, éligibles à des interventions plus intensives.

Le système a fonctionné à l'échelle nationale pendant cinq ans comme une étape obligatoire de l'inscription au chômage, les agents conservant formellement le pouvoir d'outrepasser la classification de l'algorithme.

Une recherche indépendante (Centre for Internet & Human Rights, corroborée par le rapport Automating Society d'AlgorithmWatch) a établi que les trois niveaux se répartissaient approximativement en 2 % / 65 % / 33 % au niveau national, et que les agents n'ont outrepassé la classification de l'algorithme que dans 0,58 % des cas — ce qui la rendait, en pratique, presque déterminante. La même recherche a constaté que 38 % des agences pour l'emploi n'étaient en mesure d'offrir aucun des dix types d'aide désignés à leurs demandeurs du Profil III — le groupe pourtant censé être le plus nécessiteux — car les programmes spécialisés étaient trop coûteux ou logistiquement difficiles à mettre en œuvre pour les agences plus petites.

Le Commissaire polonais aux droits de l'homme a saisi le Tribunal constitutionnel, faisant valoir que l'étendue des données personnelles utilisées pour profiler les citoyens aurait dû être fixée par une loi parlementaire, et non par un règlement ministériel. Le Tribunal lui a donné raison dans un arrêt de 2018, jugeant la délégation inconstitutionnelle, et le gouvernement a ensuite adopté un amendement abolissant le système de profilage, entré en vigueur en décembre 2019, mettant fin à cinq années de tri algorithmique des allocations chômage à l'échelle nationale.