New York devient le premier État américain à interdire les technologies biométriques dans les écoles après le déploiement de la reconnaissance faciale à Lockport

En janvier 2020, le district scolaire de Lockport City, dans le nord de l'État de New York, a activé Aegis, un système de surveillance par reconnaissance faciale et d'objets basé sur un logiciel de la canadienne SN Technologies, utilisant environ 1,4 million de dollars d'une allocation de 4,2 millions au titre de la loi new-yorkaise sur les obligations pour écoles intelligentes, destiné à signaler les délinquants sexuels enregistrés, les élèves exclus et les armes pénétrant dans les établissements scolaires.

Le déploiement a suscité une opposition immédiate de la New York Civil Liberties Union (NYCLU) et de chercheurs en protection de la vie privée, qui ont souligné des recherches indépendantes sur la précision de la reconnaissance faciale montrant des disparités raciales et de genre importantes ; des articles sur le système spécifique de Lockport ont cité un audit constatant que son algorithme était nettement plus susceptible d'identifier à tort des femmes noires que des hommes blancs. En décembre 2020, le gouverneur de l'État de New York, Andrew Cuomo, a promulgué une loi imposant un moratoire à l'échelle de l'État interdisant aux écoles publiques et privées d'acheter ou d'utiliser des technologies d'identification biométrique jusqu'au 1er juillet 2022 au moins.

Des articles de suivi de NY Focus en 2023 ont montré une situation plus mitigée après l'expiration initiale du moratoire : l'étude à l'échelle de l'État promise et des règles de suivi claires ont été retardées, laissant districts scolaires et fournisseurs dans une période d'ambiguïté réglementaire, et Lockport elle-même a fait l'objet d'un litige lié à son utilisation antérieure du système -- soulignant qu'une interdiction historique ne garantit pas, à elle seule, un résultat propre et définitivement réglé.