evidoria

← Retour à la liste

Bonne pratique Importée

Le détecteur d'armes par IA d'Evolv échoue avant une agression au couteau à Utica, puis fait l'objet d'un accord avec la FTC

États-Unis d'Amérique · Utica · Voir le profil de États-Unis d'Amérique

Preuves: Observationnel / avant-après Top 98% 13/100 · Demandez à Evidence Copilot à propos de cette pratique

Le détecteur d'armes par IA d'Evolv, installé pour 3,7 millions de dollars à Utica (New York), n'a pas repéré un couteau utilisé lors d'une agression en octobre 2022 ; la FTC a ensuite jugé qu'Evolv avait trompé des écoles à l'échelle nationale sur la précision de détection de son IA.

3.7 US$ million
Cout initial du contrat des scanners
~250,000 US$
Cout de retrait et de remplacement apres l'incident
800+ schools, ~40 states
Ecoles deployees a l'echelle nationale
up to 60%
Taux de fausses alertes rapporte de maniere independante dans certaines ecoles
~8%
Clientele eligible a la resiliation de contrat imposee par la FTC
Le détecteur d'armes par IA d'Evolv échoue avant une agression au couteau à Utica, puis fait l'objet d'un accord avec la FTC

Détails

Maturité
Abandonnée
Promoteur
Evolv Technologies / Utica City School District / U.S. Federal Trade Commission
Période
2022-2024
Mots-clés
school safety, AI weapons detection, security screening, regulatory enforcement, K-12

Contexte

Le lycee Thomas R. Proctor, dans le district scolaire d'Utica, dans l'Etat de New York, a installe les scanners de detection d'armes par IA 'Evolv Express' d'Evolv Technologies pour environ 3,7 millions de dollars, remplacant les detecteurs de metaux traditionnels sur la promesse que des modeles d'apprentissage automatique pourraient distinguer de maniere fiable les armes des objets inoffensifs.

Activités

Le 31 octobre 2022, un eleve de 17 ans est passe dans le scanner sans etre detecte avec un couteau de chasse et a poignarde un autre eleve. Les administrateurs d'Utica ont mis hors service le systeme Evolv et sont revenus aux detecteurs de metaux classiques, depensant environ 250 000 dollars supplementaires pour retirer et remplacer l'equipement.

Résultats

Des reportages ont documente des defaillances de detection similaires et des taux eleves de fausses alertes (des tests independants ont fait etat de taux allant jusqu'a 60% dans certaines ecoles) dans d'autres districts scolaires americains utilisant la meme technologie, sur plus de 800 ecoles dans une quarantaine d'Etats ou des scanners Evolv avaient ete deployes.

Conclusions

Entre novembre et decembre 2024, la Federal Trade Commission americaine (FTC) a conclu un accord avec Evolv, concluant que l'entreprise avait trompe des ecoles en affirmant que son IA pouvait detecter 'toutes' les armes de maniere plus precise et plus economique que les detecteurs de metaux, alors que les tests internes et independants ne corroboraient pas ces affirmations. L'accord a interdit toute nouvelle allegation de detection par IA non etayee et a permis a un sous-ensemble de clients K-12 (environ 8% de la clientele totale de l'entreprise) de resilier le reste de leur contrat, sans amende. Cette affaire est un rare exemple d'un regulateur national sanctionnant formellement un fournisseur d'IA pour avoir exagere les capacites d'un produit de securite scolaire, bien que les mesures correctives de l'accord aient ete limitees et que des centaines d'ecoles aient, selon les reportages, continue a utiliser les scanners Evolv par la suite.

Mise en œuvre
Coût indicatif
Moyen (50 k€–500 k€) — $3.7 million initial deployment; ~$250,000 to remove and replace after the 2022 incident.
Délai jusqu’aux résultats
Moyen (1–3 ans) — Deployed prior to the October 2022 incident; decommissioned in Utica shortly after; FTC settlement November-December 2024.
Personnel et compétences
Utica City School District, Evolv Technologies (vendor), U.S. Federal Trade Commission (enforcement)

Modes d’échec courants

  • AI scanner failed to detect a knife later used in a stabbing
  • vendor's marketed accuracy was not supported by internal or independent testing (FTC finding)
  • high false-alarm rates reported at other deploying schools
  • settlement remedies were narrow -- limited opt-out window, no fine -- and many schools continued using the product afterward

Où cela s’applique

Type de gouvernance
school district with private AI-safety vendor; national regulator (FTC) intervention
Échelle
single district incident with nationwide vendor deployment
Niveau de revenu
high income (United States)

Habituellement financé par

National / regional programmes

Pistes de financement indicatives pour des pratiques de ce type — vérifiez toujours les appels en cours et les règles d'éligibilité de chaque programme.

Vous portez cette pratique ? Revendiquez-la — les porteurs vérifiés obtiennent un contact public sur la page et peuvent proposer des corrections.

Sources de données

D'où proviennent les informations de cette pratique, et quand.

Pièces jointes

Pratiques similaires qui pourraient vous être utiles