evidoria

← Volver al listado

Buena práctica Importada

El escáner de armas con IA de Evolv falla antes de una puñalada en Utica y termina en un acuerdo con la FTC

Estados Unidos · Utica · Ver el perfil de Estados Unidos

Evidencia: Observacional / pre-post Top 98% 13/100 · Pregunte a Evidence Copilot sobre esta práctica

El escáner de armas con IA de Evolv, instalado por 3,7 millones de dólares en Utica, Nueva York, no detectó un cuchillo usado en una puñalada en octubre de 2022; la FTC determinó después que Evolv había engañado a escuelas de todo el país sobre la precisión de detección de armas de su IA.

3.7 US$ million
Coste inicial del contrato de escaneres
~250,000 US$
Coste de retirada y sustitucion tras el incidente
800+ schools, ~40 states
Escuelas con el sistema implementado a nivel nacional
up to 60%
Tasa de falsas alarmas citada de forma independiente en algunas escuelas
~8%
Base de clientes elegible para la cancelacion de contrato exigida por la FTC
El escáner de armas con IA de Evolv falla antes de una puñalada en Utica y termina en un acuerdo con la FTC

Detalles

Madurez
Descontinuada
Promotor
Evolv Technologies / Utica City School District / U.S. Federal Trade Commission
Período
2022-2024
Palabras clave
school safety, AI weapons detection, security screening, regulatory enforcement, K-12

Contexto

La escuela secundaria Thomas R. Proctor, en el distrito escolar de Utica, Nueva York, instalo los escaneres de deteccion de armas con IA 'Evolv Express' de Evolv Technologies por unos 3,7 millones de dolares, sustituyendo los detectores de metales tradicionales bajo la promesa de que los modelos de aprendizaje automatico podian distinguir de forma fiable las armas de los objetos inofensivos.

Actividades

El 31 de octubre de 2022, un estudiante de 17 anos paso por el escaner sin ser detectado con un cuchillo de caza y apunalo a otro estudiante. Los administradores de Utica desmantelaron el sistema Evolv y volvieron a los detectores de metales convencionales, gastando unos 250.000 dolares adicionales para retirar y sustituir el equipo.

Resultados

Reportajes documentaron fallos de deteccion similares y altas tasas de falsas alarmas (pruebas independientes citaron tasas de hasta el 60% en algunas escuelas) en otros distritos escolares de EE. UU. que usaban la misma tecnologia, de un total de mas de 800 escuelas en unos 40 estados donde se habian desplegado escaneres Evolv.

Conclusiones

Entre noviembre y diciembre de 2024, la Comision Federal de Comercio de EE. UU. (FTC) llego a un acuerdo con Evolv, concluyendo que la empresa habia enganado a las escuelas al afirmar que su IA podia detectar 'todas' las armas de forma mas precisa y economica que los detectores de metales, cuando las pruebas internas e independientes no respaldaban esas afirmaciones. El acuerdo prohibio futuras alegaciones de deteccion por IA sin fundamento y permitio que un subconjunto de clientes K-12 (alrededor del 8% de la base total de clientes de la empresa) cancelara el resto de sus contratos, sin multa. El caso es un raro ejemplo de un regulador nacional sancionando formalmente a un proveedor de IA por exagerar las capacidades de un producto de seguridad escolar, aunque las medidas del acuerdo fueron limitadas y, segun reportajes, cientos de escuelas siguieron usando los escaneres de Evolv despues.

Implementación
Coste indicativo
Medio (50 000–500 000 €) — $3.7 million initial deployment; ~$250,000 to remove and replace after the 2022 incident.
Tiempo hasta resultados
Medio (1–3 años) — Deployed prior to the October 2022 incident; decommissioned in Utica shortly after; FTC settlement November-December 2024.
Personal y competencias
Utica City School District, Evolv Technologies (vendor), U.S. Federal Trade Commission (enforcement)

Modos de fallo comunes

  • AI scanner failed to detect a knife later used in a stabbing
  • vendor's marketed accuracy was not supported by internal or independent testing (FTC finding)
  • high false-alarm rates reported at other deploying schools
  • settlement remedies were narrow -- limited opt-out window, no fine -- and many schools continued using the product afterward

Dónde encaja

Tipo de gobernanza
school district with private AI-safety vendor; national regulator (FTC) intervention
Escala
single district incident with nationwide vendor deployment
Nivel de ingresos
high income (United States)

Habitualmente financiado por

National / regional programmes

Vías de financiación indicativas para prácticas de este tipo: compruebe siempre las convocatorias vigentes y las reglas de elegibilidad de cada programa.

¿Usted implementa esta práctica? Reivindíquela — los implementadores verificados obtienen un contacto público en la página y pueden proponer correcciones.

Fuentes de datos

De dónde se obtuvo la información de esta práctica, y cuándo.

Adjuntos

Prácticas similares que pueden serle útiles