evidoria

← Volver al listado

Buena práctica Importada

La Ley Municipal 144 de Nueva York — divulgación obligatoria de auditorías de sesgo para herramientas automatizadas de contratación, y su brecha de aplicación

Estados Unidos · New York City · Ver el perfil de Estados Unidos · Ver el perfil de New York City

Evidencia: Observacional / pre-post Top 51% 60/100 · Pregunte a Evidence Copilot sobre esta práctica

La Ley 144 de Nueva York obliga a los empleadores a publicar auditorías de sesgo independientes antes de usar herramientas de IA para preseleccionar candidatos. Una auditoría de 2025 del Comptroller del Estado de Nueva York halló solo 2 quejas en la DCWP y 17 de 18 casos de incumplimiento no detectados.

2 complaints
Denuncias sobre AEDT recibidas por el DCWP (Jul 2023–Jun 2025)
32 companies
Empresas revisadas por el DCWP
1 instance
Casos de incumplimiento identificados por el DCWP
17 instances (at least)
Casos de incumplimiento hallados por la propia revisión del Contralor (mismas 32 empresas)
391 employers
Empleadores verificados en el estudio académico
18 employers
Empleadores que publicaron el resumen de auditoría de sesgo requerido
13 employers
Empleadores que publicaron el aviso obligatorio a los candidatos
La Ley Municipal 144 de Nueva York — divulgación obligatoria de auditorías de sesgo para herramientas automatizadas de contratación, y su brecha de aplicación

Detalles

Madurez
Consolidada
Promotor
NYC Department of Consumer and Worker Protection (DCWP)
Período
2023–present
Palabras clave
employment, algorithmic transparency, compliance & enforcement, hiring technology

Contexto

La Ley Local 144 exige que todo empleador que utilice una 'herramienta automatizada de decisión de empleo' (AEDT) —software que asiste sustancialmente o sustituye el juicio humano en decisiones de contratación o promoción— sobre candidatos radicados en la ciudad de Nueva York, contrate una auditoría de sesgo independiente y publique un resumen de los resultados, junto con un aviso a los candidatos. La ley se promulgó en 2021, entró en vigor el 1 de enero de 2023, y la fiscalización por parte del DCWP comenzó el 5 de julio de 2023.

Objetivos

El objetivo de la ley es hacer más transparente y responsable el uso de herramientas automatizadas de contratación mediante auditorías independientes obligatorias y divulgación pública.

Actividades

La fiscalización corre a cargo del Departamento de Protección al Consumidor y al Trabajador de Nueva York (DCWP), que revisa las denuncias y el cumplimiento por parte de los empleadores de los requisitos de publicación de la auditoría y de aviso a los candidatos.

Resultados

Una auditoría del Contralor del Estado de Nueva York, publicada el 2 de diciembre de 2025 y que abarca de julio de 2023 a junio de 2025, encontró que el DCWP recibió solo dos denuncias relacionadas con AEDT en todo el período, revisó los sitios web y auditorías de sesgo de 32 empresas, e identificó solo un caso de incumplimiento, mientras que la propia revisión del Contralor de esas mismas 32 empresas encontró al menos 17 casos de posible incumplimiento. La auditoría atribuyó esta brecha a que el DCWP no investigó si su propio proceso de recepción de denuncias funcionaba, ni aplicó los procedimientos formales de revisión creados por su propia oficina. Un estudio académico independiente que verificó a 391 empleadores encontró que solo 18 habían publicado un resumen de auditoría de sesgo y 13 habían publicado el aviso obligatorio a los candidatos.

Conclusiones

La Ley Local 144 sigue siendo el primer régimen vinculante de divulgación pública de este tipo para herramientas de contratación con IA, y su diseño —auditorías independientes obligatorias más publicación pública— ha influido en propuestas posteriores en otros lugares. Pero los hallazgos del Contralor y de los académicos la convierten en un caso de advertencia documentado: aprobar una ley de transparencia no produce, por sí sola, transparencia sin una capacidad de fiscalización equivalente.

Implementación
Coste indicativo
Medio (50 000–500 000 €) — No specific enforcement budget disclosed; DCWP operates as an existing city regulatory agency — conservative medium estimate for citywide compliance-monitoring operation.
Tiempo hasta resultados
Medio (1–3 años) — Enacted 2021, effective January 2023, enforcement ongoing since July 2023 — a multi-year, not yet decade-scale, regulatory programme.
Personal y competencias
NYC Department of Consumer and Worker Protection (DCWP) — enforcement agency, Independent bias auditors (retained by employers), New York State Comptroller's office (oversight audit)

Condiciones para el éxito

  • Employers commissioning genuine independent bias audits
  • DCWP proactively investigating complaint intake and applying its own review procedures
  • Adequate enforcement capacity scaled to the number of covered employers

Modos de fallo comunes

  • DCWP received only 2 complaints in two years and caught only 1 of at least 18 non-compliance cases the Comptroller identified
  • DCWP did not investigate whether its own complaint intake process worked
  • DCWP did not apply the formal review procedures its own office created
  • Academic study found only 18 of 391 checked employers posted the required bias-audit summary

¿Usted implementa esta práctica? Reivindíquela — los implementadores verificados obtienen un contacto público en la página y pueden proponer correcciones.

Fuentes de datos

De dónde se obtuvo la información de esta práctica, y cuándo.

Adjuntos

Prácticas similares que pueden serle útiles