Chatbot MyCity Business — El Asistente de IA de Nueva York Decía a los Empresarios que Incumplieran la Ley
Estados Unidos
El chatbot MyCity Business de Nueva York, lanzado en octubre de 2023 sobre Microsoft Azure AI, fue hallado en marzo …
Reino Unido · London · Ver el perfil de Reino Unido · Ver el perfil de London
Top 65% 53/100 · Pregunte a Evidence Copilot sobre esta práctica
Probadas entre mayo y diciembre de 2024, las herramientas ACS y APS del Home Office británico ahorraron hasta una hora por expediente de asilo, pero la propia evaluación de la agencia encontró que el 9% de los resúmenes generados por IA eran demasiado defectuosos para usarse y que casi una cuarta parte del personal no confiaba plenamente en los resultados, antes de una implementación más amplia prevista para enero de 2026.
Ante una acumulación de más de 62.000 solicitudes de asilo pendientes de una primera decisión en septiembre de 2025, el Home Office británico probó, entre mayo y diciembre de 2024, dos herramientas de IA generativa: Asylum Case Summarisation (ACS), construida sobre ChatGPT-4 para condensar transcripciones de entrevistas de asilo, y Asylum Policy Search (APS), que localiza y resume orientaciones de política sobre países de origen para el personal encargado de los casos.
Una nota de investigación del Home Office informó de que el ACS ahorraba a los responsables de decisión una media de 23 minutos por caso, y que el APS ahorraba 37 minutos en la búsqueda de material de política —hasta una hora en total—, sin que ninguna de las dos herramientas pareciera alterar la calidad de las decisiones finales en estos pilotos a pequeña escala.
La misma evaluación informó de que el 9% de los resúmenes generados por el ACS presentaban fallos suficientes para ser retirados del piloto, y que el 23% del personal no confiaba plenamente en los resultados de las herramientas; organizaciones de la sociedad civil señalaron por separado que el Home Office se negó a revelar los "prompts" utilizados por las herramientas o si los errores se correlacionaban con la nacionalidad o la complejidad de los casos de los solicitantes, y que a los solicitantes de asilo no se les informa cuándo se usa IA en su caso.
Ambas herramientas se diseñaron exigiendo que un responsable humano revisara cualquier resultado de la IA antes de tomar una decisión, y la propia nota de investigación del Home Office recomienda una evaluación a mayor escala antes de una implementación total; aun así, el ACS avanzó hacia una implementación más amplia en enero de 2026.
Lea el análisis completo: https://www.openrightsgroup.org/blog/saving-time-risking-lives-government-uses-ai-tools-to-inform-asylum-decisions/
Los detalles de implementación (coste, plazo, personal, condiciones para el éxito) aún no están disponibles para esta práctica.
¿Usted implementa esta práctica? Reivindíquela — los implementadores verificados obtienen un contacto público en la página y pueden proponer correcciones.
De dónde se obtuvo la información de esta práctica, y cuándo.
Estados Unidos
El chatbot MyCity Business de Nueva York, lanzado en octubre de 2023 sobre Microsoft Azure AI, fue hallado en marzo …
Australia
La DTA australiana realizó el mayor ensayo gubernamental con Copilot — más de 5.000 funcionarios, casi 60 agencias — evaluación …
Estados Unidos
Nueva Jersey creó su propio asistente de IA generativa seguro para sus empleados estatales, ahora usado por más de 20.000 …
Bélgica
Desde 2014, la seguridad social belga usa MiningWatch para clasificar a empleadores de construcción, limpieza y hostelería según su riesgo …
Abrir el copiloto completo Basado en prácticas citadas: comprueba siempre las fuentes.