Chatbot MyCity Business — L'assistant IA de New York conseillait aux entrepreneurs d'enfreindre la loi
États-Unis d'Amérique
Le chatbot MyCity Business de New York, lancé en octobre 2023 sur Microsoft Azure AI, donnait dès mars 2024 des …
Royaume-Uni · London · Voir le profil de Royaume-Uni · Voir le profil de London
Top 65% 53/100 · Demandez à Evidence Copilot à propos de cette pratique
Testés entre mai et décembre 2024, les outils ACS et APS du Home Office britannique ont permis de gagner jusqu'à une heure par dossier d'asile, mais l'évaluation même de l'agence a révélé que 9 % des résumés générés par IA étaient trop défaillants pour être utilisés et que près d'un quart des agents n'avaient pas pleinement confiance dans les résultats, avant un déploiement plus large prévu en janvier 2026.
Face à un arriéré de plus de 62 000 demandes d'asile en attente d'une première décision en septembre 2025, le Home Office britannique a testé, entre mai et décembre 2024, deux outils d'IA générative : Asylum Case Summarisation (ACS), construit sur ChatGPT-4 pour condenser les transcriptions d'entretiens d'asile, et Asylum Policy Search (APS), qui recherche et résume les orientations politiques par pays d'origine à l'intention des agents instructeurs.
Une note de recherche du Home Office a indiqué que l'ACS faisait gagner en moyenne 23 minutes par dossier aux décideurs, et que l'APS faisait gagner 37 minutes de recherche documentaire — jusqu'à une heure au total —, sans qu'aucun des deux outils ne semble modifier la qualité des décisions finales dans ces pilotes à petite échelle.
La même évaluation a indiqué que 9 % des résumés générés par l'ACS présentaient des défauts suffisamment importants pour être retirés du pilote, et que 23 % des agents n'avaient pas pleinement confiance dans les résultats des outils ; des organisations de la société civile ont par ailleurs relevé que le Home Office avait refusé de divulguer les instructions (prompts) utilisées par les outils ou si les erreurs étaient corrélées à la nationalité ou à la complexité des dossiers des demandeurs, et que les demandeurs d'asile ne sont pas informés lorsque l'IA est utilisée dans leur dossier.
Les deux outils ont été conçus pour exiger qu'un décideur humain examine tout résultat de l'IA avant qu'une décision ne soit prise, et la note de recherche du Home Office recommande elle-même une évaluation à plus grande échelle avant un déploiement complet ; l'ACS a néanmoins été programmé pour un déploiement élargi en janvier 2026.
Lire l'analyse complète : https://www.openrightsgroup.org/blog/saving-time-risking-lives-government-uses-ai-tools-to-inform-asylum-decisions/
Les détails de mise en œuvre (coût, calendrier, personnel, conditions de réussite) ne sont pas encore disponibles pour cette pratique.
Vous portez cette pratique ? Revendiquez-la — les porteurs vérifiés obtiennent un contact public sur la page et peuvent proposer des corrections.
D'où proviennent les informations de cette pratique, et quand.
États-Unis d'Amérique
Le chatbot MyCity Business de New York, lancé en octobre 2023 sur Microsoft Azure AI, donnait dès mars 2024 des …
Australie
La DTA australienne a mené le plus grand essai gouvernemental avec Copilot — plus de 5 000 agents, près de …
États-Unis d'Amérique
Le New Jersey a construit son propre assistant d'IA générative sécurisé pour ses agents, désormais utilisé par plus de 20 …
Belgique
Depuis 2014, la sécurité sociale belge utilise MiningWatch pour classer les employeurs de la construction, du nettoyage et de l'hôtellerie …
Ouvrir le copilote complet Fondé sur des pratiques citées — vérifiez toujours les sources.