Elsa — l'outil d'IA générative déployé dans toute la FDA pour les évaluateurs scientifiques

Le bureau du commissaire de la FDA utilise l'IA générative pour aider les évaluateurs scientifiques à traiter plus rapidement les plaintes de consommateurs, les effets indésirables et les demandes relatives aux produits relevant de son autorité, via un assistant interne baptisé « Elsa ».
Le commissaire de la FDA, Marty Makary, a déclaré avoir été « bluffé » par les résultats du premier projet pilote d'évaluation scientifique assistée par IA de l'agence, citant un cas où la tâche d'un évaluateur est passée d'environ deux jours à environ six minutes ; la FDA a ensuite fixé un calendrier ambitieux pour déployer Elsa dans tous les centres de l'agence.
Des reportages indépendants de la presse spécialisée sur l'utilisation d'Elsa ont révélé des problèmes de précision, notamment la génération de citations inventées et même d'études fabriquées, le personnel de la FDA décrivant l'outil comme peu fiable lorsqu'il était interrogé sur des informations de base et publiques concernant des produits approuvés.
En raison de ces limites, Elsa est explicitement exclue des évaluations réglementaires formelles, et les journalistes ont constaté qu'il n'était pas clair comment la FDA définit le « succès » de l'outil, ni quels garde-fous empêchent les erreurs générées par l'IA d'influencer les décisions réglementaires — un écart entre l'annonce triomphale du déploiement et la fiabilité documentée de l'outil.

Lire l'analyse complète : https://www.medicaleconomics.com/view/fda-s-new-ai-tool-elsa-faces-accuracy-concerns-despite-commissioner-s-high-hopes