Elsa — l'outil d'IA générative déployé dans toute la FDA pour les évaluateurs scientifiques

Le bureau du commissaire de la FDA utilise l'IA générative pour aider les examinateurs scientifiques à traiter plus rapidement les plaintes des consommateurs, les événements indésirables et les demandes concernant les produits relevant de son autorité, via un assistant interne appelé « Elsa ».

Le commissaire de la FDA, Marty Makary, a déclaré avoir été « bluffé » par les résultats du premier projet pilote d'examen scientifique assisté par IA de l'agence, citant un cas où la tâche d'un examinateur est passée d'environ deux jours à environ six minutes ; la FDA a ensuite fixé un calendrier agressif pour déployer Elsa dans toute l'agence.

Des reportages indépendants de la presse spécialisée sur l'utilisation d'Elsa ont révélé des problèmes de précision, notamment l'outil générant des citations hallucinées et même des études fabriquées, le personnel de la FDA le décrivant comme peu fiable lorsqu'interrogé sur des informations de base et publiquement disponibles sur des produits approuvés.

En raison de ces limitations, Elsa est explicitement exclue des évaluations réglementaires formelles, et les journalistes ont constaté qu'il n'est pas clair comment la FDA définit le « succès » de l'outil ni quelles garanties empêchent les erreurs générées par l'IA d'influencer les décisions réglementaires — un écart entre l'annonce de lancement célébrant l'outil et sa fiabilité documentée.