Elsa — a Ferramenta de IA Generativa da FDA Implementada em Toda a Agência para Revisores Científicos

O Gabinete do Comissário da FDA utiliza inteligência artificial generativa para ajudar os revisores científicos a processar mais rapidamente queixas de consumidores, eventos adversos e pedidos relativos a produtos sob a sua autoridade, através de um assistente interno com o nome "Elsa".
O comissário da FDA, Marty Makary, afirmou ter ficado "impressionado" com os resultados do primeiro projeto-piloto de revisão científica assistida por IA da agência, citando um caso em que a tarefa de um revisor passou de cerca de dois dias para cerca de seis minutos; a FDA definiu, então, um calendário agressivo para implementar a Elsa em todos os centros da agência.
Reportagens independentes da imprensa especializada sobre o uso da Elsa identificaram problemas de precisão, incluindo a geração de citações inventadas e até estudos fabricados pela ferramenta, com funcionários da FDA a descrevê-la como pouco fiável ao ser questionada sobre informação básica e pública relativa a produtos aprovados.
Devido a estas limitações, a Elsa está explicitamente excluída de avaliações regulatórias formais, e os jornalistas constataram não estar claro como a FDA define "sucesso" para a ferramenta, nem que salvaguardas impedem que erros gerados por IA influenciem decisões regulatórias — um contraste entre o anúncio entusiástico da implementação e a fiabilidade documentada da ferramenta.

Leia a análise completa: https://www.medicaleconomics.com/view/fda-s-new-ai-tool-elsa-faces-accuracy-concerns-despite-commissioner-s-high-hopes