Elsa — la herramienta de IA generativa que la FDA implementó en toda la agencia para revisores científicos

La Oficina del Comisionado de la FDA utiliza inteligencia artificial generativa para ayudar a los revisores científicos a procesar más rápido las quejas de consumidores, los eventos adversos y las solicitudes de productos bajo su autoridad, mediante un asistente interno llamado «Elsa».
El comisionado de la FDA, Marty Makary, dijo haber quedado "impresionado" con los resultados del primer piloto de revisión científica asistida por IA de la agencia, citando un caso en el que la tarea de un revisor pasó de unos dos días a unos seis minutos; la FDA fijó entonces un calendario agresivo para implementar Elsa en todos los centros de la agencia.
Reportajes independientes de la prensa especializada sobre el uso de Elsa encontraron problemas de precisión, incluida la generación de citas inventadas e incluso estudios fabricados, con personal de la FDA describiendo la herramienta como poco fiable al consultársele información básica y pública sobre productos aprobados.
Debido a estas limitaciones, Elsa está explícitamente excluida de las evaluaciones regulatorias formales, y los periodistas constataron que no está claro cómo define la FDA el éxito de la herramienta, ni qué salvaguardas impiden que los errores generados por IA influyan en decisiones regulatorias, un contraste entre el anuncio triunfal del despliegue y la fiabilidad documentada de la herramienta.

Lea el análisis completo: https://www.medicaleconomics.com/view/fda-s-new-ai-tool-elsa-faces-accuracy-concerns-despite-commissioner-s-high-hopes