A Agência de Medicamentos do Canadá realizou uma comparação revista por pares, com 7 projetos, entre Lens.org, SpiderCite e Microsoft Copilot face à pesquisa manual para síntese de evidência de reembolso de medicamentos, concluindo que as três ferramentas de IA recuperaram claramente menos estudos relevantes do que pesquisadores treinados.
Recuperação/sensibilidade, Microsoft Copilot (GPT-4) (7 HTA projects, Aug-Nov 2024)
2.88 hours
Tempo médio de pesquisa, manual
0.96 hours
Tempo médio mínimo de pesquisa, Copilot
Detalhes
Promotor
Canada's Drug Agency (CDA-AMC, formerly CADTH)
Período
2024–2025
Palavras-chave
evidence synthesis, health technology assessment, AI tool evaluation, regulatory policy analysis, systematic review
Contexto
A Agência Canadiana de Medicamentos (CDA-AMC, anteriormente CADTH) incumbiu a sua equipa de Serviços de Informação de Investigação de avaliar três ferramentas de pesquisa bibliográfica e síntese de evidência assistidas por IA — Lens.org, SpiderCite e Microsoft Copilot (GPT-4) — em comparação com os métodos-padrão de pesquisa para revisões sistemáticas, no âmbito do trabalho de Avaliação de Tecnologias de Saúde (HTA) que sustenta as recomendações de reembolso de medicamentos e tecnologias do Canadá.
Objetivos
Avaliar se as ferramentas de pesquisa assistidas por IA conseguem igualar o desempenho da pesquisa manual em revisões sistemáticas para a síntese de evidência em HTA.
Atividades
Uma comparação retrospetiva em 7 projetos de HTA concluídos pela agência (agosto-novembro de 2024) avaliou a recuperação (recall) e o tempo de pesquisa de cada ferramenta de IA face à pesquisa manual de referência. Os resultados foram publicados como um estudo comparativo revisto por pares e incorporados numa declaração de posição oficial da CDA-AMC sobre o uso de IA em HTA.
Resultados
A pesquisa manual de referência alcançou uma recuperação/sensibilidade de 0,986, contra 0,676 para o Lens.org, aproximadamente 0,23-0,26 para o SpiderCite, e 0,244 para o Copilot. O tempo de pesquisa caiu de uma média de 2,88 horas para a pesquisa manual até apenas 0,96 horas para o Copilot.
Conclusões
A conclusão da agência é cautelosa e não promocional: cada ferramenta foi considerada 'adequada à finalidade' apenas em papéis de apoio restritos — por exemplo, o Copilot para o brainstorming de estratégias de pesquisa — e explicitamente não como substituto da pesquisa sistemática padrão em tópicos complexos de HTA.
Implementação
Os detalhes de implementação (custo, prazo, equipa, condições de sucesso) ainda não estão disponíveis para esta prática.
Fontes de dados
De onde foi obtida a informação desta prática, e quando.