Programa AI Scribe de Ontário — o Auditor-Geral conclui que 9 de 20 sistemas aprovados de notas clínicas fabricaram conteúdo

O programa AI Scribe de Ontário, gerido pela Supply Ontario com o Ministério da Saúde e a OntarioMD, aprovou 20 sistemas de fornecedores que transcrevem consultas e redigem notas clínicas. O Ministério da Saúde indica que mais de 5000 médicos de Ontário participam, e a OntarioMD atribui a estas ferramentas reduções de 70-90% no tempo de papelada (alegação do programa, de um relatório anterior).
Num relatório especial sobre o uso de IA no governo, apresentado a 12 de maio de 2026, o Auditor-Geral de Ontário analisou a avaliação dos fornecedores, feita com gravações simuladas de consultas comparadas com o original por profissionais de saúde. Dos 20 sistemas, 9 fabricaram informação (por exemplo, encaminhamentos, pedidos de exames ou achados como «sem massas» que não existiam), 12 registaram um fármaco diferente do prescrito e 17 omitiram detalhes importantes de saúde mental em pelo menos um teste (6 em ambos).
A auditoria constatou ainda que a pontuação da contratação dava 30% de peso à presença local em Ontário, mas apenas 4% à exatidão das notas, 2% aos controlos de enviesamento e 2% às avaliações de ameaças, riscos e privacidade; os resultados dos testes dos fornecedores não foram validados, as demonstrações ao vivo foram limitadas e nenhum produto aprovado exigia atestação do clínico. O relatório fez dez recomendações (cinco ao Ministério, cinco à Supply Ontario), incluindo pesos maiores e notas mínimas para exatidão, enviesamento e segurança, demonstrações ao vivo obrigatórias, relatórios SOC 2 Tipo 2 anuais e controlos de atestação.
O Ministério aceitou as suas recomendações e a Supply Ontario aceitou-as total ou parcialmente. O ministro afirmou que as alucinações ocorreram em testes e não em uso real; o Ministério não conhece danos a doentes. Limites da evidência: os resultados vêm de gravações simuladas, não de resultados clínicos, e não há taxas de erro em contexto real. O caso é valioso como auditoria transparente de como a ponderação na contratação pode deixar passar defeitos de exatidão.