Programa AI Scribe de Ontario — la Auditora General halla que 9 de 20 sistemas aprobados de notas clínicas inventaron contenido

El programa AI Scribe de Ontario, gestionado por Supply Ontario con el Ministerio de Sanidad y OntarioMD, aprobó 20 sistemas de proveedores que transcriben las consultas y redactan notas clínicas. El Ministerio de Sanidad indica que más de 5000 médicos de Ontario participan, y OntarioMD atribuye a estas herramientas reducciones del 70-90 % en el tiempo de papeleo (afirmación del programa, de un informe anterior).
En un informe especial sobre el uso de la IA en el gobierno, presentado el 12 de mayo de 2026, el Auditor General de Ontario examinó la evaluación de proveedores, realizada con grabaciones simuladas de consultas comparadas con el original por profesionales sanitarios. De los 20 sistemas, 9 inventaron información (por ejemplo derivaciones, pruebas solicitadas o hallazgos como «sin masas» que no existían), 12 registraron un fármaco distinto del prescrito y 17 omitieron detalles clave de salud mental en al menos una prueba (6 en ambas).
La auditoría halló además que la puntuación de la contratación daba un 30 % de peso a la presencia local en Ontario, pero solo un 4 % a la precisión de las notas, un 2 % a los controles de sesgo y un 2 % a las evaluaciones de amenazas, riesgos y privacidad; los resultados de las pruebas de los proveedores no se validaron, las demostraciones en vivo fueron limitadas y ningún producto aprobado exigía atestación del clínico. El informe formuló diez recomendaciones (cinco al Ministerio, cinco a Supply Ontario), entre ellas mayores ponderaciones y umbrales mínimos de precisión, sesgo y seguridad, demostraciones en vivo obligatorias, informes SOC 2 Tipo 2 anuales y controles de atestación.
El Ministerio aceptó sus recomendaciones y Supply Ontario aceptó total o parcialmente las suyas. El ministro afirmó que las alucinaciones se produjeron en las pruebas y no en el uso real; el Ministerio no tiene constancia de daños a pacientes. Límites de la evidencia: los hallazgos proceden de grabaciones simuladas, no de resultados clínicos, y no hay tasas de error en condiciones reales. El caso es valioso como auditoría transparente de cómo la ponderación en la contratación puede dejar pasar defectos de precisión.