Programme AI Scribe de l'Ontario — la vérificatrice générale constate que 9 des 20 systèmes de notes cliniques approuvés ont inventé du contenu

Le programme AI Scribe de l'Ontario, mené par Approvisionnement Ontario (Supply Ontario) avec le ministère de la Santé et OntarioMD, a approuvé 20 systèmes de fournisseurs qui transcrivent les consultations et rédigent des notes cliniques. Le ministère de la Santé indique que plus de 5 000 médecins ontariens y participent, et OntarioMD attribue à ces outils des gains de 70 à 90 % sur le temps de paperasse (affirmation du programme, issue d'un rapport antérieur).
Dans un rapport spécial sur l'usage de l'IA par le gouvernement, déposé le 12 mai 2026, le vérificateur général de l'Ontario a examiné l'évaluation des fournisseurs, réalisée à partir d'enregistrements simulés de consultations comparés à la source par des professionnels de santé. Sur les 20 systèmes, 9 ont inventé des informations (par exemple des orientations, des demandes d'examens ou des constats comme « aucune masse » inexistants), 12 ont consigné un autre médicament que celui prescrit et 17 ont omis des détails clés de santé mentale lors d'au moins un test (6 lors des deux).
L'audit a aussi relevé que la grille d'achat accordait 30 % de poids à une présence locale en Ontario, mais seulement 4 % à l'exactitude des notes, 2 % aux contrôles des biais et 2 % aux évaluations des menaces, des risques et de la vie privée ; les résultats des essais des fournisseurs n'ont pas été validés, les démonstrations en direct étaient limitées et aucun produit approuvé n'exigeait d'attestation par le clinicien. Le rapport a formulé dix recommandations (cinq pour le ministère, cinq pour Supply Ontario), dont des pondérations plus élevées et des seuils minimaux pour l'exactitude, les biais et la sécurité, des démonstrations en direct obligatoires, des rapports SOC 2 de type 2 annuels et des contrôles d'attestation.
Le ministère a accepté ses recommandations et Supply Ontario a accepté tout ou partie des siennes. Le ministre a déclaré que les hallucinations sont survenues lors des essais et non en usage réel ; le ministère n'a connaissance d'aucun préjudice pour des patients. Limites des preuves : les constats proviennent d'enregistrements simulés, non de résultats cliniques, et aucun taux d'erreur en conditions réelles n'est publié. Le cas est précieux comme audit transparent de la façon dont la pondération des achats peut laisser passer des défauts d'exactitude.