EdChat — le chatbot d'IA générative filtré, géré par le ministère de l'Éducation d'Australie-Méridionale pour les lycées publics

Le ministère de l'Éducation d'Australie-Méridionale a créé EdChat, un chatbot d'IA générative hébergé sur Azure OpenAI avec des filtres Azure AI Content Safety, afin que élèves et personnels puissent utiliser l'IA sans que les données des élèves servent à entraîner des modèles.
Un premier essai de huit semaines a eu lieu dans huit lycées publics ; selon Microsoft, le pilote a concerné environ 1 500 élèves et 150 enseignants, avec environ 20 % d'élèves utilisateurs actifs. Des chercheurs ayant recueilli des données auprès d'environ 700 élèves et 90 enseignants (rapportées par The Conversation, résultats décrits comme en cours de relecture par les pairs) ont constaté que les enseignants appréciaient le temps gagné pour préparer les cours et préféraient EdChat à ChatGPT pour des raisons de confidentialité.
Ces mêmes comptes rendus signalent des problèmes : hallucinations, élèves prenant les réponses pour argent comptant, filtres bloquant parfois des sujets légitimes d'histoire, de santé et de politique, difficulté à repérer le plagiat et questions sur le stockage des données. Les chercheurs recommandent davantage d'éducation à l'IA, une évaluation des biais et plus de formation des enseignants.
Aucune mesure des résultats d'apprentissage n'a été publiée ; les preuves étayent l'argument de sécurité et d'adoption, pas une allégation d'impact. Le déploiement s'est poursuivi dans les écoles publiques de l'État.