EdChat — o chatbot de IA generativa com filtros de conteúdo, gerido pelo Departamento de Educação da Austrália do Sul, para escolas secundárias públicas

O Departamento de Educação da Austrália do Sul criou o EdChat, um chatbot de IA generativa alojado em Azure OpenAI com filtros Azure AI Content Safety, para que alunos e pessoal pudessem usar IA sem que os dados dos alunos fossem usados para treinar modelos.
Um ensaio inicial de oito semanas decorreu em oito escolas secundárias públicas; segundo a Microsoft, o piloto envolveu cerca de 1500 alunos e 150 professores, com cerca de 20% dos alunos a usar ativamente a ferramenta. Investigadores que recolheram dados de cerca de 700 alunos e 90 professores (divulgados pelo The Conversation, com os resultados descritos como em revisão por pares) concluíram que os professores valorizaram o tempo poupado no planeamento de aulas e preferiram o EdChat ao ChatGPT por razões de privacidade.
Os mesmos relatos registam problemas: alucinações, alunos a tratar as respostas sem espírito crítico, filtros que por vezes bloquearam temas legítimos de história, saúde e política, dificuldade em avaliar plágio e dúvidas dos professores sobre o armazenamento de dados. Os investigadores recomendaram mais literacia em IA, avaliação de enviesamentos e formação de professores.
Não foram publicadas medições de resultados de aprendizagem; a evidência sustenta o argumento de segurança e adoção, não uma alegação de impacto. A implementação prosseguiu para as escolas públicas de todo o estado.