EdChat — el chatbot de IA generativa con filtros de contenido del Departamento de Educación de Australia Meridional para institutos públicos

El Departamento de Educación de Australia Meridional creó EdChat, un chatbot de IA generativa alojado en Azure OpenAI con filtros de Azure AI Content Safety, para que alumnado y personal pudieran usar IA sin que los datos del alumnado se emplearan para entrenar modelos.
Un ensayo inicial de ocho semanas se realizó en ocho institutos públicos; según Microsoft, el piloto abarcó unos 1.500 estudiantes y 150 docentes, con cerca del 20 % del alumnado como usuario activo. Investigadores que recogieron datos de unos 700 estudiantes y 90 docentes (recogidos por The Conversation, con resultados descritos como en revisión por pares) hallaron que el profesorado valoraba el tiempo ahorrado en la planificación de clases y prefería EdChat a ChatGPT por razones de privacidad.
Esos mismos informes recogen problemas: alucinaciones, alumnado que toma las respuestas sin espíritu crítico, filtros que a veces bloquearon temas legítimos de historia, salud y política, dificultad para detectar plagio y dudas sobre el almacenamiento de datos. Los investigadores recomendaron más alfabetización en IA, evaluación de sesgos y formación docente.
No se han publicado mediciones de resultados de aprendizaje; la evidencia respalda el argumento de seguridad y adopción, no una afirmación de impacto. El despliegue continuó en las escuelas públicas de todo el estado.