Cuando la Detección por IA se Vuelve en Contra — Australian Catholic University Abandona la Herramienta Antifraude de Turnitin

En 2023, el proveedor de detección de plagio Turnitin añadió un detector de escritura por IA a sus herramientas, y universidades australianas — entre ellas Australian Catholic University (ACU) — comenzaron a usarlo para señalar trabajos de estudiantes sospechosos de haber sido generados por IA. Al menos una docena de las 43 universidades australianas, y según algunas estimaciones unas 30, adoptaron herramientas de detección de IA similares.

En 2024, ACU registró cerca de 6.000 denuncias por fraude académico en sus nueve campus, aproximadamente el 90% relacionadas con el uso de IA — la cifra más alta de casos registrada por la universidad. Alrededor de una cuarta parte de todas las denuncias fue desestimada tras la investigación, y los casos basados únicamente en la puntuación de IA de Turnitin se desestimaban automáticamente, en línea con las propias directrices de Turnitin de que su "informe de IA no debe usarse como única base para medidas adversas contra un estudiante". Los estudiantes describieron expedientes marcados como "resultados retenidos" durante meses, y una estudiante de enfermería afirmó que una acusación injustificada le costó una oferta de empleo.

En marzo de 2025, ACU abandonó la herramienta de detección de IA de Turnitin tras concluir que no era lo bastante fiable para respaldar decisiones disciplinarias. Tania Broadley, vicerrectora adjunta de ACU, confirmó que "alrededor de una cuarta parte de todas las denuncias fue desestimada tras la investigación" y reconoció que algunas investigaciones "no siempre fueron tan oportunas como deberían haber sido", señalando "mejoras significativas" durante el año siguiente. ACU fue una de varias universidades en todo el mundo — junto con la Universidad de Waterloo (septiembre de 2025), Curtin University (enero de 2026), UCLA y UC San Diego (2024) — que discontinuaron herramientas de detección de IA tras problemas similares de fiabilidad y equidad, incluidos estudios independientes que muestran que los detectores clasifican erróneamente los textos de hablantes no nativos de inglés como generados por IA a tasas mucho más altas que los textos de hablantes nativos.

Este es un caso de advertencia, no un modelo a replicar: muestra que desplegar a gran escala una herramienta de detección de IA no validada, sin una revisión humana sólida, produjo una alta tasa de conclusiones disciplinarias infundadas y daños reales a los estudiantes, incluidos retrasos en la graduación y pérdida de ofertas de empleo — una lección sobre qué evitar al introducir la IA en los procesos de integridad académica.