Quando a Deteção por IA Falha — Australian Catholic University Abandona a Ferramenta Anti-Fraude por IA da Turnitin

Em 2023, a fornecedora de deteção de plágio Turnitin adicionou um detetor de texto gerado por IA ao seu conjunto de ferramentas, e universidades australianas — incluindo a Australian Catholic University (ACU) — começaram a usá-lo para sinalizar trabalhos de alunos suspeitos de terem sido gerados por IA. Pelo menos uma dúzia das 43 universidades australianas, e segundo algumas estimativas cerca de 30, adotaram ferramentas semelhantes de deteção de IA.

Em 2024, a ACU registou perto de 6.000 participações por fraude académica nos seus nove campi, cerca de 90% relacionadas com uso de IA — o maior número de casos alguma vez registado pela universidade. Cerca de um quarto de todas as participações foi arquivado após investigação, e os casos baseados apenas na pontuação de IA da Turnitin eram automaticamente arquivados, em linha com as próprias orientações da Turnitin de que o "relatório de IA não deve ser usado como base única para ações adversas contra um aluno". Os alunos descreveram pautas marcadas como "resultados retidos" durante meses, e uma aluna de enfermagem afirmou que uma acusação indevida lhe custou uma oferta de emprego.

Em março de 2025, a ACU abandonou a ferramenta de deteção de IA da Turnitin após concluir que não era suficientemente fiável para sustentar decisões disciplinares. Tania Broadley, Vice-Reitora da ACU, confirmou que "cerca de um quarto de todas as participações foi arquivado após investigação" e reconheceu que algumas investigações "nem sempre foram tão céleres quanto deveriam", referindo "melhorias significativas" no ano seguinte. A ACU foi uma de várias universidades em todo o mundo — juntamente com a University of Waterloo (setembro de 2025), a Curtin University (janeiro de 2026), a UCLA e a UC San Diego (2024) — a abandonar ferramentas de deteção de IA após problemas semelhantes de fiabilidade e equidade, incluindo estudos independentes que mostram que os detetores classificam erradamente textos de falantes não nativos de inglês como gerados por IA a taxas muito mais elevadas do que textos de falantes nativos.

Este é um caso de alerta, não um modelo a replicar: mostra que implementar uma ferramenta de deteção de IA não validada em grande escala, sem revisão humana robusta, produziu uma elevada taxa de conclusões disciplinares infundadas e danos reais aos alunos, incluindo atrasos na graduação e perda de ofertas de emprego — uma evidência do que evitar ao introduzir IA em processos de integridade académica.