GPTZero — Deteção de Texto Gerado por IA e os Seus Riscos para a Integridade Académica

O GPTZero foi criado pelo estudante da Universidade de Princeton Edward Tian, em janeiro de 2023, como uma das primeiras ferramentas amplamente usadas para detetar texto gerado por IA (por exemplo, escrito pelo ChatGPT) em trabalhos de alunos, usando estatísticas de texto como "perplexidade" e "burstiness". Cresceu de forma explosiva: 30.000 utilizações na primeira semana, mais de 1 milhão de utilizadores em meados de 2023 e cerca de 4 milhões de utilizadores em julho de 2024, com uma parceria anunciada com a American Federation of Teachers em outubro de 2023. A empresa angariou 3,5 milhões de dólares em capital semente (2023) e 10 milhões de dólares numa ronda Série A (2024), tendo sido posteriormente adquirida pela Superhuman.

Testes académicos independentes têm repetidamente concluído que os detetores de texto gerado por IA, incluindo o GPTZero, não são fiáveis para decisões de grande impacto. Um estudo revisto por pares com 14 ferramentas de deteção (Weber-Wulff et al., International Journal for Educational Integrity, 2023) verificou que nenhuma ultrapassou 80% de precisão e apenas cinco ultrapassaram 70%, concluindo que "as ferramentas de deteção disponíveis não são nem precisas nem fiáveis" e que o desempenho piora ainda mais quando o texto é ligeiramente parafraseado.

A utilização real da ferramenta produziu danos documentados. Investigações jornalísticas (Futurism, Washington Post, Ars Technica) relataram professores a confiar no GPTZero para acusar falsamente alunos — num caso, quase 20% de uma turma — chegando a sinalizar a própria Constituição dos EUA como escrita por IA. Em fevereiro de 2025, um estudante do EMBA da Yale School of Management processou a universidade alegando ter sido injustamente suspenso durante um ano com base numa sinalização do GPTZero, argumentando que a própria política da Yale alertava contra confiar em ferramentas com taxas elevadas de falsos positivos para falantes não nativos de inglês; um juiz federal negou o seu pedido de liminar em maio de 2025, e o caso continua a ser um exemplo vivo dos riscos processuais associados à deteção por IA na educação.

O GPTZero é incluído aqui como um caso cautelar bem documentado: mostra tanto a rapidez com que uma ferramenta de deteção por IA pode escalar para um uso quase universal nas salas de aula, como a fragilidade da base de evidências subjacente a essa utilização — com consequências reais e litigadas para os alunos. Instituições que usam estas ferramentas sem verificação independente da sua precisão arriscam exatamente este resultado.