GPTZero — Detección de texto generado por IA y sus riesgos para la integridad académica

GPTZero fue creado por Edward Tian, estudiante de grado en Princeton, en enero de 2023, como una de las primeras herramientas ampliamente utilizadas para detectar texto generado por IA (por ejemplo, escrito por ChatGPT) en trabajos de estudiantes, empleando estadísticas textuales como la "perplejidad" y el "burstiness". Su crecimiento fue explosivo: 30.000 usos en su primera semana, más de un millón de usuarios a mediados de 2023 y alrededor de 4 millones de usuarios en julio de 2024, con una alianza anunciada con la American Federation of Teachers en octubre de 2023. La empresa recaudó 3,5 millones de dólares en capital semilla (2023) y 10 millones de dólares en una ronda Serie A (2024), y más tarde fue adquirida por Superhuman.

Pruebas académicas independientes han concluido repetidamente que los detectores de texto generado por IA, incluido GPTZero, no son fiables para decisiones de alto impacto. Un estudio revisado por pares sobre 14 herramientas de detección (Weber-Wulff et al., International Journal for Educational Integrity, 2023) halló que ninguna superaba el 80% de precisión y solo cinco superaban el 70%, concluyendo que "las herramientas de detección disponibles no son ni precisas ni fiables" y que su rendimiento empeora aún más cuando el texto se parafrasea ligeramente.

El uso real de la herramienta ha producido daños documentados. Investigaciones periodísticas (Futurism, Washington Post, Ars Technica) reportaron que profesores confiaban en GPTZero para acusar falsamente a estudiantes —en un caso, a casi el 20% de una clase— llegando a marcar la propia Constitución de EE. UU. como escrita por IA. En febrero de 2025, un estudiante del EMBA de la Yale School of Management demandó a la universidad alegando haber sido suspendido injustamente durante un año a partir de una señal de GPTZero, argumentando que la propia política de Yale advertía contra el uso de herramientas con altas tasas de falsos positivos para hablantes no nativos de inglés; un juez federal denegó su solicitud de medida cautelar en mayo de 2025, y el caso sigue siendo un ejemplo vivo del riesgo de debido proceso derivado de la detección por IA en la educación.

Se incluye GPTZero aquí como un caso cautelar bien documentado: muestra tanto la rapidez con la que una herramienta de detección por IA puede escalar hasta un uso casi universal en las aulas, como la fragilidad de la base de evidencia que sustenta ese uso, con consecuencias reales y litigadas para los estudiantes. Las instituciones que usan estas herramientas sin verificación independiente de su precisión se exponen exactamente a este desenlace.