GPTZero — Détection de texte généré par IA et ses risques pour l'intégrité académique

GPTZero a été créé par Edward Tian, étudiant de premier cycle à Princeton, en janvier 2023, comme l'un des premiers outils largement utilisés pour détecter les textes générés par IA (par exemple écrits par ChatGPT) dans les travaux d'élèves, en s'appuyant sur des statistiques textuelles telles que la « perplexité » et le « burstiness ». Sa croissance a été fulgurante : 30 000 utilisations dès la première semaine, plus d'un million d'utilisateurs mi-2023, et environ 4 millions d'utilisateurs en juillet 2024, avec un partenariat annoncé avec l'American Federation of Teachers en octobre 2023. L'entreprise a levé 3,5 millions de dollars en financement d'amorçage (2023) puis 10 millions de dollars en série A (2024), avant d'être rachetée par Superhuman.

Des tests académiques indépendants ont montré de façon répétée que les détecteurs de texte généré par IA, y compris GPTZero, ne sont pas fiables pour des décisions à fort enjeu. Une étude évaluée par des pairs portant sur 14 outils de détection (Weber-Wulff et al., International Journal for Educational Integrity, 2023) a montré qu'aucun ne dépassait 80 % de précision et que seuls cinq dépassaient 70 %, concluant que « les outils de détection disponibles ne sont ni précis ni fiables » et que leurs performances se dégradent encore davantage lorsque le texte est légèrement reformulé.

L'usage réel de l'outil a produit des préjudices documentés. Des enquêtes de presse (Futurism, Washington Post, Ars Technica) ont rapporté des enseignants s'appuyant sur GPTZero pour accuser à tort des élèves — dans un cas, près de 20 % d'une classe — allant jusqu'à signaler la Constitution américaine elle-même comme rédigée par une IA. En février 2025, un étudiant de l'EMBA de la Yale School of Management a poursuivi l'université, affirmant avoir été injustement suspendu pendant un an sur la base d'un signalement de GPTZero, arguant que la propre politique de Yale mettait en garde contre le recours à des outils présentant des taux élevés de faux positifs pour les locuteurs non natifs de l'anglais ; un juge fédéral a rejeté sa demande d'injonction en mai 2025, et l'affaire demeure un exemple concret des risques procéduraux liés à la détection par IA dans l'éducation.

GPTZero est inclus ici comme un cas d'alerte bien documenté : il montre à la fois la rapidité avec laquelle un outil de détection par IA peut s'imposer de façon quasi universelle dans les salles de classe, et la fragilité de la base de preuves qui sous-tend cet usage — avec de réelles conséquences judiciaires pour les élèves. Les établissements qui utilisent de tels outils sans vérification indépendante de leur précision s'exposent précisément à ce résultat.