Le rejet, fondé sur des preuves, par l'université Vanderbilt du détecteur d'IA de Turnitin

En avril 2023, le Brightspace/Center for Teaching de l'université Vanderbilt a activé la fonctionnalité de détection de texte généré par IA de Turnitin, nouvellement lancée, pour un usage par le corps enseignant à l'échelle de tout le campus, alors même que Turnitin affirmait publiquement un taux de faux positifs d'environ 1% seulement. Avec environ 75,000 travaux soumis via Turnitin en 2022, le personnel de Vanderbilt a calculé que même ce taux revendiqué comme faible impliquait qu'environ 750 travaux par an pourraient être signalés à tort comme générés par IA. Ce même été, une équipe de recherche de l'université Stanford a publié une étude évaluée par des pairs dans la revue Patterns de Cell Press, testant si les détecteurs commerciaux de texte généré par IA étaient biaisés contre les rédacteurs non anglophones natifs.

L'objectif affiché de Vanderbilt était d'évaluer si le détecteur de texte généré par IA de Turnitin était suffisamment précis et équitable pour fonder des décisions d'intégrité académique à fort enjeu, en mettant en balance le taux de faux positifs revendiqué par l'outil, le nombre de travaux analysés et la transparence de sa méthodologie.

Pendant plusieurs mois, le Brightspace/Center for Teaching de Vanderbilt a mené des tests internes du détecteur de texte généré par IA et a consulté d'autres universités ainsi que des fournisseurs d'IA, dont Turnitin, avant de statuer sur son utilisation future. Parallèlement, des chercheurs de Stanford (Liang, Yuksekgonul, Mao, Wu et Zou) ont soumis 91 rédactions TOEFL authentiques écrites par des locuteurs non natifs de l'anglais, ainsi qu'un ensemble comparatif de rédactions d'élèves américains de huitième année, locuteurs natifs, à sept détecteurs commerciaux de GPT largement utilisés, et ont également testé comment une reformulation des textes via ChatGPT modifiait les résultats des détecteurs.

Vanderbilt a désactivé le détecteur de texte généré par IA de Turnitin à l'échelle de tout le campus le 16 août 2023, invoquant à la fois le risque de faux positifs et le refus de Turnitin de divulguer la méthodologie détaillée derrière ses scores de probabilité d'IA. L'étude de Stanford a révélé que les sept détecteurs classaient à tort, en moyenne, 61.3% des rédactions TOEFL non natives comme générées par IA, l'un des détecteurs en signalant 97.8% et les sept détecteurs se trompant à l'unanimité sur 19.8% de l'ensemble, tandis que les rédactions d'élèves natifs de huitième année étaient correctement classées ; l'utilisation de ChatGPT pour améliorer le choix des mots des rédactions non natives a réduit le taux de faux positifs à 11.6%, tandis que la simplification du vocabulaire des rédactions natives a augmenté leur taux de classification erronée.

Ensemble, les deux cas illustrent une rare boucle de rétroaction entre le raisonnement coûts-avantages interne d'une institution et une recherche académique indépendante aboutissant à la même conclusion : les détecteurs commerciaux de texte généré par IA n'étaient pas encore assez fiables ni équitables pour des décisions d'intégrité académique à fort enjeu, en particulier pour les étudiants internationaux et non anglophones natifs, ce qui a conduit Vanderbilt et d'autres universités américaines à désactiver la détection d'IA plutôt que de risquer de fausses accusations.