Dans un cas précis, Moira Olmsted (24 ans), étudiante à l'Université méthodiste centrale (États-Unis), a raconté comment elle a reçu un score de 0 après que l'application de test d'IA a évalué son essai comme une « écriture générée par l'IA », selon l'agence de presse Bloomberg .

Le taux de « malentendu » des applications de test d’IA passe de 1 % à plus de 10 %

Le professeur a déclaré que l'application de vérification de l'IA avait déjà signalé ses publications. Olmsted a cependant contesté cette conclusion, affirmant que son écriture était un peu « mécanique » parce qu’elle souffrait de troubles du spectre autistique, et non parce que l’IA avait généré l’article. Ensuite, l'école a changé ses résultats et lui a permis de réussir cette matière.

Dans un autre cas, Ken Sahib, un étudiant américain qui a grandi en Italie, a déclaré avoir été choqué lorsque son article a reçu un zéro dans un cours de réseau informatique au Berkeley College de New York (États-Unis).

L'instructeur a expliqué : « Tous les outils que j'ai essayés ont donné le même résultat : l'IA a généré cet article. » Cependant, Sahib affirme qu'il a étudié en Italie pendant son adolescence, donc l'anglais n'est qu'une deuxième langue et son écriture ne serait pas aussi naturelle que celle d'un locuteur natif, et affirme que l'application de test d'IA a donné des évaluations incorrectes. Après la protestation de l'étudiant, l'école a modifié la note de la dissertation.

Selon un rapport du Centre pour la démocratie et la technologie (États-Unis) publié en mars, environ deux tiers des plus de 450 enseignants interrogés aux États-Unis ont déclaré utiliser régulièrement des applications de test d'IA. Les enseignants affirment que ces outils les aident à déterminer si l’IA génère des phrases, des paragraphes ou des travaux d’étudiants entiers.

Une série d’outils tels que Turnitin, GPTZero et Copyleaks sont utilisés dans de nombreux lycées et universités aux États-Unis.

Les entreprises technologiques affirment que les applications de test d’IA sont précises jusqu’à 99 %. Cependant, Bloomberg a mené un test avec 500 essais avant le lancement de ChatGPT fin 2022. Les résultats ont montré que le taux d'applications de test d'IA « confondant » les essais rédigés par les étudiants avec des « essais générés par l'IA » variait de 1 % à plus de 10 %.

Avec ce taux d’erreur, compte tenu du grand nombre de documents qui doivent être vérifiés chaque année, cela affecte grandement la psychologie des étudiants, créant même des soupçons et des tensions inutiles entre les professeurs et les étudiants.

Plus précisément, après avoir été signalée pour un « article généré par l'IA », l'étudiante Moira Olmsted était si sensible qu'elle a utilisé la fonction d'enregistrement vidéo de l'intégralité de l'écran de son ordinateur pendant qu'elle écrivait son essai pour le prouver à l'école.

De nombreux étudiants aux États-Unis affirment qu’ils passent désormais plus de temps à rédiger des dissertations, car ils doivent vérifier soigneusement les phrases qui risquent d’être qualifiées de « rédaction par IA » par l’outil de vérification.

Une étude de 2023 menée par l'Université de Stanford (États-Unis) a montré que les applications de test d'IA étaient « presque parfaites » lorsqu'elles testaient les essais d'élèves de 8e année nés aux États-Unis. Cependant, l’application a incorrectement étiqueté la moitié des essais des étudiants (ayant l’anglais comme deuxième langue) comme « rédaction par l’IA ».

N'utilisez pas les applications de test d'IA comme « juges »

Face à cette situation, certaines écoles aux États-Unis fournissent aux étudiants des outils de vérification par IA pour auto-vérifier leurs écrits avant de les soumettre.

En outre, les entreprises technologiques soulignent que les écoles ne devraient considérer les applications de test d’IA que comme des outils de soutien, et non comme des « juges » chargés de juger les dissertations des étudiants.

Certains étudiants qui souhaitent gagner du temps sont même obligés d'utiliser des outils « d'humanisation de l'IA » - qui peuvent automatiquement éditer l'écriture humaine ou la réécrire pour réussir les applications de test d'IA.

Pour certains enseignants, étudiants, écoles et professeurs, l’abus des applications de test d’IA affectera le processus d’enseignement et d’apprentissage.

« L’IA fera partie de l’avenir, que cela nous plaise ou non », note Adam Lloyd, professeur d’anglais à l’Université du Maryland. « C’est une erreur de considérer l’IA comme quelque chose que nous devons supprimer des salles de classe ou que nous devons décourager les étudiants d’utiliser. » Au lieu d’utiliser une application de test d’IA, le professeur Lloyd s’appuie sur son intuition. « Je connais bien les capacités rédactionnelles de mes étudiants. Si j'ai des doutes, j'en discute ouvertement et je ne me précipite pas pour les accuser d'utiliser l'IA pour rédiger leurs travaux », a déclaré M. Lloyd.