OpenAI : l’outil devrait être capable de reconnaître les textes de ChatGPT

ChatGPT est disponible gratuitement depuis novembre – et a suscité de nombreuses discussions. Le générateur de texte IA pose problème, en particulier dans le secteur de l’éducation, car les tâches basées sur du texte peuvent difficilement être définies de manière significative s’il n’est pas possible de vérifier si une IA est derrière le travail. OpenAI veut désormais contrecarrer cela et a présenté un outil censé reconnaître les textes de ChatGPT. Ceci a pour but de prévenir la fraude.

Problèmes avec ChatGPT

ChatGPT est un générateur de texte basé sur l’IA. Si on lui donne des questions ou des instructions de travail, il crache des textes formellement irréprochables. Ce qui semble très pratique au premier abord entraîne cependant de nombreux problèmes. Par exemple, il a été prouvé à maintes reprises que le programme avait tendance à inventer des faits et des sources. Ce qui ressemble à première vue à une analyse approfondie est, dans de nombreux cas, une absurdité scandaleuse. Si ChatGPT est utilisé à grande échelle pour créer du contenu éditorial, des campagnes de désinformation malveillantes ne sont même pas nécessaires pour rendre peu fiable toute la richesse des connaissances sur Internet. En conséquence, cela signifie qu’un niveau d’éducation aux médias beaucoup plus élevé qu’auparavant est nécessaire pour pouvoir distinguer les sources fiables des sources douteuses. À mesure que le programme se généralise, cela risque de devenir de plus en plus difficile.

Il existe également des problèmes dans le secteur de l’éducation. Le travail basé sur des textes est la norme, en particulier dans les cours d’études culturelles. La principale compétence que les étudiants devraient acquérir est celle d’une discussion scientifiquement fondée et réfléchie sur des questions sociales. Comme cela ne peut pas être prouvé de manière adéquate lors d’examens oraux courts ou même d’examens écrits, les dissertations constituent la forme standard d’examen. Cependant, cela commence à faiblir lorsqu’un générateur de texte peut produire de longs textes d’aspect scientifique. Contrairement au plagiat, un texte d’IA ne peut pas être reconnu comme tel au premier coup d’œil ou sur simple pression d’un bouton. Afin de pouvoir distinguer les services internes des services tiers, les universités devront à l’avenir investir beaucoup plus d’efforts qu’auparavant – et en cas de doute, elles seront difficilement en mesure de fournir une preuve concluante de fraude.

Mais même avec d’autres formes d’examens écrits – comme l’examen, qui est parfois utilisé comme alternative – la tromperie ne peut pas être exclue. Cela est d’autant plus vrai que certaines universités organisent des examens en ligne pour des raisons d’organisation. Par exemple, le programme d’IA a réussi l’examen final d’un programme de MBA, c’est-à-dire un master en gestion – bien qu’avec des résultats plutôt médiocres.

Le risque de tricher via ChatGPT augmente énormément, notamment lors des examens écrits.

OpenAI développe un outil qui reconnaît les textes de ChatGPT

Étant donné que cela dévaloriserait massivement les qualifications académiques et que l’abandon des formes d’examen écrit rendrait impossible la réalisation des objectifs du cours, d’autres solutions sont nécessaires. Sans surprise, OpenAI lui-même s’y prête. La société a introduit un programme censé être capable de reconnaître les textes de ChatGPT.

Toutefois, jusqu’à présent, le succès du programme a été plutôt modeste. OpenAI a annoncé que lors d’un test, 26 % des textes d’IA ont été correctement reconnus comme tels, ce qui signifie qu’un tirage au sort est plus susceptible de révéler les textes d’IA en tant que tels. De plus, neuf pour cent des textes écrits par des humains ont été attribués à tort à ChatGPT.

Mais OpenAI n’est pas le seul à travailler sur une solution au problème décrit. Comme ça Édouard Tian Le programme GPTZero a été développé, qui devrait également être capable de reconnaître les textes IA de ChatGPT. On ne sait pas avec quelle fiabilité l’outil fonctionne.

On ne sait pas non plus dans quelle mesure sont reconnus les textes initialement rédigés par ChatGPT mais qui ont ensuite été reformulés. Cependant, le problème ne semble pas ici unique ou nouveau : on tente également souvent de dissimuler le plagiat par une reformulation.