Si ChatGPT impressionne, le chatbot d'OpenAI suscite aussi de nombreuses inquiétudes. L'IA a notamment été vite adoptée par des écoliers ayant besoin d'un coup de pouce pour leurs copies, au point que les écoles publiques de New York ont décidé de proscrire l'utilisation du service sur leur réseau informatique. OpenAI apporte sa pierre à l'édifice et vient d'annoncer un outil promettant de rapidement détecter du texte rédigé par une IA.
Dans son communiqué, OpenAI explique que le personnel éducatif attendait un tel outil d'identification des textes rédigés par l'IA, et l'entreprise a discuté avec plusieurs enseignants américains. Si ChatGPT est pratique pour certaines utilisations créatives, le bot peut être dangereux si on le prend un peu trop au sérieux : il est très fort pour affirmer n'importe quoi avec un aplomb de fer, et ne doit donc pas être considéré comme étant 100 % fiable.
Pour entraîner ce nouvel outil de détection, OpenAI explique s'être basé sur des textes rédigés par l'humain et l'IA sur le même sujet. Son fonctionnement est redoutablement simple : une boîte de texte dans laquelle vous copiez vos paragraphes avant d'appuyer sur un bouton. Le classificateur vous dira alors s'il pense qu'il a été écrit par l'IA ou par une vraie personne.
Cependant, l'outil souffre des mêmes travers que ChatGPT et n'est pas encore complètement sûr. Les développeurs ont mené des tests en interne, et le classificateur a identifié 26% des textes écrits par l'IA comme étant « probablement écrits par l'IA ». À l'inverse, il a attribué 9 % des textes humains à une machine.
L'entreprise précise que la fiabilité du programme est plus forte avec des textes longs. Elle ajoute que la fonction ne marche pas très bien avec des textes dans d'autres langues que l'anglais (j'ai envoyé quelques articles de MacG et les réponses étaient quasiment toutes fausses). OpenAI rappelle qu'elle ne peut rien faire si les tournures de phrases de l'IA ont été modifiées par un petit malin ne voulant pas se faire repérer. Vous pouvez l'essayer à ce lien.