OpenAI présente un outil pour repérer le texte écrit par ChatGPT
Si ChatGPT impressionne, le chatbot d'OpenAI suscite aussi de nombreuses inquiétudes. L'IA a notamment été vite adoptée par des écoliers ayant besoin d'un coup de pouce pour leurs copies, au point que les écoles publiques de New York ont décidé de proscrire l'utilisation du service sur leur réseau informatique. OpenAI apporte sa pierre à l'édifice et vient d'annoncer un outil promettant de rapidement détecter du texte rédigé par une IA.
Dans son communiqué, OpenAI explique que le personnel éducatif attendait un tel outil d'identification des textes rédigés par l'IA, et l'entreprise a discuté avec plusieurs enseignants américains. Si ChatGPT est pratique pour certaines utilisations créatives, le bot peut être dangereux si on le prend un peu trop au sérieux : il est très fort pour affirmer n'importe quoi avec un aplomb de fer, et ne doit donc pas être considéré comme étant 100 % fiable.
Pour entraîner ce nouvel outil de détection, OpenAI explique s'être basé sur des textes rédigés par l'humain et l'IA sur le même sujet. Son fonctionnement est redoutablement simple : une boîte de texte dans laquelle vous copiez vos paragraphes avant d'appuyer sur un bouton. Le classificateur vous dira alors s'il pense qu'il a été écrit par l'IA ou par une vraie personne.
Cependant, l'outil souffre des mêmes travers que ChatGPT et n'est pas encore complètement sûr. Les développeurs ont mené des tests en interne, et le classificateur a identifié 26% des textes écrits par l'IA comme étant « probablement écrits par l'IA ». À l'inverse, il a attribué 9 % des textes humains à une machine.
L'entreprise précise que la fiabilité du programme est plus forte avec des textes longs. Elle ajoute que la fonction ne marche pas très bien avec des textes dans d'autres langues que l'anglais (j'ai envoyé quelques articles de MacG et les réponses étaient quasiment toutes fausses). OpenAI rappelle qu'elle ne peut rien faire si les tournures de phrases de l'IA ont été modifiées par un petit malin ne voulant pas se faire repérer. Vous pouvez l'essayer à ce lien.
Bienvenue dans le monde de l’IA avec des faux positifs et des vrais négatifs.
@YosraF
Pas besoin d’IA pour ça malheureusement 🫤.
Suffit de voir sur des forums comme celui ci des gens qui s’imaginent spécialistes dans tout … ça ne vaut pas mieux que l’IA 🫤.
@cecile_aelita
Excellent ! 👍🏻👍🏻👍🏻👍🏻😂😂😂
@StephanM3
Je ne sais pas si c’est si drôle que ça pour le monde quand même 🫤
"Attention ! Une IA peut en cacher une autre…" 😵💫
@cecile :
"Je ne sais pas si c’est si drôle que ça pour le monde quand même 🫤"
Coucou.
Si si c'est même très drôle 😄
“En essayant continuellement on finit par réussir. Donc : plus ça rate, plus on a de chance que ça marche.”
“Le bon sens est la chose la mieux partagée du monde... La connerie aussi.”
Deux citations des Shadoks, parmi tellement d'autres… voilà ce que peux m'inspirer toutes ces "histoires" à propos des différentes IA pour le moment 🙃😆
@Pépinlelutin
Bah je ne suis pas d’accord personnellement 🙂
@cecile :
Pas d'accord à quel propos ?
@Pépinlelutin
Sur le fait que vous trouvez ça drôle 🙂.
@cecile :
Effectivement, cela n'engage que moi de trouver que ce que tu écris sur ce fil de discussion est drôle ou pas 😊
Avec StephanM3 on est déjà au moins deux à partager cette opinion… hihi
Au fait, petit H.S : as tu eu le temps de regarder Miss Marvel ? Et si oui, qu'en as tu pensé ?
Pour ma part, ça fait au moins trois mois que je n'ai rien regardé sur Disney+ 🙃
@Pépinlelutin
Évidement que ce n’est que mon avis, mais j’ai du mal à trouver drôle de voir le monde s’effondrer 🫤.
Oui j’ai vu miss Marvel, et j’ai trouvé ça sympa, mais je suis très bon public aussi. Moi j’aime tout en même temps 🙂.
@cecile :
S'effondrer peut être pas … depuis le temps que certains nous annoncent la fin du Monde…
Enfin, peut être mon côté "d'éternel optimiste" qui parle ☺️
Merci pour ton retour sur Miss M en tous les cas.
"Moi j’aime tout en même temps 🙂."
Hihi… on dirait moi qui répond quand on me pose la question par rapport à ce que j'aime manger ou non…😄😉
Une belle soirée Cecile.
@Pépinlelutin
J’exagère avec le « effondre » évidement !
Je sais bien que j’en demande beaucoup en souhaitant juste que les gens comprennent qu’on vit en communauté et qu’il ne faut pas penser qu’à sa poire lol. Et malheureusement ça ne va pas dans le bon sens 🫤.
Ça doit être pour ça que j’ai choisi ce métier … les enfants le comprennent tellement mieux que les adultes le fait de vivre ensemble 🫤. Je me demande à quel moment ça part en vrille et ce qui en est la cause d’ailleurs 🙂.
Bonne soirée aussi!
@cecile:
"Je sais bien que j’en demande beaucoup en souhaitant juste que les gens comprennent qu’on vit en communauté et qu’il ne faut pas penser qu’à sa poire lol. Et malheureusement ça ne va pas dans le bon sens 🫤."
Pas de souci. J'ai très bien compris et je suis tout à fait d'accord avec toi.😊
@cecile_aelita
En quoi le « débarquement « des IA représente l’effondrement du monde ¿
@vicento
Comme je le disais, tous les outils aussi bons soient ils ont toujours été détourné de leur usage « bienveillant » initial.
Et l’IA sera pareil… mais déployé dans tous les aspects de la vie quotidienne malheureusement 🙂.
Ça part d’une très bonne intention, mais les déviances sont toujours là 🙂.
@cecile_aelita
Élu meilleur commentaire de ce fil !
@DG33
Merci 🙂
@ cecile_aelita
> Suffit de voir sur des forums comme celui ci des gens qui s’imaginent spécialistes dans tout
C'est comme avec les CV bidonnés où des gens qui ont fait un petit stage d'un mois dans un domaine disent être spécialistes dans ce domaine. Quand tu arrives en concurrence avec ces gens là, dur de montrer que toi tu es vraiment spécialiste. En fait, c'est à qui communique le mieux, et les imposteurs sont justement très bon à ce jeu là.
Dans notre boîte il y a un type qui n'a pas les compétences pour les tâches qui lui sont assignées. Le pire, c'est qu'il a une position de donner des directions de travail (il bosse côté conception d'interface pour des logiciels pour Mac, mais il n'a aucune compétence sur Mac et nous pond des trucs à la Windows / web, on ne sait pas trop), et on doit le suivre. Le hic, c'est que ceux qui l'ont embauché ne voudront jamais reconnaître leur erreur. Donc faut faire avec, et ça donne des discussions houleuses avec les N+x à qui ont doit obéir pour expliquer de manière diplomatique que tel ou tel truc c'est du brin. Du coup, je serais curieux de voir le CV qu'il a présenté pour son embauche.
Ça me rappelle aussi un boulot que j'ai fait quand j'étais en SSII. C'était dans un domaine que j'exècre. J'avais les compétences informatique, mais très peu de compétences "métier". Et bien sur ordre de mon chef j'ai été obligé de mentir pour être pris - et ça a très bien marché - car pour les SSII, les "inter-contrats" représentent des pertes sèches. Au final la "mission" a quand même duré un an et demi. (Et c'est pas comme pour les embauches, pas de période d'essai, si le client n'est pas content d'un prestataire, il le vire illico, retour case inter-contrat, et là tu es mal vis à vis de ta hiérarchie en SSII.)
@marc_os
« Dans notre boîte il y a un type qui n'a pas les compétences pour les tâches qui lui sont assignées. Le pire, c'est qu'il a une position de donner des directions de travail »
On en parle de mes supérieurs à moi? (Les ministres de l’éducation nationale 🤭)
Serait il possible d’obtenir la matrice de confusion de cet outil. (Message d’un étudiant en IA)
@jleblanc2001
😜
@jleblanc2001
C'est toi la matrice !
Amusez-vous à tester ChatbotGPT : certaines réponses sont surprenantes !!
En toute cacophonie, ça promet de jolis débats dans les salles de classe !
Il reste à renforcer ChatGPT avec ce nouvel outils pour qu'il fasse des textes parfait.
Paradoxalement ce genre d'outil peut aider les faussaires, suffit de modifier le texte jusqu'a ce que ça donne un text qualifier d'humain
@the_optimist
Ton texte est rempli de fôtes dortaugraf. C’est un chatgpt que tu as modifié
😉
Il y a gpt zero qui propose également la même chose: gptzero point me (créé par un jeune homme de 22 ans !).
Je savais pas que vos articles étaient écrits par ChatGPT!
Attention avec les textes humains considérés comme réalisés par l’IA.
Un artiste sur Reddit s’est fait banir car les modérateurs ont considéré, a tord, que son œuvre était trop proche de ce que l’IA pouvait produire !
@moua
Mais non l’IA c’est trop bien. 😉 on en rêve tous qu’est ce que ça va nous aider à l’avenir … j’ai hâte de voir ça. 😁
> OpenAI explique que le personnel éducatif attendait un tel outil d'identification des textes rédigés par l'IA
À la radio j'ai entendu un prof dire qu'il y avait un moyen très simple pour reconnaître un texte écrit par ChatGPT : S'il n'y a aucune faute d'orthographe ou de grammaire, alors c'est certainement une "IA" qui a écrit le texte !
(Idem si le texte vous parle de la taille des œufs pondus par les vaches et les compare sérieusement aux œufs de poule.)
Cf. https://www.macg.co/services/2023/01/baidu-veut-un-chatgpt-adapte-la-chine-134487#comment-2746065
@marc_os
On peut avaler toutes les couleuvres du monde;
Pas… littéralement !
@ fleeBubl
Faudrait poser une question sur les couleuvres à ChatGPT pour voir ce qu'il en "pense"... 😋
@ marc_os
Même avant l'informatique, les élèves savaient déjà ajouter subtilement des fautes pour cacher le fait qu'ils avaient pompé leur travail…
@ fmuser
> les élèves savaient déjà ajouter subtilement des fautes
Certes, mais si le style des élèves change du jour au lendemain, ou si tous les devoirs se ressemblent, c'est quand même un indice sérieux qu'il y a un gros lézard...
En attendant, demander aux élèves de réinventer systématiquement la roue n'est pas très malin, car on ne fait jamais cela dans la vraie vie.
C'est aussi pour cela que le niveau baisse, le fonctionnement de l'école est tellement déconnecté de la réalité, que c'est juste démotivant et barbant. Au lieu d'interdire les IA, les écoles feraient mieux de revenir à leur fondement qui est d'apprendre des vrais métiers aux enfants et pas d'en faire des champions du trivial pursuit.
@ fmuser
> En attendant, demander aux élèves de réinventer systématiquement la roue n'est pas très malin
Et oui, c'est pas très malin de demander aux enfants de savoir compter car
une calculatriceChatGPT peut très bien leur dire que 1 + 1 font deux (ou 17, voire 11 🙃).Pas très malin non plus de leur apprendre à réfléchir par eux même, ni de faire par eux même des raisonnements à partir de savoirs appris.
Des gens qui savent réfléchir, ça ne fait pas de bons militaires ni de bons ouvriers qui ne se posent pas de questions sur, par exemple, le côté éthique de leur activité quand on leur demande de balancer des déchets dans la nature.
Vous avez bien raison, le capitalisme n'a besoin que de peu de gens éduqués (en proportion).
Ce n'est pas nouveau, Bertold Brecht scandait déjà "Lerne das ABC" (apprend l'alphabet), pour dire "éduquez-vous, apprenez" aux "masses populaires", si vous voulez pouvoir vous défendre et obtenir des droits.
@ marc_os
Ce n'est clairement pas l'école qui m'a appris à réfléchir, au contraire, j'en ai même eu franchement marre d'entendre toujours les mêmes idioties ressassées à longueur d'années. Pour rien au monde, je ne retournerais dans l'enfance pour subir ces insultes à l'intelligence, je préférerais encore payer pour chatgpt, car c'est un peu du même niveau, les humiliations en moins.
Je me suis dit que c'était peut-être moi le problème et pas l'école, mais quand je vois les élites toujours plus malhonnêtes que l'on se paye, je n'ai pas l'impression que cela ait vraiment mieux réussi aux autres citoyens…
@ fmuser
> Ce n'est clairement pas l'école qui m'a appris à réfléchir
Vous n'avez donc pas eu de chance.
Mais ce n'est pas une généralité, et ce n'est certainement pas sur Internet que les gamins d'aujourd'hui apprennent à réfléchir, vu le nombre d'entre eux qui se font berner par les thèses "complotistes", comme j'ai pu le constater dans ma famille.
> je préférerais encore payer pour chatgpt
Vous préférez donc payer pour un truc trompeur qui ne saura jamais vous expliquer pourquoi il balance telle réponse, pour un truc qui affirme mordicus ceci ou cela sans avoir aucune preuve que c'est vrai, et arrive même à gloser sur les œufs de vache.
> Je me suis dit que c'était peut-être moi le problème et pas l'école
Non, c'était certainement l'« école » le problème. C'est pour cette raison que les écoles Montesouri ont fait leur apparition par exemple. Tous les enfants ne sont pas prêts au même moment pour apprendre les mêmes choses. Mais malheureusement avec les moyens toujours en baisse donnés à l'éducation nationale, il est de plus en plus difficile de fournir un enseignement "personalisé" aux enfants. Rien que le nombre toujours croissant d'élèves dans la majorité des petites classes empêche cela.
Ceci dit, je pense qu'il ne faut pas "jeter le bébé avec l'eau du bain", il faut identifier les problèmes et y remédier. Mais c'est sûr, quand les gouvernements successifs veulent "dégraisser le mammouth" comme disait l'autre tâche climato-sceptique Allègre, c'est pas gagné.
Mais de grâce, ne vous laissez pas berner par ces pseudo « intelligences » artificielles et leurs promoteurs prêts à vous vendre du vent mais du vent bien ficelé qui fait illusion.
@marc_os
« c'est quand même un indice sérieux qu'il y a un gros lézard...
Attention ⚠️ si tu l’attrapes par la queue, que tu la montre à ces messieurs …
C’est qu’il est déjà parti 🫧
🦎 et que ta main levée …
🙋♀️ (nooon pas toi, pas encore 🤦♀️)
@ fleeBubl
Je me doutais bien que quelqu'un allait réagir au lézard... 🤪
Il suffira donc de faire un nouveau programme qui fait croire au programme de détection d'IA, que c'est un humain qui a écrit le texte… L'informatique est un métier plein d'avenir.
Pas une mauvaise idée ça
Combien de commentaires ont été générés par Chatgpt ? 😜
Au moment où je poste ce commentaire, il y en a déjà 34 autres qui m’ont précédé sur ce fil. Il est remarquable — mais guère surprenant — que personne n´ait pris la peine de lire attentivement le spécimen de texte généré par ChatGPT que Félix Cattafesta a choisi pour illustrer son article. Hormis la première phrase de ce spécimen — un lieu commun d’une vacuité affligeante — il n’y a aucune affirmation qui résiste à l’analyse. En revanche, il y a des erreurs grossières et un contresens qui pourrait sortir tout droit de la plume d’un cancre patenté.
C’est un bon spécimen de ChatGPT — pour illustrer l’incurie ou l’inattention de ses lecteurs.
@occam
« En revanche, il y a des erreurs grossières et un contresens qui pourrait sortir tout droit de la plume d’un cancre patenté »
Alors pour en avoir corriger beaucoup beaucoup beaucoup beaucoup des copies … je peux vous assurer que les « cancres » comme vous dites ….on serait ravit d’avoir une copie ne serait ce que du 10ieme de ce niveau … déjà juste parce que …. Ça parle du sujet 😅…
J’ai fait une évaluation de géographie sur les régions de France à mes élèves …
J’en ai un qui m’a placé dans la région « haut de France » : « tarte »… c’est à dire qu’on en est au point où il ne sait même pas quelle discipline il est en train d’être évaluée 🫤… donc un outil comme ça pour un élève avec des difficultés pareils … c’est déjà de la magie hein ^^.
@ cecile_aelita
Aurais-tu ajouté subrepticement une petite grosse fôte de participe passé / infinitif au début de ton commentaire pour prouver que tu n'es pas un Chat...botté ? 🤪
Sinon question géographie, il y a un moment quand on parlait de nos futures vacances de l'été un jour dans un bar 🍺, une amie a raconté qu'elle partirait avec son copain en Europe du sud... Quand on lui a demandé des précisions, elle a dit qu'ils allaient à... Alger ! 😄 (Une française "pure souche".) En même temps, elle n'avait pas complètement tort vu que le tour de la Méditerranée forme quand même un genre de communauté et que Massilia par exemple a de tous temps été une ville cosmopolite.
Ça aurait été drôle que l’article aurait été écrit avec chatGPT et que le logiciel le détecte 😂