Les écoles publiques de New York ont décidé de proscrire l'utilisation de ChatGPT sur leur réseau informatique. En cause, le risque que les élèves ne confient leurs devoirs à cet agent conversationnel qui fait sensation depuis son lancement il y a quelques semaines.

Conçu par l'entreprise américaine OpenAI, ce robot (que chacun peut tester gratuitement après une courte inscription) sait notamment apporter des réponses fournies et circonstanciées à des questions posées en langage naturel (il marche aussi en français).

C'est cette capacité à générer, sans effort, un texte crédible qui inquiète les autorités éducatives de New York, rapporte Chalkbeat. Une porte-parole explique :

Bien que l'outil puisse fournir des réponses rapides et faciles aux questions, il ne développe pas les compétences de pensée critique et de résolution de problèmes, qui sont essentielles à la réussite scolaire et tout au long de la vie.

Le fonctionnement de ChatGPT est en effet d'une simplicité confondante pour tout un chacun et a fortiori pour des jeunes élèves. On pose une question ou les éléments d'une problématique, et le moteur peut répondre d'une manière très convaincante. Il se pliera également à des contraintes comme la longueur du texte à produire.

Outre l'astuce consistant à déléguer ses devoirs à ce bot, il y a le risque que les élèves ne se reposent sur ces réponses toutes faites sans les nuancer ou les remettre en question.

La connaissance de ChatGPT, qui lui permet de répondre aux questions, s'appuie sur une masse de données publiques moissonnée sur le web. Avec tout ce que cela suppose de risques de s'abreuver aux mauvaises sources.

Aussi étonnant qu'il puisse être, ChatGPT peut retourner de fausses affirmations, ramener des éléments biaisés ou obsolètes (sa base de connaissance s'est arrêté à 2021 pour les faits de l'actualité). En décembre dernier, le patron d'OpenAI mettait lui-même en garde contre une confiance trop aveugle dans son outil :

ChatGPT est incroyablement limité, mais assez bon pour certaines choses qui vont créer une impression trompeuse d'habileté. C'est une erreur de s'y fier pour quelque chose d'important en ce moment. Il donne une aperçu du progrès réalisé ; beaucoup de travail nous attend pour développer sa robustesse et sa fiabilité.

Les écoles de New York doivent bloquer l'utilisation de ce moteur depuis leurs ordinateurs et sur leur réseau interne, sauf dérogation lorsqu'il s'agit d'étudier son fonctionnement et les textes qu'il génère. Mais cette limitation est surtout symbolique puisque les élèves ont toute latitude pour se servir de ChatGPT depuis leur smartphone ou ordinateur personnel.

MenuGPT permet de discuter avec ChatGPT depuis la barre des menus de son Mac

Un enseignant en histoire, interrogé sur la question, relativisait quelque peu les conséquences de l'avénement de ce type d'outil, en dressant un parallèle avec l'apparition des moteurs de recherche : « Les gens disaient la même chose à propos de Google il y a 15 ou 20 ans lorsque les étudiants pouvaient 'trouver des réponses en ligne' ».

Et de suggérer que cet outil puisse au contraire s'avérer intéressant dans certains cas, lorsqu'il s'agit par exemple d'obtenir un texte qui servira de base pour le retravailler, l'enrichir, l'amender et l'améliorer.

La comparaison avec les moteurs de recherche est pertinente puisque l'arrivée de ChatGPT a quelque peu remué le secteur. Google y verrait une menace pour son moteur tandis que Microsoft — investisseur dans OpenAI — envisage de l'intégrer dans le sien, Bing, s'il peut faire la démonstration de sa pertinence.