En octobre dernier, OpenAI promettait l’arrivée d’un mode « adulte » permettant d’avoir des discussions érotiques avec ChatGPT. Un changement important pour le service, jusqu’à présent resté très politiquement correct et visant un public large. Cependant, les choses seraient plus compliquées que prévu : OpenAI a repoussé la sortie en expliquant vouloir se concentrer sur des chantiers jugés plus prioritaires. Selon des proches du dossier, ce report s’accompagne aussi de préoccupations internes sur la modération et la protection des mineurs.
Lors de son annonce, le CEO d'OpenAI Sam Altman affirmait que l'entreprise avait réussi à suffisamment atténuer les problèmes liés à la santé mentale pour assouplir les restrictions de sécurité et proposer du « contenu érotique destiné aux adultes vérifiés ». Si la proposition peut sembler osée pour une entreprise grand public, elle n’est pas vraiment surprenante sur le marché de l’IA. Le Grok de Musk a beaucoup fait parler de lui pour sa capacité à générer des photos de personnes nues, et les modèles open source ont depuis longtemps été détournés à des fins érotiques.
Cependant, mettre un tel outil entre les mains du grand public poserait de nombreuses questions et implique une grande responsabilité qu’OpenAI ne se voyait visiblement pas endosser dans l’immédiat. Selon le Wall Street Journal, le projet a suscité de fortes réserves en interne. Un groupe de conseillers a averti l'entreprise en janvier qu’un tel mode « adulte » risquait d'être accessible à des mineurs et d'engendrer une dépendance émotionnelle malsaine vis-à-vis du chatbot. L’un d’entre eux a déclaré qu'OpenAI risquait de créer un « coach en suicide sexy ».
Après le suicide d’un ado, ChatGPT annonce l’arrivée d’outils de contrôle parental
OpenAI aurait du mal à correctement classer ses utilisateurs, considérant à tort des mineurs comme adultes dans 12 % des cas. La base des IA génératives fait qu’il restera toujours une marge d’erreur, qui pourrait avoir des conséquences dramatiques au vu du nombre d’utilisateurs de l’entreprise : des millions de mineurs risqueraient d'être exposés à des discussions inappropriées.
La modération est un autre point sensible. Selon les sources du Journal, OpenAI aurait eu du mal à développer un modèle plus fripon interdisant les scénarios illégaux, comme ceux mettant en scène des viols ou des abus sexuels sur mineurs. OpenAI, qui a récemment décidé de se concentrer sur ses utilisateurs professionnels et les développeurs, ne compte pas abandonner son idée : elle envisage toujours de lancer ce mode adulte à l’avenir, qui serait limité à du contenu coquin sans aller jusqu’à la pornographie explicite.
