OpenAI est en alerte rouge et cherche à réduire ses dépenses en se recentrant sur ce qui fonctionne le mieux et qui a le plus de chances d’être rentable : son chatbot et surtout des outils destinés aux entreprises. Plusieurs projets annexes font les frais de cette nouvelle politique et après l’arrêt de Sora, c’est le mode adulte de ChatGPT qui est mis en pause « indéfiniment ». C’est le Financial Times qui rapporte l’information, après avoir obtenu une confirmation officielle.
L’idée d’un mode pour les adultes intégré à ChatGPT a été officialisée à l’automne dernier. L’entreprise ajoutait alors à son chatbot des contrôles liés à l’âge pour répondre à une polémique provoquée par le suicide d’un adolescent qui l’utilisait. La firme de Sam Altman essuyait aussi des critiques sur les brides mises en œuvre pour réduire les réponses problématiques de la part du grand modèle de langage. Son objectif était alors de bien distinguer les mineurs des adultes consentants et de proposer à ces derniers davantage de liberté sur le contenu généré, y compris s’ils souhaitaient utiliser ChatGPT de manière coquine.
Dès le départ, ce mode nommé « citron » en interne a attiré de nombreuses critiques, y compris de la part d’employés. Au-delà des débats moraux, l’entraînement d’un modèle optimisé pour cet usage aurait été plus complexe que prévu, surtout en évitant les dérives vers des réponses dangereuses ou illégales. Pour ne rien arranger, la classification de l’âge ne serait pas suffisamment efficace, avec un taux d’erreur supérieur à 10 % d’après une source citée par nos confrères. Le risque était important qu’un mineur mal identifié soit exposé à du contenu inapproprié par ce biais. C’est pourquoi OpenAI avait annoncé la semaine dernière un report du projet, officiellement le temps de corriger ces bugs.
ChatGPT : le mode adulte d’OpenAI retardé par des questions de sécurité
Comme le révèle aujourd’hui le Financial Times, il ne s’agit pas seulement de quelques ajustements dans les algorithmes de détection de l’âge. Un ancien employé senior cité par les journalistes indique avoir quitté l’entreprise en protestation : « L’IA ne doit pas remplacer les amis ni la famille ; les relations humaines doivent primer ». OpenAI aurait reçu des critiques de toutes parts, dont deux au moins sont venues de ses investisseurs et ont sûrement pesé lourd dans la décision. Ces objections servent d’ailleurs d’argument officiel pour justifier la mise en pause indéfinie du programme. OpenAI a indiqué « vouloir mener des recherches à long terme sur les effets des chats sexuellement explicites et des attachements émotionnels avant de prendre une décision produit », tout en notant manquer encore de preuves sur les implications d’un chatbot érotique.
Une autre explication est plus terre à terre : OpenAI a besoin de réduire ses pertes et l’entreprise élimine les projets annexes. Sora, son service et réseau social centrés sur la création de vidéos à partir de texte, va fermer ses portes pour la même raison. Les entreprises devraient être le pilier de sa stratégie et un générateur de messages olé olé n’est pas adapté à ce contexte, du moins pas pour la majorité des milieux professionnels.
OpenAI va supprimer Sora et Disney va supprimer son milliard de dollars
À la place d’un générateur de vidéos et d’un ChatGPT épicé, OpenAI travaillerait en ce moment sur une « super app », chargée de rassembler ses principaux outils en une seule interface. ChatGPT pour les discussions, Codex pour le code et Atlas pour la navigation web pourraient ainsi tous être réunis dans une app qui concentrerait tous les efforts de l’entreprise.
OpenAI : une « super-app » pour mettre fin à la dispersion
