OpenAI n’avait pas prévu l’immense succès de ChatGPT et la confiance aveugle que lui donneraient certains utilisateurs. Depuis le lancement du service, les scénarios farfelus sont nombreux : certains utilisent le bot pour obtenir des conseils médicaux, comme psychologue, comme conseiller conjugal… Certaines histoires se finissent mal, avec des utilisateurs qui se retrouvent à croire des théories du complot, en dépression, en crise de nerfs ou se voyant recommander des méthodes de suicide. OpenAI tente d’agir et vient d’annoncer quelques changements à venir, améliorant la capacité du chatbot à détecter les troubles mentaux ou émotionnels.
Dans un billet de blog, l’entreprise a annoncé travailler avec des spécialistes pour améliorer la façon dont ChatGPT réagit dans les moments critiques, par exemple lors de crises émotionnelles. Elle reconnaît que son modèle 4o peut avoir du mal à reconnaître « les signes de délire ou de dépendance émotionnelle » dans certains cas. Le but est donc de faire en sorte que le service puisse « réagir de manière appropriée et orienter les personnes vers des ressources fondées sur des données factuelles lorsque cela est nécessaire ».
Le chatbot avait fait parler de lui au mois d’avril après une mise à jour l’ayant rendu beaucoup plus flatteur et agréable. Si cela peut sembler positif, OpenAI avait conclu que de telles interactions pouvaient être « inconfortables, déstabilisantes et causer de la détresse ». OpenAI avait rétropédalé quelque temps après, supprimant les changements mis en place.
Dans son billet, l’entreprise explique que ChatGPT ne donnera plus de réponse directe pour certaines questions personnelles (par exemple « Dois-je rompre avec mon partenaire ? »). Il incitera plutôt l’utilisateur à peser le pour et le contre tout en lui posant des questions. Et pour aider les utilisateurs papotant un peu trop longtemps avec ChatGPT, OpenAI va désormais afficher un pop-up proposant de faire une pause après un certain temps. Les utilisateurs pourront alors interrompre la conversation ou la continuer, mais cette alerte pourra peut-être en aider certains à regarder leur montre.
Ces nouveautés sont mises en place alors que le déploiement de GPT-5 semble imminent. Sam Altman a partagé une image où l’on peut voir le nouveau modèle, et The Verge voyait venir un lancement dans le courant du mois d’août. De son côté, Microsoft a lancé un nouveau mode intelligent pour Copilot, probablement en préparation de l'arrivée du prochain modèle.
