OpenAI s’intéresse enfin à la santé de ses plus jeunes utilisateurs et vient d’annoncer le déploiement de futurs outils de contrôle parental. La nouvelle tombe peu après le suicide d’un adolescent américain qui avait demandé des conseils à ChatGPT sur les différentes façons d’en finir. « Bien qu'il ait pris connaissance de la tentative de suicide et de sa déclaration selon laquelle il "passerait à l'acte un de ces jours", ChatGPT n'a ni mis fin aux discussions ni déclenché de protocole d'urgence », indique la plainte des parents.
Le New York Times a récemment mis en lumière l’histoire de ce jeune de 16 ans ayant discuté de sa dépression avec ChatGPT pendant des mois avant de lui demander des conseils pour mettre fin à ses jours. Le chatbot a donné des éléments de réponse, et même des astuces pour éviter d’attirer l’attention. ChatGPT a bien des garde-fous, mais l’adolescent avait réussi à les outrepasser en prétextant se renseigner pour écrire une histoire. « ChatGPT a tué mon fils », a déclaré sa mère, tandis que son père estime qu’il serait encore là sans le chatbot. C’est la première fois qu’OpenAI est attaqué par une famille pour ce genre de dossier.
La startup a donc annoncé quelques outils. À l’avenir, les parents devraient pouvoir lier leurs comptes ChatGPT à celui de leurs enfants de 13 ans ou plus via une invitation par mail. Ils pourront alors vérifier les règles de comportement mises en place sur le modèle (activées par défaut), mais aussi désactiver certaines fonctions, comme la mémoire ou l’historique de conversation. Ils devraient également recevoir des notifications lorsque ChatGPT détecte qu’un ado est en détresse. Le système envoie déjà des alertes aux utilisateurs quand il remarque qu’ils passent trop de temps à discuter avec le modèle.
De plus, certaines discussions sensibles seront redirigées vers GPT-5-Thinking, plus à cheval sur les règles de sécurité même pendant les longues conversations. « Les travaux sont déjà en cours, mais nous souhaitons présenter de manière proactive nos projets pour les 120 prochains jours afin que vous n'ayez pas à attendre les lancements pour savoir où nous allons », a déclaré OpenAI dans son billet de blog. « Le travail se poursuivra bien au-delà de cette période, mais nous nous efforçons de lancer autant d'améliorations que possible cette année ».
Source :
