Après plusieurs alertes récentes, dont certaines ont tourné au drame et font encore l’objet de procédures judiciaires, les concepteurs de chatbots cherchent désormais à mettre en place les protections les plus fiables possibles contre les dérives suicidaires ou violentes. OpenAI en rajoute une couche pour ChatGPT, avec une nouvelle option permettant de prévenir un proche en cas d’alertes inquiétantes.
Selon l’entreprise, cette fonction de « Trusted contact » est « conçue pour être simple, et validée par les experts : quand un proche fait une crise, se rapprocher d’une personne en qui il peut avoir confiance peut faire la différence [...] Elle offre une couche supplémentaire de support en plus des aides en lignes disponibles dans chaque pays directement dans ChatGPT ».
Cette nouveauté reste (heureusement) sous la forme d’un opt-in : il faut que l’utilisateur l’active lui-même, et indique un contact de confiance à alerter en cas de pensées sombres, ou de dérives inquiétantes. De l’autre côté, la personne indiquée comme humain à contacter devra valider sous une semaine qu’elle souhaite bien remplir ce rôle avant que la fonction ne soit active. Chacun a droit, unilatéralement, de rompre le lien créé s’il le souhaite.
Selon OpenAI, la fonction est volontairement limitée : elle ne partagera pas de détails de conversations passées avec le chatbot. ChatGPT se contentera du côté de la personne à protéger de lui proposer de contacter son soutien, et du côté du soutien, un message pourra être envoyé pour indiquer que son contact est possiblement en détresse psychologique, une fois le cas vérifié « par une petite équipe de personnes spécialement entraînées » par OpenAI. Le message d’alerte pourra être envoyé par SMS ou directement dans l’app du contact choisi si le cas est considéré comme assez sérieux.
Après le suicide d’un ado, ChatGPT annonce l’arrivée d’outils de contrôle parental
OpenAI tente toutes les méthodes possibles depuis quelque temps pour éviter de voir des drames comme celui de septembre 2025 se reproduire, où un adolescent de 16 ans avait mis fin à ses jours après de longues discussions avec ChatGPT. L’entreprise de Sam Altman n’est pas la seule à tenter d’éviter ces catastrophes synonymes de mauvaise publicité (ne soyons pas innocents…) : Meta a de son côté récemment installé un système alertant les parents d’un mineur qui ferait des recherches sur l’automutilation et les suicides sur Instagram.
