Après les annonces, place à l’application. Sous le feu des critiques concernant les dangers potentiels des IA génératives pour les adolescents, OpenAI déploie à partir d’aujourd’hui ses premières fonctions de contrôle parental pour tous les utilisateurs de ChatGPT.
Les parents peuvent désormais lier leur compte avec celui de leur ado depuis les réglages — nous n’avons pas encore accès à cette nouveauté pour l’instant, mais elle ne devrait pas tarder. Une fois le lien mis en place, le robot conversationnel, qui est accusé par des parents américains d’avoir conduit leur fils de 16 ans au suicide, deviendra plus soft avec l’ado. Il évitera de générer des images choquantes, des défis viraux ainsi que des jeux de rôle sexuels, romantiques ou violents et d’autres contenus potentiellement perturbants. OpenAI prévient toutefois que ses garde-fous ne sont pas infaillibles. Comme pour les limites de Temps d’écran, les astuces de contournement risquent de circuler rapidement.
Autre limite du dispositif : la protection ne concerne pour l’instant que les comptes explicitement liés à ceux d’un parent. OpenAI avait promis un système de détection automatique de l’âge, mais celui-ci n’arrivera pas avant plusieurs mois. Cela laisse un paquet de jeunes utilisateurs en dehors des clous.
Au-delà de ce filtrage, les parents disposent de nouveaux réglages. Ils peuvent notamment définir des plages horaires d’accès pour empêcher que ChatGPT ne tape la discute toute la nuit. Ils peuvent aussi désactiver le mode vocal et la génération d’images, bloquer la mémorisation des données personnelles, et exclure les conversations de leur enfant de l’entraînement des modèles d’IA.
Enfin, si ChatGPT détecte des signes de détresse psychologique, une équipe spécialisée examinera les échanges. En cas de danger jugé sérieux, les parents seront alertés par e-mail, SMS et notification. OpenAI prend là aussi le soin de préciser que ce dispositif n’est pas infaillible et pourra produire des faux positifs.
