OpenAI a annoncé l’activation d’une fonctionnalité prévue depuis l’automne dernier : ChatGPT va désormais essayer de deviner l’âge de ses utilisateurs. Comme souvent, le déploiement sera progressif et il ne concernera pas la majorité d’entre nous, puisque les citoyens de l’Union européenne ne seront pas concernés pour le moment et devront attendre quelques semaines « afin de tenir compte des exigences réglementaires régionales ». Quoi qu’il en soit, l’entreprise compte bien déployer la fonction partout et pour tous ses clients, avec comme objectif de repérer les mineurs afin d’ajuster les réponses de son chatbot.
Pour identifier automatiquement les mineurs parmi ses utilisateurs, OpenAI a déployé un modèle de prédiction qui compile de multiples informations. Parmi les signes relevés, l’âge du compte, les heures d’utilisation de ChatGPT ou encore « les schémas d’utilisation », ce qui veut probablement dire ce qui est demandé au modèle de langage et les centres d’intérêt de l’utilisateur. Si l’âge déclaré lors de la création du compte est l’un des facteurs pris en compte par le modèle, c’est évidemment loin d’être le seul.
Ce modèle pourra faire des erreurs et considérer à tort qu’un majeur a moins de 18 ans. Le cas échéant, OpenAI propose à ses utilisateurs de valider leur âge en faisant confiance à Persona, un service tiers spécialisé dans cette tâche qui est notamment utilisé par Reddit. Cette validation nécessitera de transmettre des documents d’identité officiels, ou bien un selfie enregistré en direct avec un smartphone, selon le pays de l’utilisateur. Si la firme de Sam Altman se veut confiante sur la confidentialité des données, les exemples liés aux sites pornographiques dans plusieurs pays européens, dont la France, ne sont pas rassurants.
Le système de vérification de l’âge des sites pornos, anonyme ? Pas du tout selon une étude
Une fois identifiés, les mineurs auront accès à une version spécifique de ChatGPT qui doit réduire leur exposition à des contenus jugés problématiques. Voici la liste donnée par OpenAI, sachant qu’elle évoluera certainement au fil des retours :
- Violence graphique ou contenu sanglant ;
- Défis viraux susceptibles d’encourager des comportements risqués ou dangereux chez les mineurs ;
- Jeux de rôle à caractère sexuel, romantique ou violent ;
- Représentations de l’automutilation ;
- Contenus faisant la promotion de standards de beauté extrêmes, de régimes alimentaires malsains ou du body shaming.
En plus des paramètres par défaut, les parents des mineurs peuvent ajuster le comportement de ChatGPT en utilisant les contrôles parentaux introduits il y a quelques mois. Ces options viennent s’ajouter aux restrictions systématiquement mises en place par OpenAI et elles visent à désactiver d’autres fonctionnalités, comme la création d’images, ou encore imposer des horaires d’utilisation.
ChatGPT active ses premiers contrôles parentaux, sans prédiction de l’âge pour le moment
OpenAI conclut en notant que ces systèmes, tant pour vérifier l’âge de ses utilisateurs que pour restreindre l’accès des mineurs, seront évalués de près au fil des prochains mois et probablement modifiés en fonction des retours. Il faut dire qu’il ne s’agit pas seulement de bonne volonté de la part du créateur de ChatGPT. Suite au suicide d’un adolescent aidé par le chatbot, l’entreprise a été attaquée en justice et pourrait être forcée par les législateurs à mettre en place des contrôles plus stricts sur l’accès aux mineurs. La vérification de l’âge est d’ailleurs une conséquence très directe de cette affaire.
Après la mort d’un ado de 16 ans, OpenAI cherche des garde-fous efficaces sur fond de procès
Après le suicide d’un ado, ChatGPT annonce l’arrivée d’outils de contrôle parental
