Depuis décembre 2025 la Chine préparait une réglementation en la matière, et c’est ce mois-ci que les premiers effets concrets apparaissent : le gouvernement chinois est en guerre contre les intelligences artificielles un peu trop addictives, et les concernées devront plier sans discuter, comme le rapporte le South China Morning Post.
Alors que les « grandes start-ups » de l’IA commencent à peine à réfléchir au sujet, avec des ajustements du comportement de leurs chatbots, la Chine a comme souvent pris les choses dans l’autre sens : c’est le gouvernement qui régule, et les entreprises n’ont pas d’autre choix que de s’y conformer, sans discussion. Il faut dire qu’au fil du temps, certains comportements devenaient inquiétants dans l’Empire du Milieu : certains citoyens chinois devenaient accrocs aux « AI Girlfriends », et sans aller jusque là, un grand nombre d’utilisateurs commençaient à préférer les relations humain/IA plutôt que d’aller voir des interlocuteurs en chair et en os.
Cette attirance, si elle paraît anodine de premier abord, peut poser de nombreux soucis : dans un premier temps, elle réduit les interactions humaines, enfermant l’utilisateur dans une conversation unique avec l’IA, menant à un isolement social. Ensuite, des problèmes de confidentialité se posent au fur et a mesure que la conversation avance : l’utilisateur, en confiance, livre de plus en plus sa vie privée à l’IA, et ces secrets pourraient être utilisés soit par une société malveillante, soit par un piratage des serveurs.
Le gouvernement chinois a donc décidé de mettre un terme à ce risque. Plutôt qu’une demie-mesure, la conclusion est radicale :
- Interdiction de favoriser une dépendance émotionnelle : les services ne doivent pas concevoir leur IA de façon à pousser l’utilisateur à développer une relation affective excessive ou à prolonger artificiellement les conversations.
- Les IA doivent rappeler qu’elles ne sont pas humaines : les utilisateurs doivent être clairement informés qu’ils dialoguent avec une IA, et des rappels supplémentaires sont prévus lorsqu’un usage excessif est détecté.
- Restriction pour les mineurs : les compagnons virtuels sont très encadrés, avec un contrôle parental, des limitations du temps d’utilisation et une interdiction de certaines formes de relations simulées.
- Détection des situations à risque : les fournisseurs devront surveiller les signes de dépendance, de détresse psychologique ou de comportements dangereux et intervenir.
Si la conséquence la plus visible vu de l’occident, amenant un petit sourire, est la disparition dans les jours à venir des « AI Girlfriends », avec quelques utilisateurs sûrement inconsolables, il y a d’autres retombées plus larges à ces décisions : que ce soit au format texte, et surtout en version vocale, une intelligence artificielle entrant dans le champ de cette réglementation devra systématiquement s’annoncer comme telle au début d’une conversation. Voilà qui donnerait des idées en France au vu du nombre d’appels téléphoniques où une IA a pris la place du démarcheur en chair et en os…
Les grandes entreprises locales ont déjà commencé à appliquer les nouvelles règles : ByteDance supprimera les compagnons et personas IA de Doubao d’ici au 15 juillet, Alibaba suivra le mouvement avec Qwen et Tencent, de son côté, a déjà commencé à supprimer ces bots un peu trop amicaux au goût du gouvernement de Xi Jinping.
Reste que la Chine a, par cette réglementation, tiré la première sur un sujet qui devrait rapidement prendre une place conséquente dans le monde entier : comment réguler l’IA sur le plan émotionnel ? Doit-on laisser les utilisateurs s’enfermer dans une relation avec une intelligence artificielle, ou doit-on mettre des limites claires et précises pour éviter ces situations ? La question est posée… reste à trouver la réponse adéquate dans chaque pays.
