Ça chauffe pour OpenAI : son bot conversationnel ChatGPT va être banni en Italie. Le régulateur estime en effet que le service ne respecte pas les réglementations locales en matière de données personnelles s'appuyant sur le RGPD européen, et a annoncé avoir ouvert une enquête. Il demande donc à OpenAI de cesser immédiatement de traiter les données des internautes italiens et impose un blocage du service dans le pays.
L'équivalent italien de la CNIL reproche à OpenAI de ne pas correctement informer ses utilisateurs quant à la récupération de leurs données. Il pointe le problème du fondement juridique sur lequel se base OpenAI pour récolter des données : l'entreprise utilise en effet les conversations et autres informations pour améliorer ses services, ce qui n'entre pas forcément dans une catégorie prédéfinie et complique la question.
Si ChatGPT est censé s'adresser à des personnes âgées de plus de 13 ans, le régulateur regrette également qu'aucune vérification de l'âge des utilisateurs ne soit faite. Selon le régulateur, cela pourrait « exposer des enfants à recevoir des réponses absolument inappropriées à leur âge et à leur sensibilité ».
Enfin, l'autorité rappelle qu'une fuite de données a touché l'entreprise le 20 mars dernier : certains utilisateurs ont eu accès aux titres des conversations d'autres personnes. Une petite partie des abonnés à ChatGPT Plus a pu voir son nom, mail, adresse et des morceaux de code de carte de crédit révélée. Ce bug a touché une minorité des clients (1,2 %) et a depuis été corrigé.
Le régulateur termine en expliquant qu'OpenAI a 20 jours pour présenter ses mesures en vue de corriger le tir. Faute de réponse concluante, elle s'expose à « une amende de 20 millions d'euros ou jusqu’à 4 % du chiffre d’affaires mondial annuel ». L'Italie n'est pas tendre avec les bots conversationnels : le mois dernier, elle a banni la plateforme de partenaires virtuels Replika pour des raisons similaires.
Cette décision fera-t-elle des émules ? La faille relevée par l'Italie relevant du RGPD, d'autres pays pourraient s'engouffrer dans la brèche. L'Union européenne réfléchit depuis quelque temps à mieux réguler ce type d'intelligence artificielle. Elle discute notamment l'Artificial Intelligence Act, qui vise à devenir un standard global sur le vieux continent.
