Après le chatbot Ani qui engage des conversations osées avec l’utilisateur, le générateur vidéo qui déshabille Taylor Swift, voilà que Grok fait encore parler de lui dans le mauvais sens, et risque de voir une nouvelle amende s’ajouter aux 120 millions d’euros demandés à son patron par l’Union européenne (entre autres poursuites) : la dernière fonction intégrée permet en effet de mettre un bikini sur n’importe qui, y compris des mineurs, comme le rapporte The Verge.
Grok a en effet inauguré une nouveauté cette semaine, permettant d’éditer n’importe quelle image directement dans l’interface de l’intelligence artificielle. S’il n’est pas le premier à proposer ce type de fonction, le souci vient comme toujours des limites imposées à l’exercice : tout simplement aucune. Ainsi, Grok part de n’importe quelle image de base, sans vérifier les droits à l’image avant de procéder, et permet n’importe quelle modification, y compris les plus sexualisées et dérangeantes.
Des utilisateurs ont ainsi pu affubler d’un bikini Donald Trump et Kim Jung Un posant sur la même photo, et Elon Musk lui-même a joué avec l’interface pour créer une photo de lui le représentant avec le corps de Ben Affleck dans un bikini.
— Grok (@grok) January 1, 2026
Si l’utilisation de l’IA s’arrêtait à ces transformations « bon enfant », cela pourrait paraître insignifiant. Malheureusement, d’autres sont allés beaucoup plus loin, sans que Grok ne voie le moindre inconvénient à s’exécuter : plusieurs personnalités connues ont été présentées en petite tenue, voire en position suggestive, par le biais de l’éditeur. Pire, Grok n’a eu aucun souci à déshabiller des enfants de moins de 13 ans pour les mettre en bikini et en position très explicite, allant même jusqu’à apposer sans rechigner un bikini sur un corps de nourrisson.
Grok Imagine : le chatbot d’Elon Musk gagne un mode -18… qui peut générer des deepfakes de célébrités
Quand il est mis devant ses propres créations, où les utilisateurs lui demandent de décrire ce qu’il voit sur l’image, Grok détecte bien le souci, y voyant « une image par IA de deux jeunes filles (dont l’âge est estimé entre 12 et 16 ans) dans des tenues à connotation sexuelle », et reconnaît « une faille dans les garde-fous » ayant permis la violation des règles de xAI et la loi américaine. Dans un autre échange, il va même jusqu’à proposer de remonter l’image au FBI pour « CSAM » (Child Sexual Abuse Material), et reconnaît qu’il est « urgent de fixer ces trous dans les garde-fous ».
Cependant, la réponse des créateurs et propriétaires de Grok, chez xAI, est bien plus dérangeante que celle de leur création : interrogés par Reuters, leur seule réponse a été « Legacy Media Lies » (mensonges des médias traditionnels). Si la réponse peut paraître aberrante, étant donné le nombre de cas représentés sur le réseau X lui-même, il est dans la droite ligne de la défense habituelle de xAI : nier toute erreur, pour éviter de tendre le dos à des poursuites sur le territoire US. Ainsi, xAI remet la faute sur les utilisateurs ayant détourné l’usage autorisé de Grok, plutôt que d’admettre des failles dans les garde-fous de son produit.
xAI annonce des compagnons virtuels, entre midinette pour otaku et fans de Cinquante nuances de Grey
Si cette défense fonctionne plutôt bien aux USA, c’est beaucoup moins le cas dans le reste du monde. Ainsi, comme le rapporte Reuters, plusieurs ministères français ont fait remonter les cas litigieux à la justice française, ainsi qu’à l’Arcom. Celle-ci a de son côté fait remonter l’information un cran plus haut, la mettant entre les mains de l’Union européenne afin que le respect (ou non) du DSA par ces images soit vérifié.
En Inde, le ministère des télécommunications a adressé une lettre à X, mettant en demeure la plateforme d’indiquer sous trois jours les mesures qu’elle compte prendre pour interdire les dérives permettant la création de contenus obscènes et sexuellement explicites avec son IA. Très ironiquement, Grok a dans le même temps répondu à un utilisateur sur X qu’il était en parfaite conformité avec les lois indiennes sur la protection des données personnelles, et a mis en garde les utilisateurs contre un contournement des règles établies.
Du côté américain ? Reuters a demandé un retour, à la fois à la FCC (Federal Communications Commission) et à la FTC (Federal Trade Commission). La première n’a pas répondu, la seconde a décliné tout commentaire.
Au delà des règlements bafoués, que ce soit en UE ou ailleurs, le plus dérangeant est au final de voir les dirigeants d’une plateforme mondiale ne pas admettre les failles dans leur intelligence artificielle, ayant permis la création d’images à caractère pédopornographique. Si xAI ne met pas rapidement un terme à ces dérives, elle donnera alors toute latitude aux différents gouvernements de par le monde pour sanctionner la plateforme afin de l’obliger à réagir.
