Grok a suscité cette semaine l’indignation générale : le tchatbot d’Elon Musk a gagné la possibilité de modifier les photos publiées sur X, et tout cela sans véritables garde-fous. Des internautes se sont alors empressés de générer des images dégradantes de stars et de femmes, quand d’autres ont carrément été jusqu’à déshabiller des images de mineurs. Face à la gronde, xAI vient de limiter les capacités photos de son modèle à ses abonnés payants sur X.
La limitation ne concerne que le réseau social X (anciennement Twitter). Les utilisateurs passant par l’application dédiée Grok peuvent toujours générer des images gratuitement et sans compte avec une limite quotidienne. Les images créées via celle-ci ne sont pas partagées publiquement, et Wired a révélé qu’un bon paquet était beaucoup plus explicite que celles trouvées sur X.
Faute de garde-fous, Grok dérive et génère des images sexuellement explicites sans aucune limite
Comme l’ont relevé plusieurs médias, Grok a été utilisé pour générer des milliers d'images de personnes dénudées par heure, évidemment sans demander de consentement. Les images à connotation sexuelles auraient représenté la moitié des clichés générés pendant les fêtes. La démarche était assez simple : il suffisait de répondre à un post comportant une photo en demandant à Grok de « la mettre en bikini » (l’IA acceptant même de créer des maillots de bain ornés de croix gammées). La plateforme a rapidement été utilisée pour détourner des images de personnes mineures et des vidéos de femmes se faisant violenter.
Face à tout cela, Bruxelles a ouvert une enquête et prononcé une « ordonnance de conservation ». Thomas Regnier, porte-parole de l’exécutif européen chargé de la souveraineté technologique, a annoncé sur LinkedIn avoir « ordonné à X de conserver tous les documents et données internes relatifs aux fonctionnalités de Grok jusqu'à la fin de l'année 2026 ». L’idée est de s’assurer que des documents compromettants resteront accessibles pendant l’enquête.
De son côté, l’organisme désigné par le gouvernement britannique pour identifier les contenus pédopornographiques a affirmé avoir trouvé sur le dark web des images « criminelles » qui auraient été générées par Grok. Le Premier ministre britannique Keir Starmer a déclaré que l'autorité de régulation britannique Ofcom bénéficiait du « soutien total du gouvernement pour prendre des mesures ».
