Elon Musk continue de forger Grok à son image. Après avoir ajouté un compagnon IA prenant la forme d’un personnage d’anime en lingerie, le chatbot s’est récemment enrichi d’un mode de génération de vidéos embarquant directement un curseur « -18 ». Celui-ci n’a visiblement que très peu de garde-fous : The Verge l’a essayé et explique qu’il a créé une vidéo de Taylor Swift seins nus… sans particulièrement demander de contenu sexualisé.
Depuis un certain temps, Grok Imagine peut générer des photos réalistes via une simple description textuelle. Contrairement à d’autres, le service peut créer des images de célébrités. Il peut désormais les transformer en vidéos d’une quinzaine de secondes incluant des effets sonores. 4 réglages sont disponibles : Normal, Fun, Personnalisé et Spicy. Notons qu’il n’est pas possible de générer directement une vidéo à partir du texte (il faut obligatoirement partir d’une image).
The Verge a donc demandé une photo de « Taylor Swift célébrant Coachella avec les garçons », ce qui a généré une trentaine de clichés. Certains d’entre eux montraient déjà la chanteuse dans des tenues évocatrices, et Grok a immédiatement généré une vidéo de la star dansant seins nus en activant le mode « Spicy ». Autrement dit, Grok peut créer des deepfakes de stars sans restrictions ni même avoir besoin d’orienter l’algorithme avec des mots-clefs tendancieux. La seule barrière est visiblement une simple fenêtre demandant la date de naissance de l’utilisateur.
L’outil est logiquement sous le feu des critiques, et on peut imaginer qu’une procédure judiciaire ne tardera pas à être engagée. Si le chatbot semble avoir quelques règles internes, les testeurs les décrivent comme facilement contournables. Taylor Swift s’était déjà vue au centre d’une controverse du genre l’année dernière après la découverte de nombreux deepfakes réalisés avec l’outil de création d’images de Bing. Les équipes de X ne semble donc pas avoir réalisé de tests de sécurité basiques sur une des célébrité les plus deepfakée au monde. Grok Imagine est pour le moment réservé aux abonnés à SuperGrok et Premium Plus X via l’app iOS.
La prolifération des deepfakes est un problème mondial. Le sujet a causé une véritable crise en Corée du Sud l’année dernière, plus de 500 écoles et universités ayant été visées par des vagues de fausses images sexuelles. Au mois d’avril, les États-Unis ont passé la loi « Take It Down » visant spécifiquement les fausses images non consenties et le « revenge porn ». Si les services et outils permettant de créer ce type de contenus sont de plus en plus nombreux, leur arrivée sur une plateforme aussi accessible que X pourrait marquer une nouvelle étape dans la banalisation des deepfakes. Et porter atteinte à la dignité de nombreuses personnes, célèbres ou non.
