Le Minnesota a récemment adopté une loi interdisant la mise à disposition de logiciels ou d’intelligences artificielles permettant la création de deep-fakes mettant en scène la nudité de personnes à l’encontre de leur volonté. Si la loi part du bon sens, xAI a décidé de déposer un recours contre celle-ci, comme le rapporte The Verge.
Il y a quelques mois, xAI avec son IA Grok a déclenché une vague d’indignation mondiale, avec sa nouvelle fonction permettant de créer des images à caractère sexuel, voire pornographique. Le fait de pouvoir produire des contenus dénudant des personnes sans leur consentement est déjà en soi un problème, mais l’IA avait passé un niveau supérieur en laissant l’utilisateur créer des images de ce type avec des mineurs.
Les cas étaient nombreux, comme le montre une étude du Center for Countering Digital Hate ayant analysé onze jours d’activité sur Grok, du 29 décembre au 8 janvier. Le résultat est impressionnant : plus de 3 millions d’images à caractère sexuel ont été créées, dont 23 000 mettant en scène des mineurs. Si certaines représentaient des mineurs en bikini, d’autres allaient beaucoup plus loin (vous nous permettrez de ne pas rentrer plus avant dans les détails). Au final, l’organisme en est arrivé à compter qu’une image de mineur dans une position explicite était créée toutes les 41 secondes.
Si certaines, bien que malaisantes, restaient dans les clous des lois américaines, d’autres dépassaient largement ce cadre. Pourtant, les États-Unis ont déjà une loi nationale faite pour protéger les personnes, mineurs inclus : le « Take it down Act ». Cependant, sa mise en application semble tellement complexe que ce texte ne semble pas avoir permis d’agir efficacement contre les images produites par Grok, et c’est seulement suite à la fronde internationale que xAI a fini par réagir et implémenter des limites strictes dans son système. Ce qui n’a pas empêché Elon Musk de se satisfaire de l’engouement créé par cette fonction controversée, ayant permis à l’app attenante de devenir un hit mondial en quelques semaines en pleine polémique :
Grok now hitting #1 on the App Store in one country after another!
— Elon Musk (@elonmusk) January 3, 2026
It’s the only AI with up-to-the-second information. https://t.co/dH5Zi6O8OD
C’est pourtant sur cette loi que se base xAI pour signifier dans son recours que des lois existent déjà dans le pays pour interdire ce genre de comportement. Selon l’entreprise, la loi que le Minnesota veut faire entrer en application au 1er aout est si radicale qu’elle va « à l’encontre du 1er amendement ». L’entreprise indique même avoir « mis en place un système de contrôle presque parfait, à la pointe de la technologie pour prévenir la génération d’images mettant en scène la nudité ».
Faute de garde-fous, Grok dérive et génère des images sexuellement explicites sans aucune limite
Cependant, le timing est surprenant : pourquoi avoir attendu aussi longtemps pour déposer un recours, à la toute dernière minute avant l’entrée en vigueur de la loi, alors qu’elle avait été validée depuis plusieurs mois ? A-t-il quelque chose à voir avec le fait que xAI a poursuivi pour la première fois un auteur de tels clichés devant la justice ? La coïncidence est frappante, le recours ayant été déposé quelques jours à peine après la révélation de cette plainte, permettant ainsi aux avocats de xAI d’avoir un exemple concret de leur lutte contre ce type d’actes répréhensibles.
Cette nouvelle loi ne fait certes pas dans le détail : elle interdit la mise à disposition de tout logiciel permettant de créer des images représentant des personnes sexualisées, que ce soit pour des intentions manifestement mauvaises, ou simplement pour une représentation humoristique. xAI donne ainsi l’exemple d’une photo représentant deux personnages politiques américains en lutteurs sumo, qui tomberait sous le coup de la loi. Cette dernière permet à quiconque se sentant lésé de porter plainte, mais aussi au procureur de l’État de se saisir et prononcer des peines allant jusqu’à 500 000 dollars d’amende par violation.
Selon xAI, la rédaction est suffisamment large pour pouvoir englober des détournements humoristiques ou satiriques, et pas uniquement des deepfakes pornographiques. Le débat est donc posé : vaut-il mieux une loi difficile à appliquer, quitte à laisser passer certains abus, ou un texte suffisamment large pour risquer d’emporter aussi des usages satiriques ou humoristiques ? La justice devra trancher… quitte à mettre à nu sa réflexion.
