Google n’a pas abandonné SynthID, son système de filigrane invisible permettant de rendre facilement détectables les contenus générés par IA. L’entreprise vient de lancer un portail permettant d’identifier les fausses images sur lequel il a été accolé, mais aussi les vidéos ou pistes audio créées avec les services de Google.
Le fonctionnement est assez simple : l’outil va analyser le contenu à la recherche du filigrane avant de mettre en évidence les endroits les plus susceptibles d’avoir été générés par IA. Google indique que plus de 10 milliards de contenus ont déjà été marqués par SynthID. L’annonce est faite alors que l’entreprise vient de déployer une grosse mise à jour pour Imagen et Veo, ses modèles de génération d’images et de vidéos.
Veo, Imagen : Google améliore ses outils de générations d’images et de vidéos
On notera que ce SynthID Detector fonctionne également avec du texte. OpenAI avait tenté de lancer un système de détection similaire, mais s’était pris les pieds dans le tapis. Son outil a été enterré en quelques mois à cause de son faible taux de précision. On attendra de voir si Google fait mieux, la plateforme étant pour le moment en bêta auprès de quelques testeurs. Elle sera proposée à un plus grand nombre par la suite.
Google n’est pas la seule à avoir eu l’idée d’accoler un filigrane invisible à ses contenus IA. L’association Content Authenticity Initiative initiée par Adobe propose les Content Credentials, des métadonnées permettant de tracer l’authenticité d’un cliché. Le système a déjà été intégré dans certains logiciels comme Lightroom ou Photoshop. Si l’idée est bonne, elle reste malgré tout inefficace contre les créations de systèmes open source installés localement comme Stable Diffusion.
