Google veut permettre de facilement reconnaître une photo générée par IA et a pour cela lancé un nouvel outil baptisé SynthID. Cette technologie va incorporer un filigrane numérique directement dans les pixels d'une image, ce qui devrait le rendre imperceptible à l'œil nu tout en étant résistant aux logiciels de retouches (filtres, recadrage). Il pourra tout de même être repéré par un détecteur dédié permettant de s'assurer de l'authenticité d'un cliché.
La nouveauté a été incorporée à Imagen, l'équivalent de MidJourney et Stable Diffusion créé par Google et présenté l'année dernière. Le service est actuellement réservé aux utilisateurs de sa plateforme de création d'applications et de modèles d'IA Vertex AI dans Google Cloud. Si la portée de SynthID n'est donc pas très grande pour le moment, Google envisage de partager son outil à d'autres acteurs dans le futur.
La firme de Mountain View explique que sa technologie a beau être très avancée, elle n'est pas pour autant infaillible aux « manipulations extrêmes » des images. L'entreprise estime cependant qu'il s'agit d'un début prometteur, d'autant plus que l’outil pourrait être déployée à différents médiums comme l'audio, la vidéo ou le texte à l'avenir.
La question de la détection des contenus créée par IA n'est pas nouvelle, beaucoup craignant une prolifération des fakes news au fur et à mesure que les IA génératives se démocratisent. Plusieurs entreprises comme Microsoft ou Adobe travaillent sur un système de métadonnées permettant d'identifier une image. Différentes startup comme Imatag ou Steg.AI assurent que leur filigrane maison est très efficace. Une future législation européenne impose que les IA générant du contenu précisent qu'il s'agit de faux.
Si les intentions sont bonnes, un système réellement efficace nécessiterait que l'ensemble des acteurs se concerte et se mette d'accord sur l'utilisation d'un standard. Et vu la vitesse à laquelle la technologie et l'écosystème progressent depuis quelque temps, c'est loin d'être gagné.
Un système de filigrane comme SynthID se heurte également au mur de la communauté open source. Il est depuis longtemps possible de générer une image localement sur son ordinateur grâce à des outils libres comme Stable Diffusion. Or, le filigrane de Google ne fonctionne que pour les images créées via un service utilisant SynthID : même s'il venait à être proposé gratuitement, les créateurs amateurs pourraient très bien se contenter de l'ignorer.
