Ouvrir le menu principal

MacGeneration

Recherche

SynthID : un filigrane de Google pour détecter les images générées par IA

Félix Cattafesta

mardi 05 septembre 2023 à 14:00 • 6

Services

Google veut permettre de facilement reconnaître une photo générée par IA et a pour cela lancé un nouvel outil baptisé SynthID. Cette technologie va incorporer un filigrane numérique directement dans les pixels d'une image, ce qui devrait le rendre imperceptible à l'œil nu tout en étant résistant aux logiciels de retouches (filtres, recadrage). Il pourra tout de même être repéré par un détecteur dédié permettant de s'assurer de l'authenticité d'un cliché.

La nouveauté a été incorporée à Imagen, l'équivalent de MidJourney et Stable Diffusion créé par Google et présenté l'année dernière. Le service est actuellement réservé aux utilisateurs de sa plateforme de création d'applications et de modèles d'IA Vertex AI dans Google Cloud. Si la portée de SynthID n'est donc pas très grande pour le moment, Google envisage de partager son outil à d'autres acteurs dans le futur.

La firme de Mountain View explique que sa technologie a beau être très avancée, elle n'est pas pour autant infaillible aux « manipulations extrêmes » des images. L'entreprise estime cependant qu'il s'agit d'un début prometteur, d'autant plus que l’outil pourrait être déployée à différents médiums comme l'audio, la vidéo ou le texte à l'avenir.

Il n'y a pas de différence entre les images avec et sans filigrane. Image : Google.

La question de la détection des contenus créée par IA n'est pas nouvelle, beaucoup craignant une prolifération des fakes news au fur et à mesure que les IA génératives se démocratisent. Plusieurs entreprises comme Microsoft ou Adobe travaillent sur un système de métadonnées permettant d'identifier une image. Différentes startup comme Imatag ou Steg.AI assurent que leur filigrane maison est très efficace. Une future législation européenne impose que les IA générant du contenu précisent qu'il s'agit de faux.

Si les intentions sont bonnes, un système réellement efficace nécessiterait que l'ensemble des acteurs se concerte et se mette d'accord sur l'utilisation d'un standard. Et vu la vitesse à laquelle la technologie et l'écosystème progressent depuis quelque temps, c'est loin d'être gagné.

Un système de filigrane comme SynthID se heurte également au mur de la communauté open source. Il est depuis longtemps possible de générer une image localement sur son ordinateur grâce à des outils libres comme Stable Diffusion. Or, le filigrane de Google ne fonctionne que pour les images créées via un service utilisant SynthID : même s'il venait à être proposé gratuitement, les créateurs amateurs pourraient très bien se contenter de l'ignorer.

Rejoignez le Club iGen

Soutenez le travail d'une rédaction indépendante.

Rejoignez la plus grande communauté Apple francophone !

S'abonner

De nouveaux problèmes de compatibilités entre macOS Sequoia et Microsoft Exchange ?

15:00

• 1


Sosh : le forfait 20 Go en Série limitée va augmenter sauf refus de votre part

12:40

• 40


Western Digital divorce de SanDisk (et veut fabriquer des disques de 100 To)

11:00

• 17


Arm vendrait son premier processeur clé en main à Meta

10:07

• 2


Incogni : on l'a testé, notre bilan après 12 mois d'utilisation 📍

09:55


Spotify lancerait en 2025 une option payante pour les super fans de musique

09:32

• 24


Des écrans, mais surtout des robots humanoïdes. Futur joyeux ou apocalyptique ? La semaine de Gurman

16/02/2025 à 20:30

• 31


Promo : le MacBook Air M3 16 Go à 1099 € (+ une cagnotte de 109 € chez Leclerc)

16/02/2025 à 18:16

• 20


Easter Egg : quand Apple cache des petites blagues dans ses produits

16/02/2025 à 10:00

• 17


Plans commence à rebaptiser le Golfe du Mexique 🆕

16/02/2025 à 09:45

• 166


Avec visionOS 2.4, le Vision Pro devrait s'ouvrir à Apple Intelligence

16/02/2025 à 09:01

• 23


DockKit, la technologie Apple dont vous ignorez probablement l'existence, s'améliore encore

15/02/2025 à 12:37

• 12


Sortie de veille : le premier produit Apple de l’année fait-il battre notre cœur ?

15/02/2025 à 08:00

• 12


iPhone SE 4 : les chiffres de vente devraient cartonner, selon Ming Chi-Kuo

15/02/2025 à 07:30

• 52


Le site gouvernemental DOGE.gov monté à l’arrache... et piraté en quelques heures

14/02/2025 à 20:30

• 226


Severance : comment imprimer en 3D son PC Lumon Industries

14/02/2025 à 16:23

• 9