Si vous n’avez pas complètement abandonné Facebook, vous aurez sans doute remarqué une forte tendance dans votre fil d’actualité ces derniers temps : des images clickbait générées par IA. Celles-ci présentent souvent un enfant à côté d’une création (gâteau, sculpture) ou encore des panoramas bidon, le tout accompagné d’une légende incitant à commenter.
Les sujets de ces images sont divers, et j’ai vu passer pêle-mêle de fausses sculptures en sable ou en bois, des enfants créant des œuvres d’art à partir de détritus ou encore pas mal de contenus en lien avec Jésus. Certaines de ces images font un carton sur la plateforme étant donné que beaucoup de gens tombent dans le panneau : l’algorithme a alors tendance à les mettre en avant auprès d’un plus grand nombre d’utilisateurs.
Si cela peut faire sourire, ces spams sont mis en ligne par des pages louches publiant à la pelle. Cette stratégie leur permet d’obtenir facilement des pages Facebook suivies massivement, qu’ils peuvent ensuite rentabiliser par des procédés très limites. Certaines publications incluent par exemple un lien vers des sites web bardés de publicités, tandis que d’autres redirigent vers différentes arnaques.
La technique ne s’arrête pas à Facebook et commence doucement à arriver sur LinkedIn. 404 Media note que certaines images similaires sont récemment devenues virales sur le réseau professionnel, bien que les réactions soient pour le moment beaucoup plus mitigées. Si certains membres reconnaissent tout de suite la présence d’IA, d’autres se font avoir par ces spams pour le moins étranges.
Le phénomène est intéressant à observer alors qu’OpenAI s’apprête à lancer Sora, un générateur de vidéos qui pourra facilement tromper plus d’un internaute. Meta et Microsoft investissent des milliards dans les IA génératives, une technologie utilisée pour spammer leurs propres plateformes. En début d’année, Meta avait promis des outils de détection de fausses images, qui se font toujours attendre.
